【大模型实战篇】利用TensorRT LLM部署及推理大模型实战(bloom560m、chatglm-6b等大模型)

相关推荐
德林恩宝2 小时前
On-Policy Distillation(OPD)学习文档
人工智能·学习·机器学习·大模型·llm·大模型微调
猫头_2 小时前
AI 流式传输工程指南:模型吐出半截 JSON,前端如何边收边渲染?
前端·javascript·llm
方方洛4 小时前
ai-agent教程-14-附录A-术语表
人工智能·llm·agent
用户3134672143545 小时前
learn-claude-code笔记4: Hooks — 挂在循环上,不写进循环里
llm·agent
程序员大狐狸5 小时前
Ultra X7 358H 笔记本电脑,本地三个大模型接入 DeepSeek Harness 桌面版的过程与方法
人工智能·llm
草上飞95275 小时前
零知识证明能证明算对了,却证明不了没看见
人工智能·深度学习·llm
lucas_AI5 小时前
Agent 工具箱越大越难选?Tracer 砍掉八成工具 schema,选得反而更准
llm·agent
用户460381291945 小时前
Function Calling 选对了工具,却总在参数上翻车?从 JSON Mode 到 Structured Outputs 一次讲透
llm
自养Agent5 小时前
Agent Harness 从用到会造:大厂 RAG 为什么从不只用向量检索
人工智能·llm
学IT的周星星6 小时前
记忆系统:让 Agent 记住你是谁、上次聊到哪
运维·服务器·人工智能·windows·大模型·llm·agent