【大模型实战篇】利用TensorRT LLM部署及推理大模型实战(bloom560m、chatglm-6b等大模型)

相关推荐
人工干智能8 小时前
LlamaIndex:使用向量数据库进行检索,loaded_query_engine.query(“..........?“)
数据库·llm
DO_Community1 天前
DigitalOcean携手Persistent达成战略合作,让 AI 更亲民、更易扩展
大数据·人工智能·ai·llm·区块链
南麟剑首1 天前
LLM模型开发教程(六)模型训练的数据集获取与清洗
ai·llm·数据集·数据清洗·大模型开发·模型训练
暴风鱼划水1 天前
大型语言模型(入门篇)C
python·语言模型·大模型·llm
xiao5kou4chang6kai41 天前
只是把AI当作一个更聪明的搜索工具??如何用大语言模型高效整合信息并把研究想法快速转化为可发表成果
人工智能·自然语言处理·llm·大语言模型·n8n自动化
CoderJia程序员甲2 天前
GitHub 热榜项目 - 日榜(2026-01-20)
开源·大模型·llm·github·ai教程
程序员柒叔2 天前
Dify 集成-文档处理
大模型·llm·prompt·dify
audyxiao0012 天前
AAAI 2025论文分享|Agent4Edu:基于大语言模型生成式智能体的个性化学习模拟器
llm·aaai·智能体·智慧教育·个性化学习
CoderJia程序员甲3 天前
GitHub 热榜项目 - 日榜(2026-01-19)
git·ai·开源·llm·github
DO_Community3 天前
技术解码:Character.ai 如何实现大模型实时推理性能 2 倍提升
人工智能·算法·llm·aigc·moe·aiter