大模型16:大模型部署ChatGLM-6B

ChatGLM-6B 是一个开源的、支持中英双语的对话语言模型,基于 General Language Model (GLM) 架构,具有 62 亿参数。结合模型量化技术,用户可以在消费级的显卡上进行本地部署(INT4 量化级别下最低只需 6GB 显存)。 ChatGLM-6B 使用了和 ChatGPT 相似的技术,针对中文问答和对话进行了优化。经过约 1T 标识符的中英双语训练,辅以监督微调、反馈自助、人类反馈强化学习等技术的加持,62 亿参数的 ChatGLM-6B 已经能生成相当符合人类偏好的回答。

复制代码
git clone https://github.com/THUDM/ChatGLM-6B.git
相关推荐
Ai野生菌1 天前
工具介绍 | SafeLLMDeploy教程来了 保护本地LLM安全部署
网络·人工智能·安全·大模型·llm
a里啊里啊1 天前
AI提示词收集(持续更新)
ai·大模型·prompt·开发·提示词
未来智慧谷2 天前
DeepSeek大模型在政务服务领域的应用
大模型·政务·deepseek
kcarly2 天前
DeepSeek 都开源了哪些技术?
开源·大模型·llm·deepseek
狂奔solar2 天前
Minimind 训练一个自己专属语言模型
大模型·minimind
王亭_6662 天前
Ollama+open-webui搭建私有本地大模型详细教程
人工智能·大模型·ollama·openwebui·deepseek
开始学AI2 天前
【Windows+Cursor】从0到1配置Arxiv MCP Server,实现论文自主查询、下载、分析、综述生成
语言模型·大模型·ai agent·mcp
Mr.zwX2 天前
【完整版】DeepSeek-R1大模型学习笔记(架构、训练、Infra、复现代码)
大模型·deepseek
禁默2 天前
智能体开发基础:从概念到实现
人工智能·大模型·智能体
青花瓷3 天前
智谱大模型(ChatGLM3)PyCharm的调试指南
人工智能·python·大模型·智谱大模型