大模型-modelscope下载和使用chatglm3-6b模型

前言

由于官方chatglm3-6b大模型文件下载比较慢,找到国内modelscope代替方案

1.SDK下载

复制代码
pip install modelscope

2.下载大模型文件

✅方法1:通过pip下载

1.安装 setuptools

在当前使用的 Python 环境中安装 setuptools

复制代码
pip install setuptools

2.通过如下命令安装ModelScope

复制代码
pip install modelscope

3.下载完整模型库

文件特别大,一定要通过 --local_dir 指定下载目录

复制代码
modelscope download --model ZhipuAI/chatglm3-6b  --local_dir  'path/to/dir'

🔍其他

🧩下载单个文件到指定本地文件夹(以下载README.md到当前路径下"dir"目录为例)

复制代码
modelscope download --model ZhipuAI/chatglm3-6b README.md --local_dir ./dir

✅方法2:Git下载

1.请确保 lfs 已经被正确安装

复制代码
git lfs install

2.拉取大模型文件

复制代码
git clone https://www.modelscope.cn/ZhipuAI/chatglm3-6b.git

如果您希望跳过 lfs 大文件下载,可以使用如下命令

复制代码
GIT_LFS_SKIP_SMUDGE=1 git clone https://www.modelscope.cn/ZhipuAI/chatglm3-6b.git

✅方法3: SDK下载

复制代码
#模型下载
from modelscope import snapshot_download
model_dir = snapshot_download('ZhipuAI/chatglm3-6b')
相关推荐
守城小轩1 小时前
从零开始学习Dify-数据库数据可视化(五)
ai·ai客服·ai浏览器
胡耀超3 小时前
我们如何写好提示词、发挥LLM能力、写作指南:从认知分析到动态构建的思维方法
人工智能·python·学习·大模型·llm·提示词·八要素思维
YXWik610 小时前
Linux(centos7)安装 docker + ollama+ deepseek-r1:7b + Open WebUI(内含一键安装脚本)
linux·docker·ai
charlee4415 小时前
行业思考:不是前端不行,是只会前端不行
前端·ai
文浩(楠搏万)15 小时前
XTTS实现语音克隆:精确控制音频格式与生成流程【TTS的实战指南】
大模型·tts·克隆·语音·声音克隆·音色·xtts
豌豆花下猫17 小时前
Python 潮流周刊#112:欢迎 AI 时代的编程新人
后端·python·ai
鹿先森AI探索之路17 小时前
本地部署Dify教程
人工智能·docker·ai
您的通讯录好友18 小时前
TechGPT2部署
linux·人工智能·python·大模型·techgpt
连合机器人1 天前
酷暑来袭,科技如何让城市清凉又洁净?
人工智能·ai·有鹿机器人·连合直租·智能清洁专家
之之为知知1 天前
Chromadb 1.0.15 索引全解析:从原理到实战的向量检索优化指南
人工智能·深度学习·机器学习·大模型·索引·向量数据库·chromadb