千问模型本地部署

重点:python环境python3.10.14

大模型下载网站: ModelScope 魔搭社区

随便找一个模型页:

https://www.modelscope.cn/models/Qwen/Qwen3-0.6B

下载模型:

例子

运行报错与修复

缺少环境,安装torch modelscope transformers

pip install torch modelscope transformers -i https://pypi.tuna.tsinghua.edu.cn/simple

pip install accelerate -i https://mirrors.tencent.com/pypi/simple

正确运行:

相关推荐
承渊政道2 小时前
Prompt工程:连接大语言模型能力与真实应用的关键桥梁
人工智能·深度学习·语言模型·自然语言处理·chatgpt·prompt·transformer
思绪无限11 小时前
YOLOv5至YOLOv12升级:植物叶片病害识别系统的设计与实现(完整代码+界面+数据集项目)
深度学习·yolo·目标检测·yolov12·yolo全家桶·植物叶片病害检测
白羊by11 小时前
YOLOv1~v11 全版本核心演进总览
深度学习·算法·yolo
lanker就是懒蛋11 小时前
深度学习Q&A:手写反向传播与OOM排查的深层逻辑
人工智能·深度学习
STLearner12 小时前
WSDM 2026 | 时间序列(Time Series)论文总结【预测,表示学习,因果】
大数据·论文阅读·人工智能·深度学习·学习·机器学习·数据挖掘
STLearner12 小时前
WSDM 2026 | 时空数据(Spatial Temporal)论文总结
人工智能·python·深度学习·机器学习·数据挖掘·智慧城市·推荐算法
空中湖12 小时前
大模型修炼秘籍 第十二章:人师指路——RLHF之精髓
人工智能·深度学习·transformer
QQ6765800815 小时前
智慧工厂之扬尘识别 铲车装载识别 工程重型机械识别 磁铁识别 深度学习YOLO格式图像识别第10435期
人工智能·深度学习·yolo·扬尘识别·铲车装载·工程重型机械·磁铁识别
思绪无限16 小时前
YOLOv5至YOLOv12升级:行人跌倒检测系统的设计与实现(完整代码+界面+数据集项目)
深度学习·yolo·目标检测·yolov12·yolo全家桶·行人跌倒检测系统