千问模型本地部署

重点:python环境python3.10.14

大模型下载网站: ModelScope 魔搭社区

随便找一个模型页:

https://www.modelscope.cn/models/Qwen/Qwen3-0.6B

下载模型:

例子

运行报错与修复

缺少环境,安装torch modelscope transformers

pip install torch modelscope transformers -i https://pypi.tuna.tsinghua.edu.cn/simple

pip install accelerate -i https://mirrors.tencent.com/pypi/simple

正确运行:

相关推荐
萑澈6 小时前
编程能力强和多模态模型的模型后训练
人工智能·深度学习·机器学习
LaughingZhu6 小时前
Product Hunt 每日热榜 | 2026-05-08
人工智能·经验分享·深度学习·神经网络·产品运营
Honey Ro12 小时前
深度学习中的参数更新方法
深度学习·神经网络·自然语言处理·cnn
nap-joker12 小时前
阿尔茨海默病分期早期检测的多模式深度学习模型
人工智能·深度学习·adni
赵药师13 小时前
Cityscape数据集转YOLO
人工智能·深度学习·yolo
o_insist13 小时前
多层感知机判断氨基酸亲疏水性(PyTorch版)
人工智能·深度学习·机器学习
星光技术人15 小时前
投机采样 Speculative Decoding 核心笔记
人工智能·笔记·深度学习·计算机视觉·语言模型·自动驾驶
倔强的胖蚂蚁15 小时前
Transformer 大模型原理 完整入门指南
人工智能·深度学习·云原生·transformer
动物园猫16 小时前
火焰与烟雾目标检测数据集分享(适用于YOLO系列深度学习分类检测任务)
深度学习·yolo·目标检测
动物园猫17 小时前
驾驶中的疲劳状态识别数据集分享(适用于YOLO系列深度学习分类检测任务)
深度学习·yolo·分类