千问模型本地部署

重点:python环境python3.10.14

大模型下载网站: ModelScope 魔搭社区

随便找一个模型页:

https://www.modelscope.cn/models/Qwen/Qwen3-0.6B

下载模型:

例子

运行报错与修复

缺少环境,安装torch modelscope transformers

pip install torch modelscope transformers -i https://pypi.tuna.tsinghua.edu.cn/simple

pip install accelerate -i https://mirrors.tencent.com/pypi/simple

正确运行:

相关推荐
mingo_敏3 小时前
DeepAgents : 权限(Permissions)
人工智能·深度学习·langchain
江畔柳前堤3 小时前
信号的本质——从模拟波形到AI中的数据张量
人工智能·深度学习·机器学习·计算机视觉·数据挖掘·语音识别
HyperAI超神经4 小时前
15亿参数挑战机器人控制,MiniCPM-RobotManip正式开源;覆盖文本/图/视频/动作序列,英伟达发布全模态模型Cosmos3-Edge
人工智能·深度学习·机器人·多模态·图像生成·具身智能·智能体
江畔柳前堤4 小时前
系统的本质——从LTI系统到神经网络
人工智能·深度学习·神经网络·机器学习·计算机视觉·数据挖掘·语音识别
sponge'8 小时前
《以场景为中心的无监督视频全景分割》论文框架讲解
人工智能·深度学习
2501_926978338 小时前
提示工程的实战报告(二):模型的失败模式与边界行为
人工智能·深度学习·算法
大鱼>12 小时前
因子挖掘+回测+RL交易:量化金融完整系统
人工智能·深度学习·算法·金融
孪生质数-13 小时前
AI 应用实践篇——让大模型真正开始工作
linux·运维·服务器·人工智能·深度学习·语言模型·llama
cout<<jester13 小时前
人脸情绪识别模型
人工智能·深度学习·计算机视觉
<-->13 小时前
Megatron-LM 深度学习与源码分析文档
人工智能·深度学习