千问模型本地部署

重点:python环境python3.10.14

大模型下载网站: ModelScope 魔搭社区

随便找一个模型页:

https://www.modelscope.cn/models/Qwen/Qwen3-0.6B

下载模型:

例子

运行报错与修复

缺少环境,安装torch modelscope transformers

pip install torch modelscope transformers -i https://pypi.tuna.tsinghua.edu.cn/simple

pip install accelerate -i https://mirrors.tencent.com/pypi/simple

正确运行:

相关推荐
YOLO_DATA3 小时前
YOLO27防震锤缺陷检测数据集 防震锤数据集 1000张 防震锤 带标注 voc yolo 2 类 目标检测
人工智能·深度学习·yolo·目标检测·计算机视觉·数据集·无人机
Light Gao4 小时前
RNN 原理、架构与一次完整手算
人工智能·rnn·深度学习·神经网络·embedding
weixin_438338514 小时前
CUDA 安装理解
人工智能·深度学习
LaughingZhu4 小时前
Product Hunt 每日热榜 | 2026-10-01
数据库·人工智能·深度学习·神经网络·搜索引擎
I Am a robert girl4 小时前
从一张图到碎裂瞬间:FracGen 如何用物理信号“导演“物体撕裂
人工智能·深度学习·计算机视觉·生成模型·视频生成·物理仿真·断裂模拟
richard_yuu5 小时前
Haykin 精讲终篇:从感知器到深度学习——一部神经网络的「进化史」
人工智能·深度学习·神经网络
渡我白衣7 小时前
深入理解 Transformer:Decoder与Masked_Attention
linux·服务器·网络·c++·人工智能·深度学习·transformer
魔猴疯猿15 小时前
从0到1用Python开发第一个智能体
人工智能·python·深度学习·神经网络·机器学习
头发够用的程序员20 小时前
TensorRT 自定义算子插件实战(一):从零手写 customScaledTanh
c++·人工智能·pytorch·python·深度学习·边缘计算·jetson
论文复现现场20 小时前
RTX 5090 32GB 适合科研计算吗?单卡训练、推理、论文复现与 OOM 判断方法
pytorch·深度学习·cuda·rtx5090