魔塔社区下载的大模型如何通过ollama部署到本地

第一步

进入魔塔社区：https://www.modelscope.cn/

pip install modelscope

第二步（指定下载位置--local_dir ./dir，不然就在默认C:\Users\Administrator\.cache\modelscope\hub\models）

modelscope download --model deepseek-ai/DeepSeek-R1-Distill-Qwen-7B

第三步（量化）

# 克隆仓库
git clone https://github.com/ggerganov/llama.cpp
cd llama.cpp

# 编译（Windows需用VS环境，Linux/macOS直接执行）
mkdir build && cd build
cmake .. -DLLAMA_CURL=OFF
cmake --build . --config Release

如果缺少了东西自己下载