Deepseek 本地部署

1. 下载ollma

进入ollma官网Download Ollama on macOS 填写下邮件地址,然后下载。否则下载容易失败

2. 安装ollma到指定目录

测试ollama help

3. 部署模型 deepseek-r1

1)模型安装到指定路径,修改模型环境变量OLLAMA_MODELS

2)从任务管理里面删除ollama进程

3)我的显卡是12G的,所以我选择14b的参数 ollama run deepseek-r1:14b

4 安装界面工具Chatbox AI Chatbox AI官网:办公学习的AI好助手,全平台AI客户端,官方免费下载

安装完成后,点击选择实验本地模型

配置ollama api和deepseek模型

对话框可以输入测试

相关推荐
博图光电2 小时前
博图汽车零配件视觉检测与测量解决方案
人工智能·汽车·视觉检测
仿生狮子2 小时前
别再说“全栈”了,AI 时代团队只认这 5 种人
前端·人工智能·后端
乒乓狂魔3 小时前
SkyWalking 也能 AI 智能化了
人工智能·skywalking
满怀冰雪3 小时前
03-第一个 Paddle 程序:Tensor 创建、计算与设备管理
人工智能·python·paddle
Maynor9963 小时前
AI Coding 零基础实战教程|第七部分:Codex Desktop 安装和使用教程
人工智能·ai编程·codex·claude code·ai coding
CClaris4 小时前
大模型量化从0到1(九):用 llama.cpp 把模型转成 GGUF 并跑本地推理
人工智能·pytorch·python·深度学习·llama
学编程的小虎4 小时前
SenseVoice微调
人工智能·python·自然语言处理
不爱土豆唯爱马铃薯4 小时前
aipy漫画系列创作分享之漫画技能分享
人工智能
字节跳动视频云技术团队4 小时前
豆包视频通话背后,火山引擎重构 Agent 时代多模态传输底座
人工智能·agent·音视频开发