Deepseek 本地部署

1. 下载ollma

进入ollma官网Download Ollama on macOS 填写下邮件地址,然后下载。否则下载容易失败

2. 安装ollma到指定目录

测试ollama help

3. 部署模型 deepseek-r1

1)模型安装到指定路径,修改模型环境变量OLLAMA_MODELS

2)从任务管理里面删除ollama进程

3)我的显卡是12G的,所以我选择14b的参数 ollama run deepseek-r1:14b

4 安装界面工具Chatbox AI Chatbox AI官网:办公学习的AI好助手,全平台AI客户端,官方免费下载

安装完成后,点击选择实验本地模型

配置ollama api和deepseek模型

对话框可以输入测试

相关推荐
之歆3 小时前
Spring AI入门到实战到原理源码-MCP
java·人工智能·spring
知乎的哥廷根数学学派3 小时前
面向可信机械故障诊断的自适应置信度惩罚深度校准算法(Pytorch)
人工智能·pytorch·python·深度学习·算法·机器学习·矩阵
且去填词3 小时前
DeepSeek :基于 Schema 推理与自愈机制的智能 ETL
数据仓库·人工智能·python·语言模型·etl·schema·deepseek
待续3013 小时前
订阅了 Qoder 之后,我想通过这篇文章分享一些个人使用心得和感受。
人工智能
weixin_397578023 小时前
人工智能发展历史
人工智能
强盛小灵通专卖员4 小时前
基于深度学习的山体滑坡检测科研辅导:从论文实验到系统落地的完整思路
人工智能·深度学习·sci·小论文·山体滑坡
OidEncoder4 小时前
从 “粗放清扫” 到 “毫米级作业”,编码器重塑环卫机器人新能力
人工智能·自动化·智慧城市
Hcoco_me4 小时前
大模型面试题61:Flash Attention中online softmax(在线softmax)的实现方式
人工智能·深度学习·自然语言处理·transformer·vllm
阿部多瑞 ABU4 小时前
`chenmo` —— 可编程元叙事引擎 V2.3+
linux·人工智能·python·ai写作
极海拾贝5 小时前
GeoScene解决方案中心正式上线!
大数据·人工智能·深度学习·arcgis·信息可视化·语言模型·解决方案