Deepseek 本地部署

1. 下载ollma

进入ollma官网Download Ollama on macOS 填写下邮件地址,然后下载。否则下载容易失败

2. 安装ollma到指定目录

测试ollama help

3. 部署模型 deepseek-r1

1)模型安装到指定路径,修改模型环境变量OLLAMA_MODELS

2)从任务管理里面删除ollama进程

3)我的显卡是12G的,所以我选择14b的参数 ollama run deepseek-r1:14b

4 安装界面工具Chatbox AI Chatbox AI官网:办公学习的AI好助手,全平台AI客户端,官方免费下载

安装完成后,点击选择实验本地模型

配置ollama api和deepseek模型

对话框可以输入测试

相关推荐
补三补四6 分钟前
Shapley与SHAP
大数据·人工智能·算法·机器学习·数据分析
qq_314009839 分钟前
Dify版本升级实操
人工智能·aigc·开源软件
Hao想睡觉16 分钟前
CNN卷积神经网络之VggNet和GoogleNet经典网络模型(四)
网络·人工智能·cnn
我不是小upper22 分钟前
anaconda、conda、pip、pytorch、torch、tensorflow到底是什么?它们之间有何联系与区别?
人工智能·pytorch·深度学习·conda·tensorflow·pip
智汇云校乐乐老师1 小时前
产教融合 AI赋能 创新引领 | 第十七届高校教育发展高峰论坛在利川成功举办!
人工智能·高峰论坛·讯方技术
热河暖男1 小时前
Spring Boot AI 极速入门:解锁智能应用开发
java·人工智能·spring boot·ai编程
SugarPPig1 小时前
(一)LoRA微调BERT:为何在单分类任务中表现优异,而在多分类任务中效果不佳?
人工智能·分类·bert
zzywxc7871 小时前
在处理大数据列表渲染时,React 虚拟列表是提升性能的关键技术,但在实际实现中常遇到渲染抖动和滚动定位偏移等问题。
前端·javascript·人工智能·深度学习·react.js·重构·ecmascript
oscar9991 小时前
在线免费的AI文本转语音工具TTSMaker介绍
人工智能·语音