本地部署DeepSeek(Mac版本,带图形化操作界面)

一、下载安装:Ollama

官网下载:Download Ollama on macOS

二、安装Ollama

1、直接解压zip压缩包,解压出来就是应用程序

2、直接将Ollama拖到应用程序中即可

3、启动终端命令验证

复制代码
# 输入 
ollama

代表已经安装成功。

4、下载模型

点击模型界面会看到所有的模型名称和版本

笔记本可运行小参数量模型):开源模型列表Ollama

  • 推荐模型:(电脑配置较高,可在以上网址搜索 7b 或更大参数模型)

    • deepseek-r1:1.5b,在终端输入:ollama pull deepseek-r1:1.5b ,回车。等待下载完成。

可选其他模型(根据电脑配置):

7b : ollama pull deepseek-r1

8b: ollama pull deepseek-r1:8b

14b: ollama pull deepseek-r1:14b

.....更多模型自行查看列表:Ollama

  • DeepSeek-R1-Distill-Qwen-1.5B,在终端输入:ollama pull erwan2/DeepSeek-R1-Distill-Qwen-1.5B,回车。等待下载完成。

  • nomic-embed-text,在终端输入:ollama pull nomic-embed-text,回车。等待下载完成。此模型(向量化文档模型)为必须安装,否则后续上传文档无法解析。

  • 验证模型安装:

在终端输入:ollama list

至此ollama已安装完毕!

5、本地运行

复制代码
# 输入命令,终端运行大模型,当出现一个send a message就开始玩耍吧。
ollama run deepseek-r1:1.5b

三、安装cherry studio

1、下载cherry studio

官网下载:Cherry Studio - 全能的AI助手

2、安装成功后

3、设置 cherry studio 使用本地大模型

4、点击添加

5、验证模型关联成功:

我本地下载了70b的模型,可能是本机问题,一直关联不成功,随放弃了,先用1.5b的练练手。

6、上传文档,基于文档内容问答

7、聊天界面测试

8、安装问题

如果安装完毕搜索报下面的错误

把这里的模型全部指定一下,问题解决

相关推荐
User_芊芊君子28 分钟前
STT + LLM + TTS:用一条流水线搓了个中英双向翻译助手
ide·macos·xcode
凤山老林17 小时前
在 Apple 芯片的 Mac 上通过 VMware Fusion 使用 Windows 11
windows·macos·vmware·虚拟机
c&0xff0020 小时前
mac通过网线连接树莓派
macos
孙启超1 天前
Token太贵自己写了一个mac版开源AI编程工具
人工智能·macos·开源·llm·agent·ai编程·ai应用开发
2601_965798471 天前
Launch Your Wellness App Fast: The Truth About Meditation Source Code
前端·macos·ios·objective-c·cocoa
2501_915909063 天前
全面解析iOS应用上架到App Store的完整流程与关键注意事项
android·macos·ios·小程序·uni-app·cocoa·iphone
2501_915918413 天前
免 Xcode 开发 iOS,工具链替代方案与编译、签名、安装
ide·vscode·macos·ios·个人开发·xcode·敏捷流程
Architect_Lee3 天前
mac安装多个tomcat
macos
ty_xiumud3 天前
以太网 MAC 详解:帧格式、位序、FCS 与收发流程
开发语言·macos·php