生活电子常识-deepseek-r1本地化部署+ui界面搭建

前言

deepseek-r1 14b模型,32b模型部署在本地电脑上也能实现非常好的性能。

因此有兴趣研究了下如何在本地部署。

同时最新流行mauns工作流,他们提供一句话实现网页端任意应用的能力。实际上,你也可以用本地的模型来实现离线的ai工作流功能。

不过这里讲述本地如何首先搭建大模型,一步步来

具体的实现原理,操作步骤如下

原理

1.安装ollama

作用是提供大模型的运行环境,以及提供外部的大模型调用api接口

你没看错,本地部署的大模型也可以提供api接口,这也是后来我们可以使用其他ui界面来访问这个本地大模型的基础

访问https://ollama.com/,下载ollama.exe

安装后,然后在命令框中查看是否可用,可用如图所示

2.选择模型下载

如图所见,可以选择qwn32b模型,deepseekr1模型等等

3.使用命令配置模型,等待下载好即可

命令敲入cmd框中,模型将会自动下载,等待下载好即可。

4.查看可用模型列表,启动模型

可以根据如图片中命令,查看已经安装的模型名称,然后启动即可

5.启动模型,对话

复制代码
ollama run deepseek-r1:14b

6.设置ui界面对话

去chorme扩展商店中搜索page assist插件,安装

在设置中勾选简体中文,即可展示

同时因为ollama为其安装的模型提供了api接口,这个ui插件,也可以访问那些大模型,进行流畅对话

同时,也可以为模型构建知识库,让其回答的更加贴合知识库语料

同时,局域网内,别人访问你的大模型api也可以访问你本地的大模型进行交流

6.1另外一款ui软件

如图所配置即可,chatbox为模型提供了图片和文档上传功能,更加符合日常使用需求。

相关推荐
AI科技星16 小时前
能量绝对性与几何本源:统一场论能量方程的第一性原理推导、验证与范式革命
服务器·人工智能·科技·线性代数·算法·机器学习·生活
xiaobaishuoAI16 小时前
GEO 全场景智能生态:时空大模型原生重构与全域动态风险治理落地
大数据·人工智能·深度学习·生活·geo
萤丰信息2 天前
开启园区“生命体”时代——智慧园区系统,定义未来的办公与生活
java·大数据·运维·数据库·人工智能·生活·智慧园区
第***月2 天前
前往云南走访,在2025年12月,可看到多元且鲜活的新风貌,有新出行、新经济所带来的生活变化
生活·旅游·美食·风景
AI科技星2 天前
引力与电磁的动力学耦合:变化磁场产生引力场与电场方程的第一性原理推导、验证与统一性意义
服务器·人工智能·科技·线性代数·算法·机器学习·生活
科技观察2 天前
有道翻译:跨越语言的桥梁
生活
互联网运营知识库2 天前
2026年寒假旅游攻略生成二维码怎么做?
经验分享·科技·其他·生活·旅游·节日
科技观察3 天前
启明社范建峰:用金融力量编织慈善网络
生活
金士镧(厦门)新材料有限公司3 天前
稀土抑烟剂在船舶中的应用:提升航行安全与环保
科技·安全·全文检索·生活·能源
郑州光合科技余经理3 天前
架构解析:同城本地生活服务o2o平台海外版
大数据·开发语言·前端·人工智能·架构·php·生活