生活电子常识-deepseek-r1本地化部署+ui界面搭建

前言

deepseek-r1 14b模型,32b模型部署在本地电脑上也能实现非常好的性能。

因此有兴趣研究了下如何在本地部署。

同时最新流行mauns工作流,他们提供一句话实现网页端任意应用的能力。实际上,你也可以用本地的模型来实现离线的ai工作流功能。

不过这里讲述本地如何首先搭建大模型,一步步来

具体的实现原理,操作步骤如下

原理

1.安装ollama

作用是提供大模型的运行环境,以及提供外部的大模型调用api接口

你没看错,本地部署的大模型也可以提供api接口,这也是后来我们可以使用其他ui界面来访问这个本地大模型的基础

访问https://ollama.com/,下载ollama.exe

安装后,然后在命令框中查看是否可用,可用如图所示

2.选择模型下载

如图所见,可以选择qwn32b模型,deepseekr1模型等等

3.使用命令配置模型,等待下载好即可

命令敲入cmd框中,模型将会自动下载,等待下载好即可。

4.查看可用模型列表,启动模型

可以根据如图片中命令,查看已经安装的模型名称,然后启动即可

5.启动模型,对话

复制代码
ollama run deepseek-r1:14b

6.设置ui界面对话

去chorme扩展商店中搜索page assist插件,安装

在设置中勾选简体中文,即可展示

同时因为ollama为其安装的模型提供了api接口,这个ui插件,也可以访问那些大模型,进行流畅对话

同时,也可以为模型构建知识库,让其回答的更加贴合知识库语料

同时,局域网内,别人访问你的大模型api也可以访问你本地的大模型进行交流

6.1另外一款ui软件

如图所配置即可,chatbox为模型提供了图片和文档上传功能,更加符合日常使用需求。

相关推荐
卡梅德生物科技小能手2 小时前
卡梅德生物科普 TPBG(5T4)
经验分享·深度学习·生活
科技新芯3 小时前
通义千问进入特斯拉中国车机深度测试阶段
人工智能·物联网·生活
卡梅德生物科技小能手6 小时前
卡梅德生物科普 TSLP
经验分享·深度学习·生活
椒盐飞鱼干7 小时前
永久置顶!永久免费!
生活
卡梅德生物科技小能手1 天前
卡梅德生物科普 TNFSF4(肿瘤坏死因子超家族成员 4)
经验分享·深度学习·生活
ab7753732001 天前
新韩剧《毛骨悚然的恋爱》(2026) NF原版1080P画质,自带内封简中字幕 夸克网盘分享,支持在线播放
经验分享·搜索引擎·生活
X Chow1 天前
基于 Manifest V3 的 Edge 浏览器扩展:页面信息结构化与 CSV 导出实践
前端·edge·生活
天天卡丁2 天前
每日减重3:今日早间体重141.3,晚间体重140.4
生活·减肥
ab7753732003 天前
【4K 超清】超级少女 Supergirl (2026) WEB-DL 无损压制 MKV 封装 15.5G 原版英语配套精准中字
经验分享·搜索引擎·生活
湘美书院--湘美谈教育5 天前
湘美谈教育互联网逻辑:AI时代的社会学猜想
大数据·人工智能·深度学习·机器学习·生活