来花5分钟在本地部署你的专有Deepseek吧!

好久不见啊!

自从deepseek的开源爆火,相关的应用层出不穷,目前线上已经有很多免费的deepseek版本可以使用了,但考虑到数据安全问题,有些私密数据不方便上网。

今天GIS宇宙就带大家快速部署一个自己的版本,免费的哦~

两个工具

大模型应用发展太快了,曾经需要安装docker和其他语言环境,现在开源项目的安装方式越来越简单了,一个Web页面或客户端加一个提供API的后台就能跑起来。

今天的安装很简单,5分钟就可以搞定。

Ollama

前两分钟来安装一个大模型的后台程序,它负责使唤大模型并以API的方式提供结果。

Ollama是一个大语言模型部署工具,支持在本地运行管理大型语言模型,无需依赖云端,且有mac和win应用程序。 ollama.com/

来到官网下载我们的小羊驼,直接装就完事了

装完后在官网再来花一分钟找一下我们的deepseek模型,Ollama支持很多大语言模型,下次你也可以试试别的。

links:ollama.com/library/dee...

复制图中的命令行,我是3060的显卡,显存较小就跑个7b吧,可以根据自己的设备选择模型,越大效果越好~

打开终端下载模型

下载完就可以在原来的窗口尝尝鲜:

Chatbox

最后再花两分钟配置一下调用Ollama APi的可视化工具

Chatbox是我们与大模型的交互程序,提供了界面让我们与大模型交互就像官网一样,也是直接装就完事儿。 chatboxai.app/zh#

装完打开在设置里添加模型,选择Ollama API,发现模型处已经可以选择deepseek了,这里的api域名默认就是ollama本地的接口,如果你是部署在服务器上可以改成你的服务器ip+端口。

享受你的模型

本期只是简单介绍一下教程,下期会分享怎么构建自己的个人知识库,让AI成为你的私人秘书。

OK,这里是GIS宇宙,我们下期再见!

商业合作请私信公众号

本人其他平台账号:

  • 微信公众号:GIS宇宙
  • CSDN:GIS_宇宙
  • 知乎:GIS宇宙
  • 掘金:GIS宇宙
相关推荐
东临碣石822 分钟前
【AI论文】语言模型的变分推理方法
人工智能·语言模型·自然语言处理
文火冰糖的硅基工坊12 分钟前
[创业之路-666]:第四次工业革命(智能革命)未来将创造大量的财富,普通人通过哪些方式参与这些财富的创造与分享?
人工智能·chatgpt·系统架构·产品运营·产业链
数智顾问27 分钟前
AI自动化测试:接口测试全流程自动化的实现方法——从需求到落地的全链路实践
运维·人工智能·自动化
AI人工智能+1 小时前
表格识别技术:突破传统OCR的局限,通过定位-解析-重建三步策略攻克无边框、合并单元格等视觉难题
人工智能·深度学习·ocr·表格识别
夫子3961 小时前
【深度干货】Transformer推理优化完全指南:模型压缩、推理加速与硬件调优
人工智能·llm
Elastic 中国社区官方博客1 小时前
AutoOps:简化自管理 Elasticsearch 的旅程
大数据·人工智能·elasticsearch·搜索引擎·全文检索
chatexcel1 小时前
ChatExcel将发布数据分析Mini AI 工作站
大数据·人工智能·数据分析
HuggingFace1 小时前
Gaia2 与 ARE:赋能社区的智能体评测
人工智能
丁学文武2 小时前
大模型原理与实践:第三章-预训练语言模型详解_第1部分-Encoder-only(BERT、RoBERTa、ALBERT)
人工智能·语言模型·nlp·bert·roberta·大模型应用·encoder-only
攻城狮7号2 小时前
NVIDIA开源Audio2Face模型与SDK,数字人表情迎来“灵魂”时刻
人工智能·nvidia·开源模型·audio2face