本地部署deepseek-r1 ollama+anythingllm

本期笔者带给大家部署一个本地私有化知识库,简单明了,直接步入主题,需要读者可以继续关注支持一下啊!
目录

开始下载应用:

操作系统:Windows 10

安装包:Ollama、AnythingLLM

官网:Ollama

官网:
​​​​​​https://anythingllm.com/

这个下载安装就行了

二、Ollama环境部署

1、安装

双击安装包文件OllamaSetup.exe,一键安装。默认安装路径为C:\Users\用户名\AppData\Local\Programs\Ollama。AppData目录为隐藏目录,勾选"隐藏的项目"选项,即可查看到。

设置模型环境变量:新建系统变量,像我这样:变量名:OLLAMA_MODELS

下面那个路径你们自己设置一个路径就可以了。比如变量值(路径):E:\soft\ollama

创建完环境变量后,把Ollama停止,然后进入C盘-->用户-->你自己的电脑名称-->.ollama-->剪切整个models到刚刚上面新建的存储目录下。

任务管理器关闭ollama进程,打开cmd重新输入ollama重启程序。

最重要的任务管理器有两个这个进程,需要同时都结束。有一个是.exe结尾的,有一个就是ollama

cmd输入ollama list查看模型显示正常则迁移完成。

启动运行:ollama run 模型的名称就是那个name

3、检验安装

打开浏览器URL地址输入localhost:11434,页面显示"Ollama is running",如图 4 ollama运行成功,即可确认ollama安装运行成功。

图 9 ollama运行成功

或者命令行输入ollama

4、安装Deepseek模型

cmd窗口输入以下安装命令

ollama run deepseek-r1:1.5b

安装成功后,输入ollama list命令显示如图 10 deepseek模型所示,代表deepseek安装成功。

三、AnythingLLM安装

1、安装

双击安装包文件AnythingLLMDesktop.exe,一键安装。

进去 配置,

提问好了 关注一下哟!

相关推荐
Coding宇航员1 小时前
玩转 AI · 思考过程可视化
spring boot·ai·可视化
老翅寒暑3 小时前
AI模型的回调能力的理解和实现
ai·大模型·本地小模型
武子康11 小时前
大语言模型 11 - 从0开始训练GPT 0.25B参数量 MiniMind2 准备数据与训练模型 DPO直接偏好优化
人工智能·gpt·ai·语言模型·自然语言处理
武子康15 小时前
大语言模型 10 - 从0开始训练GPT 0.25B参数量 补充知识之模型架构 MoE、ReLU、FFN、MixFFN
大数据·人工智能·gpt·ai·语言模型·自然语言处理
无声旅者19 小时前
深度解析 IDEA 集成 Continue 插件:提升开发效率的全流程指南
java·ide·ai·intellij-idea·ai编程·continue·openapi
武子康1 天前
大语言模型 09 - 从0开始训练GPT 0.25B参数量 补充知识之数据集 Pretrain SFT RLHF
人工智能·gpt·ai·语言模型·自然语言处理
豌豆花下猫1 天前
Python 潮流周刊#102:微软裁员 Faster CPython 团队(摘要)
后端·python·ai
zhz52141 天前
AI数字人融合VR全景:开启未来营销与交互新篇章
人工智能·ai·交互·vr·ai编程·智能体
一叶茶1 天前
VsCode和AI的前端使用体验:分别使用了Copilot、通义灵码、iflyCode和Trae
前端·vscode·gpt·ai·chatgpt·copilot·deepseek
小薛博客2 天前
4、前后端联调文生文、文生图事件
java·ai