Windows本地大语言模型部署

第一步安装ollama

Download Ollama on Windows

一般ollama默认安装的位置是C盘,我C盘空间不够了就放D盘去了,进入ollama所在文件夹下cmd运行下面这条命令

OllamaSetup.exe /DIR="D:/Ollama"

第二步选择大模型

可以到ollama官网直接找自己需要的

Ollama

这里我选的是1.5b因为我的电脑配置太拉了,其他的带不动

第三步安装大模型

因为我已经安装过了,所以这里就没有显示而是直接运行了,不然的话他会有下载的进度条

下载之后他会也自动运行,可以直接对话了

为了更加的美观我们这里可以使用Chatbox作为前端

第四步安装Chatbox

访问官网

Chatbox AI官网:办公学习的AI好助手,全平台AI客户端,官方免费下载

安装好后进入设置

回到主页面新对话

能正确回答就是成功了

相关推荐
一只废狗狗狗狗狗狗狗狗狗2 小时前
深度学习为什么好?
人工智能·深度学习
guslegend2 小时前
工程地基、Provider 与 ReAct 循环:Agent 核心能力的设计、实现与验收
人工智能·agent·react·架构设计·spring ai
桃西西呀2 小时前
Spring AI Alibaba 之九:我让 Agent 接着上一轮往下聊,它却只还给我一条消息,多轮记忆到底藏在哪
人工智能·spring·llm
10年前端老司机2 小时前
一次业务迭代:聊聊知识库多版本可追溯审核流程怎么做
人工智能·后端·agent
呆萌很2 小时前
长尾分类(Long-tailed Classification)方法汇总
人工智能·分类
for_ever_love__2 小时前
LangChain Agentic RAG:让 Agent 自己决定要不要检索、检索几次
人工智能·golang·langchain·rag·langgraph·agentic·自适应检索
Fxrain2 小时前
[Paper-Reading] CUAs 安全与隐私威胁综述
人工智能·安全·agent·智能体
乱世军军2 小时前
安装最新版本
人工智能
Mickey同学2 小时前
大模型应用的运行原理:Token、上下文、采样、成本与工程边界
人工智能
海边捡石子2 小时前
向量、图谱还是文件:Agent 记忆怎么选
人工智能·llm·agent