Windows本地大语言模型部署

第一步安装ollama

Download Ollama on Windows

一般ollama默认安装的位置是C盘,我C盘空间不够了就放D盘去了,进入ollama所在文件夹下cmd运行下面这条命令

OllamaSetup.exe /DIR="D:/Ollama"

第二步选择大模型

可以到ollama官网直接找自己需要的

Ollama

这里我选的是1.5b因为我的电脑配置太拉了,其他的带不动

第三步安装大模型

因为我已经安装过了,所以这里就没有显示而是直接运行了,不然的话他会有下载的进度条

下载之后他会也自动运行,可以直接对话了

为了更加的美观我们这里可以使用Chatbox作为前端

第四步安装Chatbox

访问官网

Chatbox AI官网:办公学习的AI好助手,全平台AI客户端,官方免费下载

安装好后进入设置

回到主页面新对话

能正确回答就是成功了

相关推荐
weixin_468466853 小时前
从“看懂”到“做到”:视觉-语言-动作模型如何让机器人真正执行指令
人工智能·ai·机器人·大语言模型·前沿科技
朋友圈自动点赞工具3 小时前
科学AI插件化:从蛋白质结构到古籍修复
人工智能
龙粤GEO4 小时前
实体Entity在GEO中代表什么含义
人工智能
剑雨巍巍5 小时前
AI Agent面试之基础概念
人工智能
微帧Visionular5 小时前
AI视频单帧清晰,播放时却闪烁,原因是什么?
人工智能·深度学习·音视频
武子康5 小时前
MultiNet6 空闲崩溃:`EXCVADDR=0x8` 后又出现 `CORRUPT HEAP`
人工智能·后端·agent
云智慧AIOps社区5 小时前
智能巡检机器人应用场景解析:机房巡检、园区安防、管廊巡视与展厅导览
人工智能·机器人·具身智能·智能巡检机器人·企业级智能巡检机器人·机房巡检机器人·导览机器人
EnCi Zheng5 小时前
Agent 如何进行工具调用:从一次 Function Calling 到生产级工具编排的完整链路
大数据·人工智能·agent·ai编程·工具调用
赛博守夜人5 小时前
AI安全攻防与治理之十四:AI 安全测试不能脱离传统安全,Web、API、移动端与模型攻击面的组合拳
前端·人工智能·安全
lovingsoft5 小时前
AI 时代未来软件形态趋势:从固定功能应用,走向意图驱动、智能体原生的柔性系统-浅析
人工智能