部署一个本地的ChatGPT(Ollama)

一 下载Ollama

Ollama下载地址:https://ollama.com/download

下载完后

二 安装运行

双击下载好的OllamaSetup.exe开发 安装Ollama:

安装完成后,多了一个Ollama的菜单如下图 :

Ollama安装好默认是配置开机运行,如果没有运行可以在菜单上点击一下即可,正常情况要查看是否运行状态看一下任务栏这个图标即可。

在命令行运行

复制代码
ollama

首次运行需要选择下载的模型

bash 复制代码
ollama run gemma:7b

指定使用的模型gemma:7b,这里可以选择其它模型,第一次调用当本地不存在时会自动下载该模型,运行成功可直接在命令行模型上发问如下图:

模型

可以根据电脑配置和自己的爱好选择模型:

注意:运行7B机型至少应该有8gb可用内存,运行13B机型至少应该有16gb可用内存,运行33B机型至少应该有32gb可用内存。

三 配置Chat Ollama 客户端

配置Chat Ollama 客户端,加一个壳用来调用的。

在github找到一个开源的web客户端 https://github.com/ivanfioravanti/chatbot-ollama

开发环境运行:

配置好的Chat Ollama 客户端,运行效果,界面不够美的可以直接修改页面代码。

这里我们只需配置本地的服务配置即可,如下图:

选好模型开始聊天:

可以开始聊天了,如下图:

帮助写代码如下图:

这样跑起来方便很多

相关推荐
ASKED_201910 小时前
Codex 手机连接电脑报Couldn‘t update remote control availability
chatgpt
SEO_juper13 小时前
你的服务器正在被 AI 爬虫“白嫖“带宽:2026 用日志把 Googlebot 和 AI 洪流分开算账(附脚本)
运维·人工智能·爬虫·python·chatgpt·seo
吨吨ai13 小时前
2026年9月10日|ChatGPT Pro + Codex:GPT‑6 Astra 团队研发协作
gpt·chatgpt
鹿角片ljp14 小时前
ChatGPT 桌面版「每次重连 5 次」修复复盘:一个 VMware 残留如何瘫痪了整台机器的虚拟网卡
chatgpt
RAOY的AI笔记15 小时前
从ChatGPT注册场景理解Web身份认证:Session、Cookie、Token与MFA基础原理
人工智能·chatgpt
ClouGence15 小时前
GPT-6 做 UI 自动化测试:Demo 惊艳,但真的适合长期回归吗?
前端·chatgpt·测试
Mr.朱鹏17 小时前
科技周报(第2026-09-10期):模型激战量子降温
人工智能·科技·chatgpt·机器人·开源
Behaviour18 小时前
ChatGPT Images2.5 全面开放
人工智能·chatgpt
吨吨ai20 小时前
2026年9月10日|ChatGPT Pro + GPT‑6 Astra:Codex 数据工程实战
gpt·chatgpt
dozenyaoyida1 天前
AI与大模型新闻日报 | 2026-09-09
人工智能·ai·chatgpt·大模型·新闻