部署一个本地的ChatGPT(Ollama)

一 下载Ollama

Ollama下载地址:https://ollama.com/download

下载完后

二 安装运行

双击下载好的OllamaSetup.exe开发 安装Ollama:

安装完成后,多了一个Ollama的菜单如下图 :

Ollama安装好默认是配置开机运行,如果没有运行可以在菜单上点击一下即可,正常情况要查看是否运行状态看一下任务栏这个图标即可。

在命令行运行

复制代码
ollama

首次运行需要选择下载的模型

bash 复制代码
ollama run gemma:7b

指定使用的模型gemma:7b,这里可以选择其它模型,第一次调用当本地不存在时会自动下载该模型,运行成功可直接在命令行模型上发问如下图:

模型

可以根据电脑配置和自己的爱好选择模型:

注意:运行7B机型至少应该有8gb可用内存,运行13B机型至少应该有16gb可用内存,运行33B机型至少应该有32gb可用内存。

三 配置Chat Ollama 客户端

配置Chat Ollama 客户端,加一个壳用来调用的。

在github找到一个开源的web客户端 https://github.com/ivanfioravanti/chatbot-ollama

开发环境运行:

配置好的Chat Ollama 客户端,运行效果,界面不够美的可以直接修改页面代码。

这里我们只需配置本地的服务配置即可,如下图:

选好模型开始聊天:

可以开始聊天了,如下图:

帮助写代码如下图:

这样跑起来方便很多

相关推荐
tiger从容淡定是人生2 小时前
生态入口之战:GPT、Gemini、Copilot与DeepSeek的战略分野
图像处理·人工智能·chatgpt·copilot·软件构建
AI大模型-小华3 小时前
ChatGPT 服务充值与账户管理实操指南
人工智能·chatgpt·ai编程·codex·chatgpt plus·chatgpt pro
武子康14 小时前
GPT-5.6 Luna 降价 80%:Agent 真正该重算的是单次成功成本
人工智能·chatgpt·llm
AI大模型-小华17 小时前
Codex 反复重试仍完不成任务?判断 ChatGPT Plus 是否需要调整到 Pro
人工智能·chatgpt·ai编程·codex·开发效率·chatgpt plus·chatgpt pro
阿文和她的Key18 小时前
GPT-5.6 降价后, API 账单的三层漏斗该怎么拆
人工智能·gpt·ai·chatgpt
总捣什么乱118 小时前
ChatGpt 系列文章——编码与智能体
人工智能·chatgpt
LXT71219 小时前
2026职称申报冲刺期:ChatGPT、Claude、Kimi、雷小兔同题横评
人工智能·chatgpt
weixin_429615991 天前
快速生成流程图
人工智能·chatgpt·aigc·流程图
TunerT_TQ1 天前
GitHub深度工程评测:AI 系统提示词泄露知识库深度评测:6万星system_prompts_leaks情报资产背后,藏着什么?
人工智能·chatgpt·github·提示词工程·#valhalla静态工程审阅·systemprompt·大模型工程
吨吨ai1 天前
# 2026年8月更新:ChatGPT、Codex、Plus、Pro 与 Semantic CI/CD(GPT-5.6 智能变更流水线技术分享)
人工智能·gpt·chatgpt