部署一个本地的ChatGPT(Ollama)

一 下载Ollama

Ollama下载地址:https://ollama.com/download

下载完后

二 安装运行

双击下载好的OllamaSetup.exe开发 安装Ollama:

安装完成后,多了一个Ollama的菜单如下图 :

Ollama安装好默认是配置开机运行,如果没有运行可以在菜单上点击一下即可,正常情况要查看是否运行状态看一下任务栏这个图标即可。

在命令行运行

复制代码
ollama

首次运行需要选择下载的模型

bash 复制代码
ollama run gemma:7b

指定使用的模型gemma:7b,这里可以选择其它模型,第一次调用当本地不存在时会自动下载该模型,运行成功可直接在命令行模型上发问如下图:

模型

可以根据电脑配置和自己的爱好选择模型:

注意:运行7B机型至少应该有8gb可用内存,运行13B机型至少应该有16gb可用内存,运行33B机型至少应该有32gb可用内存。

三 配置Chat Ollama 客户端

配置Chat Ollama 客户端,加一个壳用来调用的。

在github找到一个开源的web客户端 https://github.com/ivanfioravanti/chatbot-ollama

开发环境运行:

配置好的Chat Ollama 客户端,运行效果,界面不够美的可以直接修改页面代码。

这里我们只需配置本地的服务配置即可,如下图:

选好模型开始聊天:

可以开始聊天了,如下图:

帮助写代码如下图:

这样跑起来方便很多

相关推荐
哪吒编程4 小时前
谁是最强编程大模型?横向对比Claude Opus 4.1、GPT-5、Gemini 2.5 Pro、Grok4
chatgpt·openai·claude
网络研究院7 小时前
OpenAI 的浏览器将使用 ChatGPT Agent 来控制浏览器
chatgpt
致Great20 小时前
DeepResearch开源与闭源方案对比
人工智能·chatgpt
张飞的猪大数据1 天前
OpenAI 发布了 GPT-5,有哪些新特性值得关注?国内怎么使用GPT5?
gpt·chatgpt
belingud1 天前
不同模型回答差异的简单探讨
chatgpt·claude·deepseek
yaocheng的ai分身2 天前
ChatGPT 负责人谈情感依赖、广告和未来
chatgpt
狠活科技2 天前
平替 Claude Code,API接入 GPT-5,Codex CLI 国内直接使用教程
chatgpt·ai编程·oneapi
Bitup_bitwin3 天前
GPT-5对战GPT-4.1/4o:全面性能对比
gpt·chatgpt·chatgpt5
有才不一定有德4 天前
GPT-5 提示词指南核心技巧总结
人工智能·chatgpt·开源
程序员半支烟4 天前
选择gpt-5还是claude-4-sonnect
人工智能·chatgpt·个人开发