部署一个本地的ChatGPT(Ollama)

一 下载Ollama

Ollama下载地址:https://ollama.com/download

下载完后

二 安装运行

双击下载好的OllamaSetup.exe开发 安装Ollama:

安装完成后,多了一个Ollama的菜单如下图 :

Ollama安装好默认是配置开机运行,如果没有运行可以在菜单上点击一下即可,正常情况要查看是否运行状态看一下任务栏这个图标即可。

在命令行运行

复制代码
ollama

首次运行需要选择下载的模型

bash 复制代码
ollama run gemma:7b

指定使用的模型gemma:7b,这里可以选择其它模型,第一次调用当本地不存在时会自动下载该模型,运行成功可直接在命令行模型上发问如下图:

模型

可以根据电脑配置和自己的爱好选择模型:

注意:运行7B机型至少应该有8gb可用内存,运行13B机型至少应该有16gb可用内存,运行33B机型至少应该有32gb可用内存。

三 配置Chat Ollama 客户端

配置Chat Ollama 客户端,加一个壳用来调用的。

在github找到一个开源的web客户端 https://github.com/ivanfioravanti/chatbot-ollama

开发环境运行:

配置好的Chat Ollama 客户端,运行效果,界面不够美的可以直接修改页面代码。

这里我们只需配置本地的服务配置即可,如下图:

选好模型开始聊天:

可以开始聊天了,如下图:

帮助写代码如下图:

这样跑起来方便很多

相关推荐
AI英德西牛仔6 小时前
ChatGPT和Gemini导出word排版
人工智能·ai·chatgpt·word·deepseek·ds随心转
AI创界者7 小时前
Gemini/Grok/ChatGPT 安卓版安装教程:手机 AI 助手快速上手指南
android·chatgpt·智能手机
balmtv20 小时前
ChatGPT与Gemini官网联网搜索技术拆解:实时信息如何被准确获取?
人工智能·chatgpt
JavaPub-rodert1 天前
Codex是什么?和ChatGPT有什么区别
人工智能·chatgpt·codex
行走的大头1 天前
论文写作全流程工具推荐:从降AI率到数据分析,
人工智能·chatgpt·数据分析·aigc·ai写作
balmtv1 天前
大模型“幻觉”问题深度拆解:ChatGPT与Gemini的镜像站应对策略对比
人工智能·chatgpt
DS随心转插件1 天前
ChatGPT和Gemini怎么复制文字不乱码
人工智能·ai·chatgpt·deepseek·ai导出鸭
LaughingZhu2 天前
Product Hunt 每日热榜 | 2026-03-23
数据库·人工智能·经验分享·神经网络·chatgpt
智算菩萨2 天前
GPT-5.4 Pro与Thinking模型全面研究报告
人工智能·gpt·ai·chatgpt·ai-native
咕噜企业分发小米2 天前
AnythingLLM+GPUStack打造专属的ChatGPT+知识库
chatgpt