部署一个本地的ChatGPT(Ollama)

一 下载Ollama

Ollama下载地址:https://ollama.com/download

下载完后

二 安装运行

双击下载好的OllamaSetup.exe开发 安装Ollama:

安装完成后,多了一个Ollama的菜单如下图 :

Ollama安装好默认是配置开机运行,如果没有运行可以在菜单上点击一下即可,正常情况要查看是否运行状态看一下任务栏这个图标即可。

在命令行运行

复制代码
ollama

首次运行需要选择下载的模型

bash 复制代码
ollama run gemma:7b

指定使用的模型gemma:7b,这里可以选择其它模型,第一次调用当本地不存在时会自动下载该模型,运行成功可直接在命令行模型上发问如下图:

模型

可以根据电脑配置和自己的爱好选择模型:

注意:运行7B机型至少应该有8gb可用内存,运行13B机型至少应该有16gb可用内存,运行33B机型至少应该有32gb可用内存。

三 配置Chat Ollama 客户端

配置Chat Ollama 客户端,加一个壳用来调用的。

在github找到一个开源的web客户端 https://github.com/ivanfioravanti/chatbot-ollama

开发环境运行:

配置好的Chat Ollama 客户端,运行效果,界面不够美的可以直接修改页面代码。

这里我们只需配置本地的服务配置即可,如下图:

选好模型开始聊天:

可以开始聊天了,如下图:

帮助写代码如下图:

这样跑起来方便很多

相关推荐
cloud studio AI应用13 小时前
GPT-5.2-Codex 可用!IDE、插件、CLI 国际版已同步上线
chatgpt·ai编程·腾讯云ai代码助手·codebuddy
Hcoco_me18 小时前
大模型面试题74:在使用GRPO训练LLM时,训练数据有什么要求?
人工智能·深度学习·算法·机器学习·chatgpt·机器人
avi91111 天前
[Unity] 仙剑源码-仙剑奇侠传移动版分析 - 开篇;[Lua] [A1相关],DeepSeek学习脚手架源码
chatgpt·aigc·lua·deepseek·仙剑移动版·仙剑
sg_knight1 天前
Claude Code 与 ChatGPT、Copilot 有什么区别?
人工智能·chatgpt·llm·copilot·claude·ai大模型·claude-code
Hcoco_me2 天前
大模型面试题73:简单介绍下GRPO的训练流程。
人工智能·深度学习·机器学习·chatgpt·机器人
Hcoco_me2 天前
大模型面试题77:你在训练GRPO和DPO的时候使用了什么强化学习框架?
人工智能·深度学习·机器学习·chatgpt·机器人
Hcoco_me3 天前
大模型面试题63:介绍一下RLHF
人工智能·深度学习·机器学习·chatgpt·机器人
Hcoco_me4 天前
大模型面试题64:介绍下PPO的训练流程
人工智能·深度学习·机器学习·chatgpt·机器人
Hcoco_me5 天前
大模型面试题62:PD分离
人工智能·深度学习·机器学习·chatgpt·机器人
蒙奇·D·路飞-5 天前
Gemini、ChatGPT、Qwen、豆包、Claude五大主流AI模型深度对比:技术、生态与应用全景解析
人工智能·chatgpt