基于ollama搭建本地chatGPT

ollama帮助我们可以快速在本地运行一个大模型,再整合一个可视化页面就能构建一个chatGPT,可视化页面我选择了chat-ollama(因为它还能支持知识库,可玩性更高),如果只是为了聊天更推荐chatbox

部署步骤

  1. 下载ollama并启动,参考:https://ollama.com/download
java 复制代码
# 启动命令
ollama serve
  1. 下载chat-ollama,参考:https://github.com/sugarforever/chat-ollama。本人使用docker安装的
java 复制代码
docker compose up
# 如果您是第一次启动,需要初始化 SQLite 数据库,在新的控制台运行
docker-compose exec chatollama npx prisma migrate dev
  1. 访问chat-ollama,网址:http://localhost:3000
  2. 配置ollama地址
  3. 点击models,下载模型llama2-chinese。因为Llama 2 本身的中文比较弱。
  4. 开始聊天

注意

llama2-chinese模型最少要8G内存

  • 7b models generally require at least 8GB of RAM
  • 13b models generally require at least 16GB of RAM

CPU跑的太慢,用GPU的话也要差不多8G显存

相关推荐
c++服务器开发11 小时前
一文详解Character AI:实用指南+ ChatGPT、Gemini对比分析
人工智能·chatgpt
香宝的最强后援XD1 天前
Cursor无限邮箱续费方法
语言模型·chatgpt·文心一言
明似水10 天前
ChatGPT:人工智能对话革命的里程碑与未来展望
人工智能·chatgpt
伊泽瑞尔10 天前
打造极致聊天体验:uz-chat——全端AI聊天组件来了!
后端·chatgpt·openai
小虎卫远程打卡app11 天前
自动驾驶避障思考
人工智能·chatgpt·自动驾驶
白云如幻12 天前
最新免费使用GPT4.0大模型、deepseek-r1、claude-3-7,GPT-4o AI绘画,有这一个网站就够了
chatgpt·aigc·deepseek
中國龍在廣州14 天前
AI之初,性本?
人工智能·科技·深度学习·机器学习·chatgpt·机器人
中國龍在廣州15 天前
ChatGPT上瘾,大脑萎缩47%!?
人工智能·科技·机器学习·chatgpt·机器人
学境思源AcademicIdeas16 天前
如何使用ChatGPT快速完成一篇论文初稿?
人工智能·chatgpt
Jet450516 天前
第100+42步 ChatGPT学习:R语言实现阈值调整
开发语言·学习·chatgpt·r语言