Maxkb玩转大语言模型

Maxkb玩转大语言模型

随着国外大语言模型llama3的发布,搭建本地个人免费"人工智能"变得越来越简单,今天博主分享使用Max搭建本地的个人聊天式对话及个人本地知识域的搭建。

1.安装Maxkb开源应用 github

docker快速安装

docker run -d --name=maxkb -p 8080:8080 -v ~/.maxkb:/var/lib/postgresql/data 1panel/maxkb

默认的用户名:admin密码:MaxKB@123.. 想要数据持久化就需要将docker的文件挂在到本地的电脑上

复制代码
-v /maxdb/data:/var/lib/postgresql/data 1panel/maxkb

创建模型步骤如下

选择自己的模型并安装,我这边使用ollama安装

API域名不能是localhost和127.0.0.1

安装成功后如下图:

安装过程会出现API域名无效的弹窗提示 有以下原因: 1.没有正确填写域名 2.按装的ollama模型没有开启远程链接

解决方法

填写的API域名只能是服务器: ip:11434 windows下在cmd中执行

复制代码
set OLLAMA_HOST=0.0.0.0
ollama serve

再次安装大模型就成功了

2.创建自己的本地应用

3.编辑应用的信息

4.测试我们的模型

完成之后,也可以将对话的窗口植入到我们自己的网站

本文由mdnice多平台发布

相关推荐
Star(up up up)3 天前
Redis Windows 安装教程:使用Windows 的 Redis 压缩包
redis·笔记·学习·程序人生·云原生·学习方法·改行学it
秋天的怀念_David8 天前
算法一千零一夜 · 第二十八夜 注册
java·程序人生·算法
ShuangNaoPai10 天前
饱和品类的心智词生成:从“新米”认知到“五新米”的判定路由
人工智能·程序人生·产品·思维·品牌营销
浮尘笔记12 天前
JetBrains差异设置被自动勾选的排查与根治实录
经验分享·程序人生·编辑器·intellij idea·phpstorm·webstorm
秋天的怀念_David15 天前
算法一千零一夜 · 第二十三夜 电力民生写成的曲线
java·程序人生·算法
郝学胜-神的一滴15 天前
AI 编程智能体 22:解析器赋能与实战落地全指南
人工智能·程序人生·游戏·unity·游戏引擎
Star(up up up)15 天前
Docker系列---Docker容器基本命令(新手小白保姆级实操教程)
运维·学习·程序人生·青少年编程·docker·容器·dubbo
Star(up up up)15 天前
Docker系列---Dockerfile镜像文件
人工智能·经验分享·学习·程序人生·docker·容器·github
郝学胜-神的一滴17 天前
游戏设计:原型与开发 18:Unity入门的第一课
人工智能·程序人生·游戏·ui·unity·游戏引擎