个人体验MaxKB做知识库效果最好
一、Ollama
1、下载Ollama
curl -fsSL https://ollama.com/install.sh | sh
2、下载指定的模型
地址：library
Llama3
ollama run llama3:8b
这个模型可以将文本内容转换成向量数据
ollama pull nomic-embed-text:v1.5
二、Open WebUI
1、拉取镜像
拉取镜像
docker pull ghcr.io/open-webui/open-webui:main
2、（可选）使用代理拉取镜像
如果拉不动的话加个代理
docker pull ghcr.dockerproxy.com/open-webui/open-webui:main
重命名镜像（如果是通过代理下载的） docker tag ghcr.dockerproxy.com/open-webui/open-webui:main ghcr.io/open-webui/open-webui:main
删除代理镜像（如果是通过代理下载的）
3、运行容器
docker run -p 18080:8080 -e OLLAMA_BASE_URL=http://10.16.2.70:11434 --name open-webui --restart always -v open-webui-data:/app/backend/data ghcr.io/open-webui/open-webui:main
4、使用浏览器访问链接
三、Anythingllm
1、拉取镜像
bash
docker pull mintplexlabs/anythingllm2、运行容器
bash
export STORAGE_LOCATION=$HOME/anythingllm && \ mkdir -p $STORAGE_LOCATION && \ touch "$STORAGE_LOCATION/.env" && \ chmod -R 777 ${STORAGE_LOCATION} && \ docker run -d -p 3001:3001 \ --cap-add SYS_ADMIN \ -v ${STORAGE_LOCATION}:/app/server/storage \ -v ${STORAGE_LOCATION}/.env:/app/server/.env \ -e STORAGE_DIR="/root/anythingllm/storage" \ mintplexlabs/anythingllm3、使用浏览器访问链接
四、MaxKB
1、拉取镜像
bash
docker pull 1panel/maxkb2、运行容器
bash
docker run -d --name=maxkb -p 28080:8080 -v ~/.maxkb:/var/lib/postgresql/data 1panel/maxkb3、使用浏览器访问链接
附1：
更改模型存放位置
- 进入配置默认目录：
bash
cd /etc/systemd/system/- 配置目录权限给【ollama用户及用户组】
bash
chown -R ollama:ollama /home/ollama3.打开配置文件，在[Service]下添加OLLAMA_MODELS环境变量，
bash
vi ollama.service[Service]
修改模型位置
Environment="OLLAMA_MODELS=/home/ollama/models
配置其它机器可访问
Environment="OLLAMA_HOST=0.0.0.0"
- 重启ollama
bash
systemctl daemon-reload
systemctl restart ollama.service5、Open Web UI
密码：2kkVaZz91wQ2Rjck
附2：
参考链接1：利用AI解读本地TXT、WORD、PDF文档 - 哔哩哔哩