以下是优化后的内容:
环境安装指南
基础环境安装
- 安装conda、cuda和jupyter
Jupyter配置
jupyter lab --ip=0.0.0.0 --allow-root -p=8888
Langchain-Chatchat部署
-
克隆项目仓库:
git clone https://github.com/chatchat-space/Langchain-Chatchat.git
-
安装依赖包:
pip install langchain-chatchat -U
pip install poetry -
安装开发依赖:
进入项目主目录后安装相关依赖,详细步骤参考:
开发部署文档
注意:项目配置现统一由
chatchat.settings.Settings管理,替代了原有的chatchat/configs/*.py配置方式。
-
启动服务:
cd /opt/Langchain-Chatchat/libs/chatchat-server && python chatchat/cli.py start -a
Ollama安装配置
-
安装Ollama:
curl -fsSL https://ollama.com/install.sh | sh
-
配置镜像站:
mkdir -p ~/.ollama
cat << EOF > ~/.ollama/config.json
{
"registry": {
"mirrors": {
"registry.ollama.ai": "https://registry.ollama.ai"
}
}
}
EOF -
安装模型:
ollama install qwen:7B