ChatGPT API和llm的GUI。支持代理,基于文件的QA, GPT微调和web搜索查询
文章目录
- [ChatGPT API和llm的GUI。支持代理,基于文件的QA, GPT微调和web搜索查询](#ChatGPT API和llm的GUI。支持代理,基于文件的QA, GPT微调和web搜索查询)
一、 强力功能
- 川虎助理:类似 AutoGPT,全自动解决你的问题;
- 在线搜索:ChatGPT 的数据太旧?给 LLM 插上网络的翅膀;
- 知识库:让 ChatGPT 帮你量子速读!根据文件回答问题。
- 本地部署LLM:一键部署,获取属于你自己的大语言模型。
二、 System Prompt
- 通过 System Prompt 设定前提条件,可以很有效地进行角色扮演;
- 川虎Chat 预设了Prompt模板,点击
加载Prompt模板
,先选择 Prompt 模板集合,然后在下方选择想要的 Prompt。
三、 基础对话
- 如果回答不满意,可以使用
重新生成
按钮再试一次,或者直接删除这轮对话
; - 输入框支持换行,按 Shift + Enter即可;
- 在输入框按 ↑ ↓ 方向键,可以在发送记录中快速切换;
- 每次新建一个对话太麻烦,试试
单论对话
功能; - 回答气泡旁边的小按钮,不仅能
一键复制
,还能查看Markdown原文
; - 指定回答语言,让 ChatGPT 固定以某种语言回答。
四、 对话历史
- 对话历史记录会被自动保存,不用担心问完之后找不到了;
- 多用户历史记录隔离,除了你都看不到;
- 重命名历史记录,方便日后查找;
- ^New!^ 魔法般自动命名历史记录,让 LLM 理解对话内容,帮你自动为历史记录命名!
- ^New!^ 搜索历史记录,支持正则表达式!
五、 小而美的体验
- 自研 Small-and-Beautiful 主题,带给你小而美的体验;
- 自动亮暗色切换,给你从早到晚的舒适体验;
- 完美渲染 LaTeX / 表格 / 代码块,支持代码高亮;
- ^New!^ 非线性动画、毛玻璃效果,精致得不像 Gradio!
- ^New!^ 适配 Windows / macOS / Linux / iOS / Android,从图标到全面屏适配,给你最合适的体验!
- ^New!^ 支持以 PWA应用程序 安装,体验更加原生!
六、 极客功能
- ^New!^ 支持 Fine-tune(微调)gpt-3.5!
- 大量 LLM 参数可调;
- 支持更换 api-host;
- 支持自定义代理;
- 支持多 api-key 负载均衡。
七、 部署相关
- 部署到服务器:在
config.json
中设置"server_name": "0.0.0.0", "server_port": <你的端口号>,
。 - 获取公共链接:在
config.json
中设置"share": true,
。注意程序必须在运行,才能通过公共链接访问。 - 在Hugging Face上使用:建议在右上角 复制Space 再使用,这样App反应可能会快一点。
八、快速上手
在终端执行以下命令:
shell
git clone https://github.com/GaiZhenbiao/ChuanhuChatGPT.git
cd ChuanhuChatGPT
pip install -r requirements.txt
然后,在项目文件夹中复制一份 config_example.json
,并将其重命名为 config.json
,在其中填入 API-Key
等设置。
shell
python ChuanhuChatbot.py
一个浏览器窗口将会自动打开,此时您将可以使用 川虎Chat 与ChatGPT或其他模型进行对话。
九、源程序下载
源程序下载地址:ChatGPT API和llm的GUI