1 简单介绍 八戒-Chat-1.8B
八戒-Chat-1.8B是
运用 InternLM2-Chat-1.8B
模型进行微调训练的优秀成果。其中,八戒-Chat-1.8B
是利用《西游记》剧本中所有关于猪八戒的台词和语句以及 LLM API 生成的相关数据结果,进行全量微调得到的猪八戒聊天模型。作为 Roleplay-with-XiYou
子项目之一,八戒-Chat-1.8B
能够以较低的训练成本达到不错的角色模仿能力,同时低部署条件能够为后续工作降低算力门槛。
当然,同学们也可以参考其他优秀的实战营项目,具体模型链接如下:
- 八戒-Chat-1.8B:魔搭社区
- Chat-嬛嬛-1.8B:OpenXLab浦源 - 模型中心
- Mini-Horo-巧耳:OpenXLab浦源 - 模型中心
2 配置基础环境
运行环境命令:
conda activate demo
使用 git
命令来获得仓库内的 Demo 文件:
cd /root/
git clone https://gitee.com/InternLM/Tutorial -b camp2
# git clone https://github.com/InternLM/Tutorial -b camp2
cd /root/Tutorial
3 下载运行 Chat-八戒 Demo
在 Web IDE
中执行 bajie_download.py
:
python /root/Tutorial/helloworld/bajie_download.py
待程序下载完成后,输入运行命令:
streamlit run /root/Tutorial/helloworld/bajie_chat.py --server.address 127.0.0.1 --server.port 6006
待程序运行的同时,对端口环境配置本地 PowerShell
。使用快捷键组合 Windows + R
(Windows 即开始菜单键)打开指令界面,并输入命令,按下回车键。(Mac 用户打开终端即可)
打开 PowerShell 后,先查询端口,再根据端口键入命令 (例如图中端口示例为 38374):
# 从本地使用 ssh 连接 studio 端口
# 将下方端口号 38374 替换成自己的端口号
ssh -CNg -L 6006:127.0.0.1:6006 root@ssh.intern-ai.org.cn -p 38374
再复制下方的密码,输入到 password
中,直接回车:
最终保持在如下效果即可:
打开 http://127.0.0.1:6006 后,等待加载完成即可进行对话,键入内容示例如下:
你好,请自我介绍
效果图如下:
我问老猪,最爱的人是谁,哈哈哈
回答的还蛮智慧的