书生谱语-大语言模型测试demo

课程内容简介



Lagent是基于对话模型与交互界面构成的大语言模型交互框架,可以自由切换模型,并通过输入与模型进行对话

通用环境配置

开发机

InterStudio

配置公钥

在本地机器上打开 Power Shell 终端。在终端中,运行以下命令来生成 SSH 密钥对:

C 复制代码
ssh-keygen -t rsa

您将被提示选择密钥文件的保存位置,默认情况下是在 ~/.ssh/ 目录中。按 Enter 键接受默认值或输入自定义路径。

公钥默认存储在 ~/.ssh/id_rsa.pub,可以通过系统自带的 cat 工具查看文件内容:

C 复制代码
cat ~\.ssh\id_rsa.pub

~ 是用户主目录的简写,.ssh 是SSH配置文件的默认存储目录,id_rsa.pub 是 SSH 公钥文件的默认名称。所以,cat ~.ssh\id_rsa.pub 的意思是查看用户主目录下的 .ssh 目录中的 id_rsa.pub 文件的内容。

配置公钥


pip 换源

临时使用镜像源安装,如下所示:some-package 为你需要安装的包名

C 复制代码
pip install -i https://mirrors.cernet.edu.cn/pypi/web/simple some-package

设置pip默认镜像源,升级 pip 到最新的版本 (>=10.0.0) 后进行配置,如下所示:

C 复制代码
python -m pip install --upgrade pip
pip config set global.index-url https://mirrors.cernet.edu.cn/pypi/web/simple

如果您的 pip 默认源的网络连接较差,临时使用镜像源升级 pip:

C 复制代码
python -m pip install -i https://mirrors.cernet.edu.cn/pypi/web/simple --upgrade pip

conda环境配置教程可参考
github

下面可以愉快的测试教程中的demo了

Huggingface模型库
模型库
说明文档

demo1

demo2

demo3

demo4

作业1

作业2

这里我在尝试在自己的电脑上进行下载时,

出现了链接错误和无法寻找到repo_id的问题(尝试过科学上网)

相关推荐
陈彬深大几秒前
《AI 渐进编程》之二十八: 对 AI 的理解决定使用效果
人工智能
信誓旦旦的程序猿3 分钟前
【零依赖量化数据实战 #25】北交所技术指标与基本面
java·人工智能·python·股票数据api·股票数据·股票数据api接口·股票api数据接口
Capricorn19884 分钟前
Bug排障实录:Software 3.0 遭遇文献幻觉?知芽 Notebook Skill 底层架构解析
人工智能·笔记·架构·bug·论文笔记
科技小E5 分钟前
训完怎么带走?AI模型私有化部署平台DLTM模型导出ONNX/PyTorch与离线部署跑遍产线边缘
人工智能·pytorch·python
晓窗科技6 分钟前
专业的AI基座公司
人工智能·python
T型码农要学习6 分钟前
Open WebUI:给本地AI装上网页界面,完美平替ChatGPT
人工智能·chatgpt
小鹿的周先生7 分钟前
Spring AI Chat模型入门——理解 ChatModel、ChatClient、Prompt 和 ChatResponse
人工智能·spring·ai·prompt
江厌019 分钟前
金融大模型私有化:信创合规下,算力该按哪个口径配
人工智能·深度学习·大模型·私有化部署·gpu·信创·ai服务器
Csvn12 分钟前
第 13 章 反思 Reflection
人工智能·aigc·agent
霸道流氓气质17 分钟前
Spring AI 结构化输出:JSON Mode 与 BeanOutputConverter
人工智能·spring·json