书生谱语-大语言模型测试demo

课程内容简介



Lagent是基于对话模型与交互界面构成的大语言模型交互框架,可以自由切换模型,并通过输入与模型进行对话

通用环境配置

开发机

InterStudio

配置公钥

在本地机器上打开 Power Shell 终端。在终端中,运行以下命令来生成 SSH 密钥对:

C 复制代码
ssh-keygen -t rsa

您将被提示选择密钥文件的保存位置,默认情况下是在 ~/.ssh/ 目录中。按 Enter 键接受默认值或输入自定义路径。

公钥默认存储在 ~/.ssh/id_rsa.pub,可以通过系统自带的 cat 工具查看文件内容:

C 复制代码
cat ~\.ssh\id_rsa.pub

~ 是用户主目录的简写,.ssh 是SSH配置文件的默认存储目录,id_rsa.pub 是 SSH 公钥文件的默认名称。所以,cat ~.ssh\id_rsa.pub 的意思是查看用户主目录下的 .ssh 目录中的 id_rsa.pub 文件的内容。

配置公钥


pip 换源

临时使用镜像源安装,如下所示:some-package 为你需要安装的包名

C 复制代码
pip install -i https://mirrors.cernet.edu.cn/pypi/web/simple some-package

设置pip默认镜像源,升级 pip 到最新的版本 (>=10.0.0) 后进行配置,如下所示:

C 复制代码
python -m pip install --upgrade pip
pip config set global.index-url https://mirrors.cernet.edu.cn/pypi/web/simple

如果您的 pip 默认源的网络连接较差,临时使用镜像源升级 pip:

C 复制代码
python -m pip install -i https://mirrors.cernet.edu.cn/pypi/web/simple --upgrade pip

conda环境配置教程可参考
github

下面可以愉快的测试教程中的demo了

Huggingface模型库
模型库
说明文档

demo1

demo2

demo3

demo4

作业1

作业2

这里我在尝试在自己的电脑上进行下载时,

出现了链接错误和无法寻找到repo_id的问题(尝试过科学上网)

相关推荐
程序员脚趾28 分钟前
GPT-5.6 上线:当 GPT 与 Codex 走向融合,AI 正从“回答问题”走向“完成工作”
人工智能
thubier(段新建)1 小时前
owtb 3pl 面向城市配送物流企业需求V0.2
大数据·人工智能
Token炼金师1 小时前
模型的防线:Prompt 注入防御、越狱攻击与对齐、红队测试、价值观对齐、对抗样本鲁棒性、安全评测与边界 —— 模型安全六防
人工智能·红队测试·prompt 注入防御·越狱攻击与对齐·价值观对齐·对抗样本鲁棒性·安全评测与边界
嘘神秘用2 小时前
布:AI 驱动的 Redis 客户端,更快、更直观
数据库·人工智能·redis
黒亱中旳2 小时前
Java AI 框架三国杀:Solon AI vs Spring AI vs LangChain4j 深度对比
java·人工智能·spring
小和尚同志2 小时前
前端 AI 单元测试思考与落地
前端·人工智能·aigc
alxraves2 小时前
医用超声远程会诊系统:会诊平台的核心架构与功能解析
java·人工智能·架构
jinggongszh3 小时前
智能硬件对接与系统落地:开发岗在制造现场的经验沉淀
大数据·人工智能
ZeekerLin3 小时前
AI 原生团队协作机制:角色、分工与工程文化变化
大数据·人工智能
城中南小3 小时前
零基础认识大语言模型(LLM)工作原理(5.Transformer的FFN模块到底是什么?)
人工智能·语言模型·transformer