【Agent-lightning】 - 1_环境搭建

源代码仓库: agent-lightning 源代码仓库

论文链接: Agent Lightning 论文

个人代码仓库: agent-lightning 个人仓库

Tutorial: Tutorial.md

记录一下使用 Agent-lightning 时的一些使用细节,这里主要记录一下最开始的环境搭建。

这里主要使用 uv工具 来搭建环境,步骤如下:

bash 复制代码
git clone https://github.com/Yhc-777/agent-lightning.git
cd agent-lightning

uv venv .venv --python 3.12
source .venv/bin/activate

uv sync
uv pip install -e .

# 可能在做项目时需要安装额外的库,例如:
uv pip install vllm==0.10.2
uv pip install verl==0.5.0
uv pip install torch==2.8.0 torchvision==0.23.0 --index-url https://download.pytorch.org/whl/cu128

mkdir pkgs && cd pkgs
wget https://github.com/Dao-AILab/flash-attention/releases/download/v2.8.1/flash_attn-2.8.1+cu12torch2.8cxx11abiTRUE-cp312-cp312-linux_x86_64.whl
uv pip install flash_attn-2.8.1+cu12torch2.8cxx11abiTRUE-cp312-cp312-linux_x86_64.whl

这个环境主要用于:

  • LLM的模型开发部署(vLLM)
  • DL的训练(PyTorch+CUDA,对版本有要求)
  • Attention计算(Flash Attention)
  • RL(Verl)

当然如果后面需要安装额外的库,或者兼容其他算法,也可以直接 uv pip install xxx 即可。

相关推荐
孟健9 小时前
用 unslop 拯救 AI 生成网页的塑料感,7 分钟重构落地实测
前端·人工智能·ai编程
stormzhangV9 小时前
Google 重返第一梯队
人工智能·google·aigc
十有八七10 小时前
手搓 Agent(五):学会翻书——RAG,先查资料再回答
前端·人工智能·后端
阿里云大数据AI技术10 小时前
阿里云 Milvus 场景中心|一键部署你的AI应用
人工智能
京东云开发者10 小时前
Agent 研发工作系统:面向多需求并行端到端开发的设计与实践
人工智能
IT大白鼠11 小时前
当 AI 开始自动化渗透:FBI ARTEX 警报的防守对策
运维·人工智能·自动化
进击的丸子12 小时前
1126B的Demo实操——虹软ArcFace SDK(RV1126BP ARM64 V5.0)交叉编译与运行指南
人工智能·程序员·代码规范
独隅12 小时前
Cann-Samples 实战应用与场景落地指南
人工智能·cann·cann-samples
阿里云大数据AI技术12 小时前
让 Agent 学会诊断 Elasticsearch:一套证据绑定的智能运维方法论
人工智能
十有八七12 小时前
手搓 Agent(四):长点记性——上下文满了怎么办,怎么记住上一次
前端·人工智能·后端