【Agent-lightning】 - 1_环境搭建

源代码仓库: agent-lightning 源代码仓库

论文链接: Agent Lightning 论文

个人代码仓库: agent-lightning 个人仓库

Tutorial: Tutorial.md

记录一下使用 Agent-lightning 时的一些使用细节,这里主要记录一下最开始的环境搭建。

这里主要使用 uv工具 来搭建环境,步骤如下:

bash 复制代码
git clone https://github.com/Yhc-777/agent-lightning.git
cd agent-lightning

uv venv .venv --python 3.12
source .venv/bin/activate

uv sync
uv pip install -e .

# 可能在做项目时需要安装额外的库,例如:
uv pip install vllm==0.10.2
uv pip install verl==0.5.0
uv pip install torch==2.8.0 torchvision==0.23.0 --index-url https://download.pytorch.org/whl/cu128

mkdir pkgs && cd pkgs
wget https://github.com/Dao-AILab/flash-attention/releases/download/v2.8.1/flash_attn-2.8.1+cu12torch2.8cxx11abiTRUE-cp312-cp312-linux_x86_64.whl
uv pip install flash_attn-2.8.1+cu12torch2.8cxx11abiTRUE-cp312-cp312-linux_x86_64.whl

这个环境主要用于:

  • LLM的模型开发部署(vLLM)
  • DL的训练(PyTorch+CUDA,对版本有要求)
  • Attention计算(Flash Attention)
  • RL(Verl)

当然如果后面需要安装额外的库,或者兼容其他算法,也可以直接 uv pip install xxx 即可。

相关推荐
火山引擎开发者社区4 小时前
七夕漫谈|向量检索界的超强 CP:DiskANN 铺路,RaBitQ 加速,又准又快还能省
人工智能
孙启超6 小时前
【大模型应用开发】LLM 到底是什么,以及它是怎么训练的
人工智能·lora·llm·微调·sft·token·rlhf
新知图书6 小时前
7.1 需求分析与规划 《AI Agent智能体开发实践》
人工智能·agent·ai agent·智能体
clorinda6 小时前
机器学习文本分类入门:从数据清洗到中文评论词向量转换
人工智能
小宋10217 小时前
Dify 知识库实战:从 PDF 导入到带引用回答,完整搭建企业问答助手
人工智能·ai编程
Lee_jerome7 小时前
从 PyTorch 权重到 RK3588 板端推理:ResNet18 二分类模型完整部署教程
pytorch·边缘计算·rk3588·模型部署·onnx·resnet18·int8量化
用户938515635078 小时前
从Vibe Coding到SDD:规范驱动开发如何拯救AI编程失控
人工智能
蓝速科技8 小时前
蓝速科技桌面 AI 双屏翻译机:开放安卓系统商用价值解析
人工智能·科技
博、、8 小时前
社区家政平台开发实战指南:从需求分析到系统部署全流程解析
人工智能·数据挖掘·需求分析
Python私教8 小时前
别急着加 llms.txt:企业官网面向 AI 搜索的工程清单
前端·人工智能·seo