【Agent-lightning】 - 1_环境搭建

源代码仓库: agent-lightning 源代码仓库

论文链接: Agent Lightning 论文

个人代码仓库: agent-lightning 个人仓库

Tutorial: Tutorial.md

记录一下使用 Agent-lightning 时的一些使用细节,这里主要记录一下最开始的环境搭建。

这里主要使用 uv工具 来搭建环境,步骤如下:

bash 复制代码
git clone https://github.com/Yhc-777/agent-lightning.git
cd agent-lightning

uv venv .venv --python 3.12
source .venv/bin/activate

uv sync
uv pip install -e .

# 可能在做项目时需要安装额外的库,例如:
uv pip install vllm==0.10.2
uv pip install verl==0.5.0
uv pip install torch==2.8.0 torchvision==0.23.0 --index-url https://download.pytorch.org/whl/cu128

mkdir pkgs && cd pkgs
wget https://github.com/Dao-AILab/flash-attention/releases/download/v2.8.1/flash_attn-2.8.1+cu12torch2.8cxx11abiTRUE-cp312-cp312-linux_x86_64.whl
uv pip install flash_attn-2.8.1+cu12torch2.8cxx11abiTRUE-cp312-cp312-linux_x86_64.whl

这个环境主要用于:

  • LLM的模型开发部署(vLLM)
  • DL的训练(PyTorch+CUDA,对版本有要求)
  • Attention计算(Flash Attention)
  • RL(Verl)

当然如果后面需要安装额外的库,或者兼容其他算法,也可以直接 uv pip install xxx 即可。

相关推荐
MartinYeung52 分钟前
[论文学习]迈向自主医疗人工智能智能体:MIRA系统深度分析
人工智能·学习
土星云SaturnCloud14 分钟前
边缘侧大模型部署的新利器——国科环宇GK 300I大模型一体机深度评测与架构解析
服务器·人工智能·ai·边缘计算
_Jimmy_30 分钟前
Agent 溯源精度提升方案
人工智能·python·langchain
老猿AI洞察1 小时前
7月29日热点:AI越狱事件引发行业安全反思
人工智能·安全
用户938515635071 小时前
从零构建《天龙八部》知识库:EPUB 加载→文本分割→向量嵌入→Milvus 存储→RAG 问答,一条链路打通
javascript·人工智能·全栈
Muscleheng1 小时前
Spring Boot 3.x 集成 DeepSeek 实现 Function Calling(工具调用)
人工智能·spring boot·后端·ai·spring ai·deepseek
犀利豆1 小时前
Claude Code Tools 研究系列-前置篇(tool 机制)
人工智能
阿里云大数据AI技术2 小时前
AI Native, Now|阿里云 Milvus AI Function,从能力集成走向产品化落地
人工智能
西柚研究生1234562 小时前
创建自己的数据集(GoogLeNet)
深度学习·神经网络·cnn