ARTICLE DETAIL

资讯详情

深耕网站建设、视觉设计与SEO优化的一线实战洞察。

【Agent-lightning】 - 1_环境搭建

【Agent-lightning】 - 1_环境搭建

源代码仓库:agent-lightning 源代码仓库

论文链接:Agent Lightning 论文

个人代码仓库:agent-lightning 个人仓库

Tutorial:Tutorial.md

记录一下使用 Agent-lightning 时的一些使用细节,这里主要记录一下最开始的环境搭建。

这里主要使用uv工具来搭建环境,步骤如下:

git clone https://github.com/Yhc-777/agent-lightning.git cd agent-lightning uv venv .venv --python 3.12 source .venv/bin/activate uv sync uv pip install -e . # 可能在做项目时需要安装额外的库,例如: uv pip install vllm==0.10.2 uv pip install verl==0.5.0 uv pip install torch==2.8.0 torchvision==0.23.0 --index-url https://download.pytorch.org/whl/cu128 mkdir pkgs && cd pkgs wget https://github.com/Dao-AILab/flash-attention/releases/download/v2.8.1/flash_attn-2.8.1+cu12torch2.8cxx11abiTRUE-cp312-cp312-linux_x86_64.whl uv pip install flash_attn-2.8.1+cu12torch2.8cxx11abiTRUE-cp312-cp312-linux_x86_64.whl

这个环境主要用于:

  • LLM的模型开发部署(vLLM)
  • DL的训练(PyTorch+CUDA,对版本有要求)
  • Attention计算(Flash Attention)
  • RL(Verl)

当然如果后面需要安装额外的库,或者兼容其他算法,也可以直接 uv pip install xxx 即可。

返回列表