技术栈
recipes
伊织code
4 个月前
部署
·
llama
·
推理
·
recipes
llama-recipes
使用可组合的FSDP和PEFT方法 微调Meta Llama3,以覆盖单/多节点GPU的脚本。 支持用于摘要和问答等应用程序的默认和自定义数据集。 支持许多直接的推理解决方案,例如用于本地或云部署的 HF TGI、VLLM。 展示WhatsApp 和 Messenger 的 Meta Llama3的演示应用程序。