recipes

伊织code5 个月前
部署·llama·推理·recipes
llama-recipes使用可组合的FSDP和PEFT方法 微调Meta Llama3，以覆盖单/多节点GPU的脚本。 支持用于摘要和问答等应用程序的默认和自定义数据集。 支持许多直接的推理解决方案，例如用于本地或云部署的 HF TGI、VLLM。 展示WhatsApp 和 Messenger 的 Meta Llama3的演示应用程序。