🚀 快速阅读
-
平台简介：Oumi 是一个完全开源的 AI 平台，简化从数据准备、模型训练到评估和部署的整个生命周期。
-
主要功能：支持多种训练技术、多模态模型、数据合成与管理、高效部署及企业级支持。
-
技术原理：通过零样板代码设计、灵活的训练框架和分布式训练优化开发流程。
正文（附运行示例）
Oumi 是什么
Oumi
Oumi 是一个完全开源的 AI 平台，旨在简化从数据准备、模型训练到评估和部署的整个生命周期。它支持从 1000 万到 4050 亿参数的模型训练，涵盖文本和多模态模型（如 Llama、Qwen 等），提供零样板代码（Zero Boilerplate）的开发体验。
通过高度抽象化的设计，Oumi 使开发者能够专注于核心任务，而无需编写大量重复的代码。用户可以通过简单的配置文件（如 YAML 格式）定义模型的训练参数、数据路径和训练策略等，极大提高了开发效率。
Oumi 的主要功能
-
模型训练与微调：支持多种训练技术，如监督微调（SFT）、LoRA、QLoRA、DPO 等。
-
多模态支持：支持文本和多模态模型的训练与部署。
-
数据合成与管理：能通过 LLM（大型语言模型）评估器合成和整理训练数据。
-
高效部署：支持多种流行的推理引擎（如 vLLM、SGLang），可在本地、集群或云端（AWS、Azure、GCP 等）运行。
-
企业级支持：提供定制化模型开发、安全可靠的 AI 解决方案以及专家支持。
Oumi 的技术原理
-
零样板代码（Zero Boilerplate）：Oumi 通过高度抽象化的设计，简化了 AI 开发流程。开发者只需通过简单的配置文件定义模型的训练参数、数据路径、训练策略等，无需编写大量重复的代码。
-
灵活的训练框架：Oumi 支持多种训练技术，包括监督微调（SFT）、LoRA（Low-Rank Adaptation）、QLoRA（Quantization + LoRA）和 DPO（Direct Preference Optimization）等。开发者可以根据具体需求选择合适的训练方法，优化模型性能。
-
分布式训练：Oumi 优化了分布式训练的流程，支持多 GPU 和多节点的训练任务。开发者可以在大规模数据集上高效训练大型模型，保持训练过程的稳定性和可扩展性。
如何运行 Oumi
1. 安装 Oumi
安装 Oumi 在你的环境中非常简单：
# 安装 CPU 版本pip install oumi # 适用于本地开发和测试# 安装 GPU 版本（需要 Nvidia 或 AMD GPU）pip install oumi[gpu] # 适用于 GPU 训练# 获取最新版本，从源代码安装pip install git+https://github.com/oumi-ai/oumi.git更多高级安装选项，请参阅：
2. 使用 Oumi CLI
你可以通过 oumi 命令快速进行模型训练、评估和推理：
# 训练oumi train -c configs/recipes/smollm/sft/135m/quickstart_train.yaml# 评估oumi evaluate -c configs/recipes/smollm/evaluation/135m/quickstart_eval.yaml# 推理oumi infer -c configs/recipes/smollm/inference/135m_infer.yaml --interactive更多详细信息请参阅以下指南：
-
训练指南：https://oumi.ai/docs/en/latest/user_guides/train/train.html
-
评估指南：https://oumi.ai/docs/en/latest/user_guides/evaluate/evaluate.html
-
推理指南：https://oumi.ai/docs/en/latest/user_guides/infer/infer.html
-
LLM 作为评委指南：https://oumi.ai/docs/en/latest/user_guides/judge/judge.html
3. 远程运行任务
你可以使用 oumi launch 命令在云平台上（如 AWS、Azure、GCP、Lambda 等）远程运行任务：
# GCPoumi launch up -c configs/recipes/smollm/sft/135m/quickstart_gcp_job.yaml# AWSoumi launch up -c configs/recipes/smollm/sft/135m/quickstart_aws_job.yaml# Azureoumi launch up -c configs/recipes/smollm/sft/135m/quickstart_azure_job.yaml# Lambdaoumi launch up -c configs/recipes/smollm/sft/135m/quickstart_lambda_job.yaml注意：Oumi 目前处于 beta 阶段，核心功能已稳定，但部分高级功能可能会随着平台的改进而变化。
资源
-
项目官网：https://oumi.ai
-
官方文档：https://oumi.ai/docs
-
GitHub 仓库：https://github.com/oumi-ai/oumi