【OneAI】使用Rust构建的轻量AI网关

LLM网关

• 统一大模型API入口，使用一个令牌调用多家模型，无需切换API Key
• 兼容OpenAI输入输出规范
• 内置10+提供商和50+模型，开箱即用
• 支持自动负载、限流、IP限制、Token用量限制等功能
• 支持钉钉、飞书、企微消息预警
• 支持对不同提供商设置代理
• 支持主流系统部署，如Windows、Ubuntu、macOS、CentOS，以及部分边缘设备。

体验地址：https://oneai.coderbox.cn