JAiRouter v1.0.0 正式发布:企业级 AI 服务网关的开源解决方案

写在前面

从 2025 年 9 月 6 日第一次把 .git 推到 GitHub,到今天 10 月 16 日------短短 40 天 ⏳,一个人 🧑‍💻 包揽架构 🏗️、编码 ⌨️、布道 📣,把 13 个模块、356 文件、3.6 万行"能跑就行"的草稿,熬成可灰度的 1.0.0 🚀。

167 次提交 📊,绿点排成单人栈 trace;+48 757 / −12 333 行增删,没有 merge 花活 ,没有 squash 造假,每一次 push 都留在历史里供人检阅 👀。

平均 24 h 4.2 次提交 ⚡,每 5.7 h 就有一行新代码被合入 ➕。

这不是 KPI 工程 📈,而是把"让 AI 网关真正好用"的执念 🎯,写进了每一次 git log 📝。

JAiRouter

JAiRouter 是一个基于 Spring Boot 的模型服务路由和负载均衡网关,用于统一管理和路由各种 AI 模型服务(如

Chat、Embedding、Rerank、TTS 等),支持多种负载均衡策略、限流、熔断、健康检查、动态配置更新等功能。

🧭 功能概览(Web 控制台)

模块分类 功能菜单 功能描述
🔍 概览 仪表板 实时展示系统状态、服务健康度、请求趋势、异常统计等关键信息,支持图表可视化与动态刷新。
⚙️ 配置管理 服务管理 支持动态配置 AI 服务类型、适配器、负载均衡策略,支持服务级限流与熔断规则配置。
实例管理 提供实例的新增、编辑、删除、状态管理,支持实例级限流、熔断、健康检查与权重配置。
版本管理 支持配置版本的全生命周期管理:创建、应用、回滚、删除,支持元数据记录与版本对比。
配置合并 提供多版本配置的智能合并、冲突检测、合并预览与操作日志,支持自动合并与手动干预。
🔐 安全管理 API 密钥管理 支持 API Key 的创建、启用/禁用、权限分配、使用统计与过期提醒,支持敏感字段脱敏。
JWT 令牌管理 提供 JWT 令牌的生命周期管理:查询、撤销、刷新、黑名单机制,支持 Redis 与文件持久化。
审计日志 完整记录用户登录、配置变更、令牌操作、密钥管理等关键事件,支持事件类型筛选与追踪。
👤 系统管理 账户管理 支持管理员账户的创建、权限分配、状态管理与操作日志追踪。
📊 追踪管理 追踪概览 实时展示追踪数据的健康状态、采样率、服务统计与趋势图表。
追踪搜索 支持多条件组合查询追踪记录,支持按服务、时间、状态、标签等维度筛选。
性能分析 提供服务级性能指标分析:延迟分布、错误率、吞吐量、瓶颈诊断与优化建议。
追踪管理 支持采样策略配置(全局/服务级)、性能配置、导出器配置,支持追踪数据实时刷新。

🚀 核心亮点

  • 全功能 Web 控制台:从零构建,覆盖配置、安全、追踪、审计等完整管理链路。
  • 前后端分离架构:基于 Vue3 + Element Plus,响应式设计,交互友好。
  • 配置版本控制:支持配置的多版本管理与回滚,保障变更可追溯。
  • 追踪与性能监控:集成分布式追踪与性能分析,助力系统可观测性。
  • 企业级安全机制:支持 JWT + API Key 双认证体系,内置审计与脱敏机制。
  • 高可用与扩展性:支持 Redis 高可用部署,配置与令牌支持多级存储策略。

🧩 适用场景

  • 企业内部 AI 服务网关统一管理
  • 多模型服务路由与负载均衡
  • API 安全认证与访问控制
  • 分布式系统追踪与性能分析
  • 配置变更审计与版本回滚

📚 在线文档

完整的项目文档已迁移至 GitHub Pages,可在线访问:

文档内容包括:

  • 快速开始指南
  • 详细配置说明
  • API 参考
  • 部署指南
  • 监控配置
  • 开发指南
  • 故障排查

🚀 快速开始

复制代码
# 拉取最新镜像
docker pull sodlinken/jairouter:latest

# 运行容器
docker run -d \
  --name jairouter-dev \
  -p 8080:8080 \
  -e SPRING_PROFILES_ACTIVE=dev \
  -e JWT_SECRET="your-very-strong-jwt-secret-key-at-least-32-characters-long" \
  -e JAVA_OPTS="-Xms256m -Xmx512m -agentlib:jdwp=transport=dt_socket,server=y,suspend=n" \
  sodlinken/jairouter:dev
  1. 访问服务
bash 复制代码
curl http://localhost:8080/admin/login

用户名:admin

密码:UqfpTm2Zw7ff2BNnZb8AQo8t

登录成功后,即可进入 Web 界面进行服务配置、管理、追踪与性能分析等操作。

仪表盘

实例配置

配置合并

安全审计

API-KEY

JWT

📖 完整文档与部署指南点击查看

🐙 开源地址GitHub - JAiRouter


💬 欢迎反馈与共建,让我们一起让 JAiRouter 变得更好!

相关推荐
郝学胜-神的一滴1 分钟前
超越Spring的Summer(一): PackageScanner 类实现原理详解
java·服务器·开发语言·后端·spring·软件构建
小刘的大模型笔记1 分钟前
大模型LoRA微调全实战:普通电脑落地,附避坑手册
人工智能·电脑
乾元1 分钟前
身份与访问:行为生物识别(按键习惯、移动轨迹)的 AI 建模
运维·网络·人工智能·深度学习·安全·自动化·安全架构
happyprince1 分钟前
2026年02月07日全球AI前沿动态
人工智能
啊阿狸不会拉杆2 分钟前
《机器学习导论》第 7 章-聚类
数据结构·人工智能·python·算法·机器学习·数据挖掘·聚类
摇滚侠2 分钟前
Java,举例说明,函数式接口,函数式接口实现类,通过匿名内部类实现函数式接口,通过 Lambda 表达式实现函数式接口,演变的过程
java·开发语言·python
Java后端的Ai之路2 分钟前
【AI大模型开发】-AI 大模型原理深度解析与 API 实战(建议收藏!!!)
人工智能·ai·科普·ai大模型·llm大模型
禁默3 分钟前
从图像预处理到目标检测:Ops-CV 助力 CV 任务在昇腾 NPU 上高效运行
人工智能·目标检测·目标跟踪·cann
ghostwritten4 分钟前
春节前夕,运维的「年关」:用 Kubeowler 给集群做一次「年终体检」
运维·云原生·kubernetes
打工的小王5 分钟前
java并发编程(七)ReentrantReadWriteLock
java·开发语言