从Token吞吐到多租户隔离:F5 AI安全解决方案加速智能体AI工作流落地

西雅图 -- 作为全球领先的应用交付和AI安全解决方案提供商,F5(NASDAQ: FFIV)日前宣布进一步扩展与NVIDIA的深度合作。此次升级通过整合F5 BIG-IP Next for Kubernetes与NVIDIA BlueField-3 DPU,构建出智能化基础设施层。F5 AI安全解决方案在此架构中显著提升GPU利用率及Token吞吐量、降低时延,并支持大规模多租户AI平台的安全构建。这一合作旨在帮助企业与GPU即服务提供商从实验阶段迈向规模化创收,将基础设施效率作为关键衡量指标。

  

Token是AI推理过程中生成的基本单位。当前行业衡量标准正从单纯的GPU部署规模转向Token经济指标,包括Token吞吐量、首个Token时间、单Token成本及单GPU收入。F5 AI安全解决方案正是围绕这些核心指标进行优化设计。经The Tolly Group验证测试,基于NVIDIA BlueField-3 DPU加速的F5 BIG-IP Next for Kubernetes实现了最高40%的Token吞吐提升、首个Token时间加快61%,以及整体请求时延降低34%。F5 AI安全解决方案通过将网络处理、TLS加密、AI感知负载均衡及流量管理卸载至DPU,释放主机CPU资源,让GPU专注于AI推理计算。这一架构无需修改模型即可提升GPU利用率、减少排队延迟、增强Token产出能力,从而在固定基础设施规模下实现更低的单Token成本。

面向智能体驱动的AI工作流,F5 AI安全解决方案已深度集成NVIDIA NIM统计数据、Dynamo运行时信号及GPU遥测信息,实现推理前的状态感知流量调度。F5 BIG-IP Next for Kubernetes增强版支持推理感知路由、集成NVIDIA DOCA Platform Framework简化DPU部署、基于EVPN-VXLAN与动态VRF的网络级多租户隔离,以及在Kubernetes AI环境中内建安全与可观测性。

F5首席产品官Kunal Anand指出:"F5 AI安全解决方案助力AI工厂将Token产出转化为可量化的业务指标,提升GPU产出效率并更自信地扩展共享型AI平台。

NVIDIA网络业务高级副总裁Kevin Deierling表示:"NVIDIA加速计算基础设施与F5 AI安全解决方案相结合,能够显著提升AI工厂的Token经济效益。

通过深度融合NVIDIA基础设施遥测与DPU加速能力,F5 AI安全解决方案正演进为AI工厂经济学的战略级控制平面,实现治理Token消耗、优化流量路径并提升投资回报率。企业无需过度资源预留即可从现有GPU中释放更高经济价值,最终将AI工厂转化为高效、可变现的业务平台,为智能体时代做好充分准备。

相关推荐
johnsong3 小时前
AI前沿日报 · 2026-10-31 | 安全失守——当AI工具被下毒、当云端门户洞开
人工智能·安全
飞飞传输4 小时前
飞驰云联文件交换建设方法论:从单点传输到持续治理
大数据·运维·安全
得帆低代码PaaS4 小时前
企业级 Agent 架构:MCP、Integration、数据与治理能力
大数据·人工智能·架构·ai agent·企业数字化·mcp
一条大祥脚5 小时前
TVM 的前世今生:从深度学习编译器到 AI 基础设施
人工智能·深度学习·tvm
冬奇Lab5 小时前
一天一个开源项目(第255篇):Mika —— 装在安卓手机里的 AI 代理,在后台虚拟屏上替你操作 App 和网页
人工智能·开源·资讯
孟健7 小时前
实测 agent-desktop:AI 控制桌面不截图、不占鼠标键盘,连点 55 次计算器 0 失误
人工智能·架构·开源
MUSHANGXS7 小时前
大模型时代的新蓝海-基于OS底层的AI-Agent应用
人工智能·职场和发展·交互
伞伞悦读7 小时前
【第76期】两张3行表左连接变5行:主键、validate与未匹配排查完整教程
人工智能·python
IT_陈寒8 小时前
Redis大key删除为什么会导致服务卡顿?我的线上事故复盘
前端·人工智能·后端
阿里云大数据AI技术8 小时前
云栖实录 | AgenticSearch 定义 AI 搜索时代的信息检索 - 新范式
人工智能