AI+硬件不是新故事,但如果能在集成各种大模型和智能体的同时,对每一台设备的 AI 服务使用量进行更加精确的管理,也许会带来新机会。先打通、先接入、先管理,就能抢占先机。
硬件厂商想要真正拥抱大模型,还面临着这些问题:
-
如何实现硬件快速接入、调用 AI 服务?
-
单台设备怎么控制 AI 成本用量?
-
智能硬件如何进行设备级的长期管理?
-
设备之间怎么实现联动,真正发挥 AI 价值?
想要解决这些问题,我们需要在硬件设备和大模型之间搭建一座桥梁。今天,火山引擎边缘大模型网关打通智能设备管理平台,全面推出端智能****实例。用户通过端智能实例提供的 OneSDK ,就可以完成设备接入、AI 服务调用、设备用量统计以及制定智能服务调用策略等,实现对智能硬件的全流程管理。
端智能实例产品能力详述
OneSDK 一站式接入,轻松实现长期管理
过去,端智能应用往往涉及调用物联网、视频云、智能体等多个平台,每个平台都有独立的 SDK,且支持的开发语言、适配的操作系统参差不齐,同时端侧有限资源的 SDK 迁移也存在技术挑战,使得端智能落地遇到层层阻碍。
现在,用户通过端智能实例提供的 OneSDK,即可完成一站式设备接入及管理运维,同时实现多模型和多智能体调用的智能需求,大大提升设备管理效率,轻松实现长期管理。
端智能实例-实例概览演示
端智能实例适用于拥有不同设备的硬件厂商,比如智能玩具厂商旗下不同芯片、场景、用途的玩具,都可以通过端智能实例 OneSDK 轻松接入上云,仅需一套鉴权机制,即可使用设备管理与 AI 服务调用的全套能力,一站式解决设备管理、AI 服务调用需求。
多模型、多智能体,随时随地调用热门 AI 服务
过去,紧随大模型发展,端智能应用需要不断更新接入的模型能力,抢占新用户,但接入大模型需要极高的开发、测试等成本,而且大模型厂商的服务稳定性难以保障。
现在,用户通过端智能实例, 一站式集成边缘大模型网关预置的上百种大模型与智能体,满足了多模型和多智能体调用的设备智能需求,同时,通过端智能实例可以直接接入多种自研的面向端侧场景的边缘原生智能体,无需二次开发,即可实现一站式调用,提升大模型与智能体的调用效率。值得一提的是,边缘大模型网关基于多厂商服务,在服务出现故障时将实现自动迁移,保证服务的稳定性。
端智能实例-模型配置演示
此外,端智能实例为终端设备接入大模型和智能体调用提供成本控制能力,用户可以通过端智能实例的单设备 AI 服务用量管控能力,控制单台设备的调用成本,对配置好的大模型进行有选择地续费。智能终端通过端智能实例调用 Al 服务可以达到更便宜、更快速的效果。
端智能实例-AI 用量明细演示
端智能实例-AI 用量趋势演示
除了 AI 服务调用,端智能实例还支持设备通过边缘大模型网关内置边缘原生智能体,快速掌握更多智能化能力。例如,通过调用语音对话智能体,赋予硬件语音响应能力,用户可以通过语音对话智能体实现 Audio-in-and-out 的一站式服务调用,无需进行二次工程化改造,及时快速为智能终端注入语音对话能力。
同时,边缘原生智能体还包括文字识别、工业质检、目标检测等,可以帮助硬件实现对表格、图片、文档、证件等文字的检测和识别能力;对 PCBA 板的元器件外观识别与检测能力;对包括不同类别、形状、大小、颜色在内的物体的识别等能力。
边缘大模型网关 AI 能力与服务
结合边缘大模型网关提供的一站式 AI 服务调用能力,用户无需再通过组合多种模型进行特定场景的适配,即可调用面向端侧场景研发的智能服务。
监控运维+规则引擎,闭环"设备连接"到"业务价值"
过去,物联网平台通过监控运维与规则引擎等能力,打破了数据孤岛,实现了设备的长期管理与设备间的联动。现在,端智能实例产品融合了传统物联网平台能力,在使用端智能实例提供的 AI 服务的同时,依然可以实时监测设备状态、进行 OTA 远程升级等,还支持场景联动、数据转发等功能,并通过设备联动,更好地发挥 AI 服务的价值,真正赋能业务。
End
目前,端智能实例能力上线并初步取得实践成果。
-
在批量孵化大量智能终端的场景上,端智能实例为厂商的硬件设备构建了精细化的 AI 服务成本管控体系,并满足端智能设备的全生命周期管理诉求,为厂商降低长期 AI 服务成本,提升资源利用率。
-
在硬件快速调用集成场景上,通过 OneSDK 整合所有能力,面向嵌入式开发场景,通过 C 语言 SDK 保障原子级硬件操作能力与极致的运行效率,帮助实现快速调用,保障 AI 服务调用的稳定性,进一步保障用户体验。
端智能实例可以帮助智能硬件实现**更轻松接入、更精细的成本控制,更长久的监控运维,从而实现设备的全生命周期管理。**如果你想进一步尝试,欢迎飞书扫码联系我们。