生成式AI的全球支出预计将在2025年达到6440亿美元，较2024年激增76%。这一数据传递出明确信号：企业普遍认为，若在AI应用领域落后，企业将面临生存危机。然而，尽管AI技术已无处不在，但其应用仍持续引发企业领导层的忧虑------从安全隐患到运营挑战，诸多问题亟待解决。
关于AI的潜在风险与弊端是否值得其宣称的巨大收益，业界始终存有疑虑。尽管创新承诺能带来客户体验与运营效率的变革性提升，但将AI深度嵌入现有运营体系所伴随的风险，亦可能引发严重后果。
寻找平衡点
技术领导者面临一项"平衡"挑战：企业如何在积极开拓AI疆土的同时，避免为自身埋下难以承受的风险隐患。
由Akamai委托、Forrester进行的一项新研究，就企业目前如何实现这种平衡提供了一些答案。该研究通过对400名高级AI和企业云战略决策者进行调研，揭示了组织如何在快速捕获价值的同时，建立必要的防护措施来保护其业务。
企业如何确定AI场景的优先级
Forrester的研究明确指出，企业领导者正将AI直接融入核心业务目标，使其成为业务战略的核心。即便如此，领导者们也谨慎地优先考虑低风险、高回报的应用。
受访者指出了推动AI投资的三大首要目标：
- 改善客户体验（76%）
- 提高运营效率（76%）
- 加强客户留存（71%）
其他研究持续表明，客户体验的改善与收入增长、客户流失减少和更强的竞争优势直接相关。
例如，麦肯锡公司指出："......全球最成功的高增长企业所创造的价值中，80%来自核心业务------主要是从现有客户中挖掘新收益。"
最高优先级的AI场景最贴近客户
因此，企业领导者并非因为需要保持竞争力而使用AI，而是谨慎地将这种新技术与影响收入和增长的可衡量成果挂钩。这就解释了为什么最高优先级的AI使用案例是那些最贴近客户的场景。
超过一半的组织正在将AI应用用于个性化（53%）、自动化客户解决流程（53%）和回答客户问题（52%）。与更具实验性的用例相比，这些应用风险相对较低，但能带来快速、有形的投资回报。
通过专注于直接的客户体验改善，公司可以产生回报，为进一步的探索提供资金，同时也能让团队和基础设施为更宏大的计划做好准备。
采用AI的风险格局
Forrester的研究也呼应了企业领导者从一开始就对AI存在的一些担忧。他们最关心的AI问题包括：
- 网络安全风险
- 合规性挑战
- 声誉损害
- 财务损失
网络安全风险
63%的受访者担心网络安全风险。AI系统引入了新的攻击面，并为威胁行为者扩大了现有的攻击面。诸如模型投毒、提示注入和数据窃取之类的威胁，已在现实场景中出现。当面向客户的应用程序依赖AI进行决策时，即使是微小的漏洞也可能级联成重大的安全漏洞。
合规性挑战
随着政府颁布新的AI驱动法规，如欧盟《人工智能法案》、美国监管框架以及特定行业指南，企业在扩展AI规模时面临着合规障碍。与传统软件不同，AI引入了可解释性、可审计性和偏见缓解等独特问题。未能达到法规要求可能导致处罚、法律风险部署停滞。
声誉损害
AI故障往往会迅速曝光。有偏见的推荐系统或胡言乱语的聊天机器人，随时可能登上新闻头条。客户数据隐私也可能因此泄露。对于面向客户的应用场景而言，此类失误远不止是技术问题------更会重创品牌形象。而重建用户对企业的信任，注定代价高昂。
财务损失
实施不当的AI可能导致客户流失、机会丧失和投资浪费。例如，如果零售业的AI聊天机器人提供了误导性的财务建议，公司可能不仅面临监管罚款和诉讼，还会遭遇消费者的强烈反对，这将削弱AI系统本应实现的客户留存收益。
这些风险的后果有可能像滚雪球一样演变成严重的业务中断，这就是为什么领导者必须谨慎采用AI，必须仔细平衡创新的风险与回报。
企业如何实现这种平衡
尽管AI的回报是否大于风险仍有待观察，但当今的企业并非无能为力。根据Forrester的研究，领导者们可以在以下方面相互借鉴：
- 迭代式采用
- 用于AI训练和推理的托管服务
- 云原生和开源技术的采用
- 强大的供应商生态系统
- 跨职能治理
迭代式采用
许多组织并非全力投入雄心勃勃的生成式AI项目，而是从小处着手。通过在受控的场景（如客户服务自动化）中推出AI，他们可以在不危及关键运营的情况下获得经验。这种迭代模式使他们能够负责任地进行测试、学习和扩展。
用于AI训练和推理的托管服务
构建和维护AI基础设施非常复杂，企业越来越依赖托管服务来进行模型训练和推理。这减少了运营负担，并使专业知识的获取变得更加容易。
通过外包高风险任务，组织在加速部署的同时也最小化了风险暴露。关键在于选择那些与自身具有相似安全和风险缓解标准的公司提供的服务。
云原生和开源技术的采用
调查数据还显示，企业正在尝试云原生和开源AI技术。云原生架构提供了可扩展性和弹性，而开源技术则提供了灵活性和速度，这两者对于AI采用和技术更新都是必需的。这为企业带来了架构上的灵活性，同时规避了长期受制于特定供应商的风险。
强大的供应商生态系统
鉴于AI采用的复杂性，许多组织正在优先考虑那些拥有成熟AI专业知识的供应商。这些合作伙伴不仅帮助企业应对技术问题，还帮助应对合规性、可扩展性和安全性。强大的供应商生态系统支持AI风险缓解策略。
跨职能治理
或许最重要的是，组织认识到AI治理不能仅仅由IT部门负责。领先的企业从一开始就创建涉及合规、法律和安全团队的跨职能治理框架。这种整体方法确保了AI创新符合监管要求和合乎道德的AI标准。
从数据中显现出的主要模式是，公司正在通过结来实现平衡；也就是说，他们正在构建脚手架，使创新和风险管理能够并行推进。
基础设施与AI风险管理
除了运营结构，平衡的AI采用还需要坚实的基础设施。事实上，根据Forrester的研究，55%的企业将技术和平台差距列为其采用AI的首要挑战。
传统的云平台并非为性能敏感的AI工作负载（如大规模推理）的独特需求而设计。延迟、成本效率低下以及数据本地化控制不足，都会带来风险------从客户体验下降到合规审计中更高的风险暴露。
企业正在通过探索专为AI性能构建的替代方案来重新思考其基础设施战略。他们通过使用为分布式工作负载、低延迟推理和内置安全而优化的平台来实现这一目标。
简而言之，基础设施不仅仅是AI技术的基础；它也是风险方程中的一个活跃部分。选择错误的基础设施会放大漏洞。选择正确的基础设施则可以将AI从负债转变为长期的竞争优势。
现在缓解风险，为了未来创新
企业AI的征程正在快速演变。早期的采用集中于狭窄的场景，随后生成式AI浪潮扩展到内容创作、分析和自动化。
现在，我们正处于下一阶段的风口浪尖：代理型AI。代理型AI构成了具有自主性的系统，能够代表人类行事，并根据现有情境做出决策。这种演进承诺带来进一步的收益，但当然也伴随着前所未有的风险。
AI的每个阶段都既增加了潜在收益，也提高了失败的成本。那些成功的企业，将是那些目前通过迭代采用来构建组织流畅度、投资于具有弹性且性能优化的基础设施、并从一开始就嵌入治理与合规的企业。
现在正是技术决策者重新评估AI解决方案和云战略，特别是其基础设施选择的时候，以确保他们能够负责任地扩展，并将道德考量放在心上。
了解更多
要更深入地了解400位高级决策者如何应对AI开发与采用，请下载完整的Forrester报告：《企业级 AI 现状：积累经验，管控风险》。