"从构建开始，就要把安全作为企业 AI 战略发展中的核心环节！"
"不能只是关注 AI 应用本身，而是从一个全栈的角度，去全面审视 应用、模型、数据、基础架构的安全规范、技术策略和平台工具。"
出品 | CSDN 云计算
数字化进程加速，通过数据分析、边缘计算、人工智能等技术领域的创新，企业可以构建智能化、云边一体化和敏捷的新一代计算网络，以应对不确定性商业环境中的业务压力。不过，云网边端全方位的数据与安全也正在面临全新的挑战。
云计算厂商亚马逊云科技每年都会举办安全技术的重磅会议 re:Inforce，今年亚马逊云科技 re:Inforce 2023 中国站 8 月底在北京举行，大会以"AI 时代 全面智能的安全"为主题，聚焦生成式 AI 在安全层面给企业带来的挑战及机遇。具体来说，大会分享了亚马逊云科技在数据、AI 大模型、应用的安全技术与经验，以及如何用 AI 提升安全合规效率。
数据、模型、应用开发与运行，亚马逊云科技全方位的安全思路
数据是企业使用 AI 进行业务创新的基础，例如企业需要使用高价值的业务数据进行模型训练及微调，数据在产生价值之前会经过数据存储、传输、使用、治理等各个环节。企业为构建生成式 AI 应用，首先应在数据流动的过程中确保端到端的数据安全，为生成式 AI 应用提供安全和有价值的数据输入。数据和模型安全是构建 AI 应用的关键，同时应用开发与运行中的安全是实现AI价值的保障。
数据安全方面，亚马逊云科技提供了贯穿生成式 AI 全周期的数据治理，从数据源的获取到数据的存储和查询，再到将数据传输给 AI 平台进行模型的训练、调优和推理，以及全面实施数据分类和治理。亚马逊云科技提供了一整套的解决方案、产品服务和最佳实践，帮助企业加速落地端到端的云原生数据战略，给生成式 AI 提供高质量的数据支持。具体来说：
- 保护存储中的数据 。亚马逊云科技通过实施安全密钥管理、静态数据加密、强制实施访问控制、利用机制限制数据访问，保护存储中的数据。高质量数据是构建生成式 AI 能力的关键。针对高质量的数据，亚马逊云科技有两个保护重点：防止数据泄漏以及防止数据篡改。这就要求我们全面保障数据存储、从数据湖到模型训练的数据传输、以及模型应用的环境。本次大会上，推出了敏感数据保护解决方案，可实现对企业敏感数据的自动化发现并在统一平台管理数据资产。该解决方案允许客户创建数据目录、使用内置或定制数据识别规则定义敏感数据类型，该方案利用机器学习、模式匹配的方式自动识别敏感数据，并提供可视化面板，帮助客户更轻松地对敏感数据进行管理和保护。
- 保护传输中的数据 。亚马逊云科技从实施安全密钥和证书管理、执行传输中加密、自动检测意外数据访问、对网络通信进行身份验证四个方面对传输中的数据进行保护。**多层次保护传输中的数据。**亚马逊云科技通过跨区域之间的数据传输、VPC 内部以及 VPC 之间的传输、迁移上云的过程中、以及 TLS1.2+AES256 从整个的基础架构上实现应用层的加密和传输的保护。
- **保护使用中的数据。**从身份认证、隔离环境、多方协作以及数据共享四个方面，进行使用中的数据保护。
**模型训练后进入生产环境的安全防护同样重要。**针对大模型，几个月前，亚马逊云科技宣布推出 Amazon Bedrock 和多种生成式 AI 服务和功能，以帮助客户构建和扩展自己的生成式 AI 应用程序。Amazon Bedrock提供了广泛的基础模型因此客户可以选择最能满足需求的模型。具体来说：
- 首先，Amazon Bedrock 后面接入了基础模型，它给提供了一个 API 可以使用大模型加速生成式 AI 的应用程序和开发，无须管理底层的基础设施。
- 第二，Amazon Bedrock 会负责任地选取一些合作伙伴，例如 AI21 Labs、Anthropic、Stability AI，以及自己的基础模型，另外亚马逊云科技最新推出的合作伙伴名单里也增加了 Cohere，便于客户最快速地找到最合适的、能力最强的基础模型。
- 第三，使用组织内部的数据来训练大模型，同时又保证：首先，背后给大模型做了私有拷贝，这个拷贝只是给客户服务，不会再跟其他任何的大模型共享。二是训练数据只是在客户账户里来帮助工作，Amazon Bedrock 不会拿任何用户的数据来增进自己的模型。这两点非常关键，这也是很多企业在采用大模型的时候对于数据主权、数据保护方面有担心的一个很重要的点，Amazon Bedrock 给了一个非常完善的答案。
- 再次，它能全面地使用亚马逊云科技提供的安全功能，Amazon KMS、Amazon IAM 等可以完善地跟 Amazon Bedrock 集成，集成以后可以很好地管理加密、权限控制和所有行为的日志。
- 提供自己的大模型 Amazon Titan 给大家使用。Amazon Titan 有两个基础模型，一个是 Titan Text，能够执行文本类的任务。另外一个叫 Titan Embeddings，能执行个性化推荐的任务。
- 负责任的AI。亚马逊云科技致力于开发公平且准确的人工智能和机器学习服务，并为企业客户提供负责任地构建人工智能和机器学习应用程序所需的工具和指导。亚马逊云科技在负责任AI方面有着坚定的承诺，如Amazon Titan可以通过减少和消除不当或者是有害的内容来支持负责任AI的实现。
除了数据和模型的安全思路，生成式 AI 应用本身以及访问的安全性也同样重要。将安全功能嵌入 AI 应用之中是提升应用本身安全性的方法之一。应用安全具体分为应用开发流程中的安全 DevSecOps 和应用运行中的安全。
第一个阶段是开发流程中的安全（DevSecOps ）。安全应该贯穿到从开发到持续集成、持续部署再到投产、监控以及整个反馈的过程里面来。亚马逊云科技利用自身经验，将 AI 防护应用到软件开发的全生命周期，让开发更便捷，更安全。亚马逊云科技近期最新发布的 AI 开发安全能力：
- Amazon CodeWhisperer，该服务是亚马逊云科技推出的 AI 编程助手，可根据开发者指令利用内嵌的基础模型实时生成代码建议，该服务内置了代码安全扫描功能，可帮助开发者查找难以检测的漏洞并提出补救建议。
- Amazon CodeGuru Security，它可以扫描代码，在代码里面寻找漏洞，包括调用包漏洞，包括很多其他代码逻辑的漏洞。它还能够在 CICD 通过人工智能和机器学习的方式自动降低误报率，同时它基于 API 设计，能够非常方便地集成到开发工作流里边去，实现集中化和扩展性。
第二个阶段是运行中的安全。其中零信任是针对应用的安全访问，企业可构建零信任的应用安全访问策略。零信任不是一个标准的工具或者解决方案，而是一套机制，并且需要经过演练和考验。我们需要对访问大模型的应用进行权限管理，确保只有在拥有特定权限的应用，才能访问或者调用大模型里的制定 API。亚马逊云科技推出几个工具，帮助客户在自己的亚马逊云科技环境下构建这套机制。具体来说：
- 首先，需要建立一个可信任的网络通道，Amazon Verified Access 可以搭建一套无需 VPN 的网络验证系统，可以使用 Amazon IAM，或者客户自己的用户认证系统，来完成这个认证程序。除了对用户的认证之外，Amazon Verified Access 还支持可以设置规则。这些管控，可以在几乎不对应用进行任何代码改变的情况下部署和发生。
- 亚马逊云科技日前推出了 Amazon Verified Permissions，为用户构建的应用程序提供细粒度授权和权限管理，用户可以使用该服务管理其应用程序的角色和属性的访问控制。
- 为了方便大家来书写所有的授权规则，亚马逊云科技发布了一个新的开源语言，叫做 CEDAR，CEDAR 用于编写和执行授权策略的开源的语言，它可以能够让大家更加轻松、更加快速地来创建所有的访问控制权限。
另外，对于网络控制来说，亚马逊云科技认为零信任和网络控制并不是一个二选一的关系，两者相加才能实现端到端的应用安全，尤其是在大模型时代。具体来说：
- 针对网络防护，Amazon Shield 用于防 DDos 攻击，Amazon WAF 提供防火墙支撑，Amazon Firewall Manager 可以轻松管制防火墙策略：去年缓解了 70 万次 DDos 攻击，Amazon WAF 上每天托管规则请求超过 3500 亿条。
- 针对威胁识别，Amazon GuardDuty 使用了基于人工智能和机器学习的技术，使安全事件的误报率减少 50%。它能够实现初期的检测，还可以做持续的分析，它会使用机器学习的技术来检测所有的威胁，以智能化的手段给予采取行动的建议。
AI 赋能安全合规效率、安全生态合力
除了具体的安全防御技术与思路，安全合规和完整方案也是安全用户必须考虑的问题。亚马逊云科技将 AI 技术应用到其安全及合规服务中，通过更智能的安全及合规服务应对复杂的安全威胁、提升合规效率，如威胁检测服务 Amazon GuardDuty 可通过人工智能和机器学习将安全事件的误报率降低 50%。亚马逊云科技通过在其 500 多项自身合规审计控制项中使用 AI 技术，大幅提升了自身的合规效率，将审计时间简约了 53%。在此次大会上，亚马逊云科技推出了多项具有 AI 能力的安全服务新功能，包括推出 Amazon CodeGuru Security 预览版，利用机器学习技术帮助用户识别代码漏洞，并提供修复漏洞的指导意见；扩大 Amazon Detective 发现组的范围至 Amazon Inspector，该服务利用机器学习技术，可以帮助专业安全人员加快调查过程、确定根本原因。
亚马逊云科技 APN 合作伙伴网络提供数百种行业领先的安全解决方案，多层保护客户的应用和数据安全。通过全球安全伙伴提供的解决方案，携手构建 1+1>2 的安全合作。在会上，亚马逊云科技宣布与全球领先的 IoT 开发者平台涂鸦智能成立"联合安全实验室"，双方将在智能家居、数据安全、安全文化建设、海外合规等领域，重点就机密计算及数据隐私、Matter 技术合作及体系建设、生成式 AI 在 IoT 领域等安全实践展开联合共创。涂鸦智能与亚马逊云科技已有近九年的合作历史，此次"联合安全实验室"的成立将进一步加强双方的合作，为物联网行业安全发展注入新动能，致力于为客户和终端用户的物联网设备提供更多安全保障。
另外，会上亚马逊云科技与德勤企业咨询合作发布了《中国企业出海发展建议白皮书 2023 版》，从组织建设和技术实践两方面提出安全合规建议。在组织建设方面出海企业应当建立健全管理体系，包括制定隐私处理原则、数据保护原则，实行数据生命周期管理制度、数据泄露管理规范，健全相关事件的响应、评估等操作规程；在技术实施方面，亚马逊云科技提供的 300 多项安全、合规服务及功能，涵盖威胁检测和事件响应、身份认证和访问控制、网络和基础设施安全、数据保护与隐私以及风险管控及合规五大领域，为企业提供全方位的云上安全保障。除此之外，亚马逊云科技还提供责任共担模型、云上隐私保护和几乎满足全球所有监管机构合规性要求的合规计划，全面助力中国企业应对出海合规挑战。
在会上，亚马逊云科技大中华区解决方案架构部总监代闻提到："从构建开始，我们就需要把安全作为企业 AI 战略发展中的核心环节。然而，我们应该从哪里开始？依靠一个什么样的框架？这就要求我们不能只是关注 AI 应用本身，而是从一个全栈的角度，去全面审视 应用、模型、数据、基础架构的安全规范、技术策略和平台工具。生成式AI应用就像是海面上的冰山，我们想要在企业里安全地驾驭这项新技术，还需要关注海面下的冰川。"
"大语言模型最后要变成应用来提供服务，怎么样让大语言模型为企业内不同的人提供不同的 API，以前是靠应用程序和网络边界来隔离的，现在网络边界已经不足够了，网络边界只是用户认证的基础条件，大语言模型的出现加速了零信任在企业中的落地。"
"亚马逊云科技的零信任体系，它包括身份认证、可信网络、以及高颗粒度的权限管理以及审计。零信任和网络控制并不是一个二选一的关系，在亚马逊云科技看来，零信任能够实现按需的授权和认证，而网络控制依然是非常需要的，把这两个概念应该加起来，才能够实现企业的端到端的应用安全，尤其在大模型的时代中。"
作为云计算 Top 厂商的年度重磅安全大会，亚马逊云科技在安全领域的技术与思路值得云计算与安全技术开发者重点参考。CSDN 将持续关注报道云安全最新进展。