如何安全地大规模部署 GenAI 应用程序

大型语言模型和其他形式的生成式人工智能(GenAI) 的广泛使用带来了许多组织可能没有意识到的安全风险。幸运的是,网络和安全提供商正在寻找方法来应对这些前所未有的威胁。

随着人工智能越来越深入地融入日常业务流程,它面临着泄露专有信息、提供错误答案或完全"产生幻觉"不存在的事实的风险。

必须通过新的政策和程序来应对这些陷阱,以确保人类对人工智能助手的监督------以及对不了解使用人工智能风险的人类进行监督和培训。

如果你考虑 [AI] 网络需求和安全风险,你会发现,你对业务数据和业务流程的集成越多,风险就越大。

想象一下,一个 AI 应用程序可能会直接集成到票务系统中,根据模型训练的智能接收票务并进行路由。

现在,该应用程序直接与业务流程集成。这会带来更多风险,因为很明显,如果该模型被黑客入侵,它可能会扰乱业务流程。

仅使用专有信息训练大型语言模型(LLM) AU 就会带来巨大的知识产权泄露风险,因为人工智能可能会在无害的答案中泄露商业或公司机密。

同样,让人工智能接触敏感的个人信息可能会无意中导致人工智能公开这些细节。

这些 LLM GenAI 引擎的功能之一是,它们可以发现人类无法发现的东西。

如果你想把这些发现暴露给那些不应该接触到它的人,他们可能比你更了解你的业务。
关注公众号网络研究观阅读

护栏至关重要

人工智能需要护栏。最重要的是控制人工智能可以访问哪些内容。

你需要制定正确的政策,以控制访问和保护数据隐私。在将这些应用程序更多地集成到流程中时,良好的访问控制和数据保护安全实践是首要前提。

Gen AI 的安全模型也强调数据丢失预防,这一术语应该扩大到涵盖更多内容。

现在有一个新术语叫做知识泄露预防,因为人工智能不仅仅涉及你的信用卡信息或PII 敏感数据,它实际上涉及你的知识产权。

人工智能的威胁防护

人工智能安全方法的第三支柱是威胁防护,阻止针对人工智能模型的各种类型的恶意攻击,这些攻击通常是旧伎俩的新花样。

就像所有可以使用的技术一样,它也可以被滥用。我们看到的攻击方式类似,但又有所不同。过去通常有 SQL 注入,现在有命令注入。还有数据中毒,我们知道 DNS 是如何被中毒的。情况类似。这些攻击很难识别。

威胁防护是一个很大的领域,OWASP 十大攻击实际上已经确定了人工智能安全领域的一些新兴类别。所以这是另一个需要关注的领域。

统一 SASE 即服务产品中的"一次性"数据包检查流程如何快速路由和保护 AI 网络流量。

一旦打开数据包流,你就可以做所有事情了,你要进行 QoS、压缩、WAN 优化,然后将其用于访问控制。

你可以根据用户、应用程序、位置、各种 URL、声誉、DNS、域等进行访问控制。

然后,你使用检测、签名匹配、异常、协议异常等对同一事物进行威胁防护,然后进行 CASB,匹配任何类型的 DLP。

安全性和效率

归根结底,这一切都是为了平衡安全性和效率。

如果使用太多安全产品,性能就会下降。如果试图简化变更管理和规则控制流程,实际上可能会降低其安全性。

如果试图加快速度,实际上会损害流程。因此,存在性能、灵活性、安全性等各种权衡。

相关推荐
鲜枣课堂6 分钟前
华为最新光通信架构AI-OTN,如何应对AI浪潮?
人工智能·华为·架构
格林威1 小时前
AOI在新能源电池制造领域的应用
人工智能·数码相机·计算机视觉·视觉检测·制造·工业相机
dxnb221 小时前
Datawhale25年10月组队学习:math for AI+Task5解析几何
人工智能·学习
DooTask官方号1 小时前
DooTask 1.3.38 版本更新:MCP 服务器与 AI 工具深度融合,开启任务管理新体验
运维·服务器·人工智能·开源软件·dootask
Coovally AI模型快速验证3 小时前
OmniNWM:突破自动驾驶世界模型三大瓶颈,全景多模态仿真新标杆(附代码地址)
人工智能·深度学习·机器学习·计算机视觉·自动驾驶·transformer
过往入尘土3 小时前
YOLOv5:实时目标检测的现代化实践与深度解析
人工智能·yolo·目标检测
wanhengidc3 小时前
云手机适配用户有哪些?
服务器·arm开发·安全·智能手机·玩游戏
青春不败 177-3266-05203 小时前
GPT、DeepSeek等大语言模型应用
人工智能·gpt·深度学习·机器学习·语言模型·科研绘图
渡我白衣4 小时前
C++ 同名全局变量:当符号在链接器中“相遇”
开发语言·c++·人工智能·深度学习·microsoft·语言模型·人机交互