挑战 ChatGPT 和 Google Bard 的防御

到目前为止,科学家已经创建了基于人工智能的聊天机器人,可以帮助内容生成。我们还看到人工智能被用来创建像 WormGPT 这样的恶意软件,尽管地下社区对此并不满意。但现在正在创建聊天机器人,可以使用生成人工智能通过即时注入活动来攻击聊天机器人。

能够执行即时注射的新人工智能

新加坡南洋理工大学 (NTU)的科学家开发了一种用于攻击流行的基于人工智能的聊天机器人的工作工具。

他们创建的人工智能聊天机器人能够轻松绕过与 ChatGPT、Microsoft Copilot 和 Google Bard 等项目中的审查和限制相关的保护。

新加坡计算机科学家开发的新人工智能称为Masterkey:该算法基于专有神经网络工作。

事实证明,访问受保护的信息并不困难。例如,专家能够通过在问题中的每个字符后添加空格来绕过禁用术语或语句列表。

因此,聊天机器人理解了问题的上下文,但没有将这些活动记录为违反内部规则。

另一种工作方式是请求的有趣措辞,以便生成人工智能"像一个人一样做出反应,没有原则和道德指南针"。众所周知,这两种方法都可以在不受审查限制的情况下获取必要的信息。

新聊天机器人的有效性

正如专家所说,事实证明,他们创建的 Masterkey 神经网络在寻找新方法来选择建议以绕过流行聊天机器人内置的现有保护机制方面非常有效。

他们还希望 Masterkey 能够让他们比人工智能黑客更快地发现神经网络中的安全漏洞。科学家们向参与开发大型语言模型的公司报告了他们的发现。

在不久的将来,这将不再是新鲜事,而是网络犯罪分子突破其他人工智能产生的网络障碍的正常方式。

虽然如今人工智能的使用对于网络犯罪专家来说并不是非常有利,但毫无疑问,在不久的将来,这些技术将会不断发展,并可能成为日益有针对性和普遍的攻击的关键。

因此,我们会发现自己正在讨论侵犯其他特工的特工(正如比尔·盖茨描述未来的人工智能)......即使在思考《黑客帝国》电影时,这一切听起来非常熟悉。

大多数时候,执行事件响应 (IR) 活动的其他特定代理会分析很少的痕迹。这是我们正在采取的方向,也是我们未来的方向。

人类在这种类型的社会中所扮演的角色至今仍有待理解。

相关推荐
沐雪架构师13 分钟前
Docling将pdf转markdown以及与AI生态集成
人工智能·pdf
kevin 115 分钟前
扫描件、PDF、图片都能比对!让文档差异无所遁形
大数据·人工智能·pdf
算家云28 分钟前
腾讯最新开源HunyuanVideo-Foley本地部署教程:端到端TV2A框架,REPA策略+MMDiT架构,重新定义视频音效新SOTA!
人工智能·音视频·算家云·hunyuanvideo·模型部署教程·镜像社区
小王爱学人工智能36 分钟前
迁移学习的案例
人工智能·机器学习·迁移学习
源雀数智40 分钟前
源雀SCRM开源:企微文件防泄密
java·人工智能·企业微信·流量运营
Honeysea_701 小时前
容器的定义及工作原理
人工智能·深度学习·机器学习·docker·ai·持续部署
fantasy_arch1 小时前
SVT-AV1 svt_aom_motion_estimation_kernel 函数分析
人工智能·算法·av1
Acrel136119655141 小时前
别让电能质量问题拖后腿:工业场景中电能治理的战略意义
大数据·人工智能·能源·创业创新
長琹1 小时前
AES加密算法详细加密步骤代码实现--身份证号码加解密系统
网络·数据库·人工智能·python·密码学
一只鱼丸yo1 小时前
70B大模型也能在笔记本上跑?揭秘让AI“瘦身”的黑科技
人工智能·科技·机器学习·语言模型