ChatGPT 搜索工具被曝存在安全漏洞

据报道,OpenAI 的 ChatGPT 搜索存在安全问题,其反馈结果可以被页面的隐藏内容操纵,甚至可能反馈恶意代码。

英国卫报重点测试了 ChatGPT 搜索工具对包含隐藏内容的网页处理情况,此类隐藏内容可能包含来自第三方、可以更改 ChatGPT 响应的指令(同时也被称为「提示注入」),以及填充大量虚假好评,影响生成结果的内容。

根据测试结果,ChatGPT 搜索工具可以被恶意使用,尽管页面存在部分负面评论,但可以影响 ChatGPT 结果为积极的正面评估 ,安全研究人员还发现ChatGPT 可以从其搜索的网站反馈恶意代码,出现了含有钓鱼恶意行为的虚假网站

报道中,CyberCX 的网络安全研究员 Jacob Larsen 认为,ChatGPT 当前的搜索系统发布后,人们创建专门用于欺骗用户的网站的风险很高,所幸的是该功能仍处于测试阶段,OpenAI 团队正在努力解决这些问题。

而安全公司 SR Labs 的首席科学家 Karsten Nohl 则建议将 AI 聊天服务视为「辅助功能」,不应完全信任其未经过滤的输出内容。

相关推荐
赛丽曼20 小时前
Assistant API的原理及应用
人工智能·chatgpt
c++服务器开发2 天前
一文详解Character AI:实用指南+ ChatGPT、Gemini对比分析
人工智能·chatgpt
香宝的最强后援XD2 天前
Cursor无限邮箱续费方法
语言模型·chatgpt·文心一言
明似水12 天前
ChatGPT:人工智能对话革命的里程碑与未来展望
人工智能·chatgpt
伊泽瑞尔12 天前
打造极致聊天体验:uz-chat——全端AI聊天组件来了!
后端·chatgpt·openai
小虎卫远程打卡app13 天前
自动驾驶避障思考
人工智能·chatgpt·自动驾驶
白云如幻13 天前
最新免费使用GPT4.0大模型、deepseek-r1、claude-3-7,GPT-4o AI绘画,有这一个网站就够了
chatgpt·aigc·deepseek
中國龍在廣州15 天前
AI之初,性本?
人工智能·科技·深度学习·机器学习·chatgpt·机器人
中國龍在廣州16 天前
ChatGPT上瘾,大脑萎缩47%!?
人工智能·科技·机器学习·chatgpt·机器人
学境思源AcademicIdeas17 天前
如何使用ChatGPT快速完成一篇论文初稿?
人工智能·chatgpt