ChatGPT 搜索工具被曝存在安全漏洞

据报道,OpenAI 的 ChatGPT 搜索存在安全问题,其反馈结果可以被页面的隐藏内容操纵,甚至可能反馈恶意代码。

英国卫报重点测试了 ChatGPT 搜索工具对包含隐藏内容的网页处理情况,此类隐藏内容可能包含来自第三方、可以更改 ChatGPT 响应的指令(同时也被称为「提示注入」),以及填充大量虚假好评,影响生成结果的内容。

根据测试结果,ChatGPT 搜索工具可以被恶意使用,尽管页面存在部分负面评论,但可以影响 ChatGPT 结果为积极的正面评估 ,安全研究人员还发现ChatGPT 可以从其搜索的网站反馈恶意代码,出现了含有钓鱼恶意行为的虚假网站

报道中,CyberCX 的网络安全研究员 Jacob Larsen 认为,ChatGPT 当前的搜索系统发布后,人们创建专门用于欺骗用户的网站的风险很高,所幸的是该功能仍处于测试阶段,OpenAI 团队正在努力解决这些问题。

而安全公司 SR Labs 的首席科学家 Karsten Nohl 则建议将 AI 聊天服务视为「辅助功能」,不应完全信任其未经过滤的输出内容。

相关推荐
一个处女座的程序猿1 天前
LLMs之Agent:ChatGPT Agent发布—统一代理系统将研究与行动无缝对接,开启智能助理新时代
chatgpt·agent
gptplusplus1 天前
停止“玩具式”试探:深入拆解ChatGPT Agent的技术栈与实战避坑指南
chatgpt
WSSWWWSSW2 天前
基于模拟的流程为灵巧机器人定制训练数据
人工智能·chatgpt·机器人
一休哥助手3 天前
ChatGPT Agent架构深度解析:OpenAI如何构建统一智能体系统
人工智能·chatgpt·架构
qq_417719983 天前
免费的大模型面试辅导系列课程
人工智能·深度学习·chatgpt·面试·职场和发展·求职招聘
AI探知-阿薇4 天前
智能体之变:深度解析OpenAI ChatGPT Agent如何重塑人机协作的未来
人工智能·chatgpt
陈敬雷-充电了么-CEO兼CTO4 天前
OpenAI发布ChatGPT Agent,AI智能体迎来关键变革
java·人工智能·python·gpt·chatgpt·大模型·agi
Code_流苏5 天前
ChatGPT Agent深度解析:告别单纯问答,一个指令搞定复杂任务?
人工智能·自然语言处理·chatgpt·openai·agent·智能体
Mr.小海5 天前
金融大模型与AI在金融业务中的应用调研报告(2025年)
人工智能·算法·机器学习·chatgpt·金融·gpt-3·文心一言
领航猿1号5 天前
OpenAI发布通用智能体ChatGPT Agent:实现自主思考、联网与工具调用,智能体赛道大变天!
人工智能·chatgpt