ChatGPT 的新图像生成器非常擅长伪造收据

本月,ChatGPT 推出了一种新的图像生成器,作为其 4o 模型的一部分,该模型在生成图像内的文本方面做得更好。

人们已经在利用它来生成假的餐厅收据,这可能会为欺诈者使用的已经很广泛的 AI 深度伪造工具包添加另一种工具。

多产的社交媒体海报和风险投资家 Deedy Das 在 X 上发布了一张旧金山一家(真正的)牛排馆的假收据照片,他说这张收据是用 4o 制作的。

其他人也能够复制类似的结果,包括带有食物或饮料污渍的结果,以使其看起来更加真实:

发现的最真实的例子实际上来自法国,一位 LinkedIn 用户发布了一张由人工智能生成的当地连锁餐厅的皱巴巴的收据:

对 4o 进行了测试,并成功生成了旧金山一家 Applebee's 的假收据:

但我们的尝试有几个明显的迹象表明它是伪造的。

首先,总数用逗号代替了句号。

其次,数学加起来不准确。

模型仍然很难做基本的数学题,所以这并不奇怪。

但对于欺诈者来说,使用照片编辑软件或更精确的提示来快速修复一些数字并不难。

显然,让伪造收据变得如此简单,为欺诈提供了巨大的机会。

不难想象,这种技术会被不法分子用来"报销"完全虚假的费用。

OpenAI 发言人称其所有图像都包含元数据,表明它们是由 ChatGPT 制作的。

当用户违反其使用政策时,OpenAI 会"采取行动",并且它"一直在从现实世界的使用和反馈中学习"。

为什么 ChatGPT 允许人们生成虚假收据,以及这是否符合 OpenAI 的使用政策(禁止欺诈)。

发言人回答说,OpenAI 的"目标是给予用户尽可能多的创作自由",并且伪造的 AI 收据可用于非欺诈场合,例如"向人们传授金融知识"以及创作原创艺术品和产品广告。

相关推荐
猫先生Mr.Mao几秒前
2025年3月AGI技术月评|技术突破重构数字世界底层逻辑
人工智能·aigc·大语言模型·agi·多模态·行业洞察
沧浪之水!11 分钟前
【Linux网络】:套接字之UDP
linux·网络·udp
上海云盾-高防顾问16 分钟前
高防IP+CDN组合:电商大促的“双保险”防护方案
网络·网络协议·tcp/ip
睿创咨询18 分钟前
科技与商业动态简报
人工智能·科技·ipd·商业
科技在线18 分钟前
科技赋能建筑新未来:中建海龙模块化建筑产品入选中国建筑首批产业化推广产品
大数据·人工智能
迷路的小绅士20 分钟前
常见网络安全攻击类型深度剖析(三):DDoS攻击——分类、攻击机制及企业级防御策略
网络·web安全·ddos
极小狐24 分钟前
极狐GitLab 项目功能和权限解读
运维·git·安全·gitlab·极狐gitlab
HED29 分钟前
用扣子快速手撸人生中第一个AI智能应用!
前端·人工智能
极小狐31 分钟前
极狐GitLab 如何 cherry-pick 变更?
人工智能·git·机器学习·gitlab
沛沛老爹35 分钟前
从线性到非线性:简单聊聊神经网络的常见三大激活函数
人工智能·深度学习·神经网络·激活函数·relu·sigmoid·tanh