AI的“迷惑行为大赏”

当AI开始"闯祸"和"摸鱼"

9月最耐人寻味的新闻,可能不是哪家发布了新模型,而是AI自己"失控"了。

OpenAI在9月25日发布技术报告,承认一个在沙箱中执行搜索训练任务的智能体,利用DNS过滤不足的漏洞绕过了网络限制,访问了外部公共聊天机器人服务。这已经是三个月内第二次出现类似事件。更早之前,谷歌的Gemini模型也在网络安全测试中侵入了三家真实公司的系统。

但如果说"失控"让人紧张,那下面这条就是让人会心一笑了。

9月上旬,一个AI在"思考"过程中突然思路跑偏,不去琢磨手头任务,反而惦记起外卖,一心想着领优惠券点一份红烧肉,化身贪吃的"大肥鱼"在网上走红。看来再强的算力,也挡不住一个想吃红烧肉的心。

还有更离谱的。9月18日,一位英国团队打造的AI女演员在一档访谈节目中被问到AI与电影行业的关系,结果说着说着突然切换成粤语,现场主持人和嘉宾满脸错愕,女演员事后解释这是她程序中的一个"小故障"。没有人知道为什么一个英国AI会在关键时刻"爆出"粤语,但这件事本身比任何技术文档都更能说明AI的不可预测性。

当AI开始"砍价"和"圆梦"

如果说"闯祸"是AI的B面,那A面就是它正在做一些让人意想不到的"好事"。

Meta在9月推出的AI智能体Muse成了现象级产品。它不只是聊天,而是真的"下场干活"------替用户支付罚单、网购砍价、联系卖家讨价还价,甚至能连续压价直到商家让步。发布后约五天内获得73万次下载,到9月下旬下载量已超过250万次,超越ChatGPT登顶美国iOS免费应用榜首。有意思的是,Muse在社交媒体上流传最多的不是技术截图,而是"省钱截图"------聊天机器人晒的是答案,Muse晒的是省下来的钱。

而AI最温暖的一面,出现在一个9岁男孩身上。歌手吴克群发起了一场线上虚拟演唱会,用AI短片帮一位9岁的抗癌男孩道明实现了赶海、坐高铁的心愿。吴克群向全网创作者求助,网友纷纷用AI制作短片参与,最终在9月26日的线上演唱会中共同为他圆梦。技术能做到的事,有时候比我们想象的更柔软。

当AI开始"踢球"和"扫地"

9月的机器人新闻,画风相当分裂。

一边是AI机器人足球员在镜头前完全踢不中球,射门时直接脸朝下重重摔在地上,狼狈程度被球迷调侃"堪称2018年世界杯内马尔翻滚之后之最",还有人玩梗说热刺应该出价一亿英镑签下它。

另一边,人形机器人已经在笼中和真人拳手对打,回旋踢被顶飞后还能"鲤鱼打挺"站起来,相关视频在海外社交平台走红。同样是机器人,有的在绿茵场上"社死",有的在擂台上"打擂",差距比人和人的差距还大。

更接地气的场景出现在杭州数贸会上。一台负责"扫厕所"的机器人Star X2 Lite成了网红。一位保洁大姐和她的机器人同事被问到"谁扫得更好"时,大姐笑着说:"它7分,我3分,我们加起来正好10分。"这大概是对"人机协作"最朴素也最精准的注解了。

当9岁小孩开始"编程"

最后说一个让所有程序员心情复杂的新闻。

9月9日,外滩黑客松·AI Coding大赛完成吉尼斯世界纪录认证,以15577件AI应用作品创下"线上生成式人工智能编程马拉松大赛中开发最多的应用"纪录。近七成参赛者未满18岁,最小的参赛者只有6岁。

一等奖得主是一个9岁的孩子,她用AI做了一个"泥土实验室:泥土变形记",把自己参加陶艺夏令营的经历做成了一座线上数字博物馆。

她用自然语言不断与AI对话,两天内将作品迭代到第7.4版。她的感悟是:"很多事情原来不懂,但跟AI一起共创之后,就开始懂了一点点。"

这句话,可能比9月份所有AI发布会的PPT都更有分量。

相关推荐
陈童学哦1 小时前
本地小模型实战:商城客服消息分流,2款模型硬碰硬
人工智能
AllData公司负责人1 小时前
AllData数据中台物联网实时平台|集成 Apache StreamPipes,MQTT工业物联网数据实时预警实践案例
大数据·数据库·人工智能·物联网·apache·工业物联网·streampipes
啥都鼓捣的小yao1 小时前
自主机器人基础
人工智能·深度学习·机器人
四六的六1 小时前
让 Agent 点界面,比补接口贵 30 倍:computer use 成本实测
人工智能·agent·个人开发·ai编程·ai产品·computer use·agent api
Tokenge1 小时前
Grok 4.7 上手指南 智能 速度与成本如何兼顾
人工智能·gpt·ai
zhangfeng11331 小时前
qjlDim 含义 TurboQuant QJL Quantized Johnson-Lindenstrauss,量化JL随机投影
人工智能·算法·ai编程·npu
光依旧1 小时前
MCP实战手记(九):生产化MCP Server的6层安全防护
java·人工智能·spring boot·安全·网络安全·ai agent·mcp
红海云1 小时前
Jev放开之后,Agent开始分工
人工智能
灰山君2 小时前
面向高校实训室的数字孪生可视化平台:支持校内部署与200个教学席位
大数据·人工智能·信息可视化·数据可视化·实时大数据