50 个大模型 vs 258 个人类心理学实验:AI 的「常识」离人类还有多远?

💡 一句话总结:数学考试 AI 已经超越人类,但「理解人类怎么想」这件事呢?MIT 团队把认知科学几十年积累的 258 个经典实验标准化成统一考卷,让 50 个大模型和人类同场竞技:模型确实越来越像人,但天花板还有很远------而且「常识」这一科的成绩增长明显掉队于数学和编程。所有「AI 达到人类水平」的说法,都该先过这张考卷。

导语:「像人」不是感觉,是可测量的科学问题

「GPT 像人一样思考吗?」------这类争论通常止于各说各话的感觉。认知科学的回答方式一直很明确:拿实验来。几十年的人类行为研究留下了成千上万个精心设计的实验范式:人怎么推断他人意图、怎么理解模糊指令、怎么看图推理因果。

问题在于工程:每个实验都有自己的材料、流程、计分方式,把 258 个实验标准化到能给 50 个模型统一施测------这是认知科学与 AI 系统工程的大规模联姻。MIT 领衔、哈佛/康奈尔/斯坦福等十几家机构参与的 CogGym 做成了这件事。

想看原文?

它的思路是什么?

  • 🧪 EML 实验标记语言:把认知实验的刺激材料、流程、计分规则标准化成任务无关的统一格式------半自动管线 + 人工校验保证「忠实转译」每一个实验
  • 👥 真人类锚定:不是「猜人类会怎么答」,而是用论文里的真实人类响应数据逐试次对齐------对比的是「模型 vs 真人」,不是「模型 vs 常识直觉」
  • 📏 以人类信度为天花板:人类自己重测一遍的信度(split-half reliability)R² 是 0.92--0.95------这是任何模型「拟人度」的理论上限,也是诚实的标尺

效果到底怎么样?

  • 📈 缩放有效,但天花板很远 :更大更新的模型确实更接近人类判断------但最佳模型 R² 仅 0.59(文本)、0.58(图像)、0.43(视频),而人类信度是 0.93/0.95/0.92。最好的模型也只到人类「自己像自己」程度的六成
  • 🐢 常识掉队:模型在数学、编程等形式推理基准上突飞猛进,但在人类常识推理上进步明显偏慢------「会算题」和「懂人」是两条不同的能力曲线
  • 🔬 方法学彩蛋:直接让模型在同一温度下重复采样,分布远比人类尖锐(模型「过度自信」),低估了人类的意见分歧------让模型口头报告「人群分布」的诱导方式更靠谱

为什么你要关心?

  • 🚨 给「AI 达到人类水平」叙事降温:考试分数超越 ≠ 认知上像人。产品里让 AI「预测人类反应」(A/B 测试预演、用户调研模拟)的团队,这个 R² 差距就是你的误差预算
  • 🏗️ EML 是可复用的基础设施:把实验标准化为统一格式再大规模施测的思路,适用于任何需要「跨系统对比行为」的场景
  • 📏 「以人类信度为天花板」的评测设计原则:任何「像不像 X」的评测都应该先测 X 自己的信度做标尺------否则 0.59 和 0.95 的差距根本无从谈起

理性看待

冷静看三点:258 个实验集中在常识推理子域,社交推理、道德判断等更多认知领域待扩展;实验源自已发表论文,存在经典文献的选择偏差;verbalized prompting 自身也有诱导偏差。但作为迄今最大规模的人机行为对比,CogGym 的核心结论足够清醒:AI 在模仿人类这件事上进步真实存在,但离「以假乱真」还有整个认知科学的距离。

相关推荐
愤怒的代码12 分钟前
上下文窗口:模型的短期记忆
人工智能·llm·agent
郝学胜-神的一滴13 分钟前
AI 编程智能体 27:吃透MCP通信机制
人工智能·python·langchain·wpf·numpy·scikit-learn
李兆龙的博客17 分钟前
从一到无穷大 #108:Meta 的 AI 存储架构——BLOB 重构与跨地域数据加载
人工智能·重构·架构
aneasystone本尊21 分钟前
学习大模型训练的 RLHF:从人类偏好到奖励模型
人工智能
天天被压力21 分钟前
【A股分钟级高频数据完全手册 #09】A股历史分时交易数据接口:普通分时怎么批量下
java·人工智能·python
叼烟扛炮22 分钟前
[LangChain] 学习笔记(05):提示词模板(Prompt)与少样本注入(Few-Shot)实战
linux·人工智能·笔记·学习·langchain·prompt
天天被压力29 分钟前
【A股分钟级高频数据完全手册 #10】股票实时行情数据接口Python:公开源实时交易取数
java·人工智能·python
深蓝AI33 分钟前
Vercel 把浏览器做成命令行:agent-browser 十个月 4.6 万星,给每个元素发一个编号
人工智能·程序员
唐老板1 小时前
最会审代码的 AI,也只挑得出三分之一
人工智能·ai编程