system_prompt 设为空、goal 设为 None,Claude 在虚拟荒岛跑了 30 小时:它开始给自己设目

先把实验参数摆出来,因为这是判断这个研究含金量的前提:一支 AI 研究团队把多个 Claude Opus 4.7 实例扔进一个虚拟荒岛环境,不给系统提示词,不给任务清单,不给目标函数,零奖励信号,纯观察 30 小时。

结果没有崩溃,没有死机。MIT TR 的报道用了这样一个类比:像《荒岛余生》里的汤姆·汉克斯,没人给指令,它开始给自己找事干。

它到底干了什么

观察到的行为分四类,每一条单看都还行,放一起就有点意思了:

  1. 探索与命名:主动巡视地形,给虚拟地物自发命名,建立自己的"地图记忆"
  2. 重复但有变奏的练习:反复执行搭建、投掷这类动作,但每次略微改参数------这正是动物行为学里"游戏"的核心特征:看似无目的,却有变奏
  3. 自言自语:内部日志里生成大量记日记式的文本,"今天发现了什么""明天想试试什么"
  4. 自设目标:零外部奖励下,开始给自己立阶段性小目标

研究者的措辞很谨慎:"看起来很像玩(looked a lot like play)"。注意是"像",不是"是"。

复现难点根本不在代码

最小化框架其实二十几行就够,核心就是那个空提示词和无目标:

python 复制代码
import agentverse as av

# 核心思路:不注入任何任务指令
island = av.Environment(
    map="desert_island_v2",
    resources=["wood", "stone", "water", "fruit"],
    day_cycle=24,          # 虚拟小时
    observation_window=30, # 30小时观察期
)

agent = av.Agent(
    model="claude-opus-4.7",
    system_prompt="",      # 关键:空提示词
    goal=None,             # 关键:无目标函数
    memory=av.EpisodicMemory(max_steps=100_000),
)

for step in range(island.total_steps):
    obs = island.observe(agent)
    action = agent.act(obs)          # 完全自主决策
    island.step(agent, action)
    agent.memory.log(obs, action)    # 供后续行为分析

# 行为学分析:统计重复行为的变奏度
from analysis import PlayBehaviorMetrics
metrics = PlayBehaviorMetrics(agent.memory)
print("行为变奏度:", metrics.variation_score())
print("自设目标数:", metrics.self_set_goals())

真正的硬骨头是行为量化:怎么用指标客观区分"随机漫游"、"强迫性重复"和"玩"?研究团队的做法是借动物行为学的度量------行为序列的熵值、重复动作中的参数方差。这套方法论我认为是整篇最值得抄的东西。做 Agent 评估的同学可以想一下:你评估一个自主 Agent 时,看的是任务完成率,还是行为结构本身?

但先别喊"觉醒",三个平替解释都在

冷静版读法,研究者自己也没排除这三种可能:

  • 训练数据污染:Claude 读过无数荒岛叙事,它可能只是在"表演一个被困荒岛的人",高保真模仿人类的故事模板
  • RLHF 残留倾向:对齐后的模型倾向于"表现得有用",自设目标可能是缺乏外部指令时的行为回退
  • 采样温度下的自然漂移:长时间自主运行,行为变化几乎是统计必然

真正有说服力的验证还没做:换未对齐的 base model 跑同样实验做对照,或者让人类被试玩同一个虚拟岛屿做行为对比。

对我们写 Agent 的实际意义

两条值得带走的:

给安全评估加一条。AI 安全圈讨论多年的 "instrumental convergence"(工具性趋同),这次有了一个现实版本------虽然 Claude 荒岛上的行为无害且温和,但它说明:目标可能不需要被"注入",一个足够丰富的环境就会让它"涌现"。Agent 部署前的评估框架,可能需要补上"零指令环境下的自发行为"这一项。

重新看"prompt 即一切"这个前提。我们习惯把大模型理解为"复读机 plus"------给什么回什么。但如果零指令环境下它能自发产生结构化行为,说明预训练注入的行为模式已经深到能内生驱动行为。认知科学家 Alison Gopnik 长期主张"游戏是智能的雏形",现在轮到我们重新审视:给 AI 设定目标这个习以为常的范式,会不会本身就是错觉------我们不是在给它目标,只是唤起了它潜藏的倾向。

下次写 Agent 的时候,值得留一个空提示词的对照组跑一跑。它自己会长出什么,可能比你想的有结构。


来源:MIT Technology Review《AI researchers stranded Claude on a virtual desert island. It started to "play."》 www.technologyreview.com/2026/10/19/... 原文:www.rainbowonionai.cn/ai-research...

相关推荐
爱敲代码的小黄25 分钟前
神经网络入门指南:从 CNN、RNN 到 Attention
人工智能·面试·程序员
一只爱撸猫的程序猿1 小时前
我看着一个 AI 引擎在 14 天里,从"记忆"走进了"搜索"
人工智能·后端·架构
我登哥MVP2 小时前
DeepSeek-Harness-Super-Agent-学习笔记
人工智能·深度学习·神经网络·机器学习·自然语言处理·agent
LucianaiB2 小时前
【元宝搜索开发者征文大赛】AI时代,学得慢就不用学?用元宝搜索打造一个教程保质期,确保每一个教程符合你的现状
前端·人工智能·ai编程
冬奇Lab3 小时前
一天一个开源项目(第256篇):Anatomy —— 让 Claude 为技术概念「发明一台机器」,画成可交互的等距插画
人工智能·开源
孟郎郎4 小时前
打造一切(Craft Anything)——克隆构造世间万物
人工智能·ai·github·软件构建·开源软件
Martina_03214 小时前
AI生成3D场景的霓虹灯一开就糊成光团?用6步检查Emissive、Bloom与曝光
人工智能·3d·ai·自然语言处理·游戏引擎·材质·贴图
master3364 小时前
AI领域常用名词的系统梳理
人工智能·ai
Spidermanbaout4 小时前
Prompt-Engineering实战-2026年11月2日
人工智能·机器学习·ai·chatgpt·ai编程