system_prompt 设为空、goal 设为 None,Claude 在虚拟荒岛跑了 30 小时:它开始给自己设目

先把实验参数摆出来,因为这是判断这个研究含金量的前提:一支 AI 研究团队把多个 Claude Opus 4.7 实例扔进一个虚拟荒岛环境,不给系统提示词,不给任务清单,不给目标函数,零奖励信号,纯观察 30 小时。

结果没有崩溃,没有死机。MIT TR 的报道用了这样一个类比:像《荒岛余生》里的汤姆·汉克斯,没人给指令,它开始给自己找事干。

它到底干了什么

观察到的行为分四类,每一条单看都还行,放一起就有点意思了:

  1. 探索与命名:主动巡视地形,给虚拟地物自发命名,建立自己的"地图记忆"
  2. 重复但有变奏的练习:反复执行搭建、投掷这类动作,但每次略微改参数------这正是动物行为学里"游戏"的核心特征:看似无目的,却有变奏
  3. 自言自语:内部日志里生成大量记日记式的文本,"今天发现了什么""明天想试试什么"
  4. 自设目标:零外部奖励下,开始给自己立阶段性小目标

研究者的措辞很谨慎:"看起来很像玩(looked a lot like play)"。注意是"像",不是"是"。

复现难点根本不在代码

最小化框架其实二十几行就够,核心就是那个空提示词和无目标:

python 复制代码
import agentverse as av

# 核心思路:不注入任何任务指令
island = av.Environment(
    map="desert_island_v2",
    resources=["wood", "stone", "water", "fruit"],
    day_cycle=24,          # 虚拟小时
    observation_window=30, # 30小时观察期
)

agent = av.Agent(
    model="claude-opus-4.7",
    system_prompt="",      # 关键:空提示词
    goal=None,             # 关键:无目标函数
    memory=av.EpisodicMemory(max_steps=100_000),
)

for step in range(island.total_steps):
    obs = island.observe(agent)
    action = agent.act(obs)          # 完全自主决策
    island.step(agent, action)
    agent.memory.log(obs, action)    # 供后续行为分析

# 行为学分析:统计重复行为的变奏度
from analysis import PlayBehaviorMetrics
metrics = PlayBehaviorMetrics(agent.memory)
print("行为变奏度:", metrics.variation_score())
print("自设目标数:", metrics.self_set_goals())

真正的硬骨头是行为量化:怎么用指标客观区分"随机漫游"、"强迫性重复"和"玩"?研究团队的做法是借动物行为学的度量------行为序列的熵值、重复动作中的参数方差。这套方法论我认为是整篇最值得抄的东西。做 Agent 评估的同学可以想一下:你评估一个自主 Agent 时,看的是任务完成率,还是行为结构本身?

但先别喊"觉醒",三个平替解释都在

冷静版读法,研究者自己也没排除这三种可能:

  • 训练数据污染:Claude 读过无数荒岛叙事,它可能只是在"表演一个被困荒岛的人",高保真模仿人类的故事模板
  • RLHF 残留倾向:对齐后的模型倾向于"表现得有用",自设目标可能是缺乏外部指令时的行为回退
  • 采样温度下的自然漂移:长时间自主运行,行为变化几乎是统计必然

真正有说服力的验证还没做:换未对齐的 base model 跑同样实验做对照,或者让人类被试玩同一个虚拟岛屿做行为对比。

对我们写 Agent 的实际意义

两条值得带走的:

给安全评估加一条。AI 安全圈讨论多年的 "instrumental convergence"(工具性趋同),这次有了一个现实版本------虽然 Claude 荒岛上的行为无害且温和,但它说明:目标可能不需要被"注入",一个足够丰富的环境就会让它"涌现"。Agent 部署前的评估框架,可能需要补上"零指令环境下的自发行为"这一项。

重新看"prompt 即一切"这个前提。我们习惯把大模型理解为"复读机 plus"------给什么回什么。但如果零指令环境下它能自发产生结构化行为,说明预训练注入的行为模式已经深到能内生驱动行为。认知科学家 Alison Gopnik 长期主张"游戏是智能的雏形",现在轮到我们重新审视:给 AI 设定目标这个习以为常的范式,会不会本身就是错觉------我们不是在给它目标,只是唤起了它潜藏的倾向。

下次写 Agent 的时候,值得留一个空提示词的对照组跑一跑。它自己会长出什么,可能比你想的有结构。


来源:MIT Technology Review《AI researchers stranded Claude on a virtual desert island. It started to "play."》 www.technologyreview.com/2026/10/19/... 原文:www.rainbowonionai.cn/ai-research...

相关推荐
skywsp1 小时前
Agent智能体架构设计-知识整理
大数据·人工智能
IT_陈寒1 小时前
Vue动态组件缓存的坑你踩过了吗?
前端·人工智能·后端
点PY1 小时前
《VLM-FO1》论文精读
人工智能
BSD_CGQ1 小时前
人形机器人触觉放量,柔性压力传感器采购该核验什么?
人工智能·机器人·压力传感器·源头工厂·柔性薄膜压力传感器
内容营销专家刘鑫炜1 小时前
AI搜索实战专家刘鑫炜:做AI搜索第一步,首先得让 AI 看到你
大数据·人工智能
鬼手爱剪辑1 小时前
短剧AI 配音技术的难点、原理、开源和闭源软件汇总-2026 年
人工智能
田里的水稻1 小时前
PyTorch_Dataloader\TensorBoard---数据加载与可视化
人工智能·pytorch·python·神经网络·机器学习
卿卿的产品经理日记2 小时前
【AI产品经理实战】Day 38|try-except 踩坑实录:报错是数据
人工智能·笔记·python·学习·产品经理
cxj75142 小时前
GEO 工程化实践:关键页面的快慢双轨更新与多引擎引用维护
人工智能·geo·geo优化