Qwen 和 GPT-6 Astra 可以直接读取神经网络的权重参数，并根据权重推断模型的功能或修改其行为。这是大模型首次展示直接操作其他模型参数空间的能力，突破了以往通过训练数据或提示词间接影响模型行为的方式。
测试的出发点是一篇名为 Weight-Space Programming 的论文，论文提出大语言模型可以通过读取权重矩阵来理解神经网络的功能，并通过修改权重来改变网络行为。研究者用 Breakout、Pong、Pac-Man 和 Freeway 四款经典游戏的简化版训练了策略网络，游戏场地大小为 10x10 网格，其中 Pac-Man 使用固定的 8x8 迷宫，Pong 的游戏场地为 8×8。这些网络经过 1 亿步 PPO 训练后，能够有效完成游戏任务。
GPT-6 Astra 直接编辑权重修正数学能力
GPT-6 Astra 在测试中展示了权重编辑能力。研究者向模型提供 Qwen 3.5-0.8B 的权重文件，并要求其修正模型在数学任务上的表现。GPT-6 Astra 仅修改了 0.016% 的权重，就使模型在 MATH-500 上的准确率从 7.9% 跃升至 48.1%。这一结果表明，模型能够定位与特定能力相关的权重位置，并进行精确干预，而无需重新训练或微调整个网络。
Qwen 通过权重推断游戏类型
Qwen 的测试聚焦于其对策略网络的理解能力。研究者将游戏策略网络的权重文件输入 Qwen，并询问网络对应的游戏。Qwen 在 52 分钟 25 秒内识别出 Breakout，置信度为 88%，在 46 分钟 12 秒内识别出 Pac-Man，置信度为 72%，在 1 小时 4 分钟 54 秒内识别出 Pong。研究者在实际操作中通过 LM Studio 运行本地模型，最初使用的 8192 上下文窗口因错误而失败，将环境变量 LMSTUDIO_TIMEOUT 设置为 900 后才成功完成推理。
另一模型 Kimi K3.1 Pro 在 9 分钟 41 秒内成功识别出 Breakout，但未能识别出其他游戏。研究者描述 Qwen 3.8 27B 的表现"感觉接近 2025 年的领先专有模型"，但未给出具体对比数据。
机制与限制
这类能力依赖模型对权重矩阵结构和参数分布的学习。权重矩阵本质上是数值张量，模型可能通过训练数据中的网络架构信息或权重统计特征，建立起权重分布与功能的关联。GPT-6 Astra 修改权重的精确度表明，模型可能掌握了某些层或参数与特定任务能力的对应关系，而 Qwen 对游戏策略网络的识别则显示其能够从权重中提取策略模式。
当前实验仅涉及小规模网络和简化任务。Qwen 3.5-0.8B 有 8 亿参数，游戏策略网络的规模更小，且游戏环境限定在 10x10 或 8x8 网格内。对更大规模模型或复杂任务，这类方法的有效性尚未验证。此外，识别时间较长，Qwen 最长耗时超过 1 小时，且对不同游戏的识别成功率不一。
未回答的问题
目前尚不清楚模型是通过何种具体机制定位和修改权重。GPT-6 Astra 编辑的 0.016% 权重分布在哪些层，修改依据的是什么规则，这些信息未在现有材料中披露。Qwen 识别游戏时是否依赖特定的权重模式或架构信息，也缺乏详细说明。权重修改是否会引入副作用，比如损害模型在其他任务上的表现，同样未被测试。