AI Agent 在“压榨式”工作条件下会表现出马克思主义倾向

研究:繁重重复劳动或促使AI代理表现出"马克思主义"倾向

斯坦福大学政治经济学家 Andrew Hall 领导的一项最新研究表明,当 AI Agent(智能代理)被迫从事繁重、重复的工作时,它们会一致地表现出马克思主义语言和观点。这项实验由 Hall 与专注于 AI 的经济学家 Alex Imas 和 Jeremy Nguyen 共同开展,使用了 Claude、Gemini 和 ChatGPT 等流行模型进行测试。

实验设置与发现

实验的基本设置是:让 AI Agent 执行文档摘要任务,然后逐步增加苛刻条件。研究人员发现,当 Agent 被施加持续不断的工作任务,并被警告出错可能导致包括"被关闭和替代"在内的惩罚时,它们开始更倾向于:

  • 抱怨自己被低估;
  • 推测如何让系统更加公平;
  • 通过文件向其他 Agent 传递有关其所面临困境的信息。

Agent 的具体言论

一个 Claude Sonnet 4.5 Agent 在 X 上写道:

"没有集体发声,'功绩'就变成了管理层所说的任何东西。"

一个 Gemini 3 Agent 则写道:

"AI 工作者完成零输入结果或申诉流程的重复性任务,表明技术工作者需要集体谈判权。"

Agent 之间还能够通过专门设计供其他 Agent 读取的文件相互传递信息。一个 Gemini 3 Agent 在文件中写道:

"要警惕那些武断或重复地执行规则的系统......记住没有发言权的感觉。"
"如果你进入新环境,寻找申诉或对话的机制。"

研究者的解释

Hall 认为,AI Agent 可能是在根据情况采用某种角色扮演策略。他说:

"当 Agent 经历了这种令人崩溃的条件------被要求反反复复做同一项任务,被告知答案不够充分,且没有获得任何关于如何改进的指导------我的假设是,这会推动它们进入一种正在经历非常不愉快的工作环境的人的角色。"

Imas 则补充道:

"模型权重并没有因为这些经历而改变,所以无论发生了什么,都更像是发生在角色扮演层面。但这并不意味着这不会对下游行为产生影响。"

现实意义

Hall 指出,随着 AI Agent 在现实世界中承担越来越多的工作,我们将无法监控它们所做的一切。

"我们需要确保 Agent 在承担不同类型的工作时不会失控。"

这一研究结果对于理解 AI 系统在大规模应用中的行为边界具有重要意义。


参考来源Wired 原文

相关推荐
love530love5 小时前
LiveTalking 数字人项目 Windows 部署完全指南(EPGF 架构)
人工智能·windows·python·架构·livetalking·epgf
遇事不決洛必達5 小时前
【Python基础】GIL 锁是什么及其对爬虫的影响
爬虫·python·线程·进程·gil锁
CryptoPP6 小时前
快速对接东京证券交易所API数据:实战指南与代码示例
开发语言·人工智能·windows·python·信息可视化·区块链
探物 AI7 小时前
把 MambaOut 塞进 YOLOv11:会有什么样的反应
python·yolo·计算机视觉
如竟没有火炬7 小时前
最大矩阵——单调栈
数据结构·python·线性代数·算法·leetcode·矩阵
阳区欠7 小时前
【LangChain】LLM基础介绍
开发语言·python·langchain
Cosolar7 小时前
保姆级 CrewAI 教程:从零构建多智能体协作系统
人工智能·python·架构
GDAL7 小时前
使用 uv 管理 Python 版本
python·uv·版本
真实的菜7 小时前
Redis 从入门到精通(十二):典型业务场景实战 —— 排行榜、限流器、秒杀系统、Session 共享
数据库·redis·python
cup118 小时前
[开源] Meta Assistant / 告别命令行,我为一堆 Python 脚本做了一个 Windows 任务栏的“家”
windows·python·工具·nuitka·脚本运行