如何做好 AI 的挂件

这篇文章的目的是什么？

作为一名程序员，AI 正在彻底改变我的工作。Code Agent 大幅降低了编写代码的成本，也让我逐渐意识到：过去我喜欢的，是像搭乐高一样，把需求拆成模块、编写代码，再将它们组装成一个可以运行的系统。

如今，AI 越来越擅长"搭乐高"。这件事的价值开始下降，我对它的兴趣也随之减少。

这迫使我思考两个问题：

当原本擅长的技能逐渐被 AI 掌握，我新的兴趣和价值支点在哪里？
当执行能力越来越便宜，人还应该发展哪些能力？

我的判断是，人不应该把主要精力投入到与 AI 进行同质化竞争，而应该掌握那些 AI 无法独立完成、仍需由人提供，并且能够借助 AI 进一步放大的能力。

scss 复制代码

人 + AI > max(人, AI)

需要先限定讨论范围：本文所说的 AI，均指当前及可预见范围内以大语言模型（LLM）为核心的系统。对于技术路线完全不同、能力近乎全能，乃至以碳基生命为载体的假想 AI，本文不作讨论。基于这种不可验证的假设推演现实选择，缺乏实际意义。

AI 难以做什么？

当一项任务已经可以由 AI 稳定、低成本地完成，人就没必要再投入精力重复执行。更值得人关注的，是那些仍需人类提供关键判断、但可以借助 AI 显著提升效率和价值的工作。

人的思维如何从大脑和身体活动中形成，大模型的智能表现又如何从训练过程、模型结构和计算中涌现，目前都还有尚未被充分解释的部分。当然，两者的未知并不是同一种未知：大模型的结构和计算过程由人设计，而人脑则是生物演化和个体经验共同作用的结果。

所以，我把"思维如何产生"和"智能为何涌现"放进黑盒，更关心的是黑盒与现实世界连接的方式：

它们能够接收什么信息；
如何与现实世界互动；
如何从结果中学习；
能否形成跨越时间的连续性；
最终由谁承担行动的后果。

交互维度	人	AI 系统
内部感知	饥饿、疼痛、疲劳、呼吸、心跳等与行动价值深度结合	电量、温度、负载、故障和损伤传感；通常是窄而工程化的内部状态
结果反馈	行动后果自然返回，包含身体和社会代价	只有接口返回或评价系统提供的反馈
时间连续性	同一身体、身份和社会关系长期延续	会话可能终止、复制、重置或更换模型
后果	身体疼痛、死亡、关系、财产、声誉和法律责任	机器人会耗电、损坏或任务失败，但损失通常归属于所有者和运营方

内部感受

人通过多种感受理解自身与外部世界：

外感受：视觉、听觉、触觉等外部世界信息。
本体感受：身体姿态、关节位置、运动和肌肉张力。
内感受：心率、呼吸、饥饿、疼痛、疲劳、激素和内脏状态。

这些感受并不是彼此独立的"传感器读数"。自主神经、内分泌、内脏和免疫系统共同参与身体的稳态调节，并进一步影响人的情绪、自我感、注意力和行动动机。

具身 AI 也能感知自身及环境状态，例如：

关节角度、速度和电机电流；
触觉、力和力矩；
电量、温度、机械磨损；
碰撞、打滑和姿态稳定性。

但人与 AI 的物理构成不同，这些信号对两者具有不同的意义。对 AI 而言，温度通常是一个用于触发散热、降频或停机策略的数值；对人而言，闷热不仅意味着温度升高，还可能带来烦躁、疲惫和注意力下降，进而影响情绪、判断和行为。

这种差异并不意味着 AI 无法识别情绪或模拟共情，而是意味着人与 AI 获取情境的方式不同。因此，察觉他人细微的不适 、理解话外之音 ，以及发现尚未被明确表达的需求，仍然是 AI 时代极具价值的能力。

结果反馈

人和 AI 都能通过"预期结果"与"实际结果"之间的差异调整行为。

在工程中，AI 的目标和反馈通常需要以某种形式被表达出来，例如：

损失函数和奖励信号；
提示词与任务说明；
单元测试和评测集；
用户评分；
业务指标；
工具调用成功或失败。

测试只能覆盖已经想到的情况；用户评分会受到表达方式影响；业务指标可能忽略隐私、信任和长期影响。一个系统完全可能在指标上取得成功，却偏离人真正想要的结果。

人接收到的反馈通常更加复杂：

任务是否成功；
疼痛、疲劳、舒适或快感；
他人的信任、排斥和评价；
金钱、地位和关系变化；
行动是否符合自己的身份、原则与承诺；
数月乃至数年后才显现的长期结果。

这些反馈可能彼此冲突。一件事可以在短期内成功，却损害长期信任；可以提高收入，却违背个人原则；可以让指标上升，却使用户的真实体验变差。人需要在这些不同维度之间进行权衡，并决定哪些结果更重要。

AI 时代稀缺的不只是提高解决问题的效率，而是判断什么问题值得解决、什么结果才算成功。人的能力需要由"解题"进一步扩展到"选题、定义问题和判断价值" 。

时间连续性

大语言模型本身并不是一个具有固定性格、目标和身份的具体角色。

从技术上看，它学习的是语言序列的概率分布。在不同的提示词、上下文和采样条件下，同一个模型可以表现出不同的语言风格、价值倾向和行为模式。因此，与其说模型本身是"某个人"，不如说它提供了一个包含大量潜在表达和行为的可能性空间。

但人具有自我同一性与连续性：

身体连续性；
人际关系；
社会身份；
承诺和债务；
声誉；
未完成的长期项目；
行动所留下的现实结果。

这些经历不只是可以被调用的记忆，还会持续约束一个人今天和未来的选择。过去建立的信任需要维护，作出的承诺需要履行，造成的损失需要补偿，未完成的事情也会继续影响后续行动。

这有些类似虚拟偶像。虚拟偶像可以拥有形象、性格、语言习惯和持续发展的故事，但这些特征并不是技术系统自然生成后就自动成立的。它需要创作者从大量可能性中作出选择：它应该以什么方式说话，在什么问题上坚持什么，会与观众建立怎样的关系，以及哪些行为不符合它的身份。

这种选择受到创作者审美、性格、价值判断和受众期待的影响。正是这些持续的取舍，让一个原本可以呈现多种形态的系统，逐渐收敛成"这个具体的角色"。

在 AI 能够快速生成大量内容之后，真正稀缺的可能不再是某一次产出的能力，而是：谁在长期作出选择、坚持什么、承担什么，以及最终留下了怎样的作品、关系与声誉。

承担后果

人的决策会进入现实世界，并可能产生难以逆转的后果：

身体受伤和死亡；
心理痛苦；
收入和职业变化；
信任和关系损失；
法律处罚；
声誉和身份改变。

至少在现行法律制度下，人和组织可以作出承诺、授予权限、承担义务，也可以受到处罚并承担法律责任。AI 即使参与了决策和行动，通常也不被视为独立的责任主体；相关责任仍需落实到它的提供者、部署者、操作者或所属组织。

能力可以交给 AI，责任却不能因此凭空消失。

我可以做什么？

内部感受

挖掘用户需求

通过访谈和现场观察，了解用户的真实工作；
从抱怨、犹豫和临时方案中发现痛点；
区分用户提出的功能与背后的真实目标和顾虑。

从产品视角定义问题

判断问题是否真实、高频，以及用户是否愿意付出成本解决；
协调使用者、购买者和决策者的不同诉求；
选择值得解决的问题，并定义成功标准。

这对应产品经理、产品负责人和创业者的核心工作：不是接收需求，而是选择问题。

运营产品并维护长期关系

观察用户为什么使用或放弃产品；
识别业务指标与真实体验之间的偏离；
维护长期用户关系，并根据反馈调整产品目标。

对应的工作包括产品运营、客户成功、社区运营和大客户管理。

结果反馈

Harness Engineering

Harness Engineering 的核心，是围绕具体工作场景，为 Agent 构建环境、工具、边界、反馈与可观测性，使其能够持续执行任务、验证结果，并根据真实反馈调整行为。

提供上下文：让模型获得完成任务所需的信息、状态与历史记录。
提供行动工具：让模型能够调用软件、操作系统并影响现实环境。
设定行为边界：明确允许、禁止以及需要人工确认的操作。
建立结果反馈：自动验证操作是否成功，以及结果是否符合预期。
保持过程可观测：记录模型的决策、行动、结果与异常，便于定位问题。
构建纠错机制：发现偏差后，在可控范围内重试、修正、回退或转交人工。

Harness Engineering 构建的是一个完整闭环：获取信息 → 作出判断 → 调用工具 → 观察结果 → 验证对错 → 修正行为。

时间连续性

上下文工程

上下文工程不只是编写 Prompt，还包括系统指令、工具定义、消息历史、外部数据、任务状态和记忆检索。由于上下文容量有限，核心问题不是"把所有历史都塞进去"，而是持续选择最有价值的信息。

个人IP

AI 可以快速生成文章、图片、视频和观点，也可以模仿一个人的表达风格。但个人 IP 并不是某一次内容的质量，也不是一个经过包装的人设，而是一个人长期关注什么问题、坚持什么原则、完成过什么作品、帮助过哪些人、犯错后如何修正，最终共同构成了他在他人心中的身份。

因此，个人 IP 的核心不是持续制造内容，而是持续积累证据：

长期关注同一类问题；
形成可以辨认的判断方式；
将观点转化为真实作品；
让自己的判断接受现实检验；
在事实变化后公开修正观点；
持续履行对读者、用户和合作者的承诺；
通过长期互动积累关系与信任。

承担后果

投资

投资是一件必须承担后果的事情。

AI 可以收集信息、分析公司、比较估值、构建模型，也可以给出买入、持有或卖出的建议。但 AI 本身通常不需要提供资金，也不会因为判断错误而损失生活保障、错过其他机会、承受心理压力或者改变未来计划。

创业

创业也是典型的"承担后果"。AI 可以帮助创业者：

调研市场和竞争对手；
分析用户需求；
设计产品；
编写代码；
生成营销内容；
分析收入、成本和增长数据。

但创业者需要投入自己的时间、资金和声誉，还需要面对产品无人使用、资金耗尽、员工离职和客户流失等现实结果。AI 可以提出"应该转型"或"应该停止"的建议，但真正决定继续投入还是及时止损的人，仍然是创业者。