使用外部反馈[Using external feedback]
在构建AI智能体工作流时,单纯的"自我反思"存在性能瓶颈。真正的突破在于引入外部反馈(External Feedback)。这不仅能打破性能天花板,还能让系统获得全新的、更强大的信息源,从而实现质的飞跃。
外部反馈的案例
1、避免提及竞争对手:模型有时会在文案中不必要地提及竞争对手的名字(如 "Our company's shoes are better than RivalCo")。
外部反馈工具:编写一个代码工具,使用正则表达式对模型的输出进行模式匹配,自动检测是否包含竞争对手名称。
反思流程:
(1)模型生成初稿。
(2)工具扫描文本,发现"RivalCo"。
(3)将"检测到竞争对手名称"的反馈信息传回给模型。
(4)模型基于此反馈,重新撰写一份不提及竞争对手的新版本。
2、事实核查:模型生成的历史内容可能存在不准确之处(如 "The Taj Mahal was built in 1648")。
外部反馈工具:调用网络搜索API,查询关于泰姬陵建造时间的权威资料。
反思流程:
模型生成初稿。
工具发起网络搜索,返回结果:"泰姬陵于1631年下令建造,1648年完工"。
将搜索结果作为额外输入,提供给反思模型。
模型基于更精确的历史事实,重写文本,使其更准确。
3、遵守字数限制:模型生成的博客文章或摘要常常超出预设的字数上限。
外部反馈工具:开发一个简单的字数统计工具。
反思流程:
模型生成初稿。
工具统计字数,发现"超过字数限制"。
将"当前字数"和"字数限制"等信息作为反馈,传回给模型。
模型基于此反馈,压缩或精简内容,重新生成符合字数要求的版本。
总结:外部反馈的核心价值
(1)打破信息孤岛:外部反馈让模型能够接触到其训练数据之外的新鲜、实时、客观的信息。
(2)解决模型固有缺陷:对于模型不擅长的任务(如精确计数、事实核查),外部工具可以完美弥补。
(3)实现闭环优化:形成"生成->执行/检查-> 获取反馈->反思改进"的自动化闭环,大幅提升工作效率和输出质量。
(4)学习系统化地让模型调用外部工具,是构建强大智能体应用的关键。