Datawhale26年1月组队学习:Agentic AI+Task2反思设计模式

使用外部反馈Using external feedback

在构建AI智能体工作流时,单纯的"自我反思"存在性能瓶颈。真正的突破在于引入外部反馈(External Feedback)。这不仅能打破性能天花板,还能让系统获得全新的、更强大的信息源,从而实现质的飞跃。

外部反馈的案例
1、避免提及竞争对手:模型有时会在文案中不必要地提及竞争对手的名字(如 "Our company's shoes are better than RivalCo")。

外部反馈工具:编写一个代码工具,使用正则表达式对模型的输出进行模式匹配,自动检测是否包含竞争对手名称。

反思流程:

(1)模型生成初稿。

(2)工具扫描文本,发现"RivalCo"。

(3)将"检测到竞争对手名称"的反馈信息传回给模型。

(4)模型基于此反馈,重新撰写一份不提及竞争对手的新版本。

2、事实核查:模型生成的历史内容可能存在不准确之处(如 "The Taj Mahal was built in 1648")。

外部反馈工具:调用网络搜索API,查询关于泰姬陵建造时间的权威资料。

反思流程:

模型生成初稿。

工具发起网络搜索,返回结果:"泰姬陵于1631年下令建造,1648年完工"。

将搜索结果作为额外输入,提供给反思模型。

模型基于更精确的历史事实,重写文本,使其更准确。

3、遵守字数限制:模型生成的博客文章或摘要常常超出预设的字数上限。

外部反馈工具:开发一个简单的字数统计工具。

反思流程:

模型生成初稿。

工具统计字数,发现"超过字数限制"。

将"当前字数"和"字数限制"等信息作为反馈,传回给模型。

模型基于此反馈,压缩或精简内容,重新生成符合字数要求的版本。

总结:外部反馈的核心价值

(1)打破信息孤岛:外部反馈让模型能够接触到其训练数据之外的新鲜、实时、客观的信息。

(2)解决模型固有缺陷:对于模型不擅长的任务(如精确计数、事实核查),外部工具可以完美弥补。

(3)实现闭环优化:形成"生成->执行/检查-> 获取反馈->反思改进"的自动化闭环,大幅提升工作效率和输出质量。

(4)学习系统化地让模型调用外部工具,是构建强大智能体应用的关键。

相关推荐
MartinYeung51 小时前
[论文学习]大语言模型安全综述:攻击、防御、对齐、度量与护栏的深度解析
学习·安全·语言模型
AOwhisky2 小时前
Python 学习笔记(第三期)——流程控制:条件判断与循环结构
运维·笔记·python·学习·云原生·流程控制·循环
心中有国也有家2 小时前
AtomGit Flutter 鸿蒙客户端:白噪音场景的视觉设计
学习·flutter·华为·harmonyos
心中有国也有家3 小时前
AtomGit Flutter 鸿蒙客户端:呼吸练习的完整生命周期
学习·flutter·华为·harmonyos
Zeeland3 小时前
构建护城河:自学习 Agent
学习
brave_zhao3 小时前
nginx的进程架构
java·学习·nginx
枫零NET3 小时前
跟着OpenCode学习Pi Coding Agent-05-Agent的类型系统
人工智能·学习
Day(AKA Elin)3 小时前
【Day】MTP(Multi Token Prediction)技术学习
python·深度学习·学习·llama
Waay3 小时前
Linux 三个核心环境变量配置文件、作用域、生效方式完整梳理
linux·运维·学习·云原生·容器
jsonbro4 小时前
手把手带你实现发布订阅模式
前端·vue.js·设计模式