大模型学习笔记十四:Agent模型微调

文章目录

一、大模型需要Agent技术的原因

  • 需求

    1、帮我查一下今天的销售额?

    2、(开车时)前方为啥堵车了?

    3、刘德华多少岁了

    4、请帮我约一个和搜索产品部的需求沟通会,本周三至周五我日历上空闲的时间都可以;

    5、帮我订一张周五去上海的机票

  • 原因

    1、大模型的"幻觉"问题,很难在从模型本身上彻底解决,在严肃的应用场景需要通过引入外部知识确保答案的准确;

    2、大模型参数无法做到实时更新,本身也无法与真实世界产生实时连接,在多数场景下难以满足实际需求;

    3、复杂的业务场景需要

  • 大模型技术框架回顾

二、Prompt Engineering可以实现Agent吗?

  • 回答

    可以,前面弄的AutoGPT就是例子。除了AutoGPT外,还有ReACT、ModelScope、ToolLLaMA等不同的形式。

  • 主流Agent prompt的比较

三、既然AutoGPT可以满足需求,为什么要额外训练一个Agent模型?

  • 解答
    1、很多场景下无法使用大模型API,需要私有化部署;
    2、实践证明,除了GPT4 level的大模型,其他大模型(包括GPT3.5)无法很好遵从prompt要求完成复杂的Agent任务;
    3、通过训练,一个小参数量的大模型(13B、7B等)也能达到较好的能力,更加实用

四、怎么去训练一个Agent模型?

  • 目标
    攀登背景最高峰,帮忙做个规划
  • 规划图

1)数据准备和处理

2)模型训练

3)模型效果评估

五、如何提高Agent的泛化性?

1)Meta-Agent

2)训练数据构建

六、开源项目介绍

七、总结

1、Agent Tuning 的主要动机是训练大模型的 Agent 能力,尤其是希望通过训练让小参数量模型也能具备特定业务场景的 Agent 能力;

2、Agent Prompt 可以有不同的描述方式,通常包括Profile、Instruction、Tools、Format、Memory、Goal等部分;

3、可以采用自动评估和人工评估相结合的方法来评估 Agent 能力;

4、采用 Meta-Agent 方法可以构建多样性的 Agent Prompt 模板,再结合Query、Tools的多样化,可以训练出能力更加泛化的模型

相关推荐
__雨夜星辰__3 小时前
Linux 学习笔记__Day2
linux·服务器·笔记·学习·centos 7
学问小小谢3 小时前
第26节课:内容安全策略(CSP)—构建安全网页的防御盾
运维·服务器·前端·网络·学习·安全
charlie1145141916 小时前
从0开始使用面对对象C语言搭建一个基于OLED的图形显示框架(协议层封装)
c语言·驱动开发·单片机·学习·教程·oled
马船长7 小时前
[BSidesCF 2020]Had a bad day1
学习
黄交大彭于晏7 小时前
三端回链增加截图功能
学习
linwq88 小时前
设计模式学习(二)
java·学习·设计模式
Fhd-学习笔记8 小时前
《大语言模型》综述学习笔记
笔记·学习·语言模型
简知圈10 小时前
【04-自己画P封装,并添加已有3D封装】
笔记·stm32·单片机·学习·pcb工艺
YxVoyager10 小时前
GAMES101学习笔记(五):Texture 纹理(纹理映射、重心坐标、纹理贴图)
笔记·学习·图形渲染
徐某人..10 小时前
ARM嵌入式学习--第十天(UART)
arm开发·单片机·学习·arm