之前分享了模型开发架构,借助模型架构这里讲一下大模型开发应用场景
一:开发场景
1.纯prompt
客户端提供提示词,大模型返回response
2.Agent+Function Calling
大模型要有能力调用外部api实现prompt,这时候需要agent
3.RAG
在实现专业领域需要的知识的时候,需要RAG把专业知识转为词向量存储起来
4.Fine-tuning
把RAG存储起来的数据微调大模型,让大模型更全面.
二:小结
对比上面的开发场景,会发现RAG和Fine-tuning很相似,具体开发要怎么选择呢,这里我总结了一下选择的方法.
首先确定是否补充额外的专业知识,需要额外的专业知识,那选择RAG.是否需要对接其他系统(联网,深度思考等),需要选择Agent.后续是否需要把额外的专业的知识迁移到本地,如果需要,那么选择Fine-tuning.
