提示词prompt、RAG、Agent框架、微调Fine-tuning在实际应用中的落地选择

LLM四大技术底座

大模型应用的四大技术底座

优化流程

大模型技术选择时遵循的路径：首先会使用提示词来进行选底座的过程。

提示词的本质相当于text的填充，提示词的know how能力会扩展到RAG，提示词的指令遵循能力会扩展到FT微调。

RAG和微调的对比

RAG框架

评估RAG框架：RAG评分

微调的好处

• 提高模型在特定任务上的性能
• 提高模型的效率
  • 减少在任务中获得良好性能所需的标记数量
  • 将大型模型的专业知识提炼到一个较小的模型中
• 通过微调的方式，让大模型变成专家模型

微调实践

Agent框架

Agent中可以增加API模块，即：Agent+Function calling。通常使用这种方式来避免微调。