LLM四大技术底座
大模型应用的四大技术底座
优化流程
大模型技术选择时遵循的路径：首先会使用提示词来进行选底座的过程。
提示词的本质相当于text的填充，提示词的know how能力会扩展到RAG，提示词的指令遵循能力会扩展到FT微调。
RAG和微调的对比
RAG框架
评估RAG框架：RAG评分
微调的好处
- 提高模型在特定任务上的性能
- 提高模型的效率
- 减少在任务中获得良好性能所需的标记数量
- 将大型模型的专业知识提炼到一个较小的模型中
- 通过微调的方式，让大模型变成专家模型
微调实践
Agent框架
Agent中可以增加API模块，即：Agent+Function calling。通常使用这种方式来避免微调。
