一、局限性
任何模型都存在两个永恒的局限性,即知识边界和计算边界,只是对于不同模型有不同程度的体现。
1、知识边界:由于在特定任务下缺少相应的知识,而使用其泛化的理解力以实现目的,出现不稳定及不精准的情况;
2、计算边界:由于模型本身对上下文的处理能力不足,而导致当待处理的任务过长或过复杂时,出现不遵循指令或者执行准确度不足的情况
二、产品技术实践场景
1、知识边界考虑
最佳的AI产品实践按推荐可行性排序:
1.1、自己作为知识的生产者
1.2、具备足够强大的领域专业模型
1.3、RAG或模型提示词补充信息,但对知识要求极其高,因为除了可见的标准信息,特定任务下通常还包含隐性的经验、常识等不易搜罗的信息。不易有效达成目标的实现
2、计算边界考虑
计算边界相对可解决,核心为让模型做尽可能小的事情即可(具体工程策略或手段自行实践学习总结)