深入AI生产实践下,关于AI产品边界的深刻认识

一、局限性

任何模型都存在两个永恒的局限性,即知识边界和计算边界,只是对于不同模型有不同程度的体现。

1、知识边界:由于在特定任务下缺少相应的知识,而使用其泛化的理解力以实现目的,出现不稳定及不精准的情况;

2、计算边界:由于模型本身对上下文的处理能力不足,而导致当待处理的任务过长或过复杂时,出现不遵循指令或者执行准确度不足的情况

二、产品技术实践场景

1、知识边界考虑

最佳的AI产品实践按推荐可行性排序:

1.1、自己作为知识的生产者

1.2、具备足够强大的领域专业模型

1.3、RAG或模型提示词补充信息,但对知识要求极其高,因为除了可见的标准信息,特定任务下通常还包含隐性的经验、常识等不易搜罗的信息。不易有效达成目标的实现

2、计算边界考虑

计算边界相对可解决,核心为让模型做尽可能小的事情即可(具体工程策略或手段自行实践学习总结)