方向信息搜集

(策略:广泛地涉猎所有信息,选择自己感兴趣的方向)

方向一、知识蒸馏 (Knowledge Distillation)

方向二、强化学习 (Reinforcement Learning)

方向四、自蒸馏与自改进 (Self-Distillation & Self-Improvement)

方向五、推理时增强 (Inference-Time Enhancement)

方向七、工具增强推理 (Tool-Augmented Reasoning)

【方向四、自蒸馏与自改进 (Self-Distillation & Self-Improvement)】

一、典型方法:OPSD、CRISP、CODI

1、OPSD(O nline P lanning and S elf-Distillation,在线规划与自蒸馏)

从树搜索轨迹中提取高质量数据进行在线自蒸馏,把"慢思考"的搜索结果,蒸馏进"快思考"的模型。

2、CRISP(CR itic-guided I terative S elf-improvement Planning,基于批判的迭代自改进规划)

通过自我批判与精炼的迭代循环获取优质数据,实现"左右互搏"式自我改进,无需外部反馈。

3、CODI(Co -training Distillation,协同式双模型蒸馏)

在生成器和压缩器之间进行协同训练与知识迁移,同步提升模型生成与压缩两种能力,效率高。