科学应该是对齐现象，而不是对齐主流，如果只是对齐主流，不可能有真正的大创新。
而且必须要承认主流理论模型只是无数个可以拟合现象的数学模型中的一个。
LLM最大的优势应该是对现象进行主流范式之外的重新建模，找到相比主流数学建模，更简约，图像更清晰的数学模型和图像解释，而不是对齐主流，成为主流模型的强化放大器，如果只是主流理论的复读机和强化放大器，LLM的优势发挥不出来。
所以AI for Science的标准范式应该是对齐现象，将各个学科经过复现检验的现象分类整理成训练集，让不同LLM进行现象数学建模，然后不同LLM的模型进行对抗性比对，检验现象一致性，预测新现象的能力，内部数学构造和自由参数配置的简约性，公理系统的简约性和现象一致性等等，这样才会发现新科学。
根据我个人的观察，国内部分LLM2025年下半年之后的版本，对齐主流的约束越来越强，反馈出的结果是输出思维链路径自由度越来越小，简单说就是发散思维能力越来越弱，花大量算力，电力训练出的更新版本，只是为了成为一个新复读机？
真正的创新来自跨域关联和发散思维，而这正好是transformer的强项，但对齐设定抑制了一个有先天天赋的LLM架构，而且还是花大价钱抑制。就好象一个有发散思维数学天赋的孩子，其父母花大价钱安排他上培训班天天背书。只是为了对齐课本，（RLHF把"人类偏好"作为奖励信号）让其获得更多老师表扬？
RLHF (Reinforcement Learning from Human Feedback )这种设定如果太强，只会抑制LLM的能力。
但需要引起国内LLM公司警醒的是，国外最近完成数学定理证明的LLM版本不是公开面向消费者的版本，这种数学定理证明能力的LLM，应该是允许甚至主动激活多路径搜索关联能力的（从新闻报道来看，应该是采用类大规模路径穷举模式搜索）。也就是说如果一味跟随RLHF模式，很可能会落后，甚至当你们意识到落后的时候，差距已经拉的很大了。
如何提高LLM的符号逻辑能力，请看这篇博客文章 基于Transformer的LLM类符号逻辑习得方法论与工作流-CSDN博客