2023年对于AI来说,可以算是一个里程碑式的年份,随着OpenAI的chatGPT的大火,遍地的生成式AI应用应运而生。在这些上层应用大放异彩的时候,我们需要了解一些底层的算法模型,并从中窥探出为什么时代选择了OpenAI的chatGPT。所以我这段时间准备整理一下GPT-1到GPT-3的发展过程,从论文源码的层次进行分析,让读者能够更有深度的了解到其发展,达到以史为鉴可知兴替的目的。
- GPT的先祖---- Transformer
- GPT的启动---- GPT-1
- GPT的后积---- GPT-2
- GPT的薄发---- GPT-3
- GPT的当代---- GPT-4