3.1 Prompt工程简介
- Token 是承载语义的最小单元
- 将文本转化为 Token 的过程称之为分词（Tokenization）
- 为实现有效分词，首先需构建一个包含大语言模型所能识别的所有 Token 的词表
- 分词器依赖于分词算法，如 BBPE [34]、BPE [8] 和 WordPiece
- BBPE
3.2 上下文学习
-
演示示例选择主要依靠相似性和多样性
-
基于相似性和多样性的三类示例选择方法 [20] 展开介绍
3.3 思维链 Chain-of-Thought，CoT
- CoT 可以显著提升大语言模型处理复杂任务中的表现，从而突破"Flat Scaling Curves"的限制，激发大语言模型的内在推理潜能。
3.4 Prompt技巧
- 3.4.1 规范 Prompt 编写
- 3.4.2 合理归纳提问
- 3.4.3 适时使用 CoT
- 3.4.4 善用心理暗示
3.5 相关应用
- 智能体。
- 数据合成。
- GPTS.