01 Prompt Enginering

1.Prompt Engineering 提示词工程

Prompt 给人工智能模型输入文本或指令,这些指令引导模型生成特定的输出

Prompt Engineering:指在使用生成式人工智能模型(比如gpt-4)时,设计优化输入文本(prompt)的过程,以便获得期望的输出

好的Prompt Engineering=提好的问题=包含好答案的上下文(参考)=好的答案

prompt 决定模型的输出质量

token

puppet 复制代码
1. 什么是 token?
Token 是大模型处理文本的基本单位,可以是一个字、一个词、一个子词,甚至是一个标点符号。
例如,英文句子 I love AI! 可能被分成 4 个 token:I、love、AI、!。
中文通常一个汉字就是一个 token,但也可能按词切分。
2. Token 的作用
模型不会直接处理原始文本,而是先把文本分割成 token,再将 token 转换为数字(向量),输入到模型中。
模型的输入、输出、最大长度等,都是以 token 为单位计算的。
3. Token 数量的意义
计费:很多大模型的 API(如 OpenAI GPT)按 token 数量计费。
长度限制:模型有最大 token 长度限制(如 4096、8192、32000 等),超出会被截断或报错。
推理速度:token 越多,推理越慢,消耗资源越多。

Zero-shot

few-shot

思维链(可以说一步一步思考关键词,并且每一步做出解释可以完成COT)

通用知识Prompt 给出知识库

Prompt 分片2. chat Completions, memory(记忆)Json Mode

  1. Funciton Calling

  2. Fine-tunning 实战

  3. 检索增强生成(RAG Graph Rag)

  4. 本地部署开源模型

相关推荐
非晓为骁2 小时前
【AI】AI 评测入门(二):Prompt 迭代实战从“能跑通”到“能落地”
人工智能·prompt·提示词工程·ai评测
leo030816 小时前
7种流行Prompt设计模式详解:适用场景与最佳实践
设计模式·prompt
风雨中的小七1 天前
解密prompt系列60. Agent实战:从0搭建Jupter数据分析智能体
prompt
zzywxc7872 天前
AI在金融、医疗、教育、制造业等领域的落地案例(含代码、流程图、Prompt示例与图表)
人工智能·spring·机器学习·金融·数据挖掘·prompt·流程图
bboyzqh2 天前
任务型Agent:prompt工程实践
大模型·prompt·上下文工程
美人鱼战士爱学习3 天前
2024 arXiv Cost-Efficient Prompt Engineering for Unsupervised Entity Resolution
prompt
水的精神3 天前
写好 Prompt 的 12 条实践经验
prompt
Wilber的技术分享3 天前
【大模型实战笔记 1】Prompt-Tuning方法
人工智能·笔记·机器学习·大模型·llm·prompt
relis3 天前
解密llama.cpp:Prompt Processing如何实现高效推理?
prompt·llama
relis4 天前
解密大语言模型推理:Prompt Processing 的内存管理与计算优化
android·语言模型·prompt