01 Prompt Enginering

1.Prompt Engineering 提示词工程

Prompt 给人工智能模型输入文本或指令,这些指令引导模型生成特定的输出

Prompt Engineering:指在使用生成式人工智能模型(比如gpt-4)时,设计优化输入文本(prompt)的过程,以便获得期望的输出

好的Prompt Engineering=提好的问题=包含好答案的上下文(参考)=好的答案

prompt 决定模型的输出质量

token

puppet 复制代码
1. 什么是 token?
Token 是大模型处理文本的基本单位,可以是一个字、一个词、一个子词,甚至是一个标点符号。
例如,英文句子 I love AI! 可能被分成 4 个 token:I、love、AI、!。
中文通常一个汉字就是一个 token,但也可能按词切分。
2. Token 的作用
模型不会直接处理原始文本,而是先把文本分割成 token,再将 token 转换为数字(向量),输入到模型中。
模型的输入、输出、最大长度等,都是以 token 为单位计算的。
3. Token 数量的意义
计费:很多大模型的 API(如 OpenAI GPT)按 token 数量计费。
长度限制:模型有最大 token 长度限制(如 4096、8192、32000 等),超出会被截断或报错。
推理速度:token 越多,推理越慢,消耗资源越多。

Zero-shot

few-shot

思维链(可以说一步一步思考关键词,并且每一步做出解释可以完成COT)

通用知识Prompt 给出知识库

Prompt 分片2. chat Completions, memory(记忆)Json Mode

  1. Funciton Calling

  2. Fine-tunning 实战

  3. 检索增强生成(RAG Graph Rag)

  4. 本地部署开源模型

相关推荐
alex1002 天前
AI Agent开发学习系列 - langchain之LCEL(5):如何创建一个Agent?
人工智能·python·语言模型·langchain·prompt·向量数据库·ai agent
liliangcsdn2 天前
mac测试ollama llamaindex
数据仓库·人工智能·prompt·llama
旧曲重听14 天前
基于Prompt 的DevOps 与终端重塑
人工智能·prompt·devops
AIGC包拥它5 天前
RAG项目实战:LangChain 0.3集成 Milvus 2.5向量数据库,构建大模型智能应用
人工智能·python·langchain·prompt·个人开发·milvus
so.far_away5 天前
The Survey of Few-shot Prompt Learning on Graph
prompt
Xy-unu6 天前
[Semantic Seg][KD]FreeKD: Knowledge Distillation via Semantic Frequency Prompt
prompt
寒水馨7 天前
构建企业级 AI Agent:不只是 Prompt 工程,更是系统工程
人工智能·ai·prompt·agent·ai agent·ai工程
semantist@语校8 天前
面向向量检索的教育QA建模:九段日本文化研究所日本语学院的Prompt策略分析(6 / 500)
人工智能·支持向量机·百度·ai·开源·prompt·数据集
Chan168 天前
【 SpringAI核心特性 | Prompt工程 】
java·spring boot·后端·spring·prompt·ai编程
喜欢猪猪8 天前
Qwen3-8B 的 TTFT 性能分析:16K 与 32K 输入 Prompt 的推算公式与底层原理详解
prompt