01 Prompt Enginering

1.Prompt Engineering 提示词工程

Prompt 给人工智能模型输入文本或指令,这些指令引导模型生成特定的输出

Prompt Engineering:指在使用生成式人工智能模型(比如gpt-4)时,设计优化输入文本(prompt)的过程,以便获得期望的输出

好的Prompt Engineering=提好的问题=包含好答案的上下文(参考)=好的答案

prompt 决定模型的输出质量

token

puppet 复制代码
1. 什么是 token?
Token 是大模型处理文本的基本单位,可以是一个字、一个词、一个子词,甚至是一个标点符号。
例如,英文句子 I love AI! 可能被分成 4 个 token:I、love、AI、!。
中文通常一个汉字就是一个 token,但也可能按词切分。
2. Token 的作用
模型不会直接处理原始文本,而是先把文本分割成 token,再将 token 转换为数字(向量),输入到模型中。
模型的输入、输出、最大长度等,都是以 token 为单位计算的。
3. Token 数量的意义
计费:很多大模型的 API(如 OpenAI GPT)按 token 数量计费。
长度限制:模型有最大 token 长度限制(如 4096、8192、32000 等),超出会被截断或报错。
推理速度:token 越多,推理越慢,消耗资源越多。

Zero-shot

few-shot

思维链(可以说一步一步思考关键词,并且每一步做出解释可以完成COT)

通用知识Prompt 给出知识库

Prompt 分片2. chat Completions, memory(记忆)Json Mode

  1. Funciton Calling

  2. Fine-tunning 实战

  3. 检索增强生成(RAG Graph Rag)

  4. 本地部署开源模型

相关推荐
Traving Yu28 分钟前
Prompt提示词工程
人工智能·prompt
码点滴3 小时前
私有 Gateway 接入企业 IM:从消息路由到多租户隔离——Hermes Agent 工程实战
人工智能·架构·gateway·prompt·智能体·hermes
Flying pigs~~17 小时前
Agent 完整面试指南:原理、框架、架构模式
大模型·prompt·agent·rag·agent架构·人工只能
Flying pigs~~19 小时前
RAG 完整面试指南:原理、优化、幻觉解决方案
人工智能·prompt·rag·智能体·检索增强生成·rag优化
拾贰_C1 天前
【OpenClaw | openai | QQ】 配置QQ qot机器人
运维·人工智能·ubuntu·面试·prompt
abigale031 天前
LangChain:自定义模型・RAG 检索・Agent 原理笔记
langchain·llm·prompt·agent·rag·lcel
旦莫1 天前
AI生成测试用例:一个Prompt模板让AI从Excel模板生成自动化脚本
人工智能·python·测试开发·自动化·prompt·测试用例
JAVA面经实录9171 天前
Spring AI 高频开发万能 Prompt 合集 + 生产级工具类
java·人工智能·spring·prompt
HuDie3401 天前
prompt构建
大数据·人工智能·prompt
拾贰_C2 天前
【Agent | openai | Streaming | 】流式输出Streaming
ubuntu·面试·prompt