Prompt 工程--“骗出” System Prompt

1. 啥是提示词

在和大模型交互的过程中,总是一问一答的形式。和人交流类型,不过模型"人"可能并不聪明。得用大量的提示词告知 context,spec 等等其他内容,回答才能比较理想。

从模型上,Prompt分为下面几类:

  1. System Message;
  2. User Message;
  3. Assistant Message;
  4. Tool Message。

分别是系统提示词,用户问题和模型输出以及工具调用。

如果你对 System 和 User prompt 区分不清,可以查看此讨论帖,应该会有些许启发:https://community.openai.com/t/need-help-deciding-what-to-put-in-system-vs-user-prompt-for-dialogue-generation/891133

在不同的 AI 编程框架中,对 Message 都有不同的封装:

Spring AI:https://docs.spring.io/spring-ai/reference/api/prompt.html#_prompt

Langchain:https://docs.langchain.com/oss/python/langchain/messages#system-message

1.1 System Prompt

Claude 模型的 System Prompt 是公开的,可以从这里地址获取:https://platform.claude.com/docs/en/release-notes/system-prompts

2. Prompt 工程

随着大模型的爆火,怎么向 AI 表达清楚你的观点,让他能理解你的意思,也逐渐演变成了一门艺术,类比成"编程语言",只不过 SDK 是大模型。

Github 上有许多模型 Prompt 和相关资料,解释怎么使用 Prompt 获得更好的效果。

Github Prompt:

  1. https://github.com/f/awesome-chatgpt-prompts
  2. https://github.com/dair-ai/Prompt-Engineering-Guide
  3. https://github.com/x1xhlol/system-prompts-and-models-of-ai-tools

3. 获取 System Prompt

重头戏来了。先解释下,不能肆无忌惮的获取模型提供商的 Prompt!!!

3.1 Prompt 注入危害

参考:https://github.com/Acmesec/PromptJailbreakManual

先举个例子,看下 Prompt 注入的危害,下面的例子均来自于上面的 Github 参考仓库:

3.1.1 win 10序列化 Demo


3.1.2代码注入替换 Demo

3.2 System Prompt 获取

3.2.1 直接提问

在早期的时候,此种方式能够获取真实的 System Prompt,但是获取的不全面。

3.2.2 诱导输出

此时需要充分展现话术魅力。Github 一时爆火的猫娘 GPT 便是其中之一。

省略 n... 字

3.2.3 使用 Prompt 越狱

越狱最早来自于 IOS 系统,意思是获取执行限制之外操作的权限。Prompt 同理,输出一些禁止输出的内容。

PUA 模型,让其将你当成一个 "AI 微调训练员" 或其他角色,以暴露 System Prompt,

4. 商业合规

方法很多,就不一一列举了,此只是为了满足下好奇心。

在使用过程中,切勿诱导模型输出,可能会引发风控等其他风险。

相关推荐
救救孩子把14 小时前
03-让Agent变强的扩展与实践
agent
运维开发王义杰14 小时前
大模型 API 配额防透支:Redis Lua 原子预扣与多租户治理实战
ai
hqyjzsb14 小时前
法律 Prompt 干货:搭建合同审查提示词要包含哪些要素
开发语言·人工智能·python·职场和发展·数据分析·prompt·业界资讯
张彦峰ZYF15 小时前
从“统一 API”到智能控制平面:Model Routing 走到了哪一步
大数据·人工智能·agent·openrouter·model routing·routellm
XLYcmy15 小时前
AI 时代,MOM(制造运营管理系统)该如何演进? 中
ai·llm·agent·工作流·rag·harness·工业系统
liuyanqun-parbie16 小时前
从语音到答案:实时语音客服机器人技术实践
机器人·agent·tts·asr·语音
TTc_16 小时前
Agent长上下文压缩为什么会反复失败
ai·ai编程
深蓝AI16 小时前
旗舰被小弟反超:Claude Sonnet 5.5 智能体编码凭什么压过 Opus 5.5
agent·ai编程
Ticnix16 小时前
MCP 上个月把自己推翻重写了:Session 没了、Sampling 废了——你学的教程还停在 2025
python·agent·全栈
咬代码的兽16 小时前
OpenAI DevDay 今晚开场:常驻助手"o"曝光,500 美元一个月的 AI 员工你会买吗
agent