Prompt 工程--“骗出” System Prompt

1. 啥是提示词

在和大模型交互的过程中,总是一问一答的形式。和人交流类型,不过模型"人"可能并不聪明。得用大量的提示词告知 context,spec 等等其他内容,回答才能比较理想。

从模型上,Prompt分为下面几类:

  1. System Message;
  2. User Message;
  3. Assistant Message;
  4. Tool Message。

分别是系统提示词,用户问题和模型输出以及工具调用。

如果你对 System 和 User prompt 区分不清,可以查看此讨论帖,应该会有些许启发:https://community.openai.com/t/need-help-deciding-what-to-put-in-system-vs-user-prompt-for-dialogue-generation/891133

在不同的 AI 编程框架中,对 Message 都有不同的封装:

Spring AI:https://docs.spring.io/spring-ai/reference/api/prompt.html#_prompt

Langchain:https://docs.langchain.com/oss/python/langchain/messages#system-message

1.1 System Prompt

Claude 模型的 System Prompt 是公开的,可以从这里地址获取:https://platform.claude.com/docs/en/release-notes/system-prompts

2. Prompt 工程

随着大模型的爆火,怎么向 AI 表达清楚你的观点,让他能理解你的意思,也逐渐演变成了一门艺术,类比成"编程语言",只不过 SDK 是大模型。

Github 上有许多模型 Prompt 和相关资料,解释怎么使用 Prompt 获得更好的效果。

Github Prompt:

  1. https://github.com/f/awesome-chatgpt-prompts
  2. https://github.com/dair-ai/Prompt-Engineering-Guide
  3. https://github.com/x1xhlol/system-prompts-and-models-of-ai-tools

3. 获取 System Prompt

重头戏来了。先解释下,不能肆无忌惮的获取模型提供商的 Prompt!!!

3.1 Prompt 注入危害

参考:https://github.com/Acmesec/PromptJailbreakManual

先举个例子,看下 Prompt 注入的危害,下面的例子均来自于上面的 Github 参考仓库:

3.1.1 win 10序列化 Demo


3.1.2代码注入替换 Demo

3.2 System Prompt 获取

3.2.1 直接提问

在早期的时候,此种方式能够获取真实的 System Prompt,但是获取的不全面。

3.2.2 诱导输出

此时需要充分展现话术魅力。Github 一时爆火的猫娘 GPT 便是其中之一。

省略 n... 字

3.2.3 使用 Prompt 越狱

越狱最早来自于 IOS 系统,意思是获取执行限制之外操作的权限。Prompt 同理,输出一些禁止输出的内容。

PUA 模型,让其将你当成一个 "AI 微调训练员" 或其他角色,以暴露 System Prompt,

4. 商业合规

方法很多,就不一一列举了,此只是为了满足下好奇心。

在使用过程中,切勿诱导模型输出,可能会引发风控等其他风险。

相关推荐
DigitalOcean10 小时前
OpenCode AI编程实践:利用推理路由低成本开发游戏
llm·agent
妙妙屋(zy)10 小时前
Claude Code+CC-Switch+CC-Connect+飞书使用教程
ai
阿里云大数据AI技术10 小时前
Agentic Memory Extension 支持对接主流Agent - 适用于 Claude Code、CodeX等
人工智能·agent
阿里云云原生11 小时前
AgentTeams 和 Claude Tag 都进入群聊模式,是新范式还是新叙事?
云原生·agent
Mintimate11 小时前
WorkBuddy 上手: 让脚本项目 Homebrew CN 变成会排障的 Agent
macos·边缘计算·agent
阿里云大数据AI技术12 小时前
MiniMax M3、Kimi K2.7 Code来啦!PAI已支持一键部署,开源前沿触手可及
人工智能·agent
小白鼠幻想家13 小时前
别再问我用哪个 Agent 框架了,看完这篇你自己选
agent
Java研究者13 小时前
AI智能体研发 | 什么是OpenAI API协议
人工智能·大模型·openai·api·agent·智能体
小七-七牛开发者13 小时前
Coding Agent 规则管理:CLAUDE.md、Skills、Hooks、Subagents 到底怎么选?
ai·大模型·agent·claude·token·loop·mcp·claudecode·ai coding
小白鼠幻想家13 小时前
Prompt Engineering 正在变成"汇编语言"
agent