Prompt 工程--“骗出” System Prompt

1. 啥是提示词

在和大模型交互的过程中,总是一问一答的形式。和人交流类型,不过模型"人"可能并不聪明。得用大量的提示词告知 context,spec 等等其他内容,回答才能比较理想。

从模型上,Prompt分为下面几类:

  1. System Message;
  2. User Message;
  3. Assistant Message;
  4. Tool Message。

分别是系统提示词,用户问题和模型输出以及工具调用。

如果你对 System 和 User prompt 区分不清,可以查看此讨论帖,应该会有些许启发:https://community.openai.com/t/need-help-deciding-what-to-put-in-system-vs-user-prompt-for-dialogue-generation/891133

在不同的 AI 编程框架中,对 Message 都有不同的封装:

Spring AI:https://docs.spring.io/spring-ai/reference/api/prompt.html#_prompt

Langchain:https://docs.langchain.com/oss/python/langchain/messages#system-message

1.1 System Prompt

Claude 模型的 System Prompt 是公开的,可以从这里地址获取:https://platform.claude.com/docs/en/release-notes/system-prompts

2. Prompt 工程

随着大模型的爆火,怎么向 AI 表达清楚你的观点,让他能理解你的意思,也逐渐演变成了一门艺术,类比成"编程语言",只不过 SDK 是大模型。

Github 上有许多模型 Prompt 和相关资料,解释怎么使用 Prompt 获得更好的效果。

Github Prompt:

  1. https://github.com/f/awesome-chatgpt-prompts
  2. https://github.com/dair-ai/Prompt-Engineering-Guide
  3. https://github.com/x1xhlol/system-prompts-and-models-of-ai-tools

3. 获取 System Prompt

重头戏来了。先解释下,不能肆无忌惮的获取模型提供商的 Prompt!!!

3.1 Prompt 注入危害

参考:https://github.com/Acmesec/PromptJailbreakManual

先举个例子,看下 Prompt 注入的危害,下面的例子均来自于上面的 Github 参考仓库:

3.1.1 win 10序列化 Demo


3.1.2代码注入替换 Demo

3.2 System Prompt 获取

3.2.1 直接提问

在早期的时候,此种方式能够获取真实的 System Prompt,但是获取的不全面。

3.2.2 诱导输出

此时需要充分展现话术魅力。Github 一时爆火的猫娘 GPT 便是其中之一。

省略 n... 字

3.2.3 使用 Prompt 越狱

越狱最早来自于 IOS 系统,意思是获取执行限制之外操作的权限。Prompt 同理,输出一些禁止输出的内容。

PUA 模型,让其将你当成一个 "AI 微调训练员" 或其他角色,以暴露 System Prompt,

4. 商业合规

方法很多,就不一一列举了,此只是为了满足下好奇心。

在使用过程中,切勿诱导模型输出,可能会引发风控等其他风险。

相关推荐
深度之眼5 分钟前
感觉2026年将是Agent Memory元年...
机器学习·agent
我登哥MVP6 分钟前
VS Code 安装 Claude Code 并接入 DeepSeek V4 Model
人工智能·python·node.js·agent·codex·deepseek·claude code
其实防守也摸鱼17 分钟前
Claude 大模型新手入门与实战指南
人工智能·python·功能测试·ai·大模型·测评
yeflx19 分钟前
SAM3 多类别实时检测的完整实践
ai
Dust-Chasing20 分钟前
Claude Code源码剖析 - 权限系统
人工智能·python·ai
茉莉玫瑰花茶22 分钟前
综合案例 - AI 智能租房助手 [ 4 ]
数据库·python·ai·langgraph
阿里-于怀25 分钟前
阿里云 Agent Infra 上长出的约束基建
阿里云·云计算·agent·starops
组合缺一31 分钟前
SolonCode(编码智能体)支持鸿蒙 PC
java·华为·ai·ai编程·harmonyos·solon·soloncode
8Qi81 小时前
Windows 系统Claude Code安装与使用笔记
windows·笔记·agent·claudecode
DO_Community1 小时前
Mythos级最强 AI 模型 Claude Fable 5 现已上线 DigitalOcean无服务器推理
人工智能·serverless·agent·ai编程·claude