技术栈
提示词注入
SuperherRo
3 天前
大模型
·
llm
·
提示词注入
·
不安全输出
·
直接
·
间接
Web攻防-大模型应用&LLM安全&提示词注入&不安全输出&代码注入&直接间接&数据投毒
知识点： 1、WEB攻防-LLM安全-API接口安全&代码注入 2、WEB攻防-LLM安全-提示词注入&不安全输出 Web LLM（Large Language Model）攻击指针对部署在Web端的AI大语言模型的攻击行为。攻击者通过恶意提示词注入、训练数据窃取、模型逆向工程等手段，操控AI输出敏感信息或执行危险操作。
CS创新实验室
1 个月前
安全
·
大模型
·
aigc
·
提示词
·
提示词注入
筑牢 AIGC 安全防线：警惕提示词注入攻击
在 AIGC（生成式人工智能）技术蓬勃发展的当下，其在各个领域的应用日益广泛。然而，随着 AIGC 技术的深入应用，安全问题也逐渐凸显，提示词注入攻击便是其中不容忽视的一大威胁。对于 AIGC 开发者而言，深入了解提示词注入攻击并做好防范工作，是保障 AIGC 系统安全稳定运行的关键。
Z3r4y
8 个月前
llm
·
prompt
·
nssctf
·
提示词注入
【LLM】NSSCTF Round#25 Basic大模型Prompt挑战全解
目录大模型Prompt挑战一大模型Prompt挑战二大模型Prompt挑战三大模型Prompt挑战四大模型Prompt挑战五
Jay 17
2 年前
python
·
ai安全
·
提示词注入
第七届西湖论剑·中国杭州网络安全技能大赛 AI 回声海螺 WP
开题，提示输入密码给FLAG。这个回声海螺应该是个AI，就是复读机，应该是想办法从中骗出密码。感觉这题不像是AI，也没用啥模型，应该是WEB。或者是说类似于AI的提示词注入