技术栈
prompt注入
goehou
11 天前
安全
·
ai
·
llm
·
agent
·
prompt注入
Prompt 注入实战：直接注入、间接注入和四道防线（附测试样例）
Agent 安全篇讲了权限和工具校验，这篇补注入这个口子。OWASP 的 LLM 应用 Top 10 把 Prompt 注入列为第一风险，值得单独写一篇。
大连好光景
20 天前
数据泄露
·
agent安全
·
prompt注入
·
工具滥用
Agent有哪些安全风险？如何保证系统安全性？
智码看视界
24 天前
ai安全
·
大模型安全
·
spring ai
·
越狱攻击
·
prompt注入
·
防御体系
Day81-AI安全攻防：Prompt注入攻击与防御实践
上篇回顾：Day 80 我们用语义缓存把 34% 的重复问题挡在模型之外、零成本秒回，成本账算得明明白白。但省钱的前提是系统还活着——Prompt 注入能让 System Prompt、库表结构、内部规则一字不差被套出来。这篇用红队视角复现三类攻击，再给三层防御体系。
重庆小透明
3 个月前
java
·
spring
·
大模型
·
springai
·
prompt注入
今日收获（一些个人思考）
大家好，今天继续学习了项目rag知识库部分，然后有一定的思考和优化，对于springai框架也有一定的思考了。
冲上云霄的Jayden
6 个月前
prompt
·
agent
·
智能客服
·
langchain4j
·
agent安全
·
langgraph4j
·
prompt注入
LangGraph4j+LangChain4J 实验智能客服系统增加基于LLM 解决Prompt注入问题
考量了Prompt注入对安全的问题后，基于LangGraph4j+LangChain4J 实验智能客服系统、恶意用户Prompt注入和处理的思考 贴上实验的实现代码。
我是有底线的