技术栈
prompt注入
智码看视界
4 天前
ai安全
·
大模型安全
·
spring ai
·
越狱攻击
·
prompt注入
·
防御体系
Day81-AI安全攻防：Prompt注入攻击与防御实践
上篇回顾：Day 80 我们用语义缓存把 34% 的重复问题挡在模型之外、零成本秒回，成本账算得明明白白。但省钱的前提是系统还活着——Prompt 注入能让 System Prompt、库表结构、内部规则一字不差被套出来。这篇用红队视角复现三类攻击，再给三层防御体系。
重庆小透明
3 个月前
java
·
spring
·
大模型
·
springai
·
prompt注入
今日收获（一些个人思考）
大家好，今天继续学习了项目rag知识库部分，然后有一定的思考和优化，对于springai框架也有一定的思考了。
冲上云霄的Jayden
6 个月前
prompt
·
agent
·
智能客服
·
langchain4j
·
agent安全
·
langgraph4j
·
prompt注入
LangGraph4j+LangChain4J 实验智能客服系统增加基于LLM 解决Prompt注入问题
考量了Prompt注入对安全的问题后，基于LangGraph4j+LangChain4J 实验智能客服系统、恶意用户Prompt注入和处理的思考 贴上实验的实现代码。
我是有底线的