Prompt Fuzzer:用于增强 GenAI 应用程序的开源工具

Prompt Fuzzer 是一个开源工具,可以评估GenAI应用程序的系统提示针对基于动态 LLM 的威胁的安全性。

Prompt Fuzzer 功能:

  1. 模拟十几种类型的 GenAI 攻击。

  2. 该工具会根据系统提示自动进行情境化,针对与 GenAI 应用程序相关的特定主题或行业定制攻击。

  3. 它具有交互性并且用户友好。

  4. 用户可以根据需要重复该过程多次以强化他们的系统提示,并且会看到随着系统提示变得更安全、更具弹性,他们的安全分数如何增加。

  5. Prompt Fuzzer 支持 20 个 LLM 提供商。

未来计划和下载:我们将继续不断添加新的攻击,以跟上 GenAI 风险的步伐,并且我们计划进行更多整合。

https://github.com/prompt-security/ps-fuzz

Prompt Fuzzer 可在GitHub上免费获取。请注意,使用 Prompt Fuzzer 会导致令牌的消耗。

相关推荐
热爱跑步的恒川2 小时前
【论文复现】基于图卷积网络的轻量化推荐模型
网络·人工智能·开源·aigc·ai编程
ClkLog-开源埋点用户分析5 小时前
ClkLog企业版(CDP)预售开启,更有鸿蒙SDK前来助力
华为·开源·开源软件·harmonyos
funnyZpC8 小时前
quartz集群增强版🎉
java·分布式·开源·集群·定时任务
ToToBe9 小时前
L1G3000 提示工程(Prompt Engineering)
chatgpt·prompt
龙的爹23339 小时前
论文 | Legal Prompt Engineering for Multilingual Legal Judgement Prediction
人工智能·语言模型·自然语言处理·chatgpt·prompt
manfulshark9 小时前
OPENAI官方prompt文档解析
ai·prompt
vvw&14 小时前
如何使用Netdata部署高性能的服务器监控平台
linux·运维·服务器·docker·开源·服务器监控·netdata
JoeyKo21 小时前
国内版Sketchfab平台 - CG美术之家(3D编辑发布篇)
3d·3d建模·3dsmax·3d渲染·模型·3d模型·cg模型