Prompt Fuzzer 是一个开源工具，可以评估GenAI应用程序的系统提示针对基于动态 LLM 的威胁的安全性。
Prompt Fuzzer 功能：
-
模拟十几种类型的 GenAI 攻击。
-
该工具会根据系统提示自动进行情境化，针对与 GenAI 应用程序相关的特定主题或行业定制攻击。
-
它具有交互性并且用户友好。
-
用户可以根据需要重复该过程多次以强化他们的系统提示，并且会看到随着系统提示变得更安全、更具弹性，他们的安全分数如何增加。
-
Prompt Fuzzer 支持 20 个 LLM 提供商。
未来计划和下载：我们将继续不断添加新的攻击，以跟上 GenAI 风险的步伐，并且我们计划进行更多整合。
https://github.com/prompt-security/ps-fuzz
Prompt Fuzzer 可在GitHub上免费获取。请注意，使用 Prompt Fuzzer 会导致令牌的消耗。