Prompt Fuzzer:用于增强 GenAI 应用程序的开源工具

Prompt Fuzzer 是一个开源工具,可以评估GenAI应用程序的系统提示针对基于动态 LLM 的威胁的安全性。

Prompt Fuzzer 功能:

  1. 模拟十几种类型的 GenAI 攻击。

  2. 该工具会根据系统提示自动进行情境化,针对与 GenAI 应用程序相关的特定主题或行业定制攻击。

  3. 它具有交互性并且用户友好。

  4. 用户可以根据需要重复该过程多次以强化他们的系统提示,并且会看到随着系统提示变得更安全、更具弹性,他们的安全分数如何增加。

  5. Prompt Fuzzer 支持 20 个 LLM 提供商。

未来计划和下载:我们将继续不断添加新的攻击,以跟上 GenAI 风险的步伐,并且我们计划进行更多整合。

https://github.com/prompt-security/ps-fuzz

Prompt Fuzzer 可在GitHub上免费获取。请注意,使用 Prompt Fuzzer 会导致令牌的消耗。

相关推荐
开源社1 小时前
一场开源视角的AI会议即将在南京举办
人工智能·开源
FreeIPCC1 小时前
谈一下开源生态对 AI人工智能大模型的促进作用
大数据·人工智能·机器人·开源
海害嗨1 小时前
阿里巴巴官方「SpringCloudAlibaba全彩学习手册」限时开源!
学习·开源
生命是有光的1 小时前
【开源风云】从若依系列脚手架汲取编程之道(八)
开源
龙的爹23333 小时前
论文翻译 | RECITATION-AUGMENTED LANGUAGE MODELS
人工智能·语言模型·自然语言处理·prompt·gpu算力
HuggingFace3 小时前
Halo 正式开源: 使用可穿戴设备进行开源健康追踪
开源·健康追踪
时光追逐者7 小时前
.NET 9 中 LINQ 新增功能实操
开发语言·开源·c#·.net·.netcore·linq·微软技术
段传涛8 小时前
AI Prompt Engineering
人工智能·深度学习·prompt
孤华暗香8 小时前
吴恩达《提示词工程》(Prompt Engineering for Developers)课程详细笔记
人工智能·笔记·prompt
Donvink9 小时前
大模型智能体安全——《动手学大模型》实践教程第七章
深度学习·安全·语言模型·prompt·llama