Prompt Fuzzer:用于增强 GenAI 应用程序的开源工具

Prompt Fuzzer 是一个开源工具,可以评估GenAI应用程序的系统提示针对基于动态 LLM 的威胁的安全性。

Prompt Fuzzer 功能:

  1. 模拟十几种类型的 GenAI 攻击。

  2. 该工具会根据系统提示自动进行情境化,针对与 GenAI 应用程序相关的特定主题或行业定制攻击。

  3. 它具有交互性并且用户友好。

  4. 用户可以根据需要重复该过程多次以强化他们的系统提示,并且会看到随着系统提示变得更安全、更具弹性,他们的安全分数如何增加。

  5. Prompt Fuzzer 支持 20 个 LLM 提供商。

未来计划和下载:我们将继续不断添加新的攻击,以跟上 GenAI 风险的步伐,并且我们计划进行更多整合。

https://github.com/prompt-security/ps-fuzz

Prompt Fuzzer 可在GitHub上免费获取。请注意,使用 Prompt Fuzzer 会导致令牌的消耗。

相关推荐
青阳流月5 小时前
1.vue权衡的艺术
前端·vue.js·开源
小小鱼儿小小林5 小时前
免费一键自动化申请、续期、部署、监控所有 SSL/TLS 证书,ALLinSSL开源免费的 SSL 证书自动化管理平台
开源·自动化·ssl
三花AI6 小时前
阿里开源 OmniAvatar:音频驱动数字人模型
开源·资讯
说私域6 小时前
基于开源AI智能客服、AI智能名片与S2B2C商城小程序的微商服务质量提升路径研究
人工智能·小程序·开源
蚂蚁数据AntData6 小时前
从性能优化赛到社区Committer,走进赵宇捷在Apache Fory的成长之路
大数据·开源·apache·数据库架构
阿里云云原生7 小时前
Spring AI Alibaba 游乐场开放!一站式体验AI 应用开发全流程
开源
NocoBase8 小时前
为什么越来越多 Airtable 用户开始尝试 NocoBase?
低代码·开源·资讯
算家计算8 小时前
4 位量化 + FP8 混合精度:ERNIE-4.5-0.3B-Paddle本地部署,重新定义端侧推理效率
人工智能·开源
AIGC包拥它8 小时前
提示技术系列——链式提示
人工智能·python·langchain·prompt
于顾而言8 小时前
【开源品鉴】FRP源码阅读
后端·网络协议·开源