Prompt Fuzzer:用于增强 GenAI 应用程序的开源工具

Prompt Fuzzer 是一个开源工具,可以评估GenAI应用程序的系统提示针对基于动态 LLM 的威胁的安全性。

Prompt Fuzzer 功能:

  1. 模拟十几种类型的 GenAI 攻击。

  2. 该工具会根据系统提示自动进行情境化,针对与 GenAI 应用程序相关的特定主题或行业定制攻击。

  3. 它具有交互性并且用户友好。

  4. 用户可以根据需要重复该过程多次以强化他们的系统提示,并且会看到随着系统提示变得更安全、更具弹性,他们的安全分数如何增加。

  5. Prompt Fuzzer 支持 20 个 LLM 提供商。

未来计划和下载:我们将继续不断添加新的攻击,以跟上 GenAI 风险的步伐,并且我们计划进行更多整合。

https://github.com/prompt-security/ps-fuzz

Prompt Fuzzer 可在GitHub上免费获取。请注意,使用 Prompt Fuzzer 会导致令牌的消耗。

相关推荐
云水木石1 小时前
Google 停止开源 Android?
android·开源
云端源想2 小时前
谷歌决定终止开源Android
android·开源
hikktn3 小时前
【开源宝藏】30天学会CSS - DAY9 第九课 牛顿摆动量守恒动画
前端·css·开源
字节跳动开源3 小时前
MySQL遇到AI:字节跳动开源 MySQL 虚拟索引 VIDEX
人工智能·mysql·开源·虚拟索引技术·解耦架构
亿坊电商5 小时前
开源的CMS建站系统可以随便用吗?有什么需要注意的?
开源·开源cms系统
_xaboy6 小时前
基于Vue的低代码可视化表单设计器 FcDesigner 3.2.11更新说明
前端·vue.js·低代码·开源·表单设计器
早茶和猫7 小时前
【YOLOE: Real-Time Seeing Anything】predict_visual_prompt.py视觉推理代码分析(检测版本)
yolo·目标检测·prompt·yoloe·视觉提示·开放检测
大明者省9 小时前
deepseek 技术的前生今世:从开源先锋到AGI探索者
开源·agi
修复bug12 小时前
Uniapp自定义TabBar组件全封装实践与疑难问题解决方案
前端·javascript·vue.js·uni-app·开源
小小宇宙中微子13 小时前
优秀的 Vue.js 入门开源项目推荐
前端·vue.js·开源