llama guard2 - llama guard2技术,学习,经验文章

真·skysys

2 小时前

【技术报告详细解读】Meta Llama Guard 2Meta Llama Guard 2 是一个基于 Llama 3 的 80 亿参数安全模型。与 Llama Guard 类似，它可用于对 LLM 输入（提示分类）和 LLM 输出（响应分类）进行分类。其本身也是一个 LLM——在输出中生成文本，指示给定提示或响应是否安全；若不安全，还会列出违反的内容类别。下方给出 Llama Guard 2 响应分类的示例输入与输出。