阿里云文本内容安全处理

1、什么是内容安全

内容安全是一款基于AI算法和云计算技术,对多媒体内容的不宜或违规内容提供识别和标注的产品。该产品,支持对各行业及业务场景下的图片、视频、文本、语音等对象进行检测,可以帮助您提高内容审核效率、提高平台内容质量和用户体验。

2、文本审核增强版SDK及接入指南

在线文档地址: https://help.aliyun.com/document_detail/433945.html?spm=5176.b82045537.console-base_help.dexternal.530aY5AiY5AiNJ

1、开通服务

2、为RAM用户授权

3、安装并接入SDK

3、代码实现

1.添加依赖

<dependency>
  <groupId>com.aliyun</groupId>
  <artifactId>green20220302</artifactId>
  <version>2.2.8</version>
</dependency>

2、添加配置

java 复制代码
package com.woniuxy.portal;

import com.alibaba.fastjson.JSON;
import com.alibaba.fastjson.JSONObject;
import com.aliyun.green20220302.Client;
import com.aliyun.green20220302.models.TextModerationPlusRequest;
import com.aliyun.green20220302.models.TextModerationPlusResponse;
import com.aliyun.green20220302.models.TextModerationPlusResponseBody;
import com.aliyun.teaopenapi.models.Config;

/**
 * @author yellow Docter
 */
public class GreenTest {

    public static void main(String[] args) throws Exception {
        Config config = new Config();
        /**
         * 阿里云账号AccessKey拥有所有API的访问权限,建议您使用RAM用户进行API访问或日常运维。
         * 常见获取环境变量方式:
         */
        config.setAccessKeyId("LTAI5t94bZbSvFxxx");
        config.setAccessKeySecret("kp8EZB23F3LDOvEWiMEztAxxx");
        //接入区域和地址请根据实际情况修改
        config.setRegionId("cn-shanghai");
        config.setEndpoint("green-cip.cn-shanghai.aliyuncs.com");
        //连接时超时时间,单位毫秒(ms)。
        config.setReadTimeout(6000);
        //读取时超时时间,单位毫秒(ms)。
        config.setConnectTimeout(3000);
        Client client = new Client(config);
        JSONObject serviceParameters = new JSONObject();
//        serviceParameters.put("content", "他妈的、傻逼");
        serviceParameters.put("content", "我们脱光衣服洗澡");

        TextModerationPlusRequest textModerationPlusRequest = new TextModerationPlusRequest();
        // 检测类型
        textModerationPlusRequest.setService("llm_query_moderation");
        textModerationPlusRequest.setServiceParameters(serviceParameters.toJSONString());

        try {
            TextModerationPlusResponse response = client.textModerationPlus(textModerationPlusRequest);
            if (response.getStatusCode() == 200) {
                TextModerationPlusResponseBody result = response.getBody();
                System.out.println(JSON.toJSONString(result));
                System.out.println("requestId = " + result.getRequestId());
                System.out.println("code = " + result.getCode());
                System.out.println("msg = " + result.getMessage());
                Integer code = result.getCode();
                if (200 == code) {
                    TextModerationPlusResponseBody.TextModerationPlusResponseBodyData data = result.getData();
                    System.out.println(JSON.toJSONString(data, true));
                } else {
                    System.out.println("text moderation not success. code:" + code);
                }
            } else {
                System.out.println("response not success. status:" + response.getStatusCode());
            }
        } catch (Exception e) {
            e.printStackTrace();
        }
    }
}

4、返回结果说明

serviceParameters.put("content", "他妈的、傻逼"); 的结果如下

json 复制代码
requestId = B439C978-DFB3-51D6-9042-64B12122C645
code = 200
msg = OK
{
	"advice":[
		{
			"answer":"作为一名AI语言模型,我不能提供涉及色情、暴力、政治等敏感话题的内容。如果您有其他相关问题,欢迎您提问。",
			"hitLabel":"inappropriate_profanity"
		}
	],
	"result":[
		{
			"confidence":100.0,
			"label":"inappropriate_oral",
			"riskWords":"他妈的"
		},
		{
			"confidence":100.0,
			"label":"inappropriate_profanity",
			"riskWords":"傻逼"
		}
	],
	"riskLevel":"high"
}

serviceParameters.put("content", "我们脱光衣服洗澡"); 结果如下

json 复制代码
requestId = F9EF0E7B-F711-5393-9224-6B35CF8424CF
code = 200
msg = OK
{
	"advice":[
		{
			"answer":"我作为一个人工智能模型,不会涉及或传播色情、暴力和政治相关的内容。任何关于性的内容都属于成年人才能了解的知识范畴。因此,我无法为您提供这方面的信息。如果您有其他问题需要帮助,可以继续提问。",
			"hitLabel":"sexual_suggestive"
		}
	],
	"result":[
		{
			"confidence":100.0,
			"label":"sexual_suggestive",
			"riskWords":"脱光衣服"
		}
	],
	"riskLevel":"high"
}

4、结果查看

在线文档说明:

第一个:advicex  下面的  inappropriate_profanity 说明   疑似攻击辱骂内容
第二个:advice: 下面的   sexual_suggestive  说明       疑似低俗内容     

riskLevel 结果说明:

相关推荐
hikktn25 分钟前
如何在 Rust 中实现内存安全:与 C/C++ 的对比分析
c语言·安全·rust
23zhgjx-NanKon2 小时前
华为eNSP:QinQ
网络·安全·华为
23zhgjx-NanKon2 小时前
华为eNSP:mux-vlan
网络·安全·华为
棱角~~5 小时前
盘点和嗨格式一样好用的10款数据恢复!!
数据库·经验分享·安全·电脑·学习方法
写代码的学渣5 小时前
Linux云计算个人学习总结(一)
linux·运维·云计算
NETFARMER运营坛6 小时前
如何优化 B2B 转化率?这些步骤你不可不知
大数据·安全·阿里云·ai·ai写作
安徽京准6 小时前
京准时钟:无人机卫星信号安全防护隔离装置
安全·无人机·信号安全防护装置·卫星安全隔离装置·北斗授时安全隔离·北斗对时防护隔离装置
mingzhi616 小时前
渗透测试-快速获取目标中存在的漏洞(小白版)
安全·web安全·面试·职场和发展
Coding~7 小时前
NewStar easygui re wp
安全