阿里云文本内容安全处理

1、什么是内容安全

内容安全是一款基于AI算法和云计算技术,对多媒体内容的不宜或违规内容提供识别和标注的产品。该产品,支持对各行业及业务场景下的图片、视频、文本、语音等对象进行检测,可以帮助您提高内容审核效率、提高平台内容质量和用户体验。

2、文本审核增强版SDK及接入指南

在线文档地址: https://help.aliyun.com/document_detail/433945.html?spm=5176.b82045537.console-base_help.dexternal.530aY5AiY5AiNJ

1、开通服务

2、为RAM用户授权

3、安装并接入SDK

3、代码实现

1.添加依赖

<dependency>
  <groupId>com.aliyun</groupId>
  <artifactId>green20220302</artifactId>
  <version>2.2.8</version>
</dependency>

2、添加配置

java 复制代码
package com.woniuxy.portal;

import com.alibaba.fastjson.JSON;
import com.alibaba.fastjson.JSONObject;
import com.aliyun.green20220302.Client;
import com.aliyun.green20220302.models.TextModerationPlusRequest;
import com.aliyun.green20220302.models.TextModerationPlusResponse;
import com.aliyun.green20220302.models.TextModerationPlusResponseBody;
import com.aliyun.teaopenapi.models.Config;

/**
 * @author yellow Docter
 */
public class GreenTest {

    public static void main(String[] args) throws Exception {
        Config config = new Config();
        /**
         * 阿里云账号AccessKey拥有所有API的访问权限,建议您使用RAM用户进行API访问或日常运维。
         * 常见获取环境变量方式:
         */
        config.setAccessKeyId("LTAI5t94bZbSvFxxx");
        config.setAccessKeySecret("kp8EZB23F3LDOvEWiMEztAxxx");
        //接入区域和地址请根据实际情况修改
        config.setRegionId("cn-shanghai");
        config.setEndpoint("green-cip.cn-shanghai.aliyuncs.com");
        //连接时超时时间,单位毫秒(ms)。
        config.setReadTimeout(6000);
        //读取时超时时间,单位毫秒(ms)。
        config.setConnectTimeout(3000);
        Client client = new Client(config);
        JSONObject serviceParameters = new JSONObject();
//        serviceParameters.put("content", "他妈的、傻逼");
        serviceParameters.put("content", "我们脱光衣服洗澡");

        TextModerationPlusRequest textModerationPlusRequest = new TextModerationPlusRequest();
        // 检测类型
        textModerationPlusRequest.setService("llm_query_moderation");
        textModerationPlusRequest.setServiceParameters(serviceParameters.toJSONString());

        try {
            TextModerationPlusResponse response = client.textModerationPlus(textModerationPlusRequest);
            if (response.getStatusCode() == 200) {
                TextModerationPlusResponseBody result = response.getBody();
                System.out.println(JSON.toJSONString(result));
                System.out.println("requestId = " + result.getRequestId());
                System.out.println("code = " + result.getCode());
                System.out.println("msg = " + result.getMessage());
                Integer code = result.getCode();
                if (200 == code) {
                    TextModerationPlusResponseBody.TextModerationPlusResponseBodyData data = result.getData();
                    System.out.println(JSON.toJSONString(data, true));
                } else {
                    System.out.println("text moderation not success. code:" + code);
                }
            } else {
                System.out.println("response not success. status:" + response.getStatusCode());
            }
        } catch (Exception e) {
            e.printStackTrace();
        }
    }
}

4、返回结果说明

serviceParameters.put("content", "他妈的、傻逼"); 的结果如下

json 复制代码
requestId = B439C978-DFB3-51D6-9042-64B12122C645
code = 200
msg = OK
{
	"advice":[
		{
			"answer":"作为一名AI语言模型,我不能提供涉及色情、暴力、政治等敏感话题的内容。如果您有其他相关问题,欢迎您提问。",
			"hitLabel":"inappropriate_profanity"
		}
	],
	"result":[
		{
			"confidence":100.0,
			"label":"inappropriate_oral",
			"riskWords":"他妈的"
		},
		{
			"confidence":100.0,
			"label":"inappropriate_profanity",
			"riskWords":"傻逼"
		}
	],
	"riskLevel":"high"
}

serviceParameters.put("content", "我们脱光衣服洗澡"); 结果如下

json 复制代码
requestId = F9EF0E7B-F711-5393-9224-6B35CF8424CF
code = 200
msg = OK
{
	"advice":[
		{
			"answer":"我作为一个人工智能模型,不会涉及或传播色情、暴力和政治相关的内容。任何关于性的内容都属于成年人才能了解的知识范畴。因此,我无法为您提供这方面的信息。如果您有其他问题需要帮助,可以继续提问。",
			"hitLabel":"sexual_suggestive"
		}
	],
	"result":[
		{
			"confidence":100.0,
			"label":"sexual_suggestive",
			"riskWords":"脱光衣服"
		}
	],
	"riskLevel":"high"
}

4、结果查看

在线文档说明:

第一个:advicex  下面的  inappropriate_profanity 说明   疑似攻击辱骂内容
第二个:advice: 下面的   sexual_suggestive  说明       疑似低俗内容     

riskLevel 结果说明:

相关推荐
小曲曲1 小时前
接口上传视频和oss直传视频到阿里云组件
javascript·阿里云·音视频
EasyNVR3 小时前
NVR管理平台EasyNVR多个NVR同时管理:全方位安防监控视频融合云平台方案
安全·音视频·监控·视频监控
黑客Ash6 小时前
【D01】网络安全概论
网络·安全·web安全·php
为什么每天的风都这么大7 小时前
Vscode/Code-server无网环境安装通义灵码
ide·vscode·阿里云·编辑器·ai编程·code-server
阿龟在奔跑8 小时前
引用类型的局部变量线程安全问题分析——以多线程对方法局部变量List类型对象实例的add、remove操作为例
java·jvm·安全·list
.Ayang8 小时前
SSRF漏洞利用
网络·安全·web安全·网络安全·系统安全·网络攻击模型·安全架构
.Ayang8 小时前
SSRF 漏洞全解析(概述、攻击流程、危害、挖掘与相关函数)
安全·web安全·网络安全·系统安全·网络攻击模型·安全威胁分析·安全架构
好想打kuo碎8 小时前
1、HCIP之RSTP协议与STP相关安全配置
网络·安全
周全全8 小时前
Spring Boot + Vue 基于 RSA 的用户身份认证加密机制实现
java·vue.js·spring boot·安全·php