各类 AI 创作工具慢慢普及，普通人制作视频、添加特效变得简单，同时也产生了不少内容问题。部分创作者利用 AI 修改画面、替换人脸，产出不当引导或者盗用他人肖像的短视频。这类内容隐蔽、传播快，各大短视频平台近期启动专项清查，规范 AI 创作的边界，维护网络内容环境。
一、本次整治重点管控的两类内容
这一次的整治工作，主要是盯着两类风险比较高的内容。
第一类就是依靠 AI 生成出来的违规视频，有些创作者会使用 AI 绘图、数字人这类功能，制作带有不良暗示感的视频，靠着这种方式吸引更多人点进来观看。这类视频很多时候不会有一眼就看得出的违规画面，但是它会靠着拍摄角度、人物动作，还有搭配的文案，营造出不适的氛围，普通的审核方式，很难第一时间识别出来。
第二类就是大家经常听说的 AI 换脸内容。有些账号没有提前征得当事人的同意，直接把别人的脸部画面合成到别的视频里面。有的账号只是拿来搞怪，吸引流量，也有账号用来带货引流。这样的做法会直接侵犯别人的肖像权，如果情况比较严重，这些视频还有可能被不法分子拿去利用，衍生出电信诈骗之类的违法行为。
短视频平台整治重点图
二、平台采用的管控和处置方式
在审核的方式上，平台不只是依靠工作人员人工回看视频，同时也更新了自动识别的相关办法。平台会使用专门的识别模型、溯源标记还有水印这类技术，提前筛查属于 AI 合成的视频。根据深度合成的相关规定，如果一段换脸视频容易让观众分不清真假，那就必须标注清楚这个内容是 AI 生成的。
没有经过本人授权，也没有加上 AI 标注的换脸视频，都是这次清理的重点对象。平台会按照违规的严重程度分开处理，问题比较轻的视频会直接下架，通知创作者去修改内容，补齐标注；多次违规或者情节严重的账号，会被限制流量，甚至直接封禁；如果查到里面存在违法的线索，平台就会把线索交给监管部门还有公安部门处理。
三、创作者容易踩坑的认知误区
很多做短视频的创作者，其实不太了解这些相关规则。他们会以为，只要视频画面里没有明显的违规画面，那用 AI 做出来的视频就是合规的。其实平台在判定这类内容的时候，会结合画面、台词还有背景音乐放在一起带来的整体感受去判断，不是只单独看某一处画面。
AI 换脸这块同样有要求，不管这个视频会不会用来赚钱，只要没有拿到当事人的同意，就会存在法律上的风险。就算创作者只是想拿来玩梗娱乐，也不能随便拿别人的人脸去合成视频。想要合规使用这类 AI 功能，需要同时做到拿到当事人许可、标注 AI 合成信息、保证内容导向没有问题。
四、整治带来的影响与后续方向
对于短视频创作者来说，这一次整治并不是不让大家使用 AI 工具，只是把不能触碰的红线说明白。平台依旧允许大家用 AI 去制作科普短片、拍数字人小故事、做创意特效这类正常内容，基本的要求就是不能损害其他人的权益、不产出不良内容、不误导观看视频的人。
普通用户刷短视频的时候，可以多留心一下，如果看到可疑的换脸或者 AI 违规视频，可以通过平台自带的举报入口提交线索，一起维护网络内容环境。总的来讲，这次专项清查，只是平台长期管理 AI 内容当中的其中一步。新技术的使用和内容管理需要同步推进，把相关的规则明确下来，AI 内容创作才可以平稳长久地发展，保护好创作者和上网用户的合法权益。