图 : 人脸识别的滥用可能带来隐私风险，为不法分子提供可乘之机。特别是无处不在的摄像头，使我们的人脸生物信息可能暴露在风险中，被非法采集。
人工智能的广泛应用离不开对数据的采集与分析，但也因此带来了数据安全方面的担忧。人工智能系统随时随地在收集我们的个人信息------从浏览历史、购物记录到刷脸支付和语音通话。某些应用在未取得用户明确授权的情况下便采集信息，导致个人数据被过度或不当使用。而这些汇聚起来的海量数据若保管不善，还可能集中泄露，带来严重后果。一些典型的数据滥用风险如下。
人脸识别的隐患。大量应用和设备使用"刷脸"来验证身份。一旦人脸数据遭非法获取或滥用，便会引发安全与隐私风险，比如不法分子可利用人脸信息闯入私人场所、盗用银行账户等。鉴于此，许多国家和地区已对人脸识别作出明确限制。我国许多城市的酒店也不再"强制刷脸"，并对商场、超市安装监控摄像头加强了监管，以减少不必要的面部信息采集。
"大数据杀熟"。一些线上平台通过分析消费者的购买行为与偏好，对黏性更强的老顾客反而提高商品价格，从而获得额外利润。这被称为"大数据杀熟"，涉嫌不公平交易与价格歧视。某些调查显示，一些电商平台对"常旅客"或"高级会员"所显示的酒店预订价确实高于普通用户，构成不正当竞争。
第三方追踪与隐私泄露。网站与 APP 常使用 Cookies、广告追踪器等技术共享用户行为数据。结果是，当你在电商平台搜索"运动鞋"，短视频平台立刻推送相关广告或视频。若用户对技术原理不够了解，在浑然不觉的情况下盲目授权，就可能面临隐私泄露的风险。
非法采集与训练。一些人工智能公司为提高模型性能，擅自收集用户数据或用"信息差"方式诱骗用户同意数据采集，这些都侵犯了用户的隐私与数据所有权。为规范此类行为，我国于 2021 年颁布《中华人民共和国数据安全法》，明确要求"任何组织、个人收集数据，应当采取合法、正当的方式，不得窃取或者以其他非法方式获取数据"，从法律层面为数据合规使用提供了依据。