公平性偏见与伦理

创造了机器学习系统要确保系统是合理公平,合理无偏见的,并且在应用中采用了伦理的方法,

例如一些招聘工具歧视女性,

人脸识别总是吧深色皮肤的人与犯罪照片匹配

有些系统在发放银行贷款的时候存在偏见,其实某一些子群体

希望算法不会出现强化刻板印象

除了偏见和对待个人的公平问题

机器学习还存在一写不良使用案例或者说是负面使用案例,

例如使用宽度和深度伪造视频,如黑化总统奥巴马,

用机器学习生成虚假内容,用机器学习构建有害产品,或者欺诈

让机器学习更公平的意见

在造成危害系统之前,尝试组件一个多元化的团队来集思广益,讨论可能出错的事情,特别关注对弱势群体可能造成的伤害,

进行文献搜索,查找所在行业的特定领域的任何标准或者指南,

例如在金融行业,贷款系统如何才能被认为是合理的,公平且无偏差的,这些在不同领域出现的标准可以可以根据我们正在从事的工作来指导工作,

在识别出可能得问题之后,根据这些已识别的可能危害维度对系统进行审计,在部署前是有用的

例如在自动驾驶汽车上路之前自动驾驶汽车团队都已经制定了对车辆发生事故的缓解计划,以便在车辆发生事故之后,可以立即执行缓解计划,而不是在事故发生之后从匆忙想办法,

相关推荐
byte轻骑兵1 分钟前
【BlueZ 】sdp 模块:服务发现协议的用户态实现基础
linux·人工智能·bluez·电脑蓝牙·嵌入式蓝牙
小白学大数据6 分钟前
Python 项目实战:用 Flask 构建生产级 MySQL 增删改查 REST API
开发语言·人工智能·python·mysql·flask
YangYang9YangYan6 分钟前
资金分析校招 JD 拆解,现金流建模与数据分析能力怎么准备
大数据·人工智能·数据分析
名不经传的养虾人8 分钟前
从0到1:企业级AI项目迭代日记 Vol.110|协作有了预算,延迟有了归因,知识有了保真
大数据·人工智能·机器人·ai编程·企业ai
孟郎郎9 分钟前
Windows 环境使用 OpenCode 配置使用大模型
人工智能·windows·ai·大模型·开源软件·opencode
逐米时代12 分钟前
实验检测智能管理:LIMS如何让检验任务排程和资质校验自动化
人工智能·机器学习
TK泰妞13 分钟前
2026TikTok带货视频怎么做?
人工智能·prompt·音视频
蓝速科技14 分钟前
会议室门牌显示模板选型与品牌视觉适配落地指南丨蓝速科技
大数据·运维·数据库·人工智能·科技
诺伦14 分钟前
AI营销从单点智能到系统协同:多Agent编排如何重塑增长运营
python·多agent系统·ai营销·agent编排·增长运营