公平性偏见与伦理

创造了机器学习系统要确保系统是合理公平,合理无偏见的,并且在应用中采用了伦理的方法,

例如一些招聘工具歧视女性,

人脸识别总是吧深色皮肤的人与犯罪照片匹配

有些系统在发放银行贷款的时候存在偏见,其实某一些子群体

希望算法不会出现强化刻板印象

除了偏见和对待个人的公平问题

机器学习还存在一写不良使用案例或者说是负面使用案例,

例如使用宽度和深度伪造视频,如黑化总统奥巴马,

用机器学习生成虚假内容,用机器学习构建有害产品,或者欺诈

让机器学习更公平的意见

在造成危害系统之前,尝试组件一个多元化的团队来集思广益,讨论可能出错的事情,特别关注对弱势群体可能造成的伤害,

进行文献搜索,查找所在行业的特定领域的任何标准或者指南,

例如在金融行业,贷款系统如何才能被认为是合理的,公平且无偏差的,这些在不同领域出现的标准可以可以根据我们正在从事的工作来指导工作,

在识别出可能得问题之后,根据这些已识别的可能危害维度对系统进行审计,在部署前是有用的

例如在自动驾驶汽车上路之前自动驾驶汽车团队都已经制定了对车辆发生事故的缓解计划,以便在车辆发生事故之后,可以立即执行缓解计划,而不是在事故发生之后从匆忙想办法,

相关推荐
神也畏惧菠萝8 分钟前
Day08 Python流程控制从入门到上瘾:if/match/while/for四件套,从B站登录一路打到猜数字游戏
python·算法·数据存储·for·while·if·ifelse
美狐美颜sdk10 分钟前
视频美颜SDK中的YUV与RGBA格式有什么区别?直播APP开发解析
人工智能·计算机视觉·音视频·美颜sdk·直播美颜sdk·视频美颜sdk
jimmyleeee22 分钟前
Agent安全之七:当智能体之间开始“互相信任”------深入理解 OWASP ASI07 不安全的智能体间通信
人工智能·安全
言乐622 分钟前
通过 3D 动画直观演示球形瓶内可滑动半圆机构在倾倒时防粘盖、回正时刮膏体的运动学过程
python·3d·django·virtualenv·pygame
二哈赛车手23 分钟前
新人笔记---hermes定时功能设计,具体讲解以及可优化点
java·人工智能·笔记·spring·ai·typescript
Fluxproxy24 分钟前
大模型批量数据采集:AI 自动化工作流搭建实战
大数据·人工智能·自动化
AAwangzong27 分钟前
AI时代RPA技术解析:如何构建兼顾流程执行与智能决策的自动化平台?
人工智能·经验分享·rpa·智能体
quantdash_cc29 分钟前
ETF 行情数据清洗实战:字段语义拆解、标的池整理与五个校验清单
python·数据分析·pandas·量化交易·股票数据·quantdash
小熊恋旧31 分钟前
Python 面向对象编程:方法、属性、继承与多态详解
开发语言·python