公平性偏见与伦理

创造了机器学习系统要确保系统是合理公平,合理无偏见的,并且在应用中采用了伦理的方法,

例如一些招聘工具歧视女性,

人脸识别总是吧深色皮肤的人与犯罪照片匹配

有些系统在发放银行贷款的时候存在偏见,其实某一些子群体

希望算法不会出现强化刻板印象

除了偏见和对待个人的公平问题

机器学习还存在一写不良使用案例或者说是负面使用案例,

例如使用宽度和深度伪造视频,如黑化总统奥巴马,

用机器学习生成虚假内容,用机器学习构建有害产品,或者欺诈

让机器学习更公平的意见

在造成危害系统之前,尝试组件一个多元化的团队来集思广益,讨论可能出错的事情,特别关注对弱势群体可能造成的伤害,

进行文献搜索,查找所在行业的特定领域的任何标准或者指南,

例如在金融行业,贷款系统如何才能被认为是合理的,公平且无偏差的,这些在不同领域出现的标准可以可以根据我们正在从事的工作来指导工作,

在识别出可能得问题之后,根据这些已识别的可能危害维度对系统进行审计,在部署前是有用的

例如在自动驾驶汽车上路之前自动驾驶汽车团队都已经制定了对车辆发生事故的缓解计划,以便在车辆发生事故之后,可以立即执行缓解计划,而不是在事故发生之后从匆忙想办法,

相关推荐
IT_陈寒1 小时前
Java并行流把我坑惨了:原来不是线程安全的!
前端·人工智能·后端
石逸凡1 小时前
AI驱动的金融IT架构转型升级
人工智能·金融·架构
染指11101 小时前
76.高级RAG-后检索器(时间排序)
人工智能·python·llama_index·llamaindex
小雷信息医学1 小时前
5 篇老年队列套路拆解第 3 篇:单库 + U 型新指标 + Cox + RCS 拐点
人工智能·机器学习
少冰1 小时前
从数据清洗到 Docker 部署:我在本地训练了一个中医领域 Qwen3 模型
人工智能
opensnn1 小时前
当闭源AI遇上开源反击:未来竞争的核心不是模型,而是生态
人工智能·开源
一碗白开水一2 小时前
入门实践工程九:基于 BERT 的中文情感分类微调~附:安装依赖库及工程源码
人工智能·深度学习·机器学习·自然语言处理·分类·bert
空堂与归2 小时前
大模型幻觉:一篇文章搞懂成因、分类与四种解决方案
人工智能
CoordClaw2 小时前
主流多智能体架构为什么大多失败——它们输在结构,不在模型
人工智能·架构
一只游鱼2 小时前
PianoAgent:开源 AI 钢琴作曲 Agent,用自然语言谱写钢琴曲
人工智能