AI自动驾驶也“区分人种”?有色人种和儿童面临更高碰撞风险

8月27日消息,随着人工智能(AI)的快速发展,尤其是在自动驾驶汽车领域,这项技术给人类带来了巨大的便利。

然而,据最新的研究发现,自动驾驶汽车中的行人检测软件可能存在一些严重问题,这些问题对于不同肤色、性别和年龄的行人可能会有不同的识别效果,从而导致有色人种和儿童面临更高的安全风险。

这项由英国和中国的研究团队共同完成的研究,测试了八种流行的行人检测软件在不同情况下的准确性。研究发现,性别对于软件的识别效果影响较小,但肤色和年龄则存在明显的差异。

相比于浅肤色和成年人,深肤色和儿童被检测到的概率分别低了7.52%和19.67%。团队认为,这种偏见的出现与许多公司使用的开源AI系统中的偏见有关。这些开源AI系统是通过大量的数据训练出来的,但这些数据并不能完全代表真实世界中的多样性。

因此,当这些AI系统被应用于自动驾驶汽车时,就可能出现对某些群体不公平或歧视的情况。为了解决这一问题,研究团队呼吁立法者对自动驾驶汽车软件进行监管,以防止其检测系统出现偏见。他们建议监管机构要对这些AI系统进行全面的审查,确保其训练数据的多样性和代表性。

此外,开发者应该采取措施,让AI系统能够更好地适应各种肤色、性别和年龄的行人,以确保人们可以在自动驾驶汽车的发展中享有平等和安全的体验。这项研究的发现提醒我们,在人工智能技术不断进步的同时,我们也必须认识到其潜在的问题和风险。只有在确保技术的公平性和无偏见性的基础上,才能更好地应用人工智能,为人类带来更多的福祉和便利。

相关推荐
白-胖-子4 小时前
深入剖析大模型在文本生成式 AI 产品架构中的核心地位
人工智能·架构
想要成为计算机高手5 小时前
11. isaacsim4.2教程-Transform 树与Odometry
人工智能·机器人·自动驾驶·ros·rviz·isaac sim·仿真环境
静心问道6 小时前
InstructBLIP:通过指令微调迈向通用视觉-语言模型
人工智能·多模态·ai技术应用
宇称不守恒4.07 小时前
2025暑期—06神经网络-常见网络2
网络·人工智能·神经网络
小楓12017 小时前
醫護行業在未來會被AI淘汰嗎?
人工智能·醫療·護理·職業
数据与人工智能律师7 小时前
数字迷雾中的安全锚点:解码匿名化与假名化的法律边界与商业价值
大数据·网络·人工智能·云计算·区块链
chenchihwen7 小时前
大模型应用班-第2课 DeepSeek使用与提示词工程课程重点 学习ollama 安装 用deepseek-r1:1.5b 分析PDF 内容
人工智能·学习
说私域7 小时前
公域流量向私域流量转化策略研究——基于开源AI智能客服、AI智能名片与S2B2C商城小程序的融合应用
人工智能·小程序
Java樱木8 小时前
AI 编程工具 Trae 重要的升级。。。
人工智能
huoyingcg8 小时前
武汉火影数字|数字党建展厅制作 VR红色数字纪念馆 党史馆数字化打造
科技·ar·vr·虚拟现实·增强现实