图解人工智能(34)深度学习面临的挑战

对抗样本的存在说明人与机器看世界的方式可能是有差异的。讨论一下,为什么说这种差异有可能带来巨大的未知风险?

如果人和机器看世界的方式不同,可能会造成很大的风险。这是因为我们对于机器行为的预期都建立在"人和机器看到的世界是同一个世界"这一基础假设之上。

如果这个假设不存在,我们对机器行为的预期和机器自身的行为方式就会发生背离,从而带来未知风险。

举个例子,我们希望机器可以帮我们去火场救人,但机器看到的"人"和我们看到的"人"不一样,就可能错失救人的机会。

相关推荐
深蓝AI1 小时前
45 万星的开源逆向 MCP:REA 让 Agent 无源码读懂任意应用,把证据和边界写进设计
人工智能·程序员
弯_弯5 小时前
AI 项目验收:别在上线那天才谈怎么算成
人工智能·企业ai落地·企业ai培训·fde
.道阻且长.5 小时前
AI 按数据模态分类:计算机视觉、NLP、语音处理,一篇理清
人工智能·计算机视觉·分类
Java后端的Ai之路5 小时前
RAG 还是 Agent 自主检索?Claude Code 删掉向量库之后,我把选型讲透了
开发语言·人工智能·prompt·agent·rag
笃行3506 小时前
用 Rokid AIUI 开发日语学习助手
人工智能
段一凡-华北理工大学8 小时前
工业智能体:从Codex/Claude到项目实战~系列文章06:一张蓝图看懂“工业智能体×高炉炼铁“
人工智能·claude·codex·工业智能体·高炉炼铁智能化·高炉智能体技术栈
怕浪猫8 小时前
十个人,630 万订阅:一张 AI 学习清单里的五种老师
人工智能
JonaHu9 小时前
5分钟搭建帮你赚钱的 AI API 网站:从品牌门户到客户 Key 交付
人工智能·api·开发者·ai创业·acedatacloud
Csvn9 小时前
模型挂了全站 502?降级链让它先保住“有响应”(R04)
人工智能·aigc·agent
isNotNullX10 小时前
仓储管理最全框架:6大流程、8项指标、10个管理动作、12个常见问题
大数据·人工智能