Hinton 突然对 AGI 变乐观了。
对于 AI，他几周前还觉得是养虎为患，最新采访却改口说是一种母亲和婴儿之间的亲密共生关系。
大多数专家认为 5-10 年后人工智能会比人类更聪明。
问题是更聪明事物被不聪明事物控制这种例子实在是太少了，可能政客和科学家之间是这种关系（笑）。
但是我知道唯一的例子是母亲和婴儿。
不过 AI 才是母亲，人类是婴儿。
我们不必去尝试支配超级智能，应该是在设计之初就给它植入 "母性本能"，这样 AI 就会本能地希望我们幸福，从而实现共存。
对于 AI 的发展，也不必踩刹车，应该要引导正确发展方向。
这和他过去 3 年来对 AGI 的态度，几乎是 180 度大转变。
2023 年，他为了警告 AI 风险，从在任 10 年的谷歌离职，就是以更中立客观的角度向全世界布道 AI 的利弊。
已经 77 岁高龄但仍旧奔走于全世界，呼吁人类可控地推进 AI 发展。就在今年 7 月的 WAIC 上，他还以 "养虎为患" 的例子在中国阐释了 AI 风险。
才过去不到 2 个月就发生这样的变化。难道是他看到了什么？
也许 Ilya 向他展示了什么？
如上最新观点来自 Hinton 最新访谈，此外他还分享了 AI 发展的更多理解：比如有机会一定要警告马斯克奥特曼、现在没有 1 家 AI 公司足够重视 AI 安全......
重新审视 AI 风险，但还是要喷马斯克奥特曼
Hinton 接受了来自著名记者 Katie Couric 的独家访谈，整个对话过程长达近一个小时，核心探讨的还是 Hinton 自谷歌离职后屡屡提及的 AI 风险。
Hinton 将 AI 风险分为两种：
-
短期风险
-
长期风险
他强调自己主要担忧并非是短期内的滥用 AI，当然这也很重要，而是人工智能本身接管人类的可能性。
在很多人眼里，AI 比人类聪明并接管整个世界，只是科幻小说的存在，但包括他在内的许多专家都认为，这其实是非常现实的长期风险。
也许就在未来的 5 到 20 年内，AI 就会比人类聪明得多。
聪明程度的差异之大让人类举步维艰，要反过来控制比自己更聪明的智慧生物，Hinton 表示他唯一知道的例子就是母亲和婴儿。
也就是说将 AI 设计成母亲的存在，而人类将会是 AI 庇护下的婴儿。
这和他在几个月前 WAIC 上对人类和 AI 关系的认识，可以说是截然不同。
当时他将 AI 比喻为人类饲养的小虎崽，等待他长大，就能轻而易举干掉人类。
要杜绝这种可能性，人类要么只能训练它无法伤害人类，要么就提前干掉它。
后者显然在当下是不现实的，我们的生活已经被 AI 完全渗透影响，那么我们只能选择引导 AI。
朝什么方向呢？母亲和婴儿。
在设计之初，就为 AI 赋予强大的 "母性本能"，让它们支持人类的成功，这样即使未来有一天，它变得更加聪明、更加强大，也能很好地与人类共存。
这种全新的设计思路，也许将彻底改变传统路径上人类试图统治 AI 的思维模式，成为一种普适性地训练 AI 善良特性的方法，并在不同智能水平的模型上得以实现。
不过，Hinton 在此前的上海之行交流中也提及，这是他所希望看到的，是值得去深入探究的可能性，但也可能无法实现。
这需要所有 AI 研发者一起通力合作，而马斯克和奥特曼显然不在此列。
Hinton 表示，假如他有机会和他们两人共处一室，那么他会相当直白地说：
你们很清楚，你们正在发展的事业很有可能正在消灭人类。
Hinton 点评了当下几家 AI 公司在缓解风险上的表现，简单来说没有一家做的足够好：
-
Anthropic：比其他家投入更多精力在 AI 安全但是也还不够
-
OpenAI：初心是对的，但是现在已经变味了
-
Meta 和 xAI：在底层开发时都不关注 AI 安全
具体点就是，他认为 OpenAI 的初衷是安全开发 AI，结果现在的重心却偏移到如何让 AI 更聪明，而不是如何让它更安全。
奥特曼转向快速开发 AI 的道路，让 Hinton 乃至马斯克都很反感，马斯克此前还曾起诉奥特曼没能履行最初的承诺。
不过马斯克也是一丘之貉，Hinton 指出，马斯克自己在开发 Grok 的过程中，也没有过多关注安全问题，马斯克应该将他对待奥特曼的逻辑应用到自己身上。
而他们二人之所以这样做，主要原因还是因为贪婪和自负，渴望通过 AI 攫取巨额财富，并希望成为第一个创造出超级智能的人。
他们追逐的是创造超乎人类智能的兴奋感，而非守护人类的责任感。
AI 的正向作用看医疗，但是也会取代一些工作
AI 应用落地这一方面，Hinton 还是一如既往看好医疗领域。这一定程度上和 Hinton 的个人经历有关，他的两任妻子都死于癌症，因此他非常希望 AI 能在医学领域有所突破。
总结来看 Hinton 认为值得关注的方面有 5 个：
-
医学影像解读
-
加速药物研发
-
个性化和精准医疗
-
提升医疗系统效率
-
更高情感关怀
首先在医学影像解读上，Hinton 觉得 AI 能比人类医生获取更多信息。
比如 AI 可以通过分析眼底（视网膜）的扫描图像，就能准确预测一个人患心脏病的风险，甚至能判断患者性别，这些都是人类做不到的。
他承认自己在 2016 年预测 "AI 将取代所有医学影像医生" 这有点过于乐观，但是他坚信这只是时间问题，未来 AI 辅助诊断将成为常态。
其次在新药研发上，Hinton 提到了 DeepMind 在预测蛋白质折叠上的突破，蛋白质的 3D 结构决定了其功能，能够准确预测对于研发与特定靶点相互作用的新药至关重要。
比如在癌症领域，靶向药物比化疗这种传统治疗手段给人体带来的伤害更小。这项技术也将催生一个全新的产业，为我们带来一系列更有效的药物（不过不是 1-2 年之内）。
然后在个性化和精准医疗方面。AI 可以整合大量医疗数据（包括基因组信息、病史、病历、家族病史），从而更好地实现疾病的早期诊断和个性化治疗。
以及 AI 也能解决医疗系统管理问题，比如通过数据分析，AI 可以帮助医生更准确判断患者应当何时出院，这样能在确保患者得到充分治疗同时又优化医院床位的使用效率。
最后他还提出了一个反直觉的观点，一些研究表明 AI 在和患者交流时，比人类更有耐心、更具同理心，能提供更全面的信息和情感支持。
但是也不可否认，AI 落地、提高生产力同时也将会导致一些人被取代。
在这之中一些职业将会面临更高风险：客服、律师助理、程序员等，甚至作家、编剧这种创意工作者也不能完全避免。
事实上 AI 在所有事情上都会比我们强。我认为 10 年之后它能写出非常精妙的剧本。
Hinton 认为这些问题还会进一步加剧贫富差距等，不过这更多是社会问题，而非技术本身的问题。
好胜心极强的父亲：我得诺奖他会生气
最后访谈再次聊到了 Hinton"显赫" 的学术家族。
-
曾曾祖父乔治 · 布尔 (George Boole) 是著名数学家和逻辑学家，是布尔代数的提出者，布尔代数是现代计算机科学和数字电路的理论基石。
-
曾叔祖父塞巴斯蒂安 · 辛顿 (Sebastian Hinton)，儿童乐园里常见的攀登架的发明者。
-
父亲霍华德 · 埃弗里斯特 · 亨顿（Howard Everest Hinton）是英国昆虫学家，英国皇家学会院士。
-
表姐琼 · 辛顿 (Joan Hinton)，核物理学家，参加了曼哈顿计划。
Hinton 说他的父亲是一位强势、好胜心极强的人，对子女都有很高期待。
父亲给他的 "激励" 往往是：等你的岁数有我 2 倍大、且工作强度是我现在的 2 倍时，你的成就或许也就只有我的一半吧。
虽然这句话是半开玩笑，但是也给年少的 Hinton 带来了很大压力。
不过从现在的知名度来看，Hinton 超越了父亲。
所以，如果当父亲知道 Hinton 获得了诺奖，他会是怎样的反应？
会非常高兴，但又有点生气，他确实非常好胜（笑）。
他会为儿子骄傲，但是儿子又获得了他没有的成就。
也是在这样的家族背景下，Hinton 对于 AI 始终有着至高的学术追求，在晚年时期他也将引导 AI 正向发展视为己任。
所以我们看到，77 岁高龄且患有严重腰伤的他开始频繁出现在公众视野，通过一次次访谈、演讲去向更多人传递对 AI 的正确认识。
他很高兴大家愿意听他的分享与讨论，在这次访谈里他也专门提到今年和中国方面取得联系。
在 WAIC 上，我们也看到了他在中国第一次公开演讲。
但我们也知道，Hinton 还不会停下，他还会为 AI 的正向发展继续、不断奔走。
参考链接：
www.youtube.com/watch?v=NnA...
欢迎在评论区留下你的想法！
--- 完 ---