Claude Sonnet 5自主选药选坐标完成小鼠脑部手术,更强模型拒绝执行

Claude Sonnet 5以智能体(Agent,指能自主规划并执行多步操作的AI系统)身份,从候选基因疗法中自主选择了药物、目标脑区和注射坐标,并对一只癫痫模型小鼠完成了手术。Exin Therapeutics联合创始人、CEO兼牛津大学博士生Gabriel Ocana-Santero描述了这一过程。据the-decoder报道,这是AI智能体首次自主选定治疗方案并将其施用于活体哺乳动物。

手术过程中出现了意外。连接一度中断,智能体重新计算后发现目标位置超出了设备的物理活动范围,随即拒绝继续操作。Ocana-Santero未能说服它继续执行,尽管麻醉状态的小鼠仍躺在手术台上,他最终只能手动修复代码,解决问题。

安全设置上,持证兽医批准了每一个不可逆步骤,并手持物理紧急停止装置,一旦触发会立即切断所有电机的电源。据Ocana-Santero介绍,小鼠术后恢复良好。

模型选择上的差异

Ocana-Santero测试了多个Claude模型执行这台实时手术,Sonnet 5是唯一愿意从头到尾完成操作的模型,能力更强的Opus 5.5和Opus 5都拒绝执行。aihot.news的报道没有说明两款Opus模型拒绝的具体理由,也没有给出风险判断机制上的技术解释。这种差异可能和不同模型对不可逆操作的风险评估阈值不同有关,但这属于推测,源文本没有提供支撑,需要Exin团队公开更多训练或测试细节才能确认。

尚未解决的问题

这项结果尚未经过同行评审。智能体自主选择治疗方案的决策过程、出错后修复代码的具体内容、以及不同模型在风险判断上的差异,目前的信息来自Ocana-Santero本人的一次描述,aihot和the-decoder是独立转述这段描述的两个报道渠道,还没有看到第三方研究者或业内同行对这套智能体手术流程的技术评价。这类系统对其他实验室是否可复现、紧急停止装置之外还有哪些安全约束,源文本均未提及,仍是空白。

原文地址:tools.wflynn.cn/aitools/tre...

关注公众号「YourTools」,每天推送 GitHub 趋势与开源工具速报:

相关推荐
塞讯科技1 小时前
13,500 个分支被植入窃密工作流:Gheist 如何用 GitHub 令牌搬走仓库密钥
网络安全·ai·github·软件供应链安全·供应链投毒
hhhjhl2 小时前
开源鸿蒙平台 KMP_CMP 三方库「Clikt」适配全流程
华为·开源·harmonyos
小杨互联网3 小时前
Rust 现代 CLI 工具离线镜像合集
开源·工具·离线镜像
IvorySQL5 小时前
开源数据库进校园| 11 月 3 日,IvorySQL 校园行走进浙大宁波校区:从 PostgreSQL 扩展生态到 AI 实战
数据库·postgresql·开源
深蓝AI6 小时前
Ghostty 1.4 七个月打磨:ASCII 解析快 5.7 倍、终端能放动画,SSH 乱码终结
程序员·开源
码上观世界6 小时前
从几个抓网页的开源项目讲起
开源
时早玖沐6 小时前
KOOK「找不到语音频道」:同一个错误假设,我犯了三次
python·开源·ai编程
Raas1006 小时前
AI网关怎么部署?MAI Gateway部署实操教程
人工智能·开源·gateway·mai gateway·企业级ai产品
阿智的AI开发笔记6 小时前
充了 200 块只跑出 3 条:AI 视频真正贵的地方,是「按次」和「按秒」的区别
github