Claude放宽生命科学限制:代价是验证、分级和30天留存

同一个病毒问题,可能来自疫苗研究者,也可能来自恶意人员,单看一句提示很难判断。Anthropic在9月17日推出生命科学验证计划LSVP,允许经过验证的团队使用更宽松的生物学防护。我的判断是:这不是简单"解禁",而是把判断单位从单条问题升级为机构、项目、用途和持续行为轨迹。

计划到底开放了什么

LSVP目前处于测试阶段,面向团队和机构申请。申请者要接受研究资质、安全标准和伦理监督审查。通过后可获得两类授权:Standard Use覆盖多数日常生命科学研发,按团队授予并每年续期;High-risk Use针对原本仍被阻止的双用途项目,按单个项目授予,每六个月续期。

标准授权适用于Mythos 5.1、Opus 5和Sonnet 5;高风险授权当前可用于Opus 5和Sonnet 5,Mythos仅向少量接受额外审查的实体开放。其他防护,例如网络安全分类器,仍然保留。官方称早期访问已纳入数十家组织,并预计首周吸纳数百家。
#mermaid-svg-B7Dg45IwLKdG5FVd{font-family:"trebuchet ms",verdana,arial,sans-serif;font-size:16px;fill:#333;}@keyframes edge-animation-frame{from{stroke-dashoffset:0;}}@keyframes dash{to{stroke-dashoffset:0;}}#mermaid-svg-B7Dg45IwLKdG5FVd .edge-animation-slow{stroke-dasharray:9,5!important;stroke-dashoffset:900;animation:dash 50s linear infinite;stroke-linecap:round;}#mermaid-svg-B7Dg45IwLKdG5FVd .edge-animation-fast{stroke-dasharray:9,5!important;stroke-dashoffset:900;animation:dash 20s linear infinite;stroke-linecap:round;}#mermaid-svg-B7Dg45IwLKdG5FVd .error-icon{fill:#552222;}#mermaid-svg-B7Dg45IwLKdG5FVd .error-text{fill:#552222;stroke:#552222;}#mermaid-svg-B7Dg45IwLKdG5FVd .edge-thickness-normal{stroke-width:1px;}#mermaid-svg-B7Dg45IwLKdG5FVd .edge-thickness-thick{stroke-width:3.5px;}#mermaid-svg-B7Dg45IwLKdG5FVd .edge-pattern-solid{stroke-dasharray:0;}#mermaid-svg-B7Dg45IwLKdG5FVd .edge-thickness-invisible{stroke-width:0;fill:none;}#mermaid-svg-B7Dg45IwLKdG5FVd .edge-pattern-dashed{stroke-dasharray:3;}#mermaid-svg-B7Dg45IwLKdG5FVd .edge-pattern-dotted{stroke-dasharray:2;}#mermaid-svg-B7Dg45IwLKdG5FVd .marker{fill:#333333;stroke:#333333;}#mermaid-svg-B7Dg45IwLKdG5FVd .marker.cross{stroke:#333333;}#mermaid-svg-B7Dg45IwLKdG5FVd svg{font-family:"trebuchet ms",verdana,arial,sans-serif;font-size:16px;}#mermaid-svg-B7Dg45IwLKdG5FVd p{margin:0;}#mermaid-svg-B7Dg45IwLKdG5FVd .label{font-family:"trebuchet ms",verdana,arial,sans-serif;color:#333;}#mermaid-svg-B7Dg45IwLKdG5FVd .cluster-label text{fill:#333;}#mermaid-svg-B7Dg45IwLKdG5FVd .cluster-label span{color:#333;}#mermaid-svg-B7Dg45IwLKdG5FVd .cluster-label span p{background-color:transparent;}#mermaid-svg-B7Dg45IwLKdG5FVd .label text,#mermaid-svg-B7Dg45IwLKdG5FVd span{fill:#333;color:#333;}#mermaid-svg-B7Dg45IwLKdG5FVd .node rect,#mermaid-svg-B7Dg45IwLKdG5FVd .node circle,#mermaid-svg-B7Dg45IwLKdG5FVd .node ellipse,#mermaid-svg-B7Dg45IwLKdG5FVd .node polygon,#mermaid-svg-B7Dg45IwLKdG5FVd .node path{fill:#ECECFF;stroke:#9370DB;stroke-width:1px;}#mermaid-svg-B7Dg45IwLKdG5FVd .rough-node .label text,#mermaid-svg-B7Dg45IwLKdG5FVd .node .label text,#mermaid-svg-B7Dg45IwLKdG5FVd .image-shape .label,#mermaid-svg-B7Dg45IwLKdG5FVd .icon-shape .label{text-anchor:middle;}#mermaid-svg-B7Dg45IwLKdG5FVd .node .katex path{fill:#000;stroke:#000;stroke-width:1px;}#mermaid-svg-B7Dg45IwLKdG5FVd .rough-node .label,#mermaid-svg-B7Dg45IwLKdG5FVd .node .label,#mermaid-svg-B7Dg45IwLKdG5FVd .image-shape .label,#mermaid-svg-B7Dg45IwLKdG5FVd .icon-shape .label{text-align:center;}#mermaid-svg-B7Dg45IwLKdG5FVd .node.clickable{cursor:pointer;}#mermaid-svg-B7Dg45IwLKdG5FVd .root .anchor path{fill:#333333!important;stroke-width:0;stroke:#333333;}#mermaid-svg-B7Dg45IwLKdG5FVd .arrowheadPath{fill:#333333;}#mermaid-svg-B7Dg45IwLKdG5FVd .edgePath .path{stroke:#333333;stroke-width:2.0px;}#mermaid-svg-B7Dg45IwLKdG5FVd .flowchart-link{stroke:#333333;fill:none;}#mermaid-svg-B7Dg45IwLKdG5FVd .edgeLabel{background-color:rgba(232,232,232, 0.8);text-align:center;}#mermaid-svg-B7Dg45IwLKdG5FVd .edgeLabel p{background-color:rgba(232,232,232, 0.8);}#mermaid-svg-B7Dg45IwLKdG5FVd .edgeLabel rect{opacity:0.5;background-color:rgba(232,232,232, 0.8);fill:rgba(232,232,232, 0.8);}#mermaid-svg-B7Dg45IwLKdG5FVd .labelBkg{background-color:rgba(232, 232, 232, 0.5);}#mermaid-svg-B7Dg45IwLKdG5FVd .cluster rect{fill:#ffffde;stroke:#aaaa33;stroke-width:1px;}#mermaid-svg-B7Dg45IwLKdG5FVd .cluster text{fill:#333;}#mermaid-svg-B7Dg45IwLKdG5FVd .cluster span{color:#333;}#mermaid-svg-B7Dg45IwLKdG5FVd div.mermaidTooltip{position:absolute;text-align:center;max-width:200px;padding:2px;font-family:"trebuchet ms",verdana,arial,sans-serif;font-size:12px;background:hsl(80, 100%, 96.2745098039%);border:1px solid #aaaa33;border-radius:2px;pointer-events:none;z-index:100;}#mermaid-svg-B7Dg45IwLKdG5FVd .flowchartTitleText{text-anchor:middle;font-size:18px;fill:#333;}#mermaid-svg-B7Dg45IwLKdG5FVd rect.text{fill:none;stroke-width:0;}#mermaid-svg-B7Dg45IwLKdG5FVd .icon-shape,#mermaid-svg-B7Dg45IwLKdG5FVd .image-shape{background-color:rgba(232,232,232, 0.8);text-align:center;}#mermaid-svg-B7Dg45IwLKdG5FVd .icon-shape p,#mermaid-svg-B7Dg45IwLKdG5FVd .image-shape p{background-color:rgba(232,232,232, 0.8);padding:2px;}#mermaid-svg-B7Dg45IwLKdG5FVd .icon-shape .label rect,#mermaid-svg-B7Dg45IwLKdG5FVd .image-shape .label rect{opacity:0.5;background-color:rgba(232,232,232, 0.8);fill:rgba(232,232,232, 0.8);}#mermaid-svg-B7Dg45IwLKdG5FVd .label-icon{display:inline-block;height:1em;overflow:visible;vertical-align:-0.125em;}#mermaid-svg-B7Dg45IwLKdG5FVd .node .label-icon path{fill:currentColor;stroke:revert;stroke-width:revert;}#mermaid-svg-B7Dg45IwLKdG5FVd :root{--mermaid-font-family:"trebuchet ms",verdana,arial,sans-serif;} 常规生命科学
高风险双用途
偏离申报用途
符合范围
机构提交资质与用途
核验安全和伦理监督
风险等级
团队级标准授权一年
项目级授权六个月
更宽松的生物请求处理
跨请求离线监控
通知管理员处置
继续科研工作

技术变化不在模型,而在策略层

普通安全过滤器往往逐条判断输入和输出,适合阻止能够立即造成、难以撤回的危险动作。但生命科学的风险经常分散在多轮会话里:单次询问实验条件可能正常,连续组合起来却可能构成越界计划。LSVP因此把部分执行逻辑从实时拒绝转向离线模式识别,跨会话查看是否偏离申请时声明的用途。

这提高了合法科研的可用性,却引入明确代价。官方要求相关流量保留30天,以便发现分散请求和会话之间的关联。数据被声称隔离存放、不用于训练,也不供Anthropic生命科学研究团队访问,但"需要保留"仍然意味着组织必须重新评估知识产权、实验数据和人员隐私风险。

当前版本还有边界:仅支持第一方API控制台以及Claude Enterprise和Team;个人Pro、Max和第三方平台尚不支持。它也不适用于启用BAA的组织,因此受保护健康信息PHI不能直接放进该测试计划,涉及HIPAA合规的团队需要使用分离的非BAA组织,实际工作流会更复杂。

一个具体场景

药企团队希望让模型辅助分析病毒载体的免疫识别。日常文献整理、候选比较和质量文档可以放在标准授权下;若某个项目需要触及更敏感的实验设计,则应单独申请高风险授权。这样,权限不再跟着"某位研究者很可信"永久开放,而是绑定项目、范围和有效期。

这套设计的关键不是给好人一张无限通行证。账号接管、内部人员滥用和长时间运行的Agent都可能让合法访问被挪作他用,所以系统仍需监控异常模式,并让机构管理员在约定时间内调查和处置。身份验证解决"谁可以开始",持续审计解决"开始后是否仍在做申报的事"。

我的判断与风险

我认为分级访问优于面向所有人的同一条拒答线。高价值科研与高风险能力常常共享知识基础,一刀切会同时制造误伤和绕过诱因。但这一模式只有在三项条件同时成立时才可信:验证过程足够严格,监控对真实滥用有检出能力,机构有能力及时响应告警。

目前披露主要来自Anthropic自身,尚无独立数据说明误报、漏报、处置时延以及多少合法任务因此恢复。30天留存是否足以发现低频滥用、是否会增加敏感数据暴露面,也需要后续验证。更宽松分类器不等于模型结论更科学,实验设计仍要经过领域专家、伦理审查和现实验证。

分级授权还会带来"范围漂移":一个项目从文献分析逐渐走到实验设计,原有标准授权可能不再匹配。系统若只在申请时审一次,半年或一年后的真实用途可能已经变化。更可靠的做法是让项目负责人能主动升级授权,并在数据源、工具权限或研究目标明显变化时触发重新评估,而不是等监控告警后再解释。

团队可以借鉴的做法

  • 权限绑定具体组织、项目、用途和到期时间,避免永久例外。
  • 常规与高风险任务分开授权,不用单一角色覆盖所有场景。
  • 对不可逆动作保留实时拦截,对缓慢累积风险增加离线关联分析。
  • 申请说明只写必要的高层用途,避免把商业机密塞进治理表单。
  • 明确数据留存、访问者、训练用途和删除机制,再让研究者使用。
  • 定期模拟账号接管和内部滥用,检查管理员是否真能在时限内处置。

对高风险科研AI,你认为更合理的是严格逐次拦截,还是验证机构后加强持续审计?

关注「蜗牛聊AI」,一起看懂技术变化背后的真正机会。


本文首发于 java4u.cn,转载请注明出处。

相关推荐
许彰午1 小时前
51-BpmnDesigner集成
java·低代码·架构
Dawson Zhu1 小时前
RAG 检索中的两个误区:高相似度不等于正确,向量检索也不能替代关键词检索
人工智能·语言模型·架构·aigc·agi
xx_xxxxx_1 小时前
论文阅读-REINFORCE++与Lessons of Developing PRMs
人工智能·深度学习·机器学习·强化学习
上进小菜猪1 小时前
被 32 位整数卡了 30 年脖子:PostgreSQL 事务号困局与 V9 的 64 位解法
后端
小马过河R1 小时前
开篇|3天从0到1入门AI应用开发
人工智能·语言模型·llm·agent·ai编程·deepagent
Htr_1 小时前
Creem 2.0 使用指南:面向 AI 构建时代的资金平台
android·数据库·人工智能·ui·photoshop
古希腊掌管代码的神THU1 小时前
【清华代码熊】DeepSeek-V4.1-Flash 多模态架构解析
人工智能·深度学习·机器学习·自然语言处理·面试
咬代码的兽1 小时前
Qwen3.8-Omni-Flash 发布:1M 上下文 + 原生全模态,四步跑通音视频 API
人工智能·大模型·api·qwen
论文复现现场1 小时前
ComfyUI 怎么同时调用 4 张/8 张 RTX 4090?AI 视频批量生成的多实例队列与 Python 调度方案
人工智能·python·comfyui·rtx4090