DeepSeek开源DeepInfer推理框架 #1

DeepSeek已将内部推理框架DeepInfer以 Apache License 2.0 协议开源。推理指训练完成的模型处理请求并生成回答的过程,DeepInfer 正是支撑其 V4.1-Flash 模型大规模快速给出答案的服务软件。
该框架基于vLLM构建,并加入经过优化的计算内核、跨多芯片的分布式处理以及更快的文本生成技术。DeepSeek 表示,未来模型的代码也将以开源方式发布。
除框架本身,DeepSeek 还发布了 deepseek-recipe,用于复现官方 DeepSeek API 的 token 处理流程,使自建部署的行为与官方服务保持一致。
DeepSeek 在 X 上表示,目标是"帮助社区降低算力成本、减少能耗,让 AI 更加可负担"。该公司模型此前的定价已处于很低水平,DeepInfer 的开放补上了进一步压缩运行成本的最后一步。
奥尔特曼被曝设想三种AI治理终局 #2

据知情人士透露,OpenAICEO萨姆·奥尔特曼上周在内部向员工描述了三种先进 AI 的治理路径。相关讨论发生之际,美国政府正着手准备其首份针对超级智能开发者的监管框架。
第一种方案是参照国际原子能机构(IAEA)建立机构,负责检查系统、要求审计并监控算力与能耗。此类机构依赖国际合作,尤其是与中国等正在建设前沿模型的国家合作。OpenAI 曾在 2023 年 5 月公开呼吁设立这一机构。
第二种被奥尔特曼称为"Demis 方案",源自戴密斯·哈萨比斯约十年前提出的设想,即参照 CERN 建立 AI 组织。按奥尔特曼的版本,主要实验室将合并为单一实体或在该实体框架下运作,并由该实体向合作国家提供模型。
第三种被称作"Eliezer 方案",得名于 AI 安全理论研究者埃利泽·尤德科斯基:某开发者借助自我改进的 AI 积累足够经济实力,从其他各方手中扣留算力,最极端情况下可全面关停他人的计算能力。据报道,奥尔特曼称这一选项"很糟糕",提及它只是为例举完整;有消息人士认为这番话是针对某家竞争对手的暗讽。
奥尔特曼据称在内部抱怨,对 AI 发展设置"限速"的可行方案太少;但 OpenAI 目前也承受不起落后于竞争对手的代价。据报道,OpenAI 与 Anthropic 均在推进首次公开募股,OpenAI 计划在一年内决定采用哪条路径。OpenAI、Google 和 Anthropic 正在筹建 Standards Authority for Frontier AI,但据称在关键问题上仍无法达成一致;Meta CEO马克·扎克伯格与英伟达 CEO黄仁勋则持反对态度,认为这类规则主要在保护现有玩家免受竞争。
Claude自主设计蝎毒蛋白结合体 #3

Anthropic的Claude在Claude Science研究环境中较为自主地设计了针对蝎毒神经毒素的蛋白结合体。蝎子蜇伤每年造成超过 3250 人死亡。
研究者给出初始提示后,Claude 自主工作了 24 小时,随后团队通过追加指令引导其工作。Claude 针对来自 4 种蝎子的 5 种毒素生成了 318,484 个设计,自行挑选 180 个候选,团队又补充 31 个,共 211 个设计进入实验室测试。
测试中 17 个设计符合结合体的标准,其中结合最强的两个与墨西哥蝎毒素 Cn2 紧密结合。实验室测试显示,它们的结合位点与一种已知可在小鼠体内中和 Cn2 的抗体相同或相近。这些分子是否真能作为抗毒血清发挥作用,尚未经过测试。
外部专家 Susana Vázquez Torres 与 Timothy P. Jenkins 称这项工作是有前景的第一步,两个独立实验室确认了结果。在此前一项研究中,Claude 已针对 15 个目标蛋白中的 14 个设计出迷你结合体,命中率为 22% 至 35%,而通常水平为 10% 至 15%。