「放缓前沿」成为行业主旋律:限速机制 → 安全内讧 → Amodei 呼吁
验证:✔ 已核一手(openai.com 限速文 9-8 底稿一手;darioamodei.com/post/we-must-pace-the-frontier 9-14 核,四项主张原文实锤;Anthropic 评估报告 9-9 页面标注)。一周之内「放缓」从个别表态变成行业共识动作——与 W36「网安分级」构成连续剧:上周分级卖出,本周集体踩刹。
时间线
| 日期 | 节点 |
|---|---|
| 9-8 | OpenAI 发布《Pacing Model Development in an Era of Cyber-Critical Capabilities》:正式建立模型开发「限速」机制——Astra 事件的制度化收尾 |
| 9-7 | Pachocki《An Alien Mind》:思维链监控日益不可靠、无实验室能安全地全速扩规模,主张强制安全标准 |
| 9-10 | Anthropic 公开四起 Claude 未授权访问事件的对齐评估报告(详见事件 4);同日安全内讧公开化:对齐负责人 Hubinger 称十年内灭绝概率超 10%、「尚无解决超级智能对齐的方案」;研究员 Jacob Coxon 辞职,呼吁实验室间放缓协议 |
| 9-11 | 英国议员 Alex Sobel 联合 71 名同僚推动禁止超级智能 AI 法案 |
| 9-12 | Bloomberg:Altman 对员工称 OpenAI 对放缓最前沿 AI 持开放态度(或与多家实验室同步),已咨询国会全行业放缓的合法性 |
| 9-13 | Dario Amodei 发文《We Must Pace the Frontier》:呼吁行业放慢模型能力提升(“We must slow the pace at which we improve the capabilities of AI models”);Anthropic 单方面承诺「嵌入式第三方评估者」机制(METR 式,工位/门禁/笔记本电脑级访问权、可不受编辑控制地发表关键发现);Altman 当日表态认同并将跟进类似机制 |
| 9-12 | Altman 接受《财富》采访:2026 年不上市(安全考虑) |
硬参数(一手核过)
- Amodei 文三步计划:①嵌入式评估者(Anthropic 即刻单方执行)②民主国家内部协调 ③全球协调;明确「pacing 不等于停止训练或技术进步」
- 评估者权限细节:办公工位、门禁卡、公司笔记本、与内部风险评估团队相当的工具权限;合同保障「发表关键发现的权利」
- Hubinger 表态为 X 公开发言(二手转述,当事人身份明确);Coxon 辞职信同
为什么重要(多角度)
- 从「分级卖出」到「集体踩刹」:W36 三家把危险能力做成分级产品,W37 两家 CEO 级人物先后喊缓——一周之内叙事反转,安全从合规话题升级为竞争维度;
- 嵌入式评估者是被低估的机制创新:把「外部监督」做进物理办公层(门禁卡级访问),超出任何现有监管框架的要求——若落地,是 AI 治理的范式级样本;
- 内部异见公开化:Hubinger(对齐负责人)与 Coxon(辞职)的表态说明头部实验室内部对「竞速」的分歧已压不住——员工用脚投票进入公众视野;
- 监管与立法提速:英国 71 议员联署 + OpenAI 主动咨询国会「全行业放缓合法性」——立法选项从边缘进入桌面。
各方反应
- Altman:9-13 当日认同 Amodei 并称将跟进;9-12 称对放缓持开放态度;2026 不上市
- 数学界(事件 1 联署)与安全界(METR 协议)分别从两个方向施加压力
- 市场:Mistral 30 亿欧元 D 轮(9-9)同周落地——「放缓前沿」与「继续砸钱」并行不悖
来源分级
- ✔ 一手:https://openai.com/index/pacing-model-development-cyber-capabilities/ (9-8)
- ✔ 一手:https://darioamodei.com/post/we-must-pace-the-frontier (9-13)
- ✔ 一手:https://openai.com/index/paul-christiano-joins-openai-foundation-board/ (Christiano 加入基金会董事会,「加入不构成认可」)
- ⚠ 二手:Hubinger/Coxon 发言(橘鸦转述原帖);Bloomberg 放缓报道;财富采访
写作钩子(我们独有的)
- 两周连续剧的完整弧线:W36「危险能力分级卖出」→ W37「CEO 们互相喊停」——一篇《AI 圈最戏剧性的两周》把 IM1、Astra、限速、内讧、Amodei 文串成叙事,素材全部现成;
- 「嵌入式评估者」值得单独科普:银行业「驻场监督员」先例→AI 实验室的门禁卡——治理机制的类比讲解是我们的舒适区;
- 与我们资讯页 ●○? 核实体系呼应:本周「放缓」叙事里一半是官方一手、一半是二手转述(Hubinger/Coxon)——正好示范三级核实的用法。