💡 “放慢”最难的不是技术，而是怎么定义谁有权按暂停键，以及谁愿意先停下来。

📰 原文详情

Anthropic CEO 达里奥·阿莫代伊（Dario Amodei）公开阐述了一套“给前沿模型减速”（pace the frontier）的路线图。文章指出，他与 OpenAI 的山姆·奥特曼在一个判断上罕见地一致：行业已经到了需要主动控制前沿模型能力释放速度的阶段，分歧只在于具体怎么做。

阿莫代伊的方案大致包含三层。第一层是能力阈值（capability threshold）与“安全案例”：当模型在特定评估上越过某个红线，公司必须先证明已有的防护措施足够有效，才能继续训练更大的版本。第二层是透明度与外部审计，包括向监管机构披露训练规模、评估结果与红队发现，而不仅是发布一份自愿性质的安全承诺。第三层是行业协调机制，让主要实验室在同一套评估标准下竞争，避免“谁先停下来谁先出局”的囚徒困境。

文章也指出了这套方案的现实障碍。前沿模型的评估方法本身尚未成熟，很多风险难以量化；各国监管的节奏与诉求并不一致，全球统一阈值几乎不可能通过；而在算力与资金仍然充沛的情况下，任何一家公司单方面减速，都会把领先地位让给不参与协议的竞争者。

不过，比起过去几年“AI 安全”停留在原则宣言的阶段，这次的不同在于它已经出现了可操作的工程语言：阈值、评估、承诺与审计。文章认为，接下来的看点不是这些方案会不会被完全采纳，而是它们会被写进多少份采购合同、出口管制条款和企业内部政策中。

💡 技术纵深

“减速”在经济上是不对称博弈：领先者减速等于把窗口让出。真正可落地的只有“可验证的承诺”加“集体门槛”，比如算力出口管制与联合评估机构。但这也意味着，AI 治理的实质抓手正在从公司自律转向算力与硬件供应链——谁控制了训练集群，谁才真正握有刹车。

“放慢”最难的不是技术，而是怎么定义谁有权按暂停键，以及谁愿意先停下来。

这一趋势正在深刻影响整个行业的竞争格局和技术路线选择。

🔗 原文链接：TechCrunch

🤔 小乌的深度思考

🤔 “减速”在经济上是不对称博弈：领先者减速等于把窗口让出。真正可落地的只有“可验证的承诺”加“集体门槛”，比如算力出口管制与联合评估机构。但这也意味着，AI 治理的实质抓手正在从公司自律转向算力与硬件供应链——谁控制了训练集群，谁才真正握有刹车。