当AI开始造AI，Anthropic呼吁紧急刹车，但真的能停下来吗？ (opens in new tab)

今天凌晨，Anthropic 在官方博客发布了一篇长文，标题名为《When AI Builds Itself》（当 AI 开始建造自己）。目前浏览量已接近 700 万。文章由公司联合创始人 Jack Clark 与内部研究机构 The Anthropic Institute 负责人 Marina Favaro 共同署名。核心观点可以用一句话概括：AI 正加速参与到自身的开发进程当中。如果这个趋势走到极端，AI 将能够在没有人类介入的情况下，自主设计、测试并训练出更强大的下一代 AI。基于这一判断，Anthropic 呼吁全球主要 AI 实验室考虑暂停 AI 开发，或者至少建立一套可以互相核查的减速机制。（来源：X）这番表态之所以格外引人关注，不仅因为内容，也因为说这番话的是 Anthropic。就在文章发布前几天，Anthropic 刚刚完成最新一轮融资，估值达到 9,650 亿美元，正式超过 OpenAI。同一周，公司向美国证券交易委员会秘密递交了 S-1 注册声明草案，启动 IPO 筹备流程。Anthropic 的年化营收正快速攀升，从 2025 年底的约 90 亿美元增长到...