美国政策反转、史无前例管制大模型 为硅谷敲响警钟 - the United States 美国 (opens in new tab)

此举的快速出台引发了广泛担忧。Anthropic称这一做法是“反应过度”，并警告说，采取这样的监管方式可能会“导致所有前沿模型开发商无法部署任何新模型”。知情人士透露，Anthropic高层目前正与华盛顿官员就后者所提出的具体安全担忧进行磋商。参与谈判的关键官员之一是美国财政部长贝森特。他此前曾向华尔街发出警告，提醒人们关注前沿AI模型可能带来的风险，例如Anthropic的Mythos。理论上，Mythos能够比人类更快地发现并利用软件中的漏洞。干预AI公司运营美国政府的这一反应，是政府官员迄今为止对一家AI公司运营活动进行的最重大的一次干预。此举正值Anthropic等头部AI创业公司寻求上市之际。Anthropic的估值超过9000亿美元。这一出乎预料的管控措施，可能为OpenAI、谷歌以及Meta等主要AI模型开发商树立先例。如今，美国政府已经愿意动用非常规权力，强制AI开发商按照政府要求处理潜在的安全威胁，尽管特朗普政府在今年6月发布的一项行政命令中曾声明，不会强迫硅谷企业服从政府指令。“美国的前沿模型正日益被视为战略资产，其使用受到严格管控，并受到国家安全考量的影响，...