美国政府据称因NSA机密系统被破解而紧急封杀Anthropic最新AI模型 (opens in new tab)

Anthropic 今年 4 月首次对外披露 Mythos 时就明确表示，该模型在发现软件安全漏洞方面能力过强，存在被滥用风险，因此不会向公众开放，只在名为 Project Glasswing 的项目下，向约 200 家经过严格审查的合作伙伴提供访问权限，其中包括亚马逊、苹果、Google、微软、英伟达、摩根大通以及 Linux 基金会等机构。 此后，Mythos 已经帮助发现了数千个真实世界漏洞，包括一个在 OpenBSD 中潜伏长达 27 年的安全缺陷，以及 Mozilla Firefox 150 浏览器中的 271 个新问题。6 月 9 日，Anthropic 面向公众推出了 Fable 5 模型，其底层基础与 Mythos 相同，但在之上叠加了安全分类器，用于拦截被判定为危险的请求，并将这些请求重定向到能力更弱的模型处理。 Anthropic 的立场是，这些“护栏”足以使 Fable 5 安全适用于大众；而在鲁德将军关于 NSA 渗透测试的证词曝光后，美国政府显然不认同这一判断，认为在 Mythos 与 Fable 5 之间，仅靠安全分类器带来的“能力差”并不足以构成可靠...