5月14日消息，当地时间周五晚，Anthropic宣布暂停Claude Fable 5和Mythos 5两款模型的全部客户访问。公司称，美国政府以国家安全为由发布出口管制指令，要求暂停任何外国国民使用这两款模型，无论其位于美国境内还是境外，也包括Anthropic内部的外国籍员工。为确保合规执行，公司对所有用户禁用了这两款模型；其他Claude模型不受影响。
指令落下前，CEO安迪·贾西（Andy Jassy）曾与政府高级官员通话，提及Anthropic先进模型的安全风险。The Information和Axios均将这次沟通列为政府采取行动的背景之一。
Anthropic官方声明确认，政府指令针对的是外国国民访问权限。但由于公司难以在所有客户中即时区分国籍，选择了统一暂停。
The Information报道，政府公开指向的核心风险，是Fable 5可能存在绕过安全护栏的\"越狱\"方法，并被用于发现软件漏洞或执行敏感任务。CyberScoop也报道称，美国政府将这两款模型视为国家安全风险。更大的背景则是，Anthropic此前已与特朗普政府在模型能否用于大规模监控、致命自主武器等问题上存在长期分歧。
The Information援引两位知情人士称，贾西本周与特朗普政府高级官员通话时，提出了Anthropic模型的安全风险；Axios也报道称，亚马逊提交的一份紧急报告触发了白宫内部快速反应。
亚马逊发言人对The Information表示，作为服务大量私营和公共部门客户的主要云厂商，政府就潜在安全风险征询其意见并不罕见；当这类沟通发生时，公司不会披露具体讨论内容。
自2023年以来，亚马逊已向Anthropic投资130亿美元，同时也是其云服务和算力的核心合作方。向政府提出风险提醒的，不是外部竞争者，而是Anthropic最重要的商业伙伴之一。
Anthropic认为，政府担心的并不是一个能广泛绕过护栏的\"通用越狱\"。公司称，它看到的演示只涉及少量已知、相对简单的漏洞，而且其他公开可用模型也能发现类似问题。但指令已经落地，公司只能先执行暂停。
这次事件之后，企业客户选择AI供应商时需要评估的东西多了一项：已经部署的AI能力可能因出口管制、国家安全审查或合规执行被临时收回。模型能力、价格和稳定性之外，政策连续性本身成了一个风险变量。（易句）
（本文由AI翻译，网易编辑负责校对）
迎尚网提示：文章来自网络，不代表本站观点。
