Anthropic与美国政府进行谈判 以解决对其AI模型出口限制

智通财经APP获悉，Anthropic正在寻求解决与特朗普政府就人工智能安全问题发生的新冲突，这场冲突导致该公司关闭了其两个最先进的人工智能模型的全球访问权限。据一位知情人士透露，安特罗皮克公司Anthropic的高级技术人员周一与商务部官员会面，讨论了政府提出的国家安全关切。目前尚不清楚哪些政府官员参加了会谈。会后，Anthropico公司发言人表示，双方正在迅速努力寻求解决方案。美国商务部发言人尚未对此置评。

在特朗普政府要求Anthropic公司停止向外国公民提供其尖端产品Fable 5和Mythos 5的几天后，相关讨论随即展开。Anthropic公司发言人表示，自那以后，该公司代表已与美国官员就具体的安全问题举行了多次线上会议。

美国商务部于周五下午晚些时候向Anthropic公司发出指令，这是迄今为止美国政府对人工智能企业运营进行的最重大干预。就在几周前，Anthropic公司秘密提交了首次公开募股(IPO)申请，其最新估值超过9000亿美元。这份指令给该公司带来了新的挑战。

Anthropic公司上周五晚间在其网站上发布公告称，已遵照美国政府的指令，禁用了这两款模型的访问权限。该公司表示，他们认为美国政府是在发现Fable 5——Anthropic公司此前已阻止其执行网络安全任务——的防护措施可以被“破解”后，才发布了这项命令。Fable 5是Mythos系列的最新版本。

Anthropic公司在声明中表示：“我们不同意仅仅发现一个可能存在极小范围越狱漏洞就应该召回已部署给数亿用户的商业型号。如果这一标准应用于整个行业，我们认为这将实际上阻止所有前沿型号提供商部署新的型号。”

私营企业 Anthropic 一直以来都将自己定位为更负责任的 AI 开发商，该公司于 4 月份首次与非常有限的公司和机构分享了其 Mythos 模型，并警告称，该模型能够发现网络安全漏洞，因此更广泛地分发风险太大。

上周，该公司发布了 Fable 5，这是其 Mythos模型的首个公开版本，但设置了旨在限制其全部网络能力的防护措施。

康奈尔大学人工智能战略与创新执行主任Ayham Boucher表示，这场辩论被简单地描述为要求 Anthropic “修复护栏”，然后取消对Fable 5的禁令，但这低估了解决一个高度技术性问题的难度。

“把这个问题描述成‘修复防护措施’的请求，会让问题听起来比实际情况简单得多，”Boucher说。“这种说法假定越狱模型是一个已经解决的技术问题，而Anthropic公司只是错误地实现了防护措施。但越狱防护并非像修补普通软件漏洞那样简单。”

Anthropic 披露的Mythos人工智能漏洞加速了特朗普政府在人工智能政策方面的努力，最终促成了特朗普总统本月初签署的一项行政命令，该命令要求对尖端人工智能模型进行自愿审查。该命令明确指出，其中任何内容均不应被解释为建立强制性许可制度。

美国商务部上周五指示Anthropic公司停止向外国公民开放其产品，这给寻求遵守政府政策的公司和盟国政府带来了新的不确定性。“显然，过去几天的消息对整个行业来说都是一个巨大的警钟，”总部位于加拿大的AI开发商Cohere Inc.的首席AI官Joelle Pineau表示。

“几天前还被认为是业内最强大的模型之一，现在却突然无法使用了，这意味着技术获取方面可能存在很大的波动性，”Pineau周一在接受采访时表示。“这对企业来说无疑是一个重大隐患。”

这场纠纷标志着美国政府与该公司之间最新的一次冲突。几个月来，Anthropic公司一直与五角大楼就其人工智能工具在军事用途方面寻求的额外限制措施而争执不下。在合同谈判破裂后，美国国防部于3月份宣布该公司构成供应链风险，并正在寻求其他人工智能供应商来服务军方。