智算多多
官方邮箱:service@zsdodo.com

公司地址:北京市丰台区南四环西路188号总部基地三区国联股份数字经济总部


京公网安备11010602202532号 Anthropic PBC已获得美国政府批准,有条件恢复其高性能AI模型Mythos 5的部分使用权限。此前,特朗普政府因担忧该技术可能对国家安全构成威胁,一度对其施加严格限制。
据外媒获得的一封致函,美国商务部长霍华德·卢特尼克在信中向Anthropic首席计算官表示:“Anthropic已与美国政府合作,着力化解与受管制模型相关的风险。”他写道,相关努力“已取得显著进展”,并称该模型可向“特定可信伙伴”开放。
此次放行缓解了两周前骤然升级的对峙。当时,美国政府以安全护栏可能被规避为由,突然禁止Anthropic向外国公民提供Mythos 5及其关联模型Fable 5的访问权限。该指令迫使公司全面关闭这两套先进系统的全球访问,并触发密集磋商以寻求解决方案。
短短两周内,我们已付出不懈努力,在确保美国保持全球AI领导地位的同时,切实维护国家安全。
不过,商务部上周五的信函并未提及对Fable 5模型使用限制的任何调整。
Anthropic在一份声明中称:“我们已收到美国政府通知,Mythos 5——我们最强的网络安全模型——可重新部署给一小批网络防御者和基础设施提供商。我们正尽快为获批供应商开通配置,恢复其Mythos 5访问权限。我们对这一进展感到欣慰,并继续与政府合作,扩大Mythos 5的访问范围,同时推动Fable 5重新投入通用。”
目前尚不清楚Anthropic为打消政府顾虑(即先进模型存在“越狱”或绕过安全护栏的可能)采取了哪些具体措施。据一位知情人士透露,公司预计本周末将与政府继续沟通,以期尽快恢复Fable 5的访问。由于讨论未公开,该人士要求匿名。
该人士还表示,Anthropic正与政府合作,制定应对此类情况的政策框架,以备未来之需。
围绕Mythos 5和Fable 5的交锋,是Anthropic与特朗普政府之间最新一轮冲突。数月来,Anthropic一直与五角大楼就军事用途AI工具的额外护栏问题争执不休。在合同谈判破裂后,美国国防部于3月将该公司列为供应链风险来源,并正着手为军方寻求其他AI供应商。
非上市企业Anthropic长期自诩为比竞争对手更负责任的AI开发商。今年4月,该公司首次向有限的企业和机构群体分享了Mythos模型,并警告称,由于其具备发现网络安全漏洞的能力,大范围分发风险过高。
本月早些时候,Anthropic发布了Fable 5作为Mythos级模型的首个公开版本,但设置了旨在限制其完整网络能力范围的护栏。Fable 5被禁止响应某些类型的查询,包括涉及网络安全和生物学的查询。在此类情况下,Anthropic称其Claude聊天机器人将通过另一款名为Opus 4.8的模型路由响应。
联邦政府继续限制Fable 5模型,表明即便Anthropic在公开发布前已添加限制措施,政府仍对广泛提供这些模型背后的技术持谨慎态度。
Mythos 5是Fable 5去除部分安全防护的版本,原计划面向更有限的机构群体,用于网络安全目的,即名为“Project Glasswing”的邀请制项目。截至本月早些时候,约200家企业通过该计划获得了Mythos访问权限,其中包括苹果公司、Alphabet旗下谷歌、思科系统、英伟达和微软。
禁止Anthropic最新模型的指令,是美国政府迄今对AI企业运营所采取的最重大干预措施,凸显了对尖端模型安全性的新兴担忧。就在Anthropic秘密提交首次公开募股申请数周后,这一新挑战接踵而至,公司最新估值已超过9000亿美元。
据知情人士透露,近期的谈判涉及Anthropic多位高管,包括联合创始人汤姆·布朗,他于近日会见了卢特尼克及其他高级政府官员。美国官员告知Anthropic,一旦政府的安全关切得到解决,限制将被解除。由于讨论未公开,这些人士要求匿名。
据上述人士称,在就Fable 5和Mythos 5与商务部的谈判中,Anthropic首席执行官达里奥·阿莫代伊采取了较为超脱的角色,有助于减少双方摩擦。
