Anthropic首次表态：为什么我们反对开源AI模型

Anthropic 说了什么

　　Anthropic 的立场可以概括为以下几点：

　　开源模型存在严重的安全风险。 一旦模型的权重完全公开，任何人都可以移除安全限制、使用模型进行恶意活动——比如生成虚假信息、开发恶意软件、或者用于自动化攻击。Anthropic 认为，闭源 API 是目前唯一能有效控制模型使用方式的方案。

　　开源和不开源不是二选一。 Anthropic 说它支持开放研究、发表论文、开源训练代码和评估工具。只是不开放最终的模型权重。开发者仍然可以通过 API 访问 Claude，也可以在 Anthropic 提供的安全框架内使用模型。

　　“开放性”不等于“安全性”。 Anthropic 认为，开源社区经常把“模型权重公开”等同于“对研究有利”。但事实上，权重公开后，安全研究者无法阻止模型的恶意使用——你能做的只是在“出事后”发现和报告。Anthropic 更倾向于在模型发布前就进行安全评估和过滤。

　　市场竞争不是理由。 有人担心如果 Anthropic 不开源，Meta 的 Llama、阿里的 Qwen 等开源模型会抢占市场。Anthropic 的回应是：如果开源模型的安全性确实有问题，那它们抢占市场恰恰说明行业需要更严格的监管，而不是让所有公司都去开源。

开源社区的回应

　　HN 评论区分成几派：

“Meta 开源 Llama 后，确实有人用它做了钓鱼邮件生成器、虚假评论生成器。如果这些工具被大规模使用，整个互联网的可信度会进一步下降。”

“如果只有少数巨头拥有最强 AI 模型的控制权，那 AI 的治理就是寡头垄断。开源不是完美的，但没有开源的 AI 生态更不健康。”

“Anthropic 说的安全风险是真实的，但他们的解决方案——闭源 API——本身也有问题。API 意味着你所有的数据都经过 Anthropic 的服务器，隐私呢？厂商锁定呢？”

“问题的关键不是开源还是闭源，而是我们根本没有一个有效的模型安全审计机制。不管是开源还是闭源，目前都没有第三方的、标准化的安全评估流程。先解决这个问题，再讨论是否开放权重。”

这个事情为什么重要

　　Anthropic 是当前 AI 行业最重要的公司之一（和 OpenAI、Google、Meta 并列）。它对开源模型的立场会影响整个行业的政策方向：

• 监管层面：如果 Anthropic 的立场被各国监管机构采纳，未来可能会出台“限制开放大规模模型权重”的法规
• 行业层面：其他闭源厂商（OpenAI、Google）可能会跟进类似的表态，强化“API 是更安全的方式”的行业共识
• 开源层面：Meta、阿里等开源阵营可能会更坚定地推进开源策略，把这作为差异化的核心卖点

结尾

　　AI 模型开源还是闭源的争论，本质上和 90 年代“开源软件 vs 商业软件”的争论非常相似——安全 vs 自由、控制 vs 开放、商业利益 vs 社区利益。

　　但有一个关键区别：90 年代的开源软件争论中，最坏的情况是系统崩溃。而在 AI 的争论中，最坏的情况可能是一个被恶意使用的 AI 系统。这让天平向“安全优先”倾斜了一些。

　　Anthropic 这篇文章的价值不在于它给出了“正确答案”，而在于它让这个重要的行业讨论更透明了。

　　Anthropic的立场：模型权重开放的便利性和安全风险之间的权衡，行业尚无共识