Anthropic警示AI自我进化过快，呼吁适度放缓前沿研发

Anthropic披露AI自主构建进展：超八成代码由Claude生成

美国大模型公司Anthropic在最新技术博文中《当人工智能自我构建时》披露实测数据并预判三类行业走向，同时罕见提出观点：合理放慢尖端AI研发节奏，留给社会配套完善窗口期，或将利好全人类安全发展。

Anthropic 称，截至今年5月，80%以上的Anthropic代码，都由Claude写的。而在Claude Code发布之前，这个数字还仅是个位数。与此同时，Anthropic工程师平均每季度交付的代码量，是2021至2025年的8倍。

在 Anthropic 成立的前四年，也就是 2021 年至 2024 年，每位工程师每天合并的代码行数基本保持稳定；到 2025 年，随着 Claude 开始运行代码，而不只是建议工程师复制粘贴代码，这一数字开始上升。

Anthropic 表示，2026 年，随着模型开始在更长的时间范围内自主运行，这一增长速度再次加快。数据显示，2026 年第二季度，Anthropic 普通工程师每天合并的代码量是 2024 年的 8 倍。

Claude编写的代码"很好"，而且还在不断改进，在这种情况下，未来的工作模式会是怎样的？Anthropic表示，未来可能会出现至少三种不同的情形：

情形一：AI能力普及但增长趋缓

虽然指数级增长的趋势可能会停滞，但如今AI的能力已经广泛普及。Anthropic称，我们目前仍处于将现有模型推广到更广泛经济领域的早期阶段，但制约人工智能进步的因素不在模型本身，可能在供应链、芯片制造速度、电网扩展速度或互连带宽等；

情形二：AI开发高度自动化，人类主导方向

人工智能实验室的效率将持续提升，人工智能的开发将高度自动化，但人类仍然负责设定研究方向和评估结果。随着时间的推移，使用人工智能系统的组织将变得更加高效，组织中每个人的生产力都将得到显著提升。像Anthropic这样的公司，人类的角色也将发生转变。人们将与人工智能系统合作，扩大研究规模，共同构建验证人工智能是否可信所需的系统。

情形三：AI实现递归式自我改进

人工智能系统本身将具备完全递归式自我改进的能力，并开始构建其后继者。如果技术进步的趋势持续下去，人工智能系统能够发展出媲美人类具有变革性创造力，那么人工智能系统很可能进行自我设计和改进。

Anthropic 认为，在这样的世界里，人工智能发展的步伐将完全取决于人工智能系统所需的计算资源（或发现算法训练或推理中各种效率提升的速度），人类在人工智能系统发展中的作用将大幅降低，“我们的大部分精力可能会转移到对人工智能系统运行的'虚拟实验室'进行监督、验证和确认。”

不过，Anthropic 表示，目前判断哪种结果最有可能还为时过早，但AI 已经在帮助构建 AI已是现实。

呼吁适度放缓前沿AI研发

在这篇技术博客里，Anthropic称，如果能够有效减缓这项技术的发展速度，为我们人类提供更多时间来应对其巨大的影响，这或许是一件好事。但如果速度放缓反而让那些最不谨慎的参与者在技术上迎头赶上，那么最终可能会让所有人的安全都受到威胁。