AI开始自己造自己？Anthropic坦白Claude已“带队”26%的研发工作

从“打下手”到“当组长”：26%背后的分工变化

  按照Anthropic的说法，目前公司超过九成的研发工作，是在Claude的协作下完成的，也就是由模型在人类的密切指导下完成大块任务。

  模型训练、强化学习、评估和工程实现都在统计范围之内，这不是某个边角环节的自动化，而是研发主线的一部分。

  换个更生活化的比喻，过去的Claude像是递材料的实习生，现在越来越像能带着项目跑的小组长，而组长的上面，仍然坐着盯着进度的人类经理。

  衡量尺度借用了研究机构Epoch AI设计的自动化等级，从AL0的完全没有AI参与，一直到AL5的无需任何人类介入，“主导”只是这把尺子上的一个中间档位。

  这套指数并非拍脑袋得出。Anthropic抽样审查了近一万次训练与评估任务中的约14%，并让Claude给自动化程度打分，再与负责这些工作的员工的判断做对比。

  结果是，模型与人类给出完全相同评级的比例为59%，而两位人类评审之间的完全一致率只有35%，评级相差不超过一档的比例则高达97%。

  这说明尺子本身有一定可靠性，但“协作”与“主导”的边界仍然模糊。Anthropic自己也承认，这一点存在争议空间。

三万个“数字员工”与十亿次决策的安全账

  除了占比，公司还首次披露了智能体的规模。8月，在其最常用的内部平台上，任何时刻都有约3万个AI智能体同时在做研究和工程工作。

  公司称每个智能体的动作在执行前都会经过审查，8月累计处理了超过十亿次决策，其中大约每4.7万次里有一次被安全机制拦下。

  拦截比例约0.002%，看似很低，但放在十亿次的基数上，就是两万多次被叫停的动作，规模越大，小概率越不能忽视。

  在安全投入方面，7月13日至20日那一周，用于AI研发的算力中约有6%属于安全工作，若只看由AI驱动的研发，比例约为12%。

  公司强调这一估算偏保守，因为同时提升能力和安全的项目，被一律算作能力研究。安全算力的实际占比究竟如何，还需要更透明的口径来检验。

递归自我改进：是警报还是仪表盘？

  外界最关心的问题是，这是否意味着“递归自我改进”已经临近，也就是模型能够自主造出自己的继任者。

  Anthropic没有说明自己认为离这一步有多近。但它承认，模型加速自身研发，可能让人类更难理解和控制这些系统。

  值得一提的是，Anthropic还在检查这套分类是否漏掉了AI带来的新型工作。它用今年1月的数据重建了一套任务结构，并与2月至7月出现的任务比对，发现被归为新任务的数量并未增加。

  正因如此，公司呼吁其他前沿实验室也定期公布类似指标，并采用公开的方法，让数据能够随时间、甚至跨公司进行比较。

  公司的说法是，应当尽一切可能缩小前沿实验室所知与公众所知之间的差距。这番话出现在Anthropic首席执行官阿莫迪等人呼吁放慢AI发展的背景下。

  当然，测量标准由谁来定，也是绕不开的问题，因为监管者日后可能直接拿这些数字当作依据。

给普通人的三个提醒

1. 26%是公司自己测自己，第三方尚未独立核验；
2. “主导”不等于“自主”，人类监督仍在链条之中。
3. 从不到1%到26%只用了半年，如果曲线继续上扬，公众和监管留给自己的适应时间可能比想象中更短。

  据报道，Anthropic预计将于今年晚些时候上市。当一家即将面向公开市场的公司主动亮出这样的数字，它既是透明度的示范，也是一份需要被认真审视的自我陈述。

  AI帮AI造AI，不是明天的预言，而是已经写进季度报表的现实，接下来真正的考题，是我们能否跟得上它的速度，并把方向盘牢牢握在人类手里。