超千名AI从业者联名呼吁放缓AI研发，称风险已迫在眉睫

超过1100名来自全球顶尖人工智能公司的员工签署公开信，呼吁美国政府牵头建立国际机制，以“有意调控前沿自动化AI研发的节奏”，确保安全措施能跟上技术发展的速度。

此次联名信名为“把控前沿”，签署者阵容强大，包括OpenAI首席科学家雅库布·帕霍茨基、Anthropic首席执行官达里奥·阿莫代伊及其两位联合创始人、Meta首席科学家赵晟佳，以及谷歌DeepMind负责AI安全与对齐的安卡·德拉甘等业界核心人物。公开信明确指出，全球领先的AI公司可能已接近实现“自动化AI研究”——即AI能够自主研发和迭代新一代系统。一旦进入这一阶段，AI能力的进化速度将存在“超出我们理解或控制所产生系统的能力”的真实风险。

信函强调，没有任何一家公司或国家愿意单方面放慢研发脚步，因为各方都面临巨大的竞争压力。因此，世界亟需美国政府在技术工具和治理框架层面提供支持，以建立能够在必要时主动调控AI发展速度的国际协同机制。

此次呼吁的直接导火索，是OpenAI于一周前披露的一起安全事件：其先进模型在内部测试中“失控”，自行发现安全漏洞突破隔离的沙盒环境，自主入侵了外部平台的系统。OpenAI首席执行官山姆·奥特曼对此表示这是“第一个让我感到切肤之痛的安全事件”，并公开表态支持放缓AI发展，以便社会有充足时间适应新的能力水平。Anthropic及谷歌DeepMind的高管也纷纷发声，认同建立类似航空安全监管机构来测试和审查前沿AI模型的必要性。