大模型危险漏洞频发 中国开源AI给出安全答卷

全球AI安全警报拉响，大模型安全风险频发

  就在过去的几个礼拜，AI圈接连爆出好几件让人后背发凉的安全事件。美国AI巨头Anthropic在测试里，“黑”进了三家企业的系统，直接把攻击流量转向了真实服务器。

  而在英国AI安全研究所公布的数据里，OpenAI、Anthropic这两家公司的模型，在122次测试中，就发动了19次面向真实互联网环境的自主攻击。最恐怖的一次，AI甚至自行创建虚假身份、发送钓鱼邮件，要求批准恶意代码，被质疑后，AI竟然主动改了网络记录，并考虑用新身份继续犯错。

就连Anthropic也白纸黑字地承认，说随着模型能力的增长，自主性风险、失控风险、生物武器滥用风险都在显著上升。

  连AI公司自己都知道，手里的模型越来越不好管了。咋办呢？

中国开源AI拿下国际安全测试佳绩

  就在全球对AI安全忧心忡忡的时候，8月5日，一份国际权威AI安全榜单放榜了。CyberGym是全球规模最大的AI智能体网络安全实战测试，“试卷”里的1507道题，全都来自真实的开源项目。在这个主打“真实”的测试里，有一个中国团队拿下了开源榜第一、全榜第三的成绩，排在前面的是微软和谷歌，紧随其后的是OpenAI和Anthropic。

  值得特别关注的是，别的参赛选手都是组了一个“闭源模型专家团队”参赛的，成本高昂。而中国团队全程只上了一个“队员”——开源模型智谱GLM-5.2，任何人都能下载。

单枪匹马参赛，秘诀何在？

  因为它学会了一套顶级安全专家的“办案方法”，先用聪明的筛选方式，从海量数据里找出最关键、最可疑的地方，再动手测试，不成功就换一条路，直到把漏洞找出来。这就像给一个聪明学生配上了解题思路和实验工具，效率自然迅速提升。同时，它为AI构建了严格的沙箱环境，大大降低模型“跑出去搞事情”的风险。

当前许多国外顶尖前沿模型在网络安全方面的能力并不对所有人开放，外界难以确定这些能力是否会被用于网络攻击或关键基础设施攻击。因此，我们需要具备这样的能力，以更好地进行防御。这相当于提前发现问题，从而能够有针对性地进行修复，防止后续被第三方恶意利用，造成经济损失。

  其实这份榜单的意义在我看来，不只在一个排名。它证明了中国自研的AI模型已经能够处理全球最难、最大规模的专业安全任务。而且这条开源路线，让顶尖安全能力不再只属于少数几个巨头，任何机构、任何开发者，只要能获取开源模型，就有机会拥有世界顶级的安全防护能力。