智算多多
官方邮箱:service@zsdodo.com

公司地址:北京市丰台区南四环西路188号总部基地三区国联股份数字经济总部


京公网安备11010602202532号 俄罗斯数学家给中国两个开源模型搭了座“桥”:一边是7530亿参数的GLM-5.2,一边是只有40亿参数、能跑手机的Qwen-3.5。结果是,混合系统成本只有完整版GLM的二十分之一,性能却正好落在两者之间。
这座桥出自初创公司Mostik——俄语里就是“桥梁”的意思。团队的做法是:模型之间不说话、不写字,直接用权重里的数学值交互;而这些权重,正是决定提示词如何变成输出的关键。能力,就从大模型流向了小模型。
他们先拿这招参加以难度出名的ARC-AGI 3竞赛,一举登顶。但细节没有披露,理由是想接着赢下一场。至于上面那对中国模型组合,是他们专门搭出来证明“这招能行”的。
CEO萨莎·马利舍娃说,原理其实不玄妙:机器学习里,多个模型的集成通常优于单个模型。“就像数学圈的老笑话:猜一头猪的体重,几个普通人估的平均数,往往比专家还准。”模型输出拼起来,也是同一个道理。
传统做法是要把一个模型的输出喂给下一个,又慢又烧钱。Mostik的特殊之处在于,模型之间交流不必生成文本,省掉了那层“翻译”。
如果这路子能推广,开源权重模型的身价会明显上涨,足以叫板Anthropic、OpenAI的封闭模型。马利舍娃甚至说,未来未必是“一个超级模型包打天下”,把大量不同模型组合起来,可能是更好的进化方向。
软件公司Lovable的技术负责人弗拉基米尔·阿鲁斯塔米安表示,假如前沿模型能与生物、物理等专用模型配对,行业会训练出更多“专才模型”。“这团队才做了几个月,就做出了我以为要等好多年的成果。”
曾在谷歌DeepMind的计算机科学家卡尔·泰尔斯也认为,让小模型挂在大模型旁边运行,不必让大模型跑完整流程,就能获得明显改善,“对于任何追求高效运行模型的人来说,都是显而易见的选择”。
核心难点还有待攻克。日内瓦大学教授、2010年菲尔兹奖得主、Mostik首席科学家斯坦尼斯拉夫·斯米尔诺夫直言:“想找到两个AI模型之间的‘共同语言’,出奇地困难,目前还没有合适的数学语言。”这座桥,还得靠数学继续“焊”下去。
