OpenAI前研究员田永龙加入腾讯大语言模型部

又一OpenAI前研究员加盟腾讯

  去年姚顺雨加入腾讯后，又一名OpenAI前研究员加入腾讯。

  据腾讯相关负责人介绍，OpenAI前研究员Yonglong Tian（田永龙）已于近期加入腾讯大语言模型部，后续将参与VLM（视觉语言模型）相关研发。

  公开资料显示，田永龙毕业于清华大学，曾任职于谷歌DeepMind、OpenAI，主要研究方向包括计算机视觉、视觉表征学习及生成式模型。田永龙曾与现任腾讯CEO/总裁办公室首席AI科学家姚顺雨共事。

  将田永龙招入麾下，是腾讯扩充AI人才的最新动作。去年12月姚顺雨加入腾讯后，已给腾讯的AI研发带来改变。

姚顺雨推动AI研发转型

  姚顺雨推动了模型与C端应用元宝的co-design（联合设计），混元也从非常在意外部榜单排名变成以用户体验为目标。数据层面，以往大模型训练数据多但不够高质量，姚顺雨在Hy3上线前砍掉了很多对模型训练无用的数据，着重提升数据质量。

  腾讯高级执行副总裁、云与智慧产业事业群CEO汤道生评价称，姚顺雨做了很多化繁为简的工作，HY3相比过去也有很大进步。

Hy3：混元大模型的重要迭代

  从模型迭代看，姚顺雨于今年4月交出加入腾讯后的第一份答卷。腾讯混元4月发布Hy3 preview语言模型并将该模型开源。姚顺雨说，这是混元大模型重建的第一步。该模型是一个快慢思考融合的混合专家模型，总参数295B（B为10亿），激活参数21B，最大支持256K上下文长度。

  近日混元则发布了Hy3，这个快慢思考融合的模型采用MoE架构，总参数295B、激活参数21B，支持256K上下文长度。据介绍，Hy3延续了能力增长曲线，通过进一步提升后训练的算力规模及数据质量和多样性，在各类任务上表现比Hy3 preview更好，以较小尺寸首次达到比肩国内外大尺寸旗舰模型的效果。

  混元还介绍，在基于真实日志的评测中，Hy3常识错误率较preview版本下降了一半，幻觉率下降了超一半。在其内部评估中，Hy3在综合办公与生活服务两大场景上超过GLM 5.1等国产模型。

Hy3 Preview上线后用户活跃度显著提升

  混元近期还透露了Hy3 Preview上线后的数据，称日均Token消耗量增加了20倍，WorkBuddy上自主选择Hy3 preview的用户数增长了6倍。