Google首席科学家Jeff Dean：AI能力超预期，推理硬件成普及关键突破口

AI能力超预期，推理硬件成普及关键突破口

　　在Y Combinator近期举办的访谈活动中，Google首席科学家、深度学习领域先驱Jeff Dean深入探讨了人工智能（AI）的当前发展态势与未来走向。他指出，AI智能体正从单一工具逐步进化为能够长时间稳定运行、独立完成复杂任务的系统，而制约其大规模应用的核心因素正从模型能力转向推理硬件效率。

　　Dean回顾了他在2025年5月作出的“AI已达初级工程师水平”的预测，认为这一判断已基本得到验证，且模型在处理复杂任务时的能力提升速度超出预期。他特别强调，AI智能体不仅在编程领域展现出强大能力，还在其他领域开始崭露头角，这将成为未来发展的重要趋势。

推理硬件：AI普及的关键瓶颈

　　在探讨AI系统下一步发展的关键时，Dean将目光聚焦于推理硬件。他通过类比2001年将Google搜索索引从硬盘迁移至内存的历史性决策，阐述了硬件架构升级对产品能力的决定性影响。Dean认为，降低推理延迟、提升硬件能效是推动AI系统普及的关键，而专用化硬件比GPU或TPU等通用计算设备更具优势。

　　Dean进一步剖析了当前AI系统设计中的底层约束，指出数据搬运过程中的能量消耗远高于实际计算，这深刻影响了批处理的必要性、系统架构设计乃至产品延迟表现。他提出，优化推理硬件应着眼于减少数据搬运和采用极低精度运算，将所需精度直接内建到硬件中。

从“更大模型”到“上下文工程”

　　在谈到AI系统的未来发展方向时，Dean认为，AI进步的驱动力正从“更大的模型、更多的数据”转向模型之外的系统工程能力，包括检索、工具调用、记忆管理和智能体编排等，即“上下文工程”。他指出，上下文工程为小团队提供了差异化竞争的机会，因为其门槛相对较低，只需利用现有API接口搭建检索系统和工具调用机制即可。

应对智能体“脱轨”问题的策略

　　针对智能体在执行长程任务时容易“脱轨”的问题，Dean提出了两类应对策略：

• 一是为模型提供技能和提示，使其保持在熟悉的操作路径上；
• 二是采用多智能体架构，通过推理时计算搜索可行解题路径，并由其他模型或智能体进行评估和筛选。

创业者的结构性机会

　　对于创业者而言，Dean建议寻找模型成功率接近零的问题领域进行突破。他认为，两类场景具有结构性优势：

1. 产品能够接触到通用模型无法获取的特殊数据，如用户个人信息；
2. 针对极其困难的特定问题，通过训练专用小模型以较低成本获得高精度解法。

　　他以AlphaFold为例，说明专用模型在特定领域可以取得显著成效，并认为材料科学、芯片设计等领域同样存在类似机会。

AI将实现“用AI优化AI”的闭环

　　Dean还大胆预测，到2027年，机器学习系统本身的自动化程度将大幅提高，形成“用AI优化AI”的闭环。他描述了将问题拆解成子问题、在紧密的自动化实验循环中运行，再将结果整合的路径，认为这将不仅适用于机器学习领域，还将对科学和工程领域产生深远影响。

性能优化中的上下文工程实践

　　在访谈中，Dean还分享了他在性能优化方面的实践经验。他提到，通过为智能体编写“技能”，教会模型按顺序完成“测量基准—改进代码—测量性能提升—迭代”的完整流程，实现了高效的自动化循环。这一实践不仅提升了性能优化的效率，还展示了上下文工程在实际应用中的巨大潜力。

判断力将成为稀缺能力

当智能体能完成所有代码编写后，什么才是真正稀缺的？

　　面对这一问题，Dean明确指出，判断力将成为未来稀缺的能力。他认为，模型未必擅长做判断，而人来引导大量的AI辅助计算将更快地实现伟大成果。他提出了一种量化训练判断力的方式，即定期写下未来12个月内可能重要的事情清单，并在一年后回头核验哪些真的变得重要。

管理智能体“舰队”的关键：清晰的规格说明

　　在访谈的最后部分，Dean还分享了他在管理智能体“舰队”方面的经验。他认为，写出非常清晰精准的设计文档和规格说明是关键，因为这将为智能体提供明确的准则和目标框架。他以编程智能体在翻译编程语言方面的表现为例，说明清晰的规格说明对智能体性能的重要性。