延伸阅读“龙虾”挥钳,算力吃紧

“龙虾”挥舞的双钳下，是一个深不见底的算力黑洞。

有机构算了一笔账：相比传统聊天机器人，智能体的Token（词元）消耗动辄放大数十倍，一个稍微复杂一点的任务，背后吃掉的算力，甚至可能是普通对话的百倍、千倍。

围绕这个目标，他提出，应加快构建更高效、标准化的“Token工厂”，提供持续稳定、规模化的Token服务，使顶尖模型能力高效赋能海量下游场景，尽可能提升每一个Token的转化效率，让算力“花得值”。

如今，虽然硬件条件已经改善，国产芯片不再受限，但这种对更低推理成本、更高算力效率的探索，依然会在智能体时代成为未来竞争的关键。