首页
产品服务
模型广场
Token工厂
算力市场算力商情行业资讯解决方案有偿资讯商城
注册

四台Mac Studio干翻云端集群 苹果联手LM Studio本地跑起万亿参数大模型

发布日期:2026-06-24 来源:ITBear科技资讯作者:ITBear科技资讯浏览:9

四台 Mac Studio 集群成功运行 Kimi K2.6 万亿参数大模型

  在刚刚落幕的 WWDC 2026 上,LM Studio 与苹果完成了一场令人瞩目的技术演示——仅用四台 Mac Studio 组成的集群,就成功运行了月之暗面的万亿参数大模型 Kimi K2.6。这一成果打破了“万亿模型必须依赖云端 GPU 集群”的固有认知,让消费级硬件承载前沿 AI 算力成为现实。

Kimi K2.6 模型规格与性能表现

  Kimi K2.6 总参数规模高达 1 万亿,采用 MoE 架构,激活参数为 320 亿,支持长上下文、多模态输入及智能体任务处理。此次演示中,四台 Mac Studio 通过苹果的内存共享和互联技术组成集群,统一内存总量约达 1.5TB,足以满足这一巨型模型的推理需求。此前开发者测试显示,在类似配置下 Kimi K2.6 可达到约 28 tokens/s 的生成速度,而功耗远低于传统 GPU 方案。

从 iPhone 直连本地集群,数据全程不出门

  更值得关注的是,演示中还展示了 LM Studio 的 LM Link 远程访问功能。用户可以在 MacBook Neo 笔记本和 iPhone 上安全地远程连接到 Mac Studio 集群,与正在运行的模型实时交互,而所有数据和通信始终保持本地化处理,不走云端。

LM Link 已更新至 LM Studio 的 Mac 应用和 Locally AI 的 iOS 应用中,支持端到端加密连接。这一设计让用户即使手握轻量设备,也能随时调用集群级的 AI 算力,同时不必担心隐私泄露风险。

  配合苹果 Thunderbolt 5 RDMA 等多设备内存共享技术,整个生态在 AI 本地化部署方面的技术闭环正在加速成型。

  此次合作释放了一个清晰信号:本地部署万亿参数大模型不再是遥不可及的实验室概念,而是正在走向开发者案头的工程现实。随着苹果硬件互联能力的持续进化,消费级设备承载大规模 AI 推理的边界,有望被进一步拓宽。

本文转载自ITBear科技资讯, 作者:ITBear科技资讯, 原文标题:《 四台Mac Studio干翻云端集群 苹果联手LM Studio本地跑起万亿参数大模型 》, 原文链接: http://m.itbear.com.cn/html/2026-06/1406971.html。 本平台仅做分享和推荐,不涉及任何商业用途。文章版权归原作者所有。如涉及作品内容、版权和其它问题,请与我们联系,我们将在第一时间删除内容!
本文相关推荐
暂无相关推荐
点击立即订阅