Mac Mini M4还是RTX 5090？本地AI怎么选

重新理解这个问题

　　RTX 5090是最快的消费级显卡。但2026年对大多数本地AI，它是错误购买。

　　翻转决策的数字是32GB——5090的显存。Mac Mini M4 Pro顶配48GB，比5090多。

　　同一批30B模型，Mac Mini用不到一半价格和零头功耗跑下来。

　　2026年奇特之处：内存短缺把5090市价推到约3万元（$4,300），也逼Apple把Mini的64GB砍到48GB。

　　70B及以上的真大模型，两个消费盒子都装不下——重活去了云端。

决定一切的指标

　　LLM生成文本本质是搬运数据。瓶颈是把权重从内存芯片搬到计算核心的速度——内存带宽。

　　10 tok/s可读。30 tok/s感觉即时。

　　带宽只在模型装进快速内存后有意义。量化（Q4）用一点质量换体积：8B约5GB、30B约18GB、70B约43GB。

　　高带宽低容量：5090又快又小。高容量低带宽：Mac Mini又大又慢。云H100两者兼得，按小时付钱。

Mac Mini M4：容量性价比之选

　　Apple的杀手锏是统一内存：CPU和GPU共享同一物理芯片。

　　基础M4从约4300元（$599）起，120 GB/s带宽，顶配24GB，处理8B小模型可以，AI工作站不够。

　　真正值得买的是M4 Pro 48GB：约1.3万元（$1,799），273 GB/s带宽，30B模型12-18 tok/s。

　　诚实说明：Apple卖过64GB Mini，2026年内存短缺降到48GB。70B模型约43GB不再默认装载——

　　macOS保留部分内存池，70B要手动抬高GPU内存上限才启动且爬行。把它当30B机器用。

　　满载30-40W。安静小巧，全天开着一年电费约100元（$14）。

　　真要本地快速跑70B，那是Mac Studio的地盘（更高带宽，完全不同预算）。

RTX 5090：带星号的速度之选

　　GDDR7显存1,792 GB/s带宽，最快的消费卡。装得下时：8B模型213-238 tok/s，30B约66 tok/s——比Mac快2-3倍。

　　问题是32GB上限。70B Q4需要约43GB，溢出11GB走PCIe到系统内存——速度从66掉到2-5 tok/s爬行。32B以下称王，之后撞墙。

　　官方MSRP 1.4万元（$1,999），2026年市价约3.1万元（$4,300）。

　　还要一整套PC围它转：大机箱、强CPU、高端主板、再加800-1,500美元，1000W电源才敢开机。

　　实际全包落地2.9-4.3万元（$4,000-6,000）。每天用，年电费约1,150-1,510元，外加575瓦的热和噪音。

　　买5090的前提：32B以内模型的速度优先，且你同时玩游戏或剪视频让卡干双份活。

云GPU：租而不是买

　　按小时租GPU，绕开电费、热、前期资本。云4090约2.2-5元/小时（$0.31-0.69），spot更便宜。

　　A100 80GB约7-14元。H100：Vast约13.7元起，Lambda约21.5元，Azure爬到50元。

　　Lambda最可靠所以最贵。RunPod均衡spot和按需。Vast最便宜因为是市场无保障——

　　别人出价更高，你的廉价实例可能15秒通知就把负载抽走。

　　云端赢在：偶尔的重活、70B+模型要真实速度、自己微调模型。H100的容量+带宽能快速跑70B。

　　输在：需要常驻助手时小时费率飞快累积。数据离开机器，隐私敏感负载免谈。

买还是租：先算回本

　　多数买家从不做盈亏平衡分析，最后得到一台一周闲置六天的机器。

　　1.3万元的Mac Mini约等于4,500小时的0.4美元/小时云4090——约185天不间断。

　　每天用几小时，一到两年回本。2.9-4.3万元的5090整机回本时间成比例拉长。

　　别忘了隐藏因素：电费、转售价值、硬件淘汰。买的最强论据是隐私——数据不出桌面。

　　花钱前先测现有的：ollama run llama3.1:8b --verbose，看eval rate那行tok/s。

　　如果30B模型已经到舒适速度，最便宜的升级就是——不升级。

我的发现

　　最认可：5090是张出色的卡，但32GB上限是个陷阱——2026年让你花70B的钱买一台32B机器。

　　Mac Mini高效，但带宽是硬天花板，所以必须按最大模型和日常负载周期买。

　　判断：对大多数开发者和爱好者，无聊的1.3万元Mac Mini是正确的第一步——无热无噪处理日常交互负载。

　　真遇到需要规模的活，租几小时H100就行。先算回本，再决定买什么。