Mac mini
Apple 的小型台式机,搭载 M6 或 M5 Pro。内存 16–64 GB,12.7 × 12.7 × 5 厘米,重 0.67–0.73 公斤。USD $899 起。
想在自己桌上跑 AI 模型,Apple 的 Mac mini、Mac Studio 和 NVIDIA 的 DGX Spark 该怎么选?这篇比较三台各放得下哪些模型、跑多快、加内存要多少钱。
在本地跑 AI 模型,就是让模型在你自己的电脑上运行,不经过其他公司的服务器。提示词和文档不会离开电脑,没网络也能用,也不用按次付费。门槛在硬件:模型要放得进内存,数据在内存里还要搬得够快。
这篇比较的三台小型台式机都用统一内存,处理器和 GPU 共用同一组内存。一般 PC 的显卡有自己的显存;这三台的 GPU 直接用共用内存,放在桌上的小主机也能加载几十 GB 的模型。
Apple 的小型台式机,搭载 M6 或 M5 Pro。内存 16–64 GB,12.7 × 12.7 × 5 厘米,重 0.67–0.73 公斤。USD $899 起。
Apple 较大的台式机,搭载 M5 Max 或 M5 Ultra。内存 36–512 GB,19.7 × 19.7 × 9.5 厘米,重 2.7–3.6 公斤。USD $2,499 起。
NVIDIA 的桌面 AI 电脑,采用 GB10 芯片,系统是 NVIDIA DGX OS(搭配 Ubuntu Linux)。内存 128 GB,15 × 15 × 5.05 厘米,重 1.2 公斤。USD $4,699。
挑这三台,是因为它们都是接上屏幕就能用的桌面小主机,都让处理器和 GPU 共用内存,价格也有重叠:DGX Spark 的 USD $4,699,落在最便宜和最贵的 Mac Studio 之间;顶配的 Mac mini 也比最便宜的 Mac Studio 贵。笔记本电脑、一体机 Mac,以及插独立显卡的 PC,这篇都不比。
本篇数据取自 Apple、NVIDIA 官网和已公布的测试,数据日期为 2026 年 9 月 14 日,来源列在文末。新款 Mac 还在预购,下单前请再确认价格和发货。
判断标准:内存至少要比模型文件大四分之一,才算放得下,剩下的空间留给系统和对话内容。Apple 和 NVIDIA 都没说明 GPU 最多能用多少内存。
4-bit 文件 12.1 GB,这里每一台都放得下,最便宜的是 Mac mini(M6,16 GB),USD $899。上一代 Mac 的公开实测:Mac Studio(M3 Ultra)每秒生成 117 个 token,DGX Spark 86 个,Mac mini(M4 Pro)63 个。
4-bit 文件 42.5 GB,放得下的机器里最便宜的是 Mac mini(M5 Pro,64 GB),USD $2,699。公开实测中,上一代 Mac Studio(M3 Ultra)每秒生成 14 个 token,采用 DGX Spark 同款芯片的机器是 5 个。
4-bit 文件 62.8 GB,Mac mini 全都放不下。DGX Spark 放得下,USD $4,699;Mac Studio 则是 USD $5,099 起。公开实测中,上一代 Mac Studio(M3 Ultra)每秒生成 78 个 token、处理长提示词每秒 1,194 个;GB10 机器分别是 53 个和 865 个。
单台要超过 128 GB,只有 M5 Ultra 的 Mac Studio:256 GB USD $9,499 起,512 GB 版本还没有价格。NVIDIA 说两台 DGX Spark 互联可以跑最多 4050 亿参数的模型,两台合计 USD $9,398,不含连接线。
内存是硬门槛。Mac mini 最多 64 GB,只有这个最高配置放得下 70B 模型;gpt-oss-120b 则任何 Mac mini 都放不下,要选 DGX Spark,或至少 96 GB 的 Mac Studio。单台超过 128 GB 的,这里只有 M5 Ultra 的 Mac Studio。
每个点是一种可以选购的内存容量,刻度每格加倍。A、B、C 三条线是模型文件大小,机器的点要落在线的右边,而且要留一点空间。
文件大小是下方测试中 llama.cpp 显示的数字,由 GiB 换算。512 GB 的 Mac Studio 在美国还没有售价。
| 机器 | 内存 | 美国价格 | 存储空间 |
|---|---|---|---|
| Mac mini · M6 · 12 核 GPU | 16 GB | USD $899 | 256GB |
| Mac mini · M6 · 12 核 GPU | 24 GB | USD $1,099 | 256GB |
| Mac mini · M6 · 12 核 GPU | 32 GB | USD $1,299 | 256GB |
| Mac mini · M5 Pro · 16 核 GPU | 24 GB | USD $1,699 | 512GB |
| Mac mini · M5 Pro · 16 核 GPU | 48 GB | USD $2,299 | 512GB |
| Mac mini · M5 Pro · 16 核 GPU | 64 GB | USD $2,699 | 512GB |
| Mac mini · M5 Pro · 20 核 GPU | 24 GB | USD $1,899 | 512GB |
| Mac mini · M5 Pro · 20 核 GPU | 48 GB | USD $2,499 | 512GB |
| Mac mini · M5 Pro · 20 核 GPU | 64 GB | USD $2,899 | 512GB |
| Mac Studio · M5 Max · 32 核 GPU | 36 GB | USD $2,499 | 512GB |
| Mac Studio · M5 Max · 40 核 GPU | 48 GB | USD $3,099 | 512GB |
| Mac Studio · M5 Max · 40 核 GPU | 64 GB | USD $3,499 | 512GB |
| Mac Studio · M5 Max · 40 核 GPU | 128 GB | USD $5,099 | 512GB |
| Mac Studio · M5 Ultra · 64 核 GPU | 96 GB | USD $5,499 | 1TB |
| Mac Studio · M5 Ultra · 64 核 GPU | 256 GB | USD $9,499 | 1TB |
| Mac Studio · M5 Ultra · 80 核 GPU | 96 GB | USD $6,799 | 1TB |
| Mac Studio · M5 Ultra · 80 核 GPU | 256 GB | USD $10,799 | 1TB |
| Mac Studio · M5 Ultra · 80 核 GPU | 512 GB | 暂无价格 | 1TB |
| DGX Spark · GB10 | 128 GB | USD $4,699 | 4TB |
模型每生成一个字,都要再从内存读一次权重,所以内存带宽决定了生成速度的上限。DGX Spark 是 273 GB/s,略低于 M5 Pro Mac mini 的 307 GB/s,更远低于 Mac Studio 各款的 460 到 1,200 GB/s。照规格看,DGX Spark 的内存和 128 GB Mac Studio 一样大,生成速度却更接近 Mac mini。这些是厂商公布的数字,不是实测。
Apple 标注 M5 Ultra 为 1.2TB/s,这里写成 1,200 GB/s。20 核 GPU 的 M5 Pro,Apple 没有标注带宽。M6 Mac mini 的带宽依选购的内存而定。
| 机器 | 内存带宽,GB/s |
|---|---|
| Mac Studio · M5 Ultra | 1,200 |
| Mac Studio · M5 Max · 40 核 GPU | 614 |
| Mac Studio · M5 Max · 32 核 GPU | 460 |
| Mac mini · M5 Pro · 16 核 GPU | 307 |
| DGX Spark · GB10 | 273 |
| Mac mini · M6 · 12 核 GPU · 24 / 32 GB | 170 |
| Mac mini · M6 · 12 核 GPU · 16 GB | 153 |
| Mac mini · M5 Pro · 20 核 GPU | 未标示 |
M5 和 M6 Mac 目前还没有人公布测试。以下是它们取代的旧款 Mac(M3 Ultra、M4 Pro),以及 DGX Spark 或采用同款 GB10 芯片机器的结果,只能看出差距大小,不代表新 Mac 的表现。
实测的生成速度和带宽规格一致:三组配对测试里,上一代 Mac Studio 生成都比 GB10 机器快。提示词处理就互有输赢,gpt-oss-20b 和 Llama 3.1 70B 是 GB10 机器快,gpt-oss-120b 是 Mac Studio 快。测的是新 Mac 取代的旧款,软件版本也不同,看差距就好,别太在意确切数字。
由不同网友用不同 llama.cpp 版本发布:两台 Mac 是 build 6280,DGX Spark 是 7067。DGX Spark 领先,可能有一部分来自较新的软件。
| 机器 | 提示词处理 · 每秒 token 数 | 生成 · 每秒 token 数 | llama.cpp 版本 |
|---|---|---|---|
| Mac Studio · M3 Ultra · 上一代 | 2,446.12 | 116.63 | 6280 |
| DGX Spark · GB10 | 3,797.76 | 86.23 | 7067 |
| Mac mini · M4 Pro · 上一代 | 700.78 | 63.34 | 6280 |
两组都是同一位评测者 Jeff Geerling 测的,llama.cpp 版本是 build 7129(GB10)和 7315(Mac)。GB10 机器是 Dell Pro Max with GB10,和 DGX Spark 用同一款芯片。
| 机器 | 提示词处理 · 每秒 token 数 | 生成 · 每秒 token 数 | llama.cpp 版本 |
|---|---|---|---|
| Mac Studio · M3 Ultra · 上一代 | 151.42 | 14.08 | 7315 |
| Dell Pro Max with GB10 · 与 DGX Spark 同款芯片 | 223.82 | 4.71 | 7129 |
两组都是同一位评测者 Jeff Geerling 测的,llama.cpp 版本是 build 7129(GB10)和 7315(Mac)。GB10 机器是 Dell Pro Max with GB10,和 DGX Spark 用同一款芯片。
| 机器 | 提示词处理 · 每秒 token 数 | 生成 · 每秒 token 数 | llama.cpp 版本 |
|---|---|---|---|
| Mac Studio · M3 Ultra · 上一代 | 1,193.97 | 78.41 | 7315 |
| Dell Pro Max with GB10 · 与 DGX Spark 同款芯片 | 865.14 | 52.86 | 7129 |
两者都有的内存容量,Mac mini 一律比 Mac Studio 便宜。到了 128 GB,DGX Spark 的 USD $4,699 比最便宜的 128 GB Mac Studio 少 USD $400,还附 4 TB 存储空间,Mac 只有 512 GB。超过 128 GB 就只剩 Mac Studio:256 GB 要 USD $9,499。
各产品在每种内存容量的美国最低价。存储空间不一样:最便宜的 Mac mini 是 256 GB,Mac Studio 是 512 GB 或 1 TB,DGX Spark 只有 4 TB。
Apple 只列升级加价、没列整机价格的配置,这里把加价加上基础款价格,并用 Apple 有列出的整机价格逐一核对。Mac 目前是预购价。以上为 Apple 和 NVIDIA 美国官网标价,数据日期 2026 年 9 月 14 日。
| 机器 | 内存 | 美国价格 | 存储空间 |
|---|---|---|---|
| Mac mini · M6 · 12 核 GPU | 16 GB | USD $899 | 256GB |
| Mac mini · M6 · 12 核 GPU | 24 GB | USD $1,099 | 256GB |
| Mac mini · M6 · 12 核 GPU | 32 GB | USD $1,299 | 256GB |
| Mac mini · M5 Pro · 16 核 GPU | 48 GB | USD $2,299 | 512GB |
| Mac mini · M5 Pro · 16 核 GPU | 64 GB | USD $2,699 | 512GB |
| Mac Studio · M5 Max · 32 核 GPU | 36 GB | USD $2,499 | 512GB |
| Mac Studio · M5 Max · 40 核 GPU | 48 GB | USD $3,099 | 512GB |
| Mac Studio · M5 Max · 40 核 GPU | 64 GB | USD $3,499 | 512GB |
| Mac Studio · M5 Ultra · 64 核 GPU | 96 GB | USD $5,499 | 1TB |
| Mac Studio · M5 Max · 40 核 GPU | 128 GB | USD $5,099 | 512GB |
| Mac Studio · M5 Ultra · 64 核 GPU | 256 GB | USD $9,499 | 1TB |
| DGX Spark · GB10 | 128 GB | USD $4,699 | 4TB |
llama.cpp 这类常见的本地工具两边都能用。DGX Spark 另外原生支持 4-bit FP4 和 8-bit FP8 格式,差别主要在 NVIDIA 和 Apple 各自的专属软件。
用 llama.cpp、Ollama 或 LM Studio 的话,三台都能跑。差别在比较专门的工具:NVIDIA 自家的推理服务软件 TensorRT-LLM 不能在 Mac 上跑,vLLM 和 SGLang 在 Mac 上只部分支持,Apple 的 MLX 则没有 DGX Spark 的官方文档。
| 工具 | Mac | DGX Spark |
|---|---|---|
| llama.cpp | 支持 | 支持 |
| Ollama | 支持 | 支持 |
| LM Studio | 支持 | 支持 |
| MLX / mlx-lm | 支持 | 文档未提及 |
| vLLM | 部分支持 | 支持 |
| SGLang | 部分支持 | 支持 |
| TensorRT-LLM | 不支持 | 部分支持 |
| PyTorch | 部分支持 | 支持 |
| Hugging Face Transformers | 支持 | 支持 |
| ComfyUI | 支持 | 支持 |
| 微调 | 支持 | 支持 |
「文档未提及」是指该项目的官方文档没写,不代表一定不能用。
Apple 标注的是每台 Mac 的最大持续耗电;NVIDIA 标注的是 DGX Spark 电源适配器的额定功率和芯片功耗上限。两者量的不是同一件事,所以只列出来,不排名。
| 机器 | 厂商标示的项目 | 数字 |
|---|---|---|
| Mac mini | 最大持续功率(Apple) | 155 W |
| Mac Studio | 最大持续功率(Apple) | 480 W |
| DGX Spark | 电源额定功率(NVIDIA) | 240 W |
| DGX Spark | GB10 芯片功耗上限(NVIDIA) | 140 W |
上面用的是美国价格,因为我们追踪的八个市场里,只有美国的 DGX Spark 有公开售价又有现货。其他市场在 2026 年 9 月 14 日的情况如下:
| 市场 | DGX Spark | 价格 |
|---|---|---|
| 美国 | NVIDIA 有现货 | USD $4,699 |
| 中国 | 有官方经销商,但没有公开售价 | — |
| 香港 | 找不到 NVIDIA 的销售渠道 | — |
| 台湾 | 有官方经销商,但没有公开售价 | — |
| 日本 | NVIDIA 列出的经销商 ELSA 售价(含税) | JPY ¥1,045,000 |
| 澳大利亚 | 有官方经销商,但没有公开售价 | — |
| 英国 | NVIDIA 有标价,但缺货 | GBP £4,200 |
| 德国 | NVIDIA 有标价,目前无法购买 | EUR €4,800 |
本页不比较美国以外的 Mac 售价。
NVIDIA 的文档说明怎么用 200 Gb/s 的 ConnectX-7 端口互联两台 DGX Spark,并说两台可以跑最多 4050 亿参数的模型;产品页则写最多四台可跑 7000 亿参数。
Apple 在 macOS 26.2 加入通过 Thunderbolt 5 的 RDMA,让 MLX 把一个模型分到多台 Mac 上跑。Apple 没有说这样能跑多大的模型。
主要跑 200 亿参数左右以下的模型,或想先小规模试试,Mac mini 最便宜:Mac mini(M6,16 GB)售 USD $899,放得下 gpt-oss-20b;Mac mini(M5 Pro,64 GB)售 USD $2,699,放得下 70B 模型。
想跑最大的模型、要最快的生成速度,就看 Mac Studio。这里只有它能超过 128 GB,内存带宽也最高,上一代在每组配对测试的生成速度都已经赢过 GB10 机器。
工作离不开 NVIDIA 的软件或 4-bit FP4 格式、最在意提示词处理速度(三组测试 GB10 机器赢两组),或想用最少的钱买到 128 GB,DGX Spark 比较适合。它比 128 GB 的 Mac Studio 便宜 USD $400,还多了 4 TB 存储空间,只是照规格看生成速度较慢。
写这篇时新款 Mac 还没有公开测试,等结果出来,上面的差距可能会变。
marketplace.nvidia.com/en-us/enterprise/personal-ai-supercomputers/dgx-spark/www.apple.com/mac-mini/specs/www.apple.com/mac-studio/specs/www.apple.com/shop/buy-mac/mac-miniwww.apple.com/shop/buy-mac/mac-studiowww.nvidia.com/en-us/products/workstations/dgx-spark/github.com/geerlingguy/ai-benchmarks/issues/34#issuecomment-3565587153github.com/geerlingguy/ai-benchmarks/issues/42#issuecomment-3624042296github.com/ggml-org/llama.cpp/discussions/15396#discussioncomment-14226807github.com/ggml-org/llama.cpp/discussions/15396#discussioncomment-14249698github.com/ggml-org/llama.cpp/discussions/16578#discussioncomment-14980101developer.apple.com/metal/pytorch/docs.nvidia.com/dgx/dgx-spark/hardware.htmllmstudio.ai/docs/app/system-requirementsraw.githubusercontent.com/NVIDIA/TensorRT-LLM/main/docs/source/release-notes.mdraw.githubusercontent.com/NVIDIA/TensorRT-LLM/main/docs/source/supported-hardware.mdraw.githubusercontent.com/NVIDIA/dgx-spark-playbooks/main/nvidia/playbook-comfyui/README.mdraw.githubusercontent.com/NVIDIA/dgx-spark-playbooks/main/nvidia/playbook-llama-cpp/README.mdraw.githubusercontent.com/NVIDIA/dgx-spark-playbooks/main/nvidia/playbook-pytorch-fine-tune/README.mdraw.githubusercontent.com/NVIDIA/dgx-spark-playbooks/main/nvidia/playbook-sglang/README.mdraw.githubusercontent.com/NVIDIA/dgx-spark-playbooks/main/nvidia/playbook-unsloth/README.mdraw.githubusercontent.com/NVIDIA/dgx-spark-playbooks/main/nvidia/playbook-vllm/README.mdraw.githubusercontent.com/comfyanonymous/ComfyUI/master/README.mdraw.githubusercontent.com/ggml-org/llama.cpp/master/README.mdraw.githubusercontent.com/huggingface/transformers/main/docs/source/en/perf_train_special.mdraw.githubusercontent.com/ml-explore/mlx-lm/main/mlx_lm/LORA.mdraw.githubusercontent.com/ml-explore/mlx/main/docs/src/install.rstraw.githubusercontent.com/ollama/ollama/main/docs/gpu.mdxraw.githubusercontent.com/ollama/ollama/main/docs/macos.mdxraw.githubusercontent.com/sgl-project/sglang/main/docs/docs/hardware-platforms/apple_metal.mdxraw.githubusercontent.com/vllm-project/vllm/main/docs/getting_started/installation/cpu.apple.inc.mdmarketplace.nvidia.com/de-de/enterprise/personal-ai-supercomputers/dgx-spark/marketplace.nvidia.com/en-au/enterprise/personal-ai-supercomputers/dgx-spark/marketplace.nvidia.com/en-gb/enterprise/personal-ai-supercomputers/dgx-spark/marketplace.nvidia.com/en-us/enterprise/personal-ai-supercomputers/dgx-spark/marketplace.nvidia.com/ja-jp/enterprise/personal-ai-supercomputers/dgx-spark/marketplace.nvidia.com/zh-cn/developer/dgx-spark/marketplace.nvidia.com/zh-hk/developer/dgx-spark/marketplace.nvidia.com/zh-tw/enterprise/personal-ai-supercomputers/dgx-spark/nvidia.mmt.com.au/collections/nvidia-dgx-sparknvidia.mmt.com.au/products/nvidia-dgx-spark-founders-editionshop.cancom.de/de/spotlights/nvidiadgxsparkshop.elsa-jp.jp/view/item/000000001031www.leadtek.com/cht/products/AI_HPC(37)/NVIDIA_DGX_Spark_Founders_Edition(51035)/detailwww.nvidia.cn/products/workstations/dgx-spark/www.nvidia.cn/products/workstations/dgx-spark/where-to-buy/www.nvidia.com/en-us/products/workstations/dgx-spark/www.nvidia.com/ja-jp/products/workstations/dgx-spark/www.sec.gov/Archives/edgar/data/0001045810/000104581026000075/nvda-20260726.htm最后更新 2026-09-14