Muse Spark Open 的计算行为接近 42B 模型，存储行为接近 816B 模型，服务行为则属于分布式系统。它的 MoE 路由器每个 Token 从 256 个专家中选择 8 个，降低当前 Token 的计算量。后续 Token 可能选择其他专家，因此完整专家集合仍要驻留在内存中，或保持足够快的可访问状态。
这就是官方硬件要求看起来远高于 42B 的原因。Meta 对 NVFP4 的建议下限是 700 GB GPU 内存，BF16 是 2 TB；官方桌面方案则使用两台各配 512 GB 统一内存的 M5 Ultra Mac Studio。42B active 描述计算工作集，不能直接用于估算部署容量。
规格与集成状态核验于 2026 年 10 月 19 日。Muse Spark Open 发布于 2026 年 10 月 15 日。Apple 公开性能数据覆盖 8192 与 65536 Token，尚未公布双 Mac 满 100 万 Token 的完整运行结果。
决定部署的三个数字
Meta 官方模型卡给出三项核心规格：
- 产品口径总参数 816B；
- 每个 Token 激活参数 42B；
- 上下文上限 1,048,576 Token。
模型有 62 层，每个 MoE 层包含 256 个专家，每个 Token 选择 8 个。注意力使用 16 个 KV Heads，Head Dimension 为 64。输入覆盖文本、图像、视频和音频，输出为文本。
由此产生两个完全不同的问题。
一个 Token 要执行多少计算？ 路由器只让它经过一部分专家。42B active 在这里决定主要工作量。
部署时要准备多少模型状态？ 下一个 Token 可能选择任意专家。如果把未激活专家临时从磁盘加载，交互延迟会失去实用性。因此运行时仍需访问完整权重。816B total 在这里决定容量。
MoE 的稀疏性减少每个 Token 的计算与内存流量，却不会把 Checkpoint 变成 42B 文件。
权重容量：理论值只是地板
用 816B 参数乘以名义精度，可以得到数学下限：
| 格式 | 每参数名义字节 | 纯权重理论下限 | 实际部署含义 |
|---|---|---|---|
| BF16 | 2 | 1.632 TB | Meta 建议至少 2 TB VRAM |
| FP8 或 INT8 | 1 | 816 GB | 容量参考，不代表已有官方基础 FP8 工件 |
| 4-bit | 0.5 | 408 GB | 尚未计入 Scale 与高精度张量 |
| 官方 NVFP4 | 混合 | Apple 实测模型约 493 GB | 单台 512 GB 加运行中间量后仍放不下 |
真实量化格式还要保存 Scale、元数据、对齐填充和部分高精度张量。Embedding、路由、归一化和感知编码器也可能采用不同精度。这解释了为什么 816B 乘四比特得到 408 GB，而 Apple 测得的 NVFP4 模型内存 Footprint 约为 493 GB。
Hugging Face 仓库元数据目前对 BF16 工件统计出约 822B 张量，而 Meta 架构与产品名称使用 816B。采购内存和磁盘时，应以选定工件的实际大小为准，产品名只能用于架构沟通。
KV Cache 是另一张账单
100 万 Token 是模型架构能力。真正提供这段上下文，还需要额外的大块内存。
按公开架构估算，单序列 BF16 KV Cache 每 Token 为：
K 和 V 两份 × 16 个 KV Heads × 64 维 × 62 层 × 2 字节 = 253,952 字节
对应容量为：
| 上下文长度 | 单序列 BF16 KV Cache 估算 |
|---|---|
| 8,192 | 2.08 GB |
| 65,536 | 16.64 GB |
| 131,072 | 33.29 GB |
| 1,048,576 | 266.29 GB |
这组估算尚未包含运行时 Buffer、Activation、多模态预处理、操作系统预留、碎片和并发请求。KV 量化可以降低容量，Batch 和并发则会放大总量。
完整公式应该写成：
权重 + KV Cache × 并发序列 + Activation + 通信 Buffer + 运行时 + 系统预留
官方双 Mac 方案和 100 万 Token 上限可以同时成立，因为它们回答不同问题。Apple 的 Mac 性能测试覆盖 8K 和 65K，目前没有公开双机满 1M 上下文的实用性能数据。
官方 Mac Studio 集群
Meta 的 Mac 部署 Cookbook给出两种官方拓扑：
- 两台 M5 Ultra Mac Studio，每台 512 GB 统一内存；
- 四台 M5 Ultra Mac Studio，每台 256 GB 统一内存。
环境还需要 macOS 26.2 或更高、MLX 0.30.1 或更高、每对 Mac 之间直接连接 Thunderbolt 5、启用 RDMA、使用 jaccl 通信后端，并从主节点配置免密 SSH。Meta 建议每对机器使用两根雷雳线，以增加链路带宽。
每台 Mac 的磁盘都要保存完整 NVFP4 Checkpoint，即使运行时只把自己的模型分片载入内存。内存分布式并不等于官方配方会自动分片下载。
这是一套放在桌面上的小型集群，已经超出单机桌面应用的复杂度。
Pipeline 与 Tensor Parallel 怎么选
Apple 的 MLX 与 RDMA 研究测试了两种并行方式。
Pipeline Parallel 按深度拆模型。一台 Mac 运行前半部分层，再把中间结果交给下一台。通信量相对较低，但 Decode 仍基本按层串行。
Tensor Parallel 把每一层横向拆到多台机器。它能暴露更多并行计算，同时每一层都要执行小规模广播与聚合，低延迟 RDMA 由此进入推理关键路径。
Apple 在 Muse Spark Open NVFP4、Batch 1、8192 Token Prompt、生成 128 Token 条件下报告：
| 拓扑 | 首 Token 时间 | Decode 速度 |
|---|---|---|
| 2 台 M5 Ultra，Pipeline | 8.4 秒 | 15.74 tok/s |
| 2 台 M5 Ultra，Tensor | 8.2 秒 | 24.99 tok/s |
| 4 台 M5 Ultra，Tensor | 4.8 秒 | 36.73 tok/s |
Prefill 和 Decode 的瓶颈并不相同。Prefill 更受计算能力限制；Decode 更受内存带宽限制，单台 M5 Ultra 的统一内存带宽为 1.2 TB/s。Tensor Parallel 能提高 Decode 吞吐，但每层通信让互连延迟变得关键。
Apple 在四机、65536 Token 测试中还发现，每对机器使用两根雷雳线，相比一根线把首 Token 时间从约 50.5 秒降到 40.6 秒。互连属于可测量的模型基础设施，而不是普通配件。
单机低比特运行属于另一份合同
第三方和生态合作方已经提供能放进单台 512 GB Mac 的更低比特工件。这与官方双机要求并不冲突。
官方路径使用 Meta NVFP4 Checkpoint，追求更高保真度。3-bit 或 2-bit 转换会改变文件、Kernel、质量、可用上下文和吞吐。单机在 1K 上下文成功 Decode，不能证明它等价于官方工件在 65K 或 1M 上下文的表现。
每次部署都记录完整工件身份：
- 仓库和不可变 Revision；
- 量化方法与准确文件；
- 运行时与 Commit；
- Prompt 长度与生成长度；
- KV 精度和 Batch；
- 拓扑与互连；
- 量化前后的真实任务质量。
只报参数量，无法唯一描述一个已部署系统。
五道部署门禁
一、工件门禁
固定 BF16、NVFP4 或第三方量化 Checkpoint 并核对哈希。许可证、Tokenizer、感知编码器、Chat Template 和运行时适配器都属于工件的一部分。
二、容量门禁
在 8K、65K 和真实目标上下文上测峰值常驻内存。加入并发、图像或音频输入、长推理输出和其他进程，为碎片和故障恢复保留余量。
三、拓扑门禁
希望降低通信复杂度时使用 Pipeline；希望提高单流 Decode 时使用 Tensor。验证 RDMA 稳定性、线缆拓扑、SSH 编排、节点掉线和重启。需要人工反复修复才能工作的集群，还不能承担稳定本地服务。
四、性能门禁
分别测 Prompt Processing、首 Token、持续 Decode、总吞吐和 P95 端到端 Agent 任务时间。Tokens/s 只覆盖工具型工作流的一段。
五、经济与许可证门禁
把采购价、电费、存储、利用率、维护和运维人员时间，与托管推理放在同一张表中。商业部署前完整审阅自定义 Muse Model License，包括归属标识、用途限制和 Model-as-a-Service 条款。Open weights 描述权重可得性，不能直接等同于 OSI 开源软件。
最终决策规则
当隐私、离线运行、持续利用率和直接控制足以覆盖集群成本时，本地部署成立。当需求呈突发型、多用户并发重要、团队依赖成熟 CUDA Serving，或分布式推理不属于核心能力时，托管服务更合理。
可以把判断压缩成四句话：
- 42B active 预测每个 Token 的部分计算和内存流量。
- 816B total 预测权重存储和驻留。
- 上下文与并发 预测 KV Cache 压力。
- 拓扑 决定已经买到的内存能否转化为可用性能。
桌面形态没有消除数据中心约束，只是把它们压缩进更小的运行环境。
常见问题
为什么 42B 激活模型仍需容纳 816B 参数？
42B 只是一个 Token 选择的专家子集。后续 Token 可以选择其他专家，完整专家集合必须保持可用。
单台 512 GB Mac Studio 能运行吗？
官方 NVFP4 方案不能。Apple 测得模型本身约 493 GB，尚未计入运行中间量。更低比特第三方工件可以放入单机，但属于不同质量合同。
官方最低 Mac 配置是什么？
两台各 512 GB 的 M5 Ultra Mac Studio，或四台各 256 GB，同时配置 macOS 26.2、MLX 0.30.1、Thunderbolt 5 RDMA、jaccl，并在每台机器磁盘保存完整 Checkpoint。
100 万上下文需要多少内存？
按公开架构保守估算，单个 1,048,576 Token 序列的 BF16 KV Cache 约 266 GB，尚未计入权重、运行 Buffer 和并发。
官方双 Mac 已经证明 100 万 Token 可用吗？
没有。模型支持该上限，Apple 公开的 Mac 性能测试覆盖 8192 与 65536 Token。
Pipeline 和 Tensor 哪个更快？
Apple 双机测试中，Pipeline 为 15.74 tok/s，Tensor 为 24.99 tok/s。Tensor 对低延迟通信的依赖更强。
Muse Spark Open 属于开源软件吗？
它是采用自定义 Muse Model License 的开放权重模型。归属、用途和商业服务条款需要单独审阅。