装得下只是起点。模型权重之外还有上下文和运行开销;是否值得使用,要看真实任务的质量、等待时间与维护成本。
「装得下」先解决了什么?
本站解释NVIDIA 为 DGX Spark 标称了 128 GB 统一系统内存,并采用 GB10 Grace Blackwell 超级芯片。它面向本地 AI 原型、推理与开发;这些是产品定位和规格,不是每一项任务的性能保证。
统一内存由 CPU 与 GPU 共享使用,不能把它理解成系统内存之外还有一份独立的 128 GB 显存。判断可容纳的模型时,也不能把标称容量全部分配给模型权重。
NVIDIA 官方硬件文档列出的内存带宽为 273 GB/s。带宽描述数据传输能力,不能直接换算成聊天时每秒输出多少字。
为什么容量不等于速度?
本站解释先看一个理想估算:假定 700 亿个参数全部按每参数 4 bit 存储,仅权重就是 350 亿字节,约 35 GB(十进制单位)。同样的算法,320 亿参数约为 16 GB。这是参数数量乘以位数的计算,不是某个模型实际占用内存的测量。
真实运行还需要量化元数据、临时工作区、框架与系统开销,以及为上下文保留数据的 KV 缓存。不同模型和实现的占用不相同,不能拿「权重估算小于总内存」直接宣布一定能顺畅运行。
容量主要回答能否放下,速度还取决于计算与数据传输、模型结构、量化实现、上下文长度和软件优化。首个输出出现的等待时间,与后续持续生成的速度,也不是同一个指标。
因此,不能把理论峰值算力除以参数量来推导真实生成速度,也不能把厂商展示的最大模型规模当作所有场景下都流畅可用的承诺。本文没有提供 DGX Spark 的硬件实测吞吐。
对谁有用,先从任务判断
本站解释先选一项自己会反复做的工作:整理一批文档、运行特定模型,或处理不适合交给外部服务的资料。再明确可以接受的结果质量、等待时间、上下文长度与使用频率。
比较方案时,不只记录「模型能启动」。还应观察第一次使用前需要多少准备、实际任务多久完成、长输入时是否稳定,以及软件升级和排错要投入多少精力。固定任务与模型配置后再比较,才不容易把不同条件下的数字混为一谈。
如果长期反复处理本地资料,这类设备可能有价值;如果只是偶尔问答,现有电脑或外部服务也值得纳入比较。硬件投入、维护、用电与外部服务费用应一并考虑,不能只比较单个规格数字。
本地运行也不自动等于完全离线:软件可能仍会下载模型、检查更新或访问外部接口。资料是否真正留在本地,要核对实际软件、配置与网络行为。以上是评估方法,不是购买建议,也不是对该设备的实测背书。
本文没有进行模型测速、功耗测量或总成本计算,不承诺替代云端服务。规格源于厂商当前产品页;地区、价格、配件与实际可购买配置另行核验。
把对象与关系连起来
NVIDIA → DGX Spark → GB10;统一内存与 AI 软件栈分别承担资源和运行支持。本文未推断它与其他厂商产品的胜负关系。
回到原始资料
来源机构提供材料,本站负责解读;厂商材料不等于独立测评。
NVIDIA
最近核验:2026-09-09 14:31(UTC+08:00)版本与订正历史
当前公开第 2 版 · 2026-09-12 发布;旧版本保留为可追溯的历史,不会覆盖改写。
- 第 2 版 · 当前公开版本2026-09-12 公开
- 第 1 版 · 已被新版本取代2026-09-09 公开,2026-09-12 结束
韦布两种仪器提供互补信息:一幅合成图,帮助我们观察恒星与尘埃的不同细节。
沿着好奇,继续阅读 ↗看机器人,别只看它最精彩的十秒用一个搬运例子,看懂动作、换电与任务系统的区别,再学会追问失败恢复和人工介入。