本地 AI 原型开发
在桌面环境完成生成式 AI 应用、智能体、检索增强生成和多模态应用原型
PRODUCT OVERVIEW
在桌面环境构建、微调和运行 AI 模型
NVIDIA DGX Spark™ 将 GB10 Grace Blackwell 超级芯片、128 GB 统一系统内存、ConnectX-7 高速网络和 NVIDIA AI 软件栈集成于紧凑型桌面系统。
NVIDIA DGX Spark™ 是一个用于本地自主智能体的完整平台。其大容量本地内存、强大的 AI 计算能力以及 NVIDIA AI 软件栈，使智能体和大型模型能够在本地运行，从而减少对云端 token 生成资源的依赖。凭借紧凑、节能高效的设计，DGX Spark 可在桌面端持续运行智能体工作负载。
SYSTEM SPECIFICATIONS
NVIDIA DGX Spark 规格
AI 算力1 PFLOPFP4 精度
高带宽统一内存128 GBLPDDR5x coherent unified memory
本地存储4 TBNVMe M.2，支持自加密
高速互联200 GbpsConnectX-7 Smart NIC
处理器20 核 Arm10 Cortex-X925 + 10 Cortex-A725
整机功耗240 W紧凑型桌面系统
连接能力Wi‑Fi、蓝牙、USB
ConnectX 高速互联NCCL、RDMA、GPUDirect
4 TB SSD
GB10 超级芯片
Blackwell GPU1 PFLOP FP4 AI 算力
Grace CPU20 核 Arm
高带宽统一内存128 GB 低功耗 LPDDR5X
连接能力Wi‑Fi、蓝牙、USB
ConnectX 高速互联NCCL、RDMA、GPUDirect
4 TB SSD本地存储
GB10 超级芯片核心计算单元
Blackwell GPU1 PFLOP FP4 AI 算力
Grace CPU20 核 Arm
高带宽统一内存128 GB 低功耗 LPDDR5X
规格依据 NVIDIA DGX Spark 官方产品页。实际可用容量和性能受模型、精度、上下文长度、驱动、框架与软件配置影响。
AI WORKLOADS
从原型开发到本地推理
大模型推理与测试
在单台系统上运行和测试最高 2000 亿参数模型，具体能力受精度、上下文长度和框架配置影响
模型微调
使用 LoRA 等方法在本地微调最高 700 亿参数模型，并通过量化降低模型占用
数据科学工作负载
通过 NVIDIA RAPIDS 加速数据处理、分析和机器学习流程
边缘应用开发
使用 NVIDIA AI 与 ConnectX-7 网络能力开发和验证边缘 AI 应用
NVIDIA AI SOFTWARE
从桌面开发环境衔接云端与数据中心
DGX OS 与基础软件
预装 NVIDIA DGX OS、驱动和系统级软件组件，形成开箱可用的 AI 开发环境
模型与推理服务
按项目需要配置 NVIDIA NIM、vLLM、TensorRT-LLM、容器镜像与模型服务接口
开发与数据工具
支持 CUDA、Jupyter、PyTorch、RAPIDS、AI Workbench 与常用开发工具链
扩展与数据中心衔接
在本地完成原型和模型验证后，可将工作负载迁移至 DGX Cloud、加速数据中心或其他云环境
2–4 SYSTEM DEPLOYMENT
按模型与团队使用方式组合多机环境
双机高速互联256 GB 总统一内存
通过 ConnectX-7 连接两台 DGX Spark，支持 405B 参数模型
用于单机内存不足的大模型推理和较大规模智能体工作负载
单机与双机组合资源池1+2 节点拓扑
一台承载独立开发、数据处理或轻量推理任务，另外两台按官方双机方式承载较大模型
属于 UNISOPC 项目实施拓扑，需按模型、软件和网络环境验证
双机资源池并行2+2 节点拓扑
将四台系统划分为两组双机环境，面向多个团队或多个模型服务并行使用
面向多团队协同与多模型并行，具体能力以项目验证结果为准
UNISOPC DELIVERY
从设备交付到模型服务上线
工作负载确认
确认模型规模、精度、上下文长度、并发量、数据边界、开发框架与应用接口
单机或资源池规划
按内存、算力、任务并发和团队使用方式确定 DGX Spark 数量及网络拓扑
系统与模型部署
完成 DGX OS、驱动、容器、模型、推理服务、开发环境和访问权限配置
联调、验收与交接
以目标模型和真实任务制定测试方法，完成业务接入、性能验证、备份与运维交接
本页所述部署、联调与验收属于 UNISOPC 实施交付服务；NVIDIA 产品支持、保修与官方产品政策以 NVIDIA 官方条款为准。