NVIDIA DGX Spark
NVIDIA DGX Spark bringt den GB10 Grace Blackwell Superchip, 128 GB Unified Memory und bis zu 1 PFLOP FP4 für lokale KI, LLMs und AI Agents auf den Desktop.
1 Ergebnisse
NVIDIA DGX Spark für lokale KI und AI Agents
NVIDIA DGX Spark ist ein kompakter KI-Computer für Entwickler, Forschende, Data Scientists und Unternehmen. Der NVIDIA GB10 Grace Blackwell Superchip, 128 GB gemeinsamer Systemspeicher und der vorinstallierte NVIDIA AI Software Stack ermöglichen die lokale Entwicklung und Ausführung von Large Language Models, autonomen AI Agents, Machine-Learning-Anwendungen und datenintensiven KI-Workflows.
Mit Abmessungen von nur 150 × 150 × 50,5 mm bringt NVIDIA die Grace-Blackwell-Plattform in ein kompaktes Desktop-System. DGX Spark kann direkt mit Monitor, Tastatur und Maus oder als netzwerkgebundener KI-Rechner über SSH, Remote Desktop und NVIDIA Sync verwendet werden.
Was ist NVIDIA DGX Spark?
NVIDIA DGX Spark ist eine vollständige Hardware- und Softwareplattform für die lokale KI-Entwicklung. Anders als ein gewöhnlicher Mini-PC kombiniert das System eine Blackwell-GPU, eine 20-Kern-Arm-CPU, 128 GB kohärenten Systemspeicher, schnelle Netzwerktechnik und ein auf KI-Workloads ausgelegtes Betriebssystem.
Dadurch kannst du KI-Modelle lokal testen, validieren, optimieren und ausführen, bevor du sie bei Bedarf in eine größere Workstation, ein Rechenzentrum oder eine Cloud-Infrastruktur überführst. Sensible Daten können dabei innerhalb der eigenen Arbeitsumgebung bleiben.
Für wen eignet sich NVIDIA DGX Spark?
DGX Spark richtet sich an Anwender, die moderne KI-Anwendungen lokal entwickeln oder testen möchten, ohne für jeden Arbeitsschritt Cloud-Ressourcen buchen zu müssen. Die folgende Übersicht zeigt typische Einsatzbereiche.
| Einsatzgebiet | Typische Aufgaben mit DGX Spark |
|---|---|
| Lokale LLMs | Sprachmodelle lokal laden, testen, vergleichen und für eigene Anwendungen bereitstellen |
| AI Agents | Autonome und mehrstufige KI-Agenten entwickeln, validieren und dauerhaft lokal ausführen |
| Fine-Tuning | Vortrainierte Modelle mit eigenen Daten und Verfahren wie LoRA oder QLoRA anpassen |
| Data Science | Daten analysieren, Machine-Learning-Modelle trainieren und GPU-beschleunigte Pipelines entwickeln |
| Computer Vision | Bild- und Videodaten verarbeiten sowie Erkennungs-, Analyse- und Inferenzmodelle testen |
| Robotik & Edge-KI | Anwendungen mit NVIDIA Isaac, Metropolis, Holoscan und weiteren Edge-Frameworks entwickeln |
| Forschung & Lehre | KI-Modelle und Entwicklungsumgebungen für Labore, Universitäten und Lernprojekte lokal bereitstellen |
Die wichtigsten Vorteile von NVIDIA DGX Spark
GB10 Grace Blackwell Superchip
Der NVIDIA GB10 kombiniert eine Blackwell-GPU mit einer leistungsstarken 20-Kern-Arm-CPU. Tensor Cores der fünften Generation ermöglichen bis zu 1 PFLOP FP4-KI-Leistung bei theoretischer Berechnung mit Sparsity.
128 GB Unified Memory
CPU und GPU greifen auf einen gemeinsamen Pool aus 128 GB LPDDR5x-Speicher zu. Dadurch lassen sich größere Modelle laden, als es mit dem separaten VRAM vieler klassischer Desktop-Grafikkarten möglich wäre.
Vorinstallierter AI Software Stack
NVIDIA DGX OS, CUDA, Entwicklungsbibliotheken, Container-Unterstützung und der Zugang zu NVIDIA NGC und NVIDIA NIM bilden eine aufeinander abgestimmte Umgebung für KI-Entwicklung und Inferenz.
Kompaktes Desktop-System
DGX Spark benötigt nur wenig Platz und kann direkt am Arbeitsplatz oder als Netzwerksystem betrieben werden. Das externe Netzteil stellt bis zu 240 Watt bereit, während der GB10-Superchip mit 140 Watt TDP angegeben ist.
NVIDIA DGX Spark – technische Daten
| Eigenschaft | NVIDIA DGX Spark |
|---|---|
| Architektur | NVIDIA Grace Blackwell |
| Superchip | NVIDIA GB10 Grace Blackwell |
| GPU | NVIDIA Blackwell mit Tensor Cores der 5. Generation |
| CPU | 20-Core Arm, 10× Cortex-X925 und 10× Cortex-A725 |
| KI-Leistung | Bis zu 1 PFLOP FP4, theoretisch mit Sparsity |
| Systemspeicher | 128 GB LPDDR5x Unified Memory |
| Speicherbandbreite | 273 GB/s |
| Datenspeicher | 4 TB selbstverschlüsselnde NVMe-M.2-SSD |
| Netzwerk | 10-Gigabit-Ethernet, ConnectX-7 mit bis zu 200 Gbit/s und WLAN 7 |
| USB | 4× USB Typ C |
| Bildausgabe | 1× HDMI 2.1a und bis zu 3× DisplayPort über USB-C |
| Betriebssystem | NVIDIA DGX OS |
| Abmessungen | 150 × 150 × 50,5 mm |
| Gewicht | 1,2 kg |
| Netzteil | 240 Watt, extern |
Was bedeuten 128 GB Unified Memory?
Bei einem klassischen PC besitzen Prozessor und Grafikkarte normalerweise getrennten Arbeitsspeicher. NVIDIA DGX Spark verwendet dagegen einen gemeinsamen, kohärenten Speicherpool. CPU und GPU können dadurch auf dieselben Daten zugreifen, ohne sie permanent zwischen RAM und Grafikspeicher kopieren zu müssen.
Die 128 GB Unified Memory ermöglichen es, große Sprach-, Vision- und Multimodal-Modelle lokal zu laden. Die reine Parameterzahl entscheidet jedoch nicht allein darüber, ob ein Modell vollständig in den Speicher passt. Auch Präzision, Quantisierung, Kontextlänge, KV-Cache und die verwendete Software benötigen Speicher.
Eine hohe Speicherkapazität bedeutet außerdem nicht automatisch eine entsprechend hohe Verarbeitungsgeschwindigkeit. Der benötigte Durchsatz hängt vom Modell, der Quantisierung, der Eingabelänge und dem jeweiligen Framework ab.
Wie große KI-Modelle kann DGX Spark ausführen?
Nach Angaben von NVIDIA kann ein einzelner DGX Spark KI-Modelle mit bis zu 200 Milliarden Parametern für Inferenz, Tests und Validierung verarbeiten. Für das Fine-Tuning nennt NVIDIA Modelle mit bis zu 70 Milliarden Parametern.
Diese Werte setzen eine geeignete Modellarchitektur, Präzision und Softwarekonfiguration voraus. Stark quantisierte Modelle benötigen weniger Speicher als Modelle mit FP16- oder FP32-Gewichten. Gleichzeitig steigt der Speicherbedarf bei langen Kontextfenstern und mehreren gleichzeitigen Nutzern.
| Konfiguration | Von NVIDIA genannter Einsatz | Typisches Szenario |
|---|---|---|
| Ein NVIDIA DGX Spark | Modelle mit bis zu 200 Milliarden Parametern | Lokale Inferenz, Entwicklung, Prototyping, Data Science und Fine-Tuning |
| Zwei verbundene DGX Spark | Modelle mit bis zu 405 Milliarden Parametern | Verteilte Inferenz und größere Modelle über eine schnelle ConnectX-7-Verbindung |
Zwei NVIDIA DGX Spark miteinander verbinden
Über NVIDIA ConnectX-7 können zwei DGX-Spark-Systeme direkt miteinander verbunden werden. Das schnelle Netzwerk ermöglicht verteilte KI-Workloads, bei denen Berechnungen und Modelldaten auf mehrere Systeme aufgeteilt werden.
NVIDIA nennt für eine Konfiguration aus zwei DGX Spark die Arbeit mit Modellen mit bis zu 405 Milliarden Parametern. Voraussetzung sind unterstützte Frameworks, eine geeignete Verteilung des Modells und eine kompatible ConnectX-Verbindung.
Für die Verbindung werden passende Netzwerkkomponenten und Kabel benötigt. Auch die verwendete Software muss verteilte Berechnungen über NCCL, MPI oder ein anderes unterstütztes Verfahren ermöglichen.
NVIDIA DGX Spark Software
NVIDIA DGX OS
DGX Spark wird mit NVIDIA DGX OS ausgeliefert. Das Betriebssystem basiert auf Ubuntu und enthält die erforderlichen Treiber, Bibliotheken und Werkzeuge für KI-, Machine-Learning- und Data-Science-Workloads.
CUDA und KI-Frameworks
Der NVIDIA Software Stack unterstützt unter anderem CUDA, cuDNN, TensorRT-LLM, PyTorch und weitere Blackwell-optimierte Frameworks für Training, Fine-Tuning und Inferenz.
Container und NVIDIA NGC
Docker und die NVIDIA Container Runtime erleichtern den Aufbau reproduzierbarer Entwicklungsumgebungen. Über NVIDIA NGC stehen optimierte Container, Modelle und weitere KI-Ressourcen zur Verfügung.
NVIDIA NIM und JupyterLab
NVIDIA NIM stellt optimierte Inferenz-Microservices bereit. Über das DGX Dashboard und das integrierte JupyterLab können Modelle, Notebooks und Datenanalyse-Workflows direkt im Browser bearbeitet werden.
Wichtig: DGX Spark verwendet eine Arm64-CPU
Der integrierte Grace-Prozessor basiert auf der Arm64-Architektur und nicht auf dem bei klassischen Desktop-PCs verbreiteten x86-64-Befehlssatz. Moderne KI-Frameworks und die von NVIDIA bereitgestellten Container sind für DGX Spark angepasst.
Eigene Anwendungen, Abhängigkeiten oder Container müssen Arm64 jedoch ebenfalls unterstützen. Reine x86-64-Programme lassen sich nicht in jedem Fall unverändert verwenden und müssen möglicherweise neu kompiliert, angepasst oder durch eine kompatible Alternative ersetzt werden.
NVIDIA DGX Spark oder klassische KI-Workstation?
DGX Spark und eine selbst konfigurierte KI-Workstation verfolgen unterschiedliche Ansätze. DGX Spark bietet eine kompakte, abgestimmte Komplettplattform mit großem Unified Memory und vorinstallierter Software. Eine klassische Workstation lässt sich dagegen stärker an individuelle Hardware-Anforderungen anpassen.
| Eigenschaft | NVIDIA DGX Spark | Klassische KI-Workstation |
|---|---|---|
| Speicher | 128 GB gemeinsamer CPU- und GPU-Speicher | Getrennter Arbeitsspeicher und Grafikspeicher |
| Platzbedarf | Sehr kompaktes Desktop-System | Abhängig von Gehäuse und Hardware meist deutlich größer |
| Erweiterbarkeit | Integrierte Plattform mit festem CPU-, GPU- und Speicheraufbau | Grafikkarten, RAM, Speicher und weitere Komponenten austauschbar |
| Softwareplattform | Vorinstalliertes DGX OS und NVIDIA AI Software Stack | Betriebssystem und Entwicklungsumgebung müssen selbst eingerichtet werden |
| CPU-Architektur | Arm64 | In der Regel x86-64 |
| Typischer Einsatz | Lokale Modelle, AI Agents, Entwicklung, Forschung und Inferenz | Anpassbare Multi-GPU-Systeme, Rendering, KI und gemischte professionelle Workloads |
Lokale KI oder Cloud?
Mit NVIDIA DGX Spark lassen sich viele Entwicklungs-, Test- und Inferenzaufgaben lokal ausführen. Dadurch werden Modelldaten, Prompts und interne Dokumente nicht für jeden Verarbeitungsschritt an einen externen Cloud-Dienst übertragen.
Eine lokale Plattform kann außerdem laufende Cloud-Kosten für häufig wiederkehrende Entwicklungs- und Inferenzaufgaben reduzieren. Stromverbrauch, Hardwareanschaffung, Verwaltung, Datensicherung und Wartung bleiben dafür in der eigenen Verantwortung.
Für besonders umfangreiches Training oder stark schwankende Lasten kann weiterhin eine größere Workstation, DGX Cloud oder Rechenzentrumsinfrastruktur sinnvoll sein. DGX Spark eignet sich unter anderem dazu, Projekte lokal vorzubereiten und später auf größere NVIDIA-Plattformen zu übertragen.
Worauf sollte ich beim Kauf von NVIDIA DGX Spark achten?
Modellgröße und Workload
Prüfe, wie viel Speicher dein gewünschtes Modell mit der vorgesehenen Quantisierung und Kontextlänge benötigt. Neben den Modellgewichten müssen auch KV-Cache, Anwendungen und das Betriebssystem in den 128 GB Speicher Platz finden.
Arm64-Kompatibilität
Vergewissere dich, dass deine Frameworks, Container, Python-Pakete und eigenen Anwendungen Arm64 unterstützen. Für ältere oder stark angepasste x86-Software kann zusätzlicher Portierungsaufwand entstehen.
Lokaler Speicher
Die integrierten 4 TB Speicher bietet Platz für Modelle, Container und Datensätze. Umfangreiche Modellbibliotheken, Trainingsdaten und Checkpoints können zusätzlichen Netzwerk- oder USB-Speicher erforderlich machen.
Netzwerk und Skalierung
Für zentrale Datenspeicher und die Verbindung mehrerer Systeme stehen 10-Gigabit-Ethernet und ConnectX-7 zur Verfügung. Für eine direkte Hochgeschwindigkeitsverbindung werden geeignete ConnectX-Kabel oder Netzwerkkomponenten benötigt.
NVIDIA DGX Spark anschließen und verwenden
DGX Spark kann wie ein kompakter Desktop-Computer mit einem Monitor über HDMI oder DisplayPort, einer Tastatur und einer Maus verwendet werden. Alternativ lässt sich das System ohne eigenen Bildschirm über das Netzwerk betreiben.
Vier USB-C-Anschlüsse stehen für Displays, Eingabegeräte, externe Datenträger und weiteres Zubehör zur Verfügung. Für die Netzwerkanbindung bietet das System 10-Gigabit-Ethernet, WLAN 7 und die leistungsstarke ConnectX-7-Schnittstelle.
Verwende für die vollständige Leistung das mitgelieferte 240-Watt-Netzteil und stelle das System an einen gut belüfteten Ort. Die Lüftungsöffnungen dürfen nicht durch Gegenstände oder andere übereinandergestellte Geräte blockiert werden.
Entdecke auch unsere KI-PCs und KI-Workstations, NVIDIA RTX PRO Grafikkarten und professionellen Workstations für lokale KI.
FAQ – NVIDIA DGX Spark
Was ist NVIDIA DGX Spark?
NVIDIA DGX Spark ist ein kompakter KI-Computer mit GB10 Grace Blackwell Superchip, 128 GB Unified Memory und einem vorinstallierten NVIDIA AI Software Stack. Das System ist für lokale KI-Entwicklung, Inferenz, Fine-Tuning und Data Science ausgelegt.
Welche KI-Modelle kann NVIDIA DGX Spark ausführen?
NVIDIA nennt für einen einzelnen DGX Spark Modelle mit bis zu 200 Milliarden Parametern. Die tatsächliche Unterstützung hängt von Modellarchitektur, Quantisierung, Kontextlänge, Speicherbedarf und verwendeter Software ab.
Kann ich mit DGX Spark ein LLM feinabstimmen?
Ja. NVIDIA gibt Fine-Tuning für Modelle mit bis zu 70 Milliarden Parametern an. Verfahren wie LoRA und QLoRA können den benötigten Speicher gegenüber einem vollständigen Training reduzieren.
Kann ich zwei NVIDIA DGX Spark verbinden?
Ja. Zwei Systeme können über NVIDIA ConnectX-7 für verteilte KI-Workloads verbunden werden. NVIDIA nennt für eine solche Konfiguration Modelle mit bis zu 405 Milliarden Parametern.
Welches Betriebssystem verwendet DGX Spark?
Das System verwendet NVIDIA DGX OS, das auf Ubuntu basiert und mit NVIDIA-Treibern, CUDA, Entwicklungswerkzeugen und Unterstützung für Container und KI-Frameworks ausgeliefert wird.
Läuft x86-Software auf NVIDIA DGX Spark?
DGX Spark verwendet eine Arm64-CPU. Software und Container müssen daher Arm64 unterstützen oder entsprechend angepasst werden. Reine x86-64-Anwendungen können nicht grundsätzlich unverändert ausgeführt werden.
Kann ich NVIDIA DGX Spark ohne Monitor verwenden?
Ja. Das System kann lokal mit Monitor und Eingabegeräten oder headless über das Netzwerk verwendet werden. Für den Fernzugriff stehen unter anderem SSH, Remote-Desktop-Lösungen und NVIDIA Sync zur Verfügung.
Ist NVIDIA DGX Spark ein Gaming-PC?
Nein. Obwohl das System eine Blackwell-GPU und Display-Ausgänge besitzt, ist DGX Spark auf KI-Entwicklung, Machine Learning und Data Science ausgerichtet. Für Gaming sind GeForce-basierte PCs die passendere Wahl.