NVIDIA DGX Spark | Mini-PC | 128 GB Unified Memory

NVIDIA DGX Spark Founders Edition – der kompakte KI-Supercomputer für Entwickler und Forscher Der NVIDIA DGX Spark Founders Edition ist ein Mini-PC, der die Rechenleistung einer KI-Workstation in ein 1,2 kg schweres, 15 × 15 × 5 cm großes Gehäuse packt. Konzipiert für KI-Entwickler, Data Scientists, Forscher und Teams, die große Sprachmodelle (LLMs) und generative KI-Workloads lokal betreiben wollen, ist er das kompakteste Gerät in NVIDIAs DGX-Linie – einer Produktfamilie, die sonst aus mehrere hundert Kilogramm schweren Rechenzentrumsschränken besteht. Die drei entscheidenden Alleinstellungsmerkmale: 1.000 TFLOPS KI-Rechenleistung durch den NVIDIA Blackwell Tensor Core GPU, 128 GB einheitlicher LPDDR5X-Speicher als Unified Memory sowie das NVIDIA DGX OS als vorinstallierte, entwickleroptimierte Softwareumgebung auf Ubuntu-Basis. Dieses Gerät richtet sich nicht an Office-Nutzer – es ist ein spezialisiertes KI-Compute-Werkzeug für Profis. Leistung & Prozessor: GB10 Superchip und Blackwell-GPU Das Herzstück des DGX Spark ist der NVIDIA GB10 Grace Blackwell Superchip – ein System-on-Chip, das CPU- und GPU-Ressourcen in einer einzigen Einheit vereint. Auf CPU-Seite kommen zwei ARM-Prozessorkomplexe mit insgesamt 20 Kernen zum Einsatz: Cortex-A725-Kerne für effizienzorientierte Aufgaben und ein leistungsstarker Cortex-X925-Kern für rechenintensive Single-Thread-Workloads. Diese Hybrid-Architektur ist aus der mobilen ARM-Welt bekannt, trifft hier aber auf einen gänzlich anderen Anwendungskontext: statt Office-Apps auf dem Schreibtisch werden hier Inference-Pipelines, Modell-Training und komplexe Datenverarbeitungs-Workflows betrieben. Die GPU-Seite ist das eigentliche Alleinstellungsmerkmal: Die eingebettete NVIDIA Blackwell Tensor Core GPU liefert laut Hersteller 1.000 TFLOPS KI-Rechenleistung. Diese Zahl bezieht sich auf Tensor-Operationen – also die Matrix-Multiplikationen, die für das Training und die Inferenz neuronaler Netze maßgeblich sind. Zur Einordnung: Aktuelle Consumer-GPUs der GeForce RTX 4090-Klasse liegen bei deutlich geringeren KI-FLOPS. Der Blackwell-Chip bringt die neueste Tensor-Core-Generation mit – dieselbe Architektur, die in NVIDIAs professionellen Rechenzentrumskomponenten wie dem B100 eingesetzt wird, hier jedoch als kompakter, energieeffizienter Embedded-Chip. Was bedeutet das praktisch? Entwickler können auf dem DGX Spark große Sprachmodelle mit mehreren Milliarden Parametern lokal betreiben – ohne Cloud-Anbindung, ohne Datenübertragung an externe Server, ohne laufende API-Kosten. Modelle wie LLaMA 3, Mistral oder ähnliche Open-Source-LLMs, die für 128 GB Unified Memory ausgelegt sind, lassen sich direkt auf dem Gerät inferieren. Auch Multi-modale Modelle für Bild- und Textverarbeitung kommen in Betracht, soweit sie in den verfügbaren Speicher passen. Der Unified Memory: Warum 128 GB LPDDR5X hier anders wirken als bei einem Laptop Der 128 GB LPDDR5X-Arbeitsspeicher ist in dieser Konfiguration als einheitlicher Speicher (Unified Memory) implementiert – ein Konzept, das bei ARM-basierten Systemen mit integrierter GPU fundamental wichtig ist. Im Gegensatz zu klassischen PC-Architekturen, bei denen CPU-RAM und GPU-VRAM getrennte Speicherpools mit eigenem Speicherbus sind, teilen sich CPU und GPU hier denselben physischen Speicher. Das bedeutet: Die GPU-Tensor-Kerne greifen direkt auf den gesamten 128-GB-Pool zu, ohne dass Daten zwischen CPU- und GPU-Speicher kopiert werden müssen. Diese Kopieroperationen (Memory Bandwidth Overhead) sind bei klassischen Workstations oft ein erheblicher Flaschenhals für KI-Workloads. Für KI-Anwendungen ist das entscheidend: Ein Sprachmodell mit 70 Milliarden Parametern belegt in INT8-Quantisierung etwa 70 GB – und liegt damit problemlos im adressierbaren Speicherbereich. Ein gleichwertiger Desktop-PC mit einer GPU mit 24 GB VRAM könnte dieses Modell schlicht nicht laden. Der LPDDR5X-Standard liefert dabei eine hohe Speicherbandbreite bei vergleichsweise niedrigem Energieverbrauch, was zur kompakten Bauform und dem 240-W-Netzteil des Geräts beiträgt. Wichtiger Hinweis zur Aufrüstbarkeit: Bei einem Unified-Memory-System auf Basis eines integrierten SoC ist der Speicher fest mit dem Chip verbunden und nicht nachrüstbar. Wer den DGX Spark kauft, legt sich auf die 128-GB-Konfiguration fest. Das ist bei diesem Produkttyp systembedingt und kein Konstruktionsmangel – sondern der Preis für die extreme Miniaturisierung und Bandbreite. Speicher: 4 TB NVMe SSD mit Self-Encrypting Drive Für lokale KI-Workloads ist nicht nur Rechenleistung, sondern auch Speicherkapazität ein kritischer Faktor: Modell-Gewichte, Trainingsdatensätze und Embeddings können schnell mehrere Terabyte belegen. Der DGX Spark kommt mit einer 4-TB-M.2-NVMe-SSD – ein großzügig dimensionierter Massenspeicher für ein Gerät dieser Bauform. Entscheidend ist dabei das Merkmal selbstverschlüsselnd (Self-Encrypting Drive) : Die SSD implementiert Hardware-basierte Verschlüsselung direkt im Controller, ohne CPU-Last. Das ist für den Einsatz in Forschungsumgebungen und Unternehmen relevant, wo Modell-Gewichte, proprietäre Datensätze oder personenbezogene Trainingsdaten gegen unbefugten physischen Zugriff geschützt sein müssen. Die NVMe-Schnittstelle über M.2 stellt sicher, dass die SSD mit hoher sequenzieller Lese- und Schreibgeschwindigkeit arbeitet – notwendig, wenn große Modell-Checkpoint-Dateien oder umfangreiche Embedding-Datenbanken beim Start geladen werden. Konkrete PCIe-Generationsangaben liegen uns aus den Produktdaten nicht vor; hierzu empfehlen wir die offizielle NVIDIA-Dokumentation zu konsultieren. Konnektivität: Mellanox ConnectX-7 und Wi-Fi 7 Der Netzwerkausstattung des DGX Spark merkt man seine Herkunft aus dem Rechenzentrumsumfeld an. Der verbaute Mellanox ConnectX-7 -Controller – eine Technologie, die NVIDIA durch die Akquisition von Mellanox in seine Produktlinie integriert hat – bietet eine 10-Gigabit-Ethernet-Verbindung über RJ-45. Das ist für einen Mini-PC außergewöhnlich: Während Consumer-Geräte maximal 2,5 GbE bieten, ermöglicht der 10-GbE-Port Datenübertragungen mit bis zu 10 Gbit/s – relevant für Teams, die Trainingsdaten von einem NAS oder einem Netzwerk-Storage-System streamen, oder für Entwickler, die den DGX Spark als lokalen Inferenz-Server im LAN betreiben, auf den mehrere Clients gleichzeitig zugreifen. Zusätzlich zu Ethernet bringt das Gerät eine vollwertige WLAN-Ausstattung mit: Wi-Fi 7 (IEEE 802.11be) ist der aktuelle Wireless-Standard mit gesteigerter Bandbreite und reduzierter Latenz gegenüber Wi-Fi 6E. Für KI-Workloads, bei denen Daten regelmäßig mit Cloud-Diensten synchronisiert werden oder Remote-Jupyter-Sessions über das Netzwerk betrieben werden, ist eine stabile und schnelle WLAN-Verbindung ein echter Vorteil. Bluetooth 5.3 LE rundet die Konnektivität für Peripheriegeräte ab. An physischen Anschlüssen stehen zur Verfügung: 4 × USB-C – für Peripheriegeräte, externe Displays und Datentransfer 1 × HDMI – für die direkte Verbindung mit einem Monitor oder Display 1 × 10GbE RJ-45 – für Hochgeschwindigkeits-Ethernet über den Mellanox ConnectX-7 Ein Display ist im Lieferumfang nicht enthalten – der DGX Spark ist primär als Compute-Knoten konzipiert, der über ein angeschlossenes Gerät, SSH oder Remote-Desktop bedient wird. Die HDMI-Ausgabe ermöglicht bei Bedarf den direkten Betrieb mit einem Monitor für lokale Entwicklungsarbeit. Hinweis zu Thunderbolt: Die Produktdaten nennen USB-C-Ports, machen jedoch keine explizite Angabe zu Thunderbolt 4 oder USB4. Wer spezifische Thunderbolt-Funktionalität wie den Anschluss einer externen GPU oder eines Thunderbolt-Docks benötigt, sollte die offizielle NVIDIA-Spezifikation konsultieren, bevor er entsprechendes Zubehör plant. Form & Design: 1,2 kg, 15 × 15 cm – Rechenzentrum im Handgepäck Mit Abmessungen von 150 × 150 × 50,5 mm und einem Gewicht von 1,2 kg ist der DGX Spark bemerkenswert kompakt für ein Gerät dieser Rechenklasse. Zum Vergleich: Ein typischer KI-Entwickler-Tower-PC mit vergleichbarer GPU-Leistung würde ein vielfaches an Volumen und Gewicht auf die Waage bringen – ganz abgesehen von den benötigten Server-Racks für vergleichbare Rechenzentrumskapazitäten. Das Gehäuse ist in der charakteristischen Goldfarbe der Founders Edition gehalten – eine bewusste Designentscheidung, die den DGX Spark von der ohnehin schon außergewöhnlichen Produktlinie abhebt. Die kompakte Bauform ermöglicht den Betrieb auf dem Schreibtisch, in einem kleinen Serverschrank oder direkt beim Kunden vor Ort für Demo-Setups und Edge-Deployments. Die Stromversorgung erfolgt über ein 240-W-Netzteil – für ein Desktop-KI-System moderat, für ein Gerät dieser Größe beachtlich. Angaben zur Geräuschentwicklung oder konkreten Kühlstrategie liegen uns aus den Produktdaten nicht vor. Betriebssystem: NVIDIA DGX OS auf Ubuntu-Basis Vorinstalliert ist das NVIDIA DGX OS , eine auf Ubuntu basierende Linux-Distribution, die NVIDIA speziell für seine DGX-Hardware optimiert hat. Dieses Betriebssystem bringt den entscheidenden Vorteil mit, dass CUDA, cuDNN, NCCL und die gesamte NVIDIA-AI-Enterprise-Software-Stack bereits konfiguriert und getestet sind. Entwickler müssen keine Treiber manuell installieren oder Kompatibilitätsprobleme zwischen Betriebssystem, Treiber und Framework lösen – ein in der Praxis unterschätzter Zeitvorteil, der gerade in Forschungs- und Produktionsteams erheblich ist. Der Produkttyp wird in den Herstellerangaben auch als "Arbeitsstation" klassifiziert – eine Einordnung, die den Anspruch unterstreicht: kein Consumer-Gerät, sondern ein professionelles Compute-Werkzeug mit entsprechenden Softwarevoraussetzungen. Das DGX OS liefert Zugang zu NVIDIAs Container-Registry (NGC), über die vortrainierte Modelle, Frameworks wie PyTorch und TensorFlow sowie optimierte Inferenz-Engines direkt als Container bezogen werden können. Ideal für diese Einsatzbereiche Lokale LLM-Inferenz und KI-Entwicklung: Mit 1.000 TFLOPS Blackwell Tensor Core-Leistung und 128 GB Unified Memory können große Sprachmodelle lokal betrieben werden – ohne Cloud-Abhängigkeit. Entwickler behalten volle Datenkontrolle, eliminieren API-Latenz und senken langfristig Betriebskosten gegenüber Cloud-Inferenz-Diensten. Forschung und Prototyping mit neuronalen Netzen: Die DGX-Plattform mit NVIDIA DGX OS und direktem NGC-Zugang erlaubt es Forschungsteams, neue Modellarchitekturen schnell zu testen. Die 4-TB-SSD bietet ausreichend Platz für Trainingsdaten, Checkpoints und Experimente. Edge-KI-Deployment und On-Premises-Szenarien: Unternehmen, die KI-Inferenz aus Datenschutz-, Compliance- oder Latenzgründen nicht in die Cloud auslagern können oder wollen, erhalten mit dem DGX Spark einen kompakten, selbstverschlüsselnden Compute-Knoten, der auch in kleineren IT-Infrastrukturen betreibbar ist. KI-gestützte Datenanalyse und RAG-Systeme: Retrieval-Augmented-Generation-Architekturen, bei denen ein LLM mit lokalen Dokumenten und Wissensdatenbanken angereichert wird, profitieren von der hohen Unified-Memory-Kapazität und dem schnellen 10-GbE-Netzwerkanschluss für die Anbindung an externe Storage-Systeme. Universitäre und Forschungsinstituts-Infrastruktur: Der DGX Spark lässt sich als eigenständiger Compute-Knoten oder als Teil eines kleinen Clusters betreiben. Der Mellanox ConnectX-7 mit 10-GbE-Unterstützung ist auf Netzwerke ausgelegt, die schnelle Peer-to-Peer-Kommunikation zwischen Compute-Knoten erfordern. Was der DGX Spark nicht ist: Kein Gerät für Office-Workflows, keine Gaming-Workstation, kein klassischer Desktop-PC für Endanwender. Ohne vorinstalliertes Windows, ohne dedizierte Consumer-GPU für Gaming und ohne Display im Lieferumfang richtet sich dieses System ausschließlich an technisch versierte Nutzer mit klar definierten KI-Compute-Anforderungen. Häufige Fragen zum NVIDIA DGX Spark Founders Edition Kann ich auf dem DGX Spark große Sprachmodelle wie LLaMA lokal betreiben? Ja – genau dafür ist das Gerät konzipiert. Mit 128 GB Unified Memory, der GPU und CPU gemeinsam zur Verfügung steht, und 1.000 TFLOPS Blackwell Tensor Core-Leistung ist der DGX Spark in der Lage, Sprachmodelle mit tens of Milliarden Parametern zu inferieren, sofern diese in den Speicherbereich passen. Konkrete Modell-Kompatibilitäten und Quantisierungsstrategien sind in der NVIDIA NGC-Dokumentation und den entsprechenden Modell-Cards beschrieben. Ist der Arbeitsspeicher aufrüstbar oder erweiterbar? Nein. Der Speicher ist beim DGX Spark als Unified Memory direkt in den GB10-Superchip integriert und damit nicht nachrüstbar. Dies ist systembedingt: Die extrem hohe Speicherbandbreite des LPDDR5X Unified Memory ist nur durch die direkte Integration in den SoC realisierbar. Wer mehr als 128 GB benötigt, müsste zu größeren DGX-Systemen wechseln. Welches Betriebssystem ist vorinstalliert und kann ich Windows installieren? Vorinstalliert ist das NVIDIA DGX OS , eine auf Ubuntu basierende Linux-Distribution, die für die DGX-Hardware optimiert ist. Sie enthält den vollständigen NVIDIA CUDA/cuDNN-Stack und ermöglicht direkten Zugang zur NGC-Container-Registry. Ob Windows auf dem ARM-basierten GB10-System installierbar ist, geht aus den vorliegenden Produktdaten nicht hervor – hierzu empfehlen wir, NVIDIAs offizielle Dokumentation zu konsultieren. Welche Monitore und Displays kann ich anschließen? Der DGX Spark verfügt über einen HDMI-Ausgang sowie 4 USB-C-Ports , über die bei entsprechender Unterstützung ebenfalls Displays angeschlossen werden können. Kein Monitor ist im Lieferumfang enthalten. Da viele Anwender das Gerät über SSH, Remote-Desktop oder Jupyter-Notebooks über das Netzwerk bedienen, ist ein lokales Display optional. Für Displayport-Monitore wird ein entsprechender Adapter benötigt. Ist die SSD verschlüsselt und eignet sich das Gerät für datenschutzsensible Anwendungen? Ja – die verbaute 4-TB-NVMe-SSD ist als Self-Encrypting Drive (SED) ausgeführt. Die Hardware-Verschlüsselung erfolgt direkt im SSD-Controller ohne CPU-Overhead. Das ist ein wichtiges Merkmal für Einsatzbereiche, in denen proprietäre Modell-Gewichte, Forschungsdaten oder personenbezogene Trainingsdaten auf dem Gerät gespeichert werden und gegen physischen Zugriff geschützt sein müssen. Für spezifische Compliance-Anforderungen (z.B. DSGVO, ISO 27001) sollten die konkreten Verschlüsselungsstandards mit der IT-Compliance abgeglichen werden. Kann der DGX Spark als Netzwerk-Inferenz-Server für mehrere Nutzer gleichzeitig betrieben werden? Der integrierte Mellanox ConnectX-7 mit 10-Gigabit-Ethernet macht den DGX Spark grundsätzlich für den Betrieb als lokalen Inferenz-Server geeignet, auf den mehrere Clients im LAN gleichzeitig zugreifen können. Das DGX OS unterstützt Container-basierte Deployments über NGC, was typische Inferenz-Server-Frameworks wie NVIDIA Triton Inference Server ermöglicht. Die konkrete Skalierbarkeit bei Multi-User-Betrieb hängt von der Modellgröße, der Anfragelast und der Konfiguration ab – hierzu liegen uns keine Herstellerangaben zu Benchmark-Werten vor.