Welche Rechenleistung brauchen wir, um KI im eigenen Haus sinnvoll zu nutzen? Bewertung des vorgeschlagenen NVIDIA DGX Spark und seiner Alternativen – unter der Annahme, dass künftig mehrere Kollegen gleichzeitig damit arbeiten.
Die Richtung stimmt. Ein KI-Rechner im eigenen Haus löst unser Datenschutzproblem bei Gutachten, Netzplänen und Kundendaten. Bei kommunalen Auftraggebern ist Cloud-Nutzung vertraglich häufig ausgeschlossen.
Das Gerät passt nicht. Der DGX Spark hat viel Speicher, aber einen langsamen Zugang dazu. Für unseren Alltag liefert er Antworten im Schritttempo – bei mehreren Nutzern gleichzeitig noch langsamer. Für rund 1.700 € mehr gibt es die fünffache Geschwindigkeit.
Vorschlag: Drei Monate mieten statt sofort kaufen. Wir messen den echten Bedarf, binden kein Kapital und entscheiden danach fundiert – während die Hardwarepreise auf einem Rekordhoch stehen.
Offene KI-Modelle haben 2026 ein Niveau erreicht, auf dem sie im Ingenieurbüro echten Nutzen stiften: Normrecherche, Berichtsentwürfe, Protokolle, Auswertungen. Gleichzeitig verbieten immer mehr kommunale Auftraggeber die Verarbeitung ihrer Daten in US-Clouds.
Wer beides verbinden will – moderne KI und belastbarer Datenschutz –, muss die Modelle selbst betreiben. Die Frage ist nicht mehr ob, sondern auf welcher Hardware. Und genau da wird gerade viel Geld falsch investiert, weil die Datenblätter die entscheidende Kennzahl nicht nennen.
Bevor über Hardware geredet wird, muss der Bedarf stehen. Diese Aufgaben kommen bei uns realistisch in Frage – geordnet nach Anspruch.
KI-Modelle unterscheiden sich in ihrer Anzahl gelernter Parameter, angegeben in Milliarden („B"). Vereinfacht ist das ihre Berufserfahrung – und sie entscheidet, welche der Aufgaben von eben das Modell zuverlässig löst.
Die Zuordnung folgt gängigen Fachbenchmarks für Sprachverständnis und logisches Schließen. Der Sprung von 7B auf 14B bringt vor allem besseres Verständnis von Fachsprache; der Sprung auf 70B vor allem Verlässlichkeit bei mehrstufigen Schlussfolgerungen – also genau dort, wo ein Fehler im Gutachten teuer würde.
Wichtig: Größer ist nicht automatisch besser. Ein 70B-Modell für eine Terminbestätigung einzusetzen, ist Verschwendung. Die Praxis läuft auf einen Mix hinaus – kleines Modell für Routine, großes für die Fälle, die es rechtfertigen.
Jedes Modell muss vollständig in den Grafikspeicher passen. In Originalauflösung sprengt ein 70B-Modell jede bezahlbare Karte. Deshalb wird es verkleinert.
Die gängige Stufe heißt Q4 und behält etwa 96 % der Ausgangsqualität bei einem Drittel des Speicherbedarfs. In Blindvergleichen bei Textaufgaben ist der Unterschied für Anwender praktisch nicht erkennbar.
Noch stärkere Verkleinerung (Q2) halbiert den Bedarf abermals, kostet aber spürbar Zuverlässigkeit – das wäre die Bleistiftskizze statt der Werkstattzeichnung. Für uns nicht sinnvoll.
Umgekehrt lohnt die volle Auflösung nur beim Trainieren eigener Modelle, nicht beim Anwenden.
Für jedes einzelne Wort einer Antwort muss die Maschine das gesamte Modell einmal durch den Speicher lesen. Wie schnell das geht, nennt sich Speicherbandbreite – und steht in NVIDIAs Produktunterlagen zum Spark nicht auf der ersten Seite.
Das Forschungsteam LMSYS hat den Spark mit einem 70B-Modell getestet und 2,7 Wörter pro Sekunde bei einem einzelnen Nutzer gemessen. Andere Tests kommen je nach Modell und Software auf 3 bis 5.
Fairerweise: Bei einer Sonderbauart von Modellen („Mixture of Experts") erreicht der Spark 35 bis 50 Wörter pro Sekunde, weil dort pro Wort nur ein Bruchteil geladen werden muss. Er ist außerdem sehr schnell beim Einlesen langer Dokumente und die günstigste Möglichkeit, eigene Modelle zu trainieren.
Das sind reale Stärken – nur eben für Spezialaufgaben, nicht für den breiten Bürobetrieb, bei dem verschiedene Kollegen unterschiedliche Modelle zügig nutzen wollen.
Teilen sich Kollegen ein Gerät, verteilt sich das Tempo. Der Regler zeigt, was jeder Einzelne dann noch bekommt. Die gelbe Marke ist die Schwelle zum flüssigen Arbeiten.
Grundlage ist die Speicherbandbreite geteilt durch die Modellgröße, abzüglich eines Praxisabschlags für Verwaltungsaufwand. Moderne Serversoftware bündelt Anfragen, sodass die Gesamtleistung mit mehreren Nutzern steigt – aber der einzelne Nutzer bekommt entsprechend weniger.
Die Werte sind Größenordnungen, keine Garantien: Sie schwanken je nach Software, Länge der Anfragen und Modellwahl. Die Rangfolge zwischen den Geräten bleibt davon unberührt, weil sie aus einer physikalischen Größe folgt.
Preise deutscher Anbieter, geprüft am 21. August 2026. Jede Zeile ist über den Link tagesaktuell nachprüfbar – der Markt bewegt sich derzeit wöchentlich.
| Option | Speicher / Durchsatz | Preis | Mehrbenutzer |
|---|---|---|---|
| NVIDIA DGX Sparkder Vorschlag | 128 GB273 GB/s | 4.800 €NVIDIA Marketplace – derzeit nicht lieferbar | ungeeignet |
| RTX PRO 5000 BlackwellWorkstation-Karte | 48 GB1.344 GB/s | ab ca. 6.500 €Geizhals · lieferbar | 3–6 Nutzer |
| RTX PRO 6000 BlackwellAusbaustufe | 96 GB1.792 GB/s | ab 12.900 €Geizhals · stark verteuert | 6–12 Nutzer |
| Mietserver Hetzner GEX131Nürnberg / Falkenstein | 96 GB1.792 GB/s | 889 € / Monatnetto · rund 1.058 € brutto Hetzner · monatlich kündbar |
6–12 Nutzer |
Der weltweite KI-Ausbau hat eine Speicherknappheit ausgelöst. NVIDIA hat den Preis der RTX PRO 6000 seit Markteinführung dreimal angehoben – insgesamt um rund 87 %. Eine Karte, die im Frühjahr 2025 etwa 8.500 $ kostete, steht heute bei 16.000 $ im Herstellershop.
Wer heute kauft, zahlt einen Aufschlag, der nichts mit der Technik zu tun hat. Ein Mietvertrag ohne Mindestlaufzeit überbrückt diese Phase, ohne den Nutzen zu verzögern.
Drei Schritte, die uns handlungsfähig machen, ohne heute eine fünfstellige Summe zu binden.
Freigabe von rund 2.700 € netto (gut 3.200 € brutto) für drei Monate Mietbetrieb. Danach liegt eine belastbare Zahlenbasis für die Kaufentscheidung vor – statt einer Schätzung.
Sollte sich später herausstellen, dass wir eigene Modelle auf unsere Normen- und Netzdaten trainieren wollen, ist der Spark dafür das günstigste Gerät am Markt – Training stellt völlig andere Anforderungen als der laufende Betrieb.
Diese Vorlage spricht sich also nicht gegen das Gerät aus, sondern gegen seinen Einsatz als zentralen Bürorechner für mehrere Nutzer.