Table of Contents
Welcher Computer für KI? Das hängt vom Einsatzbereich und von der Modellgrösse ab: Für Büroanwendungen genügt in der Regel ein Laptop oder AI-PC mit NPU, für die lokale Ausführung grösserer Modelle wird eine Workstation oder ein KI-Desktop-Supercomputer benötigt, und für das Training von Modellen von Grund auf braucht es einen GPU-Server oder die Cloud. Dieser Leitfaden richtet sich an Unternehmen, IT-Teams, KMU und öffentliche Einrichtungen, die den Einsatz von KI planen.
Hier finden Sie vier Computerklassen für die KI-Arbeit, ihre tatsächlichen Grenzen, zentrale Parameter wie Speicher und Bandbreite sowie eine Tabelle, die den Ressourcenbedarf für konkrete Einsatzszenarien zeigt. Die Entscheidung ist wichtig: Ein passend ausgewählter Computer ermöglicht den Betrieb von Sprachmodellen mit lokalen Ressourcen, schützt die Datenprivatsphäre und nutzt die verfügbare Rechenleistung flexibel und effizient.
Laut einem Bericht von Eurostat nutzten im Jahr 2025 20% der Unternehmen in der Europäischen Union KI-Technologien. Zwei Jahre zuvor waren es 8%. Bei Grossunternehmen liegt der Anteil bereits bei 55%, bei kleinen Unternehmen bei 17%. Die Akzeptanz beschleunigt sich, jedoch unterschiedlich stark, und immer mehr Teams stehen genau jetzt vor der Frage nach der passenden Hardware.
Wofür soll dieser Computer eingesetzt werden?
Definieren Sie das Einsatzszenario, bevor Sie sich die technischen Daten ansehen. Es entscheidet über die Wahl, nicht die Spezifikationen allein. Der beste KI-Computer ist derjenige, dessen Konfiguration und Budget zu den konkreten Einsatzbereichen künstlicher Intelligenz passen.
- KI-Unterstützung im Arbeitsalltag. Transkription von Besprechungen, Erstellung und Bearbeitung von Texten, ein im Betriebssystem integrierter Assistent, Filter für Videokonferenzen. Die Modelle laufen in der Cloud oder lokal, sind jedoch klein und beanspruchen die Hardware kaum.
- Fertige Modelle lokal ausführen. Ein Unternehmen lädt ein Open-Source-Modell herunter und nutzt es intern: für die Dokumentenanalyse, die Bearbeitung von Kundenanfragen oder die Bildgenerierung. Dazu gehören auch Datenanalysen und einfachere Machine-Learning-Projekte. Die Daten verlassen die Organisation nicht. Hier beginnen die tatsächlichen Hardwareanforderungen.
- Modelle mit eigenen Daten feinabstimmen. Fine-Tuning und LoRA ermöglichen es dem Modell, die Terminologie, Prozesse und den Kontext eines bestimmten Unternehmens zu erlernen. Dies erfordert deutlich mehr Speicher als die reine Ausführung eines fertigen Modells.
- Ein Modell von Grund auf trainieren. Entwicklung eines eigenen Modells von Grund auf. Das ist eine Aufgabe für die Data-Center-Infrastruktur, nicht für einen Computer auf dem Schreibtisch.
Die ersten beiden Szenarien lassen sich mit Hardware abdecken, die viele Unternehmen bereits besitzen oder ohne grössere Investitionen beschaffen können. Das dritte erfordert eine bewusste Entscheidung für eine bestimmte Geräteklasse. Das vierte bedeutet in der Praxis Cloud oder Serverraum. Diese Einteilung erleichtert auch KI-Entwicklern und Datenanalysten die Auswahl, da sie meist in den beiden mittleren Szenarien arbeiten.
Computertypen für KI
AI-PC mit NPU
Computer oder Laptop mit einer dedizierten NPU, die für Aufgaben der künstlichen Intelligenz konzipiert ist. Sie verarbeitet diese energieeffizient, ohne Prozessor und Grafikkarte zu belasten und ohne Daten in die Cloud zu übertragen. Die Einstiegsschwelle liegt bei 40 TOPS (Billionen Operationen pro Sekunde). Dies ist die Anforderung für die Copilot+-Zertifizierung, die heute bei Laptops mit Intel Core Ultra-, AMD Ryzen AI- und Snapdragon X-Prozessoren verfügbar ist.
Geeignet für: Unterstützung bei Büroarbeiten, Transkription, Übersetzungen, die Nutzung eines Systemassistenten und die lokale Ausführung kleiner Modelle.
Wo liegen die Grenzen: bei Modellen mit mehr als einigen Milliarden Parametern. Ein AI-PC ist weder für das Fine-Tuning noch für das Training von Modellen ausgelegt – das ist auch nicht seine Aufgabe.
Beispiel: Dell Pro 16 mit AMD Ryzen AI
Workstation mit NVIDIA RTX-Grafikkarte
Klassische Workstation mit einer professionellen NVIDIA-Grafikkarte. Für KI-Computer werden in der Regel NVIDIA RTX-Grafikkarten gewählt, da ihre Tensor-Kerne die Berechnungen für Modelle der künstlichen Intelligenz und des maschinellen Lernens beschleunigen. Ebenso wichtig ist das CUDA-Software-Ökosystem, das für die meisten Tools und Bibliotheken zum Standard geworden ist. Die Arbeit übernimmt hier der Grafikprozessor; der entscheidende Parameter ist die Menge des VRAM auf der Grafikkarte – von 16 GB in Basismodellen bis zu 96 GB bei RTX PRO Blackwell-Grafikkarten. Der Vorteil liegt in der sehr hohen Speicherbandbreite und damit in der tatsächlichen Verarbeitungsgeschwindigkeit.
Geeignet für: Bild- und Videogenerierung, Arbeit mit Sprachmodellen mit bis zu etwa 32 Milliarden Parametern, Rendering und Berechnungen – also überall dort, wo die Antwortzeit zählt. Für Sprachmodelle liegt das praktische Minimum bei 12–16 GB VRAM.
Wo liegen die Grenzen: bei 70B-Modellen und grösseren Modellen. Sie passen nur in die teuersten Grafikkarten mit 96 GB VRAM, Modelle über 120B hingegen nicht mehr. Eine Erweiterung erfordert dann eine Konfiguration mit mehreren GPUs inklusive geeigneter Stromversorgung, Kühlung und entsprechender Kosten.
Beispiel: Lenovo ThinkStation P3 Tower Gen 2– Workstation mit professioneller NVIDIA RTX-Grafikkarte und 16 GB VRAM.
KI-Desktop-Supercomputer
Die neueste Geräteklasse, aufgebaut rund um den NVIDIA GB10 Grace Blackwell Superchip, bringt die Arbeit mit grossen Modellen auf den Schreibtisch. Er kombiniert Prozessor und Grafikchip mit einem gemeinsamen Pool von 128 GB einheitlichem Speicher, der dem Modell vollständig zur Verfügung steht – ohne starre Trennung zwischen RAM und VRAM. Das Gerät ist so gross wie ein Buch, verbraucht so viel Strom wie ein leistungsstarker Laptop und arbeitet leise. Gleichzeitig unterstützt es das vollständige NVIDIA-Ökosystem: CUDA, NGC-Container, PyTorch und Ollama. Der grösste Vorteil dieser Klasse ist die vollständige Datenkontrolle bei der lokalen Ausführung von KI-Modellen.
Geeignet für: die lokale Ausführung grosser Modelle (bis etwa 200 Milliarden Parameter), Prototyping, die Feinabstimmung von Modellen mit LoRA und QLoRA sowie die Arbeit mit Daten, die das Unternehmen nicht verlassen dürfen. Es eignet sich auch zum Testen eigener KI-Anwendungen und für Experimente in kurzen Iterationen, bei denen die schnelle Prüfung weiterer Ideen entscheidend ist.
Wo liegen die Grenzen: beim Training von Modellen von Grund auf und beim produktiven Betrieb für viele gleichzeitige Nutzer. Diese Hardware ist für Teams gedacht, die an einem Modell arbeiten, nicht als Anwendungsserver für die gesamte Organisation.
Beispiel: Asus Ascent GX10 – ein kompakter KI-Desktop-Supercomputer auf Basis des Superchips GB10, der sich an Entwickler sowie KI- und Dateningenieure richtet.
GPU-Server und Cloud
Serverinfrastruktur mit Beschleunigern der Klasse H100, H200 oder Blackwell – entweder im eigenen Betrieb oder als Cloud-Mietlösung. Sie bietet eine vielfach höhere Leistung und Bandbreite, stellt jedoch Anforderungen an 19-Zoll-Rack, Stromversorgung und Kühlung im Kilowattbereich.
Geeignet für: das Training von Modellen von Grund auf, die Bedienung vieler Nutzer, Bereitstellungen mit hohem Parallelisierungsbedarf und Echtzeitbetrieb.
Wo die Grenzen liegen: bei Kosten und Daten. In der Cloud verlassen Informationen das Unternehmen – nach wie vor eine der grössten Hürden bei der Einführung von KI.
Bevor Sie jedoch auf Rechenzentrumsinfrastruktur setzen, lohnt sich ein Blick auf die Zwischenstufe. KI-Desktop-Supercomputer lassen sich zu jeweils zwei Geräten verbinden und bieten dann 256 GB gemeinsamen Speicher – ausreichend für die Arbeit mit Modellen mit rund 405 Milliarden Parametern, ohne das Büro zu verlassen oder in Infrastruktur investieren zu müssen.
Beispiel: HP ZGX Nano G1n – zwei solche Geräte, über ConnectX-7 verbunden, stellen 256 GB gemeinsamen Speicher bereit.
Hardwareanforderungen: Wie viel Speicher Sie benötigen und warum dies der wichtigste Parameter ist
Der Speicher entscheidet darüber, ob ein Modell überhaupt gestartet werden kann. Bei einer Workstation ist dies der VRAM der Grafikkarte, bei KI-Desktop-Supercomputern handelt es sich um gemeinsamen Arbeitsspeicher, den Prozessor und Grafikchip nutzen. Aus Nutzersicht zählt vor allem, wie viel Speicher dem Modell tatsächlich zur Verfügung steht. Arbeitsspeicher und VRAM sind nicht austauschbar, da sie unterschiedliche Aufgaben erfüllen und separat dimensioniert werden.
Bezeichnungen wie 7B oder 70B geben die Anzahl der Modellparameter an: 7 beziehungsweise 70 Milliarden. Parameter sind Werte, die das Modell während des Trainings erlernt hat und zum Betrieb in den Speicher laden muss. Je mehr Parameter vorhanden sind, desto besser ist die Antwortqualität – aber desto höher sind auch die Hardwareanforderungen.
Der Bedarf hängt von der Anzahl der Modellparameter und von der Quantisierung, also der Speicherpräzision, ab. Die Regel ist einfach: Bei 4-Bit-Quantisierung (Q4) benötigt ein Modell etwa 0,5–0,6 GB pro Milliarde Parameter, bei 8 Bit (Q8) rund 1 GB und bei voller Präzision FP16 rund 2 GB. Zusätzlich sollten 10–20% Reserve eingeplant werden.
| Modell | Q4 (4 Bit) | Q8 (8 Bit) | FP16 |
| 7B / 8B | 5–8 GB | 8–10 GB | 14–16 GB |
| 13B | 8–10 GB | 14 GB | 26 GB |
| 30–34B | ca. 20 GB | ca. 34 GB | ca. 64 GB |
| 70B | 40–48 GB | ca. 70 GB | ca. 140 GB |
| 120B (MoE) | 65–75 GB | — | — |
| 200B (FP4) | passt in 128 GB | — | — |
| 405B | 256 GB (zwei Geräte) | — | ca. 810 GB |
Die Werte in der Spalte Q4 berücksichtigen bereits die Reserve für KV-Cache und Overhead. Die Spalten Q8 und FP16 geben nur die Grösse der Modellgewichte an; zusätzlich sind 10–20% einzuplanen. Das Modell 405B passt nur bei 4-Bit-Speicherung (Q4) auf zwei verbundene Geräte.
Bei der Bildgenerierung sind die Anforderungen geringer: Stable Diffusion 1.5 läuft ab 4–6 GB, SDXL komfortabel mit 12–16 GB, und neuere Modelle der FLUX-Klasse benötigen 24–48 GB. Das Training eines eigenen LoRA für SDXL passt in 16–24 GB.
In Data-Science-Umgebungen bleiben 32 GB Arbeitsspeicher der Standard, wobei die Arbeit mit grossen lokalen Modellen mehr erfordern kann. Fine-Tuning mit LoRA oder QLoRA ist selbst für das Modell 70B auf einem einzelnen Gerät mit 128 GB gemeinsamem Speicher möglich. Das vollständige Training grosser Modelle bleibt Hardware für Rechenzentren vorbehalten.
Speicher bestimmt, was hineinpasst. Bandbreite bestimmt, wie schnell das Modell antwortet
Der zweite, selten genannte Parameter, der aber den Arbeitskomfort im Alltag bestimmt, ist die Speicherbandbreite. Die Speicherkapazität entscheidet, ob ein Modell überhaupt geladen werden kann; die Bandbreite dagegen darüber, wie schnell es die nächsten Wörter einer Antwort generiert.
| Gerät | Speicherbandbreite |
| KI-Desktop-Supercomputer (GB10) | 273 GB/s |
| Apple Mac Studio M3 Ultra | 819 GB/s |
| NVIDIA RTX 4090 | ca. 1008 GB/s |
| NVIDIA RTX 5090 | ca. 1792 GB/s |
| NVIDIA H100 (HBM3) | ca. 3350 GB/s |
Auf den ersten Blick scheint die Schlussfolgerung offensichtlich: Wenn H100 die zwölfmal höhere Bandbreite bietet, wozu braucht man dann ein Gerät mit 273 GB/s? Dieser Vergleich führt jedoch in die Irre, denn diese Systeme stehen nicht in Konkurrenz zueinander.
H100 ist ein Beschleuniger für einen Server im 19-Zoll-Rack, der allein für den Chip mehrere Zehntausend Dollar kostet und Rechenzentrumsinfrastruktur voraussetzt. Ein KI-Desktop-Supercomputer steht auf dem Schreibtisch und verbraucht etwa so viel Strom wie ein leistungsstarker Laptop. Die Beliebtheit dieser Geräteklasse beruht nicht auf ihrer Geschwindigkeit, sondern darauf, dass 128 GB Speicher in dieser kompakten Computerform zu diesem Preis bislang unerreichbar waren. Bisher hatte ein Unternehmen drei Optionen: eine RTX-Karte mit 24–32 GB, also zu wenig für grosse Modelle; einen Server mit H100, also zu teuer und mit Rechenzentrumsanforderungen; oder die Cloud, bei der Daten nach aussen gelangen. Die neue Geräteklasse schliesst die Lücke dazwischen.
Es ist ein wenig wie der Vergleich eines Lieferwagens mit einem Sportwagen. Der Sportwagen fährt schneller, doch darum geht es nicht. Entscheidend ist, wie viel hineinpasst und was es kostet.
In der Praxis sieht es so aus: Das Modell 70B erzeugt in einem einzelnen Stream eine Antwort langsam, deutlich langsamer als auf einem Server. Dafür generiert es sie lokal, ohne Daten in die Cloud zu übertragen und ohne Investitionen in eine Serverinfrastruktur. Bei vielen parallelen Anfragen, etwa in Pipelines oder Agenten, steigt der Gesamtdurchsatz. Für Prototyping, Fine-Tuning und die Zusammenarbeit eines Teams am Modell reicht das völlig aus.
Die übrigen Komponenten sind von nachrangiger, aber nicht ganz unerheblicher Bedeutung. Eine schnelle NVMe-SSD verkürzt die Ladezeit von Modellen und beeinflusst die Gesamtleistung, daher sollte die Spezifikation eines AI-Computers GPU, Prozessor, Arbeitsspeicher und NVMe-SSD umfassen. Bei Komplettsystemen sind die übrigen Komponenten auf die jeweilige Plattform abgestimmt und müssen nicht separat analysiert werden. Die einzige tatsächlich relevante Wahl ist die Speicherkapazität, die auf die Grösse der verwendeten Modelle und Datensätze abgestimmt werden sollte.
Überblick über Marken und Produktreihen
Alle derzeit verfügbaren AI-Desktop-Supercomputer basieren auf demselben Superchip NVIDIA GB10 und verfügen über identische 128 GB Unified Memory. Die Hersteller unterscheiden sie nicht anhand der Leistung. Die einzelnen Konfigurationen unterscheiden sich bei Speicherkapazität, Gehäuse und Kühlung, Betriebssystem sowie Garantie- und Supportumfang. Das ist eine wichtige Information für den Kauf: Ein Leistungsvergleich dieser Geräte ist nicht sinnvoll; entscheidend ist die Eignung für die Prozesse und Anforderungen des jeweiligen Unternehmens.
- NVIDIA DGX Spark – die Referenzversion und der Massstab für die gesamte Geräteklasse. NVIDIA stützt darauf seine Dokumentation und technischen Unterlagen, sodass sich Leistungsbeschreibungen und online veröffentlichte Tests meist auf genau diese Variante beziehen. Sie wird mit einer grosszügig dimensionierten, schnellen SSD und einem charakteristischen Gehäuse geliefert, das sie von den Lösungen der Partner unterscheidet.
- Lenovo ThinkStation PGX – ThinkStation-Serie mit umfassenden Serviceleistungen und technischem Support. Sie ist die am breitesten vertretene Marke in dieser Kategorie: Zahlreiche Varianten unterscheiden sich hinsichtlich Speicherkapazität, Betriebssystem und Garantiepaket. Die natürliche Wahl für Organisationen, die bereits etablierte Beschaffungs- und Serviceprozesse mit Lenovo haben.
- HP ZGX Nano G1n – auch in einer Variante ohne Funkmodul erhältlich, die für Umgebungen mit erhöhten Sicherheitsanforderungen vorgesehen ist. Das ist eine seltene Option in dieser Geräteklasse und ein konkreter Vorteil überall dort, wo Sicherheitsrichtlinien drahtlose Konnektivität ausschliessen, etwa in der öffentlichen Verwaltung, im Finanzsektor oder in isolierten Netzwerken. Das Gerät wird mit einem Linux-basierten System geliefert, das für die Arbeit mit Modellen bereit ist.
- Dell Pro Max – die natürliche Wahl für Organisationen, die Hardware im Rahmen von Unternehmensverträgen mit Dell beschaffen, was die Formalitäten bei grösseren Implementierungen vereinfacht. In der Standardkonfiguration mit grosszügig dimensionierter SSD erhältlich, ohne dass zusätzlicher Speicher erworben werden muss.
- ASUS Ascent GX10 – kompakte Bauweise. Varianten mit unterschiedlicher Speicherkapazität ermöglichen den Einstieg mit einer kleineren Konfiguration und senken die Einstiegshürde, wenn ein Unternehmen die Arbeit mit lokalen Modellen erst erprobt. Das Design ermöglicht das Stapeln der Geräte und erleichtert so spätere Erweiterungen.
- Gigabyte AI TOP ATOM und MSI EdgeXpert – Varianten mit Schwerpunkt auf grosszügigem und schnellem Massenspeicher. Das ist wichtig bei der Arbeit mit grossen Datensätzen und mehreren Modellen gleichzeitig, wenn allein die Modelldateien Hunderte Gigabyte belegen. Sie eignen sich auch für Einsatzorte ausserhalb des Serverraums, nahe am Entstehungsort der Daten.
- Acer Veriton GN100 – eine Konstruktion mit effektiver Wärmeabfuhr. Im Vergleich mit anderen Geräten dieser Klasse erwärmt sie sich am wenigsten, was einen stabilen Betrieb bei lang andauernden Aufgaben wie dem Fine-Tuning von Modellen ermöglicht, wenn die Hardware über viele Stunden ununterbrochen ausgelastet ist.
Häufig gestellte Fragen
Worin unterscheidet sich ein gewöhnlicher Computer von einem AI-PC?
Ein AI-PC verfügt über eine dedizierte NPU, die Aufgaben der künstlichen Intelligenz lokal und energieeffizient verarbeitet. Ein gewöhnlicher Computer kann AI ebenfalls ausführen, erledigt dies jedoch über den Prozessor oder die Grafikkarte – langsamer und mit höherem Energieverbrauch.
Wie viel RAM wird für die Arbeit mit AI benötigt?
Für Büroanwendungen mit AI-Unterstützung reichen 16 GB, komfortabel sind 32 GB. In Data-Science-Umgebungen sind 32 GB RAM Standard, und die Arbeit mit lokalen Modellen erfordert häufig mehr. Entscheidend ist jedoch nicht nur der Systemspeicher, sondern auch der für den Grafikprozessor verfügbare VRAM oder Unified Memory.
Wie viel VRAM wird benötigt, um ein Modell 7B, 13B oder 70B auszuführen?
Bei 4-Bit-Quantisierung: etwa 5–8 GB für das Modell 7B, 8–10 GB für 13B und 40–48 GB für 70B. In der Praxis liegt das Minimum für Sprachmodelle je nach Quantisierung bei 12–16 GB VRAM.
Was ist für AI wichtiger: der Prozessor oder die Grafikkarte?
Die Grafikkarte oder ein dedizierter Beschleuniger. Der Prozessor übernimmt die Datenaufbereitung, die eigentlichen Berechnungen führt jedoch die GPU aus. Chips mit Tensor-Kernen beschleunigen Aufgaben des maschinellen Lernens effektiver als ein Prozessor allein.
Was ist Unified Memory und worin unterscheidet es sich von VRAM?
VRAM ist fest der Grafikkarte zugewiesener Speicher. Unified Memory ist ein gemeinsamer Speicherpool, den sich Prozessor und Grafikeinheit teilen. Dadurch kann ein Gerät mit 128 GB Unified Memory ein Modell ausführen, das in keine einzelne Grafikkarte passen würde. Im Gegenzug ist die Bandbreite geringer, sodass Antworten langsamer generiert werden.
Was ist eine NPU und wie viele TOPS benötige ich?
Eine NPU ist ein auf Berechnungen der künstlichen Intelligenz spezialisierter Chip. TOPS gibt seine Leistung an. Für Büroanwendungen mit AI-Unterstützung genügen 40 TOPS, also der Schwellenwert für die Copilot+-Zertifizierung. Bei grösseren Modellen sind TOPS nicht mehr aussagekräftig; dann zählen Speicherkapazität und Bandbreite.
Funktioniert AI unter Windows oder ist Linux erforderlich?
KI funktioniert unter Windows. Professionelle Tools für die Arbeit mit grossen Modellen werden jedoch hauptsächlich für Linux entwickelt. Deshalb werden Desktop-KI-Supercomputer in der Regel mit einem auf Ubuntu basierenden Betriebssystem ausgeliefert.
Für wie grosse Modelle reicht ein einheitlicher Speicher von 128 GB aus?
Für Modelle mit rund 200 Milliarden Parametern bei 4-Bit-Quantisierung. Modelle mit etwa 405 Milliarden Parametern erfordern die Zusammenschaltung von zwei Einheiten.
Lassen sich zwei Einheiten zu einem Cluster verbinden?
Ja. Geräte auf Basis von GB10 verfügen über eine integrierte NVIDIA ConnectX-7-Netzwerkschnittstelle mit 200-GbE-Ports. Damit lassen sich zwei Einheiten verbinden und 256 GB gemeinsamer Speicher bereitstellen.
Wann ist ein KI-PC, eine Workstation oder ein Server die richtige Wahl?
KI-PC – wenn KI die tägliche Büroarbeit unterstützen soll. RTX-Workstation – wenn Sie mit Bildern, Videos oder Modellen mit bis zu 32 Milliarden Parametern arbeiten und hohe Geschwindigkeit benötigen. Desktop-KI-Supercomputer – wenn Sie grosse Modelle lokal nutzen und feinabstimmen müssen. Server oder Cloud – wenn Sie Modelle trainieren.
Verlassen die Daten bei einem lokalen Modell das Unternehmen?
Nein. Ein auf eigener Hardware ausgeführtes Modell verarbeitet Daten ausschliesslich lokal. Das ist der Hauptgrund, warum Unternehmen, die mit sensiblen Daten arbeiten, On-Premises-Lösungen statt der Cloud wählen.
Daten zur KI-Nutzung in Unternehmen: Eurostat, „Use of artificial intelligence in enterprises“, Daten für das Jahr 2025. Spezifikationen und Parameter, Stand August 2026.
