Glossar · Architektur und Betrieb

Was ist Grafikkarte für KI?

Auch genannt: GPU, Beschleuniger, VRAM

◆Kurz gesagt

Eine Grafikkarte rechnet die Antworten eines Sprachmodells. Entscheidend ist ihr Speicher: Das Modell muss vollständig hineinpassen, dazu Reserve für gleichzeitige Anfragen. Eine Profi-Karte mit 96 Gigabyte trägt ein großes Modell für etwa zwanzig Nutzer. Eine Spielkarte mit 32 Gigabyte reicht für Einzeltests.

Stand: September 2026

Eine einzelne große Glaskarte mit Kupferkante im Vordergrund, dahinter unscharf eine Schublade voller kleinerer Karten
Ein Begriff, eine Seite, eine Erklärung ohne Fachjargon. Danach wissen Sie, ob er für Ihr Büro überhaupt eine Rolle spielt.
01

Was das für Ihr Büro heißt

Die Karte entscheidet über die Antwortzeit, und die Antwortzeit entscheidet darüber, ob das System benutzt wird. Zu klein gekauft heißt, dass die Einführung samt Einlesen und Schulung umsonst war.

02

Ein Fall aus dem Alltag

Ein Betrieb mit zwanzig Nutzern fragt, ob die vorhandene Arbeitsplatzkarte reicht. Sie reicht für einen Nutzer und für kleine Modelle. Sobald mehrere gleichzeitig fragen oder lange Dokumente im Spiel sind, ist der Speicher voll, und die Antworten dauern plötzlich dreimal so lange.

03

Wie wir es umsetzen

Wir spezifizieren die Karte nach Modellgröße, Nutzerzahl und Zusatzlast durch Texterkennung und Bildverarbeitung. Gehäuse und Netzteil planen wir so, dass eine zweite Karte später nachrüstbar ist.

04

Der häufigste Irrtum

Oft verwechselt mit der Rechenleistung des Prozessors. Für Sprachmodelle ist nicht die Rechenleistung der Engpass, sondern der Speicher auf der Karte. Er bestimmt, wie groß das Modell sein darf und wie viel Text es gleichzeitig verarbeitet.

05

Wo die Grenze liegt

Die Karte allein macht es nicht. Texterkennung und Einlesen laufen auf dem Prozessor, dafür braucht es Kerne und Arbeitsspeicher.

Sie wollen wissen, ob Grafikkarte für KI in Ihrem Büro etwas bringt?

Dreißig Minuten, per Video oder Telefon. Wir fragen nach Zahlen, nicht nach Ihrem Interesse an KI.

Termin vereinbaren

◆Der nächste Schritt

Was kostet Sie das Suchen
im Monat?

Die wenigsten Büros haben das je ausgerechnet. Im Termin machen wir es zusammen: Stunden pro Woche, was eine Stunde bei Ihnen kostet, was im letzten Jahr deswegen schiefgegangen ist. Über uns reden wir erst danach.

  • Dreißig Minuten, per Video oder Telefon
  • Wir fragen nach Zahlen, nicht nach Ihrem Interesse an KI
  • Danach wissen Sie, ob sich das für Sie lohnt. Auch wenn die Antwort nein ist

Keine Folien, keine Verkaufsshow. Wenn es nicht passt, sagen wir das im Termin.