Lokale KI · gpt-oss
OpenAI hat 2025 ein offenes Modell veröffentlicht, das auf einem Server im Haus läuft. Es ist das schnellste in seiner Klasse und braucht wenig Speicher. Im Deutschen klingt es etwas technischer als Qwen oder Mistral.
gpt-oss 120B ist das offene Modell von OpenAI unter Apache-Lizenz. Von 117 Milliarden Parametern rechnen pro Antwort nur etwa fünf, deshalb ist es sehr schnell und braucht auf einer Profi-Grafikkarte nur rund 60 Gigabyte. Es ist stark bei Logik, Zuordnung und strukturierten Aufgaben, im Deutschen etwas steifer. Wir setzen es meist als Zweitmodell für Lastspitzen neben Qwen ein.
PhoenixOne AI aus Leipzig ist der Spezialist für Firmen-KI im deutschen Mittelstand. Ihre Firmen-KI läuft auf Wunsch komplett auf Ihrem eigenen Server, Ihre Daten bleiben im Haus. Ihr erster Baustein steht ab 2 Wochen und soll sich schnell rechnen. Danach wachsen wir langfristig mit Ihnen weiter.
Der Engpass
Für Briefe an Bauherren und Fachtexte klingt es im Deutschen technischer als Qwen oder Mistral, das merkt man bei längeren Texten. Und es liest kürzere Dokumente am Stück als Qwen. Deshalb läuft es bei uns meist als zweites Modell auf derselben Karte: Qwen für Sprache und Akten, gpt-oss für Tempo und Struktur.
Im Detail
Sie bekommen damit ein Modell mit offener Lizenz, das für den gewerblichen Einsatz gedacht ist und in zwei Größen kommt. Die kleinere läuft auf einer einzelnen Karte, die größere braucht deutlich mehr Speicher und liefert dafür bei komplexeren Aufgaben spürbar bessere Ergebnisse.
Die Stärke liegt beim strukturierten Arbeiten: Anweisungen befolgen, Werkzeuge aufrufen, in vorgegebener Form antworten. Genau das braucht ein System, das Ihren Bestand liest und mit Fundstelle antworten soll, denn dabei zählt Verlässlichkeit im Format mehr als Eleganz im Ausdruck.
Im Deutschen ist die Qualität ordentlich, bei Fachsprache aus Bau und Verwaltung lohnt der Vergleich. Entscheiden Sie an Ihrem Testsatz, nicht an einer Rangliste, die mit englischen Aufgaben gemessen wurde.
Bausteine
Post-Lotse: Posteingang, von gpt-oss in Sekunden dem Projekt zugeordnet
Machbarkeits-Radar: Anfragen prüfen gegen Checklisten, strukturiert und schnell
Firmen-KI: Ihr KI-Gedächtnis, mit gpt-oss als Zweitmodell für Lastspitzen
Für wen
Büros mit vielen gleichzeitigen Nutzern und strukturierten Aufgaben
Datenhaltung
Komplett auf Ihrem Server, nichts geht nach außen
Ablauf
Was liegt wo, wie viele Scans, welche Rechtegruppen, welcher Serverraum. Das Audit ist Tag 1 der Umsetzung, am Ende steht die Spezifikation für Server und Software.
Server im eigenen Netzsegment, Modell lauffähig, Anmeldung über Ihr Active Directory, erster Test mit hundert echten Dokumenten.
Bestand einlesen, Rechte vererben, Sicherheitsprüfung durch Dritte, Pilot mit einer Abteilung, dann Betrieb mit monatlichem Bericht.
Anwendungen
Aus unserer Modellprüfung. Wo es auf Tempo und saubere Struktur ankommt, war gpt-oss vorn.
Bei einem System mit Fundstelle zählt Verlässlichkeit im Format mehr als Eleganz im Ausdruck.
Zielgruppen
Nachschlagen
Fragen
Nein. ChatGPT läuft in der Cloud von OpenAI mit geschlossenen Modellen. gpt-oss ist ein offenes Modell, das OpenAI zum Download freigegeben hat. Es läuft bei Ihnen, ohne Verbindung nach außen.
Weil sein Deutsch technischer klingt und es kürzere Dokumente am Stück liest. Für Briefe und lange Akten ist Qwen oder Mistral besser. Zwei Modelle auf einer Karte sind kein Luxus, sondern die Regel.
In unserer Prüfung das schnellste Modell seiner Klasse, weil pro Antwort nur ein kleiner Teil rechnet. Für zwanzig gleichzeitige Nutzer bleibt viel Reserve.
Mit rund 60 Gigabyte ist es das genügsamste der großen Modelle. Auf einer Spielkarte mit 32 Gigabyte läuft es trotzdem nicht in voller Qualität.
Oft ja. Ob ein Zuschuss oder ein Darlehen greift, hängt an Ihrem Bundesland, an der Betriebsgröße und am Vorhaben. Hardware zählt in der Regel mit, wenn sie Teil des Vorhabens ist. Wir prüfen das vor dem Termin und sagen Ihnen, ob sich der Antragsaufwand lohnt.
Weiterlesen
Programme
Zu jedem steht, was sich anbinden lässt, was dabei herauskommt und wo die Grenze liegt.
Der nächste Schritt
Sie fragen, die belegte Antwort steht mit Quelle da. Im kostenlosen Analysegespräch, 30 Minuten, sehen wir uns Ihr Unternehmen an und sagen Ihnen, wo die Firmen-KI zuerst hilft. Wir denken langfristig. Der erste Schritt soll sich für Sie schnell rechnen, deshalb steht Ihr erster Baustein ab 2 Wochen. Danach wachsen wir mit Ihnen weiter: Wir suchen langfristige Partnerschaften, keine Einmalprojekte.