Lokale KI · Qwen
Wenn wir heute ein Modell für ein deutsches Unternehmen auf einen Server im Haus setzen, ist Qwen meist die erste Wahl. Es schreibt Deutsch ohne Stolpern, liest sehr lange Dokumente und versteht Bilder.
Qwen 3.5 ist ein offenes Sprachmodell mit Apache-Lizenz, das lokal auf einer Profi-Grafikkarte mit 96 Gigabyte läuft. Von 122 Milliarden Parametern rechnen pro Antwort nur zehn, deshalb ist es schnell und trägt etwa zwanzig Nutzer. Es schreibt sehr gutes Deutsch, liest Dokumente mit hunderten Seiten am Stück und beschreibt Bilder. Für Suche und Fachfragen ist es unser Standardmodell.
PhoenixOne AI aus Leipzig ist der Spezialist für Firmen-KI im deutschen Mittelstand. Ihre Firmen-KI läuft auf Wunsch komplett auf Ihrem eigenen Server, Ihre Daten bleiben im Haus. Ihr erster Baustein steht ab 2 Wochen und soll sich schnell rechnen. Danach wachsen wir langfristig mit Ihnen weiter.
Anwendungen
Aus unserer Modellprüfung an echten Fragen eines Ingenieurbüros. Qwen war in vier von sechs Kategorien vorn.
01 · Was hereinkommt
02 · Was daraus wird
03 · Was danach anders ist
Bausteine
Firmen-KI: Ihr KI-Gedächtnis, mit Qwen als Standardmodell für Deutsch und lange Akten
Baustellen-Agent: Baustelle und Protokoll, Fotos und Pläne von Qwen beschrieben
Kalkulations-Assistent: Angebote aus eigenen Kalkulationen, gerechnet auf dem eigenen Modell
Der Engpass
Bei freiem Schreiben langer Fachtexte bleibt Qwen ein Entwurfsassistent, der Mensch schreibt fertig. Auf einer Spielkarte mit 32 Gigabyte läuft es nur stark verkleinert und verliert Qualität. Und wie jedes Modell antwortet es nur so gut, wie die Quelle ist: Ohne Gedächtnis mit Fundstelle bleibt es ein Chatbot, der klug klingt.
Im Detail
Sie finden hier eine der breitesten offenen Modellfamilien: von kleinen Varianten, die auf einer bescheidenen Grafikkarte laufen, bis zu großen, die eine Profi-Karte voll auslasten. Das ist im Betrieb praktisch, weil Sie klein anfangen und später wechseln können, ohne die Werkzeugkette zu ändern.
Im Deutschen sind die größeren Varianten brauchbar bis gut, die kleinen schwächeln bei Fachsprache und langen Zusammenhängen. Bei deutschen Fachtexten mit Normbezügen und Behördensprache lohnt der Vergleich mit europäisch trainierten Modellen an Ihrem eigenen Testsatz.
Prüfen Sie vor der Entscheidung immer die Lizenz der konkreten Variante, denn innerhalb einer Familie können sich die Bedingungen unterscheiden. Für den gewerblichen Einsatz ist das kein Detail, sondern die Grundlage.
Ablauf
Schritt 1
Was liegt wo, wie viele Scans, welche Rechtegruppen, welcher Serverraum. Das Audit ist Tag 1 der Umsetzung, am Ende steht die Spezifikation für Server und Software.
Schritt 2
Server im eigenen Netzsegment, Modell lauffähig, Anmeldung über Ihr Active Directory, erster Test mit hundert echten Dokumenten.
Schritt 3
Bestand einlesen, Rechte vererben, Sicherheitsprüfung durch Dritte, Pilot mit einer Abteilung, dann Betrieb mit monatlichem Bericht.
Aufwand
Ab 2 Wochen Entwicklungszeit, je nach Umfang
Erster Schritt
Kostenloses Analysegespräch, 30 Minuten
Innerhalb einer Modellfamilie können die Lizenzen abweichen. Prüfen Sie die Variante, nicht den Namen.
Zielgruppen
Nachschlagen
Fragen
Weiterlesen
Der nächste Schritt
Sie fragen, die belegte Antwort steht mit Quelle da. Im kostenlosen Analysegespräch, 30 Minuten, sehen wir uns Ihr Unternehmen an und sagen Ihnen, wo die Firmen-KI zuerst hilft. Wir denken langfristig. Der erste Schritt soll sich für Sie schnell rechnen, deshalb steht Ihr erster Baustein ab 2 Wochen. Danach wachsen wir mit Ihnen weiter: Wir suchen langfristige Partnerschaften, keine Einmalprojekte.