Lokale KI · Mistral
Mistral lokal betreiben
europäisch, freie Lizenz, bestes Deutsch.
Wer ein Modell aus Europa will, das gutes Deutsch schreibt und unter freier Lizenz steht, landet bei Mistral. Für Briefe, Berichte und Fachtexte ist es oft die natürlichste Wahl.
- Für wen
- Büros, die europäische Herkunft und natürliches Deutsch wollen
- Aufwand
- 15 Arbeitstage bis zur Spezifikation
- Förderung
- Wird für Ihr Bundesland geprüft
- Datenhaltung
- Komplett auf Ihrem Server, nichts geht nach außen
- Erster Schritt
- Dreißig Minuten Erstgespräch per Video
Mistral Small 4 ist ein offenes Sprachmodell aus Frankreich unter Apache-Lizenz, das lokal auf einer Profi-Grafikkarte läuft. Von 119 Milliarden Parametern rechnen pro Antwort etwa sechseinhalb, deshalb ist es schnell genug für ein ganzes Büro. Es schreibt das natürlichste Deutsch der großen offenen Modelle. Wir setzen es ein, wenn Herkunft aus Europa oder Textqualität den Ausschlag geben.
Stand: September 2026
Was wir dafür entwickeln
Sechs Dinge, die Mistral im Büro gut macht
Aus unserer Modellprüfung. Bei Briefen und Berichten war Mistral die erste Wahl der Testleser.
01 · Was hereinkommt
- Briefe an Bauherren, Behörden und Auftraggeber als Entwurf, in einem Deutsch, das man nicht umschreiben muss
- Berichte und Protokolle aus Stichpunkten, mit Ihrer Tonlage aus eigenen Vorlagen
02 · Was daraus wird
- Zusammenfassungen langer Bescheide und Verträge, sauber gegliedert
- Fragen an das Gedächtnis mit Fundstelle, gleichauf mit Qwen bei Fachfragen
03 · Was danach anders ist
- Übersetzungen für Bauherren und Fachplaner im europäischen Ausland
- Nachweis gegenüber Auftraggebern, dass das Modell aus der EU stammt und im Haus läuft
Herkunft ist kein technisches Argument. Gegenüber Betriebsrat und Auftraggeber ist sie trotzdem eines.
Der Engpass
Wo Mistral an seine Grenze kommt
Bei Bildern und Plänen ist Qwen stärker, bei reinem Tempo unter Last gpt-oss. Und wie jedes Modell bleibt Mistral beim freien Schreiben langer Fachtexte ein Entwurfsassistent. Die Herkunft aus Europa ist ein gutes Argument, aber datenschutzrechtlich nicht nötig: Lokal betrieben verlässt bei keinem Modell ein Byte Ihr Haus.
Warum ein europäisches Modell im Betrieb eine Rolle spielt
Sie bekommen hier Modelle aus europäischer Entwicklung, mit ordentlicher Qualität im Deutschen und offenen Varianten, die Sie im eigenen Haus betreiben dürfen. Für Betriebe, die gegenüber Auftraggebern oder Betriebsrat begründen müssen, warum sie sich für ein Modell entschieden haben, ist die Herkunft ein Argument.
Technisch interessant sind die kleineren Varianten: Sie laufen auf bescheidener Hardware und liefern für Zusammenfassungen, Zuordnungen und einfache Fragen an den Bestand Ergebnisse, die im Alltag reichen. Für schwierige Herleitungen greift man zur größeren Variante.
Achten Sie auch hier auf die Lizenz der konkreten Variante. Nicht alles, was unter demselben Namen erscheint, trägt dieselben Bedingungen, und für den gewerblichen Einsatz ist das die erste Frage, nicht die letzte.
So kommt Mistral auf Ihren Server
Schritt 1
Daten- und Netz-Audit
Was liegt wo, wie viele Scans, welche Rechtegruppen, welcher Serverraum. Fünfzehn Arbeitstage, am Ende die Spezifikation für Server und Software.
Schritt 2
Aufbau im getrennten Netz
Server im eigenen Netzsegment, Modell lauffähig, Anmeldung über Ihr Active Directory, erster Test mit hundert echten Dokumenten.
Schritt 3
Einlesen, Härten, Betrieb
Bestand einlesen, Rechte vererben, Sicherheitsprüfung durch Dritte, Pilot mit einer Abteilung, dann Betrieb mit monatlichem Bericht.
Für wen sich das lohnt
- Geschäftsführung
- Sie wollen gegenüber Auftraggebern sagen können: europäisches Modell, freie Lizenz, im Haus. Mistral ist genau das.
- Sekretariat und Assistenz
- Sie bekommen Briefentwürfe, die klingen, als hätten Sie sie geschrieben. Freigeben, abschicken.
- IT und Administration
- Läuft in einem Container mit vLLM, neben Qwen oder gpt-oss auf derselben Karte.
◆Fachwörter auf dieser Seite
Erklärt im Glossar
Häufig gefragt
Ist Mistral datenschutzrechtlich besser als Qwen?
Lokal betrieben nicht, weil bei beiden nichts das Haus verlässt. Mistral ist aber das bessere Argument gegenüber Auftraggebern, die auf europäische Herkunft achten.
Wie gut ist das Deutsch?
Das natürlichste unter den großen offenen Modellen. Bei Fachfragen mit Quelle liegt es gleichauf mit Qwen, bei Bildern dahinter.
Welche Hardware braucht Mistral Small 4?
Eine Profi-Grafikkarte mit 96 Gigabyte für die große Variante mit etwa zwanzig Nutzern. Rund 70 Gigabyte belegt das Modell selbst.
Gibt es kleinere Mistral-Modelle?
Ja, für einzelne Aufgaben wie Zuordnung oder kurze Zusammenfassungen auf kleineren Karten. Für ein ganzes Büro mit Akten braucht es die große Variante.
Gibt es Fördermittel für lokale KI?
Oft ja. Ob ein Zuschuss oder ein Darlehen greift, hängt an Ihrem Bundesland, an der Betriebsgröße und am Vorhaben. Hardware zählt in der Regel mit, wenn sie Teil des Vorhabens ist. Wir prüfen das vor dem Termin und sagen Ihnen, ob sich der Antragsaufwand lohnt.
Verwandte Seiten
Sehen wir uns Ihren Bestand an.
Dreißig Minuten, per Video oder Telefon. Danach wissen Sie, ob lokale KI bei Ihnen trägt und was der erste Schritt ist.