Lokale KI · Mistral

Mistral lokal betreiben
europäisch, freie Lizenz, bestes Deutsch.

Wer ein Modell aus Europa will, das gutes Deutsch schreibt und unter freier Lizenz steht, landet bei Mistral. Für Briefe, Berichte und Fachtexte ist es oft die natürlichste Wahl.

Analysegespräch buchen Alle Themen

Für wen: Büros, die europäische Herkunft und natürliches Deutsch wollen
Aufwand: Ab 2 Wochen Entwicklungszeit, je nach Umfang
Förderung: Wird für Ihr Bundesland geprüft
Datenhaltung: Komplett auf Ihrem Server, nichts geht nach außen
Erster Schritt: Kostenloses Analysegespräch, 30 Minuten

Mistral Small 4 ist ein offenes Sprachmodell aus Frankreich unter Apache-Lizenz, das lokal auf einer Profi-Grafikkarte läuft. Von 119 Milliarden Parametern rechnen pro Antwort etwa sechseinhalb, deshalb ist es schnell genug für ein ganzes Büro. Es schreibt das natürlichste Deutsch der großen offenen Modelle. Wir setzen es ein, wenn Herkunft aus Europa oder Textqualität den Ausschlag geben.

Stand: Oktober 2026

PhoenixOne AI aus Leipzig ist der Spezialist für Firmen-KI im deutschen Mittelstand. Ihre Firmen-KI läuft auf Wunsch komplett auf Ihrem eigenen Server, Ihre Daten bleiben im Haus. Ihr erster Baustein steht ab 2 Wochen und soll sich schnell rechnen. Danach wachsen wir langfristig mit Ihnen weiter.

Kostenloses Analysegespräch, 30 Minuten

KI-generiertes Bild: Ein Silberregal mit fünf gleichen Glasmodulen, eines davon gleitet über eine Kupferschiene in den Schacht einer Maschine — Das Modell ist austauschbar, der Bestand nicht. Genau deshalb setzen wir auf offene Modelle: Sie tauschen es, ohne von vorn anzufangen.

Bausteine

Was wir dafür entwickeln

Baustein 1

Firmen-KI: Ihr KI-Gedächtnis, mit Mistral für Briefe und Berichte in natürlichem Deutsch

Firmen-KI im Detail

Baustein 2

Post-Lotse: Posteingang, Antwortentwürfe zur Freigabe in Ihrer Tonlage

Post-Lotse im Detail

Baustein 3

Fachautorität: Marketing, Google und KI-Suche, Fachbeiträge aus Sprachnotizen, lokal entworfen

Fachautorität im Detail

Anwendungen

Sechs Dinge, die Mistral im Büro gut macht

Aus unserer Modellprüfung. Bei Briefen und Berichten war Mistral die erste Wahl der Testleser.

01 · Was hereinkommt

Briefe an Bauherren, Behörden und Auftraggeber als Entwurf, in einem Deutsch, das man nicht umschreiben muss
Berichte und Protokolle aus Stichpunkten, mit Ihrer Tonlage aus eigenen Vorlagen

02 · Was daraus wird

Zusammenfassungen langer Bescheide und Verträge, sauber gegliedert
Fragen an das Gedächtnis mit Fundstelle, gleichauf mit Qwen bei Fachfragen

03 · Was danach anders ist

Übersetzungen für Bauherren und Fachplaner im europäischen Ausland
Nachweis gegenüber Auftraggebern, dass das Modell aus der EU stammt und im Haus läuft

Herkunft ist kein technisches Argument. Gegenüber Betriebsrat und Auftraggeber ist sie trotzdem eines.

Der Engpass

Wo Mistral an seine Grenze kommt

Bei Bildern und Plänen ist Qwen stärker, bei reinem Tempo unter Last gpt-oss. Und wie jedes Modell bleibt Mistral beim freien Schreiben langer Fachtexte ein Entwurfsassistent. Die Herkunft aus Europa ist ein gutes Argument, aber datenschutzrechtlich nicht nötig: Lokal betrieben verlässt bei keinem Modell ein Byte Ihr Haus.

Im Detail

Warum ein europäisches Modell im Betrieb eine Rolle spielt

Sie bekommen hier Modelle aus europäischer Entwicklung, mit ordentlicher Qualität im Deutschen und offenen Varianten, die Sie im eigenen Haus betreiben dürfen. Für Betriebe, die gegenüber Auftraggebern oder Betriebsrat begründen müssen, warum sie sich für ein Modell entschieden haben, ist die Herkunft ein Argument.

Technisch interessant sind die kleineren Varianten: Sie laufen auf bescheidener Hardware und liefern für Zusammenfassungen, Zuordnungen und einfache Fragen an den Bestand Ergebnisse, die im Alltag reichen. Für schwierige Herleitungen greift man zur größeren Variante.

Achten Sie auch hier auf die Lizenz der konkreten Variante. Nicht alles, was unter demselben Namen erscheint, trägt dieselben Bedingungen, und für den gewerblichen Einsatz ist das die erste Frage, nicht die letzte.

Ablauf

So kommt Mistral auf Ihren Server

Schritt 1
Daten- und Netz-Audit
Was liegt wo, wie viele Scans, welche Rechtegruppen, welcher Serverraum. Das Audit ist Tag 1 der Umsetzung, am Ende steht die Spezifikation für Server und Software.
1
Schritt 2
Aufbau im getrennten Netz
Server im eigenen Netzsegment, Modell lauffähig, Anmeldung über Ihr Active Directory, erster Test mit hundert echten Dokumenten.
2
Schritt 3
Einlesen, Härten, Betrieb
Bestand einlesen, Rechte vererben, Sicherheitsprüfung durch Dritte, Pilot mit einer Abteilung, dann Betrieb mit monatlichem Bericht.
3

Aufwand

Ab 2 Wochen Entwicklungszeit, je nach Umfang

Erster Schritt

Kostenloses Analysegespräch, 30 Minuten

Zielgruppen

Für wen sich das lohnt

GeschäftsführungSie wollen gegenüber Auftraggebern sagen können: europäisches Modell, freie Lizenz, im Haus. Mistral ist genau das.

Sekretariat und AssistenzSie bekommen Briefentwürfe, die klingen, als hätten Sie sie geschrieben. Freigeben, abschicken.

IT und AdministrationLäuft in einem Container mit vLLM, neben Qwen oder gpt-oss auf derselben Karte.

Nachschlagen

Fachwörter auf dieser Seite

Erklärt im Glossar

Sprachmodell

Fragen

Häufig gefragt

Ist Mistral datenschutzrechtlich besser als Qwen?

Lokal betrieben nicht, weil bei beiden nichts das Haus verlässt. Mistral ist aber das bessere Argument gegenüber Auftraggebern, die auf europäische Herkunft achten.

Wie gut ist das Deutsch?

Das natürlichste unter den großen offenen Modellen. Bei Fachfragen mit Quelle liegt es gleichauf mit Qwen, bei Bildern dahinter.

Welche Hardware braucht Mistral Small 4?

Eine Profi-Grafikkarte mit 96 Gigabyte für die große Variante mit etwa zwanzig Nutzern. Rund 70 Gigabyte belegt das Modell selbst.

Gibt es kleinere Mistral-Modelle?

Ja, für einzelne Aufgaben wie Zuordnung oder kurze Zusammenfassungen auf kleineren Karten. Für ein ganzes Büro mit Akten braucht es die große Variante.

Gibt es Fördermittel für lokale KI?

Oft ja. Ob ein Zuschuss oder ein Darlehen greift, hängt an Ihrem Bundesland, an der Betriebsgröße und am Vorhaben. Hardware zählt in der Regel mit, wenn sie Teil des Vorhabens ist. Wir prüfen das vor dem Termin und sagen Ihnen, ob sich der Antragsaufwand lohnt.

Unser Ziel: keine Suchzeit mehr.

Sie fragen, die belegte Antwort steht mit Quelle da. Im kostenlosen Analysegespräch, 30 Minuten, sehen wir uns Ihr Unternehmen an und sagen Ihnen, wo die Firmen-KI zuerst hilft. Wir denken langfristig. Der erste Schritt soll sich für Sie schnell rechnen, deshalb steht Ihr erster Baustein ab 2 Wochen. Danach wachsen wir mit Ihnen weiter: Wir suchen langfristige Partnerschaften, keine Einmalprojekte.

Analysegespräch buchen Erst ansehen: Webinar am 1. Dezember

Festpreis je Schritt
Stopp-Punkt mit Zwischenabnahme
Eigener Code, der Ihnen gehört