Lokale KI · europäische Modelle
Teuken und EuroLLM lokal
souverän, europäisch, aber klein.
Souveräne europäische KI klingt gut, und Teuken und EuroLLM sind genau das: in Europa entwickelt, offen lizenziert, mehrsprachig. Nur sind sie klein. Für manche Aufgaben reicht das, für ein Büro mit Akten nicht.
*KI-generiert- Für wen
- Betriebe mit Souveränitätsvorgaben und einfachen Aufgaben
- Aufwand
- Ab 2 Wochen Entwicklungszeit, je nach Umfang
- Förderung
- Wird für Ihr Bundesland geprüft
- Datenhaltung
- Komplett auf Ihrem Server, nichts geht nach außen
- Erster Schritt
- Kostenloses Analysegespräch, 30 Minuten
Kurz gesagt
Teuken-7B und EuroLLM-9B sind offene Sprachmodelle aus europäischen Forschungsprojekten unter Apache-Lizenz, trainiert auf 24 EU-Sprachen. Mit sieben bis neun Milliarden Parametern laufen sie auf kleiner Hardware, reichen aber nicht für anspruchsvolle Fachtexte oder lange Akten. Als Argument für digitale Souveränität sind sie stark, als Hauptmodell im Büro nicht. Lokal betrieben ist die Herkunft ohnehin zweitrangig.
PhoenixOne AI aus Leipzig ist der Spezialist für Firmen-KI im deutschen Mittelstand. Ihre Firmen-KI läuft auf Wunsch komplett auf Ihrem eigenen Server, Ihre Daten bleiben im Haus. Ihr erster Baustein steht ab 2 Wochen und soll sich schnell rechnen. Danach wachsen wir langfristig mit Ihnen weiter.
Der Engpass
Warum Souveränität allein kein Hauptmodell macht
Sieben bis neun Milliarden Parameter sind für Fachfragen mit Quelle über lange Akten zu wenig, das zeigt jeder Testsatz. Und das eigentliche Souveränitätsargument löst der lokale Betrieb: Wenn kein Byte das Haus verlässt, ist die Herkunft des Modells datenschutzrechtlich zweitrangig. Wer Europa will, bekommt mit Mistral ein europäisches Modell in voller Größe.
Im Detail
Warum europäische Modelle einen eigenen Blick verdienen
Sie bekommen mit europäisch trainierten Modellen etwas, das bei den großen Familien oft fehlt: ein Training, das europäische Sprachen von Anfang an gleichrangig behandelt statt Englisch zuerst. Bei deutscher Fachsprache, Behördendeutsch und Umlauten macht sich das bemerkbar.
Die Gegenrechnung ist ehrlich zu machen: Bei allgemeinen Aufgaben liegen diese Modelle meist hinter den großen internationalen Familien. Der Vorsprung zeigt sich dort, wo es auf sprachliche Genauigkeit im Deutschen ankommt, nicht überall.
Für Betriebe, die gegenüber Aufsicht, Betriebsrat oder Auftraggeber begründen müssen, warum sie ein bestimmtes Modell einsetzen, kommt ein zweites Argument dazu: Herkunft und Trainingsdaten sind nachvollziehbarer dokumentiert als bei manchem großen Namen.
Anwendungen
Sechs Aufgaben, für die die europäischen Modelle reichen
Aus Prüfungen mit Betrieben, die europäische Herkunft vorgeben. Für diese Aufgaben tragen sie, darüber hinaus nicht.
- 01Mehrsprachige Zuordnung von Anfragen und Mails in Betrieben mit europäischen Kunden
- 02Kurze Zusammenfassungen und Übersetzungen zwischen EU-Sprachen
- 03Klassifikation von Dokumenten nach Typ und Projekt auf kleiner Hardware
- 04Nachweis gegenüber Auftraggebern und Förderstellen, dass ein europäisches Modell im Einsatz ist
- 05Zweitmodell neben einem großen Modell für einfache, mehrsprachige Aufgaben
- 06Einstieg für Betriebe, die erst später in eine große Karte investieren
Bausteine
Was wir dafür entwickeln
Post-Lotse: Posteingang, mehrsprachig zugeordnet, ein Fall für die kleinen europäischen Modelle
Firmen-KI: Ihr KI-Gedächtnis, dafür braucht es ein größeres Modell, gern Mistral aus Europa
Kundenablage: CRM, erfassen, wer hereinkommt, in jeder EU-Sprache
Der Vorsprung europäischer Modelle liegt in der Sprache, nicht in der Breite. Das reicht oft genau aus.
Zielgruppen
Für wen sich das lohnt
Geschäftsführung
Sie haben eine Vorgabe zur europäischen Herkunft. Wir erfüllen sie mit Mistral in voller Größe und nehmen Teuken für Nebenaufgaben.
Verbände und öffentliche Betriebe
Sie müssen Souveränität nachweisen. Wir dokumentieren Modell, Herkunft und Betriebsort.
IT und Administration
Klein, genügsam, einfach zu betreiben. Als Zweitmodell auf demselben Server.
Ablauf
So ordnen wir die europäischen Modelle ein
- 1
Schritt 1
Daten- und Netz-Audit
Was liegt wo, wie viele Scans, welche Rechtegruppen, welcher Serverraum. Das Audit ist Tag 1 der Umsetzung, am Ende steht die Spezifikation für Server und Software.
- 2
Schritt 2
Aufbau im getrennten Netz
Server im eigenen Netzsegment, Modell lauffähig, Anmeldung über Ihr Active Directory, erster Test mit hundert echten Dokumenten.
- 3
Schritt 3
Einlesen, Härten, Betrieb
Bestand einlesen, Rechte vererben, Sicherheitsprüfung durch Dritte, Pilot mit einer Abteilung, dann Betrieb mit monatlichem Bericht.
Aufwand
Ab 2 Wochen Entwicklungszeit, je nach Umfang
Erster Schritt
Kostenloses Analysegespräch, 30 Minuten
Nachschlagen
Fachwörter auf dieser Seite
Erklärt im Glossar
Im Detail als Fachartikel
Fragen
Was Betriebe an dieser Stelle fragen
Sind Teuken und EuroLLM wirklich zu klein?
Für Suche mit Fundstelle über lange Akten und für Fachtexte ja. Für Zuordnung, Übersetzung und kurze Texte reichen sie gut.
Was ist das europäische Modell in voller Größe?
Mistral Small 4 aus Frankreich, Apache-Lizenz, mit dem natürlichsten Deutsch der großen offenen Modelle.
Zählt die Herkunft für die DSGVO?
Lokal betrieben nicht, weil keine Daten das Haus verlassen. Sie zählt für Auftraggeber und Förderstellen, die es vorgeben.
Werden die Modelle größer?
Die Forschungsprojekte arbeiten daran. Wir messen neue Versionen am Testsatz und tauschen, wenn es sich lohnt.
Gibt es Fördermittel für lokale KI?
Oft ja. Ob ein Zuschuss oder ein Darlehen greift, hängt an Ihrem Bundesland, an der Betriebsgröße und am Vorhaben. Hardware zählt in der Regel mit, wenn sie Teil des Vorhabens ist. Wir prüfen das vor dem Termin und sagen Ihnen, ob sich der Antragsaufwand lohnt.
Weiterlesen
Verwandte Seiten
Der nächste Schritt
Unser Ziel: keine Suchzeit mehr.
Sie fragen, die belegte Antwort steht mit Quelle da. Im kostenlosen Analysegespräch, 30 Minuten, sehen wir uns Ihr Unternehmen an und sagen Ihnen, wo die Firmen-KI zuerst hilft. Wir denken langfristig. Der erste Schritt soll sich für Sie schnell rechnen, deshalb steht Ihr erster Baustein ab 2 Wochen. Danach wachsen wir mit Ihnen weiter: Wir suchen langfristige Partnerschaften, keine Einmalprojekte.
- Festpreis je Schritt
- Stopp-Punkt mit Zwischenabnahme
- Eigener Code, der Ihnen gehört