
Lokale KI · Migration
Von Cloud-KI zu lokal wechseln
in vier Schritten, ohne dass jemand aufhört zu arbeiten.
Viele Betriebe haben mit ChatGPT oder Copilot angefangen und stoßen jetzt an Datenschutz, Kosten oder die Ablage. Der Wechsel ist kein Bruch, sondern ein Umzug: Das Alte läuft, bis das Neue trägt.
- Für wen
- Betriebe, die Cloud-KI nutzen und wegen Daten, Kosten oder Ablage wechseln wollen
- Aufwand
- 15 Arbeitstage bis zur Spezifikation
- Förderung
- Wird für Ihr Bundesland geprüft
- Datenhaltung
- Ab dem Umzug komplett im Haus, die Cloud wird abgeschaltet
- Erster Schritt
- Dreißig Minuten Erstgespräch per Video
Kurz gesagt
Der Wechsel von Cloud-KI zu lokal läuft in vier Schritten: Prompts, eigene GPTs und Arbeitsweisen erfassen, das lokale System parallel einrichten, mit denselben Aufgaben gegen die Cloud testen, dann Abteilung für Abteilung umziehen. Die Cloud bleibt, bis das lokale System bei Ihrem Testsatz mithält. Was mitgeht: Prompts, Vorlagen, Gewohnheiten. Was nicht mitgeht: Chatverläufe des Anbieters.
Stand: September 2026

Warum der harte Schnitt scheitert
Der Fehler, den wir am häufigsten sehen: Cloud abschalten, lokales System anschalten, am selben Tag. Dann fehlt eine Vorlage, das Modell formuliert anders, jemand tippt seinen Prompt ein und bekommt eine schlechtere Antwort, und die Stimmung ist gekippt. Deshalb laufen beide Systeme parallel, so lange, bis Ihr Testsatz zeigt, dass das lokale mithält. Erst dann zieht die erste Abteilung um, und die Cloud wird abgeschaltet, wenn die letzte drüben ist.
Wie ein Wechsel zurück ins Haus abläuft
Sie ziehen dabei nicht das System um, sondern die Daten und die Gewohnheit. Die Technik ist der einfachere Teil: Bestand einlesen, Rechte anbinden, Modell wählen. Der schwierigere Teil ist, dass Ihre Leute etwas gewohnt sind und das Neue am Alten messen werden, auch wenn es einen anderen Zweck hat.
Deshalb läuft ein Wechsel parallel und nicht als Stichtag. Beide Wege sind eine Zeit lang verfügbar, die Leute vergleichen selbst, und erst wenn das eigene System bei den Fragen des Alltags besser abschneidet, wird umgestellt. Das dauert länger und hält.
Was vorher geklärt gehört, ist der Ausstieg aus dem bisherigen Dienst: Welche Daten liegen dort, wie bekommen Sie sie vollständig heraus, und was passiert mit dem, was bleibt. Diese Frage stellt man besser vor der Kündigung als danach.
Sechs Dinge, die beim Umzug mitkommen
Das Wissen aus der Cloud-Zeit ist nicht verloren. Das meiste davon ist in Köpfen und Vorlagen, und die nehmen Sie mit.
- Prompts und Vorlagen, die sich Mitarbeitende zurechtgelegt haben, als Bibliothek im lokalen Chat
- Eigene GPTs mit Anweisungen und Beispielen, übersetzt in Systemanweisungen des lokalen Modells
- Die Liste der Aufgaben, die heute mit KI erledigt werden, als Grundlage für den Testsatz
- Erfahrungen, wo die Cloud-KI gut war und wo sie erfunden hat, als Prüfpunkte für das lokale System
- Regeln, welche Daten wohin dürfen, jetzt einfacher, weil lokal alles darf
- Die Gewohnheit, KI zu fragen, der wertvollste Teil, den kein Umzug kaputt machen darf
Was wir dafür entwickeln
Ein Wechsel läuft parallel, nicht mit Stichtag. Sonst vergleichen Ihre Leute Neues mit Erinnerung.
Für wen sich das lohnt
- Geschäftsführung
- Sie zahlen Cloud-Lizenzen und wollen raus, ohne dass die Arbeit stockt. Der parallele Betrieb kostet ein paar Wochen doppelt und spart den Aufstand.
- Mitarbeitende
- Sie haben sich an ChatGPT gewöhnt und fürchten Rückschritt. Ihre Prompts kommen mit, der Chat sieht ähnlich aus, und die Ablage ist neu dabei.
- Datenschutzbeauftragte
- Sie wollen den Cloud-Zugang endlich abschalten. Der Umzugsplan nennt das Datum je Abteilung.
So läuft der Umzug
Schritt 1
Erfassen, was Sie heute tun
Prompts, GPTs, Vorlagen, Aufgabenliste, Nutzerzahl. Zwei Termine mit den Abteilungen, die KI am meisten nutzen. Daraus der Testsatz.
Schritt 2
Parallel einrichten und vergleichen
Lokales System auf Ihrem Server, dieselben Aufgaben, Vergleich mit der Cloud-Antwort. Wo lokal verliert, wird nachgebessert oder ehrlich benannt.
Schritt 3
Abteilungsweise umziehen
Erst die Abteilung mit dem größten Datenschutzdruck, dann die anderen. Schulung je Abteilung, Cloud-Zugang endet, wenn die Abteilung drüben ist.
Häufig gefragt
Können wir die Chatverläufe aus ChatGPT mitnehmen?
Exportieren ja, sinnvoll selten. Die Verläufe enthalten oft Daten, die dort nie hätten sein dürfen. Wir empfehlen, Prompts und Vorlagen zu retten und die Verläufe zu löschen.
Wie lange läuft der Parallelbetrieb?
Bis der Testsatz zeigt, dass das lokale System mithält, meist wenige Wochen. Bei Betrieben mit vielen eigenen GPTs länger, weil jede Anweisung übersetzt und geprüft wird.
Was, wenn das lokale Modell bei manchen Aufgaben schlechter ist?
Dann sagen wir das. Beim freien Schreiben langer Texte ist das zu erwarten. Sie entscheiden, ob dafür ein Cloud-Zugang mit klaren Regeln bleibt oder ob der Entwurf reicht.
Müssen alle Abteilungen gleichzeitig wechseln?
Nein, und sie sollten es nicht. Erst die mit dem größten Datenschutzdruck oder dem größten Nutzen aus der Ablage, dann die anderen. Jede Abteilung bekommt ihre Schulung.
Gibt es Fördermittel für lokale KI?
Oft ja. Ob ein Zuschuss oder ein Darlehen greift, hängt an Ihrem Bundesland, an der Betriebsgröße und am Vorhaben. Hardware zählt in der Regel mit, wenn sie Teil des Vorhabens ist. Wir prüfen das vor dem Termin und sagen Ihnen, ob sich der Antragsaufwand lohnt.
Verwandte Seiten
- Cloud oder lokalWann Cloud-KI reicht, wann der eigene Server die bessere Wahl ist, mit beiden Seiten
- Modellwahl mit TestsatzWelches offene Modell zu Ihnen passt, entscheidet nicht die Bestenliste, sondern Ihr Testsatz
- BrandschutzplanungBrandschutzkonzepte, Nachweise und Objektakten sicherheitsrelevanter Gebäude im eigenen Netz
Programme, mit denen Sie arbeiten
Zu jedem steht, was sich anbinden lässt, was dabei herauskommt und wo die Grenze liegt.
- Altdaten übernehmenIn Schichten erschließen, nicht am Stück
- DatenqualitätSchlechte Daten blockieren nicht, sie kosten Trefferqualität
- Programme anbindenVier Wege in ein bestehendes Programm, alle lesend
- SharePointBibliotheken über den Inhalt erschließen, Berechtigungen bleiben wie sie sind
- NextcloudEigene Ablage erschließen, der Weg bleibt vollständig im Haus
- OpenAI APISprache, Bild und Stimme, wenn drei Arten Material zusammenkommen
Sehen wir uns Ihren Bestand an.
Dreißig Minuten, per Video oder Telefon. Danach wissen Sie, ob lokale KI bei Ihnen trägt und was der erste Schritt ist.