Lokale KI · Migration

Von Cloud-KI zu lokal wechseln
in vier Schritten, ohne dass jemand aufhört zu arbeiten.

Viele Betriebe haben mit ChatGPT oder Copilot angefangen und stoßen jetzt an Datenschutz, Kosten oder die Ablage. Der Wechsel ist kein Bruch, sondern ein Umzug: Das Alte läuft, bis das Neue trägt.

Für wen
Betriebe, die Cloud-KI nutzen und wegen Daten, Kosten oder Ablage wechseln wollen
Aufwand
15 Arbeitstage bis zur Spezifikation
Förderung
Wird für Ihr Bundesland geprüft
Datenhaltung
Ab dem Umzug komplett im Haus, die Cloud wird abgeschaltet
Erster Schritt
Dreißig Minuten Erstgespräch per Video

Kurz gesagt

Der Wechsel von Cloud-KI zu lokal läuft in vier Schritten: Prompts, eigene GPTs und Arbeitsweisen erfassen, das lokale System parallel einrichten, mit denselben Aufgaben gegen die Cloud testen, dann Abteilung für Abteilung umziehen. Die Cloud bleibt, bis das lokale System bei Ihrem Testsatz mithält. Was mitgeht: Prompts, Vorlagen, Gewohnheiten. Was nicht mitgeht: Chatverläufe des Anbieters.

Stand: September 2026

Ein Dokumentenstapel unter einer Glasglocke, ein Kupferfaden führt von oben genau in ein bestimmtes Blatt
Die Unterlagen bleiben liegen, wo sie liegen. Gelesen wird darin, kopiert wird nichts, und die Antwort nennt das Blatt, aus dem sie stammt.

Warum der harte Schnitt scheitert

Der Fehler, den wir am häufigsten sehen: Cloud abschalten, lokales System anschalten, am selben Tag. Dann fehlt eine Vorlage, das Modell formuliert anders, jemand tippt seinen Prompt ein und bekommt eine schlechtere Antwort, und die Stimmung ist gekippt. Deshalb laufen beide Systeme parallel, so lange, bis Ihr Testsatz zeigt, dass das lokale mithält. Erst dann zieht die erste Abteilung um, und die Cloud wird abgeschaltet, wenn die letzte drüben ist.

Wie ein Wechsel zurück ins Haus abläuft

Sie ziehen dabei nicht das System um, sondern die Daten und die Gewohnheit. Die Technik ist der einfachere Teil: Bestand einlesen, Rechte anbinden, Modell wählen. Der schwierigere Teil ist, dass Ihre Leute etwas gewohnt sind und das Neue am Alten messen werden, auch wenn es einen anderen Zweck hat.

Deshalb läuft ein Wechsel parallel und nicht als Stichtag. Beide Wege sind eine Zeit lang verfügbar, die Leute vergleichen selbst, und erst wenn das eigene System bei den Fragen des Alltags besser abschneidet, wird umgestellt. Das dauert länger und hält.

Was vorher geklärt gehört, ist der Ausstieg aus dem bisherigen Dienst: Welche Daten liegen dort, wie bekommen Sie sie vollständig heraus, und was passiert mit dem, was bleibt. Diese Frage stellt man besser vor der Kündigung als danach.

Sechs Dinge, die beim Umzug mitkommen

Das Wissen aus der Cloud-Zeit ist nicht verloren. Das meiste davon ist in Köpfen und Vorlagen, und die nehmen Sie mit.

  • Prompts und Vorlagen, die sich Mitarbeitende zurechtgelegt haben, als Bibliothek im lokalen Chat
  • Eigene GPTs mit Anweisungen und Beispielen, übersetzt in Systemanweisungen des lokalen Modells
  • Die Liste der Aufgaben, die heute mit KI erledigt werden, als Grundlage für den Testsatz
  • Erfahrungen, wo die Cloud-KI gut war und wo sie erfunden hat, als Prüfpunkte für das lokale System
  • Regeln, welche Daten wohin dürfen, jetzt einfacher, weil lokal alles darf
  • Die Gewohnheit, KI zu fragen, der wertvollste Teil, den kein Umzug kaputt machen darf

Was wir dafür entwickeln

Büro-Gedächtnis: Ihr KI-Gedächtnis, das nach dem Umzug erstmals an die ganze Ablage herankommtBüro-Gedächtnis im Detail
Post-Lotse: Posteingang, der erste Ablauf, den Sie lokal einführen, weil er in der Cloud nie erlaubt warPost-Lotse im Detail
Kundenablage: CRM: erfassen, wer hereinkommt, jetzt ohne Datenpfad nach außenKundenablage im Detail

Ein Wechsel läuft parallel, nicht mit Stichtag. Sonst vergleichen Ihre Leute Neues mit Erinnerung.

Für wen sich das lohnt

Geschäftsführung
Sie zahlen Cloud-Lizenzen und wollen raus, ohne dass die Arbeit stockt. Der parallele Betrieb kostet ein paar Wochen doppelt und spart den Aufstand.
Mitarbeitende
Sie haben sich an ChatGPT gewöhnt und fürchten Rückschritt. Ihre Prompts kommen mit, der Chat sieht ähnlich aus, und die Ablage ist neu dabei.
Datenschutzbeauftragte
Sie wollen den Cloud-Zugang endlich abschalten. Der Umzugsplan nennt das Datum je Abteilung.

So läuft der Umzug

  1. Schritt 1

    Erfassen, was Sie heute tun

    Prompts, GPTs, Vorlagen, Aufgabenliste, Nutzerzahl. Zwei Termine mit den Abteilungen, die KI am meisten nutzen. Daraus der Testsatz.

  2. Schritt 2

    Parallel einrichten und vergleichen

    Lokales System auf Ihrem Server, dieselben Aufgaben, Vergleich mit der Cloud-Antwort. Wo lokal verliert, wird nachgebessert oder ehrlich benannt.

  3. Schritt 3

    Abteilungsweise umziehen

    Erst die Abteilung mit dem größten Datenschutzdruck, dann die anderen. Schulung je Abteilung, Cloud-Zugang endet, wenn die Abteilung drüben ist.

◆Fachwörter auf dieser Seite

Erklärt im Glossar

Im Detail als Fachartikel

Häufig gefragt

Können wir die Chatverläufe aus ChatGPT mitnehmen?

Exportieren ja, sinnvoll selten. Die Verläufe enthalten oft Daten, die dort nie hätten sein dürfen. Wir empfehlen, Prompts und Vorlagen zu retten und die Verläufe zu löschen.

Wie lange läuft der Parallelbetrieb?

Bis der Testsatz zeigt, dass das lokale System mithält, meist wenige Wochen. Bei Betrieben mit vielen eigenen GPTs länger, weil jede Anweisung übersetzt und geprüft wird.

Was, wenn das lokale Modell bei manchen Aufgaben schlechter ist?

Dann sagen wir das. Beim freien Schreiben langer Texte ist das zu erwarten. Sie entscheiden, ob dafür ein Cloud-Zugang mit klaren Regeln bleibt oder ob der Entwurf reicht.

Müssen alle Abteilungen gleichzeitig wechseln?

Nein, und sie sollten es nicht. Erst die mit dem größten Datenschutzdruck oder dem größten Nutzen aus der Ablage, dann die anderen. Jede Abteilung bekommt ihre Schulung.

Gibt es Fördermittel für lokale KI?

Oft ja. Ob ein Zuschuss oder ein Darlehen greift, hängt an Ihrem Bundesland, an der Betriebsgröße und am Vorhaben. Hardware zählt in der Regel mit, wenn sie Teil des Vorhabens ist. Wir prüfen das vor dem Termin und sagen Ihnen, ob sich der Antragsaufwand lohnt.

Verwandte Seiten

Programme, mit denen Sie arbeiten

Zu jedem steht, was sich anbinden lässt, was dabei herauskommt und wo die Grenze liegt.

Alle Programme →

Sehen wir uns Ihren Bestand an.

Dreißig Minuten, per Video oder Telefon. Danach wissen Sie, ob lokale KI bei Ihnen trägt und was der erste Schritt ist.