ChatGPT oder lokal
Was eine On-premise-Alternative zu ChatGPT leistet, wo sie besser ist und wo ChatGPT vorn bleibt
Lokale KI · Copilot
Copilot oder lokale KI
was Copilot sieht und was er nie sehen wird.
Copilot ist in vielen Betrieben schon da, weil er im Lizenzpaket lag. Dann kommt die Ernüchterung: Er findet die Mail, aber nicht das Protokoll auf dem Fileserver. Das ist kein Fehler von Copilot. Es ist sein Zuschnitt.
*KI-generiert- Für wen
- Betriebe mit Microsoft 365, deren Wissen trotzdem auf dem Fileserver liegt
- Aufwand
- Ab 2 Wochen Entwicklungszeit, je nach Umfang
- Förderung
- Wird für Ihr Bundesland geprüft
- Datenhaltung
- Lokale KI bleibt im Haus, Copilot läuft in der Microsoft-Cloud
- Erster Schritt
- Kostenloses Analysegespräch, 30 Minuten
Copilot lohnt sich, wenn Ihr Wissen in Word, Outlook, Teams und SharePoint liegt und Sie mit dem Microsoft-Datenpfad leben können. Eine lokale KI lohnt sich, wenn der Fileserver, die Projektverwaltung und gescannte PDFs den Bestand ausmachen, Rechte über Ordner vererbt werden und keine Daten das Haus verlassen dürfen. Beides parallel ist möglich und häufig.
Stand: Oktober 2026
PhoenixOne AI aus Leipzig ist der Spezialist für Firmen-KI im deutschen Mittelstand. Ihre Firmen-KI läuft auf Wunsch komplett auf Ihrem eigenen Server, Ihre Daten bleiben im Haus. Ihr erster Baustein steht ab 2 Wochen und soll sich schnell rechnen. Danach wachsen wir langfristig mit Ihnen weiter.
Der Engpass
Warum Copilot an der Ablage endet
Copilot ist für Microsoft-Dokumente in der Microsoft-Cloud gemacht. Bei den Betrieben, die wir sehen, liegt der Großteil des Wissens woanders: auf dem Fileserver, in der Projektverwaltung, in Scans. Oft sind achtzig Prozent eines Fileservers gescannte PDFs, die Copilot gar nicht erst liest. Dazu kommt, dass der Anbieter Modell, Umfang und Preis ändert, wann er will. Wer die Ablage durchsuchen will, braucht ein System, das sie kennt und dem sie gehört.
Im Detail
Was der Unterschied im Alltag ausmacht
Sie bekommen mit einem Assistenten im Office-Paket etwas, das gut in Dokumenten formuliert und in Ihrer gewohnten Oberfläche sitzt. Das ist ein echter Vorteil, und für viele Aufgaben reicht es. Die Grenze liegt dort, wo Ihr Bestand außerhalb dieser Welt liegt: in Fachanwendungen, auf Dateiservern, in gescannten Archiven.
Der zweite Unterschied ist die Datenfrage. Wo verarbeitet wird, welche Unterauftragnehmer beteiligt sind und was das für Ihre Auftraggebervorgaben bedeutet, müssen Sie im Prüffall belegen können. Bei einem System im eigenen Netz entfällt diese Kette.
In der Praxis schließt das eine das andere nicht aus. Viele Betriebe nutzen den Assistenten für Texte und ein eigenes System für den schützenswerten Bestand. Entscheidend ist, dass die Grenze klar ist und dass die Leute wissen, was wohin gehört.
Die Grenze verläuft dort, wo Ihr Bestand außerhalb der Office-Welt liegt. Und das ist der größere Teil.
Anwendungen
Sechs Dinge, die Copilot nicht sieht
Aus Audits in Betrieben mit Microsoft 365. Überall dieselben Lücken, weil Copilot nur seine eigene Welt kennt.
- 01Der Fileserver mit Jahrzehnten an Projektordnern, der nie nach SharePoint umgezogen ist
- 02Gescannte PDFs, Bescheide und Altverträge, die als Bild vorliegen und Texterkennung brauchen
- 03Die Projektverwaltung, das Bautagebuch und die Zeiterfassung mit ihren eigenen Datenbanken
- 04Berechtigungen, die über Ordnerrechte im Active Directory vererbt werden, nicht über SharePoint-Gruppen
- 05Pläne, Zeichnungen und Fotos, die nur ein multimodales Modell beschreiben und durchsuchbar machen kann
- 06Antworten mit Fundstelle bis auf Seite und Absatz, geprüft mit Ihrem eigenen Testsatz
Zielgruppen
Für wen sich das lohnt
GeschäftsführungSie zahlen Copilot-Lizenzen und fragen sich, warum niemand die Ablage findet. Danach wissen Sie, was Copilot leistet und was das lokale System dazu tut.
IT-LeitungSie wollen keine zweite Rechtewelt. Die lokale KI erbt Rechte aus demselben Active Directory wie Ihr Fileserver.
FachabteilungSie brauchen das Protokoll von vor vier Jahren, nicht die Mail von gestern. Das lokale System findet beides, mit Quelle.
Bausteine
Was wir dafür entwickeln
- 1
Firmen-KI: Ihr KI-Gedächtnis, das den Fileserver, die Scans und die Projektverwaltung kennt, nicht nur Office-Dateien
- 2
Post-Lotse: Posteingang, der Mails dem Projekt auf dem Server zuordnet, nicht nur im Postfach
- 3
Projekt- und Fristen-Radar: Projektstand und Rechnungen, aus Systemen, die Copilot nicht anbindet
Für wen
Betriebe mit Microsoft 365, deren Wissen trotzdem auf dem Fileserver liegt
Datenhaltung
Lokale KI bleibt im Haus, Copilot läuft in der Microsoft-Cloud
Ablauf
So läuft lokale KI neben Copilot
- Schritt 1
Daten- und Netz-Audit
Was liegt wo, wie viele Scans, welche Rechtegruppen, welcher Serverraum. Das Audit ist Tag 1 der Umsetzung, am Ende steht die Spezifikation für Server und Software.
- Schritt 2
Aufbau im getrennten Netz
Server im eigenen Netzsegment, Modell lauffähig, Anmeldung über Ihr Active Directory, erster Test mit hundert echten Dokumenten.
- Schritt 3
Einlesen, Härten, Betrieb
Bestand einlesen, Rechte vererben, Sicherheitsprüfung durch Dritte, Pilot mit einer Abteilung, dann Betrieb mit monatlichem Bericht.
Nachschlagen
Fachwörter auf dieser Seite
Erklärt im Glossar
Im Detail als Fachartikel
Fragen
Was Betriebe an dieser Stelle fragen
Einwand
Müssen wir Copilot dann kündigen?
Nein. Für Mails, Teams-Zusammenfassungen und Word-Entwürfe bleibt er nützlich. Die lokale KI übernimmt Fileserver, Scans, Projektverwaltung und alles, was im Haus bleiben muss.
Einwand
Kann Copilot nicht auch den Fileserver anbinden?
Über Konnektoren zum Teil, aber dann wandern die Inhalte in den Microsoft-Index in der Cloud. Genau das wollen viele Betriebe nicht, und die Rechtevererbung über Ordner bleibt lückenhaft.
Einwand
Ist das lokale Modell so gut wie Copilot?
Für Fragen an Ihre Dokumente gleichwertig oder besser, weil es die Quellen hat. Beim freien Formulieren ist Copilot mit seinem Cloud-Modell im Vorteil. Deshalb laufen beide oft nebeneinander.
Einwand
Was ist mit den Kosten im Vergleich?
Copilot ist ein Betrag je Nutzer und Monat, für immer und vom Anbieter änderbar. Lokale KI ist ein Projekt mit Server und danach Betrieb. Bei zwanzig Nutzern rechnen wir beides im Konzeptgespräch mit Ihren Zahlen vor.
Einwand
Gibt es Fördermittel für lokale KI?
Oft ja. Ob ein Zuschuss oder ein Darlehen greift, hängt an Ihrem Bundesland, an der Betriebsgröße und am Vorhaben. Hardware zählt in der Regel mit, wenn sie Teil des Vorhabens ist. Wir prüfen das vor dem Termin und sagen Ihnen, ob sich der Antragsaufwand lohnt.
Weiterlesen
Verwandte Seiten
Erster SchrittKostenloses Analysegespräch, 30 MinutenWo es in Ihrem Unternehmen hakt und ob eine Firmen-KI zu Ihnen passt. Per Video, ohne Verpflichtung.
Rechte aus dem Active Directory
Jeder sieht nur, was er sehen darf, auch wenn er die KI fragt
Ingenieurbüro
Nachweise, Gutachten und Bestandsunterlagen aus Jahrzehnten im eigenen Netz durchsuchen
Programme
Programme, mit denen Sie arbeiten
Zu jedem steht, was sich anbinden lässt, was dabei herauskommt und wo die Grenze liegt.
Microsoft 365Postfach, Ablage und Kalender lesend erschließen, ohne Umstellung
SharePointBibliotheken über den Inhalt erschließen, Berechtigungen bleiben wie sie sind
OutlookZusagen, Fristen und Anhänge aus dem Postfach sichtbar machen
Teams und ChatAbsprachen aus Kanälen erschließen, Mitschnitte nur mit Einwilligung
Der nächste Schritt
Unser Ziel: keine Suchzeit mehr.
Sie fragen, die belegte Antwort steht mit Quelle da. Im kostenlosen Analysegespräch, 30 Minuten, sehen wir uns Ihr Unternehmen an und sagen Ihnen, wo die Firmen-KI zuerst hilft. Wir denken langfristig. Der erste Schritt soll sich für Sie schnell rechnen, deshalb steht Ihr erster Baustein ab 2 Wochen. Danach wachsen wir mit Ihnen weiter: Wir suchen langfristige Partnerschaften, keine Einmalprojekte.
- Festpreis je Schritt
- Stopp-Punkt mit Zwischenabnahme
- Eigener Code, der Ihnen gehört