In fast jedem Erstgespräch kommt irgendwann die Frage: "Wir haben doch schon ChatGPT — wozu bauen Sie uns noch eine eigene KI?" Die Frage ist berechtigt. ChatGPT ist gut. Für vieles reicht es vollkommen. Und trotzdem kommt für die meisten Mittelständler ein Punkt, an dem der Sprung auf eine eigene Infrastruktur sinnvoll wird.
Hier ist die ehrliche Antwort, was ChatGPT kann, was nicht, und ab wann sich der Wechsel lohnt.
Was ChatGPT Enterprise gut kann
Nicht übersehen: ChatGPT (Enterprise oder Team) ist ein erstklassiges Werkzeug. Fünf Dinge kann es richtig gut:
- Schnelles Onboarding. Lizenz kaufen, Nutzer einladen, am selben Tag produktiv. Keine Projektlaufzeit, keine Einführung.
- Breites Allgemeinwissen. Für Texte, Recherche, Übersetzungen, schnelle Zusammenfassungen ist ChatGPT state of the art.
- Office-Integration. Mit den aktuellen Enterprise-Funktionen verknüpft sich ChatGPT sauber in Microsoft 365, Google Workspace und E-Mail-Flows.
- DSGVO-konform bei richtigem Setup. Enterprise-AVV ist da, Daten werden nicht zum Training genutzt, EU-Rechenzentren verfügbar.
- Individuelle Assistenz. Jeder Mitarbeiter hat seinen persönlichen Sparringspartner für Entwürfe, Reviews und Ideen — mit klarem Mehrwert.
Für diese Anwendungen ist ChatGPT richtig, und wir raten in vielen Erstgesprächen: "Bleiben Sie erstmal bei ChatGPT Enterprise, ein eigenes System lohnt sich bei Ihnen noch nicht."
Was ChatGPT nicht kann
Die Grenzen werden sichtbar, sobald man ChatGPT aus der persönlichen Assistenz herausholen will:
- Auf Firmen-Daten trainieren. ChatGPT hat Ihr Produktportfolio, Ihre Kundenhistorie, Ihre internen Prozesse nicht. Custom GPTs können das ansatzweise, sind aber kein ausgebildetes System.
- Multi-Step-Prozesse orchestrieren. ChatGPT führt einen Dialog, aber keinen Geschäftsprozess. Es schickt keine Rechnung, es aktualisiert kein CRM-Feld, es triggert keinen Folge-Workflow.
- Mit internem CRM, ERP, Datenbank sprechen. Über API-Connectoren geht einiges, aber in der Praxis bleibt es bei Lese-Zugriff und Einzelintegrationen. Der Chat wird nicht zur Prozess-Engine.
- Deterministisch agieren. Die gleiche Frage erzeugt bei 10 Mitarbeitern tendenziell 10 leicht verschiedene Antworten. Für Assistenz egal, für verbindliche Prozesse nicht tragbar.
- Team-übergreifende Komponenten bieten. Jeder nutzt sein eigenes ChatGPT. Es entsteht kein gemeinsamer Wissens-Layer, kein geteilter Prozess-Agent, keine zentrale Infrastruktur.
Die fünf Schwellen — ab wann ChatGPT nicht mehr reicht
In unseren Projekten haben wir fünf klare Indikatoren identifiziert, die im Kombination oder einzeln den Wechsel sinnvoll machen:
Schwelle 1 — Ihre Mitarbeiter kopieren Daten aus dem CRM in den Chat
Der klassische Trigger. Ein Vertriebler kopiert die Kundenhistorie aus dem CRM, fügt sie in ChatGPT ein, fragt: "Wie soll ich hier antworten?" Das ist ein produktiver Hack, aber auch ein Signal: Ihr Betrieb nutzt KI bereits für Prozesse, nur eben manuell angebunden. Eine CRM-integrierte Lösung spart jeder Interaktion mehrere Minuten — und vermeidet Copy-Paste-Fehler.
Schwelle 2 — Sie brauchen gleiche Antworten von jedem Mitarbeiter
Sobald KI in kundenrelevanten Prozessen genutzt wird (Angebote, Beratung, Erstantworten), wird Verbindlichkeit relevant. Wenn zehn Vertriebler dieselbe Kunden-Frage zehn unterschiedlich gute Antworten bekommen, ist das ein Qualitätsproblem. Eine eigene KI kann auf festem Firmen-Wissen aufsetzen und reproduzierbare Antworten liefern.
Schwelle 3 — Der KI-Einsatz soll abteilungsübergreifend laufen
Vertrieb nutzt ChatGPT für Angebote. HR nutzt ChatGPT für Stellenbeschreibungen. Operations nutzt ChatGPT für Prozessdokumentation. Das sind drei Silos — und drei Abonnements ohne gemeinsamen Nutzen. Eine eigene Infrastruktur kann abteilungsübergreifende Komponenten bauen: einen Wissens-Agent, den alle fragen, einen Dokument-Agent, den alle nutzen, eine Integration, die allen dient.
Schwelle 4 — Sie wollen messbare Prozess-Automation, keine Assistenz
Der Unterschied ist grundlegend: Assistenz spart Zeit pro Interaktion. Prozess-Automation eliminiert Interaktionen ganz. Wenn Ihr Ziel ist, dass eingehende Ausschreibungen automatisch beantwortet werden, WhatsApp-Anfragen ohne Mitarbeiter qualifiziert werden, Rechnungen vorgeprüft in den Freigabe-Workflow gehen — dann ist ChatGPT das falsche Werkzeug. Dann brauchen Sie Agenten.
Schwelle 5 — Sie sitzen in Sachsen und wollen EFRE-Förderung nutzen
Wichtiger Punkt, den viele übersehen: Der EFRE-Digitalisierungszuschuss fördert Digitalisierungs-Investitionen — also konkrete Projekte mit Implementierung und messbaren KPIs. Eine ChatGPT-Enterprise-Lizenz ist eine Software-as-a-Service-Miete, die für sich allein kein förderfähiges Projekt bildet. Wer in Sachsen fördern lassen will, braucht ein eigenes Projekt mit Integrationstiefe — und genau das ist eine eigene KI-Infrastruktur.
ChatGPT Enterprise vs. eigenes KI-System
| Dimension | ChatGPT Enterprise | Eigenes KI-System |
|---|---|---|
| Integration in CRM/ERP | Connector-basiert, Lesezugriff | Tief integriert, Lese- und Schreibzugriff |
| Förderfähigkeit (EFRE) | Nein (laufende SaaS-Miete) | Ja, als Digitalisierungs-Projekt |
| Kosten Jahr 1 (40 Nutzer) | ~20 000 Euro (Lizenzen) | 60 000 bis 100 000 Euro einmalig + 3 000-7 000 Euro/Jahr laufend |
| Kosten Jahr 3 (kumuliert) | ~60 000 Euro | 75 000 bis 115 000 Euro (davon 50 Prozent EFRE-förderfähig) |
| Team-Übergabe | Nicht nötig (Tool-Nutzung) | Standard im Projekt |
| Deterministisches Verhalten | Nein | Ja, über kontrollierte Agent-Logik |
| Unabhängigkeit vom Anbieter | Nein — Abo-Abhängigkeit | Ja, volle Kontrolle über die Infrastruktur |
Der Vergleich ist nicht "ChatGPT ist teurer oder günstiger" — das hängt an der Nutzerzahl. Der Vergleich ist: Was bekommen Sie dafür? Bei ChatGPT: Assistenz für alle Mitarbeiter. Bei eigenem System: Prozess-Komponenten, die eigenständig arbeiten.
Der Moment, wo ChatGPT nicht mehr reicht, ist nicht der Moment der Größe — sondern der Moment, wo Prozesse verbindlich werden sollen.
Was wir in der Praxis sehen
In sächsischen Mittelstandsbetrieben sehen wir typischerweise folgenden Verlauf:
- Monat 1 bis 6: Pilot-Nutzung von ChatGPT durch einzelne Mitarbeiter oder Abteilungen. Erste Erfolge, Begeisterung.
- Monat 6 bis 12: Unternehmensweite Einführung von ChatGPT Enterprise oder Team. Lizenzkosten stabilisieren sich bei 15 000 bis 30 000 Euro pro Jahr.
- Monat 12 bis 18: Erste Frustrations-Signale. Mitarbeiter kopieren Daten zwischen Systemen, einige Abteilungen fordern Integration, es entstehen informelle Custom GPTs mit inkonsistenten Resultaten.
- Monat 18 bis 24: Entscheidung zur eigenen Infrastruktur. ChatGPT bleibt für Assistenz (oft bei reduzierter Nutzerzahl), eigenes System übernimmt die Prozess-Schicht.
Das ist kein Zwang — es ist ein Muster. Betriebe, die bei reiner Assistenz-Nutzung bleiben, können durchaus dauerhaft mit ChatGPT arbeiten. Betriebe, die KI strategisch im Geschäftsprozess wollen, machen den Schritt.
Der ChatGPT-Reifegrad-Check
Fünf Fragen, die Sie sich selbst beantworten können:
- Nutzen Ihre Mitarbeiter ChatGPT regelmäßig? (Ja → weiter)
- Kopieren sie dabei Daten aus CRM, ERP oder internen Dokumenten rein? (Ja → klares Signal)
- Haben unterschiedliche Mitarbeiter unterschiedliche Antworten auf die gleiche Kundenfrage? (Ja → Qualitätsproblem)
- Gibt es in mindestens 2 Abteilungen KI-Einsätze, die voneinander nichts wissen? (Ja → Silo-Problem)
- Möchten Sie KI in kundenrelevanten Prozessen verbindlich nutzen? (Ja → eigenes System)
Wenn Sie bei drei oder mehr Fragen mit "Ja" antworten, ist die Schwelle erreicht.
Der Weg ohne Brüche
Wichtig: Der Wechsel ist kein Austausch, sondern eine Erweiterung. ChatGPT bleibt in den meisten Projekten als persönliches Assistenz-Werkzeug im Einsatz. Was dazu kommt, ist die eigene Infrastruktur für die Prozess-Ebene — CRM-Integration, Dokument-Agenten, abteilungsübergreifende Komponenten. Die beiden Welten arbeiten nebeneinander.
In +15 Projekten haben wir das so gesehen: Betriebe reduzieren ihre ChatGPT-Lizenzen nicht auf null. Sie reduzieren sie auf die Anzahl der Mitarbeiter, die ChatGPT wirklich für individuelle Assistenz nutzen. Der Rest wird durch die eigene Infrastruktur abgedeckt — und zwar mit klarem, messbarem Prozess-Nutzen, gefördert über EFRE, übergeben ans Team.
Häufige Fragen
ChatGPT Enterprise und Team sind bei korrektem Setup DSGVO-konform — AVV, keine Trainingsnutzung, EU-Rechenzentren. Die kostenlose Version und ChatGPT Plus sind für Firmendaten nicht geeignet.
Stand: April 2026 — ChatGPT-Funktionalität entwickelt sich schnell. Die strukturelle Unterscheidung zwischen Assistenz und Infrastruktur bleibt bestehen.