"Ist das überhaupt sicher?" — die Frage kommt in praktisch jedem Erstgespräch. Zu Recht. Wer einem KI-System Zugriff auf CRM, Dokumenten-Archiv, E-Mail-Postfach oder sogar SAP gibt, öffnet eine neue Angriffsfläche. Gute Nachricht: Das Bundesamt für Sicherheit in der Informationstechnik hat die wichtigsten Leitplanken in den letzten zwei Jahren bereits gezogen — und die sind praxisnah genug, dass auch mittelständische Betriebe ohne eigenes Security-Team damit arbeiten können.
Der BSI-Kriterienkatalog für generative KI
Die BSI-Themenseite zu Künstlicher Intelligenz bündelt die aktuellen Leitfäden. Der Kriterienkatalog für die Integration generativer KI-Modelle ist das zentrale Dokument für Betriebe, die ChatGPT, Copilot, Claude oder ein eigenes LLM produktiv einsetzen. Er gliedert sich in sechs Themenblöcke:
- Datenklassifizierung und -fluss — Welche Daten gehen ins Modell, welche nicht?
- Zugriffs- und Rechtemanagement — Wer kann das KI-System nutzen, wer sieht die Ergebnisse?
- Modellauswahl und -bewertung — Welches Modell für welchen Zweck, und wie prüft man es?
- Logging und Monitoring — Was wird protokolliert, wer liest die Logs?
- Incident-Response — Was passiert, wenn das Modell halluziniert, falsche Informationen ausgibt oder kompromittiert wird?
- Betriebs- und Kontinuitätsplanung — Was, wenn das Modell oder der Anbieter ausfällt?
Das ist keine Checklisten-Schikane, sondern eine solide Architektur-Grundlage. Wir gehen in unseren Projekten genau diese sechs Punkte durch, bevor das erste System live geht.
Was 2025 Neues kam — der OT-/KRITIS-Leitfaden
Im Dezember 2025 hat das BSI mit internationalen Sicherheitsbehörden (u. a. NCSC UK, CISA US, ANSSI Frankreich) einen gemeinsamen Leitfaden zur sicheren Integration von KI in Industriesteuerungen und kritischen Infrastrukturen veröffentlicht. Die BSI-Presseinformation vom 3. Dezember 2025 macht den Umfang deutlich: Für Betriebe, die KI in Produktionsanlagen, Energieversorgung, Wassertechnik oder anderen OT-Umgebungen einsetzen, gibt es jetzt einen verbindlichen Stand der Technik.
Für den sächsischen Industriemittelstand ist das relevant — Maschinenbau, Chemie, Metallverarbeitung, Halbleiter-Zulieferer. Wer KI näher an die Produktion heranholen will (z. B. Predictive Maintenance, Qualitätsprüfung per Computer Vision, Anomalie-Erkennung in Sensordaten), sollte sich diesen Leitfaden anschauen. Der Kern: Starke Trennung zwischen IT- und OT-Netzen, keine direkten Zugriffe von Cloud-KI auf Steuerungen, saubere Audit-Logs auf der OT-Seite.
Die Entwickler-Guideline (BSI + ANSSI)
Der BSI-ANSSI-Report zur sicheren Nutzung von KI-Programmierassistenten aus Ende 2023 ist der Praxis-Leitfaden für alle, die Copilot, Cursor, Claude Code oder ähnliche Tools im Entwicklungsprozess nutzen. Kernpunkte für den Mittelstand:
- Keine Kunden- oder Produktiv-Daten in Public-LLM-Prompts. Klingt trivial, passiert aber täglich.
- Sensible Code-Passagen nicht in externe Coding-Tools einfügen — gerade bei proprietärer Business-Logik oder kryptografischen Funktionen.
- Output immer reviewen. KI-generierter Code hat eine messbar höhere Defekt-Rate als manuell geschriebener Code, insbesondere bei Security-kritischen Stellen.
Das betrifft nicht nur Softwarefirmen — auch in Betrieben, die intern Excel-Makros, Power-BI-Dashboards oder kleine Python-Scripts mit KI-Unterstützung schreiben, gelten die Prinzipien.
Für KMU: die BSI-Broschüre Cybersicherheit
Die BSI-Publikation Cybersicherheit für KMU ist der pragmatische Einstieg für Betriebe ohne dediziertes Security-Team. Sie behandelt KI nur am Rande, ist aber die Grundlage, auf der KI-Security aufsetzt: Wer keine sauberen Zugriffe, kein Backup-Konzept und keine Incident-Response-Struktur hat, hat auch kein solides Fundament für KI-Security.
Der erste IT-Grundschutz++-Leitfaden erweitert den klassischen IT-Grundschutz um KI- und Cloud-Bausteine. Für Mittelständler, die bereits IT-Grundschutz-Zertifizierungen haben (öffentliche Aufträge, KRITIS-Nähe, große Industriekunden), ist das der Anschlussstandard.
Einordnung für den sächsischen Mittelstand
Die BSI-Leitfäden sind keine Zertifizierungspflicht. Kein Inhaber eines Maschinenbau-Betriebs in Chemnitz muss eine BSI-Prüfung durchlaufen, um Claude intern einzusetzen. Aber:
- Die BSI-Struktur hilft bei Kundenaudits. Wenn Sie Zulieferer für einen großen OEM (VW, Bosch, Infineon) sind, wird spätestens 2027 nach Ihrer KI-Security-Architektur gefragt. Wer BSI-orientiert aufgebaut hat, hat die Antworten.
- Die BSI-Leitfäden sind die De-facto-Grundlage für den AI Act. Die technische Umsetzung der AI-Act-Pflichten (Logging, Risiko-Management, Dokumentation) orientiert sich in Deutschland an BSI-Standards.
- Versicherungen und Banken fragen nach. Cyberversicherungen prüfen seit 2025 verstärkt KI-Nutzung — und akzeptieren BSI-orientierte Architekturen als Nachweis.
Sichere KI ist kein Feature — sie ist die Voraussetzung dafür, dass ein Projekt überhaupt produktiv gehen kann.
In unseren Projekten halten wir uns an die BSI-Prinzipien, ohne sie zur Dokumentations-Schlacht zu machen. Für einen typischen WhatsApp-Vertriebs-Agenten oder einen Dokument-Assistenten reichen etwa 10 Seiten Architektur-Beschreibung, die alle BSI-Kernpunkte abdecken.
Handlungsempfehlungen: Vier Schritte für Mittelständler
1. Datenklassifizierung etablieren
Drei Klassen reichen für die meisten Betriebe: öffentlich (Website-Inhalte, Marketing), intern (Prozesse, Mitarbeiterdaten, Angebote), vertraulich (Kunden-Verträge, Preise, strategische Pläne). Für jede KI-Anwendung festlegen: Welche Klasse darf rein?
2. Zugriffe und Logging
Wer darf das KI-System nutzen? Wer sieht Prompts und Ergebnisse? Wie lange werden Logs gespeichert? Für Cloud-Systeme (Azure OpenAI, Claude Enterprise) sind die Logging-Features oft out-of-the-box dabei — man muss sie nur aktivieren.
3. Incident-Response-Plan
Was passiert, wenn das Modell falsche Rechtsauskünfte gibt? Wenn ein Mitarbeiter aus Versehen Kundendaten in einen öffentlichen Chatbot pastet? Ein zweiseitiger Incident-Plan mit Eskalationswegen reicht für die meisten Mittelständler.
4. Jährlicher BSI-Check
Einmal pro Jahr die BSI-Checkliste durchgehen, dokumentieren, ablegen. Wer das im Rahmen der normalen ISMS-Pflege macht, hat keinen nennenswerten Mehraufwand.
Unser Take
Wir haben in +15 Projekten gelernt: BSI-Orientierung ist kein Kosten-, sondern ein Zeit-Faktor. Wer am Anfang zwei Tage in Datenklassifizierung, Zugriffskonzept und Logging investiert, spart sich später zwei Wochen Nacharbeit bei Kundenaudits, Versicherungen oder internen Compliance-Prüfungen. Und das Projekt fährt stabiler, weil Incidents nicht im Krisenmodus gelöst werden müssen.
Sichere KI ist keine Zusatzleistung, die man sich später dranbaut. Sie ist die Grundlage der Architektur. Wer das von Anfang an mitdenkt, hat produktive KI-Systeme, die auch 2028 und 2030 noch laufen.
Häufige Fragen
Eine strukturierte Prüfliste für die sichere Integration generativer KI in Unternehmen — deckt Datenklassifizierung, Zugriffe, Modellbewertung, Logging und Incident-Response ab.
Stand: April 2026 — die BSI-Leitfäden werden regelmäßig aktualisiert. Aktuelle Versionen immer direkt auf den BSI-Seiten prüfen.