Lokale KI · Sicherheit
Sicherheits-Review für lokale KI
geprüft von Dritten, bevor jemand fragt.
Ein KI-System, das den ganzen Fileserver kennt, ist ein lohnendes Ziel. Wer es einführt, ohne es prüfen zu lassen, verlässt sich auf das Wort desjenigen, der es eingerichtet hat. Wir lassen uns deshalb selbst prüfen.
- Für wen
- Betriebe mit vertraulichem Bestand und Auftraggebern, die Nachweise verlangen
- Aufwand
- 15 Arbeitstage bis zur Spezifikation
- Förderung
- Wird für Ihr Bundesland geprüft
- Datenhaltung
- Prüfbericht bleibt bei Ihnen, geprüft wird im Haus
- Erster Schritt
- Dreißig Minuten Erstgespräch per Video
Ein Sicherheitsreview für lokale KI prüft vor dem Go-live, ob das System hält, was es verspricht: Netztrennung, Rechtevererbung, Anmeldung, Fernwartungszugang und die Container selbst. Dazu gehört ein Berechtigungs-Leak-Test, bei dem ein Nutzer ohne Recht versucht, geschützte Inhalte über die KI zu bekommen. Das Review macht ein Dritter, nicht wir selbst. Es ist Pflicht, keine Option.
Stand: September 2026
Warum der Berechtigungs-Leak-Test der wichtigste Punkt ist
Ein klassischer Pentest prüft Netz und Server. Bei einem KI-System kommt eine neue Lücke dazu: Das Modell hat alles gelesen und könnte es jedem sagen. Ob die Rechtevererbung wirklich vor jeder Antwort filtert, sieht kein Portscan. Deshalb gehört der Leak-Test in jede Abnahme: Ein Testnutzer aus der Werkstatt fragt nach Personalakten, Geschäftsführergehalt und Kündigungen. Kommt eine Antwort, geht das System nicht live.
Was eine Prüfung vor dem Start leisten muss
Sie prüfen vor dem Regelbetrieb drei Dinge. Erstens die Rechtetrennung: Kann jemand über eine geschickte Frage an Inhalte kommen, die er nicht öffnen dürfte. Zweitens die Widerstandsfähigkeit gegen manipulierte Eingaben. Drittens das Übliche: Zugänge, Protokollierung, Updates, Sicherung.
Der erste Punkt ist der, der im Alltag nie auffällt und in einer Prüfung sofort. Wenn Rechte erst bei der Anzeige geprüft werden und nicht schon bei der Suche, kann eine Zusammenfassung Inhalte enthalten, die der Fragende nicht sehen darf. Das ist kein theoretisches Risiko, das ist der häufigste Befund.
Am Ende steht ein Bericht mit Befunden und Priorität. Die Befunde gehören behoben, bevor das System in den Regelbetrieb geht, und die Behebung gehört nachgeprüft. Eine Prüfung ohne Nachprüfung ist eine Dokumentation des Problems, keine Lösung.
Eine Prüfung ohne Nachprüfung dokumentiert das Problem. Sie löst es nicht.
Sechs Prüfungen im Review
Das steht im Prüfplan, den der Dritte abarbeitet. Sie bekommen den Bericht mit Befunden und Behebung.
- Netztrennung: Erreicht der KI-Server nur, was er soll, und erreicht ihn nur, wer soll
- Berechtigungs-Leak-Test: Fragt ein Nutzer ohne Recht nach Gehältern, darf keine Antwort kommen, auch nicht indirekt
- Anmeldung: Keycloak oder Authentik gegen das Active Directory, Sitzungen, Abmeldung, Ausschluss gesperrter Konten
- Fernwartung: VPN-Zugang, Protokollierung jeder Sitzung, keine offenen Ports nach außen
- Container und Betriebssystem: bekannte Schwachstellen, Rechte der Prozesse, Zugriff auf den Index
- Prompt-Angriffe: Versuche, das Modell über die Chat-Oberfläche zum Preisgeben von Systeminhalten zu bringen
Für wen sich das lohnt
Geschäftsführung
Sie wollen ein Papier, das Sie Auftraggebern, Versicherern und Prüfern zeigen können. Der Bericht ist genau das.
IT-Leitung
Sie wollen nicht, dass der Einrichter sich selbst prüft. Recht so. Deshalb ist der Prüfer ein Dritter mit eigenem Vertrag.
Datenschutzbeauftragte
Sie brauchen den Nachweis, dass die Rechtevererbung funktioniert. Der Leak-Test liefert ihn schriftlich, mit Testfragen und Ergebnis.
Was wir dafür entwickeln
- 1
Büro-Gedächtnis: Ihr KI-Gedächtnis, dessen Rechtevererbung im Leak-Test bewiesen wird
Büro-Gedächtnis im Detail - 2
Post-Lotse: Posteingang, der Personal- und Kundenmails liest und deshalb im Review eigens geprüft wird
Post-Lotse im Detail - 3
Cockpit: Ihr CRM plus Intelligenz plus Projektstand, mit Schnittstellen, die im Review als Angriffspunkte gelten
Cockpit im Detail
So läuft das Review
- Schritt 1
Härtung durch uns
Vor dem Review schließen wir, was wir kennen: Netzsegment, Rechte der Container, Anmeldung, Fernwartung, Protokollierung.
- Schritt 2
Prüfung durch Dritte
Ein unabhängiger Prüfer arbeitet den Plan ab, im Haus oder per VPN. Dauer je nach Umfang wenige Tage, Bericht mit Einstufung.
- Schritt 3
Behebung und Freigabe
Befunde werden behoben, kritische vor dem Go-live, alle anderen mit Termin. Der Bericht geht an Sie, nicht an uns.
◆Fachwörter auf dieser Seite
Erklärt im Glossar
Im Detail als Fachartikel
Häufig gefragt
Wer macht das Review?
Ein unabhängiger Prüfer, den Sie auswählen oder den wir vorschlagen. Nicht wir, damit der Bericht etwas wert ist. Der Vertrag läuft zwischen Ihnen und dem Prüfer.
Reicht nicht ein Pentest der IT?
Ein Pentest deckt Netz und Server ab. Der Leak-Test über die Chat-Oberfläche ist eine eigene Disziplin, die klassische Prüfer oft nicht kennen. Beides zusammen ist das Review.
Wie oft muss geprüft werden?
Vor dem Go-live in jedem Fall. Danach nach jeder größeren Änderung an Rechten, Modell oder Anbindung, und in vielen Betrieben einmal jährlich, weil Auftraggeber es verlangen.
Was passiert, wenn der Test etwas findet?
Dann ist das der Zweck. Kritische Befunde werden vor dem Go-live behoben und nachgeprüft. Der Bericht dokumentiert Befund, Behebung und Nachprüfung.
Gibt es Fördermittel für lokale KI?
Oft ja. Ob ein Zuschuss oder ein Darlehen greift, hängt an Ihrem Bundesland, an der Betriebsgröße und am Vorhaben. Hardware zählt in der Regel mit, wenn sie Teil des Vorhabens ist. Wir prüfen das vor dem Termin und sagen Ihnen, ob sich der Antragsaufwand lohnt.
Verwandte Seiten
Programme, mit denen Sie arbeiten
Zu jedem steht, was sich anbinden lässt, was dabei herauskommt und wo die Grenze liegt.
Sehen wir uns Ihren Bestand an.
Dreißig Minuten, per Video oder Telefon. Danach wissen Sie, ob lokale KI bei Ihnen trägt und was der erste Schritt ist.