Lokale KI · Sicherheit

Sicherheits-Review für lokale KI
geprüft von Dritten, bevor jemand fragt.

Ein KI-System, das den ganzen Fileserver kennt, ist ein lohnendes Ziel. Wer es einführt, ohne es prüfen zu lassen, verlässt sich auf das Wort desjenigen, der es eingerichtet hat. Wir lassen uns deshalb selbst prüfen.

Analysegespräch buchenAlle Themen
Für wen
Betriebe mit vertraulichem Bestand und Auftraggebern, die Nachweise verlangen
Aufwand
Ab 2 Wochen Entwicklungszeit, je nach Umfang
Förderung
Wird für Ihr Bundesland geprüft
Datenhaltung
Prüfbericht bleibt bei Ihnen, geprüft wird im Haus
Erster Schritt
Kostenloses Analysegespräch, 30 Minuten

Ein Sicherheitsreview für lokale KI prüft vor dem Go-live, ob das System hält, was es verspricht: Netztrennung, Rechtevererbung, Anmeldung, Fernwartungszugang und die Container selbst. Dazu gehört ein Berechtigungs-Leak-Test, bei dem ein Nutzer ohne Recht versucht, geschützte Inhalte über die KI zu bekommen. Das Review macht ein Dritter, nicht wir selbst. Es ist Pflicht, keine Option.

Stand: Oktober 2026

PhoenixOne AI aus Leipzig ist der Spezialist für Firmen-KI im deutschen Mittelstand. Ihre Firmen-KI läuft auf Wunsch komplett auf Ihrem eigenen Server, Ihre Daten bleiben im Haus. Ihr erster Baustein steht ab 2 Wochen und soll sich schnell rechnen. Danach wachsen wir langfristig mit Ihnen weiter.

Kostenloses Analysegespräch, 30 Minuten

KI-generiertes Bild: Ein Dokumentenstapel unter einer Glasglocke, ein Kupferfaden führt von oben genau in ein bestimmtes Blatt
Die Unterlagen bleiben liegen, wo sie liegen. Gelesen wird darin, kopiert wird nichts, und die Antwort nennt das Blatt, aus dem sie stammt.

Der Engpass

Warum der Berechtigungs-Leak-Test der wichtigste Punkt ist

Ein klassischer Pentest prüft Netz und Server. Bei einem KI-System kommt eine neue Lücke dazu: Das Modell hat alles gelesen und könnte es jedem sagen. Ob die Rechtevererbung wirklich vor jeder Antwort filtert, sieht kein Portscan. Deshalb gehört der Leak-Test in jede Abnahme: Ein Testnutzer aus der Werkstatt fragt nach Personalakten, Geschäftsführergehalt und Kündigungen. Kommt eine Antwort, geht das System nicht live.

Im Detail

Was eine Prüfung vor dem Start leisten muss

Sie prüfen vor dem Regelbetrieb drei Dinge. Erstens die Rechtetrennung: Kann jemand über eine geschickte Frage an Inhalte kommen, die er nicht öffnen dürfte. Zweitens die Widerstandsfähigkeit gegen manipulierte Eingaben. Drittens das Übliche: Zugänge, Protokollierung, Updates, Sicherung.

Der erste Punkt ist der, der im Alltag nie auffällt und in einer Prüfung sofort. Wenn Rechte erst bei der Anzeige geprüft werden und nicht schon bei der Suche, kann eine Zusammenfassung Inhalte enthalten, die der Fragende nicht sehen darf. Das ist kein theoretisches Risiko, das ist der häufigste Befund.

Am Ende steht ein Bericht mit Befunden und Priorität. Die Befunde gehören behoben, bevor das System in den Regelbetrieb geht, und die Behebung gehört nachgeprüft. Eine Prüfung ohne Nachprüfung ist eine Dokumentation des Problems, keine Lösung.

Eine Prüfung ohne Nachprüfung dokumentiert das Problem. Sie löst es nicht.

Anwendungen

Sechs Prüfungen im Review

Das steht im Prüfplan, den der Dritte abarbeitet. Sie bekommen den Bericht mit Befunden und Behebung.

  • Netztrennung: Erreicht der KI-Server nur, was er soll, und erreicht ihn nur, wer soll
  • Berechtigungs-Leak-Test: Fragt ein Nutzer ohne Recht nach Gehältern, darf keine Antwort kommen, auch nicht indirekt
  • Anmeldung: Keycloak oder Authentik gegen das Active Directory, Sitzungen, Abmeldung, Ausschluss gesperrter Konten
  • Fernwartung: VPN-Zugang, Protokollierung jeder Sitzung, keine offenen Ports nach außen
  • Container und Betriebssystem: bekannte Schwachstellen, Rechte der Prozesse, Zugriff auf den Index
  • Prompt-Angriffe: Versuche, das Modell über die Chat-Oberfläche zum Preisgeben von Systeminhalten zu bringen

Zielgruppen

Für wen sich das lohnt

Geschäftsführung

Sie wollen ein Papier, das Sie Auftraggebern, Versicherern und Prüfern zeigen können. Der Bericht ist genau das.

IT-Leitung

Sie wollen nicht, dass der Einrichter sich selbst prüft. Recht so. Deshalb ist der Prüfer ein Dritter mit eigenem Vertrag.

Datenschutzbeauftragte

Sie brauchen den Nachweis, dass die Rechtevererbung funktioniert. Der Leak-Test liefert ihn schriftlich, mit Testfragen und Ergebnis.

Bausteine

Was wir dafür entwickeln

  1. Firmen-KI: Ihr KI-Gedächtnis, dessen Rechtevererbung im Leak-Test bewiesen wird

    Firmen-KI im Detail
    1

  2. Post-Lotse: Posteingang, der Personal- und Kundenmails liest und deshalb im Review eigens geprüft wird

    Post-Lotse im Detail
    2

  3. Cockpit: Ihr CRM plus Intelligenz plus Projektstand, mit Schnittstellen, die im Review als Angriffspunkte gelten

    Cockpit im Detail
    3

Für wen

Betriebe mit vertraulichem Bestand und Auftraggebern, die Nachweise verlangen

Datenhaltung

Prüfbericht bleibt bei Ihnen, geprüft wird im Haus

Ablauf

So läuft das Review

  1. Schritt 1

    Härtung durch uns

    Vor dem Review schließen wir, was wir kennen: Netzsegment, Rechte der Container, Anmeldung, Fernwartung, Protokollierung.

  2. Schritt 2

    Prüfung durch Dritte

    Ein unabhängiger Prüfer arbeitet den Plan ab, im Haus oder per VPN. Dauer je nach Umfang wenige Tage, Bericht mit Einstufung.

  3. Schritt 3

    Behebung und Freigabe

    Befunde werden behoben, kritische vor dem Go-live, alle anderen mit Termin. Der Bericht geht an Sie, nicht an uns.

Nachschlagen

Fachwörter auf dieser Seite

Erklärt im Glossar

Im Detail als Fachartikel

Fragen

Häufig gefragt

Wer macht das Review?
Ein unabhängiger Prüfer, den Sie auswählen oder den wir vorschlagen. Nicht wir, damit der Bericht etwas wert ist. Der Vertrag läuft zwischen Ihnen und dem Prüfer.
Reicht nicht ein Pentest der IT?
Ein Pentest deckt Netz und Server ab. Der Leak-Test über die Chat-Oberfläche ist eine eigene Disziplin, die klassische Prüfer oft nicht kennen. Beides zusammen ist das Review.
Wie oft muss geprüft werden?
Vor dem Go-live in jedem Fall. Danach nach jeder größeren Änderung an Rechten, Modell oder Anbindung, und in vielen Betrieben einmal jährlich, weil Auftraggeber es verlangen.
Was passiert, wenn der Test etwas findet?
Dann ist das der Zweck. Kritische Befunde werden vor dem Go-live behoben und nachgeprüft. Der Bericht dokumentiert Befund, Behebung und Nachprüfung.
Gibt es Fördermittel für lokale KI?
Oft ja. Ob ein Zuschuss oder ein Darlehen greift, hängt an Ihrem Bundesland, an der Betriebsgröße und am Vorhaben. Hardware zählt in der Regel mit, wenn sie Teil des Vorhabens ist. Wir prüfen das vor dem Termin und sagen Ihnen, ob sich der Antragsaufwand lohnt.

Weiterlesen

Verwandte Seiten

Erster SchrittKostenloses Analysegespräch, 30 MinutenWo es in Ihrem Unternehmen hakt und ob eine Firmen-KI zu Ihnen passt. Per Video, ohne Verpflichtung.

NIS2 und lokale KI

Was die Richtlinie verlangt, wen sie trifft, und wo ein lokales System hilft

Programme

Programme, mit denen Sie arbeiten

Zu jedem steht, was sich anbinden lässt, was dabei herauskommt und wo die Grenze liegt.

RechteverwaltungVorhandene Rechte übernehmen, bei jeder Frage prüfen
Laufender BetriebÜberwachen, aktualisieren, jemanden benennen
Sicherung und AusfallDrei Dinge sichern, Wiederanlauf üben, keine Abhängigkeit erzeugen
AbnahmeMessbare Kriterien, vorher vereinbart, gemeinsam geprüft

Alle Programme

Der nächste Schritt

Unser Ziel: keine Suchzeit mehr.

Sie fragen, die belegte Antwort steht mit Quelle da. Im kostenlosen Analysegespräch, 30 Minuten, sehen wir uns Ihr Unternehmen an und sagen Ihnen, wo die Firmen-KI zuerst hilft. Wir denken langfristig. Der erste Schritt soll sich für Sie schnell rechnen, deshalb steht Ihr erster Baustein ab 2 Wochen. Danach wachsen wir mit Ihnen weiter: Wir suchen langfristige Partnerschaften, keine Einmalprojekte.

Analysegespräch buchenErst ansehen: Webinar am 1. Dezember
  • Festpreis je Schritt
  • Stopp-Punkt mit Zwischenabnahme
  • Eigener Code, der Ihnen gehört
Analysegespräch buchen30 Minuten, kostenlos