KI-Sicherheit im Unternehmen
KI-Sicherheit im Planungsbüro
Rechte, Datenabfluss, eingeschleuste Anweisungen.
Eine KI, die die ganze Ablage kennt, ist das wertvollste System im Büro. Sie hat auch eigene Angriffswege, die ein klassischer Virenscanner nicht sieht. Deshalb gehört die Sicherheitsprüfung zu jedem KI-Projekt dazu.
- Für wen
- Büros mit Wissensdatenbank, Cockpit oder lokalem KI-Server, eigenem oder fremdem
- Aufwand
- 15 Arbeitstage bis zum Fahrplan
- Förderung
- Wird für Ihr Bundesland geprüft
- Datenhaltung
- Prüfung auf Ihrem System, Befunde bleiben bei Ihnen
- Erster Schritt
- Dreißig Minuten Erstgespräch per Video
KI-Sicherheit im Unternehmen heißt: Die KI antwortet nur aus Dokumenten, die der Fragende sehen darf, eingeschleuste Anweisungen in Mails oder PDFs werden erkannt und ignoriert, Antworten enthalten keine Daten Dritter, und der Server ist gehärtet. Ein Pentest für KI-Systeme prüft genau diese vier Punkte von außen, mit Bericht, Behebung und Nachtest, bevor das System live geht.
Stand: September 2026
Was wir dafür entwickeln
- 1
Büro-Gedächtnis: Ihr KI-Gedächtnis, mit Rechtevererbung aus Ihrer Ablage und Review vor dem Start
Büro-Gedächtnis im Detail - 2
Cockpit: Ihr CRM plus Intelligenz plus Projektstand, Zugänge mit Zwei-Faktor und Rollen
Cockpit im Detail - 3
Post-Lotse: Posteingang, der eingeschleuste Anweisungen in Mails erkennt und nichts allein verschickt
Post-Lotse im Detail
Sechs Angriffswege, die wir bei KI-Systemen prüfen
Aus unseren eigenen Sicherheits-Reviews vor dem Go-live. Jeder Punkt ist schon einmal aufgefallen.
- Rechte: Findet die Bauzeichnerin die Gehaltsliste, weil die Berechtigung aus dem Server nicht vererbt wurde
- Eingeschleuste Anweisungen: Eine Mail enthält versteckten Text, der die KI zu etwas anderem bringen soll
- Datenabfluss: Tauchen Bauherrendaten in Antworten auf, die an Dritte gehen, zum Beispiel in Fachbeiträgen
- Schnittstellen: Ist die Verbindung zwischen Cockpit, Postfach und Ablage nur mit Schlüssel erreichbar
- Server: Läuft der lokale KI-Server gehärtet, ohne Telemetrie, mit Updates ohne Internetzwang
- Protokoll: Wird nachvollziehbar, wer was gefragt hat, ohne dass daraus eine Überwachung wird
Rechte nur an der Oberfläche zu prüfen fällt im Alltag nie auf. In einer Prüfung sofort.
Warum ein Virenscanner hier nicht reicht
Klassische Sicherheit prüft Türen und Fenster. Eine KI ist ein Mitarbeiter, der alles gelesen hat und jedem antwortet, der freundlich fragt. Die Frage ist nicht, ob jemand ins Netz kommt, sondern was die KI ihm dann erzählt. Das lässt sich nur prüfen, indem man es versucht, mit Erlaubnis und mit Bericht.
Was bei KI-Systemen tatsächlich geprüft werden muss
Sie prüfen bei einem KI-System zwei Dinge, die bei klassischer Software so nicht vorkommen. Erstens, ob sich das Modell durch geschickt formulierte Eingaben dazu bringen lässt, Dinge zu tun oder zu zeigen, die es nicht soll. Zweitens, ob die Rechtetrennung auch dann hält, wenn jemand systematisch danach sucht.
Der zweite Punkt ist der gefährlichere. Ein System, das Dokumente zusammenfasst, kann Inhalte aus Dokumenten preisgeben, die der Fragende selbst nicht öffnen dürfte, wenn die Rechte nur an der Oberfläche geprüft werden. Das fällt im Alltag nie auf, weil niemand danach sucht. In einer Prüfung fällt es sofort auf.
Dazu kommen die üblichen Themen: Zugänge, Protokollierung, Updates, Sicherung. Eine Prüfung liefert am Ende einen Bericht mit Befunden und Priorität, und die Befunde gehören behoben, bevor das System in den Regelbetrieb geht. Nicht danach.
So läuft ein Pentest für KI-Systeme
- 01
Umfang und Freigabe
Welche Systeme, welche Nutzerrollen, welcher Zeitraum. Schriftlich, mit Notfallnummer, ohne zerstörende Tests.
- 02
Prüfung von außen
Wir versuchen, als normaler Nutzer mehr zu sehen, als erlaubt ist, schleusen Anweisungen ein und prüfen Server und Schnittstellen.
- 03
Bericht, Behebung, Nachtest
Jeder Befund mit Beweis und Einstufung. Wir schließen mit Ihrem Team, dann prüfen wir nach. Erst dann Go-live.
Für wen sich das lohnt
- Geschäftsführung
- Sie haften für die Daten. Der Bericht sagt auf einer Seite, was offen war und was jetzt zu ist.
- IT und Datenschutz
- Sie brauchen Nachweise für Auftraggeber und Datenschutzbeauftragte. Der Bericht ist dafür geschrieben.
- Büros mit fremder KI
- Sie haben ein KI-System von einem anderen Anbieter. Wir prüfen es genauso, ohne Vorurteil.
Was Betriebe an dieser Stelle fragen
Einwand
Prüfen Sie auch KI-Systeme, die nicht von Ihnen sind?
Ja. Wissensdatenbanken, Chatbots, Copilot-Einrichtungen und lokale Server anderer Anbieter prüfen wir nach demselben Plan. Der Bericht gehört Ihnen.
Einwand
Was ist eine eingeschleuste Anweisung?
Versteckter Text in einer Mail oder einem PDF, der die KI anweist, etwas anderes zu tun als gefragt, zum Beispiel Daten auszugeben. Gute Systeme erkennen das. Ob Ihres das tut, zeigt der Test.
Einwand
Stört der Test den Betrieb?
Nein. Getestet wird in abgesprochenen Zeitfenstern, ohne zerstörende Eingriffe, mit Notfallnummer. Kritische Funde melden wir sofort.
Einwand
Wie oft sollte man prüfen?
Vor dem Go-live, nach jeder größeren Änderung und einmal im Jahr. Dazwischen laufen automatische Schwachstellenscans.
Einwand
Gibt es Fördermittel dafür?
Oft ja. Ob ein Zuschuss oder ein Darlehen greift, hängt an Ihrem Bundesland, an der Betriebsgröße und am Vorhaben. Wir prüfen das vor dem Termin und sagen Ihnen ehrlich, ob sich der Antragsaufwand lohnt.
Verwandte Seiten
Programme, mit denen Sie arbeiten
Zu jedem steht, was sich anbinden lässt, was dabei herauskommt und wo die Grenze liegt.
Sehen wir uns Ihr Büro an.
Dreißig Minuten, per Video oder Telefon. Danach wissen Sie, ob sich das für Sie lohnt.