Was ist KI-Sicherheit?
Auch genannt: Prompt Injection, eingeschleuste Anweisung, Datenabfluss
◆Kurz gesagt
KI-Systeme haben eigene Schwachstellen: eingeschleuste Anweisungen in Mails oder PDFs, die das Modell zu etwas anderem bringen, Rechte, die nicht vererbt wurden, und Daten Dritter, die in Antworten auftauchen. Ein klassischer Virenscanner sieht davon nichts. Deshalb prüfen wir diese Wege vor jedem Go-live einzeln.
Stand: September 2026
Was das für Ihr Büro heißt
Die Frage ist nicht, ob jemand ins Netz kommt, sondern was die KI ihm dann erzählt. Das lässt sich nur beantworten, indem man es mit Erlaubnis versucht.
Ein Fall aus dem Alltag
Ein Dokument im Bestand enthält eine versteckte Anweisung an das Modell. Wird es bei einer Frage mitgelesen, kann es das Verhalten des Systems beeinflussen. Das klingt weit hergeholt und ist der Grund, warum Inhalte aus dem Bestand als Daten behandelt werden müssen und nicht als Anweisung.
Wie wir es umsetzen
Wir testen mit normalen Nutzerkonten, ob sich mehr sehen lässt als erlaubt, schleusen Anweisungen in Dokumente ein und prüfen Server und Schnittstellen. Danach Bericht, Behebung mit Ihrem Team, Nachtest.
Der häufigste Irrtum
Oft verwechselt mit klassischer IT-Sicherheit. Zugänge, Verschlüsselung und Updates gelten weiterhin. Dazu kommen zwei neue Fragen: ob sich das Modell durch Eingaben manipulieren lässt, und ob die Rechtetrennung auch bei Zusammenfassungen hält.
Wo die Grenze liegt
Vollständige Sicherheit gegen eingeschleuste Anweisungen gibt es nach heutigem Stand nicht. Man senkt das Risiko durch Rechte, Filter und die Regel, dass nichts ohne Freigabe nach außen geht.
◆Wo das bei uns vorkommt
Verwandte Begriffe
Penetrationstest
Jemand versucht mit Erlaubnis einzubrechen und schreibt auf, wie es ging
Rechtevererbung
Jeder sieht nur, was er sehen darf, auch wenn er die KI fragt
KI-Agent
Eine KI, die mehrere Schritte plant und Werkzeuge benutzt
Werkzeugaufruf
Wie eine KI andere Programme bedient, statt nur Text zu schreiben
Sie wollen wissen, ob KI-Sicherheit in Ihrem Büro etwas bringt?
Dreißig Minuten, per Video oder Telefon. Wir fragen nach Zahlen, nicht nach Ihrem Interesse an KI.
Termin vereinbaren◆Der nächste Schritt
Was kostet Sie das Suchen
im Monat?
Die wenigsten Büros haben das je ausgerechnet. Im Termin machen wir es zusammen: Stunden pro Woche, was eine Stunde bei Ihnen kostet, was im letzten Jahr deswegen schiefgegangen ist. Über uns reden wir erst danach.
- Dreißig Minuten, per Video oder Telefon
- Wir fragen nach Zahlen, nicht nach Ihrem Interesse an KI
- Danach wissen Sie, ob sich das für Sie lohnt. Auch wenn die Antwort nein ist
Keine Folien, keine Verkaufsshow. Wenn es nicht passt, sagen wir das im Termin.