Proofpoint

Gartner® evaluated AI application security vendors on Potential for Market Disruption and Potential to Execute. Get the report to see how Gartner evaluated the market and Proofpoint.

Ein KI-Agent kann vollständig innerhalb autorisierter Systeme und Daten agieren und dennoch außerhalb seines vorgesehenen Zwecks handeln. Bei einer solchen „semantischen Rechteausweitung“ sind die Berechtigungen gültig, aber die Absicht des KI-Agenten wurde manipuliert. Das Problem lässt sich mit Zugriffskontrollen allein nicht beheben. Die Sicherheit hängt davon ab, ob Zugriff, Absicht und Verhalten zueinander passen.

Mythos: Die Durchsetzung klarer Richtlinien für KI-Agenten führt zu kontrollierten Agenten. Realität: Bei mehr als der Hälfte der Unternehmen mit durchgesetzten Richtlinien greifen Agenten dennoch auf mehr Daten zu, als ihre Aufgaben erfordern. Die Implementierung von Regeln ist ein wichtiger Schritt. Doch autorisierter Zugriff garantiert nicht, dass sich KI-Agenten vertrauenswürdig verhalten. Wir haben 205 IT-Praktiker zu Richtlinien, Zugriffsverwaltung und Überwachung befragt.

Sollten KI-Agenten der gleichen Rechenschaftspflicht unterliegen wie menschliche Mitarbeiter? 84,4 % der IT-Experten in Deutschland stimmen dem zu. Dies ist die operative Sichtweise von IT-Praktikern. Wie definiert Ihr Unternehmen die Rechenschaftspflicht für KI-Agenten? Unsere Umfrage unter 205 Praktikern zeigt, wo Ihre Kollegen stehen.

65,4 % der deutschen Unternehmen setzen KI-Agenten im großen Maßstab ein, doch nur 9,3 % überwachen sie kontinuierlich. Obwohl der Reifegrad der Richtlinien zunimmt, können die operativen Kontrollmöglichkeiten weiterhin nicht Schritt halten. Wir haben 205 IT-Experten aus den Bereichen IT-Betrieb und Sicherheit befragt, um diese Lücke besser zu verstehen und zu erfahren, wie sie sich auf die Risikolage in Unternehmen auswirkt.

AI agents are moving faster than traditional controls can track.