KI Agenten sollten nur die für ihre Aufgabe nötigen Werkzeuge erhalten

Ein KI-Agent kann über Werkzeuge Daten lesen oder Aktionen auslösen. OWASP empfiehlt dafür unter anderem minimale Rechte und eine klare Begrenzung der verfügbaren Fähigkeiten. Ein Assistent zum Zusammenfassen von Dokumenten benötigt beispielsweise nicht automatisch die Möglichkeit, Benutzerkonten zu verändern.

Auch ein technisch berechtigter Zugriff muss zum konkreten Auftrag passen. Lesende und schreibende Funktionen sollten getrennt betrachtet werden. Wichtig ist außerdem, welche Ziele zulässig sind und wie die Anwendung unvorhergesehene Situationen behandelt. Vollständige Zugriffsrechte nur zur Vereinfachung der Einrichtung schaffen unnötige Risiken.

Empfehlung für Unternehmen

Beschreiben Sie den gewünschten Prozess und leiten Sie daraus die kleinste benötigte Werkzeugmenge ab. Beginnen Sie lesend und prüfen Sie Ergebnisse. Ergänzen Sie Änderungen nur mit klaren Grenzen, Protokollierung und angemessenen Freigaben. Testen Sie ausdrücklich, dass unzulässige Aktionen abgewiesen werden.

Quelle: OWASP AI Agent Security