KI und Automatisierung · Praxistipp
Prompt Injection nutzt Inhalte als scheinbare Anweisung. Anwendungen müssen deshalb zwischen Daten und zulässigem Auftrag unterscheiden.
Ein KI-Assistent liest häufig Websites, Dokumente oder Nachrichten, deren Inhalt ein Unternehmen nicht kontrolliert. Darin können Anweisungen stehen, die vom eigentlichen Auftrag ablenken sollen. OWASP beschreibt dieses Risiko als Prompt Injection und empfiehlt mehrere aufeinander abgestimmte Schutzmaßnahmen.
Eine einzelne Formulierung im Systemprompt ist kein vollständiger Schutz. Entscheidend sind auch die verfügbaren Werkzeuge, begrenzte Berechtigungen und überprüfbare Aktionen. Ein fremdes Dokument darf beispielsweise nicht bestimmen, an wen interne Daten weitergegeben werden. Gerade bei verbundenen Geschäftssystemen muss die Anwendung solche Grenzen technisch durchsetzen.
Kennzeichnen Sie externe Inhalte als untrusted Daten und begrenzen Sie nachgelagerte Aktionen. Testen Sie kontrollierte widersprüchliche Inhalte in einer Testumgebung. Prüfen Sie besonders Datenexporte und Zieladressen. Ein System sollte bei Unklarheit einen begrenzten sicheren Zustand erreichen, statt still neue Befugnisse anzunehmen.
Letzte Faktenprüfung: 2026-10-27
Google beschreibt AISeal als Architektur für geschützte lokale KI-Verarbeitung. Die Ankündigung ist keine Zusage für jedes vorhandene Android-Gerät.
Die neuen Modelle sollen mehrstufige Aufgaben unterstützen. Herstellerangaben zu Leistung und Autonomie brauchen Tests am eigenen Einsatzfall.
Eine Befragung aus neun asiatisch-pazifischen Märkten berichtet positive Erfahrungen und offenen Unterstützungsbedarf.
