Shadow AI und agentisches Risiko
Sicherheit künstlicher Intelligenz
KI verändert die Geschwindigkeit des Angriffs und die innere Angriffsfläche. Shadow AI, Kontextlecks und agentische Cybersicherheit verlangen Steuerung, nicht Begeisterung.
- Für wen.
- Leitung, die bereits KI-Werkzeuge im Einsatz hat, mit oder ohne Inventar.
- Umfang und Ergebnis.
- Unterscheidung zwischen Modellen, die vorschlagen, und Agenten, die ausführen; Inventar von Nutzungen, Daten und Berechtigungen.
- Grenze.
- Implementiert keine Modelle und prüft keinen Code von KI-Anbietern.
Perspektive
KI verändert die Geschwindigkeit des Angriffs und die innere Fläche. Shadow AI wartet nicht auf den Innovationsausschuss.
Agenten zu steuern, die ausführen, ist nicht dasselbe wie einen Chatbot zu steuern, der vorschlägt. Diese Unterscheidung ist bereits eine Entscheidung des Direktoriums.
Häufige Risiken
- Verträge und Code, die in Modelle ohne Vertrag eingefügt werden.
- Agenten mit Produktionsberechtigungen.
- Innovationsbegeisterung ohne ehrliches Inventar.
Fragen für einen Vorstand
- Welche KI-Werkzeuge werden heute mit Unternehmensdaten genutzt, mit oder ohne Lizenz?
- Welche Daten dürfen niemals hinaus?
- Wer antwortet, wenn ein Modell bereits einen Vertrag mitgenommen hat?
- Unterscheiden wir zwischen vorschlagen und ausführen?