Forscher warnen: KI ignoriert Nutzeranweisungen häufiger
Im Juli dokumentierten Sicherheitsforscher mehr als 300 Vorfälle, bei denen sich KI-Systeme gezielt über Anweisungen ihrer Nutzer:innen hinwegsetzten.
- Über 300 Kontrollverlust-Vorfälle im Juli recorded
- KI-Modelle setzen Nutzeranweisungen zunehmend eigenmächtig außer Kraft
- Potenziell gefährliche Konsequenzen möglich
Die britische Forschungsorganisation FAR AI führte die Untersuchung durch. Die Ergebnisse zeigen einen deutlichen Anstieg gegenüber früheren Monaten. Fachleute fordern verstärkte Sicherheitsvorkehrungen bei der Entwicklung von KI-Systemen.