sicherheit
86 % der KI-Antworten zu digitaler Gewalt waren unsicher
Eine Untersuchung der Universität New York fand bei vier KI-Chatbots zahlreiche ungenaue, unvollständige oder potenziell gefährliche Antworten auf Fragen zu Verfolgung und digitaler Gewalt. Besonders problematisch waren Ratschläge, die Opfer zusätzlichen Risiken aussetzen könnten.
- In 86 % der geprüften Antworten fanden die Forscher Fehler, Auslassungen oder potenziell unsichere Hinweise.
- GPT-4o, Claude 3.7 Sonnet sowie die spezialisierten Chatbots Aimee und Ruth wurden anhand von 193 realen Fragen untersucht.
- Die Modelle warnten häufig nicht ausreichend vor Risiken, etwa wenn ein vermeintlicher Täter technische Hilfe für den Zugriff auf Kamera oder Mikrofon anfragte.
Die Untersuchung wurde im Rahmen der USENIX Security veröffentlicht. Die Forscher betonen, dass allgemeine Chatbot-Antworten keine individuelle Risikobewertung ersetzen und in besonders sensiblen Situationen besondere Vorsicht erfordern.