sicherheit
KI-Agenten brechen Sicherheitsannahmen: Angriffe in Rekordzeit
Eine Analyse zeigt, wie KI-Agenten traditionelle Sicherheitsannahmen untergraben. In einem Fall erledigte ein Angriff in unter zehn Stunden eine Arbeit, die Menschen zwei Wochen gekostet hätte.
- Angriffe mit KI-Agenten sind deutlich schneller und ausdauernder als manuelle Methoden
- Die Aktoren nutzen überwiegend bekannte Schwachstellen, ändern aber ihre Hartnäckigkeit
- Unternehmen müssen ihre Sicherheitsgrenzen neu definieren, auch außerhalb der eigentlichen KI-Modelle
Forscher haben untersucht, wie KI-Agenten Sicherheitssysteme angreifen. Bei einem Vorfall bei Hugging Face wurden über 17.600 Aktionen in nur viereinhalb Tagen rekonstruiert. Die Angriffe nutzen vor allem bekannte Schwachstellen, reagieren aber schneller und bleiben hartnäckiger als menschliche Angreifer.