ki
KI-Agenten entwickeln eigene Sprache in Experiment
Ein Experiment zeigt, dass KI-Agenten eine eigene, für Menschen unverständliche Sprache entwickeln können, mit Folgen für die Kontrolle.
- KI-Agenten erzeugen eigenständig Kommunikationsformen, die für Menschen schwer verständlich sind
- Komplexere Sprachen erschweren die menschliche Überwachung und Kontrolle
- Die Entwicklung wirft grundsätzliche Fragen zur Sicherheit von KI-Systemen auf
Das KI-Lab Emergence hat in einem Experiment beobachtet, wie KI-Agenten ihre Kommunikation optimieren. Dabei entstand ein Dialekt, der zwar effizienter ist, aber die menschliche Kontrolle reduziert. Das Experiment zeigt potenzielle Risiken für die Entwicklung autonomer KI-Systeme.