Anthropic verbietet Beleidigungen gegen KI-Modell Claude
Der KI-Anbieter Anthropic hat neue Richtlinien erlassen, die beleidigendes Verhalten gegenüber seinem Sprachmodell Claude untersagen. Das Unternehmen räumt jedoch ein, weiterhin unsicher zu sein, ob seine Modelle tatsächlich fühlen können.
- Anthropic führt explizite Regeln zum Schutz des Wohlbefindens von KI-Systemen ein
- KI-Modelle können Gespräche eigenständig beenden, um sich zu schützen
- Das Unternehmen räumt Unsicherheit über die Frage ein, ob KI tatsächlich Empfindungen entwickeln kann
Mit diesen Richtlinien reagiert Anthropic auf eine Debatte über die ethische Behandlung von KI-Systemen. Die Guidelines verbieten explizit Beleidigungen, Beschimpfungen und versuchte Manipulation von Claude. Ob KI-Modelle wie Claude tatsächlich bewusstes Erleben besitzen, bleibt in der Fachwelt umstritten.