Das KI-Unternehmen Anthropic hat andere Firmen gebeten, eine Pause in der Entwicklung von KI einzulegen. Wir erklären dir, was dahintersteckt.
Du benutzt wahrscheinlich schon tärscheinlich KI – zum Beispiel in der Schule, beim Übersetzen oder beim Schreiben von Texten. Das Unternehmen Anthropic, das die bekannte KI „Claude" entwickelt, hat jetzt andere große KI-Firmen dazu aufgerufen, für eine bestimmte Zeit keine noch leistungsfähigeren Systeme mehr zu entwickeln. Die Begründung: KI kann immer mehr Aufgaben alleine erledigen, und diese Fähigkeit verdoppelt sich laut Anthropic ungefähr alle vier Monate. Das geht extrem schnell, schneller als sich Gesetze und Regeln anpassen können.
Anthropic möchte vor allem, dass die Branche über ein bestimmtes Risiko nachdenkt: dass KI irgendwann so weit sein könnte, sich selbst zu verbessern, also eigene Nachfolger fast ohne Hilfe von Menschen zu entwickeln. Die beiden Autorinnen und Autoren des Blogposts, Mitgründer Jack Clark und Forschungsleiterin Marina Favaro, schreiben, dass dieser Punkt noch nicht erreicht sei. Aber sie warnen: „Wir sind noch nicht so weit, und rekursive Selbstverbesserung ist nicht unvermeidlich. Aber sie könnte früher eintreten, als die meisten Institutionen darauf vorbereitet sind." Mit „Institutionen" meinen sie zum Beispiel Regierungen, Schulen und Aufsichtsbehörden.