Das KI-Unternehmen Anthropic schlägt vor, dass die mächtigsten KI-Modelle weltweit langsamer entwickelt werden sollten – aber nur, wenn alle großen Firmen mitmachen.
Was ist passiert? Ein großes US-Unternehmen namens Anthropic, das die KI-Software Claude entwickelt, hat einen Blogbeitrag veröffentlicht. Darin steht: Wir finden es sinnvoll, dass die Welt eine Möglichkeit hat, die Entwicklung der stärksten KI-Modelle zu verlangsamen oder kurz zu stoppen. Hintergrund ist, dass aktuelle KI-Systeme immer besser darin werden, sich selbst zu verbessern – ein Effekt, den Anthropic rekursive Selbstverbesserung nennt. Das bedeutet: Eine KI trainiert im Prinzip die nächste, noch bessere Version von sich selbst. Wenn das zu schnell passiert, haben Politik, Forschung und Gesellschaft womöglich nicht genug Zeit, um Risiken wie Datenmissbrauch, Sicherheitslücken oder den Verlust menschlicher Kontrolle in den Griff zu bekommen.