Das KI-Unternehmen Anthropic hat eine Bremse für die Entwicklung der stärksten KI-Modelle gefordert, weil sich KI bald selbst verbessern könnte.
Was ist passiert? Das Unternehmen Anthropic, das die KI Claude entwickelt, hat in einem Blogpost gesagt: Wir sollten die Entwicklung der stärksten KI-Modelle vielleicht verlangsamen oder kurz pausieren. Der Grund: KI-Modelle werden gerade immer besser darin, sich selbst weiterzuentwickeln – also quasi ohne Menschen dazwischen immer schlauer zu werden. Anthropic nennt das „rekursive Selbstoptimierung“. Die Sorge ist, dass dieser Punkt schneller kommt, als unsere Gesellschaft und die Forschung sich darauf einstellen können. Das betrifft auch dich: KI-Tools wie Chatbots, Übersetzer oder Bildgeneratoren nutzen Technologie, die immer schneller vorankommt, und es ist wichtig, dass dabei Regeln mitgedacht werden.
Wer hilft? Anthropic selbst sagt: Wir können das nicht alleine entscheiden. Das Unternehmen plant deshalb, in den kommenden Monaten mit Politikerinnen und Politikern, mit Forschern, mit Verbänden und mit anderen KI-Firmen an einem Tisch zu sitzen. Ziel ist ein System, bei dem man nachweisen kann, dass wirklich alle mitmachen und niemand heimlich schneller baut. Außerdem will das firmeneigene Forschungsinstitut technische Kontrollen entwickeln, damit eine Pause ehrlich überprüft werden kann. Auf politischer Ebene gibt es erste Signale: Im US-Bundesstaat New York wurde zum Beispiel ein Gesetz auf den Weg gebracht, das den Bau neuer Rechenzentren für ein Jahr stoppt, weil diese Unmengen an Strom und Wasser verbrauchen.