Die KI-Firma Anthropic aus den USA hat vorgeschlagen, besonders starke KI-Modelle bremsen oder pausieren zu können, damit die Gesellschaft Schritt halten kann.
Stell dir vor, dein Schulprojekt schreibt sich mit der Zeit selbst weiter – und zwar immer schneller. Genau davor warnt das KI-Unternehmen Anthropic. KI-Modelle könnten irgendwann so schlau sein, dass sie sich selbst verbessern. Wenn das passiert, haben Menschen vielleicht nicht mehr genug Zeit, alles zu kontrollieren. Anthropic will deshalb, dass die Welt die Möglichkeit hat, besonders starke KI für eine Weile zu bremsen, wenn es nötig wird.
Es gibt aber ein großes Problem: Die USA und China bauen gerade ihre KI-Firmen massiv aus und investieren Hunderte Milliarden Dollar. Wenn ein einzelnes Land alleine pausiert, zieht das andere Land einfach vorbei. Der Chef von Anthropic, Dario Amodei, hat das beim Weltwirtschaftsforum in Davos gesagt: Es sei sehr schwer, sich mit China auf eine gemeinsame Pause zu einigen. Deshalb will Anthropic erstmal Regeln vorschlagen, die alle Länder einhalten und überprüfen können.