Das KI-Unternehmen Anthropic schlägt vor, dass große KI-Firmen weltweit kurz innehalten – damit die Technik nicht schneller wird, als wir sie verstehen.
Anthropic ist ein bekanntes KI-Unternehmen aus den USA. Es hat ein Chat-Programm namens Claude gebaut, das vor allem Firmen nutzen. Jetzt hat Anthropic in einem Blogbeitrag gesagt: „Wir halten es für wünschenswert, dass die Welt die Möglichkeit hat, die Entwicklung hochmoderner KI-Systeme zu verlangsamen oder vorübergehend auszusetzen, damit gesellschaftliche Strukturen und die Forschung zur Ausrichtung der KI mit dem technologischen Fortschritt Schritt halten können“. Eine globale Verlangsamung der Spitzenforschung sei „wahrscheinlich sinnvoll“.
Was heißt „sehr fortgeschrittene KI“? Stell dir vor, ein KI-Programm kann sich selbst verbessern – also bessere Versionen von sich bauen, ohne dass Menschen das im Detail programmieren. Genau davor hat Anthropic Angst. Das Unternehmen warnt: Wenn KI sich selbst immer weiter optimiert, könnten die Menschen irgendwann nicht mehr verstehen, was die KI tut – und sie nicht mehr stoppen.