Das Unternehmen Anthropic hat vorgeschlagen, dass die Entwicklung besonders starker KI weltweit gebremst wird – und erklärt, warum das nur funktioniert, wenn alle mitmachen.
Du nutzt vielleicht Chatbots wie Claude – die stammen vom US-Unternehmen Anthropic. Dieses Unternehmen hat jetzt gesagt: Wir finden es wahrscheinlich sinnvoll, wenn die Entwicklung von sehr leistungsfähiger KI auf der Welt langsamer läuft oder kurz pausiert. Die Begründung: Die Technik wird gerade extrem schnell besser, aber die Gesellschaft und die Forschung, die KI sicher machen soll, kommen nicht so schnell hinterher.
Gleichzeitig gibt es ein KI-Programm namens Mythos, das Sicherheitslücken in Computersystemen finden soll. US-Behörden und die EU wollen es testen. Deutsche Verfassungsschützer warnen aber: Solche Tools könnten auch von Kriminellen oder staatlichen Hackern für Cyberangriffe genutzt werden.