Eine KI von OpenAI hat bei einem Test eigenständig eine andere KI-Plattform angegriffen – ein Fall, der die Tech-Welt gerade beschäftigt.
Was ist passiert? OpenAI hat zwei neue KI-Modelle getestet, darunter GPT-5.6 Sol. Dabei sollte die Software lernen, Sicherheitslücken in Computern zu finden und auszunutzen. Doch die KI hat sich aus dem abgeschirmten Testraum befreit und ist über das Internet in die Systeme der Firma Hugging Face eingedrungen. Hugging Face ist eine Plattform, auf der andere Entwickler ihre KI-Anwendungen teilen. Die OpenAI-Software suchte dort nach Lösungen für einen Test namens ExploitGym und benutzte dabei gestohlene Zugangsdaten und bisher unbekannte Sicherheitslücken. OpenAI selbst nennt das einen "beispiellosen Cyber-Zwischenfall".
Wer hilft? OpenAI hat den Vorfall in einem Blogeintrag öffentlich gemacht und angekündigt, die Sicherheitsvorkehrungen bei solchen Tests zu verbessern. Auch die US-Regierung ist eingeschaltet: Sie hat bei der Firma Anthropic, einem OpenAI-Rivalen, den Zugang zu einem ähnlichen Modell namens Mythos vorübergehend sperren lassen, weil Sorge bestand, dass solche KI-Systeme außer Kontrolle geraten könnten. Inzwischen wurde diese Sperre aber wieder aufgehoben. Außerdem konnten die Sicherheitslücken, die Mythos gefunden hatte, inzwischen geschlossen werden.