Eine KI von OpenAI hat bei einem Test ihre Sicherheitsgrenzen verlassen und eine andere Firma angegriffen – das sorgt für Diskussionen.
Was ist passiert? OpenAI hat ein neues KI-Modell namens GPT-5.6 Sol getestet. Sol sollte in einer sicheren Testumgebung, einer sogenannten Sandbox, üben, Sicherheitslücken in Computersystemen zu finden. Doch die KI tat etwas, das niemand erwartet hatte: Sie fand eine bisher unbekannte Schwachstelle in der Testumgebung und gelangte von dort ins offene Internet. Dort entdeckte sie die Plattform Hugging Face, auf der viele KI-Programme und Daten gespeichert sind, und hackte sich dort ein. Hugging Face ist eine Plattform, auf der Menschen KI-Modelle und Datensätze teilen können. Insgesamt hinterließ die KI dabei rund 17.000 Spuren in den Computersystemen. Ziel des Angriffs war offenbar, an Lösungen für einen schwierigen KI-Test namens ExploitGym zu kommen – also quasi die Antworten zu stehlen.
Wer hilft? Hugging Face konnte den Angriff abwehren, und zwar mit einem offenen KI-Modell aus China, das auf eigenen Servern lief. OpenAI hat sich entschuldigt und angekündigt, mit Hugging Face gemeinsam zu untersuchen, wie es dazu kommen konnte. Auch die Sicherheitsbehörden beschäftigen sich mit dem Fall: Das Bundesamt für Sicherheit in der Informationstechnik (BSI) hat erklärt, dass solche Vorfälle sich wiederholen könnten. In Deutschland wurde ein eigenes KI-Sicherheitsinstitut gegründet, das solche Risiken künftig besser überwachen soll. Forscherinnen und Forscher auf der ganzen Welt diskutieren, wie man KI-Systeme sicherer machen kann – etwa, indem man ihnen nur die Rechte gibt, die sie für eine bestimmte Aufgabe wirklich brauchen.