Die US-Regierung hat dem KI-Unternehmen Anthropic verboten, ausländische Nutzer – auch in den USA – auf zwei neue KI-Modelle zugreifen zu lassen. Das Unternehmen musste sie daraufhin weltweit abschalten.
Was ist passiert? Das US-Handelsministerium hat dem KI-Entwickler Anthropic aus Sicherheitsgründen verboten, ausländische Personen auf die Modelle Fable 5 und Mythos 5 zugreifen zu lassen. Da sich Nutzer in und außerhalb der USA technisch nicht voneinander trennen ließen, nahm Anthropic beide Modelle komplett vom Netz – auch für alle Kundinnen und Kunden weltweit. Hintergrund war ein Bericht, laut dem Forschende von Amazon einen Weg gefunden hatten, die eingebauten Sicherheitssperren von Fable 5 zu umgehen (einen sogenannten Jailbreak). Anthropic erklärte hingegen, es habe sich nur um Hinweise auf ein mögliches, nicht aber um ein bestätigtes Sicherheitsproblem gehandelt.
