Die KI-Firma Anthropic hat nach einer Anordnung der US-Regierung den Zugang zu seiner erst vor wenigen Tagen veröffentlichten Top-Software mit Künstlicher Intelligenz blockiert. Regierungsbehörden hätten Anthropic unter Verweis auf die nationale Sicherheit angewiesen, den Zugang aller Ausländer zu den KI-Modellen Fable 5 und Mythos 5 zu unterbinden, teilte das Unternehmen mit.
Betroffen von dem Verbot seien auch Ausländer, die sich in den USA aufhalten – und selbst die, die bei Anthropic arbeiten. Als Folge der Anweisung habe man kurzfristig den Zugang für alle kappen müssen, hieß es in einer Stellungnahme. Der Firma zufolge glaubt die Regierung, Kenntnis von einer Methode erlangt zu haben, Beschränkungen in der Software aufzuheben.
Die Künstliche Intelligenz hinter Anthropics KI-Modell Mythos ist besonders gut darin, zum Teil auch über Jahrzehnte unentdeckt gebliebene Software-Schwachstellen aufzuspüren. Diese Fähigkeit wurde bisher von US-Behörden und ausgewählten Unternehmen eingesetzt, um die Sicherheitslücken zu stopfen. Eine Sorge ist jedoch von Anfang an, dass eine solche KI in den falschen Händen zu einer gefährlichen Cyberwaffe werden könnte.
Das erst diese Woche veröffentlichte Modell Fable 5 basiert auf der Mythos-Technologie – bei ihm werden aber die Cybersicherheits- und Biotechnologie-Fähigkeiten blockiert. Mythos 5 ist die nicht-öffentliche volle Version, die weiterhin nur von Behörden und ausgewählten Unternehmenspartnern zur Härtung ihrer Systeme eingesetzt werden sollte.
Anthropic betonte, man habe bisher nur teilweise Informationen von der Regierung erhalten. Die Firma habe einen Bericht geprüft, der nach Einschätzung des Unternehmens der Auslöser der Anordnung gewesen sein dürfte. Dabei seien die Anthropic-Experten zu dem Schluss gekommen, dass es sich dabei um eine eingeschränkte Möglichkeit handele, die KI spezifische Programmcodes prüfen und Fehler korrigieren zu lassen.
Diese Fähigkeit hätten auch Modelle anderer Anbieter wie etwa GPT-5.5 des Rivalen OpenAI. Anthropic sei nicht einverstanden damit, dass deswegen Software für Hunderte Millionen Nutzer blockiert werde. Die Firma betont, dass die Sicherheitsvorkehrungen bei Fable 5 ausgiebig getestet worden seien.
Die Ironie an der Situation ist, dass Anthropic-Chef Dario Amodei sich erst vor wenigen Tagen dafür ausgesprochen hatte, die Regierung potenziell gefährliche KI-Software blockieren zu lassen. Anthropic betont aber, dass dies auf Basis transparenter und klarer Verfahren sowie technischer Fakten geschehen müsse. Das sei jetzt nicht der Fall.
Anthropic geriet in den vergangenen Monaten immer wieder in Schlagzeilen. Die Firma riskierte einen Konflikt mit der US-Regierung, da sie trotz Drucks darauf bestand, dass ihre KI-Modelle nicht in autonomen Waffensystemen und zur Massenüberwachung in den USA verwendet werden dürfen.
Das Pentagon erklärte Anthropic daraufhin zu einem Lieferketten-Risiko, was den Einsatz von Software des Unternehmens in Regierungsbehörden schwer beeinträchtigen kann. Die Firma klagt dagegen. Die außerordentlichen Cybersicherheitsfähigkeiten von Mythos machten Anthropic dann aber wieder wichtig für die US-Regierung.
Quelle: dpa