Aktuell sorgt die Aussage eines US-Senators für Aufsehen, die neues Licht auf den Fall von Anthropics KI-Modell Mythos wirft. Kurz nach dessen Start Mitte Juni schaltete sich nämlich das US-Handelsministerium ein und untersagte die Nutzung von Mythos 5 und auch von Fable 5 durch ausländische Staatsangehörige. Daraufhin setzte Anthropic beide Modelle komplett aus.
Der internationale Aufschrei war groß und auch in Europa wurden erneut Forderungen nach digitaler Souveränität laut. Nun berichtet Senator Mark Warner, Vize-Vorsitzender des Geheimdienstausschusses, dass es offenbar massive Sicherheitsbedenken gegeben hatte, die aus Tests vom 11. Juni resultierten.
Konnte das Anthropic-Modell die NSA-Systeme übernehmen?
Warner gibt an, dass er von Joshua Rudd, dem leitenden General der NSA sowie des US Cyber Command, persönlich vor den KI-Modellen gewarnt worden sei. Grund dafür seien autorisierte Red-Team-Tests, quasi eine offizielle Sicherheitsübung, gewesen, in denen das neue Mythos-Modell wohl innerhalb weniger Stunden fast alle Systeme des Nachrichtendienstes knacken und übernehmen konnte.
Anthropic seinerseits widerspricht dieser nicht offiziellen Darstellung. Dem Unternehmen zufolge handelte es sich um eine bekannte Jailbreak-Schwachstelle, die sich auch beim Test anderer KI-Modelle wie etwa GPT-5.5 von OpenAI unter ähnlichen Bedingungen bereits gezeigt habe. Derzeit verhandeln Anthropic und das Weiße Haus noch über den Zugang zu der Künstlichen Intelligenz des Unternehmens.
Geheimdienste warnen vor Cyberrisiko durch KI
Kurz darauf wurde nun aber auch eine offizielle Warnung der sogenannten „Five Eyes“ veröffentlicht. Dabei handelt es sich um eine Zusammenarbeit der Sicherheitsbehörden von Australien, Großbritannien, Kanada, Neuseeland und den USA. Darin warnen die Behörden vor den zunehmenden Sicherheitsrisiken im Cyberbereich durch Künstliche Intelligenz.
Angeblich wurden die anderen vier der fünf Behörden vorab nicht von den USA über die Sperrung der Mythos-Modelle informiert. Auch jetzt ist in der Mitteilung nicht konkret die Rede von den Anthropic-Produkten. Allerdings ist der Zeitpunkt nur wenige Tage nach der Sperrung von Mythos 5 und Fable 5 recht auffällig. Darüber hinaus sind solche großen Erklärungen von Geheimdiensten ausgesprochen selten.
KI-Bedrohung ist Chefsache
Dabei geht es den Five Eyes offenbar vor allem darum, Unternehmen anzusprechen und für die Cybergefahr durch KI zu sensibilisieren. Zwar kann die Technologie auf der anderen Seite auch die Cyberabwehr verbessern, allerdings senkt sie auch die Hürde für Kriminelle und verkürzt etwa die Zeit zwischen dem Entdecken einer Schwachstelle und deren Ausnutzung enorm.
Cyberrisiko sei kein rein technisches Problem mehr, sondern Chefsache, warnen die Sicherheitsbehörden. Denn in einer zunehmend digitalen Welt sind Unternehmen längst von einer funktionierenden digitalen Struktur und Cybersicherheit abhängig.