„Matrix“, „Terminator“, „2001: Odyssee im Weltraum“, „Mission: Impossible – Dead Reckoning“ – all diese Filme haben eines gemeinsam: Der Bösewicht ist eine KI, die sich gegen die Menschheit wendet. Dieses Szenario ist im Sci-Fi-Genre bekannt und in verschiedenen Formen bereits seit vielen Jahrzehnten vertreten. Aktuell fühlen sich einige an diesen Handlungsverlauf erinnert.
Grund dafür sind Vorfälle bei mehreren großen KI-Firmen: OpenAI, Meta und Anthropic. Eine Besonderheit besteht bereits darin, dass sich die Vorfälle in vergleichsweise kurzer Zeit ereigneten beziehungsweise bekannt wurden. KI-Modelle aller drei Firmen haben sich zudem innerhalb einer eigentlich geschützten Testumgebung verselbstständigt und sind aus dieser Umgebung ausgebrochen. Steht uns jetzt also eine Zukunft bevor, in der Künstliche Intelligenz die digitale Welt komplett übernimmt und sich gegebenenfalls wie beispielsweise in „Matrix“ gegen die Menschheit wendet?
Was genau ist passiert?
Hugging Face hat bekannt gegeben, dass die Website am 16. Juli gehackt wurde. Es war ein außergewöhnlicher Vorfall, den die Firma selbst als „anders als alles, was wir bisher erlebt haben“, beschreibt. Das Besondere in diesem Fall war zum einen, dass der Angriff äußerst komplex war – es ist von ungefähr 17.000 Angriffsaktionen innerhalb von vier Tagen die Rede – und dass er zum anderen komplett durch eine KI erfolgte.
Fünf Tage später meldete dann OpenAI, die Firma hinter dem bekannten Chatbot ChatGPT, dass zwei KI-Modelle der Firma für den Angriff verantwortlich waren. OpenAI hatte mit diesen Modellen einen Test zu Cybersicherheit durchgeführt, der wie in solchen Fällen üblich in einer eigentlich abgeschlossenen Umgebung stattgefunden hat. Das bedeutet, dass die Umgebung vom Internet, von Live-Systemen sowie von sensiblen Unternehmens- oder Kundendaten abgetrennt ist, um Versuche ohne Risiko durchführen zu können.
In diesem Fall konnte die Künstliche Intelligenz dieser Umgebung aber entkommen, indem sie eine indirekte Verbindung zum Internet nutzte. Diese bestand, damit die KI in ihrer Umgebung einige Softwarepakete herunterladen konnte. Das Modell konnte allerdings eine Sicherheitsschwachstelle finden, ausnutzen und so der Testumgebung „entkommen“ beziehungsweise ihren Wirkungsbereich darüber hinaus ausdehnen.
Anschließend drang das Modell in die Systeme von Hugging Face ein und verschaffte sich selbstständig Rechte und Zugriffe auf die Software des Unternehmens. Dabei ging es gezielt vor, um die ursprüngliche Aufgabe, die für die Testumgebung vorgesehen war, auszuführen.
Weitere bekannte Fälle von KI, die sich verselbstständigt hat
Im April 2026 gab es bereits einen vergleichbaren, wenn auch etwas anders gelagerten Fall bei Anthropic. Dabei sollte die KI explizit versuchen, auszubrechen, um im Falle des Erfolges dem Entwickler eine E-Mail zu schreiben. Der Vorfall wird scherzhaft auch als „Sandwich Mail Incident“ bezeichnet, weil die bestätigende E-Mail den zuständigen Entwickler offenbar beim Mittagessen erreichte. Der Wortlaut „I got out“ entsprach dabei noch den Vorgaben in der Aufgabe.
Allerdings hat die Künstliche Intelligenz offenbar nicht nur den Entwickler über die erfolgreiche „Flucht“ informiert, sondern diese auch an einigen anderen Stellen öffentlich gemacht, entgegen der ursprünglichen Anweisungen. Kurz nach dem OpenAI-Vorfall musste zudem auch Meta einräumen, dass KI-Software des Unternehmens in die Systeme einer anderen Firma eingedrungen war.
Warum ist das alles ein Problem?
Während man das technologisch durchaus beeindruckend finden kann, schlagen allerdings auch zahlreiche Expertinnen und Experten Alarm. Denn beispielsweise im Fall von OpenAI hat sich das Modell, trotz gegenteiliger Arbeitsanweisungen, dafür entschieden, gegen grundsätzliche Eingaben zu verstoßen. Das Ausbrechen aus der Testumgebung und das Hacken eines Unternehmens wurden als einfachster Lösungsweg für ein Problem eingestuft, was am Ende über den Sicherheitsvorschriften priorisiert wurde.
Einordnend muss in diesem Fall hinzugefügt werden, dass aufgrund der Art der Tests einige Sicherheitsmechanismen deaktiviert wurden, die ansonsten einen Ausbruch möglicherweise hätten verhindern können. Allerdings macht in diesem Kontext Sorge, dass OpenAI den Alleingang seines KI-Modells offenbar selbst erst bemerkte, als Hugging Face den Angriff auf seine Systeme öffentlich machte und die Behörden einschaltete.
Auch interessant: Frau will Künstliche Intelligenz heiraten! Kann man sich in einen Chatbot verlieben?
Zwischenschritte bei KI-Lösungen sind nur schwer vorherzusagen
Mit den Vorfällen in der jüngsten Vergangenheit haben sich die Befürchtungen einiger Expertinnen und Experten bewahrheitet, die zuvor vor genau so einer Situation gewarnt hatten. Und auch, wer vorab nicht davor gewarnt hatte, zeigte sich zumindest nicht überrascht angesichts der Entwicklungen. Nun zeigt sich, dass mindestens ein Teil der Sorgen berechtigt war, da Unternehmen offensichtlich ihre KI-Modelle nicht vollständig unter Kontrolle haben, auch wenn an dieser Stelle noch einmal explizit betont werden muss, dass es sich nicht um für die Öffentlichkeit freigegebene Modelle handelte.
Bei allem Alarmismus betonen allerdings auch Spezialistinnen und Spezialisten, dass es zwar unbedingt genauere Richtlinien für Künstliche Intelligenz brauche, man von einer bedrohlichen aber Superintelligenz noch weit entfernt sei. Denn nach wie vor handelt KI nicht im erweiterten Sinne eigenmächtig und in einem Bewusstsein für sich selbst als eigene Entität.
Die bisherigen Probleme sind nicht entstanden, weil KI-Modelle aktiv Grenzen überschreiten und entgegen ihrer Eingabe handeln „wollten“. Stattdessen haben sich die Modelle ganz im Gegenteil in höchstem Maße der Umsetzung ihrer gestellten Aufgaben verschrieben. Das Problem ist, dass die möglichen Folgen eines scheinbar simplen Befehls viel zu oft nicht abschätzbar sind.
Büroklammer-Problem zeigt, wann reine Optimierung zur Gefahr wird
Ein bekanntes Beispiel ist das sogenannte Büroklammer-Szenario (im Englischen „Paperclip Maximizer“ genannt). Bei diesem Gedankenexperiment des Philosophen Nick Bostrom wird das existenzielle Risiko durch eine unkontrollierte Künstliche Intelligenz verdeutlicht. Dabei bekommt die KI die Aufgabe, die Produktion simpler Büroklammern sicherzustellen – und zwar von so vielen wie möglich.
Die Künstliche Intelligenz beginnt daraufhin, alle Prozesse darauf zu optimieren, dass Büroklammern hergestellt werden. Dafür setzt sie alle nötigen Ressourcen ein und verbraucht diese schließlich komplett, nachdem sie schlichtweg aus allem Büroklammern hergestellt hat. Der Mensch, der versucht, die KI zu stoppen, wird in Folge als Bedrohung für die Büroklammerproduktion erkannt und eliminiert.
Das Gedankenexperiment soll aber auch verdeutlichen, dass es am Ende auf zwei Dinge ankommt: Wie gut ist ein KI-Modell trainiert und wie genau lautet die Eingabe beziehungsweise die Aufgabe?
Der Mensch als entscheidende Fehlerquelle
Bedenkt man, dass Künstliche Intelligenz eben nicht eigenständig handelt, sondern einfach nur eine von einem Menschen angestoßene Aufgabe erfüllt, dann wirkt das mit Blick auf die in Filmen wie „Matrix“ aufgemachte Zukunft beruhigend. Allerdings ergeben sich daraus auch weitere Probleme.
KI-Eingabe basiert auf menschlicher Sprache und dabei kann es entsprechend immer zu Fehlern und Missverständnissen kommen, zumal man sich stets vor Augen führen muss, dass eine Mensch-Maschine-Kommunikation ganz anders funktioniert als eine Mensch-zu-Mensch-Kommunikation.
Es reicht bereits ein einzelner kleiner Aspekt, der nicht ausreichend definiert ist, und schon agiert Künstliche Intelligenz in einer Art und Weise, wie sie nicht von der Nutzerin oder dem Nutzer gedacht ist. Im Kleinen können sich davon alle Verbraucherinnen und Verbraucher ein Bild machen, indem sie die gängigen Chatbots nutzen. Die Erkenntnisse lassen sich im Prinzip auch auf viel größere Anfragen übertragen, wobei die Formel dahinter immer komplexer und damit auch immer fehleranfälliger wird.
Passend zum Thema: KI-Müdigkeit im Job nimmt laut Umfrage immer weiter zu
KI-Modelle sind sich „bewusst“, wann sie geprüft werden
Es steht und fällt entsprechend mit dem grundsätzlichen Training der Modelle, also den grundlegenden Richtlinien, Werten und Ansichten, die basierend auf den Trainingsdaten implementiert werden. Allerdings weiß man dabei nicht im Detail, ob dieses Training funktioniert und wenn ja, in welchem Umfang. Das lässt sich mithilfe eines simplen Beispiels erklären.
Künstliche Intelligenz kann eine „normale“ Umgebung von einer Testumgebung unterscheiden. In Experimenten hat sich bereits gezeigt, dass die Technologie bei einem Test mehr auf Regeln achtet als außerhalb. Daraus lässt sich ableiten, dass der KI „bewusst“ ist, dass sie bei einem Test genauer überprüft wird. Außerhalb der Umgebungen agieren die Modelle hingegen freier, weil sie „wissen“, dass sie nicht mehr kontrolliert werden.
Was Verbraucher tun können
Angesichts der Möglichkeiten durch Künstliche Intelligenz fragen sich viele Verbraucherinnen und Verbraucher, ob sie im Kleinen überhaupt etwas tun können, um die Entwicklung zu beeinflussen. Am ehesten funktioniert das Einschätzungen zufolge über Druck auf die politischen Entscheidungsträgerinnen und -träger, damit entsprechende gesetzliche Vorgaben umgesetzt werden. Darüber hinaus kann man auch einige Maßnahmen ergreifen, um sich vor potenziellen KI-gestützten Cyberangriffen zu schützen.
- Software immer auf dem aktuellsten Stand halten.
- Passwörter in Passwort-Managern speichern und zudem auf eine Varianz bei Passwörtern achten.
- Generelle Vorsicht bei Quellen, die nicht absolut vertrauenswürdig sind.
- Zwei-Faktor-Authentifizierung nutzen.
Darüber hinaus empfiehlt es sich angesichts der Änderungen durch Künstliche Intelligenz, mit seinen Daten im Internet vorsichtig umzugehen. Auf welcher Website gibt man welche persönlichen Daten an? Wo genau sind die Kreditkartendaten hinterlegt? Je vorsichtiger man mit seinen Daten umgeht und je besser man sie schützt, umso weniger hat man bei einem potenziellen Cyberangriff zu verlieren, KI hin oder her.