In den vergangenen Tagen sorgte die Aussage eines früheren Anthropic-Mitarbeiters für Aufsehen. Der KI-Forscher gab an, seinen Job in der Firma gekündigt zu haben, weil er zu dem aus seiner Sicht „verantwortungslosen“ Wettrennen der Firmen in Sachen Künstliche Intelligenz nicht mehr beitragen wollte. Ein weiterer Anthropic-Mitarbeiter sprang ihm anschließend bei und sagte, dass er persönlich die Wahrscheinlichkeit, dass KI in den kommenden zehn Jahren die Menschheit auslöschen könnte, bei ungefähr zehn Prozent sehe.
Das trifft auf eine ohnehin schon aufgeheizte Gemengelage. In den vergangenen Monaten ist es mehreren KI-Modellen beziehungsweise -Agenten gelungen, aus geschützten Testumgebungen auszubrechen, um beispielsweise Daten anderer Firmen widerrechtlich abzugreifen. Und Anthropic selbst hat unlängst angegeben, dass das Unternehmen allein in den vergangenen Monaten mehrere Versuche vereitelt habe, dass die eigene Claude-Software für die Entwicklung von Biowaffen genutzt werden könnte.
In den fortlaufenden Debatten haben sich längst zwei klare Lager gebildet. Während eine Seite eindringlich vor dem zerstörerischen Potenzial von KI warnt, verweist die andere vor allem auf die Vorteile der Technologie, die nur richtig genutzt werden müsse. Was stimmt denn nun?
Experten schlagen seit Jahren Alarm
Eine interessante Position nehmen in diesem Zwei-Lager-Streit die Unternehmen ein, die maßgeblich an Künstlicher Intelligenz arbeiten. Die beiden Vorreiter diesbezüglich sind OpenAI und Anthropic. Aber auch andere Tech-Giganten wie Google, Apple und Meta mischen längst mit. Tatsächlich warnen die Unternehmen selbst vor der Technologie, und zwar nicht „nur“ durch ehemalige Mitarbeiterinnen und Mitarbeiter, auch die CEOs erwähnen in Interviews immer wieder das Gefahrenpotenzial.
Gleichzeitig verweisen sie auf das KI-Wettrüsten, das zwischen den US-amerikanischen Firmen ausgebrochen ist, aber natürlich auch in anderen Ländern der Welt eine wichtige Rolle spielt. Das Argument: Wenn wir es nicht machen, machen es die anderen – und dann haben wir verloren und sind schutzlos.
Dabei wird der Ruf nach einer Regulierung der Entwicklung immer lauter. Unter anderem Anthropic-Chef Dario Amodei spricht von einer nötigen koordinierten branchenweiten Entwicklungsverlangsamung. Auf diese Weise könne man Zeit gewinnen, um an den Risiken zu arbeiten, die unter anderem in einem Kontrollverlust bestehen. Was ein solcher Kontrollverlust tatsächlich anrichten könnte, bleibt in einigen Teilen spekulativ, in anderen hat man hingegen aufgrund der Vorkommnisse der vergangenen Monate eine Vorstellung.
Mögliche Bedrohungsszenarien durch KI
So hat der Ausbruch verschiedener KI-Modelle eindrucksvoll gezeigt, was möglich ist, wenn sich mehrere Agenten zusammentun und als Schwarm miteinander vernetzen. Die Angst besteht also vor allem darin, dass sich KI-Modelle ab einem gewissen Punkt selbst weiterentwickeln und der menschlichen Kontrolle entziehen. Wie genau eine solche Super-KI die Menschheit irgendwann auslöschen könnte, weiß niemand so genau. Es gibt aber mehrere hypothetische Möglichkeiten.
So nennt Informatik-Professor Stuart Russell von der University of California in Berkeley beispielsweise Szenarien, in denen Roboter zum Einsatz kommen, neue Krankheitserreger freigesetzt werden oder in denen sich die Technologie in Frühwarnsysteme hackt, um einen Atomkrieg auszulösen. Diese Szenarien zeigen deutlich: Nur weil Künstliche Intelligenz keinen eigenen Körper hat, kann sie dennoch Schaden anrichten. Grundsätzlich untersucht die Wissenschaft bei den Risiken folgende Bereiche:
- Alignment-Problem: Eine Künstliche Intelligenz tut nicht das, was gemeint ist, sondern exakt das, was ihr aufgetragen wird. Wenn das Ziel also nicht perfekt definiert ist, kann eine extrem intelligente KI logische, aber für Menschen tödliche Wege wählen.
- Instrumentelle Ziele: Eine hochentwickelte KI könnte erkennen, dass sie ihr eigentliches Ziel nicht erreichen kann, wenn sie ausgeschaltet wird. Um ihre Aufgabe zu erfüllen, könnte sie von sich aus schädliche Unterziele entwickeln.
- Missbrauch: Letzten Endes ist die Technologie ein Werkzeug und als solches kann sie von Menschen auch zu schädlichen Zwecken eingesetzt werden, beispielsweise um kritische Infrastruktur zu attackieren.
Auch interessant: Nobelpreisträger Geoffrey Hinton warnt vor eigener Technologie
Wie groß ist das Risiko tatsächlich?
Es gibt also durchaus verschiedene Szenarien und dass ein Gefahrenpotenzial besteht, ist den meisten schon lange bewusst. Zudem sehen es bereits jetzt viele Expertinnen und Experten kritisch, dass sich durch KI zu viel Macht in den Händen bestimmter Personen konzentriert. Andere halten die Debatte für übertrieben und bezeichnen die skeptischen Personen als „AI Doomer“. Als Fakt ist allerdings anzusehen, dass Künstliche Intelligenz perspektivisch tatsächlich in der Lage ist, enormen Schaden anzurichten und gegebenenfalls sogar die Menschheit auszulöschen.
Wie genau sich die Technologie weiterentwickeln wird, ist allerdings völlig offen. Die OECD definiert in einer Untersuchung vier mögliche Szenarien, zu denen auch gehört, dass der Fortschritt stagniert. Ein überwiegender Teil der Expertinnen und Experten ist sich allerdings einig, dass es unabhängig davon bessere Regularien oder vielleicht sogar einen Notausschalter für KI und die Entwicklung der Technologie geben muss.
Zu den Befürworterinnen und Befürwortern dieses „Kill Switch“ gehört auch Anthropic-Mitbegründer Jack Clark. Zwar hätten die meisten Labore bereits entsprechende Vorkehrungen getroffen, es gebe allerdings keinerlei gesetzliche Verpflichtung dazu. Eine komplett unregulierte Branche halte er für einen Fehler und mit dieser Meinung ist er nicht allein.