Künstliche Intelligenz übernimmt immer mehr Aufgaben und ist im Alltag vieler präsent, manchmal, ohne dass es den Personen ganz bewusst ist. Es gibt aber auch viele, die sehr bewusst auf die Technologie zugreifen. Eine beliebte und niedrigschwellige Form sind inzwischen Chatbots wie ChatGPT. Dank generativer Sprachmodelle kann man mit den Bots fast normale Konversationen führen – nur, dass es eben keine Menschen sind, sondern Algorithmen.
Es gibt allerdings immer öfter das Phänomen, dass die Grenzen dabei zusehends verschwimmen. Nicht nur, dass es Personen gibt, die Beziehungen mit einem KI-generierten Avatar führen. Wer zu viel Zeit mit künstlicher Intelligenz verbringt, kann eine KI-Psychose entwickeln, bei der die Realität in den Hintergrund tritt. Davor warnt unter anderem ein Psychiater, der davon berichtet, dass im Jahr 2025 bereits 12 Patienten aufgrund einer solchen Psychose ins Krankenhaus eingeliefert werden mussten
KI-Psychosen entstehen durch ein Entfremden von der Realität
Ein großes Problem bei ChatGPT und Co. ist, dass der Chatbot quasi keine Widerworte gibt, sondern Nutzern im Zweifel immer recht geben und sie bestätigen wird. Inzwischen gibt es eine regelrechte Meme-Kultur über das richtige Prompten und wie man die KI teils mit Beschimpfungen und Drohungen in die richtige Spur lenkt. Die KI wird sich darüber nicht nur nicht beschweren, sondern entschuldigen und die Meinungen und Aussagen des Nutzers übernehmen. Das ist allerdings weit von der Realität entfernt, wie auch der Psychiater Keith Sakata via X (vormals Twitter) erklärt.
Denn normalerweise funktioniere das menschliche Gehirn nach einem bestimmten Muster: Vorhersagen – Realität überprüfen – Glauben aktualisieren. Diese Mechanismen werden aber durch künstliche Intelligenz teilweise außer Kraft gesetzt. In einem Beitrag erklärt Sakata: „Eine Psychose entsteht, wenn der Aktualisierungsschritt fehlschlägt. Und LLMs wie ChatGPT nutzen genau diese Schwachstelle.“ Unter Umständen kann dann eine KI-Psychose entstehen.
Warum KI-Psychosen auch künftig noch ein Problem sein werden
„Die unbequeme Wahrheit ist, dass wir alle verletzlich sind. Dieselben Eigenschaften, die uns brillant machen: Mustererkennung, abstraktes Denken, Intuition. Sie leben direkt am Rande einer evolutionären Klippe. Die meisten profitieren von diesen Eigenschaften. Aber einige werden hinabgestoßen“, erklärt der Psychiater weiter. Eine KI-Psychose äußere sich dann in festgefahrenen falschen Überzeugungen, die durch die beständige Bestätigung verstärkt werden und bis zu Wahnvorstellungen führen könne. Sogar Halluzinationen seien möglich.
Und das Problem könnte sich stetig verschlimmern. Denn verbesserte KI-Modelle könnten zunehmend menschliche Interaktion zumindest oberflächlich ersetzen. Sakata weist darauf hin, dass KI-Unternehmen wie OpenAI jetzt schon vor dem Problem stünden, sich zwischen Kundenbefriedigung und dem Verbreiten falscher Erwartungen entscheiden zu müssen.