Künstliche Intelligenz (KI) entwickelt sich gerade deutlich schneller als ihr rechtlicher Rahmen. Allerdings zieht die Justiz aktuell schrittweise nach. So hat gerade das Landgericht München in einem Fall gegen den Technik-Riesen Google entschieden.
In dem vor Gericht verhandelten Sachverhalt geht es um die KI-Suchergebnisse des Branchenriesen. Diese wurden im Frühjahr 2025 eingeführt und werden seitdem bei zahlreichen Anfragen an die Suchmaschine als Erstes angezeigt. Doch was ist, wenn dort falsche Informationen stehen?
Googles KI-Suchergebnisse stehen in der Kritik
Um diese Frage geht es im Kern des Urteils. Geklagt hatte nämlich ein Verlag, dem die Google-KI unseriöse Geschäftspraktiken und sogar Betrug vorgeworfen hatte. Allerdings waren diese Anschuldigungen frei erfunden. Der Algorithmus hatte dabei Informationen zu verschiedenen Unternehmen fälschlicherweise vermischt und mit dem Verlag in Verbindung gebracht.
Solche Fälle gab es in der Vergangenheit bereits mehrfach und sie richteten sich mitunter auch gegen Privatpersonen. KI-Suchen zu bestimmten Personen ergaben dabei beispielsweise, dass es sich um Verbrecherinnen und Verbrecher handelte, die wegen Kindesmissbrauchs oder Mordes verurteilt wurden – obwohl nichts davon der Wahrheit entsprach.
Der Fehler ist durch die grundlegende Funktionsweise von KI zu erklären. Es handelt sich nämlich nicht einfach um eine erweiterte, intelligente Suchmaschine. Stattdessen wird bei generativer KI aufgrund komplexer Algorithmen die Wahrscheinlichkeit des nächsten Wortes berechnet. So kann es immer wieder zu inhaltlichen Fehlern kommen.
Verlag klagt gegen Google und bekommt Recht
Darauf weisen sämtliche KI-Anbieter explizit hin, auch Google. So findet man in kleiner Schrift unter der KI-Zusammenfassung den Hinweis: „KI-Antworten können Fehler enthalten“. In seiner Argumentation zur Verteidigung berief sich Google zudem auf das Prinzip der Störerhaftung. Demnach sind Plattformen nicht für Inhalte haftbar, die von Fremden erstellt und auf ihnen veröffentlicht wurden.
Voraussetzung ist, dass sie die Inhalte löschen, nachdem sie gemeldet wurden. Teil der Argumentation war zudem, dass die Nutzerinnen und Nutzer theoretisch wüssten, dass man KI-generierten Texten nicht einfach vertrauen dürfe und dass die verlinkten Quellen stets auch überprüft werden müssten. Dem widersprach das Landgericht allerdings und verwies dabei in seinem Urteil auf die Sonderrolle von Künstlicher Intelligenz.
Diese hat dem Gericht zufolge „eigenständige, über die einzelnen, im späteren Verlauf dann durch Verlinkungen angezeigte Suchergebnisse hinausgehende Aussagen“ formuliert. Da Google die KI zudem „selbst eingeführt hat und den Nutzenden anbietet, muss sie sich deren Ergebnisse auch zurechnen lassen, denn nur sie hat Einfluss auf das Angebot der KI und auf die Algorithmen, mit denen die KI operiert.“
Auch interessant: KI verursachte gefährliche Wahnvorstellungen
Google-Urteil könnte die gesamte Branche verändern
Unterm Strich bedeutet das, dass die Störerhaftung in solchen Fällen nicht greift. Sie entbindet Unternehmen wie Google also nicht von ihrer rechtlichen Verantwortung für die KI-generierten Inhalte. Das hat für Google direkte Konsequenzen, aber auch für andere Suchmaschinen.
Zunächst muss der Tech-Konzern 80 Prozent der Verfahrenskosten tragen. Zudem muss Google dafür Sorge tragen, dass sämtliche falschen Behauptungen in Bezug auf den Verlag entfernt werden. Darüber hinaus bedeutet das Urteil auch für andere Anbieter einen neuen rechtlichen Rahmen. Dieser ist zwar zunächst auf Deutschland und Europa beschränkt.
In der Vergangenheit hat sich aber bereits in anderen Bereichen gezeigt, dass das schrittweise auch Veränderungen in anderen Märkten angestoßen hat. Ein bekanntes Beispiel ist etwa das Ende von Apples Lightning-Anschluss, der unter anderem auf eine EU-Regelung zu einheitlichen Ladeanschlüssen zurückgeht.
KI ist ein Katalysator für Falschinformationen
Die Entscheidung des LG München könnte also langfristig den gesamten Markt für generative KI betreffen. Wenn nämlich die Unternehmen für fehlerhafte Angaben tatsächlich haftbar gemacht werden können, müssten beispielsweise deutlich strengere Filter zur Verfügung stehen. Das könnte allerdings auch zu einigen Einschränkungen für Verbraucherinnen und Verbraucher führen.
Diesen kommt künftig aber ohnehin eine wichtige Rolle zu. Denn in diesem Zusammenhang wäre es enorm wichtig, dass Nutzerinnen und Nutzer eine höhere Sensibilität für die Fehleranfälligkeit von KI entwickeln. Auswertungen haben ergeben, dass in fast zehn Prozent der Antworten erfundene Fakten als Wahrheit dargestellt oder sogar explizit ausgegeben werden.
Durch KI verbreiten sich somit Falschinformationen auf einem völlig neuen Level. Im Fall von konkreten falschen Anschuldigungen gegen Unternehmen oder auch gegen Privatpersonen bildet sich gerade ein rechtlicher Rahmen heraus, der es den Betroffenen ermöglicht, besser gegen die rufschädigenden KI-Halluzinationen vorzugehen.