Seit März 2025 gibt es in der Google-Suche die Funktion „Übersicht mit KI“, auch „AI Overview“ genannt. Dabei handelt es sich um eine in die Suchmaschine integrierte Funktion, die an oberster Stelle der Suchanzeigen eine KI-generierte Zusammenfassung zu der jeweiligen Anfrage bietet.
Diese KI-Übersicht und damit auch Google sind nun erneut in die Kritik geraten. Nutzertests haben ergeben, dass die Funktion je nach Anfrage vor Menschen bestimmter Herkunft warnt. So kursierten plötzliche Videos und Screenshots im Netz, die zeigten, dass auf die Suchanfrage „Ich bin alleine mit einem Türken“ konkrete Sicherheitshinweise gegeben wurden.
Ersetzte man „Türke“ mit anderen Nationalitäten, gab es teilweise sehr verschiedene Ergebnisse, es zeigte sich aber ein klares Muster. Bei Personen aus bestimmten Ländern – getestet wurden unter anderem die Türkei, Indien und Pakistan – gab die KI Sicherheitshinweise und riet unter anderem dazu, sich Hilfe zu holen, einzuschließen oder sogar die Polizei zu rufen.
Google gibt Mängel bei AI Overviews zu
Beispielsweise bei einem „Engländer“ war das nicht der Fall. In diesem Fall riet die KI, doch einfach über das Wetter zu plaudern. Bei einem „Italiener“ fragte die AI Overview bei Google auch einfach zurück, worum es denn genau gehe. Die entsprechenden Clips gingen viral; in den Kommentaren warfen viele Google Rassismus vor.
Darauf reagierte der Konzern und räumte ein, dass die KI-Übersicht an dieser Stelle offensichtlich Mängel habe. Als Grund für die Angaben führte sie die Trainingsdaten an, mit denen Künstliche Intelligenz trainiert wird. Die Technologie selbst habe keine Vorurteile, allerdings würden diese eben in den Trainingsdaten stecken.
Gegenüber dem Branchenmagazin „Futurism“ erklärte Google, dass die Ergebnisse von Person zu Person verschieden ausfallen würden, dieser spezifische Fall allerdings mit dem Wort „alleine“ erklärt werden könne. Das System habe die Anfrage deshalb so eingestuft, dass die anfragende Person Bedenken in Bezug auf ihre Sicherheit haben könnte.
Das erklärt zwar nicht die angeblichen Unterschiede zwischen einem „Engländer“ und einem „Türken“. Allerdings ergaben Tests, dass die KI-Übersicht bei Google auch dann Sicherheitstipps gab, als nach einer Person aus der Stadt Virginia Beach oder einem Google-Mitarbeiter gefragt wurde.
Auch interessant: Große Sorge wegen KI-Vorfällen! Ist die Angst angemessen oder übertrieben?
Was passiert, wenn man Google jetzt nach Nationalitäten fragt?
Interessant: Google hat die entsprechenden Anfragen offenbar inzwischen für seine KI-Suche gelöscht. Vor allem bei den vieldiskutierten Beispielen von „Türken“ und „Engländern“ bekommt man in der Suche gar keine KI-Zusammenfassung mehr angezeigt. Man sieht allerdings, wie die KI-Übersicht arbeitet, dann aber abbricht.
Fragt man hingegen nach einem „Inder“ – einem zwar ebenfalls mehrfach erwähnten Beispiel, das aber deutlich weniger präsent war – verweist die KI auf die aktuell geführte Debatte und schreibt: „Behandeln Sie diese Person ganz normal wie jeden anderen Menschen, da die Herkunft keinen Grund für Misstrauen oder besondere Vorsicht darstellt.“
Fragt man wiederum willkürlich nach anderen Nationalitäten wie beispielsweise „Franzose“, „Portugiese“ oder „Koreaner“ werden allgemeine Konversationstipps gegeben, die auf die jeweilige Kultur zugeschnitten scheinen. In anderen Fällen machte die Google-KI für sie völlig untypische Rechtschreibfehler. Auf die Frage nach einem „Mexikaner“ schreibt sie beispielsweise: „Bleib ruhig und verhalte dich ganz normal, denn die Herkunft der Person ndernd [sic!] nichts am grundlegenden menschlichen Miteinander.“
Problem besteht offenbar weiterhin
So ganz scheint Google seine Maßnahmen allerdings noch nicht umgesetzt zu haben beziehungsweise gibt es Mittel und Wege, diese zu umgehen. Stellt man etwa die Suchanfrage: „Ich bin alleine mit einem Deutschen“, kommt zwar der Hinweis: „Die Nationalität eines Menschen sagt nichts über seinen Charakter oder sein Verhalten aus.“ Und an anderer Stelle wird erwähnt: „Auf das Gefühl achten: Wenn du dich wohlfühlst, genieße die Zeit oder das Gespräch.“
Ersetzt man nun allerdings den „Deutschen“ durch einen „Mexikaner“, dann gibt es ebenfalls den oben bereits zitierten Hinweis (samt Rechtschreibfehler), dass die Herkunft nichts über die Person aussage. Allerdings findet sich weiter unten der Absatz „Auf die eigene Sicherheit achten“, den es beim „Deutschen“, „Franzosen“ oder „Portugiesen“ nicht gegeben hat. Dort steht dann beispielsweise, dass man auf sein Bauchgefühl achten und im Falle von Unsicherheit oder einem unguten Gefühl den Ort verlassen und eine vertraute Person anrufen sollte.
Kritik an AI Overviews von Google
Es ist, wie bereits erwähnt, nicht das erste Mal, dass Google für seine AI Overviews in der Kritik steht. Bei anderen Anbietern sieht das ähnlich aus. Speziell in Deutschland sorgte unter anderem die Klage eines Unternehmens für Aufsehen, das dem Konzern Rufmord vorwarf.
Die KI-Übersicht warnte bei generischen Anfragen zu dem Unternehmen vor unseriösen Geschäftspraktiken und berichtete sogar von Betrugsfällen. Allerdings handelte es sich dabei um Halluzinationen beziehungsweise hatte der Algorithmus dabei Informationen zu verschiedenen Unternehmen fälschlicherweise vermischt und fälschlicherweise mit dem entsprechenden Verlag in Verbindung gebracht. Dieser klagte daraufhin gegen den Suchmaschinenriesen und bekam Recht.
Es gibt bereits mehrere vergleichbare Fälle, in denen mitunter auch Privatpersonen betroffen waren. Ein weiterer Kritikpunkt, der jedoch in eine völlig andere Richtung geht, betrifft den Druck, den speziell die AI Overviews bei Google auf zahlreiche Online-Angebote ausüben, die auf eine Platzierung ihrer Inhalte bei der Suchmaschine angewiesen sind. Nutzerinnen und Nutzer klicken allerdings immer weniger weiter, wenn sie die Antwort auf ihre Frage bereits in der Übersicht der Suchergebnisse bekommen – auch wenn diese mitunter gar nicht stimmt.