KI-gestützte Kamerasysteme sind zunehmend auf dem Vormarsch, auch im öffentlichen Raum. Die Systeme. Dafür gibt es gute Gründe. So können die Systeme bei der Terrorismusbekämpfung helfen, die Ermittlungsbehörden entlasten oder auch beim Suchen vermisster Personen unterstützen. Doch während dadurch für die einen ein Gefühl von Sicherheit entsteht, überwiegen für andere eher die Nachteile.
Zu diesen gehören primär der Verlust der Anonymität und ein Gefühl der Überwachung, vor allem bei Kameras an öffentlichen Plätzen. Der Einsatz von Künstlicher Intelligenz verstärkt dabei sowohl die Vor- als auch die Nachteile, da die Systeme mit der Unterstützung deutlich besser und präziser Personen erkennen können und noch einiges mehr. Immer wieder hört man in diesem Zusammenhang allerdings, dass es Möglichkeiten gibt, sich vor den KI-Kameras zu verstecken – und zwar ohne auffällige Kapuze und Sonnenbrille.
Dabei geht es vor allem um bunte Muster auf der Kleidung, die man trägt. So sollen bestimmte Muster dazu führen, dass die Kamerasysteme verwirrt sind und man auf diese Weise quasi „unsichtbar“ wird. Was ist dran?
Wie bestimmte Muster KI-Systeme überlisten können
Eine wichtige Unterscheidung, die man in diesem Fall vornehmen kann, ist die zwischen einer Überwachungskamera und einem eventuell zum Einsatz kommenden KI-System dahinter. Eine Überwachungskamera beziehungsweise die Aufzeichnung selbst kann man durch gemusterte Oberteile nicht verwirren. Bei einer KI ist das hingegen durchaus der Fall.
Das Vorgehen nennt sich „Adversarial Attacks“, was übersetzt so viel wie „feindlicher Angriff“ bedeutet. Der Begriff bezeichnet einen gezielten Eingriff in KI-Systeme, bei dem Eingabedaten unmerklich dahingehend verändert werden, dass die KI falsche Entscheidungen trifft. So kann beispielsweise bereits ein Sticker auf einem Stoppschild dazu führen, dass die Künstliche Intelligenz das Schild nicht mehr erkennt und es stattdessen als Tempolimit interpretiert.
Das ist auch bei Überwachungskameras mit KI-System möglich. Moderne Überwachungssysteme nutzen neuronale Netze und Objekterkennungs-Algorithmen wie zum Beispiel das System „YOLO“ (You Only Look Once), um Menschen in Echtzeit zu identifizieren. Zur Erkennung sucht der Algorithmus nach bestimmten Pixel-Mustern, Konturen oder auch Kontrasten und genau dabei kann man das System stören.
Forschung zu KI-verwirrenden Mustern läuft schon seit Längerem
Ein belgisches Forschungsteam der Uni Leuven veröffentlichte bereits 2019 eine entsprechende Arbeit. Dabei druckten sie ein speziell berechnetes buntes Muster aus und hielten es vor sich. Die KI war nicht mehr in der Lage, die Personen zu erkennen; das Schild macht die Person für die KI im wahrsten Sinne des Wortes „unsichtbar“, weil sie gar nicht mehr als Mensch und auch nicht als Objekt erkannt wurde.
Unter anderem im Jahr 2022 wurde diese Idee von einem Team an der Uni Maryland weiterverfolgt, das einen „Invisibility cloak“, also einen „Unsichtbarkeitsumhang“, präsentierte, auch wenn es sich genau genommen um einen „Unsichtbarkeitspullover“ handelte. Dieser hatte einen bestimmten Aufdruck, der die Trägerin oder den Träger für gängige Personendetektoren praktisch verschwinden ließ.
Inzwischen gibt es vor allem im Start-up-Bereich mehrere Design-Unternehmen, die entsprechende Kleidung beziehungsweise die Muster dafür entwickeln. KI kommt bei diesen Unternehmen ebenfalls zum Einsatz, um ironischerweise genau die Muster zu entwickeln, die die Systeme später verwirren. Ein gutes Beispiel dafür ist das Projekt des Cybersicherheitsexperten Bill Swearingen, über das unter anderem „Techcrunch“ berichtete. Der Experte trainierte ein KI-Modell dahingehend, dass es selbst immer aufs Neue passende Muster generiert, die Swearingen anschließend auf T-Shirts druckt.
Auch interessant: Ingenieur baut KI-Laser gegen Mücken
Methode zur Verwirrung von KI-Kameras hat Grenzen
Die Forschung auf diesem Gebiet dient zum einen dazu, Menschen, die sich überwacht fühlen, entsprechende Optionen zu bieten. Andererseits werden auf diese Weise auch Schwachstellen von KI-Kamerasystemen identifiziert, die anschließend behoben werden können. Man muss in diesem Kontext betonen, dass die Methode auch ihre Grenzen hat.
Ein Muster, das bei einem Kamerasystem funktioniert, funktioniert dadurch nicht automatisch auch in jedem anderen. Zudem tritt abseits der Kameraaufzeichnung ein anderer interessanter Effekt in Kraft. Personen, die entsprechende Muster tragen, fallen den KI-Kameras zwar nicht mehr auf, den Menschen in der Nähe dafür in der Regel umso mehr.