Ob ein Bild, Text oder auch ein Service-Chat menschengemacht und -betreut oder KI-generiert ist, muss künftig klar gekennzeichnet sein. Die neue Regelung läuft unter der Nennung „KI-Kennzeichnungspflicht“ und soll zum einen die generelle Transparenz erhöhen und zum anderen sogenannte Deepfakes verhindern. Das Ganze gilt seit dem 2. August und geht auf den AI Act der Europäischen Union zurück.
So sieht die neue Regelung im Detail aus
Die EU-Regelung sieht vor, dass eine ganze Reihe von Inhalten künftig mit einem Icon beziehungsweise einem Wasserzeichen gekennzeichnet sein müssen. Das betrifft ganz grundsätzlich alle Medienformen, also Bilder, Videos, Audiodateien und mitunter auch Texte. Diese Inhalte unterliegen der neuen KI-Kennzeichnungspflicht:
- Künstlich erzeugte oder manipulierte Bild-, Audio- und Videoinhalte, die echten Personen, Orten oder Ereignissen täuschend ähnlich sehen (Deepfakes)
- Texte zu Angelegenheiten von öffentlichem Interesse
- Direkte Interaktionen durch Chatbots, Sprachassistenten etc.
Die Maßnahme umfasst grundsätzlich alle Veröffentlichungen von Unternehmen, Forschungsinstituten, Vereinen und Behörden. Private Inhalte wie beispielsweise eine Nachricht im Familienchat sind theoretisch ausgenommen, allerdings ist die Grenze etwa im Influence-Business mitunter fließend. Wer also nicht entsprechend gekennzeichnete KI-Inhalte über den rein privaten Gebrauch hinaus veröffentlicht und teilt, handelt dem AI Act zuwider und muss mit einem Bußgeld rechnen.
Diese Inhalte sind von der Pflicht ausgenommen
Einige Inhalte sind aber auch explizit von der KI-Kennzeichnungspflicht ausgenommen. Besonders relevant ist das in redaktionellem Kontext, da die Verpflichtung entfällt, wenn der KI-generierte Inhalt „einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung des Inhalts trägt.“
Ist ein Bild, Text etc. also nicht gekennzeichnet, bedeutet das nicht, dass keine Künstliche Intelligenz im Spiel war. Es bedeutet lediglich, dass eine menschliche Person die letztinstanzliche Verantwortung dafür trägt. Diese Ausnahmen gelten:
- Offensichtlich künstlerische, kreative, satirische, fiktive und analoge Werke
- Gesetzlich zugelassene Inhalte „zu Angelegenheiten von öffentlichem Interesse (...), um Straftaten aufzudecken, zu verhindern, zu untersuchen oder strafrechtlich zu verfolgen“
- Inhalte, die von einer Person überprüft wurden, die die redaktionelle Verantwortung übernimmt
- Rein private Inhalte
Das bedeutet konkret, dass etwa bei internen E-Mails oder auch bei einer Bewerbung nicht gekennzeichnet sein muss, wenn KI zum Einsatz gekommen ist. Veröffentlicht aber etwa eine Politikerin oder ein Politiker eine öffentliche Stellungnahme von öffentlichem Interesse, greift hingegen die KI-Kennzeichnungspflicht. Gleiches gilt für öffentliche Informationsangebote – wenn keine ausreichende menschliche Kontrolle stattgefunden hat.
Auch interessant: An diesem Tag sind Telefonbetrüger besonders aktiv
Wie Nutzer von der KI-Kennzeichnungspflicht profitieren
Der AI Act der EU soll vor allem die Gefahr der Täuschung und Manipulation in sensiblen Bereichen reduzieren. Letztere ist vor allem bei politischen Themen oder auch im sogenannten „YMYL“-Sektor hoch; das steht für „Your Money Your Life“ und bezieht sich auf alle Inhalte, die sensible Bereiche wie Gesundheit, Finanzen und Sicherheit betreffen.
In diesem Sinne fallen zum Beispiel auch KI-generierte Produktbilder in Online-Shops oder Ähnliches darunter, das Verbraucherinnen und Verbraucher zu nachteiligen Kaufentscheidungen drängt. Diese profitieren im Optimalfall also vor allem von der Transparenz und werden vor irreführenden Angaben besser geschützt. Darüber hinaus soll die KI-Kennzeichnungspflicht Desinformation verhindern.
Am Ende liegt die die finale Verantwortung für den Umgang mit den konsumierten Inhalten aber natürlich immer noch bei der jeweiligen Nutzerin beziehungsweise dem jeweiligen Nutzer. Die Kennzeichnungspflicht dämmt KI-Inhalte nicht ein, sie macht sie nur sichtbarer.
Kennzeichnung muss gut sichtbar und zugänglich sein
Das Neuerung soll vor allem sicherstellen, dass Verbraucherinnen und Verbraucher überall dort, wo sie in dieser Funktion auftreten und mit KI-generierten Inhalten in Kontakt kommen, diese auch als solche erkennbar sein müssen. Ein kaum sichtbares Wasserzeichen oder ein versteckter Vermerk reichen dabei nicht aus. Stattdessen ist ein gut sichtbarer Hinweis Pflicht.
Bei Bildern und Videos ist das ein entsprechendes Siegel – speziell bei Videos muss dieses auch zu Beginn sichtbar sein und nicht erst am Ende. Bei Texten muss der Hinweis ebenfalls sichtbar platziert sein. Ein Vermerk am Ende der Quellen oder eine generische Formulierung im Impressum reichen nicht mehr aus.
Eine korrekte Kennzeichnung entbindet allerdings nicht von marken- und urheberrechtlichen Grenzen. So dürfen Logos oder auch Prominente nicht KI-generiert zum Einsatz kommen, auch wenn der Einsatz der Technologie korrekt ausgewiesen wird.
KI-Kennzeichnungspflicht geht einigen nicht weit genug
Während grundsätzlich viele die erhöhte Transparenz durch die neue Regelung begrüßen, gibt es auch Kritik an der EU-Maßnahme. So kritisiert unter anderem der Verbraucherschutz, dass die Grenzen teilweise unklar seien, vor allem, was Formulierungen wie „offensichtlich unrealistische“ Inhalte oder auch das „öffentliche Interesse“ angeht.
Und beispielsweise auch Kunstschaffenden geht die Regelung nicht weit genug. Wie sieht es beispielsweise mit den Texten in Büchern aus; sind diese Teil des „öffentlichen Interesses“? Und was ist mit Social-Media-Posts oder anderen Online-Publikationen? Die EU-Regelung bleibt hier in einigen Bereichen zu schwammig und öffnet durch den Hinweis, dass die Pflicht entfällt, sobald eine menschliche Person den Inhalt kontrolliert und abgesegnet hat, eine recht große Hintertür, so einige Gegenstimmen.
Kritik gibt es auch vom Lager der generellen KI-Befürworterinnen und -Befürworter. Diese befürchten durch die KI-Kennzeichnungspflicht nämlich höhere Risiken, mehr Bürokratie und zudem eine potenzielle Ablehnung der gekennzeichneten Inhalte. Unklare Grenzen würden außerdem zu übertriebener Vorsicht bei Unternehmen und ihren Beschäftigten führen, die mit Künstlicher Intelligenz arbeiten. Zudem seien die hohen Bußgelder bei falscher Kennzeichnung überzogen.