Wegweisende Ankündigung: YouTube will KI-Inhalte streng regulieren

Mit der zunehmenden Verbreitung von KI-Inhalten wird auch der Ruf nach Regulierung durch staatliche Institutionen lauter. Aber auch privatwirtschaftliche Unternehmen planen strengere Regeln. So plant YouTube mit generativer KI erzeugte Inhalte zu kennzeichnen und die Verbreitung von Musik zu unterbinden, die real existierende Künstler*innen imitiert.

YouTube betont in seiner Ankündigung das Ziel, "ein gesundes Ökosystem an Informationen auf YouTube aufrechtzuerhalten."

Künstliche Intelligenz ermögliche neue Formen des Storytellings und des kreativen Ausdrucks, könne aber auch genutzt werden, um Inhalte zu erstellen, die Zuschauer:innen in die Irre führen. Das gelte vor allem dann, wenn die Zuschauer*innen nicht wissen, dass das Video manipuliert oder synthetisch erzeugt wurde.

Kennzeichnung für KI-Inhalte

YouTube kündigt daher die Einführung neuer Regeln in den nächsten Monaten an, um sicherzustellen, dass Zuschauer*innen informiert werden, wenn Inhalte durch KI generiert wurden: "Creator*innen müssen in Zukunft offenlegen, wenn sie manipulierte oder synthetische Inhalte erstellt haben, die realistisch wirken. Das schließt die Nutzung von KI-Tools ein."

YouTube nennt als Beispiele "ein KI-generiertes Video, in dem ein Ereignis realistisch dargestellt wird, das aber nie stattgefunden hat. Oder Inhalte, die eine Person zeigen, die etwas sagt oder tut, das sie nicht tatsächlich gesagt oder getan hat." Diese Kennzeichnung sei besonders wichtig, wenn es um Wahlen (wie die US-Präsidentschafts- und Kongress-Wahlen 2024), aktuelle Konflikte (Ukraine-Russland, Israel-Hamas), Gesundheitskrisen oder öffentliche Amtsträger gehe.

Drohung mit Konsequenzen

YouTube droht offen mit Konsequenzen für Creator*innen, die sich nicht an diese Regeln halten, wie beispielsweise die Entfernung von Inhalten oder den Ausschluss vom YouTube-Partnerprogramm.

Die Plattform will zwei Möglichkeiten einführen, Zuschauer*innen über manipulierte oder synthetische Inhalte zu informieren: "Der Videobeschreibung wird ein neues Label hinzugefügt, um zu kennzeichnen, dass Inhalte digital verändert oder generiert wurden." Bei "bestimmten Inhalten zu sensiblen Themen" will YouTube dem Videoplayer "ein noch besser sichtbares Label" hinzufügen.

YouTube erklärt selbst, dass Labels in manchen Bereichen nicht ausreichen werden. Daher würden "synthetische Medien, die gegen unsere Community-Richtlinien verstoßen, von unserer Plattform entfernt – unabhängig davon, ob sie mit einem Label versehen sind."

Außerdem werden "Inhalte und Funktionen, die mit den generativen KI-Produkten von YouTube erstellt wurden, deutlich als KI-generiert gekennzeichnet." Besonderen Wert legt das Unternehmen darauf, zu verhindern, "dass mit unseren KI-Tools Inhalte generiert werden, die auf YouTube nicht erlaubt sind."

Maßnahmen gegen Stimmen-Imitationen

Zudem wird YouTube für seine Musikpartner die Möglichkeit einzuführen, "Anfragen zur Entfernung von KI-generierter Musik zu stellen, die eindeutig die singende oder rappende Stimme der Künstlerin oder des Künstlers imitiert". 

Ob die Musik wirklich entfernt wird, hängt davon ab, "ob der Inhalt im Rahmen von Nachrichtensendungen, Analysen oder einer Kritik der synthetischen Stimme gezeigt wird" - oder - und das sagt YouTube nicht explizit - ob die Imitation dazu benutzt werden soll, Hörer*innen vorzuspielen, hier handele es sich um die realen Künstler*innen.

Diese Einstellungen sollen zuerst für Labels oder Musikverlage verfügbar sein, die Künstler*innen repräsentieren, die an den ersten Experimenten von YouTube zu KI-generierter Musik teilnehmen. In den kommenden Monaten wird YouTube den Zugriff für weitere Labels und Distributoren erweitern.

KI gegen KI

Ironischerweise setzt YouTube selbst generative KI ein, um Verstöße gegen seine Community-Richtlinien festzustellen. Dank KI arbeiteten diese Systeme immer "schneller und genauer" und seien auch in der Lage, mit neuen Herausforderungen umzugehen.

Aber es gibt auch einen beträchtlichen menschlichen Faktor. Mehr als 20.000 bei Google - dem YouTube-Mutterkonzern - beschäftigte Prüfer*innen untersuchen, ob der von KI-Klassifikatoren gekennzeichnete Inhalt tatsächlich gegen YouTube-Richtlinien verstößt.

YouTube kündigt in diesem Zusammenhang an, auch das Feedback seiner User einzubeziehen, um seine Schutzsysteme zu verbessern. Ein eigener "Intelligence Desk" widme sich zudem dem Erkennen "neuer Online-Bedrohungen". Mit diesen Maßnahmen will YouTube gleichzeitig die "immensen Vorzüge" generativer KI nutzen "ohne Kompromisse bei der Sicherheit" einzugehen.

YouTube als Vorreiter

Die Ankündigung von YouTube bedeutet nicht weniger als den Eintritt in die Regulierung generativer Erzeugnisse von KI auf großen Social Media-Plattformen. 

Dass YouTube bzw. Google dabei als erstes Unternehmen Maßnahmen ergreift, ist keine Überraschung, da die Community-Richtlinien der Plattform schon immer relativ streng überwacht wurden. Es wird interessant zu erleben, ob die Meta-Plattfomen Facebook und Instagram, Elon Musks "X", TikTok und andere nachziehen.

Gleichwohl bleiben viele Fragen offen. Muss künftig jeder mit Hilfe von KI erzeugte YouTube-Inhalt gekennzeichnet werden? Oder gilt das nur für Inhalte, die in irgendeiner Hinsicht "manipulativ" sind, also etwas vortäuschen, was sie gar nicht sind.

Es ist davon auszugehen, dass KI in der Musik-, Video- und Bildproduktion künftig eine gewichtige Rolle spielen wird. Wenn aber jeder Inhalt gekennzeichnet werden muss, weil in seiner Herstellung KI eine Rolle gespielt hat, dann könnte die Kennzeichnungspflicht bald so gut wie wertlos sein.

Grenzen für KI?

YouTube erkennt in seinem Statement an, dass KI eine ständige Herausforderung bleiben wird. Das gilt natürlich auch für den Bereich der staatlichen Regulierung. Hier stellt sich zunächst die Frage, ob Urheber*innen für das Training von KI-Modellen vergütet werden sollen, denn schließlich wäre ohne das Schaffen von Künstler*innen und Autor*innen kein Training von KI möglich.

Sollten darüber hinaus auch inhaltliche Schranken für KI-Inhalte eingeführt werden, beispielsweise ein gesetzliches Verbot, real existierende Menschen durch Nutzung generativer KI zu imitieren, egal ob das Stimme oder Aussehen betrifft. Viele weitere Regeln sind denkbar, beispielsweise für Sex- und Gewaltdarstellungen.

Aktuell steht die Gesellschaft in diesem Prozess noch ganz am Anfang. Es handelt sich aber um nicht weniger als Zukunftsfragen der Menschheit.