EU-Kommissions-Vizepräsidentin Věra Jourová kündigt Kennzeichnungspflicht für KI-generierte Inhalte an

Laut EU-Kommissarin Věra Jourová sollen Technologien zur Erkennung und Kennzeichnung von KI-Inhalten eingeführt werden, um so vor allem die Verbreitung von Desinformation einzudämmen. Welche Bedeutung hat das für die Musikindustrie?

Věra Jourová, die Vizepräsidentin der EU-Kommission, forderte eine solche Kennzeichnungspflicht, nachdem sie sich mit Vertreterinnen und Vertretern der großen Technologieunternehmen getroffen hatte, die den EU-Verhaltenskodex für Desinformation unterzeichnet haben.

Dazu zählen unter anderem Alphabet (Google, YouTube) Meta (Facebook, Instagram) und TikTok.

Explosionsartige Verbreitung

Der 2018 entstandene Verhaltenskodex enthält lediglich eine einzige Verpflichtung in Bezug auf Künstliche Intelligenz. Dies soll sich jetzt jedoch ändern, da die Reichweite und Verbreitung von KI-Technologie im letzten Jahr dramatisch gestiegen ist.

So soll der Verhaltenskodex auch neue Bedrohungen wie den Missbrauch von generativer KI ansprechen. Mit generativer KI sind KI-Programme gemeint, die beispielsweise Bilder, Texte oder auch Musik herstellen können.

Die Kennzeichnungspflicht soll kommen

Věra Jourová machte deutlich, dass generative KI nicht von böswilligen Akteuren genutzt werden darf, um Falschinformation zu verbreiten. Daher sollten solche Inhalte zukünftig für die Nutzerinnen und Nutzer klar gekennzeichnet werden.

Die Verantwortung sieht sie dabei bei den großen Technologieunternehmen, die den Verhaltenskodex unterzeichnet haben. Eine KI habe laut ihr kein Recht auf freie Meinungsäußerung: 

"Wenn es um die KI-Produktion geht, sehe ich kein Recht auf Redefreiheit für die Maschinen. Die Unterzeichner des EU-Verhaltenskodexes gegen Desinformation sollten Technologien zur Erkennung von KI-Inhalten einführen und diese für die Nutzer klar kennzeichnen."

"When it comes to AI production, I don't see any right for the machines to have freedom of speech.

Signatories of the EU Code of Practice against disinformation should put in place technology to recognise AI content and clearly label it to users."

— Vice-President @VeraJourova pic.twitter.com/yLVp79bqEH

— European Commission (@EU_Commission) June 5, 2023

Wie diese Kennzeichnungspflicht aussehen soll und wer für die Überprüfung zuständig ist, bleibt zum jetzigen Zeitpunkt jedoch noch offen. Eines der Hauptprobleme dürfte darin bestehen, die entsprechenden Techologie zu entwickeln. So ist aktuell nicht klar, ob es technisch überhaupt möglich ist, festzustellen, ob ein Bild oder ein Song von einer KI hergestellt wurde.

Falls eine solche Überprüfung nicht möglich ist, wäre man auf die freiwillige Bereitschaft zur Kennzeichnung durch die Erstellenden angewiesen, die mit Sicherheit nicht immer gegeben sein dürfte – auch nicht nicht bei vergleichsweise harmlosen Musik-Inhalten. 

Künstliche Intelligenz in der Musikindustrie

Für die Musikindustrie geht es bei diesem Thema beispielsweise um Fake-Songs wie "Heart on My Sleeve", das KI-generierte Feature von Drake und The Weeknd. Zwar hat das Label Universal den Song von den großen Streaming-Plattformen löschen lassen, aber deshalb ist er natürlich nicht aus dem Internet verschwunden.

Eine Kennzeichnung könnte zumindest sicherstellen, dass die KI-generierte Songs beim wiederholten Auftauchen entsprechend als solche gekennzeichnet sind. 

Die Bedeutung der Kennzeichnung

Das bezieht sich nicht nur auf KI-Erzeugnisse, die unter Verletzung des Persönlichkeitsrecht die Stimme eines Menschen nutzen, sondern auch auf ganz normale KI-erzeugte Songs, die von Menschen erzeugter Musik nahekommen und potentiell das Geschäftsmodell zahlreicher Musikschaffender bedrohen könnten.

Ihre Kennzeichnung wäre für Verbraucher und Verbraucherinnen nützlich, denn ansonsten wären sie vermutlich kaum oder nicht in der Lage von Menschen erzeugte Musik von KI-Produkten zu unterscheiden. Vorerst ist das alles noch Zukunftsmusik, aber die Problematik wird die Beteiligten eher früher als später zum Handeln zwingen.