Initiative Urheberrecht fordert stärkere Regulierung von Künstlicher Intelligenz auf EU-Ebene

KI ist aktuell in aller Munde. Doch trotz der rapiden Verbreitung dieser neuen Technologie bleibt die Regulation bisher auf der Strecke – eine Tatsache, die die Initiative Urheberrecht (IU) moniert. Sie fordert die EU auf, dieses Defizit zu beheben und warnt in diesem Zusammenhang u.a. vor den Gefahren durch KI.

Die Initiative Urheberrecht wendet sich mit einem Paper (PDF) an die Europäische Union, in dem der Verband vor dem Desinformations- und Manipulationspotential generativer Künstlicher Intelligenz warnt und die EU auffordert, Gesetze zur Regulation Künstlicher Intelligenzen anzustoßen. 

Keine belastbare Basis

Den AI Act der EU von 2021 begrüßen die Autoren zwar prinzipiell, halten ihn jedoch für veraltet, da dieser aktuelle Entwicklungen im Bereich KI nicht berücksichtige, darunter u.a. generative KI oder sogenannte Foundation Models, die die Grundlage bilden für heutige Technologien wie etwa ChatGPT. 

Auch die aktuell zur Diskussion stehende Europäische KI-Verordnung (AI Act) steht in der Kritik: Diese klammere die Urheberrechte der von der Initiative Urheberrecht vertretenen Parteien aus und schicke sich an, generative KI-Systeme unter Minimalvorgaben, die dem schon heute zu beobachtenden Missbrauch dieser Systeme und dessen gesellschaftlichen und wirtschaftlichen Implikationen nicht gerecht würden. 

Gefahr von Falschinformationen

Die Initiative Urheberrecht zieht einen Bericht von "OpenAI" heran, den Entwicklern von ChatGPT. Darin nennt der das Unternehmen eine Reihe von möglichen Risiken, auf eine von ihnen stützen sich die Autoren besonders: Die Gefahr der Falschinformationen und die Erzeugung eines "übermäßigen Vertrauens" in generative KI.

So heißt es in dem Bericht von OpenAI, dass Systeme wie GPT-4 diese Gefahr verstärkten, da sie in der Lage seien, plausibel realistische und gezielte Inhalte, einschließlich Nachrichtenartikel, Tweets, Dialoge und E-Mails zu generieren – und damit u.a. auch belästigende, erniedrigende und hasserfüllte Inhalte.

Außerdem bestehe die Möglichkeit, dies zur "Ausbeutung von Personen" zu missbrauchen. Die Initiative Urheberrecht geht davon aus, dass der Bericht von OpenAI nur die Spitze eines ständig wachsenden Eisbergs von Sicherheitsbedenken im Zusammenhang mit generativer KI bilde. 

Kritik an Kontrolle durch zentrale Plattformdienste

Dabei wertet die Initiative Urheberrecht es insbesondere als kritisch, dass die Kontrolle für die größten Foundation Models für generative KI in den Händen von großen Unternehmen und Plattformbetreibern wie Google oder Meta liegen würden. 

Dies würde die oben genannten Bedenken verstärken, da diese Unternehmen ihre KI-Tools in erster Linie wirtschaftlich motiviert verwendent würden – etwa um den Nutzer/innen persönlich angepassten, KI-generierten Content anzuzeigen. Weiterhin sei es denkbar, dass diese Plattformen aus Kostengründen KI-Content menschlichen Inhalten vorzögen. 

Sorge wegen KI generierter Musik

In dem Papier kommen auch Vertreter/innen der Musikbranche zu Wort, die sich Sorgen um die Zukunft ihrer Branche machen. Generative KI würde zahlreiche musikalische Werke heranziehen und somit unmittelbar sowie zeitlich unbegrenzt in die Existenzgrundlagen und künstlerischen Identitäten der Musiker eingreifen – oftmals ohne Zustimmung oder Vergütung.

Bereits jetzt könne KI Musik generieren und Songtexte schreiben. Mittelfristig sehen die Autor/innen deshalb die Gefahr, dass Teile des niederschwelligen Massenmarkts an KI-generierten Musikerzeugnissen verloren gehen. Langfristig könnte KI so zuerst die Werke und schließlich die Musiker/innen selbst ersetzen, was wiederum zu einer "Stereotypisierung" und "Vereinheitlichung" der Musik führen würde. 

Urheber/innen füttern KI

Die Initiative Urheberrecht klagt über die Rolle, die Urheber/innen  zwangsläufig bei all diesen Prozessen spielen: Je mehr Werke sie schaffen, desto mehr entsprechende Leistung würden sie online zur Verfügung stellen und so generative KI-Systeme füttern, die missbraucht werden könnten, um möglicherweise Ergebnisse zu produzieren, die ihnen selbst schaden. 

All dies geschehe ohne die Genehmigung, Anerkennung oder Entschädigung der von der Initiative Urheberrecht vertretenen Autor/innen und Urheber/innen. Die Rückverfolgung von Rechten des geistigen Eigentums sei erschwert, wodurch Eigentümer/innen schwer eine faire Vergütung erhalten können.

Daher bedürfe es "rechtlicher Rahmenbedingungen, die den Menschen und die Gesellschaft ins Zentrum jeder Regulierung stellen". Diese Regeln müssten für Input sowie Output generativer KI eine Lizenzierung und Vergütung sowie Transparenz über Art und Umfang erfolgter Nutzungen erzwingen.

Forderungen

Als mögliche Lösungsmöglichkeiten führt die Initiative Urheberrecht an:

• Generative KI müsse anhand ihrer gesamten Entstehungskette reguliert werden – mit besonderem Fokus auf die Anbieter des Foundation Models.
• Nachweis einer Rechtsgrundlage für die Erhebung und Nutzung des Trainingsmaterials, für personenbezogene- sowie nicht personenbezogene Daten "einschließlich des Nachweises der Einführung, Umsetzung und Beachtung eines effektiven und praktikablen Systems für die granulare maschinenlesbare Kommunikation von Nutzungsrechten"
• Haftung für alle durch die KI generierten und verbreitete Inhalte
• Keine Bevorzugung von KI-Inhalten durch Algorithmen oder sonstige Bevorzugung
• Strukturelle Trennung von Generierung und Verbreitung von KI-Inhalten
• ein Mindestmaß an kontinentaler Datenverarbeitungs-Infrastruktur

Für das Inverkehrbringen von Foundation Models auf europäischen Märkten empfiehlt die Initiative einen Nachweis über Mindestanforderungen bezüglich der "Transparenz über das verwendete Trainingsmaterial" sowie hinreichender Belastbarkeit des Trainingsmaterials.