Erste Regulierung von KI weltweit: EU-Parlament verabschiedet AI Act

Das EU-Parlament hat dem AI-Act zugestimmt. Das Gesetz sieht vor, KI-Systeme nach ihrer Bedrohung für europäische Werte zu kategorisieren und zu regulieren. Einige Anwendungen von KI werden sogar untersagt.

Nachdem der AI Act im Februar im Ausschuss für Binnenmarkt und Verbraucherschutz und im Ausschuss für Bürgerliche Freiheiten die erste Hürde genommen hatte, wurde er nun auch im Europäischen Parlament mit 523 zu 46 Stimmen bei 49 Enthaltungen angenommen.

Abgestufte Regeln

Der nun beschlossene AI Act ist der erste seiner Art weltweit. Er sieht vor, KI in vier unterschiedliche Gefahrenstufen einzuordnen. Je nach Kategorie gelten schärfere Bestimmungen.

KI, die nur für firmeninterne Aufgaben genutzt wird, bedarf keiner Regulierung. Steht KI zur allgemeinen Verfügung, so muss diese künftig Transparenzanforderungen erfüllen, darunter die Einhaltung des EU-Urheberrechts und die Veröffentlichung detaillierter Zusammenfassungen der für das KI-Training verwendeten Inhalte.

Des Weiteren müssen mit KI erzeugte oder manipulierte Inhalte (Deepfakes), wie Bilder oder Musikstücke, gekennzeichnet werden.

Strenge Regeln und Verbote

Der AI Act verbietet die biometrische Kategorisierung auf der Grundlage sensibler Merkmale und das ungezielte Auslesen von Gesichtsbildern aus dem Internet oder von Überwachungskameras für Gesichtserkennungsdatenbanken. Ebenfalls verboten sind künftig Emotionserkennungssysteme am Arbeitsplatz und in Schulen sowie das Bewerten von sozialem Verhalten mit KI. Für Strafverfolgungsbehörden gelten Ausnahmen unter strengen Voraussetzungen.

Hochriskante KI-Systeme müssen durch das eigene Unternehmen sowie von der EU auf ihre Sicherheit überprüft werden. Dazu zählen beispielsweise KI-Systeme, die für kritische Infrastruktur, Bildung oder Beschäftigung, im Gesundheits- oder Bankwesen oder im Zusammenhang mit Migration und Grenzmanagement, Justiz und demokratischen Prozessen eingesetzt werden.

Weitere Schritte

Nach der Zustimmung durch das EU-Parlament muss der AI-Act durch den Rat der Europäischen Union noch förmlich angenommen werden. 

Die Verordnung tritt 20 Tage nach ihrer Veröffentlichung im Amtsblatt der EU in Kraft.