Gesetz über künstliche Intelligenz

Flagge der Europäischen Union

Verordnung COM/2021/206 final

Titel:Verordnung des Europäischen Parlaments und des Rates zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz (Gesetz über künstliche Intelligenz) und zur Änderung bestimmter Rechtsakte der Union
Kurztitel:Gesetz über künstliche Intelligenz
Bezeichnung:
(nicht amtlich)		KI-Verordnung, AI Act
Verfahrensübersicht:Europäische Kommission
Europäisches Parlament
IPEX Wiki
VolltextGrundfassung
Regelung ist ein aktueller Vorschlag im Rechtsetzungsprozess.
Bitte den Hinweis zur geltenden Fassung von Rechtsakten der Europäischen Union beachten!

Das Gesetz über künstliche Intelligenz (informell meist KI-Verordnung, englisch AI Act) ist ein Vorschlag der Europäischen Kommission für eine EU-Verordnung über die Regulierung von künstlicher Intelligenz.[1] Es wäre die weltweit erste umfassende Regulation von KI.[2][3]

Inhalt

Die KI-Verordnung sieht einen risikobasierten Ansatz vor. KI-Technologien werden demnach in verschiedene Kategorien zwischen kein Risiko und hohes Risiko sortiert und daran verschiedene Compliance- und Informationspflichten gekoppelt. Technologien mit einem nicht akzeptablen Risiko wie Social Scoring oder Teile von biometrischer Videoüberwachung und subtiler Verhaltensbeeinflussung sollen komplett verboten werden.[4]

Außerdem ist die Schaffung eines Europäischen Ausschusses für künstliche Intelligenz vorgesehen, zur Durchsetzung sollen auf nationaler Ebene Behörden mit der Möglichkeit von Bußgeldern geschaffen werden.[5]

Verfahren

Kommissionspräsidentin von der Leyen hatte eine Regulierung von KI bereits 2019 in ihrer Bewerbungsagenda angekündigt.[6]

Dem Vorschlag vorangegangen waren 2018 das Strategiepapier Künstliche Intelligenz für Europa[7] und der Koordinierte Plan für künstliche Intelligenz,[8] 2019 der Bericht einer Expertenkommission[9] und 2020 das Weißbuch zur Künstlichen Intelligenz[10] der EU-Kommission.

Die EU-Kommission veröffentlichte ihren Entwurf am 21. April 2021, aufgrund vieler Änderungsanträge fand die erste Plenarsitzung des EU-Parlaments dazu erst im Oktober 2022 statt. Bis Ende 2022 brachten die Parlamentsausschüsse und Mitgliedstaaten ihre Stellungnahmen und Änderungsvorschläge ein, der Rat der EU veröffentlichte seinen in einigen Punkten abgeschwächten Entwurf am 6. Dezember 2022,[11] die finale Stellungnahme des EU-Parlaments wird Anfang 2023 erwartet.[12] Das Verfahren steht damit aktuell kurz vor den Trilog-Verhandlungen,[13] mit einer Einigung wird im Laufe des Jahres 2023 oder 2024 gerechnet.[14][15][16][17] Die Verordnung würde dann (mit einer kleinen Ausnahme für die Notifizierung) zwei Jahre später Anwendung finden.[4][3]

Die neuen Diskussionen rund um den KI-Chatbot ChatGPT verzögern den Zeitplan.[18] Das EU-Parlament will solche sogenannte Allzweck-KI stärker in die Regulierung aufnehmen.[13]

Am 28. September 2022 hat die Kommission in dem Zusammenhang auch den Entwurf einer Richtlinie über Produkthaftung[19] und einer Richtlinie über KI-Haftung veröffentlicht.[20] Haftungsfragen waren zuvor aus der Verordnung herausgenommen worden.[21]

Diskussion

Die weitgehenden Definitionen, Verbote und komplizierten Compliance-Vorschriften im ursprünglichen Vorschlag lösten Kritik der Industrieverbände (u. a. Bitkom und KI-Verband) aus. Der Kompromissentwurf des Rates wurde dahingehend in einigen Punkten abgeschwächt. Außerdem wird eine große Rechtsunsicherheit, der hohe bürokratische Aufwand und Doppelregulierung, z. B. im Medizinbereich kritisiert.[22][23] Auch sei die geforderte fehlerfreie Auswahl von Trainingsdaten nahezu unmöglich.[3]

Auch die Bundesregierung warnt vor Überregulierung.[24] Nach einer Studie würde die Verordnung zu einem hohen Aufwand bei einem großen Teil der KI-Anwendungen führen.[25]

Auf der anderen Seite kritisieren Bürgerrechtler (u. a. EDRi, AlgorithmWatch und DGB[26]) den Entwurf als nicht weit genug, Definitionen seien zu eng gefasst und die Regelungen böten Schlupflöcher, so sollen die Vorschriften z. B. für militärische Zwecke nicht und für die Strafverfolgung nur teilweise gelten.[27] Außerdem wurden einige erhoffte Regulierungen wie das Verbot von Predictive Policing und biometrischer Überwachung nicht mit aufgenommen.[28][29] Die Entwürfe des EU-Parlaments gehen stärker auf diese Positionen ein.[30] Gemäß der Version vom 11. Mai soll den Staaten die retrograde Videoüberwachung und damit die biometrische Massenüberwachung ermöglicht werden. Dass die Bundesregierung sich im Rahmen der Verhandlungen explizit für die retrograde Videoüberwachung aussprach, obwohl sie im Koalitionsvertrag noch ihre Ablehnung kundtat, sorgte für Kritik u. a. von netzpolitik.org.[31]

Ein weiterer Kritikpunkt ist, dass die Verordnung keine Möglichkeiten zur individuellen Rechtsdurchsetzung (wie Schadensersatzansprüche) schafft.

Einzelnachweise

  1. ↑ Vorschlag für eine Verordnung des Europäischen Parlaments und des Rates zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz (Gesetz über künstliche Intelligenz) und zur Änderung bestimmter Rechtsakte der Union (COM/2021/206 final), abgerufen am 31. Januar 2023
  2. ↑ Daniel Leisegang: Offener Brief zu KI: Opfer des Hypes. In: netzpolitik.org. 31. März 2023, abgerufen am 14. April 2023.
  3. ↑ a b c Philipp Müller-Peltzer, Sebastian Schneider: Die geplante KI-Verordnung der EU. In: REthinking: Law. Band 2022, Nr. 6, Juni 2022 (owlit.de).
  4. ↑ a b Falk Steiner: KI unter Kontrolle. In: c't. Heise, 17. Dezember 2022, abgerufen am 31. Januar 2023.
  5. ↑ David Roth-Isigkeit: Grundstrukturen der geplanten KI-Aufsichtsbehörden – KI-Bürokratie? In: Zeitschrift für Rechtspolitik. Nr. 6, 2022, S. 187 (beck.de).
  6. ↑ Ursula von der Leyen: Eine Union, die mehr erreichen will. Amt für Veröffentlichungen der Europäischen Union, 2019, ISBN 978-92-76-09905-5, S. 16, doi:10.2775/23027.
  7. ↑ MITTEILUNG DER KOMMISSION AN DAS EUROPÄISCHE PARLAMENT, DEN EUROPÄISCHEN RAT, DEN RAT, DEN EUROPÄISCHEN WIRTSCHAFTS- UND SOZIALAUSSCHUSS UND DEN AUSSCHUSS DER REGIONEN – Künstliche Intelligenz für Europa (COM/2018/237 final) , abgerufen am 31. Januar 2023
  8. ↑ MITTEILUNG DER KOMMISSION AN DAS EUROPÄISCHE PARLAMENT, DEN EUROPÄISCHEN RAT, DEN RAT, DEN EUROPÄISCHEN WIRTSCHAFTS- UND SOZIALAUSSCHUSS UND DEN AUSSCHUSS DER REGIONEN – Koordinierter Plan für künstliche Intelligenz (COM/2018/795 final) , abgerufen am 31. Januar 2023
  9. ↑ MITTEILUNG DER KOMMISSION AN DAS EUROPÄISCHE PARLAMENT, DEN RAT, DEN EUROPÄISCHEN WIRTSCHAFTS- UND SOZIALAUSSCHUSS UND DEN AUSSCHUSS DER REGIONEN – Schaffung von Vertrauen in eine auf den Menschen ausgerichtete künstliche Intelligenz (COM/2019/168 final), abgerufen am 5. Februar 2023
  10. ↑ Weissbuch zur Künstlichen Intelligenz – ein europäisches Konzept für Exzellenz und Vertrauen (COM/2020/65 final) , abgerufen am 31. Januar 2023
  11. ↑ Gesetz über künstliche Intelligenz: Rat will sichere und die Grundrechte wahrende KI fördern. Rat der Europäischen Union, 6. Dezember 2022, abgerufen am 4. Februar 2023.
  12. ↑ Überblick über die KI-Verordnung der EU (AI Act). TaylorWessing, abgerufen am 31. Januar 2023.
  13. ↑ a b Carsten Volkery: Strenge Auflagen für KI. In: Handelsblatt. 18. April 2023, S. 12.
  14. ↑ Kirsten Girschick: Verschläft Deutschland die KI-Entwicklung? In: Tagesschau. 31. Januar 2022, abgerufen am 11. Februar 2022: „Im Sommer soll die KI-Verordnung […] fertig sein“
  15. ↑ Gillmann, Neuerer, Stiens: „Man kann Technologie nicht mit Verboten aufhalten“: Diskussion um ChatGPT-Regulierung in Deutschland. In: Handelsblatt. 3. April 2023, abgerufen am 14. April 2023: „im besten Fall noch dieses Jahr verabschiedet“
  16. ↑ Aktuelles zur KI-VO: Logbuch zur geplanten Verordnung. Schürmann Rosenthal Sreyer, 7. Dezember 2022, abgerufen am 5. Februar 2022: „wahrscheinlicher erscheint jedoch ein Inkrafttreten ab 2024“
  17. ↑ Barbara Gillmann: Regeln statt Verbote. In: Handelsblatt. 13. April 2023, S. 16: "im günstigsten Fall schon 2023 verabschiedet - vermutlich aber noch später"
  18. ↑ Friedhelm Greis veröffentlicht am: Hype um Chatbots bringt EU in die Bredouille. In: Golem. 8. April 2023, abgerufen am 14. April 2023.
  19. ↑ Vorschlag für eine RICHTLINIE DES EUROPÄISCHEN PARLAMENTS UND DES RATES über die Haftung für fehlerhafte Produkte (COM(2022) 495 final), abgerufen am 11. Februar 2023
  20. ↑ Vorschlag für eine RICHTLINIE DES EUROPÄISCHEN PARLAMENTS UND DES RATES zur Anpassung der Vorschriften über außervertragliche zivilrechtliche Haftung an künstliche Intelligenz (Richtlinie über KI-Haftung) (COM/2022/496 final), abgerufen am 3. Februar 2023
  21. ↑ Falk Steiner: Im Regulierungsrausch. In: c't. Heise, Dezember 2022, abgerufen am 2. Februar 2023.
  22. ↑ Christof Kerkmann: Künstliche Intelligenz: Wirtschaft warnt vor „massiven Einschränkungen“ durch AI Act. In: Handelsblatt. 6. Dezember 2022, abgerufen am 4. Februar 2023.
  23. ↑ Britta Rybicki: Stillstand für neue Gesundheitstechnologien. In: Handelsblatt Inside. 26. Januar 2023, abgerufen im Februar 2023.
  24. ↑ Mareike Kürschner: Justizministerium sieht Gesetzgebung bei Künstlicher Intelligenz in EU-Hand. In: Mittelbayerische. 8. Februar 2023, abgerufen am 11. Februar 2023.
  25. ↑ Studie: EU-Regeln bremsen Anwendung von künstlicher Intelligenz aus. In: Redaktionsnetzwerk Deutschland. 7. März 2023, abgerufen am 14. April 2023.
  26. ↑ DGB-Positionspapier zur KI-Verordnung der EU-KOM. DGB, 26. Juni 2021, abgerufen am 11. Februar 2022.
  27. ↑ Marco Wedig: »Es gibt Schlupflöcher in diesem Gesetzentwurf«. In: Der Spiegel. 26. Oktober 2022, abgerufen am 4. Februar 2022.
  28. ↑ Benedikt Kohn: Der „Artificial Intelligence Act“. TaylorWessing, 20. April 2021, abgerufen am 31. Januar 2023.
  29. ↑ Markus Reuter: Ampel verpasst Grundrechteschutz bei der Regulierung künstlicher Intelligenz. In: Netzpolitik.org. 7. Dezember 2022, abgerufen am 31. Januar 2023.
  30. ↑ Alexander Fanta, Chris Köver, Serafin Dinges: NPP 239 zum AI Act des EU-Parlaments. In: Netzpolitik.org. 23. Oktober 2021, abgerufen im Februar 2022.
  31. ↑ Die sechs größten Probleme im AI Act. In: netzpolitik.org. 10. Mai 2023, abgerufen am 10. Mai 2023.

Auf dieser Seite verwendete Medien

Flag of Europe.svg
Die Europaflagge besteht aus einem Kranz aus zwölf goldenen, fünfzackigen, sich nicht berührenden Sternen auf azurblauem Hintergrund.

Sie wurde 1955 vom Europarat als dessen Flagge eingeführt und erst 1986 von der Europäischen Gemeinschaft übernommen.

Die Zahl der Sterne, zwölf, ist traditionell das Symbol der Vollkommenheit, Vollständigkeit und Einheit. Nur rein zufällig stimmte sie zwischen der Adoption der Flagge durch die EG 1986 bis zur Erweiterung 1995 mit der Zahl der Mitgliedstaaten der EG überein und blieb daher auch danach unverändert.