Wikipedia

Verordnung über künstliche Intelligenz

EU-Verordnung über den Einsatz von Künstlicher Intelligenz
(Weitergeleitet von KI-Verordnung)

Die Verordnung über künstliche Intelligenz (informell meist KI-Verordnung, englisch AI Act) ist ein Rechtsakt der Europäischen Union zur Regulierung von künstlicher Intelligenz. Die EU-Verordnung ist weltweit die erste derart umfassende Regulation von KI.[1][2]

Flagge der Europäischen Union

Verordnung (EU) 2024/1689

Titel: Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU) Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien 2014/90/EU, (EU) 2016/797 und (EU) 2020/1828
Kurztitel: Verordnung über künstliche Intelligenz
Bezeichnung:
(nicht amtlich) 		KI-Verordnung, AI Act
Geltungsbereich: EWR
Rechtsmaterie: Medienrecht
Grundlage: AEUV, insbesondere Artikel 16 und 114
Verfahrensübersicht: Europäische Kommission
Europäisches Parlament
IPEX Wiki
Datum des Rechtsakts: 13. Juni 2024
Veröffentlichungsdatum: 12. Juli 2024
Inkrafttreten: 1. August 2024
Anzuwenden ab: größtenteils 2. August 2026, sonst 2. Februar 2025, 2. August 2025 und 2. August 2027
Fundstelle: ABl. L, 2024/1689, 12.7.2024
Volltext Konsolidierte Fassung (nicht amtlich)
Grundfassung
Regelung ist in Kraft getreten, aber noch nicht anwendbar.
Hinweis zur geltenden Fassung von Rechtsakten der Europäischen Union

Sie wurde ab 2019 ausgearbeitet und am 21. Mai 2024 von den 27 EU-Mitgliedsstaaten endgültig verabschiedet[3] und am 12. Juli 2024 im Amtsblatt der Europäischen Union verkündet.[4]

Inhalt

Bearbeiten

Risikoeinstufung

Bearbeiten

Die KI-Verordnung folgt einem weitgehend risikobasierten Ansatz. KI-Technologien, darunter auch generative KI, werden demnach in vier verschiedene Risikokategorien eingegliedert, die von „KI-Systemen mit inakzeptablem Risiko“ über „KI-Systemen mit hohem Risiko“ und „KI-Systemen mit Transparenzanforderungen“ bis zu „KI-Systemen mit keinem/niedrigem Risiko“ reichen. Daran werden verschiedene Verbote bzw. Compliance-, Berichts-, Dokumentations-, Sorgfalts- und Informationspflichten gekoppelt.

Das Gesetz stuft u. a. folgende Anwendungsbereiche in die hohe Risikokategorie (sog. Hochrisiko-KI-Systeme) und damit zwar als erlaubt, aber besonderen rechtlichen Anforderungen unterliegend ein:[5][6]

  • Systeme, die biometrische Daten verarbeiten
  • Systeme, die in der kritischen Infrastruktur zum Einsatz kommen
  • Bewertung von Schülern
  • Zugangsprüfungen zur Universität
  • Bewerberauswahl, Beförderungen und Kündigungen im Arbeitsleben
  • Anspruch auf Sozialhilfe
  • Prüfung der Kreditwürdigkeit
  • Risikobewertung und Preisbildung bei Lebens- und Krankenversicherungen
  • Prognose von Rückfälligkeit bei Straftaten
  • Einflussmöglichkeit auf Wahlen
  • Einschätzung von Sicherheitsrisikos oder eines ausgehenden Gesundheitsrisikos von Einzelnen bei Migration, Asyl sowie Grenzkontrolle.

Darüber hinaus sieht der AI Act Regeln speziell für leistungsfähige Sprachmodelle vor, vor allem für multimodale Modelle (im AI Act auch „General Purpose AI“, GPAI genannt) und solche, die besonders hohe Rechenleistungen haben.[7] Diese Sonderregelung, die von der Risikokategorisierung abweicht, ist eine Reaktion auf das schnelle Aufkommen von generativer KI im Jahr 2023.[8]

Anforderungen

Bearbeiten

Anbieter von Hochrisiko-KI-Systemen müssen verschiedene Anforderungen erfüllen. Dazu zählt es u. a., ein Risikomanagementsystem einzurichten, Anforderungen an die Datenqualität zu erfüllen und menschliche Aufsicht über die KI sicherzustellen.[9] Ferner müssen sie ein Konformitätsbewertungsverfahren durchführen, um nachzuweisen, dass sie die Anforderungen erfüllen. Ist das Produkt nicht nur Hochrisiko-KI-System, sondern etwa auch Medizinprodukt, sind die Anforderungen an Hochrisiko-KI-Systeme im medizinprodukterechtlichen Konformitätsbewertungsverfahren mitzuprüfen.[10]

Kennzeichungspflichten

Bearbeiten

Deepfakes und andere mit generativer KI erstellte Bilder, Videos und Tonaufnahmen müssen entsprechend als solche (maschinenlesbar) gekennzeichnet werden; dies gilt auch für Texte, soweit keine menschliche Redigatur erfolgt. Ebenso muss Nutzern stets klar sein, wenn sie mit KI-Systemen interagieren.[11]

Verbote

Bearbeiten

Technologien mit einem inakzeptablen Risiko wie Social Scoring oder Teile von biometrischer Videoüberwachung bzw. Gesichtserkennung und subtiler Verhaltensbeeinflussung sollen komplett verboten werden.[12] Für Strafverfolgungsbehörden, das Militär und Geheimdienste gibt es jedoch weitreichende Ausnahmen.[13]

Durchsetzung

Bearbeiten

Der AI Act selbst droht sehr hohe Bußgelder an, wenn Unternehmen gegen ihn verstoßen. Der Entwurf sieht hier Strafen bis zu 7 Prozent des weltweiten Vorjahresumsatzes oder 35 Millionen Euro vor – dies ist deutlich mehr, als bei DSGVO-Verstößen drohen.[14] Außerdem ist die Schaffung eines Europäischen Ausschusses für künstliche Intelligenz vorgesehen, zur Durchsetzung sollen auf nationaler Ebene Behörden mit der Möglichkeit von Bußgeldern geschaffen werden.[15]

Inkrafttreten

Bearbeiten

Die Vorgaben des AI Acts gelten nicht ab sofort nach dem Inkrafttreten. Vielmehr sind Übergangsfristen zwischen 6 und 36 Monaten vorgesehen.[16] Bis dahin setzt die Europäische Kommission auf freiwillige Selbstbeschränkungen der Wirtschaft.[17]

Verfahren

Bearbeiten

Kommissionspräsidentin von der Leyen hatte eine Regulierung von KI bereits 2019 in ihrer Bewerbungsagenda angekündigt.[18][2]

Dem Vorschlag vorangegangen waren 2018 das Strategiepapier Künstliche Intelligenz für Europa[19] und der Koordinierte Plan für künstliche Intelligenz,[20] 2019 der Bericht einer Expertenkommission[21] und 2020 das Weißbuch zur Künstlichen Intelligenz[22] der EU-Kommission.

Gesetzgebungsverfahren

Bearbeiten

Die EU-Kommission veröffentlichte ihren Entwurf am 21. April 2021[23], aufgrund vieler Änderungsanträge fand die erste Plenarsitzung des EU-Parlaments dazu erst im Oktober 2022 statt. Bis Ende 2022 brachten die Parlamentsausschüsse und Mitgliedstaaten ihre Stellungnahmen und Änderungsvorschläge ein, der Rat der EU veröffentlichte seinen in einigen Punkten abgeschwächten Entwurf am 6. Dezember 2022[24], die beiden federführenden Ausschüsse des EU-Parlaments verabschiedeten ihre Position am 11. Mai 2023[25], der finale Vorschlag des Parlaments wurde am 14. Juni 2023 verabschiedet[26][27]. Das Verfahren befand sich damit in den Trilog-Verhandlungen zwischen den EU-Gesetzgebungsorganen,[28][29] mit einer Einigung wurde zunächst für Ende 2023 oder 2024 gerechnet.[30][31]

Die neuen Diskussionen rund um den KI-Chatbot ChatGPT hatten den ursprünglichen Zeitplan verzögert.[32][25] Das EU-Parlament wollte solche sogenannte Allzweck-KI (GPAI) stärker in die Regulierung aufnehmen.[29]

Im Dezember 2023 einigten sich die EU-Gesetzgebungsinstitutionen auf die Grundzüge des Gesetzes.[33][34] Im Januar 2024 wurde der Text des finalen Entwurfs bekannt.[35] Im Februar 2024 stimmten alle Mitgliedsländer der EU zu, und der zuständige Parlamentsausschuss in Brüssel gab ebenfalls grünes Licht, im März folgte die Zustimmung des Parlaments insgesamt.[36][37] Die 27 Mitgliedsländer stimmten dem Gesetzwerk am 21. Mai 2024 zu, sodass es, nach Veröffentlichung im Amtsblatt der EU und einer weiteren 20-Tage-Frist, in Kraft treten kann.[38] Die Verordnung soll dann mit Ausnahmen zwei Jahre später Anwendung finden.[12][39]

Allgemeines

Bearbeiten

Die federführenden Ausschüsse des EU-Parlaments sind der Ausschuss für Binnenmarkt und Verbraucherschutz (IMCO) und der Ausschuss für bürgerliche Freiheiten, Justiz und Inneres (LIBE), Berichterstatter sind Brando Benifei (S&D) und Dragoş Tudorache (ALDE).[40]

Am 28. September 2022 veröffentlichte die Kommission in dem Zusammenhang auch den Entwurf einer Richtlinie über Produkthaftung[41] und einer Richtlinie über KI-Haftung.[42] Haftungsfragen waren zuvor aus der Verordnung herausgenommen worden.[43] In dem Kontext steht auch die Überarbeitung der Maschinenrichtlinie zur EU-Maschinenverordnung, die am 14. Juni 2023 in Kraft getreten ist.[44]

Diskussion in Deutschland

Bearbeiten

Die weitgehenden Definitionen, Verbote und komplizierten Compliance-Vorschriften im ursprünglichen Vorschlag lösten Kritik der Industrieverbände (u. a. Bitkom und KI-Verband) aus. Der Kompromissentwurf des Rates wurde dahingehend in einigen Punkten abgeschwächt. Außerdem wird eine große Rechtsunsicherheit[45], der hohe bürokratische Aufwand und Doppelregulierung, z. B. im Medizinbereich, kritisiert.[46][47] Auch sei die geforderte fehlerfreie Auswahl von Trainingsdaten nahezu unmöglich.[39]

Auch die Bundesregierung warnt vor Überregulierung.[48] Nach einer Studie würde die Verordnung zu einem hohen Aufwand bei einem großen Teil der KI-Anwendungen führen.[49]

Auf der anderen Seite kritisieren Bürgerrechtler (u. a. EDRi, AlgorithmWatch) und z. B. der DGB[50] den Entwurf als nicht weit genug, Definitionen seien zu eng gefasst und die Regelungen böten Schlupflöcher, so sollen die Vorschriften z. B. für militärische Zwecke nicht und für die Strafverfolgung nur teilweise gelten.[51] Außerdem wurden einige erhoffte Regulierungen wie das Verbot von Predictive Policing und biometrischer Überwachung nicht mit aufgenommen.[52][53] Die Entwürfe des EU-Parlaments gehen stärker auf diese Positionen ein.[54] Gemäß der Version vom 11. Mai soll den Staaten die retrograde Videoüberwachung und damit die biometrische Massenüberwachung ermöglicht werden. Dass die Bundesregierung sich im Rahmen der Verhandlungen explizit für die retrograde Videoüberwachung aussprach, obwohl sie im Koalitionsvertrag noch ihre Ablehnung kundtat, sorgte für Kritik u. a. von netzpolitik.org.[55]

Ein weiterer Kritikpunkt ist, dass die Verordnung keine Möglichkeiten zur individuellen Rechtsdurchsetzung (wie Schadensersatzansprüche) schafft.

Literatur

Bearbeiten
Bearbeiten

Deutsch

Einzelnachweise

Bearbeiten
  1. ↑ EU AI Act: first regulation on artificial intelligence. Europäisches Parlament, 8. Juni 2023, abgerufen am 24. Mai 2024.
  2. ↑ a b Georg Baur, Daniel Gebhardt: Die Verordnung über Künstliche Intelligenz (KI-Verordnung). In: juris PraxisReport Bank- und Kapitalmarktrecht. Band 2024, Nr. 4, 23. April 2024 (juris.de).
  3. ↑ Erstes KI-Gesetz der Welt verabschiedet. Bundesministerium für Digitales und Verkehr, 1. August 2024, abgerufen am 21. Mai 2024.
  4. ↑ Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU) Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien 2014/90/EU, (EU) 2016/797 und (EU) 2020/1828 (Verordnung über künstliche Intelligenz)Text von Bedeutung für den EWR. 13. Juni 2024 (europa.eu [abgerufen am 12. Juli 2024]).
  5. ↑ Johannes Caspar: Wir Datensklaven. Wege aus der digitalen Ausbeutung. Berlin 2023, S. 215 f.
  6. ↑ Anhang III AI-Act
  7. ↑ Fünf Erkenntnisse zu general purpose AI aus dem geleakten AI Act. 26. Januar 2024, abgerufen am 29. Februar 2024.
  8. ↑ Timm Rotter: Das KI-Gesetz kommt: Das bedeutet der AI Act für Unternehmen. In: disruptive-muenchen.de. 20. Februar 2024, abgerufen am 29. Februar 2024 (deutsch).
  9. ↑ KI-Verordnung (Kapitel III Abschnitt 2 – Anforderungen an Hochrisiko-KI-Systeme). Europäische Union, abgerufen am 23. September 2024.
  10. ↑ Michael Kolain, Jonas Lange: ePA, DiGA, SaMD & Co. – Regulatorische Trends und Entwicklungen einer datengetriebenen Medizin. In: Gabriele Buchholtz, Laura Hering (Hrsg.): Digital Health und Recht. Duncker & Humblot, Berlin 2024, ISBN 978-3-428-18889-5, S. 89–126, S. 104, doi:10.3790/978-3-428-58889-3.
  11. ↑ Artikel 50 AI-Act
  12. ↑ a b Falk Steiner: KI unter Kontrolle. In: c't. Heise, 17. Dezember 2022, abgerufen am 31. Januar 2023.
  13. ↑ Artikel 2 AI-Act
  14. ↑ Felix Kraft, Christoph Wockel: EU AI Act – ein Fahrplan. EY, 24. Januar 2024, abgerufen am 29. Februar 2024 (deutsch).
  15. ↑ David Roth-Isigkeit: Grundstrukturen der geplanten KI-Aufsichtsbehörden – KI-Bürokratie? In: Zeitschrift für Rechtspolitik. Nr. 6, 2022, S. 187 (beck.de).
  16. ↑ Timm Rotter: Das KI-Gesetz kommt: Das bedeutet der AI Act für Unternehmen. 21. Mai 2024, abgerufen am 21. Mai 2024 (deutsch).
  17. ↑ Tagesschau: KI-Gesetz ist endgültig beschlossen. In: tagesschau.de. Norddeutscher Rundfunk, 21. Mai 2024, abgerufen am 21. Mai 2024.
  18. ↑ Ursula von der Leyen: Eine Union, die mehr erreichen will. Amt für Veröffentlichungen der Europäischen Union, 2019, ISBN 978-92-76-09905-5, S. 16, doi:10.2775/23027.
  19. ↑ MITTEILUNG DER KOMMISSION AN DAS EUROPÄISCHE PARLAMENT, DEN EUROPÄISCHEN RAT, DEN RAT, DEN EUROPÄISCHEN WIRTSCHAFTS- UND SOZIALAUSSCHUSS UND DEN AUSSCHUSS DER REGIONEN – Künstliche Intelligenz für Europa (COM/2018/237 final) , abgerufen am 31. Januar 2023
  20. ↑ MITTEILUNG DER KOMMISSION AN DAS EUROPÄISCHE PARLAMENT, DEN EUROPÄISCHEN RAT, DEN RAT, DEN EUROPÄISCHEN WIRTSCHAFTS- UND SOZIALAUSSCHUSS UND DEN AUSSCHUSS DER REGIONEN – Koordinierter Plan für künstliche Intelligenz (COM/2018/795 final) , abgerufen am 31. Januar 2023
  21. ↑ MITTEILUNG DER KOMMISSION AN DAS EUROPÄISCHE PARLAMENT, DEN RAT, DEN EUROPÄISCHEN WIRTSCHAFTS- UND SOZIALAUSSCHUSS UND DEN AUSSCHUSS DER REGIONEN – Schaffung von Vertrauen in eine auf den Menschen ausgerichtete künstliche Intelligenz (COM/2019/168 final), abgerufen am 5. Februar 2023
  22. ↑ Weissbuch zur Künstlichen Intelligenz – ein europäisches Konzept für Exzellenz und Vertrauen (COM/2020/65 final) , abgerufen am 31. Januar 2023
  23. ↑ Vorschlag für eine Verordnung des Europäischen Parlaments und des Rates zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz (Gesetz über künstliche Intelligenz) und zur Änderung bestimmter Rechtsakte der Union (COM/2021/206 final), abgerufen am 31. Januar 2023
  24. ↑ Gesetz über künstliche Intelligenz: Rat will sichere und die Grundrechte wahrende KI fördern. Rat der Europäischen Union, 6. Dezember 2022, abgerufen am 4. Februar 2023.
  25. ↑ a b Überblick über die KI-Verordnung der EU (AI Act). Taylor Wessing, abgerufen am 31. Januar 2023.
  26. ↑ Parlament bereit für Verhandlungen über Regeln für sichere und transparente KI. Europäisches Parlament, 14. Juni 2023, abgerufen am 26. Juli 2023.
  27. ↑ Stefan Krempl: Biometrische Massenüberwachung: EU-Abgeordnete wollen KI demokratisieren. In: Heise Online. 11. Mai 2023, abgerufen am 26. Mai 2023.
  28. ↑ Proposal for a Regulation on a European approach for Artificial Intelligence. In: Legislative Train Schedule. European Parliament, 20. Mai 2023, abgerufen am 7. Juni 2023 (englisch).
  29. ↑ a b Carsten Volkery: Strenge Auflagen für KI. In: Handelsblatt. 18. April 2023, S. 12 (handelsblatt.com).
  30. ↑ Kirsten Girschick: Verschläft Deutschland die KI-Entwicklung? In: Tagesschau. 31. Januar 2022, abgerufen am 11. Februar 2022: „Im Sommer soll die KI-Verordnung […] fertig sein“
  31. ↑ Gillmann, Neuerer, Stiens: „Man kann Technologie nicht mit Verboten aufhalten“: Diskussion um ChatGPT-Regulierung in Deutschland. In: Handelsblatt. 3. April 2023, abgerufen am 14. April 2023: „im besten Fall noch dieses Jahr verabschiedet“
  32. ↑ Friedhelm Greis: Hype um Chatbots bringt EU in die Bredouille. In: Golem. 8. April 2023, abgerufen am 14. April 2023.
  33. ↑ Wie Europa Chat-GPT & Co. Zügel anlegt, SZ, 9. Dezember 2023
  34. ↑ Weltweit restriktivste Regulierung von Künstlicher Intelligenz, von Holger Schmidt, FAZ, 9. Dezember 2023
  35. ↑ Luca Bertuzzi. In: X. 22. Januar 2024, abgerufen am 1. Februar 2024 (englisch).
  36. ↑ Eric Voigt, Mathis Gann, Reuters, AFP: AI Act: EU-Länder stimmen Regulierung von künstlicher Intelligenz zu. In: Die Zeit. 2. Februar 2024, ISSN 0044-2070 (zeit.de [abgerufen am 21. Februar 2024]).
  37. ↑ Künstliche Intelligenz: EU-Parlament stimmt für umfassendes KI-Gesetz. In: Der Spiegel. 13. März 2024, ISSN 2195-1349 (spiegel.de [abgerufen am 14. März 2024]).
  38. ↑ Einigung der EU-Staaten: KI-Gesetz ist endgültig beschlossen. In: Tagesschau.de. 21. Mai 2024, abgerufen am 21. Mai 2024.
  39. ↑ a b Philipp Müller-Peltzer, Sebastian Schneider: Die geplante KI-Verordnung der EU. In: REthinking: Law. Band 2022, Nr. 6, Juni 2022 (owlit.de).
  40. ↑ Procedure File: 2021/0106(COD). In: Legislative Observatory. Europäisches Parlament, abgerufen am 26. Juli 2023 (englisch).
  41. ↑ Vorschlag für eine RICHTLINIE DES EUROPÄISCHEN PARLAMENTS UND DES RATES über die Haftung für fehlerhafte Produkte (COM(2022) 495 final), abgerufen am 11. Februar 2023
  42. ↑ Vorschlag für eine RICHTLINIE DES EUROPÄISCHEN PARLAMENTS UND DES RATES zur Anpassung der Vorschriften über außervertragliche zivilrechtliche Haftung an künstliche Intelligenz (Richtlinie über KI-Haftung) (COM/2022/496 final), abgerufen am 3. Februar 2023
  43. ↑ Falk Steiner: Im Regulierungsrausch. In: c't. Heise, Dezember 2022, abgerufen am 2. Februar 2023.
  44. ↑ Jens Ferner: Verordnung über sichere Maschinenprodukte. Ferner Alsdorf, 15. Oktober 2022, abgerufen am 26. Mai 2023.
  45. ↑ Sachverständige bewerten EU-Verordnung zur KI unterschiedlich. In: Deutscher Bundestag. 26. September 2022, abgerufen am 7. Juni 2023.
  46. ↑ Christof Kerkmann: Künstliche Intelligenz: Wirtschaft warnt vor „massiven Einschränkungen“ durch AI Act. In: Handelsblatt. 6. Dezember 2022, abgerufen am 4. Februar 2023.
  47. ↑ Britta Rybicki: Stillstand für neue Gesundheitstechnologien. In: Handelsblatt Inside. 26. Januar 2023, abgerufen im Februar 2023.
  48. ↑ Mareike Kürschner: Justizministerium sieht Gesetzgebung bei Künstlicher Intelligenz in EU-Hand. In: Mittelbayerische. 8. Februar 2023, abgerufen am 11. Februar 2023.
  49. ↑ Studie: EU-Regeln bremsen Anwendung von künstlicher Intelligenz aus. In: Redaktionsnetzwerk Deutschland. 7. März 2023, abgerufen am 14. April 2023.
  50. ↑ DGB-Positionspapier zur KI-Verordnung der EU-KOM. DGB, 26. Juni 2021, abgerufen am 11. Februar 2022.
  51. ↑ Marco Wedig: »Es gibt Schlupflöcher in diesem Gesetzentwurf«. In: Der Spiegel. 26. Oktober 2022, abgerufen am 4. Februar 2022.
  52. ↑ Benedikt Kohn: Der „Artificial Intelligence Act“. Taylor Wessing, 20. April 2021, abgerufen am 31. Januar 2023.
  53. ↑ Markus Reuter: Ampel verpasst Grundrechteschutz bei der Regulierung künstlicher Intelligenz. In: Netzpolitik.org. 7. Dezember 2022, abgerufen am 31. Januar 2023.
  54. ↑ Alexander Fanta, Chris Köver, Serafin Dinges: NPP 239 zum AI Act des EU-Parlaments. In: Netzpolitik.org. 23. Oktober 2021, abgerufen im Februar 2022.
  55. ↑ Daniel Leisegang, Chris Köver, Sebastian Meineck: Die sechs größten Probleme im AI Act. In: netzpolitik.org. 10. Mai 2023, abgerufen am 10. Mai 2023.
Abgerufen von „https://de.wikipedia.org/w/index.php?title=Verordnung_über_künstliche_Intelligenz&oldid=249116838“