Gesetz zur Durchführung der Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU) Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien 2014/90/EU, (EU) 2016/797 und (EU) 2020/1828 (Gesetz zur Durchführung der Verordnung über künstliche Intelligenz)

Gesetz zur Durchführung der Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU) Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien 2014/90/EU, (EU) 2016/797 und (EU) 2020/1828 (Gesetz zur Durchführung der Verordnung über künstliche Intelligenz) Vertrieb: Bundesanzeiger Verlag GmbH, Postfach 10 05 34, 50445 Köln Telefon (02 21) 97 66 83 40, Fax (02 21) 97 66 83 44, www.bundesanzeiger-verlag.de ISSN 0720-2946 Bundesrat Drucksache 375/26 19.06.26 BRFuss DS Gesetzesbeschluss des Deutschen Bundestages Gesetz zur Durchführung der Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU) Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien 2014/90/EU, (EU) 2016/797 und (EU) 2020/1828 (Gesetz zur Durchführung der Verordnung über künstliche Intelligenz) Der Deutsche Bundestag hat in seiner 83. Sitzung am 11. Juni 2026 aufgrund der Beschlussempfehlung und des Berichtes des Ausschusses für Digitales und Staatsmodernisierung – Drucksache 21/6407 – den von der Bundesregierung eingebrachten Entwurf eines Gesetzes zur Durchführung der Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU) Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien 2014/90/EU, (EU) 2016/797 und (EU) 2020/1828 (Gesetz zur Durchführung der Verordnung über künstliche Intelligenz) – Drucksachen 21/4594, 21/5143 – mit beigefügten Maßgaben, im U brigen unverändert angenommen. Fristablauf: 10.07.26 Erster Durchgang: Drs. 97/26 1. Artikel 1 wird wie folgt geändert: a) § 2 wird wie folgt geändert: aa) Absatz 4 wird durch den folgenden Absatz 4 ersetzt: (4) „ Steht das Inverkehrbringen, die Inbetriebnahme oder die Verwendung eines KI-Systems in direktem Zusammenhang mit einer regulierten Finanztätigkeit, welche von einem Finanzinstitut erbracht wird, das nicht von der Bundesanstalt für Finanzdienstleistungsaufsicht nach Absatz 3 überwacht wird, so obliegt die Marktüberwachung derjenigen Aufsichtsbehörde, die gemäß Gesetz oder aufgrund entsprechender Vereinbarung zwischen ihr und der Bundesanstalt für Finanzdienstleistungsaufsicht zuständige Finanzaufsichtsbehörde ist. Satz 1 gilt nicht für Gewerbetreibende, die Tätigkeiten nach den §§ 34d, 34f, 34h, 34i und 34k der Gewerbeordnung ausüben.“ bb) Nach Absatz 7 Satz 1 wird der folgende Satz eingefügt: „Gleiches gilt für die Ausübung solcher Durchsetzungsbefugnisse gegenüber der Versorgungsanstalt des Bundes und der Länder.“ cc) Nach Absatz 8 Satz 2 wird der folgende Satz eingefügt: „Für die Koordinierung der Zusammenarbeit durch das Koordinierungs- und Kompetenzzentrum nach § 5 Satz 2 Nummer 2 und die zentrale Beschwerdestelle nach § 8 können die Länder einheitliche Ansprechpartner benennen.“ b) § 5 wird wie folgt geändert: aa) Satz 2 wird wie folgt geändert: aaa) In Nummer 1 wird nach der Angabe „Verordnung (EU) 2024/1689“ die Angabe „oder die zuständigen Marktüberwachungsbehörden nach der Verordnung (EU) 2023/1230 bei komplexen Entscheidungen bei der Marktüberwachung von KI- Systemen, die in ein Produkt nach der Verordnung (EU) 2023/1230 integriert sind,“ eingefügt. bbb) In Nummer 3 wird die Angabe „erleichtern sowie“ durch die Angabe „erleichtern,“ ersetzt. ccc) In Nummer 4 wird die Angabe „sicherzustellen.“ durch die Angabe „sicherzustellen sowie“ ersetzt. ddd) Nach Nummer 4 wird die folgende Nummer 5 eingefügt: 5. „ nach Bedarf vorbereitete Schulungs- und Sensibilisierungsangebote sowie allgemeine Informationen und Prüfempfehlungen bereitzustellen mit dem Ziel, eine einheitliche Rechtsanwendung der Verordnung (EU) 2024/1689 in der Bundesrepublik Deutschland zu fördern.“ bb) In Satz 4 wird nach der Angabe „einrichten“ die Angabe „, insbesondere einen Bund- Länder-Ausschuss Künstliche Intelligenz, der der strukturierten Koordinierung und Zusammenarbeit zwischen den Marktüberwachungsbehörden nach § 2 Absatz 1 bis 6 und 8 sowie der nach Artikel 52 Absatz 2 der Verordnung (EU) 2024/2847 zu benennenden Marktüberwachungsbehörde dient“ eingefügt. c) Nach § 6 Absatz 3 Satz 2 wird der folgende Satz eingefügt: „Die zentrale Anlaufstelle veröffentlicht diese Informationen auf der Internetseite der Bundesnetzagentur.“ d) In § 7 Absatz 3 wird die Angabe „nach Anhang I, Abschnitt A, Nummer 1, 4, 5, 7, 9 oder 10 der Verordnung (EU) 2024/1689“ durch die Angabe „nach Anhang I Abschnitt A Nummer 4, 5, 7, 9 oder 10 der Verordnung (EU) 2024/1689 oder nach der Verordnung (EU) 2023/1230“ ersetzt. e) In § 8 Absatz 3 wird die Angabe „gemäß den Anforderungen der Barrierefreie- Informationstechnik-Verordnung ein“ durch die Angabe „ein, das leicht zugänglich, barrierefrei und benutzerfreundlich ausgestaltet ist und die Einreichung hinreichend präziser und angemessen begründeter Beschwerden durch Betroffene ermöglicht“ ersetzt. f) In § 14 Absatz 2 Satz 1 wird vor der Angabe „Anhang III“ durch die Angabe „Anhang I Abschnitt A und“ eingefügt. g) Nach § 18 wird der folgende Teil 7 eingefügt: „Teil 7 Evaluierung § 19 Evaluierung (1) Die Bundesregierung evaluiert die Auswirkungen der nach diesem Gesetz errichteten Aufsichts- und Behördenstruktur einschließlich der Kooperationsvorschriften. (2) Die Bundesregierung führt spätestens 18 Monate nach Inkrafttreten dieses Gesetzes eine erste Evaluierung der Aufsichts- und Behördenstruktur durch. Gegenstand der Evaluierung sind insbesondere die bisherigen Erfahrungen mit der Wahrnehmung der durch dieses Gesetz zugewiesenen Aufgaben, mit der Zusammenarbeit der zuständigen Behörden sowie mit der praktischen Durchführung der Verordnung (EU) 2024/1689. (3) Die Bundesregierung evaluiert spätestens drei Jahre nach Inkrafttreten dieses Gesetzes die Wirksamkeit der Aufsichts- und Behördenstruktur einschließlich der Kooperationsvorschriften im Hinblick auf eine innovationsfreundliche, bürokratiearme und wirksame Durchführung der Verordnung (EU) 2024/1689. Dabei berücksichtigt sie insbesondere 1. Einschätzungen betroffener Unternehmen zur Innovationsfreundlichkeit und Praktikabilität der Aufsichts- und Behördenstruktur, 2. Einschätzungen der zuständigen Behörden zu ihren finanziellen, technischen und personellen Ressourcen, 3. die Zusammenarbeit der zuständigen Behörden untereinander sowie mit dem Zentrum nach § 5, 4. Einschätzungen weiterer betroffener Akteure, insbesondere von Verbraucherschutzorganisationen, Sozialpartnern und zivilgesellschaftlichen Organisationen, sowie 5. die Erreichung einer bürokratiearmen Durchführung der Verordnung (EU) 2024/1689. (4) In die Evaluierungen nach den Absätzen 2 und 3 sind insbesondere die Bundesnetzagentur, eine repräsentative Auswahl weiterer nach den §§ 2 und 3 zuständiger Behörden sowie die in § 9 Absatz 4 genannten Behörden einzubinden. Im Rahmen der Evaluierung nach Absatz 3 sind zudem die an die Europäische Kommission zur Erstellung des Berichts nach Artikel 112 Absatz 2 Buchstabe c und Absatz 13 der Verordnung (EU) 2024/1689 übermittelten Informationen einzubeziehen. (5) Die Bundesregierung legt dem Deutschen Bundestag über die Ergebnisse der Evaluierungen nach den Absätzen 2 und 3 jeweils einen Bericht vor.“ h) Nach § 19 wird der folgende Teil 8 eingefügt: „Teil 8 Register § 20 Register über bestimmte Hochrisiko-KI-Systeme (1) Die Bundesnetzagentur führt ein nicht-öffentliches Register nach Artikel 49 Absatz 5 der Verordnung (EU) 2024/1689 über Hochrisiko-KI-Systeme nach Anhang III Nummer 2 der Verordnung (EU) 2024/1689. (2) Vor dem Inverkehrbringen oder der Inbetriebnahme eines in Anhang III Nummer 2 der Verordnung (EU) 2024/1689 genannten Hochrisiko-KI-Systems müssen Anbieter oder deren Bevollmächtigte sich und das Hochrisiko-KI-System im Register nach Absatz 1 registrieren. Dies gilt nicht für öffentliche Stellen der Länder im Sinne des § 2 des Bundesdatenschutzgesetzes. Bei der Registrierung müssen die Anbieter oder deren Bevollmächtigte die in Anhang VIII Abschnitt A der Verordnung (EU) 2024/1689 aufgeführten Informationen entsprechend bereitstellen. (3) Vor der Inbetriebnahme oder der Verwendung eines in Anhang III Nummer 2 der Verordnung (EU) 2024/1689 genannten Hochrisiko-KI-Systems müssen Betreiber sich und das Hochrisiko-KI-System im Register nach Absatz 1 registrieren, wenn es sich bei den Betreibern um öffentliche Stellen des Bundes im Sinne des § 2 des Bundesdatenschutzgesetzes handelt. Bei der Registrierung müssen die Betreiber die in Anhang VIII Abschnitt C der Verordnung (EU) 2024/1689 aufgeführten Informationen entsprechend bereitstellen. (4) Die nach § 2 Absatz 1 bis 6 und 8 zuständigen Marktüberwachungsbehörden sind berechtigt, Informationen über das jeweils in ihre Zuständigkeit fallende Hochrisiko-KI- System aus dem Register zu erhalten, soweit dies zur Wahrnehmung ihrer Aufgaben erforderlich ist. Zu diesem Zweck ist die Bundesnetzagentur berechtigt, die entsprechenden Informationen aus dem Register an die zuständige Marktüberwachungsbehörde weiterzugeben. Die Bundesnetzagentur darf Informationen aus dem Register an die Europäische Kommission sowie an andere nach der Verordnung (EU) 2024/1689 vorgesehene Stellen übermitteln, soweit dies zur Wahrnehmung der Aufgaben der Bundesnetzagentur erforderlich ist. Eine Übermittlung an Dritte findet nicht statt. (5) Die Verarbeitung personenbezogener Daten durch die Bundesnetzagentur im Rahmen des Registers ist zulässig, soweit sie zur Führung des Registers erforderlich ist.“ 2. In Artikel 4 Nummer 4 wird die Angabe „§ 23 Absatz 15 wird wie folgt gefasst:“ durch die Angabe „§ 23 Absatz 15 wird durch den folgenden Absatz 15 ersetzt:“ ersetzt. 3. Die Liste der EU-Rechtsakte wird wie folgt geändert: a) Nach Nummer 10 wird die folgende Nummer 11 eingefügt: 11. „ Verordnung (EU) 2023/1230 des Europäischen Parlaments und des Rates vom 14. Juni 2023 über Maschinen und zur Aufhebung der Richtlinie 2006/42/EG des Europäischen Parlaments und des Rates und der Richtlinie 73/361/EWG des Rates (ABl. L 165 vom 29.6.2023, S. 1; L 169 vom 4.7.2023, S. 35; L, 2025/90297, 2.4.2025), die durch die Verordnung (EU) 2024/2748 vom 9. Oktober 2024 (ABl. L, 2024/2748, 8.11.2024) geändert worden ist“. b) Die bisherigen Nummern 11 bis 13 werden zu den Nummern 12 bis 14. Drucksache 375/26- 5 -