Entwurf eines Gesetzes zur Durchführung der Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU) Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien 2014/90/EU, (EU) 2016/797 und (EU) 2020/1828 (Gesetz zur Durchführung der Verordnung über künstliche Intelligenz) (Beschlussempfehlung und Bericht zu Drs. 21/4594, 21/5143)

Entwurf eines Gesetzes zur Durchführung der Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU) Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien 2014/90/EU, (EU) 2016/797 und (EU) 2020/1828 (Gesetz zur Durchführung der Verordnung über künstliche Intelligenz) (Beschlussempfehlung und Bericht zu Drs. 21/4594, 21/5143) Deutscher Bundestag Drucksache 21/6407 21. Wahlperiode 10.06.2026 Beschlussempfehlung und Bericht des Ausschusses für Digitales und Staatsmodernisierung (23. Ausschuss) zu dem Gesetzentwurf der Bundesregierung – Drucksachen 21/4594, 21/5143 – Entwurf eines Gesetzes zur Durchführung der Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU) Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien 2014/90/EU, (EU) 2016/797 und (EU) 2020/1828 (Gesetz zur Durchführung der Verordnung über künstliche Intelligenz) A. Problem Der Entwurf für das Gesetz zur Durchführung der Verordnung über künstliche Intelligenz dient der Umsetzung der EU-Verordnung 2024/1689. Diese ist am 1. August 2024 in Kraft getreten und legt einen einheitlichen Rechtsrahmen für die Entwicklung, das Inverkehrbringen, die Inbetriebnahme und die Verwendung von Systemen künstlicher Intelligenz (KI-Systeme) in der Europäischen Union fest. B. Lösung Mit dem vorliegenden Gesetzentwurf wird der nationale Rechtsrahmen an den Vorgaben der Verordnung (EU) 2024/1689 ausgerichtet und entsprechend angepasst. Annahme des Gesetzentwurfs in geänderter Fassung mit den Stimmen der Fraktionen der CDU/CSU und SPD gegen die Stimmen der Fraktionen AfD und BÜNDNIS 90/DIE GRÜNEN bei Stimmenthaltung der Fraktion Die Linke. Zudem wird die Bundesregierung im Rahmen einer Entschließung insbesondere aufgefordert, die Beratungsangebote der Bundesnetzagentur regelmäßig daraufhin zu überprüfen, wie effizient, wirksam und praxisnah sie sind. Annahme einer Entschließung mit den Stimmen der Fraktionen der CDU/CSU und SPD gegen die Stimmen der Fraktion Die Linke bei Stimmenthaltung der Fraktionen AfD und BÜNDNIS 90/DIE GRÜNEN. C. Alternativen Keine. D. Kosten Wurden nicht erörtert. Beschlussempfehlung Der Bundestag wolle beschließen, a) den Gesetzentwurf auf Drucksachen 21/4594, 21/5143 mit folgenden Maßgaben, im Übrigen unverändert anzunehmen: 1. Artikel 1 wird wie folgt geändert: a) § 2 wird wie folgt geändert: aa) Absatz 4 wird durch den folgenden Absatz 4 ersetzt: (4) „ Steht das Inverkehrbringen, die Inbetriebnahme oder die Verwendung eines KI-Systems in direktem Zusammenhang mit einer regulierten Finanztätigkeit, welche von einem Finanzinstitut erbracht wird, das nicht von der Bundesanstalt für Finanzdienstleistungsaufsicht nach Absatz 3 überwacht wird, so obliegt die Marktüberwachung derjenigen Aufsichtsbehörde, die gemäß Gesetz oder aufgrund entsprechender Vereinbarung zwischen ihr und der Bundesanstalt für Finanzdienstleistungsaufsicht zuständige Finanzaufsichtsbehörde ist. Satz 1 gilt nicht für Gewerbetreibende, die Tätigkeiten nach den §§ 34d, 34f, 34h, 34i und 34k der Gewerbeordnung ausüben.“ bb) Nach Absatz 7 Satz 1 wird der folgende Satz eingefügt: „Gleiches gilt für die Ausübung solcher Durchsetzungsbefugnisse gegenüber der Versorgungsanstalt des Bundes und der Länder.“ cc) Nach Absatz 8 Satz 2 wird der folgende Satz eingefügt: „Für die Koordinierung der Zusammenarbeit durch das Koordinierungs- und Kompetenzzentrum nach § 5 Satz 2 Nummer 2 und die zentrale Beschwerdestelle nach § 8 können die Länder einheitliche Ansprechpartner benennen.“ b) § 5 wird wie folgt geändert: aa) Satz 2 wird wie folgt geändert: aaa) In Nummer 1 wird nach der Angabe „Verordnung (EU) 2024/1689“ die Angabe „oder die zuständigen Marktüberwachungsbehörden nach der Verordnung (EU) 2023/1230 bei komplexen Entscheidungen bei der Marktüberwachung von KI-Systemen, die in ein Produkt nach der Verordnung (EU) 2023/1230 integriert sind,“ eingefügt. bbb) In Nummer 3 wird die Angabe „erleichtern sowie“ durch die Angabe „erleichtern,“ ersetzt. ccc) In Nummer 4 wird die Angabe „sicherzustellen.“ durch die Angabe „sicherzustellen sowie“ ersetzt. ddd) Nach Nummer 4 wird die folgende Nummer 5 eingefügt: 5. „ nach Bedarf vorbereitete Schulungs- und Sensibilisierungsangebote sowie allgemeine Informationen und Prüfempfehlungen bereitzustellen mit dem Ziel, eine einheitliche Rechtsanwendung der Verordnung (EU) 2024/1689 in der Bundesrepublik Deutschland zu fördern.“ bb) In Satz 4 wird nach der Angabe „einrichten“ die Angabe „, insbesondere einen Bund-Länder-Ausschuss Künstliche Intelligenz, der der strukturierten Koordinierung und Zusammenarbeit zwischen den Marktüberwachungsbehörden nach § 2 Absatz 1 bis 6 und 8 sowie der nach Artikel 52 Absatz 2 der Verordnung (EU) 2024/2847 zu benennenden Marktüberwachungsbehörde dient“ eingefügt. c) Nach § 6 Absatz 3 Satz 2 wird der folgende Satz eingefügt: „Die zentrale Anlaufstelle veröffentlicht diese Informationen auf der Internetseite der Bundesnetzagentur.“ d) In § 7 Absatz 3 wird die Angabe „nach Anhang I, Abschnitt A, Nummer 1, 4, 5, 7, 9 oder 10 der Verordnung (EU) 2024/1689“ durch die Angabe „nach Anhang I Abschnitt A Nummer 4, 5, 7, 9 oder 10 der Verordnung (EU) 2024/1689 oder nach der Verordnung (EU) 2023/1230“ ersetzt. e) In § 8 Absatz 3 wird die Angabe „gemäß den Anforderungen der Barrierefreie-Informationstechnik-Verordnung ein“ durch die Angabe „ein, das leicht zugänglich, barrierefrei und benutzerfreundlich ausgestaltet ist und die Einreichung hinreichend präziser und angemessen begründeter Beschwerden durch Betroffene ermöglicht“ ersetzt. f) In § 14 Absatz 2 Satz 1 wird vor der Angabe „Anhang III“ durch die Angabe „Anhang I Abschnitt A und“ eingefügt. g) Nach § 18 wird der folgende Teil 7 eingefügt: „Teil 7 Evaluierung § 19 Evaluierung (1) Die Bundesregierung evaluiert die Auswirkungen der nach diesem Gesetz errichteten Aufsichts- und Behördenstruktur einschließlich der Kooperationsvorschriften. (2) Die Bundesregierung führt spätestens 18 Monate nach Inkrafttreten dieses Gesetzes eine erste Evaluierung der Aufsichts- und Behördenstruktur durch. Gegenstand der Evaluierung sind insbesondere die bisherigen Erfahrungen mit der Wahrnehmung der durch dieses Gesetz zugewiesenen Aufgaben, mit der Zusammenarbeit der zuständigen Behörden sowie mit der praktischen Durchführung der Verordnung (EU) 2024/1689. (3) Die Bundesregierung evaluiert spätestens drei Jahre nach Inkrafttreten dieses Gesetzes die Wirksamkeit der Aufsichts- und Behördenstruktur einschließlich der Kooperationsvorschriften im Hinblick auf eine innovationsfreundliche, bürokratiearme und wirksame Durchführung der Verordnung (EU) 2024/1689. Dabei berücksichtigt sie insbesondere 1. Einschätzungen betroffener Unternehmen zur Innovationsfreundlichkeit und Praktikabilität der Aufsichts- und Behördenstruktur, 2. Einschätzungen der zuständigen Behörden zu ihren finanziellen, technischen und personellen Ressourcen, 3. die Zusammenarbeit der zuständigen Behörden untereinander sowie mit dem Zentrum nach § 5, 4. Einschätzungen weiterer betroffener Akteure, insbesondere von Verbraucherschutzorganisationen, Sozialpartnern und zivilgesellschaftlichen Organisationen, sowie 5. die Erreichung einer bürokratiearmen Durchführung der Verordnung (EU) 2024/1689. (4) In die Evaluierungen nach den Absätzen 2 und 3 sind insbesondere die Bundesnetzagentur, eine repräsentative Auswahl weiterer nach den §§ 2 und 3 zuständiger Behörden sowie die in § 9 Absatz 4 genannten Behörden einzubinden. Im Rahmen der Evaluierung nach Absatz 3 sind zudem die an die Europäische Kommission zur Erstellung des Berichts nach Artikel 112 Absatz 2 Buchstabe c und Absatz 13 der Verordnung (EU) 2024/1689 übermittelten Informationen einzubeziehen. (5) Die Bundesregierung legt dem Deutschen Bundestag über die Ergebnisse der Evaluierungen nach den Absätzen 2 und 3 jeweils einen Bericht vor.“ h) Nach § 19 wird der folgende Teil 8 eingefügt: „Teil 8 Register § 20 Register über bestimmte Hochrisiko-KI-Systeme (1) Die Bundesnetzagentur führt ein nicht-öffentliches Register nach Artikel 49 Absatz 5 der Verordnung (EU) 2024/1689 über Hochrisiko-KI-Systeme nach Anhang III Nummer 2 der Verordnung (EU) 2024/1689. (2) Vor dem Inverkehrbringen oder der Inbetriebnahme eines in Anhang III Nummer 2 der Verordnung (EU) 2024/1689 genannten Hochrisiko-KI-Systems müssen Anbieter oder deren Bevollmächtigte sich und das Hochrisiko-KI-System im Register nach Absatz 1 registrieren. Dies gilt nicht für öffentliche Stellen der Länder im Sinne des § 2 des Bundesdatenschutzgesetzes. Bei der Registrierung müssen die Anbieter oder deren Bevollmächtigte die in Anhang VIII Abschnitt A der Verordnung (EU) 2024/1689 aufgeführten Informationen entsprechend bereitstellen. (3) Vor der Inbetriebnahme oder der Verwendung eines in Anhang III Nummer 2 der Verordnung (EU) 2024/1689 genannten Hochrisiko-KI-Systems müssen Betreiber sich und das Hochrisiko-KI-System im Register nach Absatz 1 registrieren, wenn es sich bei den Betreibern um öffentliche Stellen des Bundes im Sinne des § 2 des Bundesdatenschutzgesetzes handelt. Bei der Registrierung müssen die Betreiber die in Anhang VIII Abschnitt C der Verordnung (EU) 2024/1689 aufgeführten Informationen entsprechend bereitstellen. (4) Die nach § 2 Absatz 1 bis 6 und 8 zuständigen Marktüberwachungsbehörden sind berechtigt, Informationen über das jeweils in ihre Zuständigkeit fallende Hochrisiko-KI-System aus dem Register zu erhalten, soweit dies zur Wahrnehmung ihrer Aufgaben erforderlich ist. Zu diesem Zweck ist die Bundesnetzagentur berechtigt, die entsprechenden Informationen aus dem Register an die zuständige Marktüberwachungsbehörde weiterzugeben. Die Bundesnetzagentur darf Informationen aus dem Register an die Europäische Kommission sowie an andere nach der Verordnung (EU) 2024/1689 vorgesehene Stellen übermitteln, soweit dies zur Wahrnehmung der Aufgaben der Bundesnetzagentur erforderlich ist. Eine Übermittlung an Dritte findet nicht statt. (5) Die Verarbeitung personenbezogener Daten durch die Bundesnetzagentur im Rahmen des Registers ist zulässig, soweit sie zur Führung des Registers erforderlich ist.“ 2. In Artikel 4 Nummer 4 wird die Angabe „§ 23 Absatz 15 wird wie folgt gefasst:“ durch die Angabe „§ 23 Absatz 15 wird durch den folgenden Absatz 15 ersetzt:“ ersetzt. 3. Die Liste der EU-Rechtsakte wird wie folgt geändert: a) Nach Nummer 10 wird die folgende Nummer 11 eingefügt: 11. „ Verordnung (EU) 2023/1230 des Europäischen Parlaments und des Rates vom 14. Juni 2023 über Maschinen und zur Aufhebung der Richtlinie 2006/42/EG des Europäischen Parlaments und des Rates und der Richtlinie 73/361/EWG des Rates (ABl. L 165 vom 29.6.2023, S. 1; L 169 vom 4.7.2023, S. 35; L, 2025/90297, 2.4.2025), die durch die Verordnung (EU) 2024/2748 vom 9. Oktober 2024 (ABl. L, 2024/2748, 8.11.2024) geändert worden ist“. b) Die bisherigen Nummern 11 bis 13 werden zu den Nummern 12 bis 14.; b) folgende Entschließung anzunehmen: „I. Der Deutsche Bundestag stellt fest: Der Deutsche Bundestag begrüßt das Ziel des KI-Marktüberwachungs-und- Innovationsförderungs-Gesetzes (KI-MIG), einen innovationsfreundlichen und bürokratiearmen Rahmen für die Entwicklung, Einführung und Nutzung von künstlicher Intelligenz in Deutschland zu schaffen. Die wirksame Umsetzung und Anwendung der Verordnung der Europäischen Union über künstliche Intelligenz (KI-Verordnung) erfordert eine leistungsfähige, effiziente und einheitliche Marktüberwachung in Deutschland. Im Rahmen der föderalen Ordnung ist auch das Ziel eines „One-Stop-Shops“ weiterzuverfolgen. Da die Anwendung der KI-Verordnung und des KI-MIG fachlich komplex, dynamisch und mit gesellschaftlicher Komplexität verbunden ist, braucht es eine kontinuierliche, unabhängige sowie transparente Begleitung interdisziplinärer Expertise aus Wissenschaft, Zivilgesellschaft und Vertretern der Praxis aus Wirtschaft und Verwaltung. Deshalb wird der Ausschuss für Digitales und Staatsmodernisierung des Deutschen Bundestages sich halbjährlich dazu im Rahmen der Ausschussarbeit mit Vertreterinnen und Vertretern aus Verwaltung, Wirtschaft, Zivilgesellschaft und Wissenschaft beraten. II. Der Deutsche Bundestag fordert die Bundesregierung im Rahmen der verfügbaren Haushaltsmittel auf, die Beratungsangebote der Bundesnetzagentur regelmäßig daraufhin zu überprüfen, wie effizient, wirksam und praxisnah sie sind. Dazu entwickelt die Bundesnetzagentur geeignete Kennzahlen, um ihre Leistungen messbar zu machen und die Qualität der Beratung weiter zu verbessern.“ Berlin, den 10. Juni 2026 Der Ausschuss für Digitales und Staatsmodernisierung Hansjörg Durz Vorsitzender Marvin Schulz Berichterstatter Robin Jünger Berichterstatter Dr. Carolin Wagner Berichterstatterin Rebecca Lenhard Berichterstatterin Sonja Lemke Berichterstatterin Bericht der Abgeordneten Marvin Schulz, Robin Jünger, Dr. Carolin Wagner, Rebecca Lenhard und Sonja Lemke A. Allgemeiner Teil I. Überweisung Der Deutsche Bundestag hat die Vorlage auf Drucksache 21/4594 in seiner 66. Sitzung am 20. März 2026 beraten und an den Ausschuss für Digitales und Staatsmodernisierung zur federführenden Beratung sowie an den Innenausschuss, an den Ausschuss für Recht und Verbraucherschutz, an den Haushaltsausschuss, an den Ausschuss für Arbeit und Soziales und an den Ausschuss für Kultur und Medien zur Mitberatung überwiesen. Dem Haushaltsausschuss wurde der Gesetzentwurf zudem gemäß § 96 Absatz 2 der Geschäftsordnung des Deutschen Bundestages überwiesen. Der Parlamentarische Beirat für nachhaltige Entwicklung und Zukunftsfragen hat sich gutachtlich beteiligt. Die Vorlage auf Drucksache 21/5143 gilt nach § 77 Absatz 3 der Geschäftsordnung des Deutschen Bundestages ebenfalls als an den Ausschuss für Digitales und Staatsmodernisierung zur federführenden Beratung sowie an den Innenausschuss, an den Ausschuss für Recht und Verbraucherschutz, an den Haushaltsausschuss, an den Ausschuss für Arbeit und Soziales und an den Ausschuss für Kultur und Medien zur Mitberatung überwiesen. II. Wesentlicher Inhalt der Vorlage Der vorliegende Gesetzentwurf dient der Durchführung der Verordnung (EU) 2024/1689. Diese setzt einen Rechtsrahmen für KI-Systeme, der einen einheitlichen Binnenmarkt für KI-gestützte Waren und Dienstleistungen schaffen soll, der Innovationen fördert und gleichzeitig ein hohes Schutzniveau in Bezug auf Gesundheit, Sicherheit und die in der Charta der Grundrechte der Europäischen Union verankerten Grundrechte sicherstellt. Dabei verfolgt die EU-Verordnung einen risikobasierten Ansatz und enthält insbesondere Verbote bestimmter Praktiken im KI-Bereich. Ebenso werden besondere Anforderungen an Hochrisiko-KI-Systeme und Pflichten für Akteure in Bezug auf solche Systeme festgelegt. Desweiteren enthält die EU-Verordnung Transparenzvorschriften für bestimmte KI-Systeme sowie Maßnahmen zur Innovationsförderung mit besonderem Augenmerk auf kleine und mittlere Unternehmen sowie Start-ups. Zur Durchführung dieser Verordnung muss jeder Mitgliedstaat der Europäischen Union mindestens eine notifizierende Behörde und mindestens eine Marktüberwachungsbehörde, darunter eine Marktüberwachungsbehörde, die als zentrale Anlaufstelle für die Verordnung (EU) 2024/1689 fungiert, als zuständige nationale Behörden einrichten oder benennen. Mit Artikel 1 werden die für die Durchführung der Verordnung (EU) 2024/1689 zuständigen Behörden benannt, deren Aufgaben geregelt sowie Kooperationsvorschriften und die erforderlichen Vorschriften für das Bußgeldverfahren erlassen. Mit den Artikeln 2 bis 4 werden einschlägige Gesetze geändert, um sie an die EU-Verordnung anzupassen. III. Stellungnahmen der mitberatenden Ausschüsse Der Innenausschuss hat den Gesetzentwurf auf Drucksachen 21/4594, 21/5143 in seiner 36. Sitzung am 10. Juni 2026 beraten und empfiehlt mit den Stimmen der Fraktionen der CDU/CSU und SPD gegen die Stimmen der Fraktionen AfD und BÜNDNIS 90/DIE GRÜNEN bei Stimmenthaltung der Fraktion Die Linke die Annahme des Gesetzentwurfs in der Fassung des Änderungsantrags der Fraktionen der CDU/CSU und SPD auf Ausschussdrucksache 21(23)88 des federführenden Ausschusses. Der Innenausschuss hat mit den Stimmen der Fraktionen CDU/CSU, SPD und Die Linke gegen die Stimmen der Fraktion der AfD bei Stimmenthaltung der Fraktion BÜNDNIS 90/DIE GRÜNEN den Änderungsantrag der Fraktionen der CDU/CSU und SPD auf Ausschussdrucksache 21(23)88 angenommen. Der Innenausschuss hat mit den Stimmen der Fraktionen der CDU/CSU und SPD gegen die Stimmen der Fraktion Die Linke bei Stimmenthaltung der Fraktionen AfD und BÜNDNIS 90/DIE GRÜNEN den Entschließungsantrag der Fraktionen der CDU/CSU und SPD auf Ausschussdrucksache 21(23)89 angenommen. Der Innenausschuss hat mit den Stimmen der Fraktionen der CDU/CSU, AfD und SPD gegen die Stimmen der Fraktionen BÜNDNIS 90/DIE GRÜNEN und Die Linke den Entschließungsantrag der Fraktion BÜNDNIS 90/DIE GRÜNEN auf Ausschussdrucksache 21(23)90 abgelehnt. Der Ausschuss für Recht und Verbraucherschutz hat den Gesetzentwurf auf Drucksachen 21/4594, 21/5143 in seiner 39. Sitzung am 10. Juni 2026 beraten und empfiehlt mit den Stimmen der Fraktionen der CDU/CSU und SPD gegen die Stimmen der Fraktionen AfD und BÜNDNIS 90/DIE GRÜNEN bei Stimmenthaltung der Fraktion Die Linke die Annahme des Gesetzentwurfs in der Fassung des Änderungsantrags der Fraktionen der CDU/CSU und SPD auf Ausschussdrucksache 21(23)88 des federführenden Ausschusses. Der Ausschuss für Recht und Verbraucherschutz beschließt mit den Stimmen der Fraktionen CDU/CSU, SPD und Die Linke gegen die Stimmen der Fraktion der AfD bei Stimmenthaltung der Fraktion BÜNDNIS 90/DIE GRÜNEN, zu empfehlen, den Änderungsantrag der Fraktionen der CDU/CSU und SPD (Ausschussdrucksache 21(23)88) anzunehmen. Der Ausschuss für Recht und Verbraucherschutz beschließt mit den Stimmen der Fraktionen der CDU/CSU und SPD gegen die Stimmen der Fraktion Die Linke bei Stimmenthaltung der Fraktionen AfD und BÜNDNIS 90/DIE GRÜNEN, zu empfehlen, den Entschließungsantrag der Fraktionen der CDU/CSU und SPD, (Ausschussdrucksache 21(23)89) anzunehmen. Der Ausschuss für Recht und Verbraucherschutz beschließt mit den Stimmen der Fraktionen der CDU/CSU und SPD gegen die Stimmen der Fraktionen BÜNDNIS 90/DIE GRÜNEN und Die Linke bei Stimmenthaltung der Fraktion der AfD, zu empfehlen, den Entschließungsantrag der Fraktion BÜND- NIS 90/DIE GRÜNEN (Ausschussdrucksache 21(23)90) abzulehnen. Der Haushaltsausschuss hat den Gesetzentwurf auf Drucksachen 21/4594, 21/5143 in seiner 39. Sitzung am 10. Juni 2026 beraten und empfiehlt mit den Stimmen der Fraktionen der CDU/CSU und SPD gegen die Stimmen der Fraktionen AfD und BÜNDNIS 90/DIE GRÜNEN bei Stimmenthaltung der Fraktion Die Linke die Annahme des Gesetzentwurfs in der durch Ausschussdrucksache 21(8)3660 geänderten Fassung. Darüber hinaus beschließt der Ausschuss die Annahme der Entschließung auf Ausschussdrucksache 21(8)3663 mit den Stimmen der Fraktionen der CDU/CSU und SPD gegen die Stimmen der Fraktion Die Linke bei Stimmenthaltung der Fraktionen AfD und Bündnis 90/Die Grünen. Der Ausschuss für Arbeit und Soziales hat den Gesetzentwurf auf Drucksachen 21/4594, 21/5143 in seiner 31. Sitzung am 10. Juni 2026 beraten und empfiehlt mit den Stimmen der Fraktionen der CDU/CSU und SPD gegen die Stimmen der Fraktionen AfD, BÜNDNIS 90/DIE GRÜNEN und Die Linke die Annahme des Gesetzentwurfs mit Änderungen. Der Ausschuss für Arbeit und Soziales hat mit den Stimmen der Fraktionen der CDU/CSU und SPD gegen die Stimmen der Fraktion der AfD bei Stimmenthaltung der Fraktionen BÜNDNIS 90/DIE GRÜNEN und Die Linke den Änderungsantrag der Fraktionen der CDU/CSU und SPD auf Ausschussdrucksache 21(23)88 angenommen. Der Ausschuss für Arbeit und Soziales empfiehlt mit den Stimmen der Fraktionen der CDU/CSU und SPD gegen die Stimmen der Fraktion Die Linke bei Enthaltung der Fraktionen AfD und BÜNDNIS 90/DIE GRÜNEN die Annahme des Entschließungsantrages der Fraktionen der CDU/CSU und SPD auf Ausschussdrucksache 21(23)89. Der Ausschuss für Arbeit und Soziales empfiehlt mit den Stimmen der Fraktionen der CDU/CSU, AfD und SPD gegen die Stimmen der Fraktionen BÜNDNIS 90/DIE GRÜNEN und Die Linke die Ablehnung des Entschließungsantrages der Fraktion BÜNDNIS 90/DIE GRÜNEN auf Ausschussdrucksache 21(23)90. Der Ausschuss für Kultur und Medien hat den Gesetzentwurf auf Drucksachen 21/4594, 21/5143 in seiner 23. Sitzung am 10. Juni 2026 beraten und empfiehlt mit den Stimmen der Fraktionen der CDU/CSU und SPD gegen die Stimmen der Fraktion der AfD bei Stimmenthaltung der Fraktionen BÜNDNIS 90/DIE GRÜNEN und Die Linke die Annahme des Gesetzentwurfs in der Fassung des Änderungsantrags der Fraktionen der CDU/CSU und SPD auf Ausschussdrucksache 21(23)88 des federführenden Ausschusses. Der Ausschuss für Kultur und Medien hat mit den Stimmen der Fraktionen CDU/CSU, SPD, BÜNDNIS 90/DIE GRÜNEN und Die Linke gegen die Stimmen der Fraktion der AfD den Änderungsantrag der Fraktionen der CDU/CSU und SPD auf Ausschussdrucksache 21(23)88 angenommen. Der Ausschuss für Kultur und Medien empfiehlt mit den Stimmen der Fraktionen der CDU/CSU und SPD gegen die Stimmen der Fraktionen BÜNDNIS 90/DIE GRÜNEN und Die Linke bei Stimmenthaltung der Fraktion der AfD die Annahme des Entschließungsantrages der Fraktionen der CDU/CSU und SPD auf Ausschussdrucksache 21(23)89. Der Ausschuss für Kultur und Medien empfiehlt mit den Stimmen der Fraktionen der CDU/CSU, AfD und SPD gegen die Stimmen der Fraktionen BÜNDNIS 90/DIE GRÜNEN und Die Linke die Ablehnung des Entschließungsantrag der Fraktion BÜNDNIS 90/DIE GRÜNEN auf Ausschussdrucksache 21(23)90. Der Parlamentarische Beirat für nachhaltige Entwicklung und Zukunftsfragen hat sich mit der Vorlage auf Drucksache 21/4594 in seiner 16. Sitzung am 15. April 2026 befasst. Er stellt fest, dass die Bundesregierung die Nachhaltigkeitsprüfungsbewertung im Rahmen der Gesetzesfolgenabschätzung durchgeführt habe, indem einschlägige Nachhaltigkeitsziele herausgestellt werden, die durch die Regelungen des Gesetzentwurfs gefördert werden sollen. So beabsichtige der Gesetzentwurf mit seinen Regelungen u. a. zu einem stetigen und angemessenen Wirtschaftswachstum beizutragen, indem die Voraussetzungen für einen wirksamen Wettbewerb gestärkt würden. Der Gesetzentwurf solle einen Beitrag zur Erreichung des Nachhaltigkeitsziels SDG 8 „Dauerhaftes, inklusives und nachhaltiges Wirtschaftswachstum, produktive Vollbeschäftigung und menschenwürdige Arbeit für alle fördern“ leisten. Dieses Nachhaltigkeitsziel fördere das Nachhaltigkeitspostulat 8.4 „Wirtschaftsleistung umwelt- und sozialverträglich steigern“. Außerdem solle durch die Etablierung verlässlicher rechtlicher Rahmenbedingungen das Nachhaltigkeitsziel 9 (SDG 9) „Eine widerstandsfähige Infrastruktur aufbauen, inklusive und nachhaltige Industrialisierung fördern und Innovationen unterstützen“ gefördert werden. Außerdem verfolge der Gesetzentwurf folgende Leitprinzipien einer nachhaltigen Entwicklung: (4) „Nachhaltiges Wirtschaften stärken“ und (6) „Bildung, Wissenschaft und Innovation als Treiber einer nachhaltigen Entwicklung nutzen“. Daher seien die Ausführungen der Bundesregierung im Rahmen der Nachhaltigkeitsprüfung nicht zu beanstanden. Eine Prüfbitte sei daher nicht erforderlich. IV. Petitionen Dem Ausschuss lag eine Petition zur Drucksache 21/4594 vor, zu der der Petitionsausschuss eine Stellungnahme gemäß § 109 der Geschäftsordnung des Deutschen Bundestages angefordert hat. Mit der Petition wird die Einrichtung einer dauerhaften Kontrollbehörde zur Genehmigung und Kontrolle von KI- Technologien gefordert, die unmittelbaren Einfluss auf Urheberrechte, Arbeitsmärkte, Sicherheit und das soziale Leben in Deutschland haben. Dem Anliegen des Petenten konnte mit der Annahme des Gesetzentwurfs auf Drucksachen 21/4594, 21/5143 teilweise entsprochen werden. Die Verordnung (EU) 2024/1689 legt einen einheitlichen Rechtsrahmen für die Entwicklung, das Inverkehrbringen, die Inbetriebnahme und die Verwendung von Systemen künstlicher Intelligenz in der Europäischen Union fest. Zur Durchführung dieser EU-Verordnung muss jeder Mitgliedstaat der Europäischen Union mindestens eine notifizierende Behörde und mindestens eine Marktüberwachungsbehörde, darunter eine Marktüberwachungsbehörde, die als zentrale Anlaufstelle für die Verordnung (EU) 2024/1689 fungiert, als zuständige nationale Behörden einrichten oder benennen. Der Gesetzentwurf auf Drucksachen 21/4594, 21/5143 dient der Durchführung der Verordnung. Mit Artikel 1 werden die für ihre Durchführung zuständigen Behörden benannt, deren Aufgaben geregelt sowie Kooperationsvorschriften und die erforderlichen Vorschriften für das Bußgeldverfahren erlassen. V. Beratungsverlauf und Beratungsergebnisse im federführenden Ausschuss Der Ausschuss für Digitales und Staatsmodernisierung hat in seiner 18. Sitzung am 25. Februar 2026 beschlossen, eine öffentliche Anhörung zu dem Gesetzentwurf auf Drucksachen 21/4594, 21/5143, BR-Drucksache 97/26 durchzuführen. Die öffentliche Anhörung fand in seiner 22. Sitzung am 23. März 2026 statt. Hieran haben folgende Sachverständige teilgenommen: Dr. Miika Blinn Verbraucherzentrale Bundesverband e. V. Dr. Jonas Botta Deutsches Forschungsinstitut für öffentliche Verwaltung Lajla Fetic appliedAI Institute for Europe gGmbH Prof. Dr. Patrick Glauner Technische Hochschule Deggendorf Dr. Robert Kilian Bundesverband der Unternehmen der Künstlichen Intelligenz in Deutschland e. V. Marvin Pawelczyk Bitkom e. V. Pia Sombetzki AW AlgorithmWatch gGmbH Klaus Müller Präsident der BNetzA Claudia Plattner Präsidentin des Bundesamtes für Sicherheit in der Informationstechnik Prof. Dr. Louisa Specht-Riemenschneider Bundesbeauftragte für den Datenschutz und die Informationsfreiheit Hinsichtlich der Ergebnisse der öffentlichen Anhörung wird, auf die in der Mediathek des Deutschen Bundestages abrufbare Aufzeichnung dieser Sitzung verwiesen. Der Ausschuss für Digitales und Staatsmodernisierung hat den Gesetzentwurf auf Drucksachen 21/4594, 21/5143 in seiner 29. Sitzung am 10. Juni 2026 abschließend beraten. Der Ausschuss für Digitales und Staatsmodernisierung empfiehlt mit den Stimmen der Fraktionen der CDU/CSU und SPD gegen die Stimmen der Fraktionen AfD und BÜNDNIS 90/DIE GRÜNEN bei Stimmenthaltung der Fraktion Die Linke die Annahme des Gesetzentwurfs in der aus der Beschlussempfehlung ersichtlichen Fassung. Die Änderungen beruhen auf einem Änderungsantrag, den die Fraktionen der CDU/CSU und SPD auf Ausschussdrucksache 21(23)88 in den Ausschuss für Digitales und Staatsmodernisierung eingebracht haben und der mit den Stimmen der Fraktionen CDU/CSU, SPD und Die Linke gegen die Stimmen der Fraktion der AfD bei Stimmenthaltung der Fraktion BÜNDNIS 90/DIE GRÜNEN angenommen wurde. Der Ausschuss für Digitales und Staatsmodernisierung empfiehlt die Annahme der Entschließung auf Ausschussdrucksache 21(23)89 mit den Stimmen der Fraktionen der CDU/CSU und SPD gegen die Stimmen der Fraktion Die Linke bei Stimmenthaltung der Fraktionen AfD und BÜNDNIS 90/DIE GRÜNEN. Die Fraktion BÜNDNIS 90/DIE GRÜNEN hat zu dem Gesetzentwurf auf Drucksachen 21/4594, 21/5143 folgenden Entschließungsantrag auf Ausschussdrucksache 21(23)90 in den Ausschuss für Digitales und Staatsmodernisierung eingebracht: Der Ausschuss möge beschließen: Über die Annahme des Gesetzentwurfs Drucksache 21/4594 hinaus empfiehlt der Ausschuss für Digitales und Staatsmodernisierung dem Bundestag, folgende Entschließung anzunehmen: 1. ausreichend Planstellen und Sachmittel für die als Marktüberwachungs- und Beschwerdestelle zu benennende Bundesnetzagentur (BNetzA) einzurichten und die Stellen zeitnah mit Inkrafttreten des Umsetzungsgesetzes zu besetzen, damit die Behörde diese Rolle effektiv wahrnehmen kann; 2. die im Durchführungsgesetz vorgesehene Unabhängige KI-Marktüberwachungskammer (UKIM) so auszugestalten, dass ihre unionsrechtlich gebotene Unabhängigkeit gewährleistet ist, und hierfür ihre Organisation analog zu den Anforderungen des Digitale-Dienste-Gesetzes in einer unabhängigen Stelle zu verankern; zugleich soll geprüft werden, ob die Aufsicht über EU-Digitalgesetze – einschließlich KI-Verordnung, Digitale-Dienste-Gesetz, Data-Governance-Act und Data Act – unter dem Dach einer gemeinsamen, staatsfernen Koordinierungsstelle organisatorisch gebündelt werden kann; 3. das im Durchführungsgesetz vorgesehene Koordinierungs- und Kompetenzzentrum nach § 5 als starke Beratungs- und Unterstützungseinheit für die Digitalaufsicht auszugestalten, von Beginn an mit ausreichendem Personal und Sachmitteln zu versehen und seine Aufgaben ausdrücklich auch auf die Durchführung eigener Forschungsarbeiten zur Umsetzung („regulatory learnings“) zu erweitern, wofür ein eigenes Forschungsbudget bereitzustellen ist; 4. die Zusammenarbeit zwischen der zuständigen Marktüberwachungsbehörde und anderen Aufsichtsbehörden im Durchführungsgesetz klarer zu regeln, insbesondere zum Schutz von Grundrechten wie der informationellen Selbstbestimmung und dem Gleichbehandlungsgrundsatz, und hierfür eine gemeinsame digitale Plattform mit Verbindungschnittstellen einzurichten, die eine kollaborative, effiziente und zielführende Aufsicht gewährleistet; 5. Einheitlichkeit, Verlässlichkeit und Einfachheit in der Zusammenarbeit zwischen den zuständigen Stellen in Bund und Ländern sicherzustellen und effiziente Strukturen zu schaffen; 6. § 9 Abs. 4 KI-MIG-E so zu ändern, dass die Zusammenarbeit von Marktüberwachung und Datenschutzbehörden im Bereich der Risikofeststellung für das Datenschutzrecht im Rahmen der Art. 79 ff. KI-VO in der Gestalt gesetzlich abgebildet wird, dass die Datenschutzbehörden für die Marktüberwachungsbehörden verbindliche Leitlinien bereitstellen, damit die Marktüberwachungsbehörden entsprechend diesen Vorgaben datenschutzrechtliche Sachverhalte bewerten können. Diese Leitfäden müssen laufend von den Datenschutzbehörden aktualisiert werden; 7. die Zuständigkeit der Datenschutzbehörden für Art. 10 Abs. 5 KI-VO klarzustellen; 8. das Training von Künstlicher Intelligenz mit hoheitlich erhobenen personenbezogenen Daten zu untersagen; 9. bei den im Durchführungsgesetz vorgesehenen innovationsfördernden Maßnahmen nach § 12 sicherzustellen, dass auch die Open-Source-Community ausdrücklich berücksichtigt wird, um die Entwicklung transparenter, nachhaltiger und souveräner KI-Systeme zu fördern; 10. sicherzustellen, dass alle öffentlichen Einrichtungen – einschließlich Bildungs-, Hochschul- und Forschungseinrichtungen sowie Behörden und Verwaltungen – die notwendigen Ressourcen, Infrastrukturen und Qualifizierungsmaßnahmen erhalten, um die Anforderungen des EU AI Acts umsetzen zu können und dabei digitale Souveränität sowie Datenschutz zu gewährleisten; 11. die Zivilgesellschaft, Wissenschaft und die Perspektive Betroffener frühzeitig, systematisch und kontinuierlich zu dem Thema KI und der Umsetzung der KI Verordnung einzubeziehen, um Transparenz, Vertrauen und demokratische Legitimität zu stärken, und hierfür einen unabhängigen KI-Beirat, orientiert am DSC-Beirat, einzurichten, der über weitgehende Informations- und Beratungsrechte verfügt, die Koordinierungsstelle berät, Empfehlungen für die einheitliche Durchführung des AI Acts erarbeitet und durch eine eigene Geschäftsstelle sowie Etat angemessen ausgestattet wird; 12. bei der im Durchführungsgesetz vorgesehenen zentralen Beschwerdestelle nach § 8 verbindliche Bearbeitungsfristen sowie eine transparente Kommunikation mit den Beschwerdeführern sicherzustellen, sodass jederzeit der Stand des Verfahrens nachvollziehbar ist und Rechtssicherheit gewährleistet wird; 13. eine systematische Auswertung der eingehenden Beschwerden sicherzustellen, um Muster, Häufungen und Ursachen von Verstößen sowie potenzielle systemische Risiken im Sinne der Verordnung (EU) 2024/1689 frühzeitig zu erkennen. Die Ergebnisse sollen regelmäßig in geeigneter Form veröffentlicht und den zuständigen Behörden zur Verfügung gestellt werden; 14. den Marktplatz der KI-Möglichkeiten (MAKI) zu einem echten KI-Transparenzregister auszubauen, welches verbindlich eine Übersicht über KI-Anwendungen in der Bundesverwaltung, ihren genauen Einsatz sowie ihre Auswirkungen auf die Grundrechte öffentlich bereitstellt; 15. zusätzlich zu den im Entwurf vorgesehenen Berichten der Unabhängigen KI Marktüberwachungskammer (UKIM) eine eigenständige jährliche Berichtspflicht der Bundesregierung gegenüber dem Deutschen Bundestag einzuführen, um dem Parlament einen vollständigen Überblick über den Stand der nationalen Umsetzung des AI Acts, die Ressourcenausstattung der Behörden sowie zu neuen technologischen Entwicklungen zu geben, insbesondere mit Blick auf erforderliche Anpassungen und neu entstehenden Regulierungsbedarf; 16. sicherzustellen, dass die in Art. 50 Abs. 4 KI-VO vorgesehene Kennzeichnungspflicht für Deepfakes konsequent und zielführend umgesetzt wird und Verstöße angemessen sanktioniert werden. Persönlichkeitsverletzungen durch die Herstellung und Verbreitung von Deepfakes sollten strafrechtlich geahndet werden; 17. sicherzustellen, dass keine nationalen Vorhaben oder Initiativen verfolgt werden, die auf das Inverkehrbringen, die Inbetriebnahme oder die Verwendung von KI Systemen gerichtet sind, die Datenbanken zur Gesichtserkennung durch das ungezielte Auslesen von Gesichtsbildern aus dem Internet oder von Überwachungsaufnahmen erstellen oder erweitern, da diese nach Maßgabe von Art. 5 Abs. 1 Buchstabe e der KI- Verordnung unzulässig sind, und sich zugleich auf europäischer Ebene für die konsequente Einhaltung dieses Verbots einzusetzen; 18. die Verwendung von KI-basierter biometrischer Identifikation in öffentlich zugänglichen Räumen (intelligente Videoüberwachung) in Echtzeit und retrograd auszuschließen; 19. sich auf Ebene der Europäischen Union dafür einzusetzen, dass die bestehenden Vorgaben der KI-VO für den Einsatz von KI in Sicherheitsbehörden unangetastet bleiben, anstatt diese aufzuweichen; 20. bei der Ausgestaltung von KI-Reallaboren die Gemeinwohlorientierung der jeweiligen KI-Innovationen besonders zu berücksichtigen und insbesondere solche Vorhaben zu fördern, die einen Beitrag hierzu leisten; 21. zu prüfen, inwieweit KI-Reallabore geeignete Räume darstellen können, um unter Beteiligung von Polizeibehörden, BfDI, BSI, Zivilgesellschaft, Wissenschaft und vertrauenswürdigen Herstellern passgenaue, rechtskonforme und souveräne Lösungen für eine digitale Polizeiarbeit zu entwickeln, zu testen und bürgerrechtliche Grenzen zu definieren. Der Ausschuss für Digitales und Staatsmodernisierung hat diesen Entschließungsantrag mit den Stimmen der Fraktionen der CDU/CSU, SPD und AfD gegen die Stimmen der Fraktionen BÜNDNIS 90/DIE GRÜNEN und Die Linke abgelehnt. Die Fraktion der CDU/CSU legte dar, die Bundesnetzagentur (BNetzA) werde mit dem Gesetzentwurf zentrale Marktüberwachungsbehörde und Anlaufstelle. Man bündele somit Kompetenzen und nutze bereits bestehende Strukturen, statt neue Bürokratie zu erfinden. Zudem werde ein KI-Reallabor gebaut – ein Ort, an dem Start-ups Anwendungen ausprobieren dürften, bevor sie mit ihnen an den Markt gingen. Dies geschehe in dem festen Glauben und in der Überzeugung, dass Aufsicht und Innovation keine Gegner seien. Mit dem vorgelegten Änderungsantrag der Koalitionsfraktionen würden gerade diejenigen entlastet, die Bürokratie am wenigsten stemmen könnten. Zudem gebe man dem Koordinierungszentrum bei der BNetzA eine proaktivere Rolle, denn es solle von sich aus Schulungen und Prüfempfehlungen anbieten. Man verankere darüber hinaus eine echte zweistufige Evaluierung in dem Wissen, dass KI zwar wichtig sei, man aber die weiteren Entwicklungen nicht vorhersehen könne. Die Fraktion der AfD führte aus, mit dem Gesetzentwurf werde ein neuer bürokratischer Wasserkopf geschaffen. Es gebe 49 Millionen Euro zusätzlichen Aufwand pro Jahr mit 43 neuen Stellen bei der BNetzA. Die Verantwortung werde auf sechs Bundesbehörden und 16 Behörden der Bundesländer aufgeteilt. Das Ziel einer bürokratiearmen Umsetzung werde somit klar verfehlt. Dies sei vom Bundesrat in dessen Widerspruch ebenfalls artikuliert worden, indem er dort von Doppelstrukturen und Zersplitterung spreche. Diese Punkte seien jedoch ignoriert worden. Der Bund verweigere den Bundesländern unter Verweis auf Artikel 104a des Grundgesetzes einen finanziellen Ausgleich für deren Mehraufwand. Vor diesem Hintergrund lehne man den Gesetzentwurf ab. Die Fraktion der SPD hob hervor, mit dem vorliegenden Änderungsantrag sowie dem Entschließungsantrag gehe man mit klaren Verbesserungen aus dem parlamentarischen Verfahren. Mit einer kontinuierlichen Einbeziehung im Rahmen des Ausschusses binde man Zivilgesellschaft und Wissenschaft halbjährlich ein. Zudem sei der Evaluationszeitraum auf 18 Monate verkürzt worden; mit geeigneten Kennzahlen solle die Leistung des Beratungsangebot der BNetzA messbar gemacht und deutlich gestärkt werden. Mit einem Praxischeck von Behörden und Unternehmen sei die Umsetzung des Durchführungsgesetzes aktiv getestet worden. Identifizierte Herausforderungen habe man mit einem Bund-Länder-Ausschuss aufgenommen, um eine möglichst einheitliche Auslegung in der Praxis zu gewährleisten. Mit dem nicht-öffentlichen Register für Hochrisiko-KI komme man den Anforderungen aus der KI-Verordnung nach. Die Fraktion BÜNDNIS 90/DIE GRÜNEN betonte, die Umsetzung der KI-Verordnung sei eines der zentralen digitalpolitischen Zukunftsthemen und wichtig für den Schutz der Grundrechte der Bürgerinnen und Bürger, für verlässliche Rahmenbedingungen der Wirtschaft und für staatliches Handeln in Verwaltung, Bildung und Sicherheitsbehörden. Umso unverständlicher sei, dass die Bundesregierung ihren Gesetzentwurf erst im März 2026 vorgelegt habe. Bereits im Oktober 2025 habe man sie zum Handeln aufgefordert. Der Gesetzentwurf sei an vielen Stellen verbesserungsbedürftig geblieben, und der kurzfristig eingebrachte Änderungsantrag greife die Hinweise der Sachverständigen in der durchgeführten öffentlichen Anhörung nur unzureichend auf. Die Aufsichtsstrukturen blieben zu schwach, es fehlten Ressourcen, klare Zuständigkeiten und eine wirklich unabhängige Kontrolle. Auch Grundrechtsschutz und Transparenz seien unzureichend abgesichert. Daher werde man sich zu dem Änderungs- und dem Entschließungsantrag der Koalitionsfraktionen enthalten und den Gesetzentwurf ablehnen. Man werbe für die Zustimmung zur eigenen Entschließung, da diese die für eine wirksame und grundrechtsfeste Umsetzung nötigen Punkte benenne. Die Fraktion Die Linke begrüßte grundsätzlich, dass mit dem Gesetzentwurf die überfälligen Aufsichtsstrukturen für die KI-Verordnung geschaffen würden. Sie wies allerdings darauf hin, dass die aus ihrer Sicht bestehende Personalunion zwischen der Unabhängigen KI-Marktüberwachungskammer (UKIM) und dem Präsidium der BNetzA die Anforderungen an die Unabhängigkeit der Aufsicht aus der KI-Verordnung nicht erfüllen dürfte. Dem Gesetzentwurf könne man daher nicht zustimmen und enthalte sich. Die in dem Änderungsantrag der Koalitionsfraktionen vorgeschlagenen Korrekturen des Gesetzentwurfes halte man aber für sinnvoll, denn bei der Evaluation der Aufsichtsstrukturen müssten die Zivilgesellschaft und alle Betroffenen zwingend mit einbezogen werden. Der Entschließungsantrag der Koalitionsfraktionen sei hingegen nicht zustimmungsfähig. Man unterstütze aber den Entschließungsantrag Fraktion BÜNDNIS 90/DIE GRÜNEN. Er enthalte wichtige Forderungen, um die Regelungen der KI-Verordnung wirklich im Sinne der Grundrechte umzusetzen. Die Fraktion Die Linke betonte, dass es genügend personelle Ressourcen und Fachkompetenz bei allen zuständigen Stellen brauche, die Bundesregierung sich auf EU-Ebene gegen jegliche Verschiebung oder Verwässerung von KI-Regulierung einsetzen müsse und die Datenschutzbehörden in allen Fragen des Datenschutzes eng einbezogen und gehört werden müssten. B. Besonderer Teil Im Folgenden werden lediglich die vom Ausschuss für Digitales und Staatsmodernisierung empfohlenen Änderungen der ursprünglichen Fassung des Gesetzentwurfs erläutert. Soweit der Ausschuss die unveränderte Annahme des Gesetzentwurfs empfiehlt, wird auf die jeweilige Begründung in der Drucksache 21/4594 verwiesen. Zu Nummer 1 Zu Buchstabe a Zu Doppelbuchstabe aa Mit der Ergänzung wird klargestellt, dass die Marktüberwachung von KI-Systemen, die von den Gewerbetreibenden, die Tätigkeiten nach den §§ 34d, 34f, 34h, 34i und 34k der Gewerbeordnung ausüben, in Verkehr gebracht, in Betrieb genommen oder verwendet werden, der Bundesnetzagentur obliegt. Dies ist angezeigt, um den Besonderheiten der Marktüberwachung nach der Verordnung (EU) 2024/1689 Rechnung zu tragen. Zu Doppelbuchstabe bb Entsprechend dem Einvernehmenserfordernis bei Maßnahmen gegenüber den Bundesfinanzbehörden nach Satz 1 hat die Bundesnetzagentur das Einvernehmen mit dem Bundesministerium der Finanzen auch bei Maßnahmen gegenüber der Versorgungsanstalt des Bundes und der Länder (VBL) herbeizuführen. Die VBL ist als vorkonstitutionelle Anstalt des öffentlichen Rechts weder Teil der Bundes- noch der Landesverwaltung und das Bundesministerium der Finanzen führt laut Satzung der VBL die Aufsicht über die VBL, soweit nicht allein der Abrechnungsverband der freiwilligen Versicherung betroffen ist. Diese Regelung ist erforderlich, da die VBL keine Bundesfinanzbehörde nach § 1 des Finanzverwaltungsgesetzes ist, die Bundesnetzagentur aber auch gegenüber der VBL aufgrund der verfassungsrechtlichen Besonderheiten der vorkonstitutionellen Mischverwaltung bei der VBL nicht ohne das Einvernehmen des Bundesministeriums der Finanzen Maßnahmen ergreifen kann. Konkretisierend wird hier für den gesamten § 2 Folgendes klargestellt: Die Aufgaben der nach § 2 festgelegten Marktüberwachungsbehörden umfassen neben der Aufsicht über die Einhaltung der Vorschriften zu verbotenen Praktiken im KI-Bereich (Kapitel II der Verordnung (EU) 2024/1689), zu Hochrisiko-KI-Systemen (Kapitel III der Verordnung (EU) 2024/1689) und zu Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme (Kapitel IV der Verordnung (EU) 2024/1689) auch die Pflichten, die sich im Hinblick auf die Beobachtung nach dem Inverkehrbringen sowie den Informationsaustausch ergeben (Kapitel IX der Verordnung (EU) 2024/1689) einschließlich das Recht auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 der Verordnung (EU) 2024/1689. Zu Doppelbuchstabe cc Die Regelung dient der erleichterten Koordinierung der Zusammenarbeit der von den Ländern nach § 2 Absatz 8 Satz 1 zu benennenden Behörden mit dem Zentrum nach § 5 sowie der zentralen Beschwerdestelle nach § 8. Dabei lehnt sich die Regelung an § 2 Absatz 6 Satz 2 KI-MIG an, wonach es den Ländern frei steht einheitliche Ansprechpartner zu benennen. Zu Buchstabe b Zu Doppelbuchstabe aa Zu Dreifachbuchstabe aaa Die Änderung dient der Anpassung an die Änderungen der Verordnung (EU) 2024/1689 gemäß Artikel 1 Absatz 40 des sogenannten EU-Digital-Omnibus zu KI. Diese Änderungen an der Verordnung (EU) 2024/1689 wurden bereits vom Rat grundsätzlich gebilligt (siehe EU-Dokument 2025/0359 (COD), verfügbar unter: https://data.con- silium.europa.eu/doc/document/ST-9247-2026-INIT/en/pdf). Das Gesetzgebungsverfahren soll noch vor dem 2. August 2026 abgeschlossen werden. Danach wird die zuvor als in Anhang I Abschnitt A Nummer 1 der Verordnung (EU) 2024/1689 aufgeführte Richtlinie 2006/42/EG des Europäischen Parlaments und des Rates vom 17. Mai 2006 über Maschinen und zur Änderung der Richtlinie 95/16/EG (ABl. L 157 vom 9.6.2006, S. 24) durch die inzwischen in Kraft getretene Verordnung (EU) 2023/1230 des Europäischen Parlaments und des Rates vom 14. Juni 2023 über Maschinen und zur Aufhebung der Richtlinie 2006/42/EG des Europäischen Parlaments und des Rates und der Richtlinie 73/361/EWG des Rates (ABl. L 165 vom 29.6.2023, S. 1) ersetzt und in den Anhang I Abschnitt B der Verordnung (EU) 2024/1689 überführt. In der Folge wird zu berücksichtigen sein, dass durch Artikel 3 des EU-Digital-Omnibus zu KI eine Änderung des Artikels 8 der Verordnung (EU) 2023/1230 erfolgt, wonach die Europäische Kommission bis zum 2. August 2028 einen delegierten Rechtsakt zu erlassen hat, um Gesundheits- und Sicherheitsanforderungen für Hochrisiko- KI-Systeme zu ergänzen. Damit ist bereits jetzt erwartbar, dass auch in dem Bereich der Verordnung (EU) 2023/1230 Unterstützungsbedarf für die nach der Verordnung (EU) 2023/1230 zuständigen Behörden durch das Zentrum nach § 5 dieses Gesetzes anfallen wird. Die Unterstützungsangebote des Zentrums sollen somit – wie bislang auf der Basis der unveränderten Verordnung (EU) 2024/1689 vorgesehen – auch diesen Behörden zugänglich sein. Zu den Dreifachbuchstaben bbb und ccc Hier handelt es sich um eine Folgeänderung zu Dreifachbuchstabe ddd. Zu Dreifachbuchstabe ddd Die Ergänzung dient dazu, dem Zentrum nach § 5 eine proaktivere Rolle als zentrale Institution der Koordinierung der Marktüberwachung im Rahmen der Verordnung (EU) 2024/1689 zu geben. Das Zentrum wird hierdurch in die Lage versetzt, nach eigenem Ermessen Schulungen anzubieten sowie allgemeine unverbindliche Prüfempfehlungen bereitzustellen, wenn dies nach eigener Einschätzung der Förderung einheitlicher Auslegungs- und Marktüberwachungsstandards dient oder wenn dies neue technische Entwicklungen sinnvoll erscheinen lassen. Hierzu kann auch die Sensibilisierung für grundrechtsrelevante Risiken von KI-Systemen, einschließlich möglicher diskriminierender Wirkungen, zählen. Zu Doppelbuchstabe bb Die Ergänzung in § 5 Satz 4 konkretisiert, dass das Zentrum zur Erfüllung seiner Aufgabe nach Satz 2 Nummer 2 einen Bund-Länder-Ausschuss im Anwendungsbereich der Verordnung (EU) 2024/1689 (Bund-Länder- Ausschuss Künstliche Intelligenz, BLA-KI) einrichtet, der Mitglied im Deutschen Marktüberwachungsforum nach den §§ 12, 13 des Marktüberwachungsgesetzes wird und das Ziel hat, auf die einheitliche Durchführung der Marktüberwachung nach der Verordnung (EU) 2024/1689 hinzuwirken. Hierfür soll der BLA-KI einen unverbindlichen Austausch insbesondere anhand konkreter Prüffälle ermöglichen. Mitglieder des BLA-KI sind die Marktüberwachungsbehörden nach § 2 Absatz 1 bis 6 und 8 der Verordnung (EU) 2024/1689 sowie die nach Artikel 52 Absatz 2 der Verordnung (EU) 2024/2847 zu benennende Marktüberwachungsbehörde. Zu Buchstabe c Wirtschaftsakteure nach der Verordnung (EU) 2024/1689 sollen die Informationen nutzen können, um Ansprechpartner bei den KI-Marktüberwachungsbehörden und den notifizierenden Behörden kontaktieren zu können. Hierbei steht die Benutzerfreundlichkeit im Vordergrund, so dass auch eine optische Darstellung verwendet werden kann, zum Beispiel eine Zuständigkeitsmatrix. Zu Buchstabe d Die Änderung dient der Anpassung an die Änderungen der Verordnung (EU) 2024/1689 gemäß Artikel 1 Absatz 40 des EU-Digital-Omnibus zu KI (siehe näher die Begründung zu Buchstabe b Doppelbuchstabe aa Dreifachbuchstabe aaa). Danach wird die zuvor als in Anhang I Abschnitt A Nummer 1 der Verordnung (EU) 2024/1689 aufgeführte Richtlinie 2006/42/EG des Europäischen Parlaments und des Rates vom 17. Mai 2006 über Maschinen und zur Änderung der Richtlinie 95/16/EG (ABl. L 157 vom 9.6.2006, S. 24) durch die inzwischen in Kraft getretene Verordnung (EU) 2023/1230 des Europäischen Parlaments und des Rates vom 14. Juni 2023 über Maschinen und zur Aufhebung der Richtlinie 2006/42/EG des Europäischen Parlaments und des Rates und der Richtlinie 73/361/EWG des Rates (ABl. L 165 vom 29.6.2023, S. 1) ersetzt und in den Anhang I Abschnitt B der Verordnung (EU) 2024/1689 überführt. In der Folge wird zu berücksichtigen sein, dass durch Artikel 3 des EU-Digital-Omnibus zu KI eine Änderung des Artikels 8 der Verordnung (EU) 2023/1230 erfolgt, wonach die Europäische Kommission bis zum 2. August 2028 einen Delegierten Rechtsakt zu erlassen hat, um Gesundheits- und Sicherheitsanforderungen für Hochrisiko- KI-Systeme zu ergänzen. Damit ist bereits jetzt erwartbar, dass auch in dem Bereich der Verordnung (EU) 2023/1230 Unterstützungsbedarf für die nach der Verordnung (EU) 2023/1230 zuständigen Behörden durch die Bundesanstalt für Arbeitsschutz und Arbeitsmedizin anfallen wird. Daher sieht diese Änderung die Klarstellung vor, dass die Bundesanstalt für Arbeitsschutz und Arbeitsmedizin trotz der Änderungen durch den EU-Digital- Omnibus zu KI im Umfang des Regierungsentwurfs unterstützen wird. Zu Buchstabe e Mit der Änderung soll sichergestellt werden, dass die zentralen Vorgaben der Zugänglichkeit, Barrierefreiheit und Nutzerfreundlichkeit nicht nur in der Gesetzesbegründung, sondern auch im Gesetzestext selbst verankert werden. Die Vorgaben sollen den Kommunikationsprozess zwischen dem Beschwerdeführer bzw. der Beschwerdeführerin und der Bundesnetzagentur, einschließlich eines etwaigen Weiterleitungsprozesses, umfassen. So soll ein niedrigschwelliger und zugleich wirksamer Zugang für Verbraucher und Verbraucherinnen zum Beschwerdemanagementsystem der Bundesnetzagentur sichergestellt werden, der die Einreichung präziser und angemessen begründeter Beschwerden ermöglicht. Zu Buchstabe f Die Änderung dient der Anpassung an die Änderungen der Verordnung (EU) 2024/1689 gemäß Artikel 1 Absatz 24 des EU-Digital-Omnibus zu KI (siehe näher die Begründung zu Buchstabe b Doppelbuchstabe aa Dreifachbuchstabe aaa). Danach wird die Regelung des Artikels 60 der Verordnung (EU) 2024/1689 auch auf KI-Systeme nach Anhang I Abschnitt A der Verordnung (EU) 2024/1689 erweitert. Zu Buchstabe g Die Regelung dient der Evaluierung, ob sich die durch das Gesetz geschaffene Aufsichts- und Behördenstruktur einschließlich der Kooperationsmechanismen in der Praxis bewährt und eine innovationsfreundliche sowie bürokratiearme Durchführung der Verordnung (EU) 2024/1689 gewährleistet ist. Die vorgesehene Evaluierung nach 18 Monaten soll frühzeitig Erkenntnisse zur praktischen Umsetzung und Zusammenarbeit der zuständigen Behörden ermöglichen. Die umfassende Evaluierung nach drei Jahren dient der Prüfung der Wirksamkeit, Praxistauglichkeit und Ressourcenausstattung der Behördenstruktur unter Einbeziehung der Erfahrungen betroffener Unternehmen und zuständiger Behörden. Zu Buchstabe h Die Vorschrift dient der Umsetzung des Artikels 49 Absatz 5 der Verordnung (EU) 2024/1689 und orientiert sich dabei an der Systematik des Artikels 49 Absatz 1 und 3 der Verordnung (EU) 2024/1689, um eine Einheitlichkeit mit der EU-Datenbank nach Artikel 71 der Verordnung (EU) 2024/1689 sicherzustellen. Zu § 20 Zu Absatz 1 Das Register von Hochrisiko-KI-Systemen nach Anhang III Nummer 2 der Verordnung (EU) 2024/1689 wird bei der Bundesnetzagentur geführt. Zu Absatz 2 Absatz 2 entspricht der Systematik des Artikels 49 Absatz 1 der Verordnung (EU) 2024/1689. Zu Absatz 3 Absatz 3 entspricht der Systematik des Artikels 49 Absatz 3 der Verordnung (EU) 2024/1689. Dabei erfasst die Regelung, mit Blick auf § 2 Absatz 6 dieses Gesetzes und die Kompetenzordnung des Grundgesetzes, insbesondere die Verwendung in der originär hoheitlichen Landesverwaltung nicht. Zu Absatz 4 Absatz 4 regelt die Datenweitergabe zu eng begrenzten Zwecken der Marktüberwachung an andere Behörden, die Marktüberwachungsaufgaben nach § 2 erfüllen insoweit dies für die Erfüllung dieser Aufgaben erforderlich ist. Zudem ist vorgesehen, dass die Bundesnetzagentur zur Erfüllung ihrer Aufgaben Daten an die Kommission sowie an andere nach der Verordnung (EU) 2024/1689 weitergeben kann. Dies stellt sicher, dass die Bundesnetzagentur ihre Kooperationsverpflichtungen aus der Verordnung (EU) 2024/1689 erfüllen kann. Darüber hinaus ist die Weitergabe an Dritte nicht gestattet. Zu Absatz 5 Mit Absatz 5 Satz 1 wird auf der Grundlage von Artikel 6 Absatz 1 Unterabsatz 1 Buchstabe e der Verordnung (EU) 2016/679 eine bereichsspezifische Rechtgrundlage zur Verarbeitung personenbezogener Daten geschaffen. Zu Nummer 2 Es handelt sich um eine rechtsförmliche Korrektur des Änderungsbefehls. Zu Nummer 3 Es handelt sich um eine Ergänzung der Liste der EU-Rechtsakte. Berlin, den 10. Juni 2026 Marvin Schulz Berichterstatter Robin Jünger Berichterstatter Dr. Carolin Wagner Berichterstatterin Rebecca Lenhard Berichterstatterin Sonja Lemke Berichterstatterin Gesamtherstellung: H. Heenemann GmbH & Co. KG, Buch- und Offsetdruckerei, Bessemerstraße 83–91, 12103 Berlin, www.heenemann-druck.de Vertrieb: Bundesanzeiger Verlag GmbH, Postfach 10 05 34, 50445 Köln, Telefon (02 21) 97 66 83 40, Fax (02 21) 97 66 83 44, www.bundesanzeiger-verlag.de ISSN 0722-8333