Entwurf eines Gesetzes zur Durchführung der Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU) Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien 2014/90/EU, (EU) 2016/797 und (EU) 2020/1828 (Gesetz zur Durchführung der Verordnung über künstliche Intelligenz)

Entwurf eines Gesetzes zur Durchführung der Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU) Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien 2014/90/EU, (EU) 2016/797 und (EU) 2020/1828 (Gesetz zur Durchführung der Verordnung über künstliche Intelligenz) [Bundesrat Drucksache 97/26 13.02.26 DS - AV - Fz - In - K - R - Wi Vertrieb: Bundesanzeiger Verlag GmbH, Postfach 10 05 34, 50445 Köln Telefon (02 21) 97 66 83 40, Fax (02 21) 97 66 83 44, www.bundesanzeiger-verlag.de ISSN 0720-2946 Gesetzentwurf der Bundesregierung B R Fu ss Entwurf eines Gesetzes zur Durchführung der Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU) Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien 2014/90/EU, (EU) 2016/797 und (EU) 2020/1828 (Gesetz zur Durchführung der Verordnung über künstliche Intelligenz) A. Problem und Ziel Am 1. August 2024 ist die Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU) Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien 2014/90/EU, (EU) 2016/797 und (EU) 2020/1828 (Verordnung über künstliche Intelligenz) (ABl. L, 2024/1689, 12.07.2024) in Kraft getreten. Die Verordnung (EU) 2024/1689 legt einen einheitlichen Rechtsrahmen für die Entwicklung, das Inverkehrbringen, die Inbetriebnahme und die Verwendung von Systemen künstlicher Intelligenz (KI-Systeme) in der Europäischen Union fest. Dadurch soll ein einheitlicher Binnenmarkt für KI-gestützte Waren und Dienstleistungen geschaffen, Innovationen gefördert und gleichzeitig ein hohes Schutzniveau in Bezug auf Gesundheit, Sicherheit und die in der Charta der Grundrechte der Europäischen Union verankerten Grundrechte, einschließlich Demokratie, Rechtsstaatlichkeit und Umweltschutz, sichergestellt werden. Die Verordnung (EU) 2024/1689 verfolgt dabei einen risikobasierten Ansatz und enthält insbesondere Verbote bestimmter Praktiken im KI-Bereich, besondere Anforderungen an Hochrisiko-KI-Systeme und Pflichten für Akteure in Bezug auf solche Systeme, Transparenzvorschriften für bestimmte KI-Systeme sowie Maßnahmen zur Innovationsförderung mit besonderem Augenmerk auf kleine und mittlere Unternehmen sowie Start-ups. Die Regelungen der Verordnung (EU) 2024/1689 gelten grundsätzlich unmittelbar ab dem 2. August 2026. Zur Durchführung der Verordnung (EU) 2024/1689 muss jeder Mitgliedstaat der Europäischen Union bis zum 2. August 2025 mindestens eine Fristablauf: 27.03.26 besonders eilbedürftige Vorlage gemäß Artikel 76 Absatz 2 Satz 4 GG notifizierende Behörde und mindestens eine Marktüberwachungsbehörde, darunter eine Marktüberwachungsbehörde, die als zentrale Anlaufstelle für die Verordnung (EU) 2024/1689 fungiert, als zuständige nationale Behörden einrichten oder benennen. B. Lösung Der vorliegende Gesetzentwurf dient der Durchführung der Verordnung (EU) 2024/1689. Die Durchführungsgesetzgebung muss von den Mitgliedstaaten der Europäischen Union bis zum 2. August 2025 abgeschlossen werden. Mit Artikel 1 werden die für die Durchführung der Verordnung (EU) 2024/1689 zuständigen Behörden benannt, deren Aufgaben geregelt sowie Kooperationsvorschriften und die erforderlichen Vorschriften für das Bußgeldverfahren erlassen. Mit den Artikeln 2 bis 4 werden einschlägige Gesetze geändert, um sie an die Verordnung (EU) 2024/1689 anzupassen. C. Alternativen Die Durchführung der Verordnung (EU) 2024/1689 ist zwingend. Insoweit gibt es keine Alternativen. Es wurden verschiedene Varianten der Durchführung geprüft, die jedoch nicht vorzugswürdig waren. D. Haushaltsausgaben ohne Erfüllungsaufwand 1. Bundesnetzagentur Aufgrund der Neuregelungen dieses Gesetzes entstehen der Bundesnetzagentur jährliche Personaleinzelkosten für die Wahrnehmung der Fachaufgaben in Höhe von insgesamt 3 678 000 Euro, Sacheinzelkosten in Höhe von 1 137 000 Euro sowie Gemeinkosten in Höhe von 1 416 000 Euro; diese Kosten gelten ab dem Jahr 2026 und sind – vorbehaltlich einer anderweitigen Evaluierung – für die folgenden Jahre gleichbleibend. Nach den Ergebnissen zur Ermittlung und Darstellung des Erfüllungsaufwands sind für die Wahrnehmung der Fachaufgaben insgesamt 33,2 Planstellen erforderlich (23,0 im höheren Dienst (hD), 7,7 im gehobenen Dienst (gD) und 2,5 im mittleren Dienst (mD)), für den Querschnittsbereich werden weitere 9,8 Planstellen benötigt (6,8 hD, 2,3 gD und 0,7 mD). Es entstehen einmalige Sachkosten in Höhe von 3 000 000 Euro und laufende Sachkosten in Höhe von 6 300 000 Euro, insbesondere für den Betrieb und die Weiterentwicklung erforderlicher IT-Verfahren, den Betrieb eines KI-Reallabors und die Schnittstellenbereitstellung zur EU-Datenbank. Die Personal- und Sacheinzelkosten für den Querschnittsbereich sind im Gemeinkostenzuschlag auf die jährlichen Personal- und Sacheinzelkosten für die Fachaufgaben enthalten. Die Berechnungen des personellen Mehrbedarfs sind vor dem Hintergrund der in Abschnitt A Ziffer VIII der Begründung vorgesehenen Evaluierungsklausel zu sehen, die gegebenenfalls eine bedarfsorientierte Nachsteuerung der Kapazitäten notwendig macht. Die Kosten wurden auf Grundlage des Rundschreibens für Wirtschaftlichkeitsuntersuchungen und Kostenberechnungen des Bundesministeriums der Finanzen vom 23. Juni 2025 (Gz.: II A 3 – H 1012/00236/007/015) ermittelt. 2. Bundesanstalt für Finanzdienstleistungsaufsicht Für Kosten, die der Bundesanstalt für Finanzdienstleistungsaufsicht aus ihrer Zuständigkeit nach diesem Gesetzentstehen, gelten die Regelungen des Gesetzes über die Bundesanstalt für Finanzdienstleistungsaufsicht (Finanzdienstleistungsaufsichtsgesetz – FinDAG, siehe Artikel 3). 3. Bundesamt für Sicherheit in der Informationstechnik Aufgrund der Neuregelungen dieses Gesetzes und der damit einhergehenden Übertragung neuer Aufgaben entstehen bei dem Bundesamt für Sicherheit in der Informationstechnik zusätzliche Personalkosten. Für die Wahrnehmung der neuen Fachaufgaben sind 13 Stellen / Planstellen (11 hD, 1 gD, 1 mD) erforderlich. Hieraus resultieren voraussichtliche jährliche Personalkosten in Höhe von 1 511 000 Euro, Sacheinzelkosten in Höhe von 445 000 Euro sowie Gemeinkosten in Höhe von 575 000 Euro. 4. Zentrale Stelle für Informationstechnik im Sicherheitsbereich Aufgrund der Neuregelungen dieses Gesetzes und der damit einhergehenden Übertragung neuer Aufgaben entstehen bei der Zentralen Stelle für Informationstechnik im Sicherheitsbereich zusätzliche Personalkosten. Für die Wahrnehmung der neuen Fachaufgaben sind insgesamt 8 Planstellen (5 hD, 3 gD) erforderlich. Hieraus resultieren voraussichtliche jährliche Personalkosten in Höhe von 872 000 Euro, Sacheinzelkosten in Höhe von 274 000 Euro sowie Gemeinkosten in Höhe von 337 000 Euro. Hinzu kommen einmalige Sachkosten in Höhe von 850 000 Euro. Der einmalige Sachaufwand ist erforderlich für die Beschaffung von technischer Ausstattung (z.B. leistungsfähiger Workstations) einschließlich spezialisierter Analyse- und Dokumentationswerkzeuge. 5. Bundesbeauftragte für den Datenschutz und die Informationsfreiheit Aufgrund der Neuregelungen dieses Gesetzes und der damit einhergehenden Übertragung neuer Aufgaben entstehen der Bundesbeauftragten für den Datenschutz und die Informationsfreiheit zusätzliche Personalkosten in Höhe von 1 033 000 Euro. Diese setzen sich aus Personaleinzelkosten in Höhe von 596 000 Euro, Sacheinzelkosten in Höhe von 158 000 Euro sowie Gemeinkosten in Höhe von 279 000 Euro zusammen. Die Kosten gelten ab dem Jahr 2026 und sind – vorbehaltlich einer anderweitigen Evaluierung - für die folgenden Jahre gleichbleibend. 6. Bundesanstalt für Arbeitsschutz und Arbeitsmedizin Aufgrund der Neuregelungen dieses Gesetzes und der damit einhergehenden Übertragung neuer Aufgaben nach § 7 Absatz 1 und 2 entstehen bei der Bundesanstalt für Arbeitsschutz und Arbeitsmedizin zusätzliche Personalkosten. Für die Wahrnehmung der neuen Fachaufgaben sind nach den Ergebnissen zur Ermittlung und Darstellung des Erfüllungsaufwands insgesamt 5 Planstellen (1 hD, 4 gD) erforderlich. Hieraus resultieren voraussichtliche jährliche Personalgesamtkosten in Höhe von 773 052 Euro und Sachgesamtkosten in Höhe von 221 598 Euro. Daraus ergeben sich Gesamtkosten in Höhe von 994 649 Euro. Diese Kosten gelten ab dem Jahr 2027 und sind – vorbehaltlich einer anderweitigen Evaluierung – für die folgenden Jahre gleichbleibend. 7. Kostentragung Der stellenmäßige Mehrbedarf in dem unter der Fachaufsicht des Bundesministeriums für Digitales und Staatsmodernisierung (BMDS) stehenden Bereich der Bundesnetzagentur soll im Einzelplan des zuständigen Ressorts ausgeglichen werden. Der finanzielle Mehrbedarf soll im Einzelplan 24 des BMDS ausgeglichen werden. Im Übrigen soll der hier durch die Durchführung der Verordnung (EU) 2024/1689 entstehende Mehrbedarf an Sach- und Personalmitteln im Bereich des Bundes finanziell und stellenmäßig im jeweils betreffenden Einzelplan ausgeglichen werden. Über die Einzelheiten wird im Rahmen der jeweiligen Haushaltsaufstellungsverfahren der kommenden Jahre entschieden. E. Erfüllungsaufwand Verpflichtungen für die Wirtschaft sowie für die Bürgerinnen und Bürger ergeben sich aus der unmittelbar geltenden Verordnung (EU) 2024/1689. Mit diesem Durchführungsgesetz werden für sie daher keine neuen Verpflichtungen geschaffen. Erfüllungsaufwand auf Grund dieses Entwurfs entsteht daher weder für die Wirtschaft noch für die Bürgerinnen und Bürger. E.1 Erfüllungsaufwand für Bürgerinnen und Bürger Keiner. E.2 Erfüllungsaufwand für Wirtschaft Keiner. E.3 Erfüllungsaufwand für Verwaltung Für die Verwaltung erhöht sich der jährliche Erfüllungsaufwand um rund 48 997 000 Euro. Der einmalige Erfüllungsaufwand beträgt rund 4 076 000 Euro. Davon entfallen 15 898 000 Euro an jährlichem Erfüllungsaufwand auf den Bund und 33 099 000 Euro auf die Länder (inkl. Kommunen). An einmaligem Erfüllungsaufwand entfallen 4 048 000 Euro auf den Bund und 28 000 Euro auf die Länder (inkl. Kommunen). F. Weitere Kosten Keine. Bundesrat Drucksache 97/26 13.02.26 DS - AV - Fz - In - K - R - Wi Gesetzentwurf der Bundesregierung B R Fu ss Entwurf eines Gesetzes zur Durchführung der Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU) Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien 2014/90/EU, (EU) 2016/797 und (EU) 2020/1828 (Gesetz zur Durchführung der Verordnung über künstliche Intelligenz) Bundesrepublik Deutschland Berlin, 13. Februar 2026 Der Bundeskanzler An den Präsidenten des Bundesrates Herrn Bürgermeister Dr. Andreas Bovenschulte Sehr geehrter Herr Bundesratspräsident, hiermit übersende ich gemäß Artikel 76 Absatz 2 Satz 4 des Grundgesetzes den von der Bundesregierung beschlossenen Entwurf eines Gesetzes zur Durchführung der Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU) Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien 2014/90/EU, (EU) 2016/797 und (EU) 2020/1828 (Gesetz zur Durchführung der Verordnung über künstliche Intelligenz) mit Begründung und Vorblatt. Fristablauf: 27.03.26 besonders eilbedürftige Vorlage gemäß Artikel 76 Absatz 2 Satz 4 GG Der Gesetzentwurf ist besonders eilbedürftig, weil die Bundesrepublik Deutschland die KI-Verordnung bis zum 2. August 2025 durchführen musste. Es droht die Einleitung eines Vertragsverletzungsverfahrens und die von der KI-Verordnung betroffenen Unternehmen und öffentlichen Stellen sind bei der Erfüllung ihrer Rechtsverpflichtungen auf die Benennung der zuständigen Behörde angewiesen. Federführend ist das Bundesministerium für Digitales und Staatsmodernisierung. Die Stellungnahme des Nationalen Normenkontrollrates gemäß § 6 Absatz 1 NKRG ist als Anlage beigefügt. Mit freundlichen Grüßen Friedrich Merz Entwurf eines Gesetzes zur Durchführung der Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU) Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien 2014/90/EU, (EU) 2016/797 und (EU) 2020/1828 (Gesetz zur Durchführung der Verordnung über künstliche Intelligenz) Vom ... Der Bundestag hat das folgende Gesetz beschlossen: Artikel 1 Gesetz zur Marktüberwachung und Innovationsförderung von künstlicher Intelligenz (KI-Marktüberwachungs-und- Innovationsförderungs-Gesetz – KI-MIG) T e i l 1 A l l g e m e i n e V o r s c h r i f t e n § 1 Anwendungsbereich Dieses Gesetz dient der Durchführung der Verordnung (EU) 2024/1689. Es gilt für KI- Systeme im Sinne des Artikels 3 Nummer 1 der Verordnung (EU) 2024/1689 und regelt ergänzend zu den in der Verordnung enthaltenen Bestimmungen die zuständigen Behörden gemäß Artikel 70 Absatz 1 Satz 1 der Verordnung (EU) 2024/1689, Maßnahmen zur Innovationsförderung sowie Bußgelder bei Verstößen gegen die Vorschriften der Verordnung gemäß Artikel 99 Absatz 1 Satz 1 der Verordnung (EU) 2024/1689. T e i l 2 Z u s t ä n d i g e B e h ö r d e n u n d Z u s a m m e n a r b e i t A b s c h n i t t 1 Z u s t ä n d i g e S t e l l e n § 2 Zuständige Marktüberwachungsbehörden (1) Die Bundesnetzagentur ist die für die Einhaltung der Verordnung (EU) 2024/1689 zuständige Marktüberwachungsbehörde, soweit in diesem Gesetz nichts anderes bestimmt ist. (2) Die Behörden, die durch Bundes- oder Landesrecht zu Marküberwachungsbehörden zur Ausführung der in Anhang I Abschnitt A der Verordnung (EU) 2024/1689 genannten Harmonisierungsrechtsvorschriften bestimmt wurden, nehmen auch die Aufgaben als zuständige Marktüberwachungsbehörden gemäß der Verordnung (EU) 2024/1689 wahr, wenn KI-Systeme betroffen sind, die mit solchen Produkten in Zusammenhang stehen, auf die die im Anhang I Abschnitt A genannten Vorschriften anzuwenden sind. (3) Die Bundesanstalt für Finanzdienstleistungsaufsicht ist die zuständige Marktüberwachungsbehörde für in direktem Zusammenhang mit einer regulierten Finanztätigkeit stehende KI-Systeme, die durch folgende, von der Bundesanstalt für Finanzdienstleistungsaufsicht beaufsichtigte Unternehmen in Verkehr gebracht, in Betrieb genommen oder verwendet werden: 1. Institute nach § 1 Absatz 1b des Kreditwesengesetzes in der Fassung der Bekanntmachung vom 9. September 1998 (BGBl. I S. 2776), das zuletzt durch Artikel 9 des Gesetzes vom 28. Februar 2025 (BGBl. 2025 I Nr. 69) geändert worden ist, 2. Emittenten vermögenswertereferenzierter Token nach Artikel 3 Absatz 1 Nummer 6 der Durchführungsverordnung (EU) 2023/1114, 3. Anbieter von Kryptowerte-Dienstleistungen nach Artikel 3 Absatz 1 Nummer 15 der Verordnung (EU) 2023/1114, 4. Investmentholdinggesellschaften nach § 2 Absatz 27 des Wertpapierinstitutsgesetzes vom 12. Mai 2021 (BGBl. I S. 990), das zuletzt durch Artikel 5 des Gesetzes vom 27. Dezember 2024 (BGBl. 2024 I Nr. 438) geändert worden ist, 5. Finanzholdinggesellschaften nach § 1 Absatz 35 des Kreditwesengesetzes in Verbindung mit Artikel 4 Absatz 1 Nummer 20 der Verordnung (EU) Nr. 575/2013, 6. gemischte Finanzholdinggesellschaften nach § 1 Absatz 35 des Kreditwesengesetzes in Verbindung mit Artikel 4 Absatz 1 Nummer 21 der Verordnung (EU) Nr. 575/2013, 7. Kreditdienstleistungsinstitute im Sinne des § 2 Absatz 2 des Kreditzweitmarktgesetzes vom 22. Dezember 2023 (BGBl. 2023 I Nr. 411, S. 2), 8. Zahlungsinstitute im Sinne des § 1 Absatz 1 Satz 1 Nummer 1 des Zahlungsdiensteaufsichtsgesetzes vom 17. Juli 2017 (BGBl. I S. 2446; 2019 I S. 1113), das zuletzt durch Artikel 11 des Gesetzes vom 28. Februar 2025 (BGBl. 2025 I Nr. 69) geändert worden ist, 9. E-Geld-Institute im Sinne des § 1 Absatz 2 Satz 1 Nummer 1 des Zahlungsdiensteaufsichtsgesetzes, 10. Wertpapierinstitute im Sinne des § 2 Absatz 1 des Wertpapierinstitutsgesetzes, 11. Datenbereitstellungsdienste im Sinne des § 1 Absatz 3a des Kreditwesengesetzes, 12. Schwarmfinanzierungsdienstleister im Sinne des Artikels 2 Absatz 1 Buchstabe e der Verordnung (EU) 2020/1503), 13. zentrale Gegenparteien im Sinne des § 1 Absatz 31 des Kreditwesengesetzes, 14. Zentralverwahrer im Sinne des § 1 Absatz 6 des Kreditwesengesetzes, 15. Verwaltungsgesellschaften im Sinne des § 1 Absatz 14 des Kapitalanlagegesetzbuchs vom 4. Juli 2013 (BGBl. I S. 1981), das zuletzt durch Artikel 6 des Gesetzes vom 27. Dezember 2024 (BGBl. 2024 I Nr. 438) geändert worden ist, 16. Versicherungsunternehmen im Sinne des § 7 Nummer 33 und 34 des Versicherungsaufsichtsgesetzes vom 1. April 2015 (BGBl. I S. 434), das zuletzt durch Artikel 11 des Gesetzes vom 27. Dezember 2024 (BGBl. 2024 I Nr. 438) geändert worden ist, 17. Pensionsfonds im Sinne des § 236 Absatz 1 Satz 1 des Versicherungsaufsichtsgesetzes, 18. separate Abrechnungsverbände der öffentlich-rechtlichen Versorgungseinrichtungen, die im Wege der freiwilligen Versicherung Leistungen der Altersvorsorge anbieten, gemäß § 2 Absatz 1 des Versicherungsaufsichtsgesetzes, 19. Versicherungs-Holdinggesellschaften im Sinne des § 7 Nummer 31 des Versicherungsaufsichtsgesetzes sowie Unternehmen im Sinne des § 293 Absatz 4 des Versicherungsaufsichtsgesetzes, 20. gemischte Versicherungs-Holdinggesellschaften im Sinne des § 7 Nummer 11 des Versicherungsaufsichtsgesetzes, 21. gemischte Finanzholding-Gesellschaften im Sinne des § 7 Nummer 10 des Versicherungsaufsichtsgesetzes, 22. Versicherungs-Zweckgesellschaften im Sinne des § 168 Absatz 1 Satz 1 des Versicherungsaufsichtsgesetzes, 23. Sicherungsfonds gemäß § 223 Absatz 1 Satz 1 des Versicherungsaufsichtsgesetzes sowie juristische Personen des Privatrechts, denen Aufgaben und Befugnisse eines oder beider Sicherungsfonds gemäß § 224 des Versicherungsaufsichtsgesetzes übertragen worden sind, 24. den Pensions-Sicherungs-Verein Versicherungsverein auf Gegenseitigkeit im Sinne des § 14 Absatz 1 des Betriebsrentengesetzes vom 19. Dezember 1974 (BGBl. I S. 3610), das zuletzt durch Artikel 14 des Gesetzes vom 20. Dezember 2022 (BGBl. I S. 2759) geändert worden ist, oder 25. Niederlassungen von Einrichtungen der betrieblichen Altersversorgung im Sinne des Artikels 6 Nummer 1 der Richtlinie (EU) 2016/2341), die ihren Sitz in einem Drittstaat haben. In den Fällen, in denen die Europäische Zentralbank zuständige Aufsichtsbehörde gemäß Artikel 4 Absatz 1 Buchstabe a bis i der Verordnung (EU) Nr. 1024/2013 für ein in der Bundesrepublik Deutschland niedergelassenes Kreditinstitut oder gemäß Artikel 4 Absatz 2 der Verordnung (EU) Nr. 1024/2013 für eine in der Bundesrepublik errichtete Zweigstelle ist, ist die Bundesanstalt für Finanzdienstleistungsaufsicht zuständige Marktüberwachungsbehörde gemäß der Verordnung (EU) 2024/1689 für in direktem Zusammenhang mit einer regulierten Finanztätigkeit stehende KI-Systeme. Die Bundesanstalt für Finanzdienstleistungsaufsicht ist unter den Voraussetzungen des Satzes 1 auch zuständige Marktüberwachungsbehörde für in direktem Zusammenhang mit einer regulierten Finanztätigkeit stehende KI-Systeme, soweit die Zuständigkeit für die Beaufsichtigung gemäß Artikel 43 Absatz 7 oder Artikel 44 Absatz 4 der Verordnung (EU) 2023/1114 in Bezug auf den Emittenten eines signifikanten vermögenswertereferenzierten Tokens auf die Europäische Bankenaufsichtsbehörde übertragen ist und der Emittent weiterhin im Inland geschäftsansässig ist. Zudem ist die Bundesanstalt für Finanzdienstleistungsaufsicht zuständige Marktüberwachungsbehörde für in direktem Zusammenhang mit einer regulierten Finanztätigkeit stehende Hochrisiko-KI-Systeme der Versorgungsanstalt des Bundes und der Länder. (4) Steht das Inverkehrbringen, die Inbetriebnahme oder die Verwendung eines KI- Systems in direktem Zusammenhang mit einer regulierten Finanztätigkeit, welche von einem Finanzinstitut erbracht wird, das nicht von der Bundesanstalt für Finanzdienstleistungsaufsicht nach Absatz 3 überwacht wird, so obliegt die Marktüberwachung derjenigen Aufsichtsbehörde, die gemäß Gesetz oder aufgrund entsprechender Vereinbarung zwischen ihr und der Bundesanstalt für Finanzdienstleistungsaufsicht zuständige Finanzaufsichtsbehörde ist. (5) Vorbehaltlich des Absatzes 6 wird bei der Bundesnetzagentur gemäß § 4 eine unabhängige KI-Marktüberwachungskammer zur Marktüberwachung der folgenden KI- Systeme eingerichtet: 1. Hochrisiko-KI-Systeme nach Artikel 6 Absatz 2 in Verbindung mit Anhang III Nummer 1 der Verordnung (EU) 2024/1689, sofern sie für Strafverfolgungszwecke, Grenzmanagement und Justiz und Demokratie eingesetzt werden, sowie 2. Hochrisiko-KI-Systeme nach Artikel 6 Absatz 2 in Verbindung mit Anhang III Nummer 6, 7 und 8 der Verordnung (EU) 2024/1689. (6) Für die Fälle, in denen öffentliche Stellen der Länder im Sinne des § 2 Absatz 2 und 3 des Bundesdatenschutzgesetzes KI-Systeme in Verkehr bringen, in Betrieb nehmen oder verwenden, obliegt die Marktüberwachung den nach Landesrecht zuständigen Behörden. Für die Koordinierung der Zusammenarbeit durch das Koordinierungs- und Kompetenzzentrum nach § 5 Satz 2 Nummer 2 und die zentrale Beschwerdestelle nach § 8 können die Länder einheitliche Ansprechpartner benennen. (7) Sieht die Bundesnetzagentur Grund zur Annahme, dass eine Bundesfinanzbehörde nach § 1 des Finanzverwaltungsgesetzes, die KI-Systeme bei der Verwaltung von Abgabenangelegenheiten in Verkehr bringt, in Betrieb nimmt oder verwendet, gegen die Verordnung (EU) 2024/1689 verstößt, darf sie ihre Durchsetzungsbefugnisse nur im Einvernehmen mit dem Bundesministerium der Finanzen ausüben. Für die Erteilung des Einvernehmens kann sie dem Bundesministerium der Finanzen eine angemessene Frist setzen. Wird bis zum Ablauf dieser Frist kein Einvernehmen erzielt, geht die Zuständigkeit für die Marktüberwachung bezüglich dieses Sachverhalts von der Bundesnetzagentur auf das Bundesministerium der Finanzen über. (8) Für die Fälle, in denen Mediendienstanbieter im Sinne des Artikels 2 Nummer 2 der Verordnung (EU) 2024/1083 KI-Systeme bei der Veranstaltung, dem Angebot, der Verbreitung und der Zugänglichmachung von Mediendiensten zu journalistischen Zwecken oder zu Werbezwecken in Verkehr bringen, in Betrieb nehmen oder verwenden, obliegt die Marktüberwachung den nach Landesrecht zuständigen Behörden. Bei der Deutschen Welle richtet sich die Aufsicht über die Einhaltung der Verordnung (EU) 2024/1689 in dem in Satz 1 benannten Bereich abweichend von Satz 1 nach dem Deutsche-Welle-Gesetz sowie den aufsichtsrechtlichen Bestimmungen der Deutschen Welle. (9) Die nach den Absätzen 1 bis 7 zuständigen Behörden können Sachverständige des wissenschaftlichen Gremiums (Artikel 68 der Verordnung (EU) 2024/1689) gemäß Artikel 69 der Verordnung (EU) 2024/1689 hinzuziehen. § 3 Zuständige Behörden für die Notifizierung und Akkreditierung von Konformitätsbewertungsstellen (1) Die Behörden, die durch Bundes- oder Landesrecht zu notifizierenden Behörden zur Ausführung der in Anhang I Abschnitt A der Verordnung (EU) 2024/1689 genannten Harmonisierungsrechtsvorschriften bestimmt wurden, nehmen auch die Aufgaben als zuständige notifizierende Behörden gemäß Artikel 28 Absatz 1 der Verordnung (EU) 2024/1689 wahr, wenn KI-Systeme betroffen sind, die mit solchen Produkten in Zusammenhang stehen, auf die die im Anhang I Abschnitt A genannten Vorschriften anzuwenden sind. Für KI-Systeme, die mit solchen Produkten in Zusammenhang stehen, auf die die Verordnung (EU) 2016/424 anzuwenden ist, bestimmen die Länder die zuständigen notifizierenden Behörden. (2) Für die Hochrisiko-KI-Systeme nach Artikel 6 Absatz 2 in Verbindung mit Anhang III Nummer 1 der Verordnung (EU) 2024/1689 ist die Marktüberwachungsbehörde, die nach Artikel 52 Absatz 2 der Verordnung (EU) 2024/2847 zu benennen ist, die gemäß Artikel 28 Absatz 1 der Verordnung (EU) 2024/1689 zuständige notifizierende Behörde. Bis zur Benennung der Marktüberwachungsbehörde nach Artikel 52 Absatz 2 der Verordnung (EU) 2024/2847 nimmt das Bundesamt für Sicherheit in der Informationstechnik die in Satz 1 genannte Aufgabe wahr. (3) Hat die notifizierende Behörde nach Absatz 1 oder 2 festgestellt, dass eine Konformitätsbewertungsstelle die Anforderungen nach Artikel 31 der Verordnung (EU) 2024/1689 erfüllt, so erteilt sie dieser die Befugnis, Konformitätsbewertungen nach Artikel 3 Nummer 20 der Verordnung (EU) 2024/1689 vorzunehmen und notifiziert diese nach Artikel 30 Absatz 2 der Verordnung (EU) 2024/1689 der Kommission und den übrigen Mitgliedstaaten. Die Befugnis kann unter Bedingungen oder Auflagen erteilt werden. Sie kann befristet und mit dem Vorbehalt des Widerrufs sowie dem Vorbehalt nachträglicher Auflagen erteilt werden. Sie ist unter der aufschiebenden Bedingung zu erteilen, dass weder die Europäische Kommission noch die anderen Mitgliedstaaten der Europäischen Union Einwände gegen die Notifizierung erheben. (4) Die Bewertung und Überwachung von Konformitätsbewertungsstellen gemäß Artikel 3 Nummer 21 der Verordnung (EU) 2024/1689, die ihren Sitz in Deutschland haben, obliegt den jeweiligen Stellen, die diese Aufgabe bereits im Rahmen der in Anhang I Abschnitt A der Verordnung (EU) 2024/1689 genannten Harmonisierungsvorschriften der Europäischen Union wahrnehmen. Die Bewertung und Überwachung von Konformitätsbewertungsstellen gemäß Artikel 3 Nummer 21 der Verordnung (EU) 2024/1689, die ihren Sitz in Deutschland haben und Konformitätsbewertungen für die in Anhang III Nummer 1 der Verordnung (EU) 2024/1689 genannten Hochrisiko-KI-Systeme durchführen, obliegt abweichend von Satz 1 der Deutschen Akkreditierungsstelle. (5) Die nach den Absätzen 1, 2 und 4 zuständigen Behörden und die Deutsche Akkreditierungsstelle können Sachverständige des wissenschaftlichen Gremiums (Artikel 68 der Verordnung (EU) 2024/1689) gemäß Artikel 69 der Verordnung (EU) 2024/1689 hinzuziehen. § 4 KI-Marktüberwachungskammer (1) Die KI-Marktüberwachungskammer hat drei Mitglieder. Den Vorsitz der Kammer führt der Präsident beziehungsweise die Präsidentin der Bundesnetzagentur. Die Vizepräsidenten beziehungsweise -präsidentinnen der Bundesnetzagentur sind beisitzende Mitglieder. Die Entscheidungen der KI-Marktüberwachungskammer werden mit einfacher Mehrheit der Mitglieder getroffen. Bei Stimmengleichheit entscheidet die Stimme des Vorsitzenden beziehungsweise der Vorsitzenden. (2) Die KI-Marktüberwachungskammer wird durch eine Geschäftsstelle unterstützt. Sie kann zur Erfüllung ihrer Aufgaben über Personen- und Sachmittel der Bundesnetzagentur verfügen. Die Mitarbeitenden der Bundesnetzagentur unterstehen während ihrer Tätigkeit für die KI-Marktüberwachungskammer ausschließlich den Mitgliedern der KI- Marktüberwachungskammer. (3) Die KI-Marktüberwachungskammer handelt völlig unabhängig. Sie unterliegt weder direkter noch indirekter Beeinflussung von außen und ersucht weder um Weisungen noch nimmt sie Weisungen entgegen. (4) Die KI-Marktüberwachungskammer legt dem Bundestag jährlich einen Tätigkeitsbericht vor. Der Bericht ist erstmals für das Jahr 2026 zu erstellen und dem Bundestag jeweils zum 31. März des dem Berichtsjahr folgenden Jahres zu übermitteln. (5) Die Aufgaben der KI-Marktüberwachungskammer erstrecken sich nicht auf die Überprüfung der in Artikel 5 Absatz 2 und 3 und Artikel 26 Absatz 10 der Verordnung (EU) 2024/168 geregelten formellen und materiellen Anforderungen an die Anordnung des Einsatzes von Hochrisiko-KI-Systemen sowie an den Einsatz dieser Systeme im Einzelfall. § 5 Koordinierungs- und Kompetenzzentrum für die Durchführung der Verordnung (EU) 2024/1689 Bei der Bundesnetzagentur wird ein zentrales Koordinierungs- und Kompetenzzentrum für die Verordnung (EU) 2024/1689 eingerichtet. Das Zentrum hat die Aufgabe, 1. die nach diesem Gesetz zuständigen Marktüberwachungsbehörden, notifizierenden Behörden und die Deutsche Akkreditierungsstelle bei komplexen Entscheidungen im Anwendungsbereich der Verordnung (EU) 2024/1689 mit Sachverstand auf Anfrage zu unterstützen, 2. die Zusammenarbeit der nach diesem Gesetz zuständigen Behörden untereinander und mit sonstigen, in ihrem Zuständigkeitsbereich betroffenen Behörden zu koordinieren und darauf hinzuwirken, dass die horizontalen Rechtsfragen einheitlich beantwortet werden, 3. die Aufstellung von Verhaltenskodizes im Sinne des Artikels 95 Absatz 2 der Verordnung (EU) 2024/1689 zu erleichtern, sowie 4. eine angemessene, transparente und regelmäßige Einbeziehung der Zivilgesellschaft, der Gewerkschaften, der Wirtschaft und der Wissenschaft und Forschung sowie der Länder sicherzustellen. Für die Erfüllung seiner Aufgaben nach Satz 2 Nummer 1 bis 3 kann das Zentrum im Einzelfall in ihrer Zuständigkeit betroffene Bundesbehörden einbinden und externen Sachverstand hinzuziehen. Für die Erfüllung seiner Aufgabe nach Satz 2 Nummer 2 kann das Zentrum geeignete Ausschüsse, insbesondere bestehend aus Vertretern der zuständigen Behörden, einrichten. § 6 Zentrale Anlaufstelle (1) Zentrale Anlaufstelle im Sinne des Artikels 70 Absatz 2 Satz 3 der Verordnung (EU) 2024/1689 ist die Bundesnetzagentur. (2) Die Marktüberwachungsbehörden und die notifizierenden Behörden stellen der zentralen Anlaufstelle Informationen über ihre Aufgaben und ihre elektronische Kontaktadresse sowie die Kontaktdaten einer Ansprechperson und einer diese vertretende Person zur Verfügung. Die Marktüberwachungsbehörden und die notifizierenden Behörden informieren die zentrale Anlaufstelle unverzüglich über Änderungen zu diesen Informationen. (3) Die zentrale Anlaufstelle gibt die elektronischen Kontaktadressen nach Absatz 2 sowie ihre eigene elektronische Kontaktadresse öffentlich bekannt. Die zentrale Anlaufstelle teilt der Europäischen Kommission die Namen und die Aufgaben der Marktüberwachungsbehörden und der notifizierenden Behörden, die in Satz 1 genannten elektronischen Kontaktadressen sowie alle späteren Änderungen dieser Kontaktadressen mit. (4) Die zentrale Anlaufstelle nimmt Eingaben des nach Artikel 64 der Verordnung (EU) 2024/1689 eingerichteten Büros für Künstliche Intelligenz, der Öffentlichkeit und anderer Ansprechpartner auf Ebene der Mitgliedstaaten der Europäischen Union und der Europäischen Union selbst entgegen und leitet diese an die zuständigen nationalen Stellen weiter. (5) Soweit in diesem Gesetz nichts anderes bestimmt ist, erfüllen die nach den §§ 2 und 3 zuständigen Behörden die aus der Verordnung (EU) 2024/1689 resultierenden Berichtspflichten über die zentrale Anlaufstelle, indem sie dieser die zur Erfüllung der jeweiligen Berichtspflicht jeweils erforderlichen Dokumente in elektronischer Form zur Verfügung stellen. Die zentrale Anlaufstelle stellt den zuständigen Behörden dafür Formulare in elektronischer Form zur Verfügung, die zu verwenden sind. Satz 1 gilt nicht für die Berichtspflicht gemäß Artikel 70 Absatz 6 der Verordnung (EU) 2024/1689, für deren Erfüllung das Bundesministerium für Digitales und Staatsmodernisierung zuständig ist. Die Bundesanstalt für Finanzdienstleistungsaufsicht kann ihre Berichtspflichten nach der Verordnung (EU) 2024/1689 abweichend von Satz 1 direkt gegenüber den anderen Mitgliedstaaten und den Institutionen der Europäischen Union erfüllen, soweit rechtliche Gründe einer Erfüllung durch die zentrale Anlaufstelle entgegenstehen. § 7 Unterrichtung bei Nichtkonformität oder Risiken eines KI-Systems (1) Die Unterrichtung der Europäischen Kommission und anderer Mitgliedstaaten der Europäischen Union bei einer nicht auf Deutschland beschränkten Nichtkonformität eines KI- Systems nach Artikel 79 Absatz 3, 5 Satz 2 und Absatz 7 sowie nach Artikel 81 Absatz 2 Satz 1 und 2 der Verordnung (EU) 2024/1689 hat die zuständige Marktüberwachungsbehörde unverzüglich über die Bundesanstalt für Arbeitsschutz und Arbeitsmedizin vorzunehmen. (2) Die Unterrichtung bei Risiken trotz Konformität eines KI-Systems nach Artikel 82 Absatz 3 der Verordnung (EU) 2024/1689 hat die zuständige Marktüberwachungsbehörde unverzüglich über die Bundesanstalt für Arbeitsschutz und Arbeitsmedizin vorzunehmen. (3) Die Bundesanstalt für Arbeitsschutz und Arbeitsmedizin unterstützt im Rahmen ihrer Aufgaben die Marktüberwachung von KI-Systemen, die in ein Produkt gemäß einer der Rechtsakte der Europäischen Union nach Anhang I, Abschnitt A, Nummer 1, 4, 5, 7, 9 oder 10 der Verordnung (EU) 2024/1689 integriert sind, insbesondere mit evidenzbasiertem Spezialwissen für Betreiber, Anbieter und Normungsgremien. § 8 Zentrale Beschwerdestelle (1) Beschwerden wegen eines Verstoßes gegen die Verordnung (EU) 2024/1689 können unbeschadet der Vorgaben des Artikels 85 der Verordnung (EU) 2024/1689 bei der Bundesnetzagentur als zentraler Beschwerdestelle eingereicht werden. (2) Die zentrale Beschwerdestelle leitet Beschwerden wie folgt weiter: 1. eine Beschwerde, die in die Zuständigkeit einer Marktüberwachungsbehörde nach § 2 Absatz 2 bis 8 fällt, an die zuständige Behörde oder den zuständigen einheitlichen Ansprechpartner oder 2. eine Beschwerde, die auch in die Zuständigkeit einer Behörde oder öffentlichen Stelle nach Artikel 77 Absatz 1 der Verordnung (EU) 2024/1689 fällt, an diese Behörde beziehungsweise Stelle. Unbeschadet der Informationspflichten zu personenbezogenen Daten nach der Verordnung (EU) 2016/679 ist der Beschwerdeführer im Fall des Satzes 1 Nummer 1 von der zentralen Beschwerdestelle darüber zu informieren, welche Behörde nach § 2 Absatz 2 bis 8 für seine Beschwerde zuständig ist und dass die Beschwerde an diese Behörde oder den zuständigen einheitlichen Ansprechpartner abgegeben wurde. (3) Zur Erfüllung ihrer Aufgaben als zentrale Beschwerdestelle richtet die Bundesnetzagentur ein Beschwerdemanagementsystem gemäß den Anforderungen der Barrierefreie-Informationstechnik-Verordnung ein. (4) Wird eine Beschwerde wegen eines Verstoßes gegen die Verordnung (EU) 2024/1689 bei einer Marktüberwachungsbehörde nach § 2 Absatz 2 bis 8 eingereicht, so leitet diese die Beschwerde an die Bundesnetzagentur weiter, sofern sie nicht in die eigene Zuständigkeit fällt. Andernfalls stellt die Marktüberwachungsbehörde der Bundesnetzagentur in Textform eine Kopie der Beschwerde zur Verfügung. A b s c h n i t t 2 Z u s a m m e n a r b e i t § 9 Zusammenarbeit der zuständigen Behörden (1) Die Marktüberwachungsbehörden und die notifizierenden Behörden arbeiten zur Erfüllung ihrer Aufgaben im Rahmen ihrer jeweiligen Zuständigkeiten kooperativ und vertrauensvoll zusammen. Sie teilen einander Beobachtungen und Feststellungen mit, die für die Erfüllung ihrer jeweiligen Aufgaben von Bedeutung sein können. (2) Soweit ihre jeweiligen Zuständigkeiten bei konkreten Marktüberwachungstätigkeiten oder bei Prüfungen und Maßnahmen gemäß Artikel 79 der Verordnung (EU) 2024/1689 betroffen sind, informieren sich die Marktüberwachungsbehörden, die Behörden und öffentlichen Stellen nach Artikel 77 Absatz 1 der Verordnung (EU) 2024/1689 und die sonstigen Behörden gegenseitig über Maßnahmen, die sie zu ergreifen beabsichtigen. Im Rahmen der Durchführung von Maßnahmen teilen sie einander Beobachtungen und Feststellungen mit, die sie für die Erfüllung ihrer jeweiligen Aufgaben nach diesem Gesetz oder der Verordnung (EU) 2024/1689 benötigen. (3) Kommen die Marktüberwachungsbehörden zu dem Ergebnis, dass öffentliche Stellen im Sinne des § 2 Absatz 1 und 2 des Bundesdatenschutzgesetzes, gegen die Verordnung (EU) 2024/1689 verstoßen, so ist dies der für die jeweilige öffentliche Stelle zuständigen Rechts- oder Fachaufsichtsbehörde mitzuteilen und dieser vor Durchführung von Maßnahmen gegenüber der öffentlichen Stelle Gelegenheit zur Stellungnahme innerhalb einer angemessenen Frist einzuräumen. Von der Einräumung der Gelegenheit zur Stellungnahme kann abgesehen werden, wenn eine sofortige Entscheidung wegen Gefahr im Verzug oder im öffentlichen Interesse notwendig erscheint oder ihr ein zwingendes öffentliches Interesse entgegensteht. Die Stellungnahme der Rechts- oder Fachaufsichtsbehörde soll auch eine Darstellung der aufsichtsrechtlichen Maßnahmen enthalten, die aufgrund der Mitteilung der Behörde oder öffentlichen Stelle nach Absatz 2 Satz 1 getroffen worden sind. Satz 2 ist nicht anzuwenden, soweit es sich bei den öffentlichen Stellen um Strafverfolgungsbehörden im Sinne des Artikels 3 Nummer 45 der Verordnung (EU) 2024/1689 handelt. (4) Die Marktüberwachungsbehörden beziehen bei der Wahrnehmung ihrer Aufgaben nach der Verordnung (EU) 2024/1689 insbesondere auch die folgenden sonstigen Behörden ein, soweit deren jeweiliger Zuständigkeitsbereich berührt ist: 1. die Datenschutzaufsichtsbehörden des Bundes und der Länder, 2. der nach Artikel 52 Absatz 2 der Verordnung (EU) 2024/2847 zu benennenden Marktüberwachungsbehörde und 3. das Bundeskartellamt. (5) Die in Absatz 1 bis 4 genannten Behörden können im Rahmen ihrer Zuständigkeit unabhängig von der jeweils gewählten Verfahrensart untereinander Informationen einschließlich personenbezogener Daten und Betriebs- und Geschäftsgeheimnisse austauschen, soweit dies zur Erfüllung ihrer jeweiligen Aufgaben gemäß der Verordnung (EU) 2024/1689 und dieses Gesetzes unbedingt erforderlich ist. Sie können diese Informationen in ihren Verfahren verwerten. Beweisverwertungsverbote bleiben unberührt. Die Regelungen über die Rechtshilfe in Strafsachen sowie Amts- und Rechtshilfeabkommen bleiben unberührt. (6) Die bei der Bundesanstalt für Finanzdienstleistungsaufsicht beschäftigten und die von ihr beauftragten Personen dürfen solche ihnen bei ihrer Tätigkeit bekanntgewordenen Tatsachen, deren Geheimhaltung im Interesse eines nach der Verordnung (EU) 2024/1689 Verpflichteten, der zuständigen Behörden oder eines Dritten liegt, insbesondere Geschäfts- und Betriebsgeheimnisse, nicht unbefugt offenbaren oder verwerten, auch dann nicht wenn sie nicht mehr im Dienst sind oder ihre Tätigkeit beendet ist. Ein unbefugtes Offenbaren oder Verwerten liegt insbesondere dann nicht vor, wenn 1. Tatsachen an Behörden oder andere öffentliche Stellen weitergegeben werden und die Weitergabe der Informationen zur Erfüllung der Aufgaben dieser Behörden oder Stellen nach diesem Gesetz oder der Verordnung (EU) 2024/1689 erforderlich ist oder 2. Tatsachen nach Artikel 74 Absatz 7 der Verordnung (EU) 2024/1689 an die Europäische Zentralbank weitergegeben werden oder wenn sie an die Deutsche Bundesbank weitergegeben werden, soweit dies im Rahmen der bankaufsichtlichen Aufgaben der Deutschen Bundesbank erforderlich ist. (7) Werden die in Absatz 6 genannten Tatsachen an eine inländische Behörde oder Stelle weitergegeben, so dürfen die bei dieser Behörde oder Stelle beschäftigten oder von dieser beauftragten Personen die Tatsachen nicht unbefugt offenbaren oder verwerten, auch dann nicht, wenn sie nicht mehr im Dienst sind oder ihre Tätigkeit beendet ist. An ausländische Stellen dürfen die Tatsachen nur dann weitergegeben werden, wenn die bei dieser Stelle beschäftigten oder von ihr beauftragten Personen der Vertraulichkeit nach Artikel 78 der Verordnung (EU) 2024/1689 oder einer dem Absatz 6 Satz 1 weitgehend entsprechenden Verschwiegenheitspflicht unterliegen. Ausländische Stellen sind darauf hinzuweisen, dass sie die Tatsachen nur zu dem Zweck verwerten dürfen, zu dessen Erfüllung sie übermittelt werden. Datenschutzrechtliche Vorschriften und die Befugnisse zur Offenbarung und Verwertung nach anderen Vorschriften bleiben unberührt. § 10 Zusammenarbeit der nach diesem Gesetz zuständigen Marktüberwachungsbehörden mit der nach Artikel 52 Absatz 2 der Verordnung (EU) 2024/2847 zu benennenden Marktüberwachungsbehörde (1) Die nach diesem Gesetz zuständigen Marktüberwachungsbehörden und die nach Artikel 52 Absatz 2 der Verordnung (EU) 2024/2847 zu benennende Marktüberwachungsbehörde arbeiten zur Erfüllung ihrer Aufgaben im Rahmen ihrer jeweiligen Zuständigkeiten kooperativ und vertrauensvoll zusammen. Sie teilen einander Beobachtungen und Feststellungen mit, die für die Erfüllung der jeweiligen Aufgaben im jeweiligen Zuständigkeitsbereich von Bedeutung sein können. (2) Im Rahmen der Zusammenarbeit informiert die nach Artikel 52 Absatz 2 der Verordnung (EU) 2024/2847 zu benennende Marktüberwachungsbehörde die jeweils nach diesem Gesetz zuständige Marküberwachungsbehörde über Verdachtsfälle hinsichtlich der Nichtkonformität von Hochrisiko-KI-Systemen gemäß Artikel 6 der Verordnung (EU) 2024/1689 mit den Anforderungen der Cybersicherheit gemäß Artikel 13 Absatz 3 Buchstabe b Doppelbuchstabe ii und Artikel 15 Absatz 1 und 5 der Verordnung (EU) 2024/1689. Die nach diesem Gesetz zuständige Marktüberwachungsbehörde prüft daraufhin, ob sie Marktüberwachungsmaßnahmen ergreift. Die Bundesnetzagentur und die nach Artikel 52 Absatz 2 der Verordnung (EU) 2024/2847 zu benennende Marktüberwachungsbehörde erstellen hierfür gemeinsame Vorgaben für die Prüfung der für Hochrisiko-KI-Systeme gemäß Artikel 6 der Verordnung (EU) 2024/1689 geltenden Anforderungen an die Cybersicherheit gemäß Artikel 13 Absatz 3 Buchstabe b Doppelbuchstabe ii sowie Artikel 15 Absatz 1 und 5 der Verordnung (EU) 2024/1689. Diese Vorgaben gelten nicht für die Marktüberwachung gegenüber Finanzunternehmen im Sinne von Artikel 2 Absatz 2 der Verordnung (EU) 2022/2554. Im Rahmen der Marktüberwachung nach § 2 Absatz 3 erstellt die Bundesanstalt für Finanzdienstleistungsaufsicht im Einvernehmen mit der Bundesnetzagentur und der nach Artikel 52 Absatz 2 der Verordnung (EU) 2024/2847 zu benennenden Marktüberwachungsbehörde eigenständige Vorgaben für die Prüfung der Anforderungen an die Cybersicherheit gemäß Artikel 13 Absatz 3 Buchstabe b Doppelbuchstabe ii sowie Artikel 15 Absatz 1 und 5 der Verordnung (EU) 2024/1689 von Hochrisiko-KI-Systemen nach Artikel 6 der Verordnung (EU) 2024/1689. Die Aufgaben und Befugnisse der Bundesanstalt für Finanzdienstleistungsaufsicht nach der Verordnung (EU) 2022/2554 bleiben davon unberührt. Über das Ergebnis der Prüfung informiert die nach diesem Gesetz zuständige Marktüberwachungsbehörde die nach Artikel 52 Absatz 2 der Verordnung (EU) 2024/2847 zu benennende Marktüberwachungsbehörde. (3) Die nach Artikel 52 Absatz 2 der Verordnung (EU) 2024/2847 zu benennende Marktüberwachungsbehörde und, sofern der Anwendungsbereich der Verordnung (EU) 2022/2554 betroffen ist, die in § 2 Absatz 3 genannte Behörde arbeiten mit 1. an der Erstellung der Leitlinien der Europäischen Kommission nach Artikel 96 Absatz 1 Buchstabe a in Verbindung mit Artikel 15 Absatz 5 der Verordnung (EU) 2024/1689, 2. bei der Entwicklung europäisch harmonisierter Normen nach Artikel 40 der Verordnung (EU) 2024/1689 zu den Anforderungen an die Cybersicherheit nach Artikel 15 Absatz 5 der Verordnung (EU) 2024/1689 und 3. bei der Festlegung gemeinsamer Spezifikationen zu den Anforderungen an die Cybersicherheit nach Artikel 15 Absatz 5 der Verordnung (EU) 2024/1689 durch die Europäische Kommission nach Artikel 41 der Verordnung (EU) 2024/1689. (4) Bis zur Benennung der Marktüberwachungsbehörde nach Artikel 52 Absatz 2 der Verordnung (EU) 2024/2847 nimmt das Bundesamt für Sicherheit in der Informationstechnik die in den Absätzen 1 bis 3 genannten Aufgaben wahr. T e i l 3 B e f u g n i s s e § 11 Befugnisse der zuständigen Behörden; Einschränkung eines Grundrechts (1) Die Marktüberwachungsbehörden nach § 2 Absatz 1 bis 8 haben die Befugnisse gemäß Artikel 14 Absatz 4 und 5 und Artikel 16 der Verordnung (EU) 2019/1020 sowie nach der Verordnung (EU) 2024/1689. Die Befugnisse der Marktüberwachungsbehörden aufgrund anderer Vorschriften bleiben unberührt. (2) Die Marktüberwachungsbehörden können bei Wahrnehmung ihrer Befugnisse nach Artikel 14 Absatz 4 und 5 der Verordnung (EU) 2019/1020 dritte Personen als Verwaltungshelfer heranziehen, die sie bei der Ausführung insbesondere von technischen Prozessen unterstützen. Zusätzlich können die Marktüberwachungsbehörden die in Artikel 14 Absatz 4 Buchstabe d und j der Verordnung (EU) 2019/1020 genannten Befugnisse über Anwendungsprogrammierschnittstellen oder andere technische Mittel, die den Fernzugriff ermöglichen, ausüben. (3) Die Befugnisse nach Artikel 14 Absatz 4 Buchstabe e der Verordnung (EU) 2019/1020 bestehen zu den üblichen Betriebs- und Geschäftszeiten, außerhalb dieser Zeiten nur zur Verhütung dringender Gefahren für die öffentliche Sicherheit und Ordnung. Das Grundrecht der Unverletzlichkeit der Wohnung (Artikel 13 des Grundgesetzes) wird insoweit eingeschränkt. (4) Im Übrigen gilt § 7 Absatz 2 bis 4 des Marktüberwachungsgesetzes entsprechend. (5) Die Befugnisse nach Absatz 1 bis 4 berechtigen die zuständigen Marktüberwachungsbehörden und von ihnen beauftragte Personen nicht dazu, Daten bei öffentlichen Stellen im Sinne des § 2 Absatz 1 und 2 des Bundesdatenschutzgesetzes zu erheben oder weiterzuverarbeiten, soweit Gründe des Quellenschutzes oder der Sicherstellung der Geheimhaltung von Verschlusssachen im Sinne des § 4 Absatz 1 des Sicherheitsüberprüfungsgesetzes dem entgegenstehen. Die Verarbeitung der genannten Daten durch die Marktüberwachungsbehörde ist jedoch im Einzelfall zulässig, wenn dies zur Erfüllung der Aufgaben der Marktüberwachungsbehörde nach diesem Gesetz erforderlich ist. Die Marktüberwachungsbehörde hat in einem solchen Fall die jeweils geltenden, besonderen Vertraulichkeitsvorkehrungen zu ergreifen. (6) Die Finanzbehörden haben nach § 30 der Abgabenordnung geschützte Daten den Marktüberwachungsbehörden auf Ersuchen unverzüglich zu offenbaren, wenn die Marktüberwachungsbehörde gegenüber der Finanzbehörde begründet darlegt, dass die Herausgabe der Daten zur Erfüllung der Aufgaben der Marktüberwachungsbehörde nach Maßgabe der Verordnungen (EU) 2024/1689 sowie 2019/1020 erforderlich ist. (7) Widerspruch und Klage gegen Entscheidungen gemäß Absatz 1 bis 4, die die Marktüberwachungsbehörden nach § 2 Absatz 2 dieses Gesetzes treffen, haben keine aufschiebende Wirkung, soweit die Entscheidungen ein KI-System betreffen, das ein Produkt oder ein Sicherheitsbauteil eines Produktes ist, auf das § 36 Absatz 1 des Funkanlagengesetzes oder § 45 Absatz 5 des Medizinprodukte-Durchführungsgesetzes anwendbar ist. Widerspruch und Klage gegen Entscheidungen gemäß Absatz 1 bis 4, einschließlich der Androhung und Festsetzung von Zwangsmitteln, die die Marktüberwachungsbehörde nach § 2 Abs. 3 dieses Gesetzes trifft, haben keine aufschiebende Wirkung. T e i l 4 I n n o v a t i o n s f ö r d e r u n g § 12 Innovationsfördernde Maßnahmen Die Bundesnetzagentur führt innovationsfördernde Maßnahmen gemäß der Verordnung (EU) 2024/1689 durch. Sie hat insbesondere folgende Aufgaben: 1. allgemeine Informationen und Anleitungen zur Anwendung der Verordnung (EU) 2024/1689 für die durch die Verordnung adressierten Akteure sowie zukünftigen Akteure im Sinne des Artikels 3 Nummer 8 der Verordnung (EU) 2024/1689, insbesondere für kleine und mittlere Unternehmen, Start-up-Unternehmen und öffentliche Stellen im Sinne des § 2 Absatz 1 und 2 des Bundesdatenschutzgesetzes, bereitzustellen, 2. auf Anfrage einer öffentlichen Stellen im Sinne des § 2 Absatz 1 und 2 des Bundesdatenschutzgesetzes zum rechtlichen Status eines maschinengestützten Systems als KI-System gemäß des Artikels 3 Absatz 1 der Verordnung (EU) 2024/1689 oder dessen Einstufung als Hochrisiko-KI-System gemäß Artikel 6 Absatz 2 und Absatz 3 der Verordnung (EU) 2024/1689 mit Blick auf den konkreten Einzelfall zu beraten, 3. zur Innovationsförderung gemäß Artikel 62 Absatz 1 Buchstabe b der Verordnung (EU) 2024/1689 Sensibilisierungs- und Schulungsmaßnahmen betreffend die Verordnung (EU) 2024/1689 durchzuführen, 4. den Wissensaufbau und -austausch zu künstlicher Intelligenz zu fördern, insbesondere durch Durchführung von Studien, Analysen und Fachveranstaltungen, soweit dies für die Durchführung ihrer Aufgaben nach diesem Gesetz erforderlich ist, 5. die Vernetzung und Kooperation der relevanten Akteure des KI-Ökosystems um KI- Systeme im Rahmen ihrer Aufgaben nach diesem Gesetz zu fördern und 6. ihren Sachverstand auch für die Erfüllung der weiteren Aufgaben aus der Verordnung (EU) 2024/1689 zur Innovationsförderung bereitzustellen, insbesondere durch die Mitarbeit im Bereich der technischen Normung von künstlicher Intelligenz in nationalen und internationalen Normungsgremien. Die Erfüllung von Beratungsaufgaben durch die Bundesnetzagentur nach Satz 2 Nummer 2 setzt eine zwischen der Bundesnetzagentur und dem zuständigen Bundes- oder Landesministerium zu schließende Verwaltungsvereinbarung voraus. Darin ist insbesondere die Übernahme der finanziellen und stellenmäßigen Aufwände durch das jeweilig zuständige Bundes- oder Landesministerium zu regeln. Die Bundesnetzagentur veröffentlicht die wesentlichen Erwägungen ihres Beratungsergebnisses gemäß Satz 2 Nummer 2. § 13 KI-Reallabore; Verordnungsermächtigung (1) Die Bundesnetzagentur errichtet und betreibt mindestens ein KI-Reallabor nach den Artikeln 57 und 58 der Verordnung (EU) 2024/1689. Dies lässt die Einrichtung und den Betrieb von KI-Reallaboren im Sinne des Artikels 3 Nummer 55 der Verordnung (EU) 2024/1689 durch andere zuständige nationale Behörden gemäß Artikel 3 Nummer 48 der Verordnung (EU) 2024/1689 unberührt. (2) Die Bundesnetzagentur arbeitet bei der Erfüllung der Aufgaben nach Absatz 1 Satz 1 mit anderen Behörden kooperativ und vertrauensvoll zusammen, soweit die Einrichtung oder der Betrieb des KI-Reallabors deren Zuständigkeitsbereich berührt. Dies umfasst insbesondere die Einbeziehung der zuständigen Datenschutzaufsichtsbehörde, die die Bewertung der datenschutzrechtlichen Vorgaben des Artikel 59 der Verordnung (EU) 2024/1689 übernimmt. Dies umfasst auch die Zusammenarbeit mit anderen Behörden, die KI-Reallabore betreiben. Aufsichts- und Überwachungsbefugnisse weiterer Behörden aufgrund anderer Gesetze bleiben hiervon unberührt. (3) Die Bundesnetzagentur gewährt über Artikel 62 Absatz 1 Buchstabe a der Verordnung (EU) 2024/1689 hinaus auch Forschungseinrichtungen sowie Hochschulen und deren Ausgründungen, die ihren Sitz oder eine Zweigniederlassung in der Europäischen Union haben, vorrangigen Zugang zu dem KI-Reallabor nach Absatz 1 Satz 1, soweit diese die nach den Durchführungsrechtsakten im Sinne des Artikels 58 Absatz 1 der Verordnung (EU) 2024/1689 zu erlassenden Voraussetzungen und Auswahlkriterien erfüllen und dadurch der Zugang von KI-Systemen, die unmittelbar Gegenstand anwendungsnaher Forschungs- und Entwicklungsvorhaben sind, zum Unionsmarkt erleichtert oder beschleunigt wird. (4) Das Bundesministerium für Digitales und Staatsmodernisierung wird ermächtigt, durch Rechtsverordnung ohne Zustimmung des Bundesrats soweit dies zur Durchführung des Artikels 57 der Verordnung (EU) 2024/1689 und der Durchführungsrechtsakte im Sinne des Artikels 58 Absatz 1 der Verordnung (EU) 2024/1689 erforderlich ist, die näheren Einzelheiten der Einrichtung und des Betriebs von KI-Reallaboren nach Absatz 1 Satz 1 zu regeln. Dies umfasst insbesondere Regelungen zu Einrichtung, Entwicklung, Umsetzung, Betrieb, Beaufsichtigung sowie zur Zusammenarbeit mit anderen betroffenen Bundesbehörden. Das Bundesministerium für Digitales und Staatsmodernisierung kann die Ermächtigung nach Satz 1 durch Rechtsverordnung auf die Bundesnetzagentur übertragen. § 14 Tests von Hochrisiko-KI-Systemen unter Realbedingungen außerhalb von KI- Reallaboren (1) Die nach diesem Gesetz zuständigen Marktüberwachungsbehörden überwachen im Rahmen ihrer jeweiligen Zuständigkeit die Durchführung von Tests unter Realbedingungen gemäß Artikel 60 der Verordnung (EU) 2024/1689 außerhalb von KI-Reallaboren und die damit zusammenhängenden Hochrisiko-KI-Systeme. (2) Bevor Anbieter oder zukünftige Anbieter die in Anhang III der Verordnung (EU) 2024/1689 genannten Hochrisiko-KI-Systeme selbst oder in Zusammenarbeit mit einem oder mehreren Betreibern oder zukünftigen Betreibern unter Realbedingungen testen, müssen sie den Plan für den Test unter Realbedingungen bei der zuständigen Marktüberwachungsbehörde vorlegen. Ist ein solcher Test geplant, so muss er vor dem Inverkehrbringen oder der Inbetriebnahme des zu testenden Hochrisiko-KI-Systems stattfinden. Die zuständige Marktüberwachungsbehörde genehmigt den Test unter Realbedingungen und den Plan für den Test unter Realbedingungen, wenn die Vorgaben des Artikels 60 Absatz 4 der Verordnung (EU) 2024/1689 eingehalten sind. Die Genehmigung der zuständigen Marktüberwachungsbehörde gilt als erteilt, wenn der Anbieter oder zukünftige Anbieter binnen 30 Tagen nach Eingang des Plans gemäß Satz 1 keine Antwort erhalten hat. T e i l 5 B u ß g e l d v o r s c h r i f t e n § 15 Bußgeldvorschriften zur Verordnung (EU) 2024/1689 (1) Ordnungswidrig handelt, wer gegen die Verordnung (EU) 2024/1689 in der Fassung vom 13. Juni 2024 verstößt, indem er vorsätzlich oder fahrlässig 1. entgegen Artikel 21 Absatz 1 eine dort genannte Information oder Dokumentation nicht, nicht richtig, nicht vollständig oder nicht rechtzeitig übermittelt, 2. entgegen Artikel 21 Absatz 2 Zugang nicht gewährt, 3. entgegen Artikel 27 Absatz 1 eine dort genannte Grundrechte-Folgenabschätzung nicht, nicht richtig, nicht vollständig oder nicht rechtzeitig durchführt, 4. entgegen Artikel 27 Absatz 2 Satz 3 nicht, nicht richtig, nicht vollständig oder nicht unverzüglich, nachdem er zu der dort genannten Auffassung gelangt ist, eine Information aktualisiert, 5. entgegen Artikel 27 Absatz 3 Satz 1 eine dort genannte Mitteilung nicht, nicht richtig, nicht vollständig oder nicht rechtzeitig übermittelt, 6. entgegen Artikel 45 Absatz 1 Buchstabe a bis c oder d die notifizierende Behörde auf deren Anfrage nicht, nicht richtig oder nicht vollständig informiert, 7. entgegen Artikel 45 Absatz 1 Buchstabe e die notifizierende Behörde nicht, nicht richtig, nicht vollständig oder nicht rechtzeitig informiert, 8. entgegen Artikel 45 Absatz 2 eine dort genannte Stelle nicht, nicht richtig, nicht vollständig oder nicht rechtzeitig informiert oder 9. entgegen Artikel 45 Absatz 3 eine dort genannte Information nicht, nicht richtig, nicht vollständig oder nicht rechtzeitig übermittelt. (2) Ordnungswidrig handelt, wer als Betreiber eines Hochrisiko-KI-Systems nach Artikel 6 Absatz 2 in Verbindung mit Anhang III Nummer 1, 3, 4 oder 5 der Verordnung (EU) 2024/1689 in der Fassung vom 13. Juni 2024 nicht dafür sorgt, dass einer betroffenen Person nach Artikel 86 Absatz 1 der Verordnung (EU) 2024/1689 in der Fassung vom 13. Juni 2024 eine dort genannte Erläuterung gegeben wird. (3) Die Ordnungswidrigkeit kann mit einer Geldbuße bis zu fünfzigtausend Euro geahndet werden. § 16 Anwendung der Vorschriften über das Bußgeld- und Strafverfahren (1) Für Verstöße nach Artikel 99 Absatz 3 bis 5 der Verordnung (EU) 2024/1689 gelten, soweit dieses Gesetz nichts anderes bestimmt, die Vorschriften des Gesetzes über Ordnungswidrigkeiten entsprechend. § 17 des Gesetzes über Ordnungswidrigkeiten, auch in Verbindung mit § 30 Absatz 3 des Gesetzes über Ordnungswidrigkeiten, sowie § 30 Absatz 1 und 2 des Gesetzes über Ordnungswidrigkeiten sind nicht anzuwenden. (2) Für Verfahren wegen eines Verstoßes nach Artikel 99 Absatz 3 bis 5 der Verordnung (EU) 2024/1689 gelten, soweit dieses Gesetz nichts anderes bestimmt, die Vorschriften des Gesetzes über Ordnungswidrigkeiten sowie der allgemeinen Gesetze über das Strafverfahren, namentlich der Strafprozessordnung und des Gerichtsverfassungsgesetzes, entsprechend. § 69 Absatz 4 Satz 2 des Gesetzes über Ordnungswidrigkeiten ist mit der Maßgabe anzuwenden, dass die Staatsanwaltschaft das Verfahren nur mit Zustimmung der Behörde, die den Bußgeldbescheid erlassen hat, einstellen kann. § 17 Behörden (1) Verwaltungsbehörden im Sinne des § 36 Absatz 1 Nummer 1 des Gesetzes über Ordnungswidrigkeiten sind in den Fällen des § 15 Absatz 1 und 2 sowie des Artikels 99 Absatz 3 bis 5 der Verordnung (EU) 2024/1689 die Marktüberwachungsbehörden nach § 2 Absatz 1 bis 8, die notifizierenden Behörden nach § 3 Absatz 1 und 2 Satz 1 und die Stellen nach § 3 Absatz 4 Satz 1 und 2 jeweils für ihren Geschäftsbereich. (2) Gegen Behörden und sonstige öffentliche Stellen im Sinne des § 2 Absatz 1 oder 2 des Bundesdatenschutzgesetzes werden in den Fällen des § 15 Absatz 1 und 2 sowie des Artikels 99 Absatz 3 bis 5 der Verordnung (EU) 2024/1689 keine Geldbußen verhängt. T e i l 6 A u f b e w a h r u n g s p f l i c h t e n § 18 Aufbewahrungspflichten Stellt ein Anbieter nach Artikel 3 Nummer 3 der Verordnung (EU) 2024/1689 oder ein in Deutschland niedergelassener Bevollmächtigter nach Artikel 3 Nummer 5 der Verordnung (EU) 2024/1689 seine Geschäftstätigkeit ein, so hat der für die Liquidation oder Auflösung der juristischen Person Verantwortliche die Pflicht aus Artikel 18 Absatz 1 der Verordnung (EU) 2024/1689. Artikel 2 Änderung des Hinweisgeberschutzgesetzes § 2 Absatz 1 des Hinweisgeberschutzgesetzes vom 31. Mai 2023 (BGBl. 2023 I Nr. 140) wird wie folgt geändert: 1. Nach Nummer 9 wird die folgende Nummer 10 eingefügt: 10. „ Verstöße gegen Vorschriften der Verordnung (EU) 2024/1689,“ 2. Die bisherige Nummer 10 wird Nummer 11. Artikel 3 Änderung des Ersten Buches Sozialgesetzbuch Das Erste Buch Sozialgesetzbuch – Allgemeiner Teil – (Artikel I des Gesetzes vom 11. Dezember 1975, BGBl. I S. 3015), das zuletzt durch Artikel 4 des Gesetzes vom 19. Juli 2024 (BGBl. 2024 I Nr. 245) geändert worden ist, wird wie folgt geändert: 1. § 35 Absatz 2 Satz 1 wird durch den folgenden Satz ersetzt: „Die Vorschriften des Zweiten Kapitels des Zehnten Buches und der übrigen Bücher des Sozialgesetzbuches regeln die Verarbeitung von Sozialdaten abschließend, soweit nicht 1. die Verordnung (EU) 2016/679 in der jeweils geltenden Fassung unmittelbar gilt oder 2. die Verordnung (EU) 2024/1689 in der jeweils geltenden Fassung unmittelbar geltende Rechtsvorschriften zum Schutz personenbezogener Daten bei deren Verarbeitung enthält.“ Artikel 4 Änderung des Finanzdienstleistungsaufsichtsgesetzes Das Finanzdienstleistungsaufsichtsgesetz vom 22. April 2002 (BGBl. I S. 1310), das zuletzt durch Artikel 19 des Gesetzes vom 27. Dezember 2024 (BGBl. 2024 I Nr. 438) geändert worden ist, wird wie folgt geändert: 1. § 15 wird wie folgt geändert: a) Nach Absatz 1 Satz 1 Nummer 13 wird folgende Nummer 14 eingefügt: 14. „ durch a) eine vor Ort oder aus der Ferne nach § 11 des Gesetzes zur Marktüberwachung und Innovationsförderung von künstlicher Intelligenz in Verbindung mit Artikel 14 Absatz 1 und 4 Buchstabe d der Verordnung (EU) 2019/1020 vorgenommene Prüfungshandlung auch in Verbindung mit Maßnahmen nach § 11 des KI-Marktüberwachungs-und- Innovationsförderungs-Gesetzes in Verbindung mit Artikel 14 Absatz 1 und 4 Buchstabe e der Verordnung (EU) 2019/1020, b) eine Maßnahme nach § 11 des KI-Marktüberwachungs-und- Innovationsförderungs-Gesetzes in Verbindung mit Artikel 14 Absatz 1 und 4 Buchstabe h der Verordnung (EU) 2019/1020,“. b) In Absatz 1 Satz 1 wird nach der Angabe „sowie 13“ die Angabe „und 14“ eingefügt. c) In Absatz 1 Satz 2 werden nach der Angabe „belastet wird,“ die Wörter „oder die der Bundesanstalt durch die Heranziehung dritter Personen als Verwaltungshelfer nach § 11 Absatz 2 des KI-Marktüberwachungs-und-Innovationsförderungs- Gesetzes entstehen,“ eingefügt. 2. § 16b wird wie folgt geändert: a) Nach Absatz 1 wird der folgende Absatz 1a eingefügt: „(1a) Die Kosten, die der Bundesanstalt aus ihrer Zuständigkeit nach dem KI- Marktüberwachungs-und-Innovationsförderungs-Gesetz entstehen, sind den Aufgabenbereichen nach Absatz 1 wie folgt zuzurechnen: 1. soweit es sich um Kosten in Bezug auf das Kredit-, Finanzdienstleistungs-, Wertpapierinstituts-, Zahlungsdienste-, Krypto- oder das inländische Investmentwesen handelt, dem Aufgabenbereich „Banken und sonstige Finanzdienstleistungen“, 2. soweit es sich um Kosten des Versicherungswesens handelt, dem Aufgabenbereich „Versicherungen“. Innerhalb des Aufgabenbereichs „Banken und sonstige Finanzdienstleistungen“ erfolgt eine gesonderte Ermittlung nach Gruppen entsprechend § 16e.“ b) In Absatz 2 Satz 1 wird nach der Angabe „nach Absatz 1 Satz 1“ die Angabe „oder nach Absatz 1a Satz 1“ eingefügt. c) In Absatz 3 Satz 1 wird nach der Angabe „nach Absatz 1 Satz 1“ die Angabe „oder nach Absatz 1a Satz 1“ eingefügt. 3. In § 16g Absatz 1 Nummer 1 Buchstabe c Doppelbuchstabe aa Dreifachbuchstabe aaa wird nach der Angabe „Nummer 6“ die Angabe „, 8“ eingefügt. 4. § 23 Absatz 15 wird wie folgt gefasst: (15) „ § 16e Absatz 1 und 4, § 16f Absatz 2 Satz 1 Nummer 1 und Absatz 4 Satz 2 sowie § 16g Absatz 1 Nummer 1 Buchstabe d in der ab dem 30. Dezember 2023 geltenden Fassung sind erstmals auf das Umlagejahr 2024 anzuwenden.“ Artikel 5 Dieses Gesetz tritt am Tag nach der Verkündung in Kraft. EU-Rechtsakte: 1. Verordnung (EU) Nr. 575/2013 des Europäischen Parlaments und des Rates vom 26. Juni 2013 über Aufsichtsanforderungen an Kreditinstitute und zur Änderung der Verordnung (EU) Nr. 648/2012 (ABl. L 176 vom 27. 6.2013, S. 1; L 208 vom 2.8.2013, S. 68; L 321 vom 30.11.2013, S. 6; L 193 vom 21.7.2015, S. 166; L 20 vom 25.1.2017, S. 3; L 13 vom 17.1.2020, S. 58; L 335 vom 13.10.2020, S. 20; L 405 vom 2.12.2020, S. 79; L 65 vom 25.2.2021, S. 62; L 261 vom 22.7.2021, S. 60; L 398 vom 11.11.2021, S. 32; L 277 vom 27.10.2022, S. 316; L 92 vom 30.3.2023, S. 29; L 90328 vom 16.4.2025, S. 1), die zuletzt durch die Delegierte Verordnung (EU) 2025/1496 vom 12. Juni 2025 (ABl. L, 2025/1498, 19.9.2025) geändert worden ist), 2. Verordnung (EU) Nr. 1024/2013 des Rates vom 15. Oktober 2013 zur Übertragung besonderer Aufgaben im Zusammenhang mit der Aufsicht über Kreditinstitute auf die Europäische Zentralbank (ABl. L 287 vom 29.10.2013, S. 63; L 287 vom 29.10.2013, S. 63), 3. Verordnung (EU) 2016/424 des Europäischen Parlaments und des Rates vom 9. März 2016 über Seilbahnen und zur Aufhebung der Richtlinie 2000/9/EG (ABl. L 81 vom 31.03.2016, S. 1; L 266 vom 30.09.2016, S. 8), 4. Verordnung (EU) 2016/679 des Europäischen Parlaments und des Rates vom 27. April 2016 zum Schutz natürlicher Personen bei der Verarbeitung personenbezogener Daten, zum freien Datenverkehr und zur Aufhebung der Richtlinie 95/46/EG (ABl. L 119 vom 4.5.2016, S. 1; L 314 vom 22.11.2016, S. 72; L 127 vom 23.5.2018, S. 2; L 74 vom 4.3.2021, S. 35), 5. Richtlinie (EU) 2016/2341 des Europäischen Parlaments und des Rates vom 14. Dezember 2016 über die Tätigkeiten und die Beaufsichtigung von Einrichtungen der betrieblichen Altersversorgung (EbAV) (ABl. L 354 vom 23.12.2016, S. 37, die zuletzt durch die Richtlinie (EU) 2023/2864 vom 13. Dezember2023 (ABl. L, 2023/2864, 20.12.2023) geändert worden ist), 6. Verordnung (EU) 2019/1020 des Europäischen Parlaments und des Rates vom 20. Juni 2019 über Marktüberwachung und die Konformität von Produkten sowie zur Änderung der Richtlinie 2004/42/EG und der Verordnungen (EG) Nr. 765/2008 und (EU) Nr. 305/2011 (ABl. L 169 vom 25.6.2019, S. 1; L 2024/90589, 1.10.2024), die zuletzt durch die Verordnung (EU) 2024/1252 vom 11. April 2024 (ABl. L, 2024/1252, 3.5.2024) geändert worden ist, 7. Richtlinie (EU) 2019/1937 des Europäischen Parlaments und des Rates vom 23. Oktober 2019 zum Schutz von Personen, die Verstöße gegen das Unionsrecht melden (ABl. L 305 vom 26.11.2019, S. 17), die zuletzt durch die Richtlinie (EU) 2024/1760 vom 13. Juni 2024 (ABl L, 2024/1760, 5.7.2024) geändert worden ist, 8. Verordnung (EU) 2020/1503 des Europäischen Parlaments und des Rates vom 7. Oktober 2020 über Europäische Schwarmfinanzierungsdienstleister für Unternehmen und zur Änderung der Verordnung (EU) 2017/1129 und der Richtlinie (EU) 2019/1937 (ABl. L 347 vom 20.10.2020, S. 1), die zuletzt durch die Delegierte Verordnung (EU) 2022/1988 vom 13. Juli 2022 (Abl. L 273 vom 21.10.2022, S. 3) geändert worden ist, 9. Verordnung (EU) 2022/2554 des Europäischen Parlaments und des Rates vom 14. Dezember 2022 über die digitale operationale Resilienz im Finanzsektor und zur Änderung der Verordnungen (EG) Nr. 1060/2009, (EU) Nr. 648/2012, (EU) Nr. 600/2014, (EU) Nr. 909/2014 und (EU) 2016/1011 (ABl. L, 333 vom 27.12.2022). 10. Verordnung (EU) 2023/1114 des Europäischen Parlaments und des Rates vom 31. Mai 2023 über Märkte für Kryptowerte und zur Änderung der Verordnungen (EU) Nr. 1093/2010 und (EU) Nr. 1095/2010 sowie der Richtlinien 2013/36/EU und (EU) 2019/1937 (ABl. L 150 vom 9.6.2023, S. 40; L 2024/90275, 2.5.2024; L 2024/90658, 30.10.2024), die zuletzt durch die Verordnung (EU) 2023/2869 vom 13. Dezember 2023 (ABl. L, 2023/2869, 20.12.2023) geändert worden ist), 11. Verordnung (EU) 2024/1083 des Europäischen Parlaments und des Rates vom 11. April 2024 zur Schaffung eines gemeinsamen Rahmens für Mediendienste im Binnenmarkt und zur Änderung der Richtlinie 2010/13/EU (ABl. L, 2024/1083, 17.4.2024), 12. Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU) Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien 2014/90/EU, (EU) 2016/797 und (EU) 2020/1828 (ABl. L, 2024/1689, 12.07.2024; 2025/90802, 9.10.2025), 13. Verordnung (EU) 2024/2847 des Europäischen Parlaments und des Rates vom 23. Oktober 2024 über horizontale Cybersicherheitsanforderungen für Produkte mit digitalen Elementen und zur Änderung der Verordnungen (EU) Nr. 168/2013 und (EU) 2019/1020 und der Richtlinie (EU) 2020/1828 (ABl. L, 2024/2847, 20.11.2024; 2025/90555, 2.7.2025; 2025/90828, 17.10.2025), die zuletzt durch die Verordnung (EU) 2025/327 vom 11. Februar 2025 (ABl. L, 2025/327, 5.3.2025) geändert worden ist. Begründung A. Allgemeiner Teil I. Zielsetzung und Notwendigkeit der Regelungen Am 1. August 2024 ist die Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU) Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien 2014/90/EU, (EU) 2016/797 und (EU) 2020/1828 (Verordnung über künstliche Intelligenz) (ABl. L, 2024/1689, 12.07.2024) in Kraft getreten. Die Verordnung (EU) 2024/1689 legt einen einheitlichen Rechtsrahmen für die Entwicklung, das Inverkehrbringen, die Inbetriebnahme und die Verwendung von Systemen künstlicher Intelligenz (KI-Systeme) in der Europäischen Union fest. Sie verfolgt einen risikobasierten Ansatz und enthält insbesondere Verbote bestimmter Praktiken im KI-Bereich, besondere Anforderungen an Hochrisiko-KI-Systeme und Pflichten für Akteure in Bezug auf solche Systeme, Transparenzvorschriften für bestimmte KI-Systeme sowie Maßnahmen zur Innovationsförderung mit besonderem Augenmerk auf kleine und mittlere Unternehmen (KMU) und Start-up-Unternehmen sowie die anwendungsorientierte Forschung. Dadurch sollen ein einheitlicher Binnenmarkt für KI-gestützte Waren und Dienstleistungen geschaffen, Innovationen gefördert und gleichzeitig ein hohes Schutzniveau in Bezug auf Gesundheit, Sicherheit und die in der Charta der Grundrechte der Europäischen Union verankerten Grundrechte, einschließlich Demokratie, Rechtsstaatlichkeit und Umweltschutz, sichergestellt werden. Die Regelungen der Verordnung (EU) 2024/1689 gelten grundsätzlich unmittelbar ab dem 2. August 2026. Zum Zwecke der Durchführung der Verordnung (EU) 2024/1689 muss jeder Mitgliedstaat bis zum 2. August 2025 mindestens eine notifizierende Behörde und mindestens eine Marktüberwachungsbehörde (darunter eine Marktüberwachungsbehörde, die als zentrale Anlaufstelle für die Verordnung (EU) 2024/1689 fungiert) als zuständige nationale Behörden einrichten oder benennen und entsprechend den Vorgaben der Verordnung (EU) 2024/1689 Vorschriften für Sanktionen und andere Durchsetzungsmaßnahmen erlassen. Gemäß der Verordnung (EU) 2024/1689 sind die notifizierenden Behörden für die Einrichtung und Durchführung der erforderlichen Verfahren zur Bewertung, Benennung und Notifizierung von Konformitätsbewertungsstellen und für deren Überwachung zuständig. Die Mitgliedstaaten können entscheiden, dass die Bewertung und Überwachung von einer nationalen Akkreditierungsstelle im Sinne und gemäß der Verordnung (EG) Nr. 765/2008 durchzuführen sind. Die Marktüberwachungsbehörden führen die Tätigkeiten durch und ergreifen die Maßnahmen, die in der Verordnung (EU) 2019/1020 vorgesehen sind. Auch wenn unter bestimmten Voraussetzungen Abweichungen möglich sind, sieht die Verordnung (EU) 2024/1689 vor, dass bei Hochrisiko-KI-Systemen und damit in Zusammenhang stehenden Produkten, auf die die in Anhang I Abschnitt A der Verordnung (EU) 2024/1689 aufgeführten Harmonisierungsrechtsvorschriften der Europäischen Union Anwendung finden, als Marktüberwachungsbehörde die in jenen Rechtsakten für die Marktüberwachung benannte Behörde gilt. Bei Hochrisiko-KI-Systemen, die von auf der Grundlage des Unionsrechts im Bereich der Finanzdienstleistungen regulierten Finanzinstituten in Verkehr gebracht, in Betrieb genommen oder verwendet werden, gilt die in jenen Rechtsvorschriften für die Finanzaufsicht über diese Institute benannte nationale Behörde als Marktüberwachungsbehörde, sofern das Inverkehrbringen, die Inbetriebnahme oder die Verwendung des KI-Systems mit der Erbringung dieser Finanztätigkeiten in direktem Zusammenhang steht und keine andere einschlägige Behörde als Marktüberwachungsbehörde benannt wird. Zudem gilt für die in Anhang III Nummer 1 der Verordnung (EU) 2024/1689 genannten Hochrisiko-KI-Systeme, sofern diese Systeme für Strafverfolgungszwecke, Grenzmanagement und Justiz und Demokratie eingesetzt werden, und für die in Anhang III Nummern 6, 7 und 8 der Verordnung (EU) 2024/1689 genannten Hochrisiko-KI-Systeme, dass die Mitgliedstaaten als Marktüberwachungsbehörden entweder die nach der Verordnung (EU) 2016/679 oder der Richtlinie (EU) 2016/680 für den Datenschutz zuständigen Aufsichtsbehörden oder jede andere Behörde gemäß denselben Bedingungen wie den in den Artikeln 41 bis 44 der Richtlinie (EU) 2016/680 festgelegten benennen. Marktüberwachungstätigkeiten dürfen in keiner Weise die Unabhängigkeit von Justizbehörden beeinträchtigen oder deren Handlungen im Rahmen ihrer justiziellen Tätigkeit anderweitig beeinflussen. Zudem dürfen Marktüberwachungstätigkeiten nicht das Steuergeheimnis verletzen oder die Handlungen der Finanzbehörden im Rahmen ihrer fiskalischen Tätigkeit beeinträchtigen oder anderweitig beeinflussen (Artikel 108 Absatz 1 und 2 GG). Die Koordinierung zwischen den auf der Grundlage der Verordnung (EU) 2024/1689 benannten Marktüberwachungsbehörden und anderen nationalen Behörden und Stellen ist zu erleichtern (vgl. Artikel 74 Absatz 10 der Verordnung (EU) 2024/1689). Die Verordnung (EU) 2024/1689 fügt sich als Produktregulierung in das allgemeine System der Marktüberwachung ein. Die Verordnung (EU) 2024/1689 gilt im Einklang mit der Verordnung (EG) Nr. 765/2008 des Europäischen Parlaments und des Rates vom 9. Juli 2008 über die Vorschriften für die Akkreditierung und Marktüberwachung im Zusammenhang mit der Vermarktung von Produkten und zur Aufhebung der Verordnung (EWG) Nr. 339/93 des Rates (ABl. L 218 vom 13.8.2008, S. 30), dem Beschluss Nr. 768/2008/EG des Europäischen Parlaments und des Rates vom 9. Juli 2008 über einen gemeinsamen Rechtsrahmen für die Vermarktung von Produkten und zur Aufhebung des Beschlusses 93/465/EWG des Rates (ABl. L 218 vom 13.8.2008, S. 82) und der Verordnung (EU) 2019/1020 des Europäischen Parlaments und des Rates vom 20. Juni 2019 über Marktüberwachung und die Konformität von Produkten sowie zur Änderung der Richtlinie 2004/42/EG und der Verordnungen (EG) Nr. 765/2008 und (EU) Nr. 305/2011 (ABl. L 169 vom 25.6.2019, S. 1) („neuer Rechtsrahmen“). Dieser Entwurf steht im Kontext der Ziele der Resolution der Generalversammlung der Vereinten Nationen vom 25. September 2015 „Transformation unserer Welt: die UN- Agenda 2030 für nachhaltige Entwicklung“ und trägt insbesondere zur Erreichung der Nachhaltigkeitsziele „Sozialen Zusammenhalt in einer offenen Gesellschaft wahren und verbessern“ und „Bildung, Wissenschaft und Innovation als Treiber einer nachhaltigen Entwicklung nutzen“ bei. II. Wesentlicher Inhalt des Entwurfs Der vorliegende Gesetzentwurf dient der Durchführung der Verordnung (EU) 2024/1689. Frist hierfür war der 2. August 2025. Mit Artikel 1 werden die für die Durchführung der Verordnung (EU) 2024/1689 zuständigen Behörden benannt, deren Aufgaben geregelt sowie Kooperationsvorschriften und die erforderlichen Vorschriften über das Bußgeldverfahren erlassen. Mit den Artikeln 2 bis 4 erfolgt die erforderliche Änderung einschlägiger Gesetze. Ziel ist eine innovationsfreundliche und bürokratiearme Durchführung der Verordnung (EU) 2024/1689. Dabei kommt der Festlegung der nationalen Aufsichts- und Behördenstruktur in Artikel 1 eine wesentliche Bedeutung zu. Bei der Bundesnetzagentur (BNetzA) wird daher ein Koordinierungszentrum geschaffen, um alle Marktüberwachungsbehörden und notifizierenden Behörden bei ihren aus der Verordnung (EU) 2024/1689 resultierenden Aufgaben zu unterstützen. Dadurch wird KI-Expertise zentral gebündelt und ressourcenschonend den bestehenden Behörden bei Bedarf zur Verfügung gestellt. Behörden, die bereits in vollharmonisierten Bereichen der Produktregulierung als Marktüberwachungsbehörden und notifizierende Behörden zuständig sind, sollen auch im Bereich der Verordnung (EU) 2024/1689 die für Marktüberwachung und Notifizierung zuständigen Behörden werden. Insoweit sollen die bestehenden Strukturen genutzt werden, da anderenfalls zulasten der betroffenen Unternehmen Doppelstrukturen geschaffen würden. Werden in diesem Bereich der vollharmonisierten Produkte relevante europäische Rechtsvorhaben verabschiedet, werden die dort geschaffenen Strukturen entsprechend auch für die Verordnung (EU) 2024/1689 zuständig (Zukunftsklausel). Das könnte in Zukunft Fälle des Anhang I Abschnitt B der Verordnung (EU) 2024/1689 (u.a. im Bereich Kraftfahrzeuge) betreffen. Dadurch wird bestehende sektorspezifische Expertise genutzt und für die Unternehmen bleibt es bei den bestehenden Behörden- und Aufsichtsstrukturen. Das Gleiche gilt in den Bereichen, auf die durch die Verordnung (EU) 2024/1689 das System der Marktüberwachung erstreckt wird und in denen systematisch anders gelagerte Aufsichtsstrukturen teilweise schon bestehen (z.B. der Bereich der Medienaufsicht). Auch hier gilt, dass die Behörden aus den bestehenden Strukturen für die Marktüberwachung im Bereich der Verordnung (EU) 2024/1689 zuständig werden. In Bereichen, in denen nicht auf bestehende Strukturen im Bereich der Produktregulierung oder andere bestehende Aufsichtsstrukturen zurückgegriffen werden kann oder muss, wird die Bundesnetzagentur zuständige Marktüberwachungsbehörde und notifizierende Behörde. Werden KI-Systeme von öffentlichen Stellen der Länder in Verkehr gebracht, in Betrieb genommen oder verwendet, obliegt die Marktüberwachung den nach Landesrecht zu benennenden zuständigen Behörden. Zusätzlich wird die Bundesnetzagentur für die Innovationsförderung im Bereich der künstlichen Intelligenz (insbesondere die Einrichtung und den Betrieb eines KI-Reallabors) zuständig. Die Expertise anderer Behörden (insbesondere des Bundesamtes für Sicherheit in der Informationstechnik, des Bundeskartellamts und der Bundesbeauftragten für den Datenschutz und die Informationsfreiheit) wird im Rahmen der jeweiligen Zuständigkeitsbereiche eingebunden. Die zuständigen Behörden sorgen bei der Erfüllung ihrer Aufgaben nach diesem Gesetz für innovationsfreundliche und ressourcenschonende Prozesse. Prozesse, bei denen künstliche Intelligenz technisch verfügbar und wirtschaftlich sinnvoll vertrauenswürdig, sicher und ethisch vertretbar einsetzbar sind, sollen im Rahmen der gesetzlichen Anforderungen durch KI-Systeme automatisiert werden. III. Exekutiver Fußabdruck Die Bundesregierung hat die allgemein zugänglichen und ihr unmittelbar zugeleiteten Stellungnahmen von Interessenvertreterinnen und Interessenvertretern ausgewertet und berücksichtigt. Eine Stellungnahme, die den Inhalt des Gesetzentwurfs wesentlich bestimmt hat, lag nicht vor. IV. Alternativen Die Durchführung der Verordnung (EU) 2024/1689 ist zwingend. Insoweit gibt es keine Alternativen. Für die Marktüberwachung ist geprüft worden, ob eine zentrale Behörde mit einer Zuständigkeit für alle KI-Systeme geschaffen werden sollte, ggf. durch einen Staatsvertrag, sowie ob eine Überwachung für alle Bereiche auf Länderebene erfolgen kann. Gegen erstgenannte Alternative sprechen vor allem Zeitgründe. Ein solcher Prozess wäre innerhalb der gesetzlichen Durchführungsfrist nicht abzuschließen. Gegen die zweite Alternative spricht, dass eine möglichst einheitliche Anwendung der Verordnung (EU) 2024/1689 Voraussetzung für Rechtssicherheit, grenzüberschreitende einheitliche Rechtanwendung und Innovationsförderung ist. Im Ergebnis werden diese Ziele am besten durch einen Ansatz erreicht, der die Nutzung bestehender Strukturen und Schaffung einer neuen zentralen Zuständigkeit bei der Bundesnetzagentur vereint, was eine weitergehende Bündelung mit anderen Digitalthemen im weiteren Verlauf einschließt. So ist zum Beispiel geplant, die Bundesnetzagentur auch als zentrale Aufsichtsbehörde für die Durchsetzung und Überwachung der Verordnung (EU) 2023/2854 des Europäischen Parlaments und des Rates vom 13. Dezember 2023 über harmonisierte Vorschriften für einen fairen Datenzugang und eine faire Datennutzung sowie zur Änderung der Verordnung (EU) 2017/2394 und der Richtlinie (EU) 2020/1828 (Datenverordnung) und – neben dem Statistische Bundesamt – als zuständige Behörde für die Durchführung der Verordnung (EU) 2022/868 des Europäischen Parlaments und des Rates vom 30. Mai 2022 über europäische Daten-Governance und zur Änderung der Verordnung (EU) 2018/1724 (Daten-Governance-Rechtsakt) einzusetzen. Für den von Artikel 74 Absatz 8 der Verordnung (EU) 2024/1689 geforderten Bereich der völligen Unabhängigkeit der Marktüberwachung sind verschiedene Alternativen geprüft worden. So wäre es denkbar, die Marktüberwachung auf eine bereits eingerichtete Behörde (wie der Bundesbeauftragten für den Datenschutz und die Informationsfreiheit) zu übertragen. Hiergegen sprechen gewichtige Gründe: Bei der Aufteilung der Zuständigkeiten auf verschiedene Behörden ergeben sich Abgrenzungsschwierigkeiten, die zu unklaren Zuständigkeiten und auseinanderfallenden Ansprechpartnern für Unternehmen und Verwaltungen führen können. Unterschiedliche Auslegungen der Verordnung (EU) 2024/1689 durch verschiedene Behörden sollen vermieden werden. Die Gefahr einer unterschiedlichen Auslegung bestünde jedoch bei Benennung einer anderen Behörde als der Bundesnetzagentur, da sich die Datenschutzbehörden primär auf den Grundrechtsschutz fokussieren und keine Erfahrung im Bereich Produktregulierung haben. Die Verordnung (EU) 2024/1689 hat neben dem Grundrechtsschutz vor allem das Ziel, einheitliche Marktregeln und Rechtssicherheit zu schaffen, um Innovationen zu fördern. Schließlich gibt es absehbar einen Mangel an KI-Fachkräften. Bei einer Aufteilung der Marktüberwachung auf verschiedene Behörden würden diese um knappe Ressourcen konkurrieren und müssten jeweils getrennt Kompetenzen aufbauen. Dies wäre ineffizient und unwirtschaftlich. Auch für die Ausgestaltung der völligen Unabhängigkeit innerhalb der Bundesnetzagentur sind verschiedene Modelle geprüft worden, u.a. die Gewährleistung der Unabhängigkeit der Behörde als Ganzes oder die Schaffung einer völlig unabhängigen Abteilung innerhalb der Bundesnetzagentur. In der Abwägung zwischen rechtlichen Anforderungen und praktischer Durchführbarkeit ist die gefundene Lösung, die sich am Prinzip der bestehenden Beschlusskammern orientiert, am zweckdienlichsten. V. Gesetzgebungskompetenz Die Gesetzgebungskompetenz des Bundes beruht im Schwerpunkt auf Artikel 74 Nummer 11 des Grundgesetzes (GG; Recht der Wirtschaft) in Verbindung mit Artikel 72 Absatz 2 GG und hinsichtlich der Bußgeldvorschriften (Teil 5 des KI-Marktüberwachungs-und- Innovationsförderungs-Gesetzes in Artikel 1 des Entwurfs) auf Artikel 74 Absatz 1 Nummer 1 GG (Strafrecht). Das vorliegende Gesetz dient der Durchführung der Verordnung (EU) 2024/1689, die im Schwerpunkt als Produktregulierung wirtschaftsbezogene Anforderungen enthält. Die Voraussetzungen von Artikel 72 Absatz 2 GG liegen vor. Eine bundesgesetzliche Regelung ist hier im gesamtstaatlichen Interesse zur Durchführung der Verordnung (EU) 2024/1689 erforderlich, um ein einheitliches Vorgehen bei der Anwendung der EU-Regelungen innerhalb der Bundesrepublik Deutschland und damit zugleich die Wahrung der Rechts- und Wirtschaftseinheit sicherzustellen. Eine bundeseinheitliche Ausgestaltung der Durchführungsbestimmungen gewährleistet die Anwendung einheitlicher Maßstäbe bei der Aufsicht und Rechtsdurchsetzung hinsichtlich der Maßnahmen, die insbesondere Anbieter und Betreiber von KI-Systemen gemäß der Verordnung (EU) 2024/1689 ergreifen müssen, um KI-Systeme verordnungskonform in Verkehr zu bringen, in Betrieb zu nehmen und zu verwenden. Dem dient insbesondere das durch dieses Gesetz geschaffene Koordinierungs- und Kompetenzzentrum, das alle Marktüberwachungsbehörden und notifizierenden Behörden bei ihren aus der Verordnung (EU) 2024/1689 resultierenden Aufgaben unterstützen soll. Zudem wird die Bundesnetzagentur nach diesem Gesetz bundesweit für die Innovationsförderung im Bereich der künstlichen Intelligenz zuständig. Das Regelungsziel einer innovationsfreundlichen Durchführung der Verordnung (EU) 2024/1689 macht eine bundesgesetzliche Regelung erforderlich. Die Gesetzgebungskompetenz des Bundes für Artikel 2 ergibt sich aus Artikel 74 Absatz 1 Nummer 1 (Strafrecht, gerichtliches Verfahren), Nummer 11 (Recht der Wirtschaft) des Grundgesetzes (GG) in Verbindung mit Artikel 72 Absatz 2 GG, Artikel 74 Absatz 1 Nummer 12 (Arbeitsrecht) GG, sowie ergänzend als Annexkompetenz des Bundes zu den jeweiligen vom sachlichen Anwendungsbereich des Gesetzentwurfs berührten Gesetzgebungszuständigkeiten des Bundes nach Artikel 73 und 74 GG. Die Gesetzgebungskompetenz des Bundes für Artikel 3 ergibt sich kraft Sachzusammenhangs aus Artikel 74 Absatz 1 Nummer 12 (Arbeitsrecht, Sozialversicherung) beziehungsweise Artikel 74 Absatz 1 Nummer 7 GG (öffentliche Fürsorge) in Verbindung mit Artikel 72 Absatz 2 GG). VI. Vereinbarkeit mit dem Recht der Europäischen Union und völkerrechtlichen Verträgen Das vorliegende Gesetz ist mit dem Recht der Europäischen Union und mit völkerrechtlichen Verträgen, die die Bundesrepublik abgeschlossen hat, vereinbar. Es dient der Durchführung der Verordnung (EU) 2024/1689. VII. Gesetzesfolgen 1. Rechts- und Verwaltungsvereinfachung Es werden keine bestehenden Regelungen vereinfacht oder aufgehoben. Mit der Schaffung einer Behördenstruktur für die Durchführung der Verordnung (EU) 2024/1689 und der Formulierung von Vorschriften für die Zusammenarbeit und Kooperation der Behörden wird das Ziel verfolgt, eine möglichst einheitliche und praktikable Rechtsanwendung zu erreichen und damit den Verwaltungsaufwand für die Durchsetzung der Verordnung (EU) 2024/1689 bei allen zuständigen Behörden so gering wie möglich zu halten. Diesem Ziel dient auch die weitestmögliche Bündelung von KI-Kompetenz und Ressourcen. 2. Nachhaltigkeitsaspekte Das Gesetz steht im Einklang mit der Nachhaltigkeitsstrategie der Bundesregierung. Es dient der Durchführung der Verordnung (EU) 2024/1689. Zweck der Verordnung (EU) 2024/1689 ist es, das Funktionieren des Binnenmarkts zu verbessern und die Einführung einer auf den Menschen ausgerichteten und vertrauenswürdigen künstlichen Intelligenz (KI) und damit verbundene Innovationen zu fördern. Gleichzeitig soll ein hohes Schutzniveau in Bezug auf Gesundheit und Sicherheit und die in der Charta verankerten Grundrechte gewährleistet werden. Die Verordnung (EU) 2024/1689 fördert das reibungslose Funktionieren des Binnenmarktes, indem sie einen horizontalen Rechtsrahmen für KI-Modelle und -Systeme schafft. Die Regelungen des Gesetzentwurfs dienen den Zielen der Deutschen Nachhaltigkeitsstrategie. Insbesondere soll der Entwurf zu einem stetigen und angemessenen Wirtschaftswachstum (vgl. Deutsche Nachhaltigkeitsstrategie der Bundesregierung, Indikator 8.4) beitragen, indem die Voraussetzungen für einen wirksamen Wettbewerb gestärkt werden. Die Etablierung verlässlicher rechtlicher Rahmenbedingungen fördert zudem Innovationen, die es ermöglichen, die Zukunft mit neuen Lösungen nachhaltig zu gestalten (Nachhaltigkeitsstrategie, Ziel 9). Der Entwurf folgt damit insbesondere den Nachhaltigkeitsprinzipien „Sozialen Zusammenhalt in einer offenen Gesellschaft wahren und verbessern“ und „Bildung, Wissenschaft und Innovation als Treiber einer nachhaltigen Entwicklung nutzen“. 3. Haushaltsausgaben ohne Erfüllungsaufwand a. Bundesnetzagentur Aufgrund der Neuregelungen entstehen der Bundesnetzagentur jährliche Personaleinzelkosten für die Wahrnehmung der Fachaufgaben in Höhe von insgesamt 3 678 000 Euro, Sacheinzelkosten in Höhe von 1 137 000 Euro sowie Gemeinkosten in Höhe von 1 416 000 Euro; diese Kosten gelten ab dem Jahr 2026 und sind – vorbehaltlich einer anderweitigen Evaluierung – für die folgenden Jahre gleichbleibend.1 Nach den Ergebnissen zur Ermittlung und Darstellung des Erfüllungsaufwands sind für die Wahrnehmung der Fachaufgaben insgesamt 33,2 Planstellen erforderlich (23 im höheren Dienst (hD), 7,7 im gehobenen Dienst (gD) und 2,5 im mittleren Dienst (mD)), für den Querschnittsbereich werden weitere 9,8 Planstellen benötigt (6,8 hD, 2,3 gD und 0,7 mD). hD gD mD Fachbereich 23 7,7 2,5 33,2 Querschnittsbereich 6,8 2,3 0,7 9,8 Gesamt 29,8 10 3,2 43 Damit ergeben sich über die nächsten vier Haushaltsjahre folgenden Bedarfe. In Tsd. Euro 2026 2027 2028 2029 BNetzA Personaleinzelkosten 3 678 3 678 3 678 3 678 BNetzA Sacheinzelkosten 1 137 1 137 1 137 1 137 BNetzA Gemeinkosten 1 416 1 416 1 416 1 416 einmalige Sachkosten 1 000 1 000 1 000 lfd. Sachkosten 6 300 6 300 6 300 6 300 Gesamtkosten 13 531 13 531 13 531 12 531 Die Personal- und Sacheinzelkosten für den Querschnittsbereich (u. a. Personalverwaltung, IT-Management, Beschaffungswesen, Pressearbeit) sind im Gemeinkostenzuschlag auf die jährlichen Personal- und Sacheinzelkosten für die Fachaufgaben enthalten. Die Kosten wurden auf Grundlage des Rundschreibens für Wirtschaftlichkeitsuntersuchungen und Kostenberechnungen des Bundesministeriums der Finanzen vom 23. Juni 2025 (Gz.: II A 3 – H 1012/00236/007/015) ermittelt. Die Berechnungen des personellen Mehrbedarfs sind vor dem Hintergrund der in Abschnitt A Ziffer VIII der Begründung vorgesehenen Evaluierung zu sehen, die ggfs. eine bedarfsorientierte Nachsteuerung der Kapazitäten notwendig macht. Es entstehen einmalige Sachkosten in Höhe von 3 000 000 Euro und laufende Sachkosten in Höhe von 6 300 000 Euro insbesondere für den Betrieb und die Weiterentwicklung erforderlicher IT-Verfahren, den Betrieb eines KI-Reallabors sowie die 1 Sämtliche in diesem Kapitel aufgeführten Kosten wurden auf Grundlage des Rundschreibens für Wirtschaftlichkeitsuntersuchungen und Kostenberechnungen des Bundesministeriums der Finanzen vom 23. Juni 2025 (Gz.: II A 3 – H 1012/00236/007/015) ermittelt. Schnittstellenbereitstellung zur EU-Datenbank. Im Zusammenhang mit der Datenbank ist bei der Verarbeitung der Daten Vertraulichkeit gemäß Artikel 78 der Verordnung (EU) 2024/1689 herzustellen. In diesem Zusammenhang muss eine digitale VS-Registratur aufgebaut und betrieben werden. Zudem ist der Aufbau und Betrieb einer zentralen Beschwerdestelle und eines Koordinierungs- und Kompetenzzentrums für Fragen von nationalen Marktüberwachungs- und notifizierenden Behörden zum Thema KI erforderlich. Damit das Koordinierungs- und Kompetenzzentrumentsprechend Fachexpertise bereitstellen kann, muss ergänzend auf externe Sachverständige zurückgegriffen werden, da die horizontalen Anforderungen an KI nicht ohne externe Fachexpertise nachvollzogen werden können. Oft verfügt internes Personal über breites Wissen, aber es mangelt an der Spezialisierung in spezifischen KI-Bereichen. In den einzelnen Bereichen der 20 Harmonisierungsvorschriften aus Anhang I muss ein weites Feld mit rasanter Entwicklung abgedeckt werden. Hierfür muss sektoral spezifische KI-Kompetenz entwickelt werden. Zwar ist teilweise damit zu rechnen, dass die Implementierung von KI-Systemen in der Verwaltung mittelfristig zu Effizienzen und einer Fokussierung auf Kernaufgaben führt. Allerdings muss neue Kompetenz in neuen technologischen Bereichen zunächst aufgebaut werden. Mittelfristig dürfte damit ein geringerer Bedarf für die Einbindung externer Sachverständiger verbunden sein. Die Marktüberwachung prüft Produkte bei Akteuren in Zusammenarbeit mit dem Zoll, im Internet in Zusammenarbeit mit Online-Plattformen und mittels anonymer Testeinkäufe von Produkten, sowohl im Bereich E-Commerce als auch in einzelnen Geschäften. Damit sichere Produkte auf dem Markt zur Verfügung stehen, muss die Marktüberwachung mit entsprechenden Werkzeugen, wie Testsoftware oder Testlaboren, ausgestattet werden, um die Produkte auf ihre Konformität hin zu überprüfen. In der Verordnung (EU) 2024/1689 ist die Einrichtung mindestens eines nationalen KI- Reallabors bis zum 2. August 2026 vorgesehen. Detaillierte Regelungen für dessen Einrichtung, Entwicklung, Umsetzung, Betrieb und Beaufsichtigung müssen noch durch die Europäische Kommission im Rahmen eines Durchführungsrechtsakts festgelegt werden. Die Sachkostenschätzung für das nationale KI-Reallabor hängt maßgeblich vom Umfang des angestrebten Angebots ab. Vorliegend wird davon ausgegangen, dass lediglich eine regulatorische Begleitung ohne zusätzliche Leistung, wie etwa die Bereitstellung von technischer Infrastruktur und Daten im KI-Reallabor, stattfindet. Nach einer ersten Phase mit dem Schwerpunkt auf Aufbau und Erprobung (2026-2030) muss die Schätzung der Sachkosten erneut überarbeitet werden. Dabei sollen mögliche Veränderungen berücksichtigt werden – etwa beim Bedarf an externer Expertise (zum Beispiel ein geringerer Bedarf durch den Aufbau interner Kompetenzen), beim Leistungsumfang des KI-Reallabors (z. B. nur Begleitung von Trainings und Tests oder zusätzlich auch Tests unter realen Bedingungen) sowie bei der Anzahl der Teilnehmenden. b. Bundesanstalt für Finanzdienstleistungsaufsicht Für Kosten, die der Bundesanstalt für Finanzdienstleistungsaufsicht aus ihrer Zuständigkeit nach diesem Gesetz entstehen, gelten die Regelungen des Gesetzes über die Bundesanstalt für Finanzdienstleistungsaufsicht (Finanzdienstleistungsaufsichtsgesetz – FinDAG, siehe Artikel 3). c. Bundesamt für Sicherheit in der Informationstechnik Aufgrund der Neuregelungen dieses Gesetzes und der damit einhergehenden Übertragung neuer Aufgaben entstehen bei dem Bundesamt für Sicherheit in der Informationstechnik zusätzliche Personalkosten. Für die Wahrnehmung der neuen Fachaufgaben sind insgesamt 13 Stellen / Planstellen (11 hD, 1 gD, 1 mD) erforderlich. Hieraus resultieren voraussichtlich jährliche Personalkosten in Höhe von 1 511 000 Euro, Sacheinzelkosten in Höhe von 445 000 Euro sowie Gemeinkosten in Höhe von 575 000 Euro. d. Zentrale Stelle für Informationstechnik im Sicherheitsbereich Aufgrund der Neuregelungen dieses Gesetzes und der damit einhergehenden Übertragung neuer Aufgaben entstehen bei der Zentralen Stelle für Informationstechnik im Sicherheitsbereich zusätzliche Personalkosten für die Algorithmenbewertungsstelle für Behörden und Organisationen mit Sicherheitsaufgaben (ABOS). ABOS berät zu KI- Systemen im sicherheitsbehördlichen Kontext, begleitet beratend Erprobungen sowie Tests nach Maßgabe dieses Gesetzes und wirkt aktiv in der Standardisierung mit. Für die Wahrnehmung der neuen Fachaufgaben sind insgesamt 8 Stellen / Planstellen (5 hD, 3 gD) erforderlich. Hieraus resultieren voraussichtliche jährliche Personalkosten in Höhe von 872 000 Euro, Sacheinzelkosten in Höhe von 274 000 Euro sowie Gemeinkosten in Höhe von 337 000 Euro. Hinzu kommen einmalige Sachkosten in Höhe von 850 000 Euro. Der einmalige Sachaufwand ist erforderlich für die Beschaffung von technischer Ausstattung (z.B. leistungsfähiger Workstations) einschließlich spezialisierter Analyse- und Dokumentationswerkzeuge. e. Bundesbeauftragte für den Datenschutz und die Informationsfreiheit Durch die Zusammenarbeit mit der Bundesnetzagentur nach § 9 dieses Gesetzes entstehen der Bundesbeauftragten für den Datenschutz und die Informationsfreiheit zusätzliche Personalbedarfe im höheren Dienst. Die vorgesehene Einbeziehung der Datenschutzbeauftragten begründet neue Fachaufgaben durch regelmäßigen, strukturierten Austausch zu aufsichtsrelevanten Fragestellungen, insbesondere zur Abgrenzung und Koordinierung der jeweiligen Zuständigkeiten. Darüber hinaus sollen gemeinsame Leitfäden erarbeitet werden, um Behörden, Unternehmen und sonstigen Verpflichteten praxisnahe Orientierung zu Anwendung der KI-VO im Zusammenspiel mit dem Datenschutzrecht zu geben. Ferner sind gemeinsame Leitlinien zur einheitlichen Auslegung und Durchsetzung der einschlägigen Vorschriften angezeigt, um divergierende Verwaltungspraxis zu vermeiden. Schließlich umfasst die künftige Zusammenarbeit die gemeinsame Besprechung komplexer Einzelfälle mit dem Ziel kohärenter einheitlicher Rechtsanwendung im KI-Bereich. Nach den Ergebnissen zur Ermittlung und Darstellung des Erfüllungsaufwands sind für die Wahrnehmung der Fachaufgaben insgesamt 4,6 Planstellen im höheren Dienst (hD), erforderlich. Für die Wahrnehmung der Fachaufgabe entstehen jährlich Personalausgaben in Gesamthöhe von 1 033 000 Euro. Diese setzten sich aus Personaleinzelkosten in Höhe von 596 000 Euro, Sacheinzelkosten in Höhe von 158 000 Euro sowie Gemeinkosten in Höhe von 279 000 Euro zusammen. Die Kosten gelten ab dem Jahr 2026 und sind - vorbehaltlich einer anderweitigen Evaluierung - für die folgenden Jahre gleichbleibend. f. Bundesanstalt für Arbeitsschutz und Arbeitsmedizin Aufgrund der Neuregelungen dieses Gesetzes und der damit einhergehenden Übertragung neuer Aufgaben nach § 7 Absatz 1 und 2 entstehen bei der Bundesanstalt für Arbeitsschutz und Arbeitsmedizin zusätzliche Personalkosten. Für die Wahrnehmung der neuen Fachaufgaben sind nach den Ergebnissen zur Ermittlung und Darstellung des Erfüllungsaufwands insgesamt 5 Planstellen (1 hD, 4 gD) erforderlich. Hieraus resultieren voraussichtliche jährliche Personalgesamtkosten in Höhe von 773 052 Euro und Sachgesamtkosten in Höhe von 221 598 Euro. Daraus ergeben sich Gesamtkosten in Höhe von 994 649 Euro. Diese Kosten gelten ab dem Jahr 2027 und sind – vorbehaltlich einer anderweitigen Evaluierung – für die folgenden Jahre gleichbleibend. g. Kostentragung Der stellenmäßige Mehrbedarf in dem unter der Fachaufsicht des BMDS stehenden Bereichs der Bundesnetzagentur soll im Einzelplan des zuständigen Ressorts ausgeglichen werden. Der finanzielle Mehrbedarf soll im Einzelplan 24 des Bundesministeriums für Digitales und Staatsmodernisierung ausgeglichen werden. Im Übrigen soll der hier durch die Durchführung der Verordnung (EU) 2024/1689 entstehende Mehrbedarf an Sach- und Personalmitteln im Bereich des Bundes finanziell und stellenmäßig im jeweils betreffenden Einzelplan ausgeglichen werden. Über die Einzelheiten wird im Rahmen der jeweiligen Haushaltsaufstellungsverfahren der kommenden Jahre entschieden. 4. Erfüllungsaufwand a. Kurzbeschreibung Die Verpflichtungen für die Wirtschaft und die Bürgerinnen und Bürger ergeben sich aus der unmittelbar geltenden Verordnung (EU) 2024/1689. Mit diesem Durchführungsgesetz werden für sie keine neuen Verpflichtungen geschaffen, sondern lediglich die zuständigen Behörden benannt und deren Aufgaben und Zusammenarbeit geregelt. Ein Erfüllungsaufwand ergibt sich daher aus diesem Gesetz nicht für die Wirtschaft und die Bürgerinnen und Bürger. Vor dem Hintergrund des weit gefassten horizontalen Regulierungsansatzes, der komplexen Regelungsmaterie sowie des dynamisch wachsenden Marktumfeldes im Bereich der künstlichen Intelligenz ist die Ermittlung der Ressourcen zur Anwendung und Durchsetzung der KI-Verordnung mit zahlreichen Unsicherheiten behaftet, wodurch ggfs. eine spätere bedarfsorientierte Nachsteuerung der Kapazitäten erforderlich wird. Die Beurteilung eines notwendigen Mehrbedarfs ist insbesondere nach Durchführung der vorgesehenen Evaluierungen durch den europäischen und nationalen Gesetzgeber möglich und sollte mit diesen verknüpft werden. (vgl. Abschnitt A Ziffer VIII der Begründung). b. 1:1-Umsetzung von EU-Recht Nach dem Verursacherprinzip wird die Belastung der Ebene zugeschrieben, die die Regelung zuerst eingeführt hat (nach Beschlussdatum). Das bedeutet, dass die reine Überführung einer Regelung aus einer EU-Verordnung ins Bundesrecht keine Aufwandsänderung der Normadressaten verursacht. Neben dem Normadressaten Wirtschaft (bei diesem in Gänze) entstehen durch die KI-VO auch für die Verwaltung Aufwände, welche dieser 1:1-Umsetzung zuzuordnen sind. Für diese Vorgaben, die vom Rahmen der EU-Verordnung abgedeckt sind, entsteht kein Erfüllungsaufwand aufgrund der Bundesgesetzgebung. Folglich werden diese Vorgaben in der Schätzung nicht aufgeführt. Dies betrifft beispielsweise viele Aufwände für KI-Reallabore (Artikel 57 ff. KI-VO) oder im Kontext von Hochrisiko-KI-Systemen (Artikel 16, 26, 27, 49, 60, 84 i.V. mit den Anhängen der KIVO). Erfüllungsaufwand im Sinne dieser Schätzung entsteht nur dort, wo der nationale Gesetzgeber Konkretisierungen vornimmt und beispielsweise eine Behörde benennt (z.B. die BNetzA in § 2 Absatz 1 KI-MIG). In einem solchen Fall ist die Bundesregierung als Verursacher zu betrachten und die Regelung mit einer Änderung des Erfüllungsaufwands verbunden. c. Aufwände der Länder Der im Folgenden ausgewiesene Erfüllungsaufwand der Bundesländer basiert auf einer Hochrechnung. In der Feldphase konnte ein Großteil der Bundesländer befragt werden. Diese befragten Länder stehen für 76,5% aller Marktüberwachungstätigkeiten aller Länder. Davon ausgehend wurde der Aufwand auf die Grundgesamtheit aller Bundesländer hochgerechnet. Deshalb ist hier die Fallzahl bei 1. Der ausgewiesene Aufwand im gehobenen sowie im höheren Dienst ist somit ebenso äquivalent zur Relation der befragten Länder. Darüber hinaus gibt es mit der Zentralstelle der Länder noch eine Einrichtung, die in Vorgabe 2 aufgeführt ist. Diese erfüllt die Aufgaben in diesem Bereich für alle Bundesländer. Dieser Aufwand wurde dementsprechend nicht hochgerechnet. d. Aufwände der Bundesbehörden Vielfach wurden die Aufwände der Bundesbehörden mit einer Fallzahl von 1 ausgewiesen. Dies ist durch verschiedene Faktoren bedingt. Zum einen fiel es den Behörden schwer den Aufwand konkret zu schätzen, da oftmals keine vergleichbaren Vorgänger etabliert sind mit denen der neue KI-Bereich vergleichbar ist und dementsprechend Vorerfahrungen für Einschätzungen fehlten. Hier wurden oftmals Prozesse geschätzt, die auch mehrere Fälle beinhalten können (bspw. Parallelbearbeitung). Darüber hinaus gibt es eine große Heterogenität zwischen den Fällen, wodurch eine valide Darstellung eines typischen Einzelfalles nicht möglich ist. Des Weiteren fallen die Sachkosten meistens insgesamt (bspw. IT-Infrastruktur) an und nicht für die jeweiligen Einzelfälle. Eine Darstellung des Einzelfalles wäre in diesen Fällen nur scheingenau. e. Überblick der Erfüllungsaufwandsänderungen Erfüllungsaufwand der Verwaltung lfd. Nr. Artikel Regelungsentwurf; Norm (§§); Bezeichnung der Vorgabe Bund/ Land Jährliche Fallzahl und Einheit Jährlicher Aufwand pro Fall (Minuten * Lohnkosten pro Stunde (Hierarchieebene) + Sachkosten in Euro) Jährlicher Erfüllungsaufwand (in Tsd. Euro) oder „geringfügig“ (Begründung)“ Einmalige Fallzahl und Einheit Einmaliger Aufwand pro Fall (Minuten * Lohnkosten pro Stunde (Hierarchieebene) + Sachkosten in Euro) Einmaliger Erfüllungsaufwand (in Tsd. Euro) oder „geringfügig“ (Begründung) 1.1 § 2 i.V. m §§ 4, 9 KI-MIG; Marktüberwachung für KI-Systeme (Neu) Bund 1 BNetzA 5.799.971 Euro = (1.708.800 / 60 * 59,69 Euro/h (9% mD; 18% gD; 73% hD) +4.100.000 Euro) 5.800 1.0 BNetzA 3.000.000 Euro = (0 +3.000.000 Euro) 3.000 1.2 § 2 i.V. m §§ 4, 9 KI-MIG; Marktüberwachung für KI-Systeme (Neu) Bund 1 BaFin 2.105.264 Euro = (1.879.980 / 60 * 67,19 Euro/h (1% mD; 99% hD)) 2.105 1.0 BaFin 160.767,4 Euro = (142.693 / 60 * 67,60 Euro/h (100% hD)) 1.3 § 2 i.V. m §§ 4, 9 KI-MIG; Marktüberwachung für KI-Systeme (Neu) Land 1 Länder 26.136.587 Euro = (16.521.605 / 60 * 46,81 Euro/h (86% gD; 14% hD) +13.246.981 ,78 Euro) 26.136 1.0 Länder 2.614 Euro = (0 +2.614 Euro) 2 § 2 Abs. 7 KI- MIG; Marktüberwachung für KI- Systeme (Neu) Land 1 LMAs 621.000 Euro = (0 +621.000 Euro) - 27 - Drucksache 97/26 lfd. Nr. Artikel Regelungsentwurf; Norm (§§); Bezeichnung der Vorgabe Bund/ Land Jährliche Fallzahl und Einheit Jährlicher Aufwand pro Fall (Minuten * Lohnkosten pro Stunde (Hierarchieebene) + Sachkosten in Euro) Jährlicher Erfüllungsaufwand (in Tsd. Euro) oder „geringfügig“ (Begründung)“ Einmalige Fallzahl und Einheit Einmaliger Aufwand pro Fall (Minuten * Lohnkosten pro Stunde (Hierarchieebene) + Sachkosten in Euro) Einmaliger Erfüllungsaufwand (in Tsd. Euro) oder „geringfügig“ (Begründung) 3.1 § 3 KI-MIG; Befugniserteilung und Notifizierung (Neu) Bund 1 BNetzA 108.160 Euro = (96.000 / 60 * 67,60 Euro/h (100% hD)) 3.2 § 3 KI-MIG; Befugniserteilung und Notifizierung (Neu) Bund 1 BSI 86.803 Euro = (82.788 / 60 * 62,91 Euro/h (8% mD; 8% gD; 85% hD)) 4 § 5 KI-MIG; Aufwände im Kontext der Algorithmenbewertungsstelle für Behörden und Organisationen mit Sicherheitsaufgaben (ABOS) (Neu) Bund 1 ZITIs 1.008.720 Euro = (768.000 / 60 * 57,40 Euro/h (38% gD; 63% hD) +274.000 Euro) 1.009 1 ZITIs 850.000 Euro = (0 +850.000 Euro) 5 § 5 BNetzA; Einrichtung eines Koordinierungs- und Kompetenzzentrums (Ko- KIVO) (Neu) Bund 1 BNetzA 432.640 Euro = (384.000 / 60 * 67,60 Euro/h (100% hD)) 6 § 6 KI-MIG; Zentrale Anlaufstelle (Neu) Bund 1 BNetzA 156.632 Euro = (168.000 / 60 * 55,94 Euro/h (43% gD; 57% hD)) 7 § 7 KI-MIG; Unterrichtungen der Marktüberwachungsbehörden (Neu) Land 1 Länder 693.443 Euro = (217.748 / 60 * 50,25 Euro/h (73% gD; 27% hD) +511.079 Euro) - 28 -Drucksache 97/26 lfd. Nr. Artikel Regelungsentwurf; Norm (§§); Bezeichnung der Vorgabe Bund/ Land Jährliche Fallzahl und Einheit Jährlicher Aufwand pro Fall (Minuten * Lohnkosten pro Stunde (Hierarchieebene) + Sachkosten in Euro) Jährlicher Erfüllungsaufwand (in Tsd. Euro) oder „geringfügig“ (Begründung)“ Einmalige Fallzahl und Einheit Einmaliger Aufwand pro Fall (Minuten * Lohnkosten pro Stunde (Hierarchieebene) + Sachkosten in Euro) Einmaliger Erfüllungsaufwand (in Tsd. Euro) oder „geringfügig“ (Begründung) 7.1 § 7 Abs. 1 und 2 KI- MIG; Unterrichtungen der Marktüberwa chungsbehörden Bund 1 BAuA 366.720 Euro = (480.000 / 60 * 45,84 Euro/h (80% gD; 20% hD)) 8 § 8 KI-MIG; Beschwerdenmanagement (Neu) Bund 1 BNetzA 433.152 Euro = (552.960 / 60 * 47,00 Euro/h (14% mD; 58% gD; 28% hD)) 9.1 § 9 KI-MIG; Zusammenarbeit der zuständigen Behörden (Neu) Bund 1 BSI 900.401 Euro = (858.752 / 60 * 62,91 Euro/h (8% mD; 8% gD; 85% hD)) 9.2 § 9 KI-MIG; Zusammenarbeit der zuständigen Behörden (Neu) Bund 10 BaFin 3.324 Euro = (2.950 / 60 * 67,60 Euro/h (100% hD)) 9.3 § 9 KI-MIG; Zusammenarbeit der zuständigen Behörden (Neu) Bund 1 ADS 248.640 Euro = (240.000 / 60 * 62,16 Euro/h (20% gD; 80% hD)) 9.4 § 9 KI-MIG; Zusammenarbeit der zuständigen Behörden (Neu) Bund 1 BfDI 497.536 Euro = (441.600 / 60 * 67,60 Euro/h (100% hD)) 498 1 BfDI 37.180 Euro = (33.000 / 60 * 67,60 Euro/h (100% hD)) 9.5 § 9 KI-MIG; Zusammenarbeit der zuständigen Land 1 Länder 5.222.742 Euro = (5.261.236 / 60 * 47,29 Euro/h (84% 5.222 1 Länder 13.725 Euro = (0 +13.725 Euro) - 29 - Drucksache 97/26 lfd. Nr. Artikel Regelungsentwurf; Norm (§§); Bezeichnung der Vorgabe Bund/ Land Jährliche Fallzahl und Einheit Jährlicher Aufwand pro Fall (Minuten * Lohnkosten pro Stunde (Hierarchieebene) + Sachkosten in Euro) Jährlicher Erfüllungsaufwand (in Tsd. Euro) oder „geringfügig“ (Begründung)“ Einmalige Fallzahl und Einheit Einmaliger Aufwand pro Fall (Minuten * Lohnkosten pro Stunde (Hierarchieebene) + Sachkosten in Euro) Einmaliger Erfüllungsaufwand (in Tsd. Euro) oder „geringfügig“ (Begründung) Behörden (Neu) gD; 16% hD) +1.076.011 Euro) § 10 KI-MIG; Zusammenarbeit der Marktüberwachungsbehörden mit dem BSI (Neu) Bund 1 BSI 321.323 Euro = (306.460 / 60 * 62,91 Euro/h (8% mD; 8% gD; 85% hD)) 11 § 12 KI-MIG; Innovationsfördernde Maßnahmen (Neu) Bund 1 BNetzA 178.514 Euro = (184.320 / 60 * 58,11 Euro/h (35% gD; 65% hD)) 12 § 13 KI-MIG; Wahrnehmung von Aufsichtsaufgaben im KI-Reallabor (Neu) Bund 1 BNetzA 2.541.898 Euro = (319.680 / 60 * 64,17 Euro/h (13% gD; 87% hD) +2.200.000 Euro) 2.542 13. § 14 KI-MIG; Test von Hochrisiko- KI-Systemen (Neu) Bund 1 BNetzA 535.164 Euro = (552.000 / 60 * 58,17 Euro/h (17% mD; 13% gD; 70% hD)) 13. § 14 KI-MIG; Test von Hochrisiko- KI-Systemen (Neu) Land 1 Länder 293.624 Euro = (153.833 / 60 * 68,74 Euro/h (2% gD; 98% hD) +117.383 Euro) 294 1 Länder 7.079,6 Euro = (3.137 / 60 * 43,20 Euro/h (100% gD) +4.821 Euro) 14. § 17 KI-MIG; Für das Bußgeldverfahren zuständigen Bund 1 BNetzA 143.424 Euro = (159.360 / 60 * 54,00 Euro/h (50% gD; 50% hD)) - 30 -Drucksache 97/26 lfd. Nr. Artikel Regelungsentwurf; Norm (§§); Bezeichnung der Vorgabe Bund/ Land Jährliche Fallzahl und Einheit Jährlicher Aufwand pro Fall (Minuten * Lohnkosten pro Stunde (Hierarchieebene) + Sachkosten in Euro) Jährlicher Erfüllungsaufwand (in Tsd. Euro) oder „geringfügig“ (Begründung)“ Einmalige Fallzahl und Einheit Einmaliger Aufwand pro Fall (Minuten * Lohnkosten pro Stunde (Hierarchieebene) + Sachkosten in Euro) Einmaliger Erfüllungsaufwand (in Tsd. Euro) oder „geringfügig“ (Begründung) Verwaltungsbehörden (Neu) 14. § 17 KI-MIG; Für das Bußgeldverfahren zuständigen Verwaltungsbehörden (Neu) Land 1 Länder 10.333 Euro = (0 +10.333 Euro) 132 1 Länder 4.653 Euro = (0 +4.653 Euro) Summe (in Tsd. Euro) 48.997 4.076 davon auf Bundesebene 15.898 4.048 davon auf Landesebene (inklusive Kommunen) 33.099 28 *Spiegelvorgaben werden in der Spalte 'Artikel Regelungsentwurf; Norm (§§); Bezeichnung der Vorgabe' einheitlich gekennzeichnet. f. Erläuterung der Erfüllungsaufwandsänderungen ausgewählter Vorgaben nach Normadressat Vorgabe 1: Marktüberwachung nach § 2 KI-MIG Veränderung des jährlichen Erfüllungsaufwands des Bundes: Erfüllungsaufwand der Verwaltung lfd. Nr. Artikel Regelungsentwurf; Norm (§§); Bezeichnung der Vorgabe Bund/ Land Jährliche Fallzahl und Einheit Jährlicher Aufwand pro Fall (Minuten * Lohnkosten pro Stunde (Hierarchieebene) + Sachkosten in Euro) Jährlicher Erfüllungsaufwand (in Tsd. Euro) oder „geringfügig“ (Begründung)“ Einmalige Fallzahl und Einheit Einmaliger Aufwand pro Fall (Minuten * Lohnkosten pro Stunde (Hierarchieebene) + Sachkosten in Euro) Einmaliger Erfüllungsaufwand (in Tsd. Euro) oder „geringfügig“ (Begründung) 1.1 § 2 i.V. m §§ 4, 9 KIMIG; Marktüberwachung für KI-Systeme (Neu) Bund 1.0 BNetzA 5.799.971 Euro = (1.708.800 / 60 * 59,69 Euro/h (9% mD; 18% gD; 73% hD) +4.100.000 Euro) 5.800 1.0 BNetzA 3.000.000 Euro = (0 +3.000.000 Euro) 3.000 1.2 § 2 i.V. m §§ 4, 9 KI-MIG; Marktüberwachung für KI-Systeme (Neu) Bund 1.0 BaFin 2.105.264 Euro = (1.879.980 / 60 * 67,19 Euro/h (1% mD; 99% hD)) 2.105 1.0 BaFin 160.767 Euro = (142.693 / 60 * 67,60 Euro/h (100% hD)) 1.3 § 2 i.V. m §§ 4, 9 KI-MIG; Marktüberwachung für KI-Systeme (Neu) Land 1.0 Länder 26.136.587 Euro = (16.521.605 / 60 * 46,81 Euro/h (86% gD; 14% hD) +13.246.981 ,78 Euro) 26.136 1.0 Länder 2.614 Euro = (0 +2.614 Euro) Summe (in Tsd. Euro) 34.042 3.163 davon auf Bundesebene 7.905 3.161 davon auf Landesebene (inklusive Kommunen) 26.136 3 Aus § 2 ergeben sich Aufwände für die Marktüberwachungsbehörden. Hiervon ist auf Bundesebene zum großen Teil die Bundesnetzagentur betroffen, welche in § 2 Absatz 1 KI-MIG explizit als Marktüberwachungsbehörde gemäß Artikel 70 Absatz 1 Satz 1 der Verordnung (EU) 2024/1689 benannt wird. Deren einmalige Sachkosten ergeben sich aus der Einrichtung eines geeigneten IT-Systems. Die Personalaufwände entstehen aus der Wahrnehmung der Fachaufgaben der Marktüberwachung Die jährlichen Sachkosten ergeben sich aus dem Betrieb des IT-Systems, KI-spezifischen Schulungen und Netzwerkarbeit. Darüber hinaus entstehen auch für die Bundesanstalt für Finanzdienstleistungsaufsicht Aufwände. Im Detail resultieren die jährlichen Aufwände aus der Analyse und Auswertung von Unterlagen, Inspektionen oder der Einforderung von Informationen. Des Weiteren kann es zu Ermittlungen kommen, um Verstöße festzustellen, was darüber hinaus die Einforderung und Überprüfung von Korrekturmaßnahmen zur Folge haben kann. Die einmaligen Kosten entstehen durch die Schaffung interner Strukturen und organisatorischer Rahmenbedingungen sowie durch den Aufbau von KI-Kompetenz. Den Ländern entstehen Aufwände durch die Einbeziehung ihrer Marktüberwachungsbehörden, die in § 2 Absatz 2 explizit benannt werden und zur Ausführung von Aufgaben nach der in Anhang I Abschnitt A der Verordnung (EU) 2024/1689 genannten Harmonisierungsrechtsvorschriften bestimmt wurden. So übernehmen die Landesbehörden, die bereits für die Marktüberwachung in bestimmten Produktbereichen zuständig sind, zusätzlich die Aufgaben als Marktüberwachungsbehörde auch für KI-Systeme, die in diesen Bereichen eingesetzt werden. Dementsprechend müssen die Geschäftsbereiche, die beispielsweise technische Geräte oder Agrarprodukte überwachen, künftig auch KI-bezogene Sicherheits-, Risiko- und Transparenzanforderungen prüfen. Hierfür müssen für die Marktüberwachung in den jeweiligen Produktsektoren Personal für Produktkontrollen und Sachmittel für die benötigte technische Ausstattung bereitgestellt werden. Vorgabe 2: § 2 Absatz 7 KI-MIG; Marktüberwachung für KI-Systeme Erfüllungsaufwand der Verwaltung lfd. Nr. Artikel Regelungsentwurf; Norm (§§); Bezeichnung der Vorgabe Bund/ Land Jährliche Fallzahl und Einheit Jährlicher Aufwand pro Fall (Minuten * Lohnkosten pro Stunde (Hierarchieebene) + Sachkosten in Euro) Jährlicher Erfüllungsaufwand (in Tsd. Euro) oder „geringfügig“ (Begründung)“ Einmalige Fallzahl und Einheit Einmaliger Aufwand pro Fall (Minuten * Lohnkosten pro Stunde (Hierarchieebene) + Sachkosten in Euro) Einmaliger Erfüllungsaufwand (in Tsd. Euro) oder „geringfügig“ (Begründung) § 2 Abs. 7 KI- MIG; Marktüberwachung für KI- Systeme (Neu) Land 1 LMAs 621.000 Euro = (0 +621.000 Euro) Summe (in Tsd. Euro) davon auf Bundesebene davon auf Landesebene (inklusive Kommunen) - 33 - Drucksache 97/26 Die Landesmedienanstalten sind staatsferne Aufsichtsbehörden der Bundesländer. Zu den Aufgaben der Landesmedienanstalten zählt unter anderem die Überwachung privater Rundfunk- und Fernsehanbieter sowie von Telemedien. Sie überwachen vor allem die Einhaltung der Vorschriften aus dem Medienstaatsvertrag, dem Jugendmedienschutz- Staatsvertrag sowie den Landesmediengesetzen bzw. Medienstaatsverträgen der Länder. Um diese schon bestehenden Aufsichtsstrukturen zu nutzen, sollen die Landesmedienanstalten die Marktüberwachung übernehmen, wenn zu journalistischen Zwecken oder zu Werbezwecken KI-Systeme eingesetzt werden. Vorgabe 3: Befugniserteilung und Notifizierung nach § 3 KI-MIG Erfüllungsaufwand der Verwaltung lfd. Nr. Artikel Regelungsentwurf; Norm (§§); Bezeichnung der Vorgabe Bund/ Land Jährliche Fallzahl und Einheit Jährlicher Aufwand pro Fall (Minuten * Lohnkosten pro Stunde (Hierarchieebene) + Sachkosten in Euro) Jährlicher Erfüllungsaufwand (in Tsd. Euro) oder „geringfügig“ (Begründung)“ Einmalige Fallzahl und Einheit Einmaliger Aufwand pro Fall (Minuten * Lohnkosten pro Stunde (Hierarchieebene) + Sachkosten in Euro) Einmaliger Erfüllungsaufwand (in Tsd. Euro) oder „geringfügig“ (Begründung) 3.1 § 3 KI-MIG; Befugniserteilung und Notifizierung (Neu) Bund 1 BNetzA 108.160 Euro = (96.000 / 60 * 67,60 Euro/h (100% hD)) 3.2 § 3 KI-MIG; Befugniserteilung und Notifizierung (Neu) Bund 1 BSI 86.803 Euro = (82.788 / 60 * 62,91 Euro/h (8% mD; 8% gD; 85% hD)) Summe (in Tsd. Euro) davon auf Bundesebene davon auf Landesebene (inklusive Kommunen) Dieses Gesetz benennt die Bundesnetzagentur in Absatz 1 als notifizierende Behörde gemäß Artikel 70 Absatz 1 Satz 1 der Verordnung (EU) 2024/1689. Ihr entstehen Personalaufwände durch Einrichtung und Durchführung der erforderlichen Verfahren zur Bewertung, Benennung und Notifizierung von Konformitätsbewertungsstellen und deren Überwachung. Zugleich ist das Bundesamt für Sicherheit in der Informationstechnik als zentrale Stelle für Informationssicherheit auf nationaler Ebene gemäß § 1 Satz 2 BSIG die auf Bundesebene zuständige Behörde. Die Personalaufwände des Bundesamts für Sicherheit in der Informationstechnik entstehen durch Begutachtung, Überwachung oder der Pflege von Programmen im Rahmen von Verwaltungsverfahren der Befugniserteilung und Notifizierung. Vorgabe 4: Aufwände im Kontext Koordinierungs- und Kompetenzzentrum für die Durchführung der Verordnung (EU) 2024/1689nach § 5 KI-MIG Erfüllungsaufwand der Verwaltung lfd. Nr. Artikel Regelungsentwurf; Norm (§§); Bezeichnung der Vorgabe Bund/ Land Jährliche Fallzahl und Einheit Jährlicher Aufwand pro Fall (Minuten * Lohnkosten pro Stunde (Hierarchieebene) + Sachkosten in Euro) Jährlicher Erfüllungsaufwand (in Tsd. Euro) oder „geringfügig“ (Begründung)“ Einmalige Fallzahl und Einheit Einmaliger Aufwand pro Fall (Minuten * Lohnkosten pro Stunde (Hierarchieebene) + Sachkosten in Euro) Einmaliger Erfüllungsaufwand (in Tsd. Euro) oder „geringfügig“ (Begründung) § 5 KI-MIG; Aufwände im Kontext der Algorithmenbewertungsstelle für Behörden und Organisationen mit Sicherheitsaufgaben (ABOS) (Neu) Bund 1 ZITIs 1.008.720 Euro = (768.000 / 60 * 57,40 Euro/h (38% gD; 63% hD) +274.000 Euro) 1.009 1 ZITIs 850.000 Euro = (0 +850.000 Euro) Summe (in Tsd. Euro) 1.009 850 davon auf Bundesebene 1.009 850 davon auf Landesebene (inklusive Kommunen) 0 0 Im Rahmen der Vorgabe 5 kann die Bundesnetzagentur auch externen Sachverstand hinzuziehen. Zu den externen Experten, die die Bundesnetzagentur hinzuziehen kann, zählt zentralen Stelle für Informationstechnik im Sicherheitsbereich und die dort angesiedelte Algorithmenbewertungsstelle für Behörden und Organisationen mit Sicherheitsaufgaben (ABOS) Durch den nach der Begründung zu dieser Vorschrift vorgesehenen Rückgriff auf die dort bestehende Expertise entsteht bei der zentralen Stelle für Informationstechnik im Sicherheitsbereich Aufwand. Vorgabe 5: Einrichtung eines Koordinierungs- und Kompetenzzentrums (KoKIVO) nach § 5 KI-MIG Erfüllungsaufwand der Verwaltung lfd. Nr. Artikel Regelungsentwurf; Norm (§§); Bezeichnung der Vorgabe Bund/ Land Jährliche Fallzahl und Einheit Jährlicher Aufwand pro Fall (Minuten * Lohnkosten pro Stunde (Hierarchieebene) + Sachkosten in Euro) Jährlicher Erfüllungsaufwand (in Tsd. Euro) oder „geringfügig“ (Begründung)“ Einmalige Fallzahl und Einheit Einmaliger Aufwand pro Fall (Minuten * Lohnkosten pro Stunde (Hierarchieebene) + Sachkosten in Euro) Einmaliger Erfüllungsaufwand (in Tsd. Euro) oder „geringfügig“ (Begründung) § 5 BNetzA; Einrichtung eines Koordinierungs- und Kompetenzzentrums (Ko- KIVO) (Neu) Bund 1 BNetzA 432.640 Euro = (384.000 / 60 * 67,60 Euro/h (100% hD)) Summe (in Tsd. Euro) davon auf Bundesebene davon auf Landesebene (inklusive Kommunen) Die Bundesnetzagentur hat ein Koordinierungs- und Kompetenzzentrum einzurichten, um die Abstimmung mit den zuständigen Behörden zu erleichtern. Der Bundesnetzagentur entsteht infolgedessen Personalaufwand. Das Zentrum wird permanenter Ansprechpartner für die nach § 2 und § 3 zuständigen Behörden, Koordinierungsstelle für diese und sonstige Behörden und wichtiger Akteur bei der Aufstellung von Verhaltenskodizes. Vorgabe 6: Zentrale Anlaufstelle nach § 6 KI-MIG Erfüllungsaufwand der Verwaltung lfd. Nr. Artikel Regelungsentwurf; Norm (§§); Bezeichnung der Vorgabe Bund/ Land Jährliche Fallzahl und Einheit Jährlicher Aufwand pro Fall (Minuten * Lohnkosten pro Stunde (Hierarchieebene) + Sachkosten in Euro) Jährlicher Erfüllungsaufwand (in Tsd. Euro) oder „geringfügig“ (Begründung)“ Einmalige Fallzahl und Einheit Einmaliger Aufwand pro Fall (Minuten * Lohnkosten pro Stunde (Hierarchieebene) + Sachkosten in Euro) Einmaliger Erfüllungsaufwand (in Tsd. Euro) oder „geringfügig“ (Begründung) § 6 KI-MIG; Zentrale Anlaufstelle (Neu) Bund 1 BNetzA 156.632 Euro = (168.000 / 60 * 55,94 Euro/h (43% gD; 57% hD)) Summe (in Tsd. Euro) davon auf Bundesebene davon auf Landesebene (inklusive Kommunen) § 6 Absatz 1 des KI-MIG benennt die Bundesnetzagentur als zentrale Anlaufstelle im Sinne von Artikel 70 Absatz 2 Satz 3 der Verordnung (EU) 2024/1689. Die Aufwände in diesem Zusammenhang resultieren für die Bundesnetzagentur dadurch, dass sie Ansprechpartnerin der Europäischen Union ist und die nach dieser Vorschrift vorgesehenen Meldungen (über notifizierende Behörden und Marktüberwachungsbehörden) macht. Die zentrale Anlaufstelle fungiert als Schnittstelle zum Büro für Künstliche Intelligenz auf EU- Ebene und ist Ansprechpartnerin gegenüber der Öffentlichkeit und anderen Akteure auf EU-Ebene. Vorgabe 7: Unterrichtung durch Marktüberwachungsbehörden nach § 7 KI-MIG Erfüllungsaufwand der Verwaltung lfd. Nr. Artikel Regelungsentwurf; Norm (§§); Bezeichnung der Vorgabe Bund/ Land Jährliche Fallzahl und Einheit Jährlicher Aufwand pro Fall (Minuten * Lohnkosten pro Stunde (Hierarchieebene) + Sachkosten in Euro) Jährlicher Erfüllungsaufwand (in Tsd. Euro) oder „geringfügig“ (Begründung)“ Einmalige Fallzahl und Einheit Einmaliger Aufwand pro Fall (Minuten * Lohnkosten pro Stunde (Hierarchieebene) + Sachkosten in Euro) Einmaliger Erfüllungsaufwand (in Tsd. Euro) oder „geringfügig“ (Begründung) 7.1 § 7 KI-MIG; Unterrichtungen der Land 1 Länder 693.443 Euro = (217.748 / 60 * 50,25 - 37 - Drucksache 97/26 lfd. Nr. Artikel Regelungsentwurf; Norm (§§); Bezeichnung der Vorgabe Bund/ Land Jährliche Fallzahl und Einheit Jährlicher Aufwand pro Fall (Minuten * Lohnkosten pro Stunde (Hierarchieebene) + Sachkosten in Euro) Jährlicher Erfüllungsaufwand (in Tsd. Euro) oder „geringfügig“ (Begründung)“ Einmalige Fallzahl und Einheit Einmaliger Aufwand pro Fall (Minuten * Lohnkosten pro Stunde (Hierarchieebene) + Sachkosten in Euro) Einmaliger Erfüllungsaufwand (in Tsd. Euro) oder „geringfügig“ (Begründung) Marktüberwachungsbehörden (Neu) Euro/h (73% gD; 27% hD) +511.079 Euro) 7.2 § 7 Abs. 1 und 2 KI- MIG; Unterrichtungen der Marktüberwa chungsbehörden (Neu) Bund 1 BAuA 366.720 Euro = (480.000 / 60 * 45,84 Euro/h (80% gD; 20% hD)) Summe (in Tsd. Euro) 1.060 davon auf Bundesebene davon auf Landesebene (inklusive Kommunen) 1.060 § 7 bestimmt, dass die zuständige Marktüberwachungsbehörde die Unterrichtungen nach Artikel 79, 81, und 82 der Verordnung (EU) 2024/1689 über die Bundesanstalt für Arbeitsschutz und Arbeitsmedizin vorzunehmen hat. Die Bundesanstalt für Arbeitsschutz und Arbeitsmedizin wird als nationaler Knotenpunkt für Mitteilungen der Marktüberwachungsbehörden in Richtung Europäische Kommission und übrige Mitgliedstaaten etabliert. Somit übernimmt die Bundesanstalt für Arbeitsschutz und Arbeitsmedizin hier die Aufgaben der zuständigen Behörde im Kontext von Sicherheit und Gesundheit in der Arbeitswelt. Diese bestehen bspw. aus dem Beobachten nach Inverkehrbringen (Artikel 72 ff. Verordnung (EU) 2024/1689). Darüber hinaus agiert sie als Schnittstelle zwischen EU- Ebene und den Bundes- sowie Länderbehörden der Marktüberwachung im Kontext unsicherer KI-Produkte. Auf Länderebene entstehen den Marktüberwachungsbehörden durch die Konzeption und Durchführung der bereits genannten Unterrichtungen ebenfalls Personalaufwände. Die durchgeführten Marktüberwachungsmaßnahmen dienen der Sicherstellung der Konformität. Deshalb gibt es notwendigerweise Meldungen bei Nichtkonformität oder Risiken. Hierdurch entstehen Berichtspflichten an die Bundesanstalt für Arbeitsschutz und Arbeitsmedizin. Die Ansprechpersonen erwarten hier auch Fälle, die in Zusammenarbeit zwischen den Ländern und der Bundesanstalt für Arbeitsschutz und Arbeitsmedizin erfolgen. Sachkosten können für die Einschaltung externer Expertise (Inanspruchnahme von Dienstleistern) für den Bereich Produktsicherheit entstehen. Vorgabe 8: Beschwerdemanagement nach § 8 KI-MIG Erfüllungsaufwand der Verwaltung lfd. Nr. Artikel Regelungsentwurf; Norm (§§); Bezeichnung der Vorgabe Bund/ Land Jährliche Fallzahl und Einheit Jährlicher Aufwand pro Fall (Minuten * Lohnkosten pro Stunde (Hierarchieebene) + Sachkosten in Euro) Jährlicher Erfüllungsaufwand (in Tsd. Euro) oder „geringfügig“ (Begründung)“ Einmalige Fallzahl und Einheit Einmaliger Aufwand pro Fall (Minuten * Lohnkosten pro Stunde (Hierarchieebene) + Sachkosten in Euro) Einmaliger Erfüllungsaufwand (in Tsd. Euro) oder „geringfügig“ (Begründung) § 8 KI-MIG; Beschwerdenmanagement (Neu) Bund 1 BNetzA 433.152,0 Euro = (552.960 / 60 * 47,00 Euro/h (14% mD; 58% gD; 28% hD)) Summe (in Tsd. Euro) davon auf Bundesebene davon auf Landesebene (inklusive Kommunen) Die Bundesnetzagentur wird in § 8 KI-MIG als zentrale Beschwerdestelle benannt. Sie befasst sich in diesem Kontext mit Beschwerden über Verstöße gegen Bestimmungen der Verordnung (EU) 2024/1689. Nach Eingang der Beschwerde wird eine Prüfung der Zuständigkeit durchgeführt und daraufhin wird die Beschwerde an die für sie zuständige Marktüberwachungsbehörde weitergeleitet. Die Bundesnetzagentur informiert den Beschwerdeführer über die Weiterleitung an die andere nach § 2 KI-MIG zuständige Marktüberwachungsbehörde. Vorgabe 9: Zusammenarbeit der zuständigen Behörden nach § 9 Absatz 1 u. 2 KI-MIG Erfüllungsaufwand der Verwaltung lfd. Nr. Artikel Regelungsentwurf; Norm (§§); Bezeichnung der Vorgabe Bund/ Land Jährliche Fallzahl und Einheit Jährlicher Aufwand pro Fall (Minuten * Lohnkosten pro Stunde (Hierarchieebene) + Sachkosten in Euro) Jährlicher Erfüllungsaufwand (in Tsd. Euro) oder „geringfügig“ (Begründung)“ Einmalige Fallzahl und Einheit Einmaliger Aufwand pro Fall (Minuten * Lohnkosten pro Stunde (Hierarchieebene) + Sachkosten in Euro) Einmaliger Erfüllungsaufwand (in Tsd. Euro) oder „geringfügig“ (Begründung) 9.1 § 9 KI-MIG; Zusammenarbeit der zuständigen Behörden (Neu) Bund 1 BSI 900.401 Euro = (858.752 / 60 * 62,91 Euro/h (8% mD; 8% gD; 85% hD)) 9.2 § 9 KI-MIG; Zusammenarbeit der zuständigen Behörden (Neu) Bund 10 BaFin 3.324 Euro = (2.950 / 60 * 67,60 Euro/h (100% hD)) 9.3 § 9 KI-MIG; Zusammenarbeit der zuständigen Behörden (Neu) Bund 1 ADS 248.640 Euro = (240.000 / 60 * 62,16 Euro/h (20% gD; 80% hD)) 9.4 § 9 KI-MIG; Zusammenarbeit der zuständigen Behörden (Neu) Bund 1 BfDI 497.536 Euro = (441.600 / 60 * 67,60 Euro/h (100% hD)) 498 1 BfDI 37.180 Euro = (33.000 / 60 * 67,60 Euro/h (100% hD)) 9.5 § 9 KI-MIG; Zusammenarbeit der zuständigen Behörden (Neu) Land 1 Länder 5.222.742 Euro = (5.261.236 / 60 * 47,29 Euro/h (84% gD; 16% hD) +1.076.011 Euro) 5.222 1 Länder 13.725 Euro = (0 +13.725 Euro) Summe (in Tsd. Euro) 6.902 51 davon auf Bundesebene 1.680 37 davon auf Landesebene (inklusive Kommunen) 5.222 14 Die Vorschrift sieht verschiedene Formen der Zusammenarbeit vor, die zu Aufwänden bei den betroffenen Behörden führen. So hat ein allgemeiner Austausch stattzufinden, bei dem die gegenseitige Information über konkrete Marktüberwachungstätigkeiten oder -prüfungen und Maßnahmen im Vordergrund steht. Aufgrund regelmäßiger Ermittlungen, die Erkenntnisse zu technischen, rechtlichen und normativen Entwicklungen des KI-Marktes hervorbringen, gibt es zudem Bedarf diese datenschutzrechtlich zu analysieren, zu bewerten und zu dokumentieren. Dies wird ebenfalls Bestandteil regelmäßiger Abstimmungen der Behörden sein. Darüber hinaus erfüllen die Behörden weitere Aufgaben. So entsteht für das Bundesamt für Sicherheit in der Informationstechnik zusätzlicher Aufwand aufgrund von ihr zu erstellender Fachgutachten. Die Bundesanstalt für Finanzdienstleistungsaufsicht stellt die Aufsichtskonvergenz sicher (KI-Gremium). Die Antidiskriminierungsstelle des Bundes informiert die zuständigen Marktüberwachungsbehörden über beabsichtigte Maßnahmen. Darüber hinaus teilt sie Beobachtungen und Feststellungen an die zuständigen Marktüberwachungsbehörden mit, die diese zur Erfüllung beidseitiger Aufgaben nach der Verordnung benötigen. Nach § 9 KI-MIG sollen die Landesbehörden eng mit Bundesbehörden zusammenzuarbeiten, Beobachtungen und Prüfberichte zu KI-Systemen austauschen und ggf. auch personenbezogene oder betriebsinterne Daten teilen, soweit dies erforderlich ist. Für die Länder entstehen somit Prüf-, Dokumentations- und ggf. Meldepflichten für behördliche Stellungnahmen gegenüber der von der KI-Marktüberwachung zur Stellungnahme aufgeforderten Rechts- oder Fachaufsichtsbehörde. Hier werden Verdachtsmeldungen der KI-Marktüberwachungsbehörden an die zuständige Rechts- und Fachaufsichtsbehörde erfolgen, die einen Prüfungs- und Stellungnahmeaufwand für die jeweilige Landesbehörde verursacht. Diese Aufgaben erfordern den Aufbau neuer Koordinations- und Kommunikationsstrukturen, was zu den ausgewiesenen Sachkosten führt. Vorgabe 10: Zusammenarbeit der Marktüberwachungsbehörden mit dem Bundesamt für Sicherheit in der Informationstechnik nach § 10 KI-MIG Erfüllungsaufwand der Verwaltung lfd. Nr. Artikel Regelungsentwurf; Norm (§§); Bezeichnung der Vorgabe Bund/ Land Jährliche Fallzahl und Einheit Jährlicher Aufwand pro Fall (Minuten * Lohnkosten pro Stunde (Hierarchieebene) + Sachkosten in Euro) Jährlicher Erfüllungsaufwand (in Tsd. Euro) oder „geringfügig“ (Begründung)“ Einmalige Fallzahl und Einheit Einmaliger Aufwand pro Fall (Minuten * Lohnkosten pro Stunde (Hierarchieebene) + Sachkosten in Euro) Einmaliger Erfüllungsaufwand (in Tsd. Euro) oder „geringfügig“ (Begründung) § 10 KI-MIG; Zusammenarbeit der Marktüberwachungsbehörden mit dem BSI (Neu) Bund 1 BSI 321.323 Euro = (306.460 / 60 * 62,91 Euro/h (8% mD; 8% gD; 85% hD)) Summe (in Tsd. Euro) davon auf Bundesebene - 41 - Drucksache 97/26 lfd. Nr. Artikel Regelungsentwurf; Norm (§§); Bezeichnung der Vorgabe Bund/ Land Jährliche Fallzahl und Einheit Jährlicher Aufwand pro Fall (Minuten * Lohnkosten pro Stunde (Hierarchieebene) + Sachkosten in Euro) Jährlicher Erfüllungsaufwand (in Tsd. Euro) oder „geringfügig“ (Begründung)“ Einmalige Fallzahl und Einheit Einmaliger Aufwand pro Fall (Minuten * Lohnkosten pro Stunde (Hierarchieebene) + Sachkosten in Euro) Einmaliger Erfüllungsaufwand (in Tsd. Euro) oder „geringfügig“ (Begründung) davon auf Landesebene (inklusive Kommunen) Das Bundesamt für Sicherheit in der Informationstechnik nimmt die Aufgaben nach § 10 wahr. Sie teilt den zuständigen Marktüberwachungsbehörden Informationen über Verdachtsfälle hinsichtlich der Nichtkonformität der Hochrisiko-KI-Systeme mit den Anforderungen der Cybersicherheit mit, arbeitet an der Erstellung von Normen und Leitlinien der Europäischen Kommission, Gremienkoordination und gemeinsamen Spezifikationen mit. Vorgabe 11: Innovationsfördernde Maßnahmen nach § 12 KI-MIG Erfüllungsaufwand der Verwaltung lfd. Nr. Artikel Regelungsentwurf; Norm (§§); Bezeichnung der Vorgabe Bund/ Land Jährliche Fallzahl und Einheit Jährlicher Aufwand pro Fall (Minuten * Lohnkosten pro Stunde (Hierarchieebene) + Sachkosten in Euro) Jährlicher Erfüllungsaufwand (in Tsd. Euro) oder „geringfügig“ (Begründung)“ Einmalige Fallzahl und Einheit Einmaliger Aufwand pro Fall (Minuten * Lohnkosten pro Stunde (Hierarchieebene) + Sachkosten in Euro) Einmaliger Erfüllungsaufwand (in Tsd. Euro) oder „geringfügig“ (Begründung) § 12 KI-MIG; Innovationsfördernde Maßnahmen (Neu) Bund 1 BNetzA 178.514 Euro = (184.320 / 60 * 58,11 Euro/h (35% gD; 65% hD)) Summe (in Tsd. Euro) davon auf Bundesebene davon auf Landesebene (inklusive Kommunen) - 42 -Drucksache 97/26 Die Vorschrift sieht vor, dass die Bundesnetzagentur innovationsfördernde Maßnahmen gemäß der Verordnung (EU) 2024/1689 durchführen soll. Die Bundesnetzagentur stellt Informationen zur Verfügung, führt Sensibilisierungs- und Schulungsmaßnahmen sowie Studien, Analysen und Fachveranstaltungen durch und fördert Wissensaufbau und Vernetzung. Vorgabe 12: Wahrnehmung von Aufsichtsaufgaben im KI-Reallabor nach § 13 KI-MIG Erfüllungsaufwand der Verwaltung lfd. Nr. Artikel Regelungsentwurf; Norm (§§); Bezeichnung der Vorgabe Bund/ Land Jährliche Fallzahl und Einheit Jährlicher Aufwand pro Fall (Minuten * Lohnkosten pro Stunde (Hierarchieebene) + Sachkosten in Euro) Jährlicher Erfüllungsaufwand (in Tsd. Euro) oder „geringfügig“ (Begründung)“ Einmalige Fallzahl und Einheit Einmaliger Aufwand pro Fall (Minuten * Lohnkosten pro Stunde (Hierarchieebene) + Sachkosten in Euro) Einmaliger Erfüllungsaufwand (in Tsd. Euro) oder „geringfügig“ (Begründung) § 13 KI-MIG; Wahrnehmung von Aufsichtsaufgaben im KI-Reallabor (Neu) Bund 1 BNetzA 2.541.897,8 Euro = (319.680 / 60 * 64,17 Euro/h (13% gD; 87% hD) +2.200.000 Euro) 2.542 Summe (in Tsd. Euro) 2.542 davon auf Bundesebene 2.542 davon auf Landesebene (inklusive Kommunen) Die Bundesnetzagentur betreibt nach §13 Absatz 1 mindestens ein KI-Reallabor nach den Artikeln 57 u. 58 der Verordnung (EU) 2024/1689. Das KI-Reallabor soll insbesondere für kleinen und mittleren Unternehmen sowie Start-up-Unternehmens nützlich sein. Für die Einrichtung und den Betrieb des Labors fallen jährliche Sachkosten an. Neben den Aufwänden für den Betrieb entstehen für die Bundesnetzagentur auch Personalaufwände für die Kooperation mit beteiligten Akteuren. Die Pflicht zur Kooperation umfasst insbesondere die enge Zusammenarbeit mit der zuständigen Datenschutzaufsichtsbehörde, die auch die Prüfung der datenschutzrechtlichen Vorgaben nach Artikel 59 der Verordnung (EU) 2024/1689 übernimmt. Vorgabe 13: Test von Hochrisiko-KI-Systemen unter Realbedingungen außerhalb von KI-Reallaboren nach § 14 KI-MIG Erfüllungsaufwand der Verwaltung lfd. Nr. Artikel Regelungsentwurf; Norm (§§); Bezeichnung der Vorgabe Bund/ Land Jährliche Fallzahl und Einheit Jährlicher Aufwand pro Fall (Minuten * Lohnkosten pro Stunde (Hierarchieebene) + Sachkosten in Euro) Jährlicher Erfüllungsaufwand (in Tsd. Euro) oder „geringfügig“ (Begründung)“ Einmalige Fallzahl und Einheit Einmaliger Aufwand pro Fall (Minuten * Lohnkosten pro Stunde (Hierarchieebene) + Sachkosten in Euro) Einmaliger Erfüllungsaufwand (in Tsd. Euro) oder „geringfügig“ (Begründung) 13. § 14 KI-MIG; Test von Hochrisiko- KI-Systemen (Neu) Bund 1.0 BNetzA 535.164,0 Euro = (552.000 / 60 * 58,17 Euro/h (17% mD; 13% gD; 70% hD)) 13. § 14 KI-MIG; Test von Hochrisiko- KI-Systemen (Neu) Land 1.0 Länder 293.625,4 Euro = (153.833,50 / 60 * 68,74 Euro/h (2% gD; 98% hD) +117.383,50 Euro) 294 1.0 Länder 7.079,3 Euro = (3.137,06 / 60 * 43,20 Euro/h (100% gD) +4.820,61 Euro) Summe (in Tsd. Euro) 829 7 davon auf Bundesebene 535 0 davon auf Landesebene (inklusive Kommunen) 294 7 Um Hochrisiko-KI-Systeme unter Realbedingungen testen zu können, müssen Anbieter oder künftige Anbieter Pläne für die entsprechenden Tests den jeweils zuständigen Marktüberwachungsbehörden vorlegen. Hieraus entstehen der BNetzA Aufwände, da sie den Plan für den Test prüfen und sowohl den Plan als auch den Test unter Realbedingungen selbst genehmigen muss.. Für die Überwachung der Durchführung von Tests unter Realbedingungen außerhalb von KI-Reallaboren für Hochrisiko-KI-Systeme entstehen auch für die Länder Aufwände. So muss die Durchführung der Tests unter Realbedingungen sowie der Plan für den Test unter Realbedingungen, wenn die Vorgaben des Artikels 60 Absatz 4 der Verordnung (EU) 2024/1689 eingehalten sind, genehmigt werden. Vorgabe 14: Für das Bußgeldverfahren zuständigen Verwaltungsbehörden nach § 17 KI-MIG Erfüllungsaufwand der Verwaltung lfd. Nr. Artikel Regelungsentwurf; Norm (§§); Bezeichnung der Vorgabe Bund/ Land Jährliche Fallzahl und Einheit Jährlicher Aufwand pro Fall (Minuten * Lohnkosten pro Stunde (Hierarchieebene) + Sachkosten in Euro) Jährlicher Erfüllungsaufwand (in Tsd. Euro) oder „geringfügig“ (Begründung)“ Einmalige Fallzahl und Einheit Einmaliger Aufwand pro Fall (Minuten * Lohnkosten pro Stunde (Hierarchieebene) + Sachkosten in Euro) Einmaliger Erfüllungsaufwand (in Tsd. Euro) oder „geringfügig“ (Begründung) 14. § 17 KI-MIG; Für das Bußgeldverfahren zuständigen Verwaltungsbehörden (Neu) Bund 1.0 BNetzA 143.424 Euro = (159.360 / 60 * 54,00 Euro/h (50% gD; 50% hD)) 14. § 17 KI-MIG; Für das Bußgeldverfahren zuständigen Verwaltungsbehörden (Neu) Land 1.0 Länder 10.332 Euro = (0 +10.332,69 Euro) 132 1.0 Länder 4.653 Euro = (0 +4.653,30 Euro) Summe (in Tsd. Euro) 275 5 davon auf Bundesebene 143 0 davon auf Landesebene (inklusive Kommunen) 132 5 § 17 Absatz 1 legt die zuständigen Verwaltungsbehörden für das Bußgeldverfahren fest. Für diese Verwaltungsbehörden entsteht Erfüllungsaufwand, da sie bei Verstößen gegen die Verordnung (EU) 2024/1689 Ordnungswidrigkeiten sanktionieren. Bei der Überwachung der Transparenzstellen entsteht auf Bundesebene nur bei der Bundesnetzagentur Erfüllungsaufwand. Auf Länderebene entstehen den Marktüberwachungsbehörden ebenfalls Aufwände durch die Sanktionierung von Ordnungswidrigkeiten. 5. Weitere Kosten Für die Wirtschaft entstehen durch dieses Gesetz keine über die Verordnung (EU) 2024/1689 hinausgehenden weiteren Kosten. Preisauswirkungen sind nicht zu erwarten. 6. Weitere Gesetzesfolgen Dieses Gesetz dient der Durchführung der Verordnung (EU) 2024/1689. Aus ihm ergeben sich keine über die Verordnung (EU) 2024/1689 hinausgehenden Gesetzesfolgen. Mit der Einrichtung einer zentralen Beschwerdestelle wird dem nach Artikel 85 der Verordnung (EU) 2024/1689 vorgesehenen Recht der Beschwerde bei der zuständigen Marktüberwachungsbehörde Geltung verschafft. Dadurch werden die Rechte der Verbraucherinnen und Verbraucher gestärkt. VIII. Befristung; Evaluierung Eine Befristung des Gesetzes zur Durchführung der Verordnung über künstliche Intelligenz kommt nicht in Betracht, da die Regelungen zur Durchführung der Verordnung (EU) 2024/1689 auf Dauer angelegt sind. Eine Evaluierung ist auf Ebene der Europäischen Union in Artikel 112 der Verordnung (EU) 2024/1689 vorgesehen. Artikel 112 der Verordnung (EU) 2024/1689 enthält verschiedene Evaluierungsaufträge an die Europäische Kommission. Gemäß Absatz 2 Buchstabe c) zählt dazu unter anderem, dass die Europäische Kommission bis zum 2. August 2028 und danach alle vier Jahre Änderungen zur Verbesserung der Wirksamkeit des Überwachungs- und Governance-Systems bewertet und dem Europäischen Parlament und dem Rat dazu Bericht erstattet. In den Berichten soll insbesondere auch auf folgende Aspekte eingegangen werden: den Sachstand bezüglich der finanziellen, technischen und personellen Ressourcen der zuständigen nationalen Behörden im Hinblick auf deren Fähigkeit, die ihnen auf der Grundlage der Verordnung (EU) 2024/1689 übertragenen Aufgaben wirksam zu erfüllen, und den Stand der Sanktionen, insbesondere der Bußgelder nach Artikel 99 Absatz 1 der Verordnung (EU) 2024/1689, die Mitgliedstaaten bei Verstößen gegen die Verordnung (EU) 2024/1689 verhängt haben (vgl. Artikel 112 Absatz 4 Buchstabe a) und b) der Verordnung (EU) 2024/1689). Gemäß Artikel 112 Absatz 13 der Verordnung (EU) 2024/1689 nimmt die Europäische Kommission zudem bis zum 2. August 2031 unter Berücksichtigung der ersten Jahre der Anwendung der Verordnung (EU) 2024/1689 eine Bewertung der Durchsetzung der Verordnung vor und erstattet dem Europäischen Parlament, dem Rat und dem Europäischen Wirtschafts- und Sozialausschuss darüber Bericht. Auf Grundlage der Ergebnisse wird dem Bericht gegebenenfalls ein Vorschlag zur Änderung der Verordnung (EU) 2024/1689 beigefügt, der die Struktur der Durchsetzung und die Notwendigkeit einer Agentur der Union für die Lösung festgestellter Mängel betrifft. Soweit sich aus den Evaluierungen auf Ebene der Europäischen Union Änderungsbedarf ergeben sollte, ist das Durchführungsgesetz entsprechend anzupassen. Eine umfassende Evaluierung der mit diesem Gesetz festgelegten nationalen Aufsichts- und Behördenstruktur soll spätestens nach drei Jahren erfolgen. Dabei soll evaluiert werden, ob mit der Aufsichts- und Behördenstruktur, einschließlich der Kooperationsvorschriften, eine innovationsfreundliche und bürokratiearme Durchführung der Verordnung (EU) 2024/1689 erreicht wurde. Kriterien könnten dabei Einschätzungen zur Innovationsfreundlichkeit aus Unternehmensperspektive sowie Einschätzungen der zuständigen Behörden zu deren finanziellen, technischen und personellen Ressourcen und deren Zusammenarbeit mit dem Koordinierungs- und Kompetenzzentrum sowie der bürokratiearmen Durchführung der Verordnung (EU) 2024/1689 sein. Für die Zwecke der Evaluierung sollen insbesondere die Bundesnetzagentur sowie weitere repräsentativ aus den verschiedenen von der Verordnung (EU) 2024/1689 betroffenen Bereichen ausgewählte zuständige Behörden befragt werden und die an die Europäische Kommission zur Ausarbeitung des Berichts nach Artikel 112 Absatz 2 Buchstabe c) und Absatz 13 der Verordnung (EU) 2024/1689 übermittelten Informationen ausgewertet werden. B. Besonderer Teil Zu Artikel 1 (Gesetz zur Marktüberwachung und zur Sicherstellung der Konformität von Systemen künstlicher Intelligenz – KI-Marktüberwachungs-und- Innovationsförderungs-Gesetz) Zu Teil 1 (Allgemeine Vorschriften) Zu § 1 (Anwendungsbereich) § 1 regelt den sachlichen Anwendungsbereich des Gesetzes. Dieser ergibt sich aus jenen Regelungen der Verordnung (EU) 2024/1689, die einer Durchführung durch nationale Vorschriften bedürfen. Nach Artikel 2 Absatz 1 der Verordnung (EU) 2024/1689 gilt diese unter den dort genannten Voraussetzungen u.a. für Anbieter, Betreiber, Einführer und Händler von KI-Systemen gemäß Artikel 3 Nummer 1 der Verordnung (EU) 2024/1689 sowie für Bevollmächtigte von Anbietern, die sich nicht in der Europäischen Union befinden, und für Produkthersteller, die solche KI-Systeme zusammen mit ihrem Produkt unter ihrem eigenen Namen oder ihrer Handelsmarke in Verkehr bringen oder in Betrieb nehmen. Ergänzend zu der insoweit anwendbaren Verordnung (EU) 2024/1689 legt das vorliegende Gesetz die zuständigen nationalen Behörden fest, trifft verfahrensrechtliche Festlegungen zu den von diesen Behörden zu ergreifenden Maßnahmen, regelt die durchführungsbedürftigen Einzelheiten zur Innovationsförderung und trifft notwendige Festlegungen zu den Sanktionen bei Verstößen gegen die Vorschriften der Verordnung (EU) 2024/1689. Die Beaufsichtigung und Durchsetzung der in Kapitel V der Verordnung (EU) 2024/1689 geregelten Anforderungen an KI-Modelle mit allgemeinem Verwendungszweck liegt dabei ausschließlich bei der Europäischen Kommission, die die Durchführung dieser Aufgaben mit Artikel 88 Absatz 1 Satz 2 der Verordnung (EU) 2024/1689 dem Büro für Künstliche Intelligenz übertragen hat. Zu Teil 2 (Zuständige Behörden und Zusammenarbeit) Zu Abschnitt 1 (Zuständige Behörden) §§ 2 und 3 dienen der Durchführung von Artikel 70 Absatz 1 Satz 1 und Artikel 28 Absatz 1 und 2 der Verordnung (EU) 2024/1689. Danach muss jeder Mitgliedstaat für die Zwecke dieser Verordnung mindestens eine notifizierende Behörde und mindestens eine Marktüberwachungsbehörde als zuständige nationale Behörden einrichten oder benennen. Diese Behörden üben ihre Befugnisse gemäß Artikel 70 Absatz 1 Satz 2 der Verordnung (EU) 2024/1689 unabhängig, unparteiisch und unvoreingenommen aus, um die Objektivität ihrer Tätigkeiten und Aufgaben zu gewährleisten und die Anwendung und Durchführung der Verordnung sicherzustellen. Die Verordnung (EU) 2024/1689 ist im Kern eine Produktregulierung und greift mit dem System der nachträglichen Marktüberwachung und der Konformitätsbewertung und Notifizierung auf bekannte Regulierungskonzepte aus Marktüberwachungsbehörden, notifizierenden Behörden und notifizierten Stellen zurück. Das System der Marktüberwachung wird durch die Verordnung (EU) 2024/1689 zudem auf neue Bereiche erstreckt, die von ihm bisher nicht erfasst waren. Dies gilt vor allem für Bereiche, in denen systematisch anders gelagerte Aufsichtsstrukturen bestehen (u.a. der Finanzdienstleistungsbereich und der Bereich der Medienaufsicht) und Bereiche wie den in Anhang III genannten (Hochrisiko-KI-Systeme in den Bereichen Biometrie, Kritische Infrastruktur, KI am Arbeitsplatz und in Bildungseinrichtungen, Gewährung grundlegender öffentlicher Leistungen, Strafverfolgung, Migration, Asyl, Grenzkontrolle und Justiz), in denen nicht auf bestehende Aufsichtsstrukturen zurückgegriffen werden kann. Vor diesem Hintergrund werden in §§ 2 und 3 einerseits die bereits bestehenden Behörden als Marktüberwachungsbehörden und notifizierende Behörden gemäß der Verordnung (EU) 2024/1689 benannt oder den nach Landesrecht zuständigen Behörden die Marktüberwachung über KI-Systeme von öffentlichen Stellen der Länder übertragen. Andererseits wird mit der Bundesnetzagentur ergänzend eine zentrale Behörde benannt, der über ihre Aufgaben als Marktüberwachungsbehörde (§ 2 Absatz 1) und notifizierende Behörde (§ 3 Absatz 1) hinaus auch eine Koordinierungs- und Kompetenzfunktion zukommen soll (§ 5), wodurch die Gefahr einer uneinheitlichen Auslegung und Anwendung der Verordnung (EU) 2024/1689 deutlich reduziert sowie der begrenzten Verfügbarkeit von KI-Fachkräften begegnet werden soll. Für die Überwachung bestimmter Hochrisiko-KI-Systeme wird gemäß Artikel 74 Absatz 8 der Verordnung (EU) 2024/1689 bei der Bundesnetzagentur zudem eine Unabhängige KI- Marktüberwachungskammer eingerichtet (§ 4). Die Bundesnetzagentur wird auch Zentrale Anlaufstelle (§ 6) und Zentrale Beschwerdestelle (§ 8). Zu § 2 (Marktüberwachungsbehörden) § 2 legt die jeweils zuständige Marktüberwachungsbehörde fest. Inhaltlich umfassen die Aufgaben der Marktüberwachung die Aufsicht über die Einhaltung der Vorschriften zu verbotenen Praktiken im KI-Bereich (Kapitel II der Verordnung (EU) 2024/1689), zu Hochrisiko-KI-Systemen (Kapitel III der Verordnung (EU) 2024/1689) und zu Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme (Kapitel IV der Verordnung (EU) 2024/1689). Die Zuständigkeit der Marktüberwachungsbehörden nach dieser Vorschrift erstreckt sich auch auf die Prüfung eines KI-Systems im Hinblick auf seine Einstufung als Hochrisiko-KI- System auf der Grundlage der in Artikel 6 der Verordnung (EU) 2024/1689 festgelegten Bedingungen und der Leitlinien der Kommission. Zu Absatz 1 § 2 Absatz 1 benennt die Bundesnetzagentur als Marktüberwachungsbehörde gemäß Artikel 70 Absatz 1 Satz 1 der Verordnung (EU) 2024/1689, soweit diese Aufgabe keiner anderen Behörde zugewiesen wird. Das betrifft die Bereiche, in denen nicht bereits bestehende Behörden benannt werden (vgl. hierzu die Absätze 2 bis 7) und damit vor allem die in Anhang III der Verordnung (EU) 2024/1689 genannten Bereiche. Die Benennung der Bundesnetzagentur als Marktüberwachungsbehörde für die in Artikel 74 Absatz 8 Satz 1 der Verordnung (EU) 2024/1689 genannten Bereiche hat gemäß Artikel 43 Absatz 1 Unterabsatz 2 Satz 2 der Verordnung (EU) 2024/1689 auch zur Folge, dass die Bundesnetzagentur die Funktion der notifizierten Stelle übernimmt, wenn ein Hochrisiko-KI-System im Sinne der Verordnung (EU) 2024/1689 von Strafverfolgungs-, Einwanderungs- oder Asylbehörden in Betrieb genommen werden soll. Die Bundesnetzagentur bedarf insoweit jedoch nicht der Anerkennung als notifizierte Stelle. Bei KI-Systemen, die in den Anwendungsbereich der Verordnung (EU) 2024/2847 (Cyberresilienz-Verordnung) fallen und nach Artikel 6 der Verordnung (EU) 2024/1689 als Hochrisiko-KI-Systeme eingestuft sind, sind die für die Zwecke der Verordnung (EU) 2024/1689 benannten Marktüberwachungsbehörden auch für die nach der Verordnung (EU) 2024/2847 erforderlichen Marktüberwachungstätigkeiten zuständig. Das ergibt sich aus Artikel 52 Absatz 14 der Verordnung (EU) 2024/2847. Diese Vorschrift regelt den Fall, dass es unterschiedliche Marktüberwachungsbehörden nach der Verordnung (EU) 2024/1689 einerseits und nach der Verordnung (EU) 2024/2847 andererseits gibt. Fällt ein Produkt unter beide Verordnungen, ist die Bundesnetzagentur nach § 2 Absatz 1 oder jede andere nach diesem Gesetz zuständige Marktüberwachungsbehörde in solchen Fällen wegen der Regelung in Artikel 52 Absatz 14 Satz 1 Verordnung (EU) 2024/2847 auch für die Überwachung der Pflichten aus der Verordnung (EU) 2024/2847 zuständig. Sie arbeitet in diesem Fall gemäß Artikel 52 Absatz 14 Satz 2 der Verordnung (EU) 2024/2847 mit der unter der Verordnung (EU) 2024/2847 zu benennenden Marktüberwachungsbehörde zusammen. Die nach diesem Gesetz zuständige Marktüberwachungsbehörde unterrichtet insbesondere die nach der Verordnung (EU) 2024/2847 zu benennende Marktüberwachungsbehörde über alle Erkenntnisse, die für die Wahrnehmung ihrer Aufgaben im Zusammenhang mit der Durchführung der Verordnung (EU) 2024/2847 von Bedeutung sind. Einer gesetzgeberischen Entscheidung im Zusammenhang mit der Benennung einer Marktüberwachungsbehörde nach Artikel 52 Absatz 2 der Verordnung (EU) 2024/2847 wird nicht vorgriffen. Zu Absatz 2 § 2 Absatz 2 benennt die zuständigen Marktüberwachungsbehörden für den Anwendungsbereich des Anhang I Abschnitt A der Verordnung (EU) 2024/1689. Dazu orientiert sich § 2 Absatz 2 an Artikel 74 Absatz 3 Unterabsatz 1 der Verordnung (EU) 2024/1689. Danach gilt bei Hochrisiko-KI-Systemen und damit in Zusammenhang stehenden Produkten, auf die die in Anhang I Abschnitt A der Verordnung (EU) 2024/1689 aufgeführten Harmonisierungsrechtsvorschriften der Europäischen Union Anwendung finden, als Marktüberwachungsbehörde für die Zweck