Entwurf eines Gesetzes zur Durchführung der Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU) Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien 2014/90/EU, (EU) 2016/797 und (EU) 2020/1828 (Gesetz zur Durchführung der Verordnung über künstliche Intelligenz)

Entwurf eines Gesetzes zur Durchführung der Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU) Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien 2014/90/EU, (EU) 2016/797 und (EU) 2020/1828 (Gesetz zur Durchführung der Verordnung über künstliche Intelligenz) ... Vertrieb: Bundesanzeiger Verlag GmbH, Postfach 10 05 34, 50445 Köln Telefon (02 21) 97 66 83 40, Fax (02 21) 97 66 83 44, www.bundesanzeiger-verlag.de ISSN 0720-2946 Bundesrat Drucksache 97/1/26 16.03.26 E m p f e h l u n g e n der Ausschüsse DS - AIS - AV - Fz - In - K - R - Wi zu Punkt ... der 1063. Sitzung des Bundesrates am 27. März 2026 Entwurf eines Gesetzes zur Durchführung der Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU) Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien 2014/90/EU, (EU) 2016/797 und (EU) 2020/1828 (Gesetz zur Durchführung der Verordnung über künstliche Intelligenz) A Der federführende Ausschuss für Digitales und Staatsmodernisierung (DS), der Ausschuss für Arbeit, Integration und Sozialpolitik (AIS), der Ausschuss für Agrarpolitik und Verbraucherschutz (AV), der Finanzausschuss (Fz), der Ausschuss für Innere Angelegenheiten (In), der Rechtsausschuss (R) und der Wirtschaftsausschuss (Wi) empfehlen dem Bundesrat, zu dem Gesetzentwurf gemäß Artikel 76 Absatz 2 des Grundgesetzes wie folgt Stellung zu nehmen: ... 1. Zu Artikel 1 (§ 2 Absatz 1 und Absatz 2 KI-MIG) Artikel 1 § 2 ist wie folgt zu ändern: a) In Absatz 1 ist nach der Angabe „Marktüberwachungsbehörde“ die Angabe „einschließlich der in Artikel 74 Absatz 3 Unterabsatz 1 genannten Fälle“ einzufügen. b) Absatz 2 ist zu streichen. Begründung: Der vorliegende Gesetzentwurf befördert Doppelstrukturen bei Bund und Ländern. Um einen effektiven, einheitlichen und bürokratiearmen Vollzug der komplexen Fachmaterie sicherzustellen, sollte der Bund von seiner Abweichungsmöglichkeit i. S. des Artikel 74 Absatz 3 Unterabsatz 2 der Verordnung (EU) 2024/1689 Gebrauch machen und damit die Aufwendungen der Länder minimieren. Der Grundsatz „eine Behörde, ein Produkt“ ist in diesem Fall verfehlt. 2. Zu Artikel 1 (§ 2 Absatz 1 Satz 2 – neu – und 3 – neu – und § 13 Absatz 1 Satz 3 – neu – KI-MIG) Artikel 1 ist wie folgt zu ändern: a) Nach § 2 Absatz 1 Satz 1 sind die folgenden Sätze einzufügen: „Für die Einrichtung und den Betrieb von KI-Reallaboren durch Landesbehörden sind vorrangig die nach Landesrecht für die Einrichtung solcher Labore als zuständig benannten Behörden die dafür zuständigen Marktüberwachungsbehörden; im Übrigen die in § 2 Absatz 6 und 8 benannten Behörden. Die Landesregierungen werden ermächtigt, Näheres zur Durchführung durch Rechtsverordnung zu regeln.“ b) Nach § 13 Absatz 1 Satz 2 ist der folgende Satz einzufügen: „Die Länder werden ermächtigt, entsprechende KI-Reallabore einzurichten und zu betreiben.“ Begründung: Der Vorschlag stellt sicher, dass auch auf Landesebene KI-Reallabore mit landesspezifischen Schwerpunkten im Sinne des Artikel 57 Absatz 2 der Verordnung (EU) 2024/1689 eingerichtet und betrieben werden können. Die AIS DS Wi Bei Annahme entfallen Ziffer 3 und Ziffer 4 und Ziffer Wi ... Länder können die zuständige Landes-Marktüberwachungsbehörde sowie die näheren Einzelheiten der Einrichtung und des Betriebs von KI-Reallaboren regeln. Um KI-Reallabore auf regionaler oder lokaler Ebene handelt es sich auch dann, wenn Akteuren aus anderen Ländern oder Staaten, insbesondere Mitgliedstaaten der Europäischen Union, die Teilnahme erlaubt wird. Entscheidend ist die Begleitung durch die Landes-Marktüberwachungsbehörde. 3. Zu Artikel 1 (§ 2 Absatz 2 KI-MIG)* Artikel 1 § 2 Absatz 2 ist durch den folgenden Absatz 2 zu ersetzen: „(2) Für den Zeitraum von zwölf Monaten nach Inkrafttreten dieses Gesetzes nimmt die Bundesnetzagentur die Aufgaben der Marktüberwachung gemäß der Verordnung (EU) 2024/1689 im Sinne des Absatzes 1 wahr, soweit KI- Systeme betroffen sind, die mit solchen Produkten in Zusammenhang stehen, auf die die in Anhang I Abschnitt A der Verordnung (EU) 2024/1689 genannten Harmonisierungsrechtsvorschriften anzuwenden sind. Dies gilt auch für die Aufgaben nach Artikel 74 Absatz 3 Unterabsatz 1 der Verordnung (EU) 2024/1689, soweit in diesem Gesetz nichts anderes bestimmt ist. Nach Ablauf des in Satz 1 genannten Zeitraums richtet sich die Zuständigkeit nach den durch Bundes- oder Landesrecht bestimmten Marktüberwachungsbehörden. Die Befugnis der Länder, von der Bündelungsoption nach Artikel 74 Absatz 3 Unterabsatz 2 der Verordnung (EU) 2024/1689 nach Ablauf der 12 Monatsfrist Gebrauch zu machen, bleibt davon unberührt.“ Begründung: Die vorgeschlagene Regelung verfolgt das Ziel, zwei gegenwärtig bestehende Problemfelder einer konsistenten und sachgerechten Lösung zuzuführen. Zum einen besteht ein unmittelbarer Regelungsbedarf hinsichtlich der Marktüberwachung von KI-Systemen. Zum anderen ist im Lichte der föderalen Modernisierungsagenda dem Ziel der Zentralisierung und strukturellen Verschlankung staatlicher Aufgaben Rechnung zu tragen. Die föderale Modernisierungsagenda enthält bislang keine zeitliche Konkretisierung für eine entsprechende Reform. Um dennoch zeitnah zu einer tragfähigen und strukturell kohärenten Lösung mit Blick auf die Regelung der Marktüberwachung zu gelangen, wird vorgeschlagen, die Aufgabe der Marktüberwachung nach § 2 Absatz 2 KI-MIG vorübergehend vollständig dem Bund zuzuweisen und damit die in der KI-Verordnung eröffnete Bündelungsoption zu * Hilfsempfehlung zu Ziffer 1 DS Entfällt bei Annahme von Ziffer 1 Bei Annahme entfällt Ziffer 4 ... nutzen. Diese Aufgabenzuweisung soll auf einen Zeitraum von zwölf Monaten befristet werden. Diese Frist stellt eine Maximalfrist dar und kann nach Schaffung von entsprechenden Bündelungsregelungen verringert werden. Die vorgesehene Frist erscheint auch angemessen, um auf der Grundlage praktischer Erfahrungen und organisatorischer Erkenntnisse konkrete Reformvorschläge zu erarbeiten. Sie schafft zugleich einen verbindlichen zeitlichen Rahmen für die Prüfung und Umsetzung dauerhafter Strukturentscheidungen. Soweit als dauerhafte Lösung der Abschluss von Staatsverträgen zwischen den Ländern in Betracht gezogen wird, was im Bereich der Produktsicherheit gelebte Praxis darstellt, ist die vorgesehene Frist zwar ambitioniert, jedoch realistisch erreichbar. Die Befristung setzt dabei einen notwendigen Impuls zur zügigen Abstimmung und Entscheidungsfindung. Die interimsweise Zuweisung der Aufgabe an den Bund trägt darüber hinaus dem Ziel Rechnung, redundante Organisationsstrukturen auf Ebene der Länder zu vermeiden. Sie ermöglicht eine vorübergehende Bündelung von Expertise und Ressourcen und verhindert den Aufbau paralleler Strukturen, deren dauerhafte Notwendigkeit noch nicht abschließend geklärt ist. Insgesamt schafft die vorgeschlagene Regelung damit einen pragmatischen, zeitlich klar strukturierten Rahmen, um sowohl den regulatorischen Anforderungen im Bereich der KI-Marktüberwachung als auch den Zielsetzungen der föderalen Modernisierung gerecht zu werden. 4. Zu Artikel 1 (§ 2 Absatz 1 und 2 KI-MIG) a)* Der Bundesrat nimmt zur Kenntnis, dass der Bund die Absicht hat, die Aufgabe der Marktüberwachung bezüglich KI-Systemen, die im Zusammenhang mit Produkten stehen, auf welche die in Anhang I Abschnitt A der Verordnung (EU) 2024/1689 genannten Harmonisierungsvorschriften Anwendung finden, denjenigen Behörden zuzuweisen, die nach Bundes- oder Landesrecht für die Marktüberwachung zuständig sind. Der Bundesrat hält den Grundsatz „eine Behörde, ein Produkt“ angesichts der komplexen Fachmaterie in diesem Fall für verfehlt. Die deutschen Hersteller von Produkten, in denen KI verwendet wird, stehen einer massiven außereuropäischen Konkurrenz gegenüber, die im Wege des Internethandels versuchen wird, nicht konforme Produkte in der EU anzubieten. Das heißt, die deutschen Hersteller sind darauf angewiesen, dass es für den Vollzug der KI-Verordnung eine einheitliche, kompetente und leistungsstarke Behörde gibt. Wird die Zu- * Im AIS als Hilfsempfehlung zu Ziffer 1 beschlossen. AIS AV R Wi Entfällt bei Annahme von Ziffer 1 oder Ziffer 3 Bei Annahme entfällt Ziffer 26 ... ständigkeit für den Vollzug von Produkten mit KI aber auf die zum Beispiel für Maschinen, Spielzeug bzw. Medizinprodukte zuständigen Landesbehörden übertragen, führte dies zu maximaler Zersplitterung auf mehr als fünfzig Behörden. Der Bundesrat bittet daher, im weiteren Gesetzgebungsverfahren eine Streichung des § 2 Absatz 2 KI-MIG-E zu prüfen. b)* Der Bundesrat weist dessen unbeschadet darauf hin, dass die Verordnung (EU) 2024/1689 ausdrücklich zulässt, eine andere einschlägige Marktüberwachungsbehörde zu benennen. Der Bundesrat weist außerdem darauf hin, dass demgegenüber die aktuelle vom Bund gewählte Formulierung auf Länderebene keine Abweichung von der im Entwurf getroffenen Zuständigkeitsregelung zulässt. Somit schließt sich eine Zentralisierung der sich aus der Verordnung (EU) 2024/1689 ergebenden Vollzugsaufgaben aus, wenn nicht gleichzeitig die Vollzugsaufgaben bezüglich der harmonisierten Vorschriften mit zentralisiert werden. Hierin sieht der Bundesrat einen bedenklichen Eingriff in die Selbstorganisation der Länder. Er bittet daher darum, im weiteren Gesetzgebungsverfahren von der Abweichungsmöglichkeit Gebrauch zu machen und zumindest eine an Artikel 74 Absatz 3 Unterabsatz 2 der Verordnung (EU) 2024/1689 angelehnte Öffnungsklausel aufzunehmen, dass die Länder die für den Vollzug der Verordnung (EU) 2024/1689 zuständige Marktüberwachungsbehörde bestimmen können, unabhängig von den Zuständigkeiten für die Marktüberwachung der in Anhang I Abschnitt A der Verordnung (EU) 2024/1689 genannten Harmonisierungsrechtsakte. 5. c) Der Bundesrat stellt des Weiteren fest, dass der Bund in § 2 Absatz 2 KI-MIG-E über die in Artikel 74 Absatz 3 der Verordnung (EU) 2024/1689 formulierte Aufgabenzuweisung hinausgeht. Artikel 74 Absatz 3 der Verordnung (EU) 2024/1689 bezieht sich ausschließlich auf Hochrisiko-KI-Systeme und damit in Zusammenhang stehende Produkte, auf die die in Anhang I Abschnitt A aufgeführten Harmonisierungsrechtsvorschriften der Union Anwendung finden. Der Vollzug der in Kapitel II der Verordnung (EU) 2024/1689 geregelten Verbote ist hiervon nur erfasst, wenn es sich um ein Hochrisiko-KI-System oder ein * Im AIS als Hilfsempfehlung zu Ziffer 1 beschlossen. AIS AV DS R Wi ... damit in Zusammenhang stehendes Produkt handelt. Für den Vollzug von Kapitel II müsste in den Ländern zusätzliche Fachkompetenz aufgebaut werden, die über die anderen Aufgaben nach KI-Verordnung hinausgeht. Daher bittet der Bundesrat, auch im Interesse eines schlanken Vollzuges, im weiteren Gesetzgebungsverfahren zu prüfen, die Überwachung von Kapitel II, soweit erforderlich unter Inanspruchnahme der Abweichungskompetenz, einheitlich der in § 2 Absatz 1 KI-MIG-E benannten Behörde zuzuweisen. 6. Zu Artikel 1 (§ 2 Absatz 3 Satz 1, Absatz 4 KI-MIG) In Artikel 1 § 2 Absatz 3 Satz 1 und Absatz 4 ist die Angabe „in direktem Zusammenhang“ jeweils durch die Angabe „im Zusammenhang“ zu ersetzen. Begründung: Laut Gesetzentwurf soll die Bundesanstalt für Finanzdienstleistungsaufsicht (BaFin) als KI-Marktaufsichtsbehörde nur für KI-Systeme zuständig sein, die von Finanzunternehmen eingesetzt werden und „in direktem Zusammenhang“ mit einer regulierten Finanztätigkeit stehen. Es ist aber unklar, warum es eines zusätzlichen Erfordernisses des „direkten“ Zusammenhangs bedarf. Unternehmen, die der BaFin-Aufsicht unterliegen, setzen KI-Systeme in ganz unterschiedlicher Form ein: Die Spanne dürfte mindestens von Chatbots über KI-Anwendungen für die interne Unternehmensführung und das Risikomanagement bis hin zum Einsatz bei Kreditwürdigkeitsprüfungen reichen. Die Bundesregierung verlangt in der Begründung zu ihrem Gesetzentwurf einen direkten Zusammenhang zwischen dem KI-System und der Erbringung der Finanztätigkeit. Exemplarisch nennt sie hierfür KI-Systeme, die für die Kreditwürdigkeitsprüfung oder für die Risikobewertung und Preisbildung im Fall von Lebens- und Krankenversicherungen verwendet werden sollen. KI- Anwendungen in diesen Bereichen sind ausdrücklich im Anhang III gemäß Artikel 6 Absatz 2 der KI-Verordnung (Verordnung (EU) 2024/1689) als Hochrisiko-KI-Systeme aufgeführt. Der geforderte direkte Zusammenhang zwischen dem KI-System und der Erbringung der Finanztätigkeit ist in diesen Fällen unzweifelhaft gegeben, denn diese KI-Systeme werden unmittelbar im Rahmen der Leistungserbringung gegenüber Kundinnen und Kunden eingesetzt. Unklar bleibt die Situation bei KI-Systemen, die eher in einem indirekten Zusammenhang mit der Erbringung der beaufsichtigten Finanztätigkeit (z. B. Kreditgeschäft bei Banken) stehen, etwa wenn sie bei der Unternehmensteue- Fz ... rung (Controlling, Risikomanagement, Personal) eingesetzt werden. Die aufsichtsrechtlichen Vorgaben in den Bereichen Risikomanagement und Unternehmensführung werden in dem Erwägungsgrund 158 der KI-Verordnung ausdrücklich als Grund genannt, warum die nationale Finanzaufsichtsbehörde (in Deutschland die BaFin) auch als KI-Marktaufsichtsbehörde für beaufsichtigte Unternehmen zuständig werden soll. Ob beaufsichtigte Unternehmen KI-Systeme nutzen, die in keinem Zusammenhang mit der beaufsichtigten Finanztätigkeit stehen, ist mangels Einblicks des Bundesrates in die Unternehmen nicht bekannt. Auch aus systematischen Gründen lässt sich das Erfordernis eines „direkten“ Zusammenhangs nicht begründen. Nach § 2 Absatz 2 KI-MIG-E werden andere Behörden mit spezifischen Aufsichtsbefugnissen ebenfalls zu KI-Marktaufsichtsbehörden bestimmt, soweit ein Zusammenhang mit ihrer jeweiligen Aufsichtsbefugnis besteht. Eine Einschränkung auf einen „direkten“ Zusammenhang fehlt dort. Aus diesen Gründen spricht sich der Bundesrat für eine klare Zuständigkeit der BaFin als KI-Marktaufsichtsbehörde für die von ihr beaufsichtigten Unternehmen aus. 7. Zu Artikel 1 (§ 2 Absatz 3 KI-MIG) Der Bundesrat bittet, im weiteren Verlauf des Gesetzgebungsverfahrens zu prüfen, inwieweit es durch die Regelung des § 2 Absatz 3 zum Aufbau einer Doppelstruktur bei der Aufsicht über den Einsatz von KI-Systemen bei Kreditinstituten kommen könnte, indem dort für KI-gestützte Systeme im Zusammenhang mit regulierter Finanztätigkeit die Bundesanstalt für Finanzdienstleistungsaufsicht, für die übrigen KI-Systeme aber die Bundesnetzagentur zuständig ist. Begründung: Der Festlegung der nationalen Aufsichts- und Behördenstrukturen kommt für die Schaffung der angestrebten Innovationsförderung eine wesentliche Bedeutung zu. Nach § 2 Absatz 1 KI-MIG-E ist die Bundesnetzagentur die zuständige Marktüberwachungsbehörde für KI-gestützte Systeme, soweit nichts anderes bestimmt ist. Nach § 2 Absatz 3 KI-MIG-E ist die Bundesanstalt für Finanzdienstleistungsaufsicht (BaFin) aber die zuständige Marktüberwachungsbehörde für in direktem Zusammenhang mit einer regulierten Finanztätigkeit stehende KI-Systeme. Innerhalb einer Bank werden KI-Systeme sowohl innerhalb als auch außerhalb der Tätigkeiten, welche in direktem Zusammenhang mit einer regulierten Finanztätigkeit stehen, verwendet. Für die Aufsicht und die Beaufsichtigten stellt sich also fortwährend die Frage, in welchem Zusammenhang ein konkretes KI-System eingesetzt wird. Da gerade der Bereich der Wi ... KI-Systeme von besonderer Dynamik geprägt ist, könnte dies zu Unsicherheiten bei der Zuordnung führen. Dies könnte Innovationen hemmen und bürokratieintensive Prüfungen nach sich ziehen. § 2 Absatz 3 KI-MIG-E belegt gerade, dass Doppelstrukturen erkannt wurden und bei der Aufsicht bewusst vermieden werden sollen. Indem im Bankenbereich die KI-Systeme ohne direkten Zusammenhang zur regulierten Finanztätigkeit auch der Aufsicht der Bundesanstalt für Finanzdienstleistungsaufsicht unterstellt werden, könnte diesem Ziel womöglich besser entsprochen werden. 8. Zu Artikel 1 (§ 2 Absatz 6 KI-MIG) Artikel 1 § 2 Absatz 6 ist zu streichen. Folgeänderung: In Artikel 1 § 2 Absatz 5 ist die Angabe „Vorbehaltlich des Absatzes 6 wird bei der Bundesnetzagentur“ durch die Angabe „Bei der Bundesnetzagentur wird“ zu ersetzen. Begründung: § 2 Absatz 6 KI-MIG-E wird abgelehnt. Die Marktüberwachung nach der KI- Verordnung erfordert hochspezialisiertes, derzeit kaum verfügbares Personal. Bei einer Delegation auf die Länderebene würde der Bedarf an Fachkräften weiter steigen, ohne effektiv gedeckt werden zu können. Zudem käme es bei einer Übertragung von Teilaufgaben auf Länder und andere Behörden, etwa Landesdatenschutzbehörden, zu Abgrenzungsschwierigkeiten und der Gefahr einer uneinheitlichen Auslegung der KI-Verordnung. Der geordnete Aufbau zuständiger Landesstellen, die Klärung von Zuständigkeiten und Prozessen, die Personalausstattung sowie notwendige landes- und haushaltsrechtliche Anpassungen würden erhebliche Ressourcen in den Ländern binden und unnötige Mehrfachstrukturen schaffen. Demgegenüber ermöglicht die möglichst umfassende Bündelung der Aufgaben bei der Bundesnetzagentur die Nutzung von Synergien, den nachhaltigen Aufbau von Fachwissen und eine stärkere Durchsetzungskraft – auch gegenüber Drittstaaten. So kann eine wirksame Marktüberwachung gewährleistet werden, die den komplexen Anforderungen der KI- Verordnung gerecht wird. Die von der Bundesregierung angeführten verfassungsrechtlichen Bedenken müssten durch den Abschluss eines Staatsvertrags ausgeräumt werden. DS Bei Annahme entfallen Ziffer 9 und Ziffer 10 und Ziffer 27 ... 9. Zu Artikel 1 (§ 2 Absatz 6 Satz 1a – neu – und Satz 1b – neu – KI-MIG)* Nach Artikel 1 § 2 Absatz 6 Satz 1 sind die folgenden Sätze einzufügen: „Abweichend von Satz 1 kann durch Staatsvertrag zwischen dem Bund und einem oder mehreren Ländern eine Übertragung der Aufgaben der Marktüberwachung auf die Bundesnetzagentur im Sinne des § 2 Absatz 1 und Absatz 5 oder eine andere Bundesbehörde vereinbart werden. Der Abschluss von Staatsverträgen zwischen den Ländern bleibt davon unberührt.“ Begründung: Die im Gesetzentwurf vorgesehene landesweite Zuständigkeitszuweisung für die Marktüberwachung von KI-Systemen öffentlicher Stellen steht nicht nur vor erheblichen praktischen und strukturellen Herausforderungen, sondern steht auch in einem deutlichen Spannungsverhältnis zur Föderalen Modernisierungsagenda. Diese formuliert ausdrücklich das Ziel, komplexe und technisch anspruchsvolle Vollzugsaufgaben, auch beim Vollzug von EU-Verordnungen, zu bündeln. Die KI-Verordnung wird dabei ausdrücklich als eine bündelungsfähige Materie benannt (vgl. MPK-Beschluss vom 4. Dezember 2025, TOP 1.2.2 AG Staatsmodernisierung, Föderale Modernisierungsagenda, Drittes Kapitel, I. Bündelung und Zusammenarbeit, Nummer 1 und 2, S. 34f). Die im Gesetzentwurf vorgesehene Regelung lässt allerdings eine solche Option nicht zu, weshalb eine entsprechende Ergänzung dringend empfohlen wird. Die Durchführung der Verordnung (EU) 2024/1689 erfordert insbesondere hochspezialisierte technische Expertise, effiziente und pragmatische Bewertungsverfahren sowie konsistente Maßstäbe im Vollzug. Der parallele Aufbau entsprechender Strukturen beim Bund und in allen Ländern würde einen erheblichen Einsatz an Ressourcen bedeuten. Dies könnte die Gewinnung qualifizierter Fachkräfte zusätzlich erschweren und die Gefahr divergierender Vollzugspraxis begründen. Eine fragmentierte Aufsichtsarchitektur würde zudem dem Harmonisierungsziel der EU, das mithilfe der unmittelbar geltenden Verordnung erreicht werden soll, widersprechen. Demgegenüber entspricht eine staatsvertraglich eröffnete Bündelungsoption dem kooperativen Föderalismus und dem Modernisierungsgedanken gleichermaßen. Sie wahrt die Eigenstaatlichkeit der Länder, schafft jedoch die Möglichkeit, die Marktüberwachung sachgerecht zu konzentrieren, Expertise zu bündeln und eine bundesweit kohärente Rechtsanwendung sicherzustellen. Damit wird der strukturelle Leitgedanke der Modernisierungsagenda konsequent auf die Durchführung der KI-Verordnung übertragen. Im Übrigen wäre eine Ergänzung des Grundgesetzes im Bereich der "Gemeinschaftsaufgaben" denkbar und sinnstiftend. * Hilfsempfehlung zu Ziffer 8 DS Entfällt bei Annahme von Ziffer 8 ... 10. Zu Artikel 1 (§ 2 Absatz 6a – neu – KI-MIG) Nach Artikel 1 § 2 Absatz 6 ist der folgende Absatz 6a einzufügen: „(6a) Entwickelt eine Finanzbehörde eines Landes ein KI-System im Sinne des Artikels 3 Nummer 1 der Verordnung (EU) 2024/1689 im Anwendungsbereich der Abgabenordnung für Finanzbehörden anderer Länder, obliegt die Marktüberwachung der Behörde im Sinne des Absatzes 6 Satz 1, die für die entwickelnde Finanzbehörde zuständig ist. Soweit das KI-System von den Finanzbehörden der Länder im Hinblick auf die nach der Verordnung (EU) 2024/1689 regulierten Funktionen unverändert übernommen und in Betrieb genommen oder verwendet wird, gilt die Beurteilung der nach Satz 1 zuständigen Marktüberwachungsbehörde auch für die übernehmenden Finanzbehörden.“ Begründung: Die Entwicklung der Automatisierung der Steuerverwaltung erfolgt durch KONSENS (Koordinierte neue Software-Entwicklung der Steuerverwaltung), einen auf Arbeitsteilung angelegten Programmierverbund der Länder. Ein Auftrag nehmendes Land führt die Entwicklung für alle Länder durch, die dann in allen Ländern und damit flächendeckend zum Einsatz kommt. Der gleichförmige flächendeckende Einsatz von Automation ist Voraussetzung für die bundesweite Einheitlichkeit des Steuervollzugs, die bei den Steuern, die ganz oder zum Teil dem Bund zufließen, über die grundgesetzlich vorgesehene Bundesauftragsverwaltung zum Ausdruck kommt. Mit einem arbeitsteiligen Programmierverbund und dem Erfordernis eines bundesweit einheitlichen Steuervollzugs ist nicht zu vereinbaren, dass ein einheitlich in allen Ländern zum Einsatz kommendes Automatisierungsinstrument von verschiedenen nach Landesrecht zuständigen Behörden im Sinne des § 2 Absatzes 6 Satz 1 KI-MIG-E unterschiedlich beurteilt würde. Auch wäre mit einer parallelen Beurteilung eines KI-Verfahrens durch bis zu 16 Marktüberwachungsbehörden ein unangemessener Bürokratieaufbau verbunden. Der neue § 2 Absatz 6a KI-MIG-E sieht deshalb vor, dass für die Beurteilung eines Automatisierungsinstruments allein die nach Landesrecht zuständige Behörde im Sinne des § 2 Absatzes 6 Satz 1 KI-MIG-E zuständig ist, die für jene Finanzbehörde zuständig ist, die dieses Instrument entwickelt hat. Die von ihr vorgenommene Beurteilung entfaltet daher auch in den anderen Ländern, in denen dieses Automatisierungsinstrument zum Einsatz kommt, unmittelbare Geltung. Die Regelung lehnt sich an § 32h AO an. Dort geht es um die datenschutzrechtliche Beurteilung der Entwicklung eines Automatisierungsinstruments, das von einer Finanzbehörde entwickelt wird und in anderen Ländern ebenfalls Fz Entfällt bei Annahme von Ziffer 8 ... zum Einsatz kommt. Das Regelungsbedürfnis entspricht damit der vorliegenden Thematik, sodass es sachangemessen und folgerichtig ist, die in § 32h AO getroffene gesetzliche Wertung auf die vorliegende Thematik der Marktüberwachung zu übertragen. 11. Zu Artikel 1 (§ 3 Absatz 1 KI-MIG) Artikel 1 § 3 Absatz 1 ist durch den folgenden Absatz 1 zu ersetzen: „(1) Für den Zeitraum von zwölf Monaten nach Inkrafttreten dieses Gesetzes nimmt die Bundesnetzagentur die Aufgaben der zuständigen notifizierenden Behörden gemäß Artikel 28 Absatz 1 der Verordnung (EU) 2024/1689 wahr, soweit KI-Systeme betroffen sind, die mit solchen Produkten in Zusammenhang stehen, auf die die in Anhang I Abschnitt A der Verordnung (EU) 2024/1689 genannten Harmonisierungsrechtsvorschriften anzuwenden sind. Dies gilt auch für KI-Systeme, die mit solchen Produkten in Zusammenhang stehen, auf die die Verordnung (EU) 2016/424 anzuwenden ist. Nach Ablauf des in Satz 1 genannten Zeitraums richtet sich die Zuständigkeit an die Behörden, die durch Bundes- oder Landesrecht zu notifizierenden Behörden zur Ausführung der in Anhang I Abschnitt A der Verordnung (EU) 2024/1689 genannten Harmonisierungsrechtsvorschriften bestimmt wurden.“ Begründung: Der vorliegende Änderungsvorschlag versucht die zu § 2 Absatz 2 KI-MIG-E angeregte Änderung konsistenterweise auch auf die notifizierenden Behörden anzuwenden. Auf diese Weise soll eine Perspektive für eine gebündelte, zukunftssichere und pragmatische Regelung von Notifizierungsverfahren für KI- Systeme, die mit solchen Produkten in Zusammenhang stehen, auf die die im Anhang I Abschnitt A der KI-VO genannten Vorschriften anzuwenden sind, ermöglicht werden. 12. Zu Artikel 1 (§ 3 KI-MIG) Der Bundesrat bittet, im weiteren Gesetzgebungsverfahren zu prüfen, ob die Benennung der notifizierenden Behörden in § 3 KI-MIG-E vollständig ist und ggf. eine entsprechende Ergänzung vorzunehmen. Nach Auffassung des Bundesrates besteht in § 3 KI-MIG-E eine Regelungslücke hinsichtlich der Benennung der notifizierenden Behörden für bestimmte DS DS ... Hochrisiko-KI-Systeme nach Anhang III der KI-VO (außer Nummer 1). Zwar übernimmt die Deutsche Akkreditierungsstelle (DAkkS) gemäß § 3 Absatz 4 Satz 2 KI-MIG-E die Bewertung und Überwachung der Konformitätsbewertungsstellen. Die Aufgaben der Benennung und Notifizierung der Konformitätsbewertungsstellen sind jedoch nicht auf die DAkkS übertragbar. Für diese Aufgaben ist vielmehr die Bestimmung einer zuständigen notifizierenden Behörde erforderlich. 13. Zu Artikel 1 (§ 3 KI-MIG) Unter dem Gesichtspunkt der Selbstorganisation der Länder bittet der Bundesrat, auch die in § 3 KI-MIG-E getroffenen Aufgabenzuweisungen zu notifizierenden Behörden zu überprüfen. 14. Zu Artikel 1 (§ 4 KI-MIG) Der Bundesrat bittet, im weiteren Gesetzgebungsverfahren zu prüfen, ob die Errichtung einer unabhängigen KI-Marktüberwachungskammer unter Einbindung der Datenschutzbehörden sowie unter Beachtung der Artikel 41 bis 44 der Richtlinie zum Datenschutz in Strafsachen (JI-Richtlinie) erfolgen kann, um eine unionsrechtskonforme Umsetzung der Verordnung (EU) 2024/1689 sicherzustellen und ein Vertragsverletzungsverfahren zu vermeiden. Begründung: Die Unionsrechtskonformität der Errichtung der KI- Marktüberwachungskammer nach § 4 KI-MIG-E sollte im weiteren Gesetzgebungsverfahren nochmals überprüft werden. Die derzeit geplante Errichtung der KI- Marktüberwachungskammer, die sich aus Mitgliedern der Bundesnetzagentur zusammensetzen soll, könnte mit Artikel 74 Absatz 1 Satz 1, Absatz 8 der Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz […] (KI-VO) nicht vereinbar sein, da die Anforderungen an Artikel 41 bis 44 der JI-Richtlinie nicht eingehalten werden. Zudem könnte ein Verstoß gegen Artikel 74 Absatz 8 KI-VO vorliegen, der in bestimmten besonders grundrechtssensiblen Bereichen, etwa bei der Anwendung von KI im Kontext von Strafverfolgung, Migration, Justiz oder Wahlen, vorschreibt, dass die Marktüberwachung durch die zuständige Datenschutzbehörde oder einer gemäß der JI-Richtlinie benannten Behörde erfolgen muss. AIS AV DS R Wi R ... Eine Abweichungsmöglichkeit bei der Benennung der Marktüberwachungsbehörde sieht die KI-VO nicht vor. 15. Zu Artikel 1 (§ 5 Satz 2 Nummer 1 KI-MIG) In Artikel 1 § 5 Satz 2 Nummer 1 ist nach der Angabe „Marktüberwachungsbehörden,“ die Angabe „sonstige, in ihrem Zuständigkeitsbereich betroffene Marktüberwachungsbehörden, die“ einzufügen. Begründung: Die vorgeschlagene Änderung dient dazu, die Unterstützung des Koordinierungs- und Kompetenzzentrums für die Durchführung der KI-Verordnung, das bei der Bundesnetzagentur (BNetzA) eingerichtet werden soll, auch für die Marktüberwachungsbehörden zu sichern, die nicht unter § 2 Absatz 2 KI-MIG-E fallen. Im Gesetzesentwurf werden in § 2 Absatz 2 KI-MIG-E die neuen Zuständigkeiten aus der Verordnung (EU) 2024/1689 für die Marktüberwachungsbehörden festgelegt, die bereits durch Bundes- oder Landesrecht zu Marküberwachungsbehörden zur Ausführung der in Anhang I Abschnitt A der Verordnung (EU) 2024/1689 genannten Harmonisierungsrechtsvorschriften bestimmt wurden. In Anhang I Abschnitt A der Verordnung (EU) 2024/1689 werden zwölf europäische Rechtsvorschriften aufgelistet, die bestimmte Produkte regulieren. Durch die vorgeschlagene Änderung des § 5 Nummer 1 KI-MIG-E wird allen anderen Marktüberwachungsbehörden die Unterstützung des Koordinierungs- und Kompetenzzentrums für die Durchführung der KI-Verordnung bei der BNetzA ermöglicht, deren Zuständigkeit für KI-Systeme nicht mit Produkten in Zusammenhang steht, auf die die Rechtsvorschriften im Anhang I Abschnitt A der Verordnung (EU) 2024/1689 Bezug nehmen. Mit der Verordnung (EU) 2024/1689 werden nicht nur KI-Systeme im Zusammenhang mit Rechtsvorschriften in Anhang I Abschnitt A der Verordnung (EU) 2024/1689 reguliert, sondern auch KI-Systeme, die im Zusammenhang mit anderen europäischen Rechtsgrundlagen stehen (vgl. Anhang I Abschnitt B der Verordnung (EU) 2024/1689). Außerdem werden in Anhang III der Verordnung (EU) 2024/1689 Bereiche spezifiziert, in denen KI-Systeme als Hochrisiko-KI-Systeme eingestuft werden. Für diese Hochrisiko-KI-Systeme werden keine Rechtsgrundlagen angegeben und im vorgelegten Gesetzentwurf wird auch keine Zuständigkeit für Überwachungsbehörden festgelegt. Aber auch Überwachungsbehörden, deren Zuständigkeit für KI-Systeme sich (ggf. erst in Zukunft) aus Anhang I Abschnitt B oder Anhang III der Verordnung (EU) 2024/1689 ergibt, sollten auf die Unterstützung des Koordinierungs- und Kompetenzzentrums für die Durchführung der KI-Verordnung bei der BNetzA zurückgreifen können. AIS ... Daher sollte § 5 Nummer 1 KI-MIG-E entsprechend diesem Änderungsvorschlag umformuliert werden. 16. Zu Artikel 1 (§ 5 KI-MIG) Der Bundesrat ist der Auffassung, dass das Aufgabenprofil des Koordinierungs- und Kompetenzzentrums bei der Bundesnetzagentur um die Entwicklung und Förderung des „Einer prüft für Alle“-Ansatzes (EfA) im Zuständigkeitsbereich des Zentrums erweitert werden sollte. Er bittet im weiteren Gesetzgebungsverfahren das Koordinierungs- und Kompetenzzentrum zu beauftragen, innerhalb eines festzulegenden Zeitraums die Voraussetzungen, Möglichkeiten und Auswirkungen einer verbindlichen Einführung des EfA-Prinzips für die KI- Marktüberwachung zu evaluieren. Begründung Der Bundesrat begrüßt das Ansinnen der Bundesregierung, ein Koordinierungs- und Kompetenzzentrum für die Durchführung der KI-Verordnung einzurichten und damit vor allem im Sinne des § 5 Satz 2 Nummer 2 KI-MIG-E die Zusammenarbeit der zuständigen nationalen Behörden zu fördern, um dadurch auf einheitliche Beantwortungen von rechtlichen Fragestellungen zu der KI-Verordnung hinzuwirken. Das mit dem EfA-Ansatz erfolgte Ziel ist es, die gegenseitige Anerkennung von Prüfungen und Bewertungen zwischen den zuständigen Behörden von Bund und Ländern vorzubereiten und zu koordinieren. Dadurch sind verbindliche Mechanismen zur Abstimmung und Durchsetzung einheitlicher Standards und Verfahren zwischen Bund und Ländern zu schaffen, um eine harmonisierte Marktüberwachung sicherzustellen. Die Marktüberwachung würde dadurch effizienter und ressourcenschonender ausgestaltet werden. Aus diesem Grund sollte § 5 Satz 2 Nummer 2 KI-MIG-E entsprechend um den „Einer prüft für Alle“-Ansatz erweitert werden. 17. Zu Artikel 1 (§ 5 KI-MIG) Der Bundesrat begrüßt, dass der Bund mit der Gründung eines Koordinierungs- und Kompetenzzentrums für die Durchführung der Verordnung (EU) 2024/1689 Unterstützung anbietet, hält jedoch den in § 5 KI-MIG-E enthaltenen Aufgabenkatalog für nicht weitreichend genug. Der Bundesrat bittet daher, den Aufgabenkatalog des Koordinierungs- und Kompetenzzentrums im weiteren Gesetzgebungsverfahren um eine Unterstützungskomponente für die Länder DS AIS AV DS R Wi ... beim Aufbau der für den Vollzug der Verordnung (EU) 2024/1689 erforderlichen Fachkompetenzen zu ergänzen. 18. Zu Artikel 1 (§ 11 Absatz 6 KI-MIG) Artikel 1 § 11 Absatz 6 ist zu streichen. Begründung: Der Bundesrat sieht die Durchbrechung des Steuergeheimnisses im Gesetzentwurf kritisch. Mit der in § 11 Absatz 6 KI-MIG-E normierten Offenbarungspflicht für Finanzbehörden schafft der Bund explizit eine gesetzliche Ermächtigungsgrundlage im Sinne des § 30 Absatz 4 Nummer 2 AO. Das legalisiert für Marktüberwachungsbehörden den direkten Zugriff auf unmaskierte, echte Steuerdaten auf der Datenebene. Diese weitreichende Konsequenz für die aufsichtliche Datenpraxis muss bei der künftigen Ausgestaltung der Aufsichtsstellen transparent berücksichtigt werden. In diesem Zusammenhang ist eine strikte Verhältnismäßigkeit zwischen der aufsichtlichen Eingriffstiefe und dem Schutz des Steuergeheimnisses zu wahren. Der Bundesrat lehnt daher einen direkten Zugriff der Marktüberwachungsbehörden auf Steuerdaten ab. Eine aufsichtliche Prüfung darf ausschließlich auf der Architekturebene erfolgen. 19. Zu Artikel 1 (§ 13 Absatz 1 KI-MIG) a) Der Bundesrat begrüßt die Pläne der Bundesregierung zur Einrichtung mindestens eines nationalen KI-Reallabors. b) Der Bundesrat gibt zu bedenken, dass durch die fehlende Bereitstellung von technischer Infrastruktur die Entwicklung, das Training und das Testen von KI‑Systemen im KI-Reallabor erheblich erschwert werden. Insbesondere für eine effektive Nutzung der Möglichkeiten des Artikels 59 der Verordnung (EU) 2024/1689, der die Weiterverarbeitung personenbezogener Daten zur Entwicklung bestimmter KI-Systeme im öffentlichen Interesse im KI-Reallabor erlaubt, erscheint die Bereitstellung einer entsprechenden Infrastruktur essentiell. Fz Wi ... 20. Zu Artikel 1 (§ 13 Absatz 4 Satz 1 KI-MIG) In Artikel 1 § 13 Absatz 4 Satz 1 ist die Angabe „ohne Zustimmung“ durch die Angabe „mit Zustimmung“ zu ersetzen. Begründung: [Aus Artikel 80 Absatz 2 des Grundgesetzes ergibt sich, dass Rechtsverordnungen, die von den Ländern im Auftrag des Bundes oder als eigene Angelegenheit ausgeführt werden, der Zustimmung des Bundesrates bedürfen.] {Die Zustimmungsbedürftigkeit nach Artikel 80 Absatz 2 des Grundgesetzes ist verfassungsrechtlich geboten. Die Möglichkeit, Teile einer Materie aus dem Gesetz auszugliedern und sie der Regelung durch die Exekutive zu überlassen, darf nicht zu einer Verkürzung der Mitwirkung des Bundesrates an der Rechtsetzung führen. Die Einrichtung und der Betrieb von KI-Reallaboren greift in tiefgreifende regulatorische Fragen ein und berührt die Interessen der Länder (wirtschaftspolitische Bedeutung, Innovations- und Strukturpolitik, etc.). Die Zustimmungsbedürftigkeit ist auch politisch sinnvoll, um eine abgestimmte und föderal ausgewogene Entwicklung der KI-Forschungsinfrastruktur in Deutschland zu gewährleisten. Durch die Beteiligung des Bundesrates soll sichergestellt werden, dass die Standards für diese Labore überregional kompatibel sind und einheitliche, praxistaugliche Regeln gefunden werden, die beispielsweise auch den Ländern Rückgriffe auf Erkenntnisse aus den KI- Reallaboren ermöglichen. Da die genaue Ausgestaltung der Reallabore in einer Rechtsverordnung geregelt wird, ist die Expertise der Länder (die oft näher an Forschungseinrichtungen und lokalen Unternehmen sind) bei der inhaltlichen Ausgestaltung notwendig.} 21. Zu Artikel 1 (§ 13 Absatz 4 KI-MIG) Der Bundesrat bittet im weiteren Gesetzgebungsverfahren die in § 13 Absatz 4 KI-MIG-E vorgesehene Rechtsverordnungsermächtigung dahingehend zu ändern, dass der Erlass sowie die Änderung entsprechender Rechtsverordnungen der Zustimmung des Bundesrates bedürfen, soweit diese auch KI-Reallabore auf Landesebene betreffen. AIS Wi Bei Annahme entfallen Ziffer 21 und Ziffer 23 [AIS] {Wi} DS Entfällt bei Annahme von Ziffer Bei Annahme entfällt Ziffer 23 ... Hierdurch würde sichergestellt, dass die Länder bei Regelungen, die ihre Vollzugs- und Organisationszuständigkeiten unmittelbar berühren, angemessen beteiligt werden. Dies entspricht dem im Grundgesetz verankerten föderalen Kompetenzgefüge und trägt dem Umstand Rechnung, dass KI-Reallabore regelmäßig in die Verwaltungsstrukturen der Länder eingebunden sind oder deren Zuständigkeitsbereiche berühren. Zu Artikel 1 (§ 13 KI-MIG) 22. Der Bundesrat stellt fest, dass der Bund in Umsetzung der Verpflichtung aus Artikel 57 der Verordnung (EU) 2024/1689 ein KI-Reallabor einrichtet. Der Bundesrat hält die im Gesetzentwurf enthaltenen Regelungen zu den KI- Reallaboren aufgrund der beabsichtigten Überwachungszuständigkeiten für die in Anhang I Abschnitt A geregelten KI-Systeme für nicht eindeutig und im Übrigen für nicht konsistent. Der Bundesrat weist darauf hin, dass die in KI-Reallaboren getroffenen Entscheidungen der zuständigen Behörde unmittelbaren Einfluss auf Vollzug und Konformitätsbewertungsverfahren haben können (vgl. Artikel 57 Absatz 7 Unterabsatz 2 Satz 2 und 3 der Verordnung (EU) 2024/1689). Das führt dazu, dass die betroffenen Wirtschaftsakteure mit zwei verschiedenen Überwachungsbehörden konfrontiert wären. 23. Würde das Verfahren in den KI-Reallaboren bei den oben genannten Systemen jedoch von den Landesbehörden im Rahmen ihrer Zuständigkeit begleitet, ist § 13 Absatz 4 KI-MIG, nach dem die Bundesregierung ohne Zustimmung des Bundesrates per Rechtsverordnung Regelungen zu Einrichtung, Entwicklung, Umsetzung, Betrieb, Beaufsichtigung sowie zur Zusammenarbeit mit anderen betroffenen Bundesbehörden regeln kann, als kritisch zu bewerten. * Im AIS als Hilfsempfehlung zu Ziffer 20 beschlossen. AIS AV R Wi AIS* AV R Wi Entfällt bei Annahme von Ziffer 20 oder Ziffer 21 ... 24. Der Bundesrat bittet daher im weiteren Gesetzgebungsverfahren darum, unter Beachtung der vom Bund getroffenen Zuweisung von Aufgaben eine sachdienliche und innovationsfördernde Lösung zu finden. 25. Zu Artikel 1 allgemein a) Der Bundesrat nimmt den vorliegenden Gesetzentwurf, insbesondere das in Artikel 1 vorgesehene Gesetz zur Marktüberwachung und Innovationsförderung von künstlicher Intelligenz, zur Kenntnis und begrüßt, dass der Bund die Vorgaben aus der KI-Verordnung ohne zusätzliche nationale Vorgaben und so schlank wie möglich umzusetzen versucht, um Innovationen zu fördern und den Wirtschaftsstandort zu stärken. b) Der Bundesrat weist jedoch darauf hin, dass der Gesetzentwurf eine Marktüberwachung durch die Bundesnetzagentur sowie die bei ihr gebildete unabhängige KI-Marktüberwachungskammer lediglich für den Einsatz von KI-Systemen im Bereich des Bundes vorsieht. Demgegenüber überlässt er die Marktüberwachung in dem weitaus größeren Anwendungsbereich, nämlich für die Fälle, in denen öffentliche Stellen der Länder und Kommunen KI-Systeme in Verkehr bringen, in Betrieb nehmen oder verwenden, der Eigenregulierung der Länder, ohne die erforderliche Unterstützung in diesem Bereich zu bieten. c) Der Bundesrat befürchtet in Folge des Gesetzentwurfs eine Zersplitterung der Marktüberwachung von Hochrisiko-KI-Systemen in einer Vielzahl von Landesaufsichtsbehörden. Dies birgt die erhebliche Gefahr von unübersichtlichen und unklaren Zuständigkeiten, einer unterschiedlichen Auslegung der Vorgaben der KI-Verordnung durch verschiedene, jeweils unabhängige Marktaufsichtsbehörden, von Mehrfachbefassungen verschiedener Marktaufsichtsbehörden zu gleichen Systemen in Bezug auf die identische Regelungslage sowie erheblicher finanzieller und personeller Mehrfachaufwände – in einem Bereich, in dem ein Mangel an spezialisierten Kräften besteht. Im Bereich der Hochrisiko-KI-Systeme öffentlicher Stellen sind insbesondere die polizei- und sicherheitsrechtlichen Bereiche betroffen. Unterschiedliche Bewertungen führen zu Rechtsunsicherheiten und abstimmungsbedingte Verzögerungen bei der Bewertung von KI-Systemen können den gesetzlichen Auftrag der Polizei zur Wahrung der inneren Sicherheit gefährden. AIS AV R Wi In ... d) Zwischen den Regierungschefinnen und Regierungschefs der Länder und dem Bundeskanzler wurde in der Modernisierungsagenda am 4. Dezember 2025 beschlossen, dass Bund und Länder insbesondere im Bereich der KI-Verordnung die von ihnen verantworteten Verwaltungsleistungen einschließlich des Vollzugs von EU-Verordnungen bündeln sollen, unter anderem durch eine zentrale Bereitstellung von IT wie Portalen, sowie eine Bündelung von Online- und Fachverfahren. Gerade im Bereich der Strafverfolgung und Gefahrenabwehr können hier Mehrfachprüfungen vermieden und Synergien genutzt werden; dies schon deshalb, weil auf Ebene der Bundespolizeiverwaltung ohnehin eine Marktüberwachung auf Bundesebene stattfinden muss. e) Der Bundesrat erachtet eine bundesweite Zentralisierung der Marktüberwachung für zielführend. Aus diesem Grund wird die Bundesregierung gebeten, unter Einbeziehung der Länder zu prüfen, wie eine effiziente und kompetente Zentralisierung im Sinne der Modernisierungsagenda, beispielsweise mithilfe eines Staatsvertrags, umgesetzt werden kann. 26. Zu Artikel 1 allgemein Der Bundesrat befürwortet grundsätzlich das Anliegen der Bundesregierung zur Schaffung von Marktüberwachungsbehörden auf Landesebene. 27. Zu Artikel 5 Satz 1 und Satz 2 – neu – KI-MIG* Artikel 5 ist durch den folgenden Artikel 5 zu ersetzen: „Artikel 5 Dieses Gesetz tritt vorbehaltlich des Satzes 2 am Tag nach der Verkündung in Kraft. In Artikel 1 tritt § 2 Absatz 6 des KI-Marktüberwachungs-und- Innovationsförderungsgesetzes am [einsetzen: Datum des Tages und des Monats der Verkündung dieses Gesetzes sowie Jahreszahl des auf die Verkündung folgenden Jahres] in Kraft. * Hilfsempfehlung zu Ziffer 8 Fz Entfällt bei Annahme von Ziffer 1 oder Ziffer 4 DS Entfällt bei Annahme von Ziffer 8 ... Begründung: § 2 Absatz 6 KI-MIG-E überträgt die Marktüberwachung auf die Länder, wenn deren öffentliche Stellen KI-Systeme in Verkehr bringen, in Betrieb nehmen oder verwenden. Für den geordneten Aufbau zuständiger Landesstellen, die Klärung von Zuständigkeiten und Prozesse, die Personalausstattung sowie notwendige landesrechtliche und haushaltsrechtliche Anpassungen ist eine Übergangsfrist von mindestens 12 Monaten erforderlich. Diese Frist gewährleistet Rechtssicherheit, verhindert Doppelzuständigkeiten und ermöglicht ggf. notwendige parlamentarische Verfahren in den Ländern durchzuführen. Artikel 5 ist daher entsprechend zu ergänzen. 28. Zum Gesetzentwurf allgemein* a) Der Bundesrat sieht jedoch noch einen Konkretisierungsbedarf hinsichtlich der genauen Ausgestaltung sowie der damit einhergehenden Umsetzungskosten. b) Der im Gesetzentwurf ausgewiesene einmalige Erfüllungsaufwand für die Länder von lediglich 28 000 Euro bildet die Realität nicht ab. c) Der Aufbau eigener Aufsichtsstrukturen für die Eigenüberwachung von Hochrisiko-KI wird unweigerlich zu erheblichen Folgekosten führen (IT-Anpassungen, Personalaufbau, erweiterte Protokollierung). d) Der Bundesrat bittet daher um eine transparente Kostendarstellung, um eine Grundlage für einen angemessenen Ausgleich zu schaffen. 29. Zum Gesetzentwurf allgemein* a) Der Bundesrat bittet die Bundesregierung, die ermittelten Erfüllungsaufwände für die Länder zu prüfen. Die Auswirkungen auf die Länder durch die nach § 2 KI-MIG-E vorgesehene Übertragung neuer Aufgaben sind aus Sicht der Länder nicht ausreichend umfassend und differenziert dargestellt. b) Zudem bittet der Bundesrat, im weiteren Gesetzgebungsverfahren klarzustellen, dass der Bund die dabei entstehenden Kosten nach dem Verursacherprinzip trägt. * Ziffern werden bei gemeinsamer Annahme redaktionell zusammengefasst. Fz DS Begründung: Den Ländern entstehen durch neu übertragene Aufgaben – insbesondere nach § 2 KI-MIG-E – erhebliche Aufwände. Es sind bestehende Strukturen auszubauen und neue Strukturen zu schaffen. Daher ist eine ganzheitliche, fundierte und differenzierte Betrachtung der Erfüllungsaufwände für Länder inkl. Kommunen unabdingbar. Die Berechnung der Erfüllungsaufwände für die Länder im vorliegenden Gesetzentwurf beruht auf einer Hochrechnung aus einer Feldphase mit Erhebungen in den Ländern im Oktober 2025 sowie Januar 2026. Die dabei ermittelten Werte sind jedoch nicht belastbar, da innerhalb der gesetzten Fristen keine valide Aufwandsschätzung möglich war. Zudem ist bislang unklar, wie die Prozesse der Marktüberwachung praktisch ausgestaltet werden. Daher ist eine umfassende und fundierte Betrachtung der Erfüllungsaufwände erforderlich, insbesondere für die im nun vorgelegten Gesetzentwurf erstmals vorgesehene neue Aufgabe nach § 2 Absatz 6 KI-MIG-E. Die nach § 2 KI-MIG-E übertragenen Aufgaben der Marktüberwachung sind in den Ländern von verschiedensten Behörden unter unterschiedlichsten Voraussetzungen zu erfüllen. Einerseits sind neue Aufgaben durch bestehende Marktüberwachungsstrukturen zu übernehmen (z. B. § 2 Absatz 2 KI-MIG-E), andererseits sind neue Strukturen (§ 2 Absatz 6 KI-MIG-E) zu schaffen. Für eine fundierte Bewertung der im Gesetzentwurf ausgewiesenen Erfüllungsaufwände der Länder bedarf es einer entsprechend detaillierten Darstellung der Erfüllungsaufwände, die insbesondere für die nach § 2 Absätze 2, 6 und 8 KI-MIG- E dargestellten Aufgaben differenziert. B 30. Der Ausschuss für Kulturfragen empfiehlt dem Bundesrat, gegen den Gesetzentwurf gemäß Artikel 76 Absatz 2 des Grundgesetzes keine Einwendungen zu erheben.