Entwurf eines Gesetzes zur Durchführung der Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU) Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien 2014/90/EU, (EU) 2016/797 und (EU) 2020/1828 (Gesetz zur Durchführung der Verordnung über künstliche Intelligenz) - Drucksache 21/4594 - Stellungnahme des Bundesrates und Gegenäußerung der Bundesregierung

Entwurf eines Gesetzes zur Durchführung der Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU) Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien 2014/90/EU, (EU) 2016/797 und (EU) 2020/1828 (Gesetz zur Durchführung der Verordnung über künstliche Intelligenz) - Drucksache 21/4594 - Stellungnahme des Bundesrates und Gegenäußerung der Bundesregierung Deutscher Bundestag Drucksache 21/5143 21. Wahlperiode (zu Drucksache 21/4594) 01.04.2026 Unterrichtung durch die Bundesregierung Entwurf eines Gesetzes zur Durchführung der Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU) Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien 2014/90/EU, (EU) 2016/797 und (EU) 2020/1828 (Gesetz zur Durchführung der Verordnung über künstliche Intelligenz) – Drucksache 21/4594 – Stellungnahme des Bundesrates und Gegenäußerung der Bundesregierung Stellungnahme des Bundesrates Der Bundesrat hat in seiner 1063. Sitzung am 27. März 2026 beschlossen, zu dem Gesetzentwurf gemäß Artikel 76 Absatz 2 des Grundgesetzes wie folgt Stellung zu nehmen: 1. Zu Artikel 1 (§ 2 Absatz 1 und Absatz 2 KI-MIG) Artikel 1 § 2 ist wie folgt zu ändern: a) In Absatz 1 ist nach der Angabe „Marktüberwachungsbehörde“ die Angabe „einschließlich der in Artikel 74 Absatz 3 Unterabsatz 1 genannten Fälle“ einzufügen. b) Absatz 2 ist zu streichen. Begründung: Der vorliegende Gesetzentwurf befördert Doppelstrukturen bei Bund und Ländern. Um einen effektiven, einheitlichen und bürokratiearmen Vollzug der komplexen Fachmaterie sicherzustellen, sollte der Bund von seiner Abweichungsmöglichkeit i. S. des Artikel 74 Absatz 3 Unterabsatz 2 der Verordnung (EU) 2024/1689 Gebrauch machen und damit die Aufwendungen der Länder minimieren. Der Grundsatz „eine Behörde, ein Produkt“ ist in diesem Fall verfehlt. 2. Zu Artikel 1 (§ 2 Absatz 1 Satz 2 – neu – und 3 – neu – und § 13 Absatz 1 Satz 3 – neu – KI-MIG) Artikel 1 ist wie folgt zu ändern: a) Nach § 2 Absatz 1 Satz 1 sind die folgenden Sätze einzufügen: „Für die Einrichtung und den Betrieb von KI-Reallaboren durch Landesbehörden sind vorrangig die nach Landesrecht für die Einrichtung solcher Labore als zuständig benannte Behörden die dafür zuständigen Marktüberwachungsbehörden; im Übrigen die in § 2 Absatz 6 und 8 benannten Behörden. Die Landesregierungen werden ermächtigt, Näheres zur Durchführung durch Rechtsverordnung zu regeln.“ b) Nach § 13 Absatz 1 Satz 2 ist der folgende Satz einzufügen: „Die Länder werden ermächtigt, entsprechende KI-Reallabore einzurichten und zu betreiben.“ Begründung: Der Vorschlag stellt sicher, dass auch auf Landesebene KI-Reallabore mit landesspezifischen Schwerpunkten im Sinne des Artikel 57 Absatz 2 der Verordnung (EU) 2024/1689 eingerichtet und betrieben werden können. Die Länder können die zuständige Landes-Marktüberwachungsbehörde sowie die näheren Einzelheiten der Einrichtung und des Betriebs von KI-Reallaboren regeln. Um KI-Reallabore auf regionaler oder lokaler Ebene handelt es sich auch dann, wenn Akteuren aus anderen Ländern oder Staaten, insbesondere Mitgliedstaaten der Europäischen Union, die Teilnahme erlaubt wird. Entscheidend ist die Begleitung durch die Landes-Marktüberwachungsbehörde. 3. Zu Artikel 1 (§ 2 Absatz 1 und 2 KI-MIG) Der Bundesrat stellt fest, dass der Bund in § 2 Absatz 2 KI-MIG-E über die in Artikel 74 Absatz 3 der Verordnung (EU) 2024/1689 formulierte Aufgabenzuweisung hinausgeht. Artikel 74 Absatz 3 der Verordnung (EU) 2024/1689 bezieht sich ausschließlich auf Hochrisiko-KI-Systeme und damit in Zusammenhang stehende Produkte, auf die die in Anhang I Abschnitt A aufgeführten Harmonisierungsrechtsvorschriften der Union Anwendung finden. Der Vollzug der in Kapitel II der Verordnung (EU) 2024/1689 geregelten Verbote ist hiervon nur erfasst, wenn es sich um ein Hochrisiko-KI-System oder ein damit in Zusammenhang stehendes Produkt handelt. Für den Vollzug von Kapitel II müsste in den Ländern zusätzliche Fachkompetenz aufgebaut werden, die über die anderen Aufgaben nach KI-Verordnung hinausgeht. Daher bittet der Bundesrat, auch im Interesse eines schlanken Vollzuges, im weiteren Gesetzgebungsverfahren zu prüfen, die Überwachung von Kapitel II, soweit erforderlich unter Inanspruchnahme der Abweichungskompetenz, einheitlich der in § 2 Absatz 1 KI-MIG-E benannten Behörde zuzuweisen. 4. Zu Artikel 1 (§ 2 Absatz 3 Satz 1, Absatz 4 KI-MIG) In Artikel 1 § 2 Absatz 3 Satz 1 und Absatz 4 ist die Angabe „in direktem Zusammenhang“ jeweils durch die Angabe „im Zusammenhang“ zu ersetzen. Begründung: Laut Gesetzentwurf soll die Bundesanstalt für Finanzdienstleistungsaufsicht (BaFin) als KI- Marktaufsichtsbehörde nur für KI-Systeme zuständig sein, die von Finanzunternehmen eingesetzt werden und „in direktem Zusammenhang“ mit einer regulierten Finanztätigkeit stehen. Es ist aber unklar, warum es eines zusätzlichen Erfordernisses des „direkten“ Zusammenhangs bedarf. Unternehmen, die der BaFin-Aufsicht unterliegen, setzen KI-Systeme in ganz unterschiedlicher Form ein: Die Spanne dürfte mindestens von Chatbots über KI-Anwendungen für die interne Unternehmensführung und das Risikomanagement bis hin zum Einsatz bei Kreditwürdigkeitsprüfungen reichen. Die Bundesregierung verlangt in der Begründung zu ihrem Gesetzentwurf einen direkten Zusammenhang zwischen dem KI-System und der Erbringung der Finanztätigkeit. Exemplarisch nennt sie hierfür KI- Systeme, die für die Kreditwürdigkeitsprüfung oder für die Risikobewertung und Preisbildung im Fall von Lebens- und Krankenversicherungen verwendet werden sollen. KI-Anwendungen in diesen Bereichen sind ausdrücklich im Anhang III gemäß Artikel 6 Absatz 2 der KI-Verordnung (Verordnung (EU) 2024/1689) als Hochrisiko-KI-Systeme aufgeführt. Der geforderte direkte Zusammenhang zwischen dem KI-System und der Erbringung der Finanztätigkeit ist in diesen Fällen unzweifelhaft gegeben, denn diese KI-Systeme werden unmittelbar im Rahmen der Leistungserbringung gegenüber Kundinnen und Kunden eingesetzt. Unklar bleibt die Situation bei KI-Systemen, die eher in einem indirekten Zusammenhang mit der Erbringung der beaufsichtigten Finanztätigkeit (z. B. Kreditgeschäft bei Banken) stehen, etwa wenn sie bei der Unternehmensteuerung (Controlling, Risikomanagement, Personal) eingesetzt werden. Die aufsichtsrechtlichen Vorgaben in den Bereichen Risikomanagement und Unternehmensführung werden in dem Erwägungsgrund 158 der KI-Verordnung ausdrücklich als Grund genannt, warum die nationale Finanzaufsichtsbehörde (in Deutschland die BaFin) auch als KI-Marktaufsichtsbehörde für beaufsichtigte Unternehmen zuständig werden soll. Ob beaufsichtigte Unternehmen KI-Systeme nutzen, die in keinem Zusammenhang mit der beaufsichtigten Finanztätigkeit stehen, ist mangels Einblicks des Bundesrates in die Unternehmen nicht bekannt. Auch aus systematischen Gründen lässt sich das Erfordernis eines „direkten“ Zusammenhangs nicht begründen. Nach § 2 Absatz 2 KI-MIG-E werden andere Behörden mit spezifischen Aufsichtsbefugnissen ebenfalls zu KI-Marktaufsichtsbehörden bestimmt, soweit ein Zusammenhang mit ihrer jeweiligen Aufsichtsbefugnis besteht. Eine Einschränkung auf einen „direkten“ Zusammenhang fehlt dort. Aus diesen Gründen spricht sich der Bundesrat für eine klare Zuständigkeit der BaFin als KI- Marktaufsichtsbehörde für die von ihr beaufsichtigten Unternehmen aus. 5. Zu Artikel 1 (§ 2 Absatz 3 KI-MIG) Der Bundesrat bittet, im weiteren Verlauf des Gesetzgebungsverfahrens zu prüfen, inwieweit es durch die Regelung des § 2 Absatz 3 zum Aufbau einer Doppelstruktur bei der Aufsicht über den Einsatz von KI- Systemen bei Kreditinstituten kommen könnte, indem dort für KI-gestützte Systeme im Zusammenhang mit regulierter Finanztätigkeit die Bundesanstalt für Finanzdienstleistungsaufsicht, für die übrigen KI-Systeme aber die Bundesnetzagentur zuständig ist. Begründung: Der Festlegung der nationalen Aufsichts- und Behördenstrukturen kommt für die Schaffung der angestrebten Innovationsförderung eine wesentliche Bedeutung zu. Nach § 2 Absatz 1 KI-MIG-E ist die Bundesnetzagentur die zuständige Marktüberwachungsbehörde für KI-gestützte Systeme, soweit nichts anderes bestimmt ist. Nach § 2 Absatz 3 KI-MIG-E ist die Bundesanstalt für Finanzdienstleistungsaufsicht (BaFin) aber die zuständige Marktüberwachungsbehörde für in direktem Zusammenhang mit einer regulierten Finanztätigkeit stehende KI-Systeme. Innerhalb einer Bank werden KI-Systeme sowohl innerhalb als auch außerhalb der Tätigkeiten, welche in direktem Zusammenhang mit einer regulierten Finanztätigkeit stehen, verwendet. Für die Aufsicht und die Beaufsichtigten stellt sich also fortwährend die Frage, in welchem Zusammenhang ein konkretes KI-System eingesetzt wird. Da gerade der Bereich der KI-Systeme von besonderer Dynamik geprägt ist, könnte dies zu Unsicherheiten bei der Zuordnung führen. Dies könnte Innovationen hemmen und bürokratieintensive Prüfungen nach sich ziehen. § 2 Absatz 3 KI-MIG-E belegt gerade, dass Doppelstrukturen erkannt wurden und bei der Aufsicht bewusst vermieden werden sollen. Indem im Bankenbereich die KI-Systeme ohne direkten Zusammenhang zur regulierten Finanztätigkeit auch der Aufsicht der Bundesanstalt für Finanzdienstleistungsaufsicht unterstellt werden, könnte diesem Ziel womöglich besser entsprochen werden. 6. Zu Artikel 1 (§ 2 Absatz 6 Satz 1a – neu – und Satz 1b – neu – KI-MIG) Nach Artikel 1 § 2 Absatz 6 Satz 1 sind die folgenden Sätze einzufügen: „Abweichend von Satz 1 kann durch Staatsvertrag zwischen dem Bund und einem oder mehreren Ländern eine Übertragung der Aufgaben der Marktüberwachung auf die Bundesnetzagentur im Sinne des § 2 Absatz 1 und Absatz 5 oder eine andere Bundesbehörde vereinbart werden. Der Abschluss von Staatsverträgen zwischen den Ländern bleibt davon unberührt.“ Begründung: Die im Gesetzentwurf vorgesehene landesweite Zuständigkeitszuweisung für die Marktüberwachung von KI-Systemen öffentlicher Stellen steht nicht nur vor erheblichen praktischen und strukturellen Herausforderungen, sondern steht auch in einem deutlichen Spannungsverhältnis zur Föderalen Modernisierungsagenda. Diese formuliert ausdrücklich das Ziel, komplexe und technisch anspruchsvolle Vollzugsaufgaben, auch beim Vollzug von EU-Verordnungen, zu bündeln. Die KI-Verordnung wird dabei ausdrücklich als eine bündelungsfähige Materie benannt (vgl. MPK-Beschluss vom 4. Dezember 2025, TOP 1.2.2 AG Staatsmodernisierung, Föderale Modernisierungsagenda, Drittes Kapitel, I. Bündelung und Zusammenarbeit, Nummer 1 und 2, S. 34 f). Die im Gesetzentwurf vorgesehene Regelung lässt allerdings eine solche Option nicht zu, weshalb eine entsprechende Ergänzung dringend empfohlen wird. Die Durchführung der Verordnung (EU) 2024/1689 erfordert insbesondere hochspezialisierte technische Expertise, effiziente und pragmatische Bewertungsverfahren sowie konsistente Maßstäbe im Vollzug. Der parallele Aufbau entsprechender Strukturen beim Bund und in allen Ländern würde einen erheblichen Einsatz an Ressourcen bedeuten. Dies könnte die Gewinnung qualifizierter Fachkräfte zusätzlich erschweren und die Gefahr divergierender Vollzugspraxis begründen. Eine fragmentierte Aufsichtsarchitektur würde zudem dem Harmonisierungsziel der EU, das mithilfe der unmittelbar geltenden Verordnung erreicht werden soll, widersprechen. Demgegenüber entspricht eine staatsvertraglich eröffnete Bündelungsoption dem kooperativen Föderalismus und dem Modernisierungsgedanken gleichermaßen. Sie wahrt die Eigenstaatlichkeit der Länder, schafft jedoch die Möglichkeit, die Marktüberwachung sachgerecht zu konzentrieren, Expertise zu bündeln und eine bundesweit kohärente Rechtsanwendung sicherzustellen. Damit wird der strukturelle Leitgedanke der Modernisierungsagenda konsequent auf die Durchführung der KI-Verordnung übertragen. Im Übrigen wäre eine Ergänzung des Grundgesetzes im Bereich der „Gemeinschaftsaufgaben“ denkbar und sinnstiftend. 7. Zu Artikel 1 (§ 2 Absatz 6a – neu – KI-MIG) Nach Artikel 1 § 2 Absatz 6 ist der folgende Absatz 6a einzufügen: „(6a) Entwickelt eine Finanzbehörde eines Landes ein KI-System im Sinne des Artikels 3 Nummer 1 der Verordnung (EU) 2024/1689 im Anwendungsbereich der Abgabenordnung für Finanzbehörden anderer Länder, obliegt die Marktüberwachung der Behörde im Sinne des Absatzes 6 Satz 1, die für die entwickelnde Finanzbehörde zuständig ist. Soweit das KI-System von den Finanzbehörden der Länder im Hinblick auf die nach der Verordnung (EU) 2024/1689 regulierten Funktionen unverändert übernommen und in Betrieb genommen oder verwendet wird, gilt die Beurteilung der nach Satz 1 zuständigen Marktüberwachungsbehörde auch für die übernehmenden Finanzbehörden.“ Begründung: Die Entwicklung der Automatisierung der Steuerverwaltung erfolgt durch KONSENS (Koordinierte neue Software-Entwicklung der Steuerverwaltung), einen auf Arbeitsteilung angelegten Programmierverbund der Länder. Ein Auftrag nehmendes Land führt die Entwicklung für alle Länder durch, die dann in allen Ländern und damit flächendeckend zum Einsatz kommt. Der gleichförmige flächendeckende Einsatz von Automation ist Voraussetzung für die bundesweite Einheitlichkeit des Steuervollzugs, die bei den Steuern, die ganz oder zum Teil dem Bund zufließen, über die grundgesetzlich vorgesehene Bundesauftragsverwaltung zum Ausdruck kommt. Mit einem arbeitsteiligen Programmierverbund und dem Erfordernis eines bundesweit einheitlichen Steuervollzugs ist nicht zu vereinbaren, dass ein einheitlich in allen Ländern zum Einsatz kommendes Automatisierungsinstrument von verschiedenen nach Landesrecht zuständigen Behörden im Sinne des § 2 Absatzes 6 Satz 1 KI-MIG-E unterschiedlich beurteilt würde. Auch wäre mit einer parallelen Beurteilung eines KI- Verfahrens durch bis zu 16 Marktüberwachungsbehörden ein unangemessener Bürokratieaufbau verbunden. Der neue § 2 Absatz 6a KI-MIG-E sieht deshalb vor, dass für die Beurteilung eines Automatisierungsinstruments allein die nach Landesrecht zuständige Behörde im Sinne des § 2 Absatzes 6 Satz 1 KI-MIG-E zuständig ist, die für jene Finanzbehörde zuständig ist, die dieses Instrument entwickelt hat. Die von ihr vorgenommene Beurteilung entfaltet daher auch in den anderen Ländern, in denen dieses Automatisierungsinstrument zum Einsatz kommt, unmittelbare Geltung. Die Regelung lehnt sich an § 32h AO an. Dort geht es um die datenschutzrechtliche Beurteilung der Entwicklung eines Automatisierungsinstruments, das von einer Finanzbehörde entwickelt wird und in anderen Ländern ebenfalls zum Einsatz kommt. Das Regelungsbedürfnis entspricht damit der vorliegenden Thematik, sodass es sachangemessen und folgerichtig ist, die in § 32h AO getroffene gesetzliche Wertung auf die vorliegende Thematik der Marktüberwachung zu übertragen. 8. Zu Artikel 1 (§ 3 Absatz 1 KI-MIG) Artikel 1 § 3 Absatz 1 ist durch den folgenden Absatz 1 zu ersetzen: „(1) Für den Zeitraum von zwölf Monaten nach Inkrafttreten dieses Gesetzes nimmt die Bundesnetzagentur die Aufgaben der zuständigen notifizierenden Behörden gemäß Artikel 28 Absatz 1 der Verordnung (EU) 2024/1689 wahr, soweit KI-Systeme betroffen sind, die mit solchen Produkten in Zusammenhang stehen, auf die die in Anhang I Abschnitt A der Verordnung (EU) 2024/1689 genannten Harmonisierungsrechtsvorschriften anzuwenden sind. Dies gilt auch für KI-Systeme, die mit solchen Produkten in Zusammenhang stehen, auf die die Verordnung (EU) 2016/424 anzuwenden ist. Nach Ablauf des in Satz 1 genannten Zeitraums richtet sich die Zuständigkeit an die Behörden, die durch Bundes- oder Landesrecht zu notifizierenden Behörden zur Ausführung der in Anhang I Abschnitt A der Verordnung (EU) 2024/1689 genannten Harmonisierungsrechtsvorschriften bestimmt wurden.“ Begründung: Mit der vorgeschlagenen Änderung soll eine Perspektive für eine gebündelte, zukunftssichere und pragmatische Regelung von Notifizierungsverfahren für KI-Systeme, die mit solchen Produkten in Zusammenhang stehen, auf die die im Anhang I Abschnitt A der KI-VO genannten Vorschriften anzuwenden sind, ermöglicht werden. 9. Zu Artikel 1 (§ 3 KI-MIG) a) Der Bundesrat bittet, im weiteren Gesetzgebungsverfahren zu prüfen, ob die Benennung der notifizierenden Behörden in § 3 KI-MIG-E vollständig ist und ggf. eine entsprechende Ergänzung vorzunehmen. Nach Auffassung des Bundesrates besteht in § 3 KI-MIG-E eine Regelungslücke hinsichtlich der Benennung der notifizierenden Behörden für bestimmte Hochrisiko-KI-Systeme nach Anhang III der KI- VO (außer Nummer 1). Zwar übernimmt die Deutsche Akkreditierungsstelle (DAkkS) gemäß § 3 Absatz 4 Satz 2 KI-MIG-E die Bewertung und Überwachung der Konformitätsbewertungsstellen. Die Aufgaben der Benennung und Notifizierung der Konformitätsbewertungsstellen sind jedoch nicht auf die DAkkS übertragbar. Für diese Aufgaben ist vielmehr die Bestimmung einer zuständigen notifizierenden Behörde erforderlich. b) Unter dem Gesichtspunkt der Selbstorganisation der Länder bittet der Bundesrat, auch die in § 3 KI- MIG-E getroffenen Aufgabenzuweisungen zu notifizierenden Behörden zu überprüfen. 10. Zu Artikel 1 (§ 4 KI-MIG) Der Bundesrat bittet, im weiteren Gesetzgebungsverfahren zu prüfen, ob die Errichtung einer unabhängigen KI-Marktüberwachungskammer unter Einbindung der Datenschutzbehörden sowie unter Beachtung der Artikel 41 bis 44 der Richtlinie zum Datenschutz in Strafsachen (JI-Richtlinie) erfolgen kann, um eine unionsrechtskonforme Umsetzung der Verordnung (EU) 2024/1689 sicherzustellen und ein Vertragsverletzungsverfahren zu vermeiden. Begründung: Die Unionsrechtskonformität der Errichtung der KI-Marktüberwachungskammer nach § 4 KI-MIG-E sollte im weiteren Gesetzgebungsverfahren nochmals überprüft werden. Die derzeit geplante Errichtung der KI- Markt-überwachungskammer, die sich aus Mitgliedern der Bundesnetzagentur zusammensetzen soll, könnte mit Artikel 74 Absatz 1 Satz 1, Absatz 8 der Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz […] (KI- VO) nicht vereinbar sein, da die Anforderungen an Artikel 41 bis 44 der JI-Richtlinie nicht eingehalten werden. Zudem könnte ein Verstoß gegen Artikel 74 Absatz 8 KI-VO vorliegen, der in bestimmten besonders grundrechtssensiblen Bereichen, etwa bei der Anwendung von KI im Kontext von Strafverfolgung, Migration, Justiz oder Wahlen, vorschreibt, dass die Marktüberwachung durch die zuständige Datenschutzbehörde oder einer gemäß der JI-Richtlinie benannten Behörde erfolgen muss. Eine Abweichungsmöglichkeit bei der Benennung der Marktüberwachungsbehörde sieht die KI-VO nicht vor. 11. Zu Artikel 1 (§ 5 Satz 2 Nummer 1 KI-MIG) In Artikel 1 § 5 Satz 2 Nummer 1 ist nach der Angabe „Marktüberwachungsbehörden,“ die Angabe „sonstige, in ihrem Zuständigkeitsbereich betroffene Marktüberwachungsbehörden, die“ einzufügen. Begründung: Die vorgeschlagene Änderung dient dazu, die Unterstützung des Koordinierungs- und Kompetenzzentrums für die Durchführung der KI-Verordnung, das bei der Bundesnetzagentur (BNetzA) eingerichtet werden soll, auch für die Marktüberwachungsbehörden zu sichern, die nicht unter § 2 Absatz 2 KI-MIG-E fallen. Im Gesetzentwurf werden in § 2 Absatz 2 KI-MIG-E die neuen Zuständigkeiten aus der Verordnung (EU) 2024/1689 für die Marktüberwachungsbehörden festgelegt, die bereits durch Bundes- oder Landesrecht zu Marküberwachungsbehörden zur Ausführung der in Anhang I Abschnitt A der Verordnung (EU) 2024/1689 genannten Harmonisierungsrechtsvorschriften bestimmt wurden. In Anhang I Abschnitt A der Verordnung (EU) 2024/1689 werden zwölf europäische Rechtsvorschriften aufgelistet, die bestimmte Produkte regulieren. Durch die vorgeschlagene Änderung des § 5 Nummer 1 KI-MIG-E wird allen anderen Marktüberwachungsbehörden die Unterstützung des Koordinierungs- und Kompetenzzentrums für die Durchführung der KI- Verordnung bei der BNetzA ermöglicht, deren Zuständigkeit für KI-Systeme nicht mit Produkten in Zusammenhang steht, auf die die Rechtsvorschriften im Anhang I Abschnitt A der Verordnung (EU) 2024/1689 Bezug nehmen. Mit der Verordnung (EU) 2024/1689 werden nicht nur KI-Systeme im Zusammenhang mit Rechtsvorschriften in Anhang I Abschnitt A der Verordnung (EU) 2024/1689 reguliert, sondern auch KI-Systeme, die im Zusammenhang mit anderen europäischen Rechtsgrundlagen stehen (vgl. Anhang I Abschnitt B der Verordnung (EU) 2024/1689). Außerdem werden in Anhang III der Verordnung (EU) 2024/1689 Bereiche spezifiziert, in denen KI-Systeme als Hochrisiko-KI-Systeme eingestuft werden. Für diese Hochrisiko-KI-Systeme werden keine Rechtsgrundlagen angegeben und im vorgelegten Gesetzentwurf wird auch keine Zuständigkeit für Überwachungsbehörden festgelegt. Aber auch Überwachungsbehörden, deren Zuständigkeit für KI- Systeme sich (ggf. erst in Zukunft) aus Anhang I Abschnitt B oder Anhang III der Verordnung (EU) 2024/1689 ergibt, sollten auf die Unterstützung des Koordinierungs- und Kompetenzzentrums für die Durchführung der KI-Verordnung bei der BNetzA zurückgreifen können. Daher sollte § 5 Nummer 1 KI-MIG-E entsprechend diesem Änderungsvorschlag umformuliert werden. 12. Zu Artikel 1 (§ 5 KI-MIG) a) Der Bundesrat ist der Auffassung, dass das Aufgabenprofil des Koordinierungs- und Kompetenzzentrums bei der Bundesnetzagentur um die Entwicklung und Förderung des „Einer prüft für Alle“- Ansatzes (EfA) im Zuständigkeitsbereich des Zentrums erweitert werden sollte. Er bittet im weiteren Gesetzgebungsverfahren das Koordinierungs- und Kompetenzzentrum zu beauftragen, innerhalb eines festzulegenden Zeitraums die Voraussetzungen, Möglichkeiten und Auswirkungen einer verbindlichen Einführung des EfA-Prinzips für die KI-Marktüberwachung zu evaluieren. b) Der Bundesrat begrüßt, dass der Bund mit der Gründung eines Koordinierungs- und Kompetenzzentrums für die Durchführung der Verordnung (EU) 2024/1689 Unterstützung anbietet, hält jedoch den in § 5 KI-MIG-E enthaltenen Aufgabenkatalog für nicht weitreichend genug. Der Bundesrat bittet daher, den Aufgabenkatalog des Koordinierungs- und Kompetenzzentrums im weiteren Gesetzgebungsverfahren um eine Unterstützungskomponente für die Länder beim Aufbau der für den Vollzug der Verordnung (EU) 2024/1689 erforderlichen Fachkompetenzen zu ergänzen. Begründung: Zu Buchstabe a: Der Bundesrat begrüßt das Ansinnen der Bundesregierung, ein Koordinierungs- und Kompetenzzentrum für die Durchführung der KI-Verordnung einzurichten und damit vor allem im Sinne des § 5 Satz 2 Nummer 2 KI-MIG-E die Zusammenarbeit der zuständigen nationalen Behörden zu fördern, um dadurch auf einheitliche Beantwortungen von rechtlichen Fragestellungen zu der KI-Verordnung hinzuwirken. Das mit dem EfA-Ansatz erfolgte Ziel ist es, die gegenseitige Anerkennung von Prüfungen und Bewertungen zwischen den zuständigen Behörden von Bund und Ländern vorzubereiten und zu koordinieren. Dadurch sind verbindliche Mechanismen zur Abstimmung und Durchsetzung einheitlicher Standards und Verfahren zwischen Bund und Ländern zu schaffen, um eine harmonisierte Marktüberwachung sicherzustellen. Die Marktüberwachung würde dadurch effizienter und ressourcenschonender ausgestaltet werden. Aus diesem Grund sollte § 5 Satz 2 Nummer 2 KI-MIG-E entsprechend um den „Einer prüft für Alle“-Ansatz erweitert werden. 13. Zu Artikel 1 (§ 11 Absatz 6 KI-MIG) Artikel 1 § 11 Absatz 6 ist zu streichen. Begründung: Der Bundesrat sieht die Durchbrechung des Steuergeheimnisses im Gesetzentwurf kritisch. Mit der in § 11 Absatz 6 KI-MIG-E normierten Offenbarungspflicht für Finanzbehörden schafft der Bund explizit eine gesetzliche Ermächtigungsgrundlage im Sinne des § 30 Absatz 4 Nummer 2 AO. Das legalisiert für Marktüberwachungsbehörden den direkten Zugriff auf unmaskierte, echte Steuerdaten auf der Datenebene. Diese weitreichende Konsequenz für die aufsichtliche Datenpraxis muss bei der künftigen Ausgestaltung der Aufsichtsstellen transparent berücksichtigt werden. In diesem Zusammenhang ist eine strikte Verhältnismäßigkeit zwischen der aufsichtlichen Eingriffstiefe und dem Schutz des Steuergeheimnisses zu wahren. Der Bundesrat lehnt daher einen direkten Zugriff der Marktüberwachungsbehörden auf Steuerdaten ab. Eine aufsichtliche Prüfung darf ausschließlich auf der Architekturebene erfolgen. 14. Zu Artikel 1 (§ 13 Absatz 4 Satz 1 KI-MIG) In Artikel 1 § 13 Absatz 4 Satz 1 ist die Angabe „ohne Zustimmung“ durch die Angabe „mit Zustimmung“ zu ersetzen. Begründung: Aus Artikel 80 Absatz 2 des Grundgesetzes ergibt sich, dass Rechtsverordnungen, die von den Ländern im Auftrag des Bundes oder als eigene Angelegenheit ausgeführt werden, der Zustimmung des Bundesrates bedürfen. Die Zustimmungsbedürftigkeit nach Artikel 80 Absatz 2 des Grundgesetzes ist verfassungsrechtlich geboten. Die Möglichkeit, Teile einer Materie aus dem Gesetz auszugliedern und sie der Regelung durch die Exekutive zu überlassen, darf nicht zu einer Verkürzung der Mitwirkung des Bundesrates an der Rechtsetzung führen. Die Einrichtung und der Betrieb von KI-Reallaboren greift in tiefgreifende regulatorische Fragen ein und berührt die Interessen der Länder (wirtschaftspolitische Bedeutung, Innovations- und Strukturpolitik, etc.). Die Zustimmungsbedürftigkeit ist auch politisch sinnvoll, um eine abgestimmte und föderal ausgewogene Entwicklung der KI-Forschungsinfrastruktur in Deutschland zu gewährleisten. Durch die Beteiligung des Bundesrates soll sichergestellt werden, dass die Standards für diese Labore überregional kompatibel sind und einheitliche, praxistaugliche Regeln gefunden werden, die beispielsweise auch den Ländern Rückgriffe auf Erkenntnisse aus den KI-Reallaboren ermöglichen. Da die genaue Ausgestaltung der Reallabore in einer Rechtsverordnung geregelt wird, ist die Expertise der Länder (die oft näher an Forschungseinrichtungen und lokalen Unternehmen sind) bei der inhaltlichen Ausgestaltung notwendig. 15. Zu Artikel 1 (§ 13 KI-MIG) Der Bundesrat stellt fest, dass der Bund in Umsetzung der Verpflichtung aus Artikel 57 der Verordnung (EU) 2024/1689 ein KI-Reallabor einrichtet. Der Bundesrat hält die im Gesetzentwurf enthaltenen Regelungen zu den KI-Reallaboren aufgrund der beabsichtigten Überwachungszuständigkeiten für die in Anhang I Abschnitt A geregelten KI-Systeme für nicht eindeutig und im Übrigen für nicht konsistent. Der Bundesrat weist darauf hin, dass die in KI-Reallaboren getroffenen Entscheidungen der zuständigen Behörde unmittelbaren Einfluss auf Vollzug und Konformitätsbewertungsverfahren haben können (vgl. Artikel 57 Absatz 7 Unterabsatz 2 Satz 2 und 3 der Verordnung (EU) 2024/1689). Das führt dazu, dass die betroffenen Wirtschaftsakteure mit zwei verschiedenen Überwachungsbehörden konfrontiert wären. Der Bundesrat bittet daher im weiteren Gesetzgebungsverfahren darum, unter Beachtung der vom Bund getroffenen Zuweisung von Aufgaben eine sachdienliche und innovationsfördernde Lösung zu finden. 16. Zu Artikel 1 allgemein a) Der Bundesrat nimmt den vorliegenden Gesetzentwurf, insbesondere das in Artikel 1 vorgesehene Gesetz zur Marktüberwachung und Innovationsförderung von künstlicher Intelligenz, zur Kenntnis und begrüßt, dass der Bund die Vorgaben aus der KI-Verordnung ohne zusätzliche nationale Vorgaben und so schlank wie möglich umzusetzen versucht, um Innovationen zu fördern und den Wirtschaftsstandort zu stärken. b) Der Bundesrat weist jedoch darauf hin, dass der Gesetzentwurf eine Marktüberwachung durch die Bundesnetzagentur sowie die bei ihr gebildete unabhängige KI-Marktüberwachungskammer lediglich für den Einsatz von KI-Systemen im Bereich des Bundes vorsieht. Demgegenüber überlässt er die Marktüberwachung in dem weitaus größeren Anwendungsbereich, nämlich für die Fälle, in denen öffentliche Stellen der Länder und Kommunen KI-Systeme in Verkehr bringen, in Betrieb nehmen oder verwenden, der Eigenregulierung der Länder, ohne die erforderliche Unterstützung in diesem Bereich zu bieten. c) Der Bundesrat befürchtet in Folge des Gesetzentwurfs eine Zersplitterung der Marktüberwachung von Hochrisiko-KI-Systemen in einer Vielzahl von Landesaufsichtsbehörden. Dies birgt die erhebliche Gefahr von unübersichtlichen und unklaren Zuständigkeiten, einer unterschiedlichen Auslegung der Vorgaben der KI-Verordnung durch verschiedene, jeweils unabhängige Marktaufsichtsbehörden, von Mehrfachbefassungen verschiedener Marktaufsichtsbehörden zu gleichen Systemen in Bezug auf die identische Regelungslage sowie erheblicher finanzieller und personeller Mehrfachaufwände – in einem Bereich, in dem ein Mangel an spezialisierten Kräften besteht. Im Bereich der Hochrisiko-KI-Systeme öffentlicher Stellen sind insbesondere die polizei- und sicherheitsrechtlichen Bereiche betroffen. Unterschiedliche Bewertungen führen zu Rechtsunsicherheiten und abstimmungsbedingte Verzögerungen bei der Bewertung von KI-Systemen können den gesetzlichen Auftrag der Polizei zur Wahrung der inneren Sicherheit gefährden. d) Zwischen den Regierungschefinnen und Regierungschefs der Länder und dem Bundeskanzler wurde in der Modernisierungsagenda am 4. Dezember 2025 beschlossen, dass Bund und Länder insbesondere im Bereich der KI-Verordnung die von ihnen verantworteten Verwaltungsleistungen einschließlich des Vollzugs von EU-Verordnungen bündeln sollen, unter anderem durch eine zentrale Bereitstellung von IT wie Portalen, sowie eine Bündelung von Online- und Fachverfahren. Gerade im Bereich der Strafverfolgung und Gefahrenabwehr können hier Mehrfachprüfungen vermieden und Synergien genutzt werden; dies schon deshalb, weil auf Ebene der Bundespolizeiverwaltung ohnehin eine Marktüberwachung auf Bundesebene stattfinden muss. e) Der Bundesrat erachtet eine bundesweite Zentralisierung der Marktüberwachung für zielführend. Aus diesem Grund wird die Bundesregierung gebeten, unter Einbeziehung der Länder zu prüfen, wie eine effiziente und kompetente Zentralisierung im Sinne der Modernisierungsagenda, beispielsweise mithilfe eines Staatsvertrags, umgesetzt werden kann. 17. Zu Artikel 5 Satz 1 und Satz 2 – neu – KI-MIG Artikel 5 ist durch den folgenden Artikel 5 zu ersetzen: „Artikel 5 Dieses Gesetz tritt vorbehaltlich des Satzes 2 am Tag nach der Verkündung in Kraft. In Artikel 1 tritt § 2 Absatz 6 des KI-Marktüberwachungs-und-Innovationsförderungsgesetzes am [einsetzen: Datum des Tages und des Monats der Verkündung dieses Gesetzes sowie Jahreszahl des auf die Verkündung folgenden Jahres] in Kraft. Begründung: § 2 Absatz 6 KI-MIG-E überträgt die Marktüberwachung auf die Länder, wenn deren öffentliche Stellen KI- Systeme in Verkehr bringen, in Betrieb nehmen oder verwenden. Für den geordneten Aufbau zuständiger Landesstellen, die Klärung von Zuständigkeiten und Prozessen, die Personalausstattung sowie notwendige landesrechtliche und haushaltsrechtliche Anpassungen ist eine Übergangsfrist von mindestens 12 Monaten erforderlich. Diese Frist gewährleistet Rechtssicherheit, verhindert Doppelzuständigkeiten und ermöglicht ggf. notwendige parlamentarische Verfahren in den Ländern durchzuführen. Artikel 5 ist daher entsprechend zu ergänzen. 18. Zum Gesetzentwurf allgemein a) Der Bundesrat begrüßt die Pläne der Bundesregierung zur Einrichtung mindestens eines nationalen KI- Reallabors. b) Der Bundesrat gibt zu bedenken, dass durch die fehlende Bereitstellung von technischer Infrastruktur die Entwicklung, das Training und das Testen von KI-Systemen im KI-Reallabor erheblich erschwert werden. Insbesondere für eine effektive Nutzung der Möglichkeiten des Artikels 59 der Verordnung (EU) 2024/1689, der die Weiterverarbeitung personenbezogener Daten zur Entwicklung bestimmter KI-Systeme im öffentlichen Interesse im KI-Reallabor erlaubt, erscheint die Bereitstellung einer entsprechenden Infrastruktur essentiell. c) Der Bundesrat sieht allgemein noch einen Konkretisierungsbedarf hinsichtlich der genauen Ausgestaltung sowie der damit einhergehenden Umsetzungskosten. d) Der Bundesrat bittet die Bundesregierung deshalb, die ermittelten Erfüllungsaufwände für die Länder zu prüfen. Die Auswirkungen auf die Länder durch die nach § 2 KI-MIG-E vorgesehene Übertragung neuer Aufgaben sind aus Sicht der Länder nicht ausreichend umfassend und differenziert dargestellt. e) Zudem bittet der Bundesrat, im weiteren Gesetzgebungsverfahren klarzustellen, dass der Bund die dabei entstehenden Kosten nach dem Verursacherprinzip trägt. f) Der im Gesetzentwurf ausgewiesene einmalige Erfüllungsaufwand für die Länder von lediglich 28 000 Euro bildet die Realität nicht ab. g) Der Aufbau eigener Aufsichtsstrukturen für die Eigenüberwachung von Hochrisiko-KI wird unweigerlich zu erheblichen Folgekosten führen (IT-Anpassungen, Personalaufbau, erweiterte Protokollierung). h) Der Bundesrat bittet daher um eine transparente Kostendarstellung, um eine Grundlage für einen angemessenen Ausgleich zu schaffen. Begründung: Zu Buchstaben d und e: Den Ländern entstehen durch neu übertragene Aufgaben – insbesondere nach § 2 KI-MIG-E – erhebliche Aufwände. Es sind bestehende Strukturen auszubauen und neue Strukturen zu schaffen. Daher ist eine ganzheitliche, fundierte und differenzierte Betrachtung der Erfüllungsaufwände für Länder inkl. Kommunen unabdingbar. Die Berechnung der Erfüllungsaufwände für die Länder im vorliegenden Gesetzentwurf beruht auf einer Hochrechnung aus einer Feldphase mit Erhebungen in den Ländern im Oktober 2025 sowie Januar 2026. Die dabei ermittelten Werte sind jedoch nicht belastbar, da innerhalb der gesetzten Fristen keine valide Aufwandsschätzung möglich war. Zudem ist bislang unklar, wie die Prozesse der Marktüberwachung praktisch ausgestaltet werden. Daher ist eine umfassende und fundierte Betrachtung der Erfüllungsaufwände erforderlich, insbesondere für die im nun vorgelegten Gesetzentwurf erstmals vorgesehene neue Aufgabe nach § 2 Absatz 6 KI-MIG-E. Die nach § 2 KI-MIG-E übertragenen Aufgaben der Marktüberwachung sind in den Ländern von verschiedensten Behörden unter unterschiedlichsten Voraussetzungen zu erfüllen. Einerseits sind neue Aufgaben durch bestehende Marktüberwachungsstrukturen zu übernehmen (z. B. § 2 Absatz 2 KI-MIG-E), andererseits sind neue Strukturen (§ 2 Absatz 6 KI-MIG-E) zu schaffen. Für eine fundierte Bewertung der im Gesetzentwurf ausgewiesenen Erfüllungsaufwände der Länder bedarf es einer entsprechend detaillierten Darstellung der Erfüllungsaufwände, die insbesondere für die nach § 2 Absätze 2, 6 und 8 KI-MIG-E dargestellten Aufgaben differenziert. Gegenäußerung der Bundesregierung Die Bundesregierung äußert sich zu der Stellungnahme des Bundesrates wie folgt: Zu Ziffer 1 (Artikel 1 (§ 2 Absatz 1 und Absatz 2 KI-MIG)): Die Bundesregierung stimmt dem Vorschlag des Bundesrates nicht zu. Ziel der Bundesregierung ist eine innovationsfreundliche und bürokratiearme Durchführung der Verordnung (EU) 2024/1689 (KI-VO), die vor allem die Rechtsbetroffenen (Unternehmen, öffentliche Stellen) im Blick hat. Der Regierungsentwurf eines Gesetzes zur Durchführung der KI-VO sieht vor, dass die Bundesnetzagentur als zentrale Marktüberwachungsbehörde und notifizierende Behörde benannt wird. Gleichzeitig sollen zur Vermeidung von Doppelstrukturen und zur Nutzung sektorspezifischer Expertise die bereits existenten Marktüberwachungsstrukturen sowie daneben die Aufsichtsstrukturen im Finanzdienstleistungsbereich und im Bereich der Medienaufsicht genutzt werden. Unternehmen sollen, um die Struktur für sie möglichst schlank zu halten, die aus anderen Bereichen bekannten behördlichen Anlaufstellen behalten, die künftig als „One-Stop-Shop“ auch die KI-Aufsicht mit abdecken. Dieser Ansatz wurde auch weithin als Wunsch aus den betroffenen Branchen geäußert. Als Lösung verfolgt die Bundesregierung damit einen sog. hybriden Ansatz. Soweit es bestehende sektorale Marktüberwachungsbehörden und notifizierende Behörden im Bereich des Anhang I Abschnitt A der KI-VO gibt, die bereits in vollharmonisierten Bereichen der Produktregulierung als Marktüberwachungsbehörden und notifizierende Behörden zuständig sind (z. B. für Medizinprodukte und Maschinen), werden diese auch für die KI-VO entsprechend benannt (s. § 2 Absatz 2 und § 3 Absatz 1 des Regierungsentwurfs). Dem liegt auch die Überlegung zu Grunde, dass sich das mit einem KI-System verbundene Risiko nicht unabhängig von dem Produkt bewerten lässt, in welches das KI-System eingebaut ist oder welches das KI-System ist (z. B. Maschine, Medizinprodukt oder Spielzeug). Das KI-System und das Produkt müssen einheitlich bewertet werden, was am besten durch eine einzige Marktüberwachungsbehörde zu realisieren ist. Im Sinne einer einheitlichen Rechtsauslegung bei horizontalen Rechtsfragen und um KI-Expertise den bestehenden Behörden bei Bedarf zur Verfügung zu stellen (sofern eigene KI-Expertise dort (noch) nicht vorhanden ist), wird bei der Bundesnetzagentur ein Koordinierungs- und Kompetenzzentrum geschaffen. Das Zentrum dient bei Bedarf der Unterstützung aller zuständigen Behörden bei ihren aus der KI-VO resultierenden Aufgaben. Damit soll auch der begrenzten Verfügbarkeit von KI-Fachkräften begegnet werden. Zu Ziffer 2 (Artikel 1 (§ 2 Absatz 1 Satz 2 – neu – und 3 – neu – und § 13 Absatz 1 Satz 3 – neu – KI-MIG)): Zu a): Die Bundesregierung stimmt dem Vorschlag des Bundesrates nicht zu. Gemäß Artikel 57 Absatz 1 Satz 1 KI-VO sorgen die Mitgliedstaaten dafür, dass ihre zuständigen Behörden mindestens ein KI-Reallabor auf nationaler Ebene einrichten. Das KI-MIG sieht in § 13 Absatz 1 Satz 1 vor, dass die Bundesnetzagentur mindestens ein solches KI-Reallabor errichtet und betreibt. Zusätzliche KI-Reallabore können gemäß § 13 Absatz 1 Satz 2 durch andere zuständige Behörden, z. B. durch gemäß § 2 Absatz 6 KI-MIG benannte, zuständige Landesbehörden, errichtet werden. Im Interesse der Innovationsförderung ist das aus Sicht der Bundesregierung auch wünschenswert. Die Bundesregierung hat die Bundesnetzagentur daher auch gebeten, dazu in intensiven Austausch mit den Ländern zu treten. Zu b): Die Bundesregierung stimmt dem Vorschlag des Bundesrates nicht zu. Die vorgeschlagene Regelung eines neuen § 13 Absatz 1 Satz 3 KI-MIG ist nicht erforderlich. § 13 Absatz 1 Satz 2 KI-MIG stellt ausdrücklich klar, dass die Errichtung und der Betrieb eines KI-Reallabors durch die Bundesnetzagentur die Errichtung und den Betrieb von KI-Reallaboren durch andere zuständige nationale Behörden gemäß Artikel 3 Nummer 48 der KI-VO unberührt lässt. Gemäß Artikel 3 Nummer 48 der KI-VO ist eine „zuständige nationale Behörde“ eine notifizierende Behörde oder eine Marktüberwachungsbehörde. Das schließt die Marktüberwachungsbehörden der Länder ein (vgl. § 2 Absatz 2, 6 und 8 KI-MIG). Zu Ziffer 3 (Artikel 1 (§ 2 Absatz 1 und 2 KI-MIG)): Die Bundesregierung lehnt den Vorschlag ab. Das KI-MIG sieht vor, dass die Marktüberwachungsbehörden die Aufsicht in ihren jeweiligen Sektoren umfassend sowohl über die Hochrisiko-KI-Systeme (Kapitel III KI-VO) als auch über verbotene Praktiken im KI-Bereich (Art. 5 KI-VO) und die Transparenzpflichten (Art. 50 KI-VO) übernehmen. Die sektorale Marktüberwachung sollte aus einer Hand erfolgen, sodass für die überwachten Unternehmen im Hinblick auf die sektoralen Verbots- und Hochrisiko-Tatbestände sowie die Transparenzpflichten jeweils nur eine Behörde zuständig ist. Für eine einheitliche Prüfung dieser Tatbestände spricht sich auch die KOM in ihren Leitlinien zu den Verboten aus (vgl. dort S. 11). Die Aufsicht in den jeweiligen Sektoren ist jedoch nicht unbegrenzt, sondern produktbezogen. Der Gesetzentwurf enthält hierzu folgende Klarstellung in der Begründung (vgl. letzter Absatz der Gesetzesbegründung zu § 2 Absatz 2 KI-MIG): „Die Marktüberwachung durch eine gemäß § 2 Absatz 2 benannte Behörde bezieht sich auf alle KI-Systeme, die als Produkt unter eine in Anhang I aufgeführte Harmonisierungsvorschrift fallen, für die diese Behörde bereits Marktüberwachungsbehörde ist, und alle KI-Systeme, die als Sicherheitsbauteil eines unter diese Harmonisierungsvorschrift der Union fallenden Produktes verwendet wird (vgl. Artikel 6 Absatz 1 der Verordnung (EU) 2024/1689).“ Zu Ziffer 4 (Artikel 1 (§ 2 Absatz 3 Satz 1, Absatz 4 KI-MIG)): Die Bundesregierung lehnt die vorgeschlagene Ersetzung der Angabe „in direktem Zusammenhang“ durch „im Zusammenhang" ab. Eine Ausweitung der Zuständigkeit der Bundesanstalt für Finanzaufsicht (BaFin) als KI- Marktüberwachungsbehörde auf Bereiche ohne unmittelbaren Finanzdienstleistungsbezug – etwa das Personalwesen einer Bank – ist nicht sachgerecht. KI wird in beaufsichtigten Unternehmen in sehr unterschiedlichen Bereichen eingesetzt, für die bereits spezialisierte Aufsichts- und Fachzuständigkeiten bestehen. Der bloße Einsatz von KI-Technologie rechtfertigt keine Verschiebung dieser bewährten Zuständigkeitsstrukturen. Eine allein an die Nutzung von KI anknüpfende Erweiterung der BaFin-Zuständigkeit würde diesen Grundsatz unterlaufen und die Behörde zudem zwingen, Expertise weit jenseits ihres Kernmandats der Finanzmarktaufsicht aufzubauen. Auch der unionsrechtliche Rahmen stützt diese Abgrenzung: Art. 74 Abs. 6 der Verordnung (EU) 2024/1689 knüpft die Marktüberwachungszuständigkeit nationaler Finanzaufsichtsbehörden ausdrücklich an den direkten Zusammenhang mit der Erbringung einer Finanzdienstleistung; eine mittelbare oder bloß unternehmensbezogene Zuständigkeit ist davon nicht erfasst. Zu Ziffer 5 (Artikel 1 (§ 2 Absatz 3 KI-MIG)): Die Bundesregierung hat die Bitte des Bundesrates geprüft. Ergebnis dieser Prüfung ist, dass es nicht ersichtlich ist, dass es zum Aufbau einer Doppelstruktur bei der Aufsicht über den Einsatz von KI-Systemen bei Kreditinstituten kommen könnte. Zuständige Marktüberwachungsbehörde wird entweder die Bundesanstalt für Finanzdienstleistungsaufsicht (§ 2 Absatz 3 KI-MIG) oder die Bundesnetzagentur (§ 2 Absatz 1 KI-MIG). Maßgebend ist insoweit, ob der Einsatz eines KI-Systems „in direktem Zusammenhang mit einer regulierten Finanztätigkeit“ steht; dann wird die Bundesanstalt für Finanzdienstleistungsaufsicht zuständig. Dies wird in den allermeisten Fällen eindeutig zu beantworten sein (z. B. positiv für ein KI-System, das bestimmungsgemäß für die Kreditwürdigkeitsprüfung oder Bonitätsbewertung verwendet werden soll; negativ für ein KI-System, das für die Einstellung oder Auswahl von Mitarbeitern verwendet werden soll). Die Risikostruktur eines KI-Systems, das bei der Kreditwürdigkeitsprüfung eingesetzt wird, unterscheidet sich grundlegend von einem System, das im Personalrecruiting verwendet wird. Grenzfälle werden in der Praxis voraussichtlich schnell geklärt werden können. Eine Zuständigkeitsbündelung bei der BaFin würde diese sachliche Differenzierung aufgeben und die Behörde zwingen, Regelungsbereiche ohne Bezug zu ihrem Kernmandat der Finanzmarktaufsicht zu übernehmen. Der Einsatz von KI allein rechtfertigt keine Abkehr von bewährten Zuständigkeitsstrukturen. Zu Ziffer 6 (Artikel 1 (§ 2 Absatz 6 Satz 1a – neu – und Satz 1b – neu – KI-MIG)): Die Bundesregierung prüft den Vorschlag des Bundesrates. Zu Ziffer 7 (Artikel 1 (§ 2 Absatz 6a – neu – KI-MIG)): Die Bundesregierung prüft den Vorschlag des Bundesrates. Zu Ziffer 8 (Artikel 1 (§ 3 Absatz 1 KI-MIG)): Die Bundesregierung stimmt dem Vorschlag des Bundesrates nicht zu. Der Vorschlag ist nicht mit dem gewählten Aufbau der Aufsichtsstruktur vereinbar. Die befristete Benennung der Bundesnetzagentur schafft gerade keine Rechtssicherheit. Zu Ziffer 9 (Artikel 1 (§ 3 KI-MIG)): Die Bundesregierung hat geprüft und keine Regelungslücke in § 3 KI-MIG feststellen können. § 3 KI-MIG benennt die zuständigen notifizierenden Behörden für all jene Bereiche, für die die KI-VO eine Konformitätsbewertung vorschreibt, die verpflichtend durch eine notifizierte Stelle durchgeführt werden muss (Drittkonformitätsbewertung). Das ist nur in bestimmten Fällen vorgesehen, da eine Konformitätsbewertung grundsätzlich durch eine interne Kontrolle des Herstellers (Selbstbewertung) durchgeführt werden kann. Für freiwillige Drittkonformitätsbewertungen bedarf es keiner notifizierten Stelle; diese können auch durch nicht notifizierte Konformitätsbewertungsstellen durchgeführt werden. In welchen Fällen eine verpflichtende Drittkonformitätsbewertung erforderlich ist, ergibt sich aus Artikel 43 der KI-VO. Zu Ziffer 10 (Artikel 1 (§ 4 KI-MIG)): Die Bundesregierung hat die Frage bereits umfassend geprüft. Diese Prüfung ergab, dass die gewählte Lösung nicht europarechtswidrig ist. Die völlig unabhängig handelnde KI-Marktüberwachungskammer erfüllt die Anforderungen nach Artikel 41 bis 44 der Richtlinie (EU) 2016/680. Zu Ziffer 11 (Artikel 1 (§ 5 Satz 2 Nummer 1 KI-MIG)): Die Bundesregierung stimmt dem Vorschlag des Bundesrates nicht zu. Die vorgeschlagene Ergänzung ist nicht erforderlich. Gemäß § 5 Satz 2 Nummer 1 KI-MIG hat das Zentrum die Aufgabe, „die nach diesem Gesetz [KI-MIG] zuständigen Marktüberwachungsbehörden“ zu unterstützen. Das umfasst nicht nur die nach § 2 Absatz 2 KI-MIG zuständigen Marktüberwachungsbehörden, sondern alle nach dem KI-MIG zuständigen Behörden, einschließlich derjenigen, die im Bereich des Anhangs III der KI-VO zuständig werden (vgl. § 2 Absatz 6 KI-MIG). Zu Ziffer 12 (Artikel 1 (§ 5 KI-MIG)): Zu a): Die Bundesregierung lehnt die Evaluierungsbitte des Bundesrates ab. Das Koordinierungs- und Kompetenzzentrum bei der Bundesnetzagentur hat gemäß § 5 Satz 2 Nummer 2 KI- MIG bereits die Aufgabe, die Zusammenarbeit der Behörden zu koordinieren und darauf hinzuwirken, dass die horizontalen Rechtsfragen einheitlich beantwortet werden. Allerdings kann das Zentrum nur beratend/unterstützend gegenüber Landesbehörden tätig werden. Die Bundesnetzagentur kann nicht verbindlich für eine zuständige Landesbehörde entscheiden. Dem steht aus Sicht der Bundesregierung das verfassungsrechtliche Verbot der Mischverwaltung entgegen. Eine umfassende Evaluierung der mit dem KI-MIG festgelegten Aufsichts- und Behördenstruktur soll ohnehin spätestens nach drei Jahren erfolgen. Dabei soll evaluiert werden, ob mit der Aufsichts- und Behördenstruktur, einschließlich der Kooperationsvorschriften, eine innovationsfreundliche und bürokratiearme Durchführung der KI-VO erreicht wurde. Diese Evaluierung kann aber nicht dem Zentrum als beteiligter Stelle übertragen werden. Ob im Ergebnis die Länder untereinander nach dem „Einer-prüft-für-Alle“-Prinzip verbindliche Prüfungen übertragen können, hat die Bundesregierung bisher nicht abschließend geprüft. Dies richtet sich grundsätzlich nach dem Staatsorganisationsrecht der Länder. Zu b): Die Bundesregierung hat den Vorschlag des Bundesrates geprüft, bewertet aber den Ergänzungsvorschlag als überflüssig. § 5 Nummer 1 KI-MIG sieht bereits explizit die fachliche Unterstützung der zuständigen Behörden als Aufgabe des Koordinierungs- und Kompetenzzentrums vor, solange und soweit die Länderbehörden keine eigene ausreichende Expertise haben. Allerdings kann das Zentrum nur beratend/unterstützend gegenüber Landesbehörden tätig werden, nicht verbindlich entscheiden. Das folgt aus dem verfassungsrechtlichen Verbot der Mischverwaltung. Zu Ziffer 13 (Artikel 1 (§ 11 Absatz 6 KI-MIG)): Die Bundesregierung stimmt dem Vorschlag des Bundesrates nicht zu. § 11 Absatz 6 KI-MIG erlaubt die Offenbarung von Daten, die dem Steuergeheimnis unterliegen, durch die Finanzbehörde an die Marktüberwachungsbehörde, wenn dies erforderlich ist, damit die Marktüberwachungsbehörden ihren vorgegebenen Aufgaben nachkommen können. Mit der Offenbarungsbefugnis schafft der Bund eine gesetzliche Ermächtigungsgrundlage im Sinne des § 30 Absatz 4 Nummer 2 der Abgabenordnung (AO). Es handelt sich insoweit um die notwendige Umsetzung der Vorgaben der KI-VO in nationales Recht. Zudem enthält die geplante Regelung eine Prüfung der Erforderlichkeit, mittels derer die Offenbarung der Daten auf das notwendige Maß beschränkt wird. Hierfür hat die Marktüberwachungsbehörde gegenüber der Finanzbehörde in jedem Fall begründet darzulegen, dass die Herausgabe der Daten zur Erfüllung ihrer Aufgaben nach Maßgabe der Verordnungen (EU) 2024/1689 sowie 2019/1020 erforderlich ist. Im Bereich der Finanzverwaltung der Länder ist die zuständige Marktüberwachungsbehörde auf Landesebene selbst zu bestimmen. Der Offenbarungstatbestand führt somit nicht dazu, dass die für die Bundesfinanzverwaltung zuständige Marktüberwachungsbehörde Zugriff auf die Steuerdaten der Länder erhält. Zu Ziffer 14 (Artikel 1 (§ 13 Absatz 4 Satz 1 KI-MIG)): Die Bundesregierung stimmt dem Vorschlag des Bundesrates nicht zu. Die in § 13 Absatz 4 KI-MIG vorgesehene Rechtsverordnungsermächtigung betrifft ausdrücklich (nur) die Regelung der „näheren Einzelheiten der Einrichtung und des Betriebs von KI-Reallaboren nach Absatz 1 Satz 1“, d. h. der KI-Reallabore der Bundesnetzagentur. Die Zustimmung des Bundesrates ist insoweit nicht erforderlich. Zu Ziffer 15 (Artikel 1 (§ 13 KI-MIG)): Die Bundesregierung nimmt die Hinweise des Bundesrates zur Kenntnis und führt hierzu wie folgt aus: Aus Sicht der Bundesregierung sollen die Marktüberwachungsbehörden unabhängig von ihren jeweiligen Zuständigkeitsbereichen KI-Reallabore einrichten und betreiben können. Dadurch wird die Innovationsförderung in Deutschland deutlich gestärkt. Eine Beeinträchtigung der Zuständigkeit der Marktüberwachungsbehörden der Länder folgt daraus nicht. Zum einen hat die Zusammenarbeit zwischen der Bundesnetzagentur und anderen Behörden, die KI-Reallabore betreiben, kooperativ und vertrauensvoll zu erfolgen (vgl. § 13 Absatz 2 Satz 1 und 3 KI-MIG). Zum anderen erfolgt die Marktüberwachung betreffend ein KI-System, das ein KI-Reallabor durchlaufen hat, durch die jeweils zuständige Marktüberwachungsbehörde. Zu Ziffer 16 (Artikel 1 allgemein): Zu a) und b): Die Bundesregierung stimmt dem Vorschlag des Bundesrats nicht zu. Es wird auf die Ausführungen zu Ziffer 1 verwiesen. Ergänzend verweist die Bundesregierung darauf, dass erhebliche verfassungsrechtliche Bedenken dagegen bestehen, wenn Angebot oder Betrieb von KI-Systemen in öffentlichen Stellen der Länder durch eine Bundesbehörde beaufsichtigt würden. Mithin wurde den Ländern mit § 2 Absatz 6 KI-MIG in diesen Fällen die Marktüberwachung belassen. Zu c): Die Bundesregierung stimmt dem Vorschlag des Bundesrats nicht zu. Es wird auf die Ausführungen zu Ziffer 1 verwiesen. Unterschiedliche Bewertungen von KI-Systemen durch verschiedene Marktüberwachungsbehörden könnten zu Rechtsunsicherheiten führen. Abstimmungsbedingte Verzögerungen bei der Bewertung von KI-Systemen könnten den gesetzlichen Auftrag der Polizei zur Wahrung der inneren Sicherheit gefährden. Eine enge Abstimmung zwischen den Marktüberwachungsbehörden – auch unter Einbeziehung des Koordinierungs- und Kompetenzzentrums – und der Sicherheitsbehörden ist daher aus Sicht der Bundesregierung zu begrüßen. Zu d): Die Bundesregierung nimmt den Vorschlag des Bundesrats zur Kenntnis. Zu e): Die Bundesregierung nimmt den Vorschlag des Bundesrats zur Kenntnis und prüft Umsetzungsmöglichkeiten im Rahmen der Modernisierungsagenda. Zur Umsetzung durch einen Staatsvertrag wird auf die Ausführungen zu Ziffer 6 verwiesen. Zu Ziffer 17 (Artikel 5 Satz 1 und Satz 2 – neu – KI-MIG): Die Bundesregierung lehnt den Antrag mit Verweis auf die Ausführungen zu Ziffer 16 a) und b) ab. Die verfassungsrechtlichen Bedenken gegen eine Übernahme der Marktüberwachung über Landesbehörden durch die Bundesnetzagentur bestehen auch dann, wenn diese nur für 12 Monate zuständig würde. Das wäre aber die Folge, denn durch eine verzögerte Anwendung von § 2 Absatz 6 KI-MIG, käme die allgemeine Regelung in § 2 Absatz 1 KI-MIG zur Anwendung. Zu Ziffer 18 (Gesetzentwurf allgemein): Zu a) und b): Die Bundesregierung nimmt die Stellungnahme des Bundesrates zur Kenntnis und führt hierzu wie folgt aus: Mit dem KI-MIG wird u.a. die Verpflichtung Deutschlands umgesetzt, „mindestens ein KI-Reallabor auf nationaler Ebene einzurichten“ (Artikel 57 Absatz 1 Satz 1 KI-VO). Dieses KI-Reallabor wird bei der Bundesnetzagentur eingerichtet und betrieben (§ 13 Absatz 1 Satz 1 KI-MIG). Die KI-VO sieht vor, dass den für ein KI-Reallabor zuständigen Behörden „ausreichende Mittel“ bereitgestellt werden (Artikel 57 Absatz 4 Satz 1 KI-VO). Hierfür hat die Bundesregierung die bei der Bundesnetzagentur erforderlichen Mittel ermittelt und im Gesetzentwurf als Erfüllungsaufwand erfasst. Soweit die Länder die Errichtung und den Betrieb eigener KI-Reallabore planen, sind sie für die Bereitstellung der hierfür erforderlichen Mittel verantwortlich. Zu c) bis h): Die Bundesregierung hat die Bitte des Bundesrates geprüft. Sie sieht aktuell keinen Anpassungsbedarf. Wie im Gesetzentwurf ausgewiesen, entsteht den Ländern durch das Gesetz ein prognostizierter jährlicher Erfüllungsaufwand von 33 099 000 Euro (inkl. Kommunen). An einmaligem Erfüllungsaufwand entfallen 28 000 Euro auf die Länder (inkl. Kommunen). Dafür, dass diese Schätzung die Realität unzutreffend abbildet, liegen der Bundesregierung keine konkreten Anhaltspunkte vor. Die Feststellung des Bundesrates, dass der Aufbau eigener Aufsichtsstrukturen für die Eigenüberwachung von Hochrisiko-KI durch die Länder zu erheblichen Folgekosten führen wird (IT-Anpassungen, Personalaufbau, erweiterte Protokollierung), genügt nicht, um Zweifel an der Kostendarstellung zu begründen. Der aufgeführte Erfüllungsaufwand der Bundesländer basiert auf einer Hochrechnung. In der Feldphase konnte ein Großteil der Bundesländer befragt werden. Diese befragten Länder stehen für 76,5 % aller Marktüberwachungstätigkeiten aller Länder. Davon ausgehend wurde der Aufwand auf die Grundgesamtheit aller Bundesländer hochgerechnet. Forderungen der Länder nach etwaiger Refinanzierung dortiger Aufwände bzw. finanzieller Unterstützung durch den Bund verkennen die verfassungsrechtliche Ver-teilung der Verwaltungs- und Finanzierungszuständigkeiten sowie -pflichten im föderalen System. Die Verpflichtung zur Marktüberwachung folgt primär aus der KI-VO, die als unmittelbar geltendes Unionrecht von den Mitgliedstaaten zu vollziehen ist. Die Ausführung von (unmittelbar anwendbarem) EU-Sekundärrecht erfolgt grundsätzlich entsprechend Artikel 83 GG durch die Länder als eigene Angelegenheit. Die bundesgesetzliche Organisationsentscheidung beschränkt sich darauf, für bestimmte Teilbereiche abweichend von diesem Grundsatz Bundesbehörden als zuständige Behörden zu benennen und deren Zuständigkeiten gegenüber den Zuständigkeiten der Länder abzugrenzen. Nach Artikel 109 GG sind Bund und Länder in ihrer Haushaltswirtschaft selbständig und unabhängig. Ergänzend bestimmt Artikel 104a Absatz 1 GG zur Ausgaben- bzw. Lastenverteilung zwischen Bunde und Ländern, dass Bund und Länder grds. gesondert die Ausgaben tragen, die sich aus der Wahrnehmung ihrer jeweiligen Aufgaben ergeben (Ausgabenverantwortung folgt Aufgabenverantwortung). Da die Marktüberwachung nach § 2 KI-MIG im Regelfall bei den bestehenden Marktüberwachungsbehörden der Länder belassen wird, erfolgt auch insoweit der Vollzug als eigene Angelegenheit der Länder und liegt damit gemäß Artikel 104a Absatz 1 GG auch in der Finanzierungsverantwortung der Länder. Gesamtherstellung: H. Heenemann GmbH & Co. KG, Buch- und Offsetdruckerei, Bessemerstraße 83–91, 12103 Berlin, www.heenemann-druck.de Vertrieb: Bundesanzeiger Verlag GmbH, Postfach 10 05 34, 50445 Köln, Telefon (02 21) 97 66 83 40, Fax (02 21) 97 66 83 44, www.bundesanzeiger-verlag.de ISSN 0722-8333