Gesetz zur Durchführung der Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU) Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien 2014/90/EU, (EU) 2016/797 und (EU) 2020/1828 (Gesetz zur Durchführung der Verordnung über künstliche Intelligenz)

Gesetz zur Durchführung der Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU) Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien 2014/90/EU, (EU) 2016/797 und (EU) 2020/1828 (Gesetz zur Durchführung der Verordnung über künstliche Intelligenz) ... Vertrieb: Bundesanzeiger Verlag GmbH, Postfach 10 05 34, 50445 Köln Telefon (02 21) 97 66 83 40, Fax (02 21) 97 66 83 44, www.bundesanzeiger-verlag.de ISSN 0720-2946 Bundesrat Drucksache 375/1/26 26.06.26 E m p f e h l u n g e n der Ausschüsse DS zu Punkt ... der 1067. Sitzung des Bundesrates am 10. Juli 2026 Gesetz zur Durchführung der Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU) Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien 2014/90/EU, (EU) 2016/797 und (EU) 2020/1828 (Gesetz zur Durchführung der Verordnung über künstliche Intelligenz) Der Ausschuss für Digitalisierung und Staatsmodernisierung empfiehlt dem Bundesrat, zu dem vom Deutschen Bundestag am 11. Juni 2026 verabschiedeten Gesetz die Einberufung des Vermittlungsausschusses gemäß Artikel 77 Absatz 2 des Grundgesetzes mit dem Ziel der grundlegenden Überarbeitung des Gesetzes zu verlangen. Begründung: Der Bundesrat begrüßt, dass der Bund die Vorgaben aus der Verordnung (EU) 2024/1689 (KI-Verordnung) so schlank wie möglich umzusetzen versucht. Der Bundesrat kritisiert dennoch, dass weiterhin eine Marktüberwachung durch die Bundesnetzagentur sowie die bei ihr gebildete unabhängige KI- Marktüberwachungskammer lediglich für den Einsatz von KI-Systemen im Bereich des Bundes vorgesehen und die Marktüberwachung in dem weitaus größeren Anwendungsbereich, nach § 2 Absatz 2 KI-MIG und § 2 Absatz 6 KI- MIG, der Eigenregulierung der Länder überlassen wird. Die Ausgestaltung der Marktaufsicht ist als entscheidendes Element des Gesetzes zu verstehen. Der einheitliche und verlässliche Umgang mit vergleichbaren Sachverhalten ist im Bereich dieser komplexen Materie auschlaggebend. Dies gilt auch für die nötige Rechtssicherheit als Grundpfeiler eines erfolgreichen und stabilen Wirtschaftsstandorts. Der Bundesrat weist darauf hin, dass die landesweite Zuständigkeitszuweisung für die Marktüberwachung in einem Spannungsverhältnis zur Föderalen Modernisierungsagenda steht. Bund und Länder vereinbarten dort, komplexe und technisch anspruchsvolle Vollzugsaufgaben, auch beim Vollzug von EU- Verordnungen, zu bündeln. Der Bundesrat lehnt die bisher vorgesehene Übertragung der Marktaufsicht auf die Länder nach § 2 Absatz 2 KI-MIG und § 2 Absatz 6 KI-MIG aus folgenden Gründen ab: – Der Bundesrat begreift wegen der Komplexität von KI-Systemen technische Spezialexpertise, einheitliche Auslegung und Bewertung sowie die Vermeidung divergierender Entscheidungen als essentielle Faktoren. – Der Bundesrat befürchtet eine Zersplitterung der Marktüberwachung von Hochrisiko-KI-Systemen in eine Vielzahl von Landesaufsichtsbehörden, unübersichtliche und unklare Zuständigkeiten sowie die unterschiedliche Auslegung der Vorgaben der KI-Verordnung. – Der Bundesrat rechnet mit erheblichen finanziellen und personellen Mehrfachaufwänden in einem Bereich, in dem bereits ein Mangel an spezialisierten Kräften besteht. Der parallele Aufbau entsprechender Strukturen beim Bund und in allen Ländern würde einen erheblichen Einsatz an Ressourcen bedeuten. – Der Bundesrat sieht durch die Fragmentierung der Aufsicht die Beförderung von Doppelstrukturen, die einem effektiven, einheitlichen und bürokratiearmen Vollzug der komplexen Materie entgegenstehen. Dies widerspricht dem erklärten gemeinsamen Ziel einer Verschlankung und Vereinfachung und insbesondere dem Harmonisierungsziel der EU. Der Bundesrat bewertet eine bundesweite Zentralisierung der Marktüberwachung als zielführend. Der Bundesrat erwartet eine umfassende Prüfung aller verfassungsrechtskonformer Möglichkeiten für eine zentrale Aufgabenwahrnehmung beim Bund (beispielsweise eine Anpassung der Verwaltungskompetenzen des Bundes durch das KI-Ausführungsgesetz selbst in Verbindung mit Artikel 87 Absatz 3 des Grundgesetzes oder einen Bund-Länder-Staatsvertrag), auch im Sinne der von Bund und Ländern gemeinsam beschlossenen Modernisierungsagenda.