Entschließung des Bundesrates "Die Verordnung (EU) 2024/1689 über künstliche Intelligenz (KI-VO) soll grundsätzlich auf EU- oder Bundesebene vollzogen werden"

Entschließung des Bundesrates "Die Verordnung (EU) 2024/1689 über künstliche Intelligenz (KI-VO) soll grundsätzlich auf EU- oder Bundesebene vollzogen werden" Vertrieb: Bundesanzeiger Verlag GmbH, Postfach 10 05 34, 50445 Köln Telefon (02 21) 97 66 83 40, Fax (02 21) 97 66 83 44, www.bundesanzeiger-verlag.de ISSN 0720-2946 Bundesrat zu Drucksache 491/25 (Beschluss) 23.03.26 Unterrichtung durch die Bundesregierung Stellungnahme der Bundesregierung zu der Entschließung des Bundesrates "Die Verordnung (EU) 2024/1689 über künstliche Intelligenz (KI-VO) soll grundsätzlich auf EU- oder Bundesebene vollzogen werden" Bundesministerium Berlin, 23. März 2026 für Digitales und Staatsmodernisierung Parlamentarischer Staatssekretär An den Präsidenten des Bundesrates Herrn Bürgermeister Dr. Andreas Bovenschulte Sehr geehrter Herr Bundesratspräsident, namens der Bundesregierung übersende ich Ihnen als Anlage die Stellungnahme der Bundesregierung zu der Entschließung des Bundesrates „Die Verordnung (EU) 2024/1689 über künstliche Intelligenz (KI-VO) soll grundsätzlich auf EU- oder Bundesebene vollzogen werden“ vom 17. Oktober 2025 (BR- Drucksache 491/25 (Beschluss)). Mit freundlichen Grüßen Thomas Jarzombek Stellungnahme zu der Entschließung des Bundesrates „Die Verordnung (EU) 2024/1689 über künstliche Intelligenz (KI-VO) soll grundsätzlich auf EU- oder Bundesebene vollzogen werden“ vom 17. Oktober 2025 (BR-Drs. 491/25 (Beschluss)) Stellungnahme: Zu Ziffer 1 Die Bundesregierung hat die Forderung des Bundesrates, den Vollzug der Verordnung (EU) 2024/1689 (Verordnung über künstliche Intelligenz, KI-VO) auch hinsichtlich der Marktüberwachung für die in Produkten und Medizinprodukten gemäß Anhang I Abschnitt A der Verordnung über künstliche Intelligenz enthaltenen KI-Komponenten auf Bundesebene wahrzunehmen, nicht umgesetzt. Dies aus folgenden Gründen: Ziel der Bundesregierung ist eine innovationsfreundliche und bürokratiearme Durchführung der KI-VO, die vor allem die Rechtsbetroffenen (Unternehmen, öffentliche Stellen) im Blick hat. Der Regierungsentwurf eines Gesetzes zur Durchführung der KI-VO, der am 11. Februar 2026 vom Kabinett beschlossen wurde, sieht vor, dass die Bundesnetzagentur als zentrale Marktüberwachungsbehörde und notifizierende Behörde benannt wird. Gleichzeitig sollen zur Vermeidung von Doppelstrukturen und zur Nutzung sektorspezifischer Expertise die bereits existenten Marktüberwachungsstrukturen sowie daneben die Aufsichtsstrukturen im Finanzdienstleistungsbereich und im Bereich der Medienaufsicht genutzt werden. Unternehmen sollen, um die Struktur für sie möglichst schlank zu halten, die aus anderen Bereichen bekannten behördlichen Anlaufstellen behalten, die künftig als „One-Stop-Shop“ auch die KI-Aufsicht mit abdecken. Dieser Ansatz wurde auch weithin als Wunsch aus den betroffenen Branchen geäußert. Als Lösung verfolgt die Bundesregierung damit einen sog. hybriden Ansatz: Soweit es bestehende sektorale Marktüberwachungsbehörden und notifizierende Behörden im Bereich des Anhang I Abschnitt A der KI-VO gibt, die bereits in vollharmonisierten Bereichen der Produktregulierung als Marktüberwachungsbehörden und notifizierende Behörden zuständig sind (z. B. für Medizinprodukte und Maschinen), werden diese auch für die KI-VO entsprechend benannt. Vorhandene Aufsichtsstrukturen im Finanzdienstleistungsbereich werden ebenfalls berücksichtigt und insbes. die BaFin als Marktüberwachungsbehörde für bestimmte regulierte Finanzinstitute benannt, soweit diese KI-Systeme im direkten Zusammenhang mit der Erbringung von Finanzdienstleistungen einsetzen. . Im Bereich der Medienaufsicht werden die nach Landesrecht zuständigen Medienaufsichten als Marktüberwachungsbehörden über Mediendiensteanbieter, die KI- Systeme zu journalistischen Zwecken oder zu Werbezwecken bei der Veranstaltung, dem Angebot, der Verbreitung und der Zugänglichmachung von Mediendiensten einsetzen, zuständig. Das Bundesamt für Sicherheit in der Informationstechnik (BSI) wird für Hochrisiko-KI-Systeme, die im Bereich der Biometrie eingesetzt werden, als notifizierende Behörde aufgrund seiner Expertise in diesem Bereich zuständig. In den übrigen Bereichen, in denen nicht auf bestehende Strukturen zurückgegriffen werden kann (Anhang III der KI-VO), wird die Bundesnetzagentur grundsätzlich die zuständige zu Drucksache 491/25 (Beschluss) Marktüberwachungsbehörde. Für bestimmte Hochrisiko-KI Systeme gemäß Art. 74 Abs. 8 der KI-VO wird eine unabhängige Stelle innerhalb der Bundesnetzagentur benannt. Werden KI-Systeme von öffentlichen Stellen der Länder in Verkehr gebracht, in Betrieb genommen oder verwendet, obliegt die Marktüberwachung wegen der Eigenstaatlichkeit der Länder aus verfassungsrechtlichen Gründen den nach Landesrecht zuständigen Behörden. Für Querschnittsthemen (z.B. Cybersicherheit oder Datenschutzaufsichtsrecht) wird die Expertise anderer Behörden im Rahmen der jeweiligen Zuständigkeitsbereiche beachtet (insbesondere des Bundesamts für Sicherheit in der Informationstechnik, der Datenschutzbehörden oder des Bundeskartellamts). Zudem wird die Bundesnetzagentur ermächtigt, bei Bedarf externe Expertise einzubeziehen (wie die der Datenlabore der Bundesregierung sowie der Algorithmenbewertungsstelle für Behörden und Organisationen mit Sicherheitsaufgaben (ABOS)). Im Sinne einer einheitlichen Rechtsauslegung bei horizontalen Rechtsfragen und um KI- Expertise ressourcenschonend den bestehenden Behörden bei Bedarf zur Verfügung zu stellen (sofern eigene KI-Expertise dort (noch) nicht vorhanden ist), wird bei der Bundesnetzagentur ein Koordinierungs- und Kompetenzzentrum geschaffen. Das Zentrum dient bei Bedarf der Unterstützung aller zuständigen Behörden bei ihren aus der KI-VO resultierenden Aufgaben. Damit soll auch der begrenzten Verfügbarkeit von KI-Fachkräften begegnet werden. Zu Ziffer 2 Die Bundesregierung sieht eine mögliche weitergehende Zentralisierung auf Ebene der EU, wie sie der Bundesrat fordert, als erwägenswerten Punkt an, der aber im jeweiligen Einzelfall insbesondere auch unter verfassungsrechtlichen Rahmenbedingungen zu bewerten ist. Nach dieser Maßgabe wird die Bundesregierung beispielsweise den KI-Omnibus („Digital Omnibus on AI“), vorgelegt am 19. November 2025 von der EU-Kommission als Teil des Omnibus VII, und den darin enthaltenen Vorschlag bewerten, die Aufsicht (“supervision and enforcement”) von bestimmten KI-Systemen, die auf einem general-purpose AI Model (gpAIM) basieren oder von KI-Systemen, die in sehr große Online-Plattformen bzw. sehr große Suchmaschinen eingebettet sind, auf das EU AI Office zu übertragen. Die Prüfung dieses Vorschlags durch die Bundesregierung dauert an. Die Bundesregierung wird sich unter Abwägung der Vor- und Nachteile der vorgeschlagenen Maßnahmen konstruktiv in den weiteren Prozess einbringen. zu Drucksache 491/25 (Beschluss) - 2 -