Entschließung des Bundesrates "Die Verordnung (EU) 2024/1689 über künstliche Intelligenz (KI-VO) soll grundsätzlich auf EU- oder Bundesebene vollzogen werden"

Entschließung des Bundesrates "Die Verordnung (EU) 2024/1689 über künstliche Intelligenz (KI-VO) soll grundsätzlich auf EU- oder Bundesebene vollzogen werden" [Bundesrat Drucksache 491/25 (Beschluss) 17.10.25 Vertrieb: Bundesanzeiger Verlag GmbH, Postfach 10 05 34, 50445 Köln Telefon (02 21) 97 66 83 40, Fax (02 21) 97 66 83 44, www.bundesanzeiger-verlag.de ISSN 0720-2946 Beschluss des Bundesrates Entschließung des Bundesrates „Die Verordnung (EU) 2024/1689 über künstliche Intelligenz (KI-VO) soll grundsätzlich auf EU- oder Bundesebene vollzogen werden“ Der Bundesrat hat in seiner 1058. Sitzung am 17. Oktober 2025 die aus der Anlage ersichtliche Entschließung gefasst. Drucksache 491/25 (Beschluss) Anlage Entschließung des Bundesrates „Die Verordnung (EU) 2024/1689 über künstliche Intelligenz (KI-VO) soll grundsätzlich auf EU- oder Bundesebene vollzogen werden“ 1. Die Bundesregierung wird aufgefordert, den Vollzug der Verordnung (EU) 2024/1689 (Verordnung über künstliche Intelligenz) auch hinsichtlich der Marktüberwachung für die in Produkten und Medizinprodukten gemäß Anhang I Abschnitt A der Verordnung über künstliche Intelligenz enthaltenen KI- Komponenten auf Bundesebene wahrzunehmen. 2. Ferner wird die Bundesregierung aufgefordert, sich im Rahmen zukünftiger Anpassungen des europäischen Rechtsrahmens für eine Zentralisierung auf Ebene der EU einzusetzen. Begründung Ein adäquater Vollzug der Verordnung über künstliche Intelligenz ist zum Schutz der europäischen und deutschen Wirtschaft und der Verbraucherinnen und Verbraucher, sowie der Patientinnen und Patienten notwendig. Andernfalls drohen nicht nur Wettbewerbsverzerrungen durch Importe aus Drittstaaten und eklatante Standortnachteile für rechtstreue Wirtschaftsakteure, sondern auch ernsthafte Gesundheitsrisiken. Grundsätzlich ist es ohnehin sinnvoll, die fortschreitende Aufteilung der Zuständigkeiten mit verschiedenen Ansprechpartnern für die Überwachung rechtlicher Vorgaben im Bereich Produktsicherheit zu reduzieren. Bei dem hier vorliegenden Sachverhalt im Zusammenhang mit KI kommen aber noch weitere Aspekte hinzu, die gegen die weitere Zersplitterung des Vollzuges hinsichtlich der KI in Produkten über verschiedene Ebenen und in allen Ländern sprechen: – Für eine wirksame Wahrnehmung der Überwachungsmaßnahmen und die Bewertung der einschlägigen Sachverhalte ist sehr spezifisches und rares Fachpersonal erforderlich. Aufgrund der besonderen und zudem neuen Prüfinhalte im Zusammenhang mit KI in Produkten ist zu erwarten, dass die öffentliche Hand hier sehr stark mit Akteuren aus der Wirtschaft konkurriert. Daneben wird der Wissensaufbau und -erhalt einen höheren Stellenwert haben, da sich die Entwicklungen im Bereich der KI besonders schnell vollziehen. – Eine Übertragung der Marktüberwachungsaufgaben an die Länder würde die oben beschriebene Situation weiter verschlimmern. Denn neben der Wirtschaft würden dann auch die Länder untereinander um das erforderliche Personal konkurrieren. Es ist daher absehbar, dass Marktüberwachungsbehörden der Länder in Konkurrenz mit dem Bund und der Wirtschaft kein ausreichend kompetentes Personal gewinnen werden können. – Die Länder wären außerdem auf die Zusammenarbeit mit den ohnehin schon explizit für diese Aufgabe einzurichtenden und zu ertüchtigenden Stellen des Bundes, wie der Bundesnetzagentur und dem Bundesinstitut für Arzneimittel und Medizinprodukte angewiesen, die über die entsprechende Expertise verfügen müssen. Die Zahl der Ansprechpartner für Wirtschaftsakteure, die Produkte mit KI auf den Markt bringen wollen, erhöht sich also durch die Verordnung über künstliche Intelligenz weiter. – Zudem fordert die Verordnung über künstliche Intelligenz den Nachweis der fachlichen Kompetenz von den zuständigen Marktüberwachungsbehörden. So heißt es in Artikel 70 Absatz 3: „Die Mitgliedstaaten sorgen dafür, dass ihre zuständigen nationalen Behörden mit angemessenen technischen und finanziellen Mitteln sowie geeignetem Personal und Infrastrukturen ausgestattet werden, damit sie ihre Aufgaben im Rahmen dieser Verordnung wirksam erfüllen können. Insbesondere müssen die zuständigen nationalen Behörden zu jeder Zeit über eine ausreichende Zahl von Mitarbeitern verfügen, zu deren Kompetenzen und Fachwissen ein tiefes Verständnis der KI- Technologien, der Daten und Datenverarbeitung, des Schutzes personenbezogener Daten, der Cybersicherheit, der Grundrechte, der Gesundheits- und Sicherheitsrisiken sowie Kenntnis der bestehenden Normen und rechtlichen Anforderungen gehört. Die Mitgliedstaaten bewerten und aktualisieren, falls erforderlich, jährlich die in diesem Absatz genannten Erfordernisse bezüglich Kompetenzen und Ressourcen.“ Dieser Nachweis wird von den Ländern aller Voraussicht nach nicht zu erbringen sein. Es ist zudem mit Blick auf Personalbedarf und Synergien auch mit Blick auf die künftige Entwicklung deutlich effizienter, den Vollzug der Verordnung über künstliche Intelligenz auch hinsichtlich KI in Produkten auf EU- oder zumindest Bundesebene zu bündeln. Denn für die eigentliche Aufgabe müssten alle Länder die gleichen Kompetenzen entwickeln und vorhalten. Gegenüber non-konformen Produkten aus Drittstaaten wäre eine europäische Marktüberwachung deutlich handlungsfähiger als Behörden in den Ländern oder den Mitgliedstaaten. Des Weiteren sind die Marktüberwachungsbehörden im Bereich Produktsicherheit und Medizinprodukte bisher nicht zuständig für die Einhaltung der Grundrechte und weiterer Anforderungen der Verordnung über künstliche Intelligenz, auf die Produkte mit KI-Komponente künftig auch zu prüfen wären. Es handelt sich also um eine ganz neue eigenständige Überwachungsaufgabe.]