Entschließung des Bundesrates: KI-Regulierung der EU auf den Prüfstand stellen!

Entschließung des Bundesrates: KI-Regulierung der EU auf den Prüfstand stellen! [Vertrieb: Bundesanzeiger Verlag GmbH, Postfach 10 05 34, 50445 Köln Telefon (02 21) 97 66 83 40, Fax (02 21) 97 66 83 44, www.bundesanzeiger-verlag.de ISSN 0720-2946 Bundesrat Drucksache 569/25 (Beschluss) 19.12.25 Beschluss des Bundesrates Entschließung des Bundesrates: KI-Regulierung der EU auf den Prüfstand stellen! Der Bundesrat hat in seiner 1060. Sitzung am 19. Dezember 2025 die aus der Anlage ersichtliche Entschließung gefasst. Drucksache 569/25 (Beschluss) Anlage Entschließung des Bundesrates: KI-Regulierung der EU auf den Prüfstand stellen! 1. Der Bundesrat stellt fest: Künstliche Intelligenz (KI) ist die zentrale Technologie der Zukunft und von entscheidender Bedeutung für die internationale Wettbewerbsfähigkeit Deutschlands und Europas. Ihr Einsatz bietet enorme Chancen für wirtschaftliches Wachstum, technologische Fortschritte und gesellschaftlichen Nutzen – und erfordert zugleich, dass Innovation in der EU aktiv ermöglicht und gefördert wird. Zugleich sind mit dem Einsatz von KI erhebliche Risiken für Unternehmen, Bürger und die Gesellschaft als Ganzes verbunden, die eine verantwortungsvolle und wirksame Regulierung erforderlich machen. Diese muss verständlich und übersichtlich, praxisorientiert sowie dynamisch und innovationsbegleitend ausgestaltet sein. 2. Der Bundesrat begrüßt die Anstrengungen der EU, den Einsatz von KI EU-weit einheitlich zu regeln. Dabei stellt die breite Verankerung ethischer Prinzipien als Grundlage von KI-Nutzung und ihre Ausrichtung auf den Menschen gerade mit Blick auf die Entwicklung in anderen Weltregionen ein wichtiges Alleinstellungsmerkmal und einen entscheidenden Wettbewerbsvorteil dar. Im Rahmen dieser Prämisse sollte jedoch vermieden werden, dass sich die EU- Regulierung aufgrund von Bürokratie und Umsetzungshindernissen als KI- Bremse erweist, welche die wirtschaftliche Entwicklung in Deutschland und der gesamten EU hemmen und zu erheblichen Nachteilen bei der Wettbewerbsfähigkeit deutscher und europäischer Unternehmen auf dem Weltmarkt führen könnte. 3. Der Bundesrat stellt ferner fest, dass der durch die KI-Regulierung entstehende Verwaltungsaufwand hoch ist und nur mit erheblichem Personal- und Ressourceneinsatz zu bewältigen ist. Gerade für hardware-lastige Branchen wie den Automobilbau oder den Maschinen- und Anlagenbau sind die komplexen Wertschöpfungs- und Haftungsketten kaum zu sondieren, während US-Software- Unternehmen durch Kontrolle des gesamten KI-Lebenszyklus paradoxerweise besser mit der Regulierung umgehen können. 4. Der Bundesrat stellt insbesondere fest, dass die rechtlichen Vorgaben zur Entwicklung und Anwendung von KI in der EU stark fragmentiert sind und zum Teil nicht hinreichend abgestimmt nebeneinander stehen. Die Folge sind ungewollte Überschneidungen, Doppelregelungen und uneinheitliche Definitionen. Es kommt zu Widersprüchen und Zielkonflikten. So sind insbesondere die Verordnung über künstliche Intelligenz ((EU) 2024/1689, KI-VO) und die Datenschutz-Grundverordnung (VO (EU) 2016/679, DSGVO) an mehreren Stellen nicht kongruent und stehen in einem Spannungsverhältnis: Erforderlich ist es etwa nach der KI-VO, Daten zu erheben und zu erfassen, die eine sichere und nachvollziehbare Nutzung von KI- Systemen absichern. Trainings-, Validierungs- und Testdatensätze müssen dabei „so weit wie möglich fehlerfrei und vollständig“ sein. Diese Anforderung muss in Einklang gebracht werden mit den datenschutzrechtlichen Grundsätzen der Datenminimierung und der Richtigkeit sowie den Vorgaben des Datenschutzes durch Technikgestaltung und der Sicherheit der Verarbeitung, welchen ausweislich der KI-VO Vorrang zukommt. Zudem sind Anforderungen und Definitionen, etwa die Definition von „KI-System“ in der KI-VO, nicht hinreichend normenklar, so dass für Anwender oftmals nicht erkennbar ist, welchen Vorgaben sie unterliegen. All dies führt zunehmend zu Rechtsunsicherheit und erhöht den Verwaltungsaufwand unnötig. 5. Der Bundesrat sieht den aktuell weiten Anwendungsbereich der Anbieterpflichten durch die weit gefassten Definitionen von „Anbieter“ und „Inbetriebnahme“ nach der KI-VO kritisch. Danach genügt bereits die Entwicklung und Nutzung zu eigenen Zwecken bzw. die wesentliche Änderung eines bestehenden Systems (Quasi-Anbieter), um die Anbieterpflichten auszulösen; auch öffentliche Stellen können damit schnell in die Anbieterrolle mit entsprechenden Pflichten kommen. 6. Die KI-VO soll wesentlich zur Rechtssicherheit im Umgang mit KI beitragen. Bezüglich der Befugnis der Kommission, delegierte Rechtsakte zu erlassen, um insbesondere die in Anhang III genannten Anwendungsfälle für Hochrisiko-KI- Systeme zu ändern sowie die geregelten Ausnahmen zu Hochrisiko-KI unter bestimmten Bedingungen zu streichen, sollte die Bundesregierung sicherstellen, dass Sachverständige aus den genannten Anwendungsbereichen, die im Anhang III genannt werden, rechtzeitig in die Abstimmungsprozesse zu Entwürfen delegierter Rechtsakte der Kommission einbezogen werden. So können der Informationsfluss und Mitgestaltungsmöglichkeiten durch sachverständige Vertreterinnen und Vertreter aus diesen Bereichen sichergestellt werden. Darüber hinaus sollte die Vorgabe geeigneter Vorlaufzeiten beziehungsweise der Einbeziehung von Sachverständigen aus den Mitgliedstaaten in der KI-VO verankert werden. Andernfalls könnten Behörden und insbesondere Polizeien durch die genannten Änderungen mit neuen, verschärften oder gänzlich anderen Anforderungen konfrontiert werden, ohne dass damit eine angemessene Vorlaufzeit oder Planungssicherheit verbunden ist. 7. Der Bundesrat stellt fest, dass die KI-VO nicht ausreichend zwischen Gefahrenabwehr- und Strafverfolgungsbehörden auf der einen und Wirtschaftsakteuren auf der anderen Seite differenziert. Hierdurch erlegt sie Ersteren Vorgaben auf, die über den Bereich der Marktüberwachung weit hinausgehen und die zu Einschränkungen im Bereich der inneren Sicherheit führen. Dies stellt eine Kompetenzüberschreitung der EU dar. 8. Der Bundesrat stellt fest, dass die Auswirkungen der Pflicht für insbesondere öffentliche Stellen zur Durchführung einer Grundrechte-Folgenabschätzung nach der KI-VO noch nicht absehbar sind, im Einzelfall aber vermutlich – trotz Synergien mit der Datenschutz-Folgenabschätzung – mit erheblichem Aufwand einhergehen können. 9. Der Bundesrat fordert die Bundesregierung daher auf, bei der EU darauf hinzuwirken, die KI-Regelungen, insbesondere die KI-VO, so dynamisch und reaktionsfähig auszugestalten, dass Vorgaben und Parameter (wie etwa Risikoschwellen) rasch und flexibel dem laufenden technologischen Fortschritt angepasst werden können, ohne dabei Planungs- und Rechtssicherheit zu gefährden. Insbesondere fordert der Bundesrat die Bundesregierung auf, bei der EU darauf hinzuwirken, dass – Unklarheiten der KI-Regulierung beseitigt, Definitionen praxistauglich ausformuliert und rechtssicher angepasst, Doppelstrukturen und Doppelregulierung vermieden und konkurrierende Bestimmungen widerspruchsfrei in Einklang gebracht werden; – die Vorgaben für die Entwicklung und Anwendung von KI in der EU einfacher und handhabbarer ausgestaltet werden, wobei insbesondere die Definition der Hochrisiko-Kategorie klarer gefasst werden sollte, um dadurch ihren Anwendungsbereich zu schärfen und auf das nötige Maß zu reduzieren; – die Bürokratielast an die Leistungsfähigkeit der europäischen Industriestruktur angepasst wird und insbesondere Anbieterpflichten praxistauglich ausgestaltet werden; – die KI-Prüfung (Compliance mit rechtlichen Vorgaben) so weit als möglich in sektorale Verfahren integriert wird, wobei auf eine Konformitätsprüfung durch Aufsichtsbehörden nicht verzichtet werden kann; – die Kapazitäten von Regulatory Sandboxes („KI-Reallabore“) zum risikofreien Testen von KI-Anwendungen unter Realbedingungen erhöht und einer breiten Masse an Unternehmen zugänglich gemacht werden. Die Bundesregierung wird ferner aufgefordert, sich für ein abgestuftes Vorgehen (analog DSGVO und Richtlinie (EU) 2016/680) oder eine (teilweise) Herausnahme der Sicherheitsbehörden (analog beispielsweise zu Militär oder Nachrichtendiensten) aus dem Anwendungsbereich der KI-VO einzusetzen. 10. Damit deutschen und europäischen Unternehmen keine weiteren Wettbewerbsnachteile auf dem Weltmarkt entstehen, hat die Behebung dieser Mängel mit besonderer Dringlichkeit zu erfolgen. Der Bundesrat fordert die Bundesregierung daher auf, bei der EU auf eine unmittelbare und prioritäre Umsetzung der genannten Forderungen hinzuwirken. 11. Der Bundesrat fordert die Bundesregierung auf, im Rahmen der Einbettung der KI-Regulierung in die nationale Rechtsordnung – die vorhandenen Handlungsspielräume bestmöglich zu nutzen; – bei Themen, bei denen noch keine konkrete Festlegung erfolgt ist, aktiv darauf hinzuwirken, dass KI-Systeme zukünftig so weit wie möglich zum Einsatz kommen können. Wichtig ist, dass die hohen Anforderungen der europäischen KI-Regulierung nur dann zur Anwendung kommen, wenn dies aufgrund der besonderen Risiken der KI-Systeme gerechtfertigt ist. IT- Anwendungen, die ausschließlich auf von natürlichen Personen definierten Regeln beruhen und Rechenoperationen automatisch ausführen, dürfen nicht darunterfallen; – klare Regelungen zur Abstimmung mit Datenschutzaufsichtsbehörden zu treffen; – sicherzustellen, dass die von der KI-VO vorgegebene zentrale Marktüberwachung im Bereich privater Hochrisiko-KI-Systeme durch den Bund durchgeführt und finanziert wird.]