Entschließung des Bundesrates: KI-Regulierung der EU auf den Prüfstand stellen!

Entschließung des Bundesrates: KI-Regulierung der EU auf den Prüfstand stellen! [Bundesrat Drucksache 569/25 09.10.25 Vertrieb: Bundesanzeiger Verlag GmbH, Postfach 10 05 34, 50445 Köln Telefon (02 21) 97 66 83 40, Fax (02 21) 97 66 83 44, www.bundesanzeiger-verlag.de ISSN 0720-2946 Antrag des Freistaates Bayern Entschließung des Bundesrates: KI-Regulierung der EU auf den Prüfstand stellen! Der Bayerische Ministerpräsident München, 7. Oktober 2025 An die Präsidentin des Bundesrates Frau Ministerpräsidentin Anke Rehlinger Sehr geehrte Frau Präsidentin, gemäß dem Beschluss der Bayerischen Staatsregierung wird die als Anlage beigefügte Entschließung des Bundesrates: KI-Regulierung der EU auf den Prüfstand stellen! mit dem Antrag übermittelt, dass der Bundesrat diese fassen möge. Es wird gebeten, die Vorlage gemäß § 36 Absatz 2 GO BR auf die Tagesordnung der 1058. Sitzung am 17. Oktober 2025 zu setzen und anschließend den zuständigen Ausschüssen zur Beratung zuzuweisen. Mit freundlichen Grüßen Dr. Markus Söder Entschließung des Bundesrates: KI-Regulierung der EU auf den Prüfstand stellen! Der Bundesrat möge folgende Entschließung fassen: 1. Der Bundesrat stellt fest: Künstliche Intelligenz (KI) ist die zentrale Technologie der Zukunft und von entscheidender Bedeutung für die internationale Wettbewerbsfähigkeit Deutschlands und Europas. Ihr Einsatz bietet enorme Chancen für wirtschaftliches Wachstum, technologische Fortschritte und gesellschaftlichen Nutzen – und erfordert zugleich, dass Innovation in der EU aktiv ermöglicht und gefördert wird. Zugleich sind mit dem Einsatz von KI erhebliche Risiken für Unternehmen, Bürger und die Gesellschaft als Ganzes verbunden, die eine verantwortungsvolle und wirksame Regulierung erforderlich machen. Diese muss verständlich und übersichtlich, praxisorientiert sowie dynamisch und innovationsbegleitend ausgestaltet sein. 2. Der Bundesrat begrüßt die Anstrengungen der EU, den Einsatz von KI EU-weit einheitlich zu regeln. Er stellt jedoch fest, dass sich die derzeitige EU- Regulierung, allen voran die Verordnung über künstliche Intelligenz (VO (EU) 2024/1689, KI-VO), zunehmend als KI-Bremse erweist, welche die wirtschaftliche Entwicklung in Deutschland und der gesamten EU zu hemmen droht, zu erheblichen Nachteilen bei der Wettbewerbsfähigkeit deutscher und europäischer Unternehmen auf dem Weltmarkt führt und daher dringend der Anpassung bedarf. 3. Der Bundesrat stellt ferner fest, dass der durch die KI-Regulierung entstehende Verwaltungsaufwand hoch ist und nur mit erheblichem Personal- und Ressourceneinsatz zu bewältigen ist. Gerade für hardware-lastige Branchen wie Automobilbau oder Maschinen- und Anlagenbau sind die komplexen Wertschöpfungs- und Haftungsketten kaum zu sondieren, während US-Software-Unternehmen durch Kontrolle des gesamten KI-Lebenszyklus paradoxerweise besser mit der Regulierung umgehen können. 4. Der Bundesrat stellt insbesondere fest, dass die rechtlichen Vorgaben zur Entwicklung und Anwendung von KI in der EU stark fragmentiert sind und zum Teil nicht hinreichend abgestimmt nebeneinander stehen. Die Folge sind ungewollte Überschneidungen, Doppelregelungen und uneinheitliche Definitionen. Es kommt zu Widersprüchen und Zielkonflikten. So sind insbesondere die KI-VO und die Datenschutz-Grundverordnung (VO (EU) 2016/679, DSGVO) an mehreren Stellen nicht kongruent und stehen in einem Spannungsverhältnis: Erforderlich ist es etwa nach der KI-VO, Daten zu erheben und zu erfassen, die eine sichere und nachvollziehbare Nutzung von KI- Systemen absichern. Trainings-, Validierungs- und Testdatensätze müssen dabei „so weit wie möglich fehlerfrei und vollständig“ sein. Diese Anforderung muss in Einklang gebracht werden mit den datenschutzrechtlichen Grundsätzen der Datenminimierung und der Richtigkeit sowie den Vorgaben des Datenschutzes durch Technikgestaltung und der Sicherheit der Verarbeitung, welchen ausweislich der KI-VO Vorrang zukommt. Zudem sind Anforderungen und Definitionen, etwa die Definition von „KI-System“ in der KI-VO, nicht hinreichend normenklar, so dass für Anwender oftmals nicht erkennbar ist, welchen Vorgaben sie unterliegen. All dies führt zunehmend zu Rechtsunsicherheit und erhöht den Verwaltungsaufwand unnötig. 5. Der Bundesrat sieht den aktuell weiten Anwendungsbereich der Anbieterpflichten durch die weit gefassten Definitionen von „Anbieter“ und „Inbetriebnahme“ nach der KI-VO kritisch. Danach genügt bereits die Entwicklung und Nutzung zu eigenen Zwecken bzw. die wesentliche Änderung eines bestehenden Systems (Quasi-Anbieter), um die Anbieterpflichten auszulösen; auch öffentliche Stellen können damit schnell in die Anbieterrolle mit entsprechenden Pflichten kommen. 6. Der Bundesrat kritisiert zudem die ausufernden Befugnisse der EU-Kommission bei der Einstufung von KI-Systemen als hochriskant. Die KI-VO soll wesentlich zur Rechtssicherheit im Umgang mit KI beitragen. Als problematisch wird in diesem Zusammenhang jedoch die weitreichende Befugnis der Kommission gesehen, delegierte Rechtsakte zu erlassen, um insbesondere die in Anhang III genannten Anwendungsfälle für Hochrisiko-KI-Systeme zu ändern sowie die geregelten Ausnahmen zu Hochrisiko-KI unter bestimmten Bedingungen zu streichen. Erforderlich wäre es insoweit, zumindest die Vorgabe geeigneter Vorlaufzeiten in der KI-VO zu verankern. Andernfalls können Behörden und insbesondere Polizeien durch die genannten Änderungen mit neuen, verschärften oder gänzlich anderen Anforderungen konfrontiert werden, ohne dass damit eine angemessene Vorlaufzeit oder Planungssicherheit verbunden ist. Diese Unsicherheiten könnten auch dazu führen, dass entsprechende Angebote für Strafverfolgungsbehörden gar nicht erst auf dem Markt platziert werden. 7. Der Bundesrat stellt fest, dass die KI-VO nicht ausreichend zwischen Gefahrenabwehr- und Strafverfolgungsbehörden auf der einen und Wirtschaftsakteuren auf der anderen Seite differenziert. Hierdurch erlegt sie Ersteren Vorgaben auf, die über den Bereich der Marktüberwachung weit hinausgehen und die zu Einschränkungen im Bereich der inneren Sicherheit führen. Dies stellt eine Kompetenzüberschreitung der EU dar. 8. Der Bundesrat stellt fest, dass die Auswirkungen der Pflicht für insbesondere öffentliche Stellen zur Durchführung einer Grundrechte-Folgenabschätzung nach der KI-VO noch nicht absehbar sind, im Einzelfall aber vermutlich – trotz Synergien mit der Datenschutz-Folgenabschätzung – mit erheblichem Aufwand einhergehen können. 9. Der Bundesrat fordert die Bundesregierung daher auf, bei der EU darauf hinzuwirken, die KI-Regelungen, insbesondere die KI-VO, so dynamisch und reaktionsfähig auszugestalten, dass Vorgaben und Parameter (wie etwa Risikoschwellen) rasch und flexibel dem laufenden technologischen Fortschritt angepasst werden können, ohne dabei Planungs- und Rechtssicherheit zu gefährden. Insbesondere fordert der Bundesrat die Bundesregierung auf, bei der EU darauf hinzuwirken, dass - Unklarheiten der KI-Regulierung beseitigt, Definitionen praxistauglich ausformuliert und rechtssicher angepasst, Doppelstrukturen und Doppelregulierung vermieden und konkurrierende Bestimmungen widerspruchsfrei in Einklang gebracht werden; - die Vorgaben für die Entwicklung und Anwendung von KI in der EU einfacher und handhabbarer ausgestaltet werden, wobei insbesondere die Definition der Hochrisiko-Kategorie klarer gefasst werden sollte, um dadurch ihren Anwendungsbereich zu schärfen und auf das nötige Maß zu reduzieren; - die bislang überbordende Bürokratielast an die Leistungsfähigkeit der europäischen Industriestruktur angepasst wird und insbesondere Anbieterpflichten praxistauglich ausgestaltet werden; - die Pflichten zur Durchführung einer Grundrechte-Folgenabschätzung reduziert werden; - die KI-Prüfung (Compliance mit rechtlichen Vorgaben) so weit als möglich in sektorale Verfahren integriert wird, statt parallele horizontale Verfahren aufrechtzuerhalten; - die Kapazitäten von Regulatory Sandboxes („KI-Reallabore“) zum risikofreien Testen von KI-Anwendungen unter Realbedingungen zu erhöhen, einer breiten Masse an Unternehmen zugänglich zu machen und nach erfolgreichem Abschluss eines solchen Tests eine automatische Konformitätsvermutung greifen zu lassen. Die Bundesregierung wird ferner aufgefordert, sich für ein abgestuftes Vorgehen (analog DSGVO und Richtlinie (EU) 2016/680) oder eine (teilweise) Herausnahme der Sicherheitsbehörden (analog bspw. zu Militär oder Nachrichtendiensten) aus dem Anwendungsbereich der KI-VO einzusetzen. 10. Bis zur dringend erforderlichen Behebung dieser Mängel dürfen deutschen und europäischen Unternehmen keine weiteren Wettbewerbsnachteile auf dem Weltmarkt entstehen. Der Bundesrat fordert die Bundesregierung daher auf, bei der EU auf ein sofortiges KI-Regulierungs- und Anwendungsmoratorium hinzuwirken, bis die genannten Forderungen umgesetzt sind. 11. Der Bundesrat fordert die Bundesregierung auf, im Rahmen der Einbettung der KI-Regulierung in die nationale Rechtsordnung die vorhandenen Handlungsspielräume bestmöglich zu nutzen; bei Themen, bei denen noch keine konkrete Festlegung erfolgt ist, aktiv darauf hinzuwirken, dass KI-Systeme zukünftig so weit wie möglich zum Einsatz kommen können. Wichtig ist, dass die hohen Anforderungen der europäischen KI-Regulierung nur dann zur Anwendung kommen, wenn dies aufgrund der besonderen Risiken der KI-Systeme gerechtfertigt ist. IT- Anwendungen, die ausschließlich auf von natürlichen Personen definierten Regeln beruhen und Rechenoperationen automatisch ausführen, dürfen nicht darunterfallen; von jeglicher Umsetzung abzusehen, die eine Bundesaufsicht über den KI- Einsatz durch Landesbehörden nach sich ziehen würde; klare Regelungen zur Abstimmung mit Datenschutzaufsichtsbehörden zu treffen; sicherzustellen, dass die von der KI-VO vorgegebene zentrale Marktüberwachung im Bereich privater Hochrisiko-KI-Systeme durch den Bund durchgeführt und finanziert wird. Drucksache 569/25- 5 -]