Entschließung des Bundesrates: KI-Regulierung der EU auf den Prüfstand stellen!

Entschließung des Bundesrates: KI-Regulierung der EU auf den Prüfstand stellen! [... Vertrieb: Bundesanzeiger Verlag GmbH, Postfach 10 05 34, 50445 Köln Telefon (02 21) 97 66 83 40, Fax (02 21) 97 66 83 44, www.bundesanzeiger-verlag.de ISSN 0720-2946 Bundesrat Drucksache 569/1/25 08.12.25 E m p f e h l u n g e n der Ausschüsse EU - AIS - DS - In - Wi zu Punkt ... der 1060. Sitzung des Bundesrates am 19. Dezember 2025 Entschließung des Bundesrates: KI-Regulierung der EU auf den Prüfstand stellen! - Antrag des Freistaates Bayern - A Der Ausschuss für Arbeit, Integration und Sozialpolitik (AIS), der Ausschuss für Digitales und Staatsmodernisierung (DS) und der Ausschuss für Innere Angelegenheiten (In) empfehlen dem Bundesrat, die Entschließung nach Maßgabe folgender Änderungen zu fassen: 1. Zu Nummer 2 Nummer 2 ist durch folgende Nummer 2 zu ersetzen: „2. Der Bundesrat begrüßt die Anstrengungen der EU, den Einsatz von KI EU- weit einheitlich zu regeln. Dabei stellt die breite Verankerung ethischer Prinzipien als Grundlage von KI-Nutzung und ihre Ausrichtung auf den Menschen gerade mit Blick auf die Entwicklung in anderen Weltregionen ein wichtiges Alleinstellungsmerkmal und einen entscheidenden Wettbewerbsvorteil dar. Im Rahmen dieser Prämisse sollte jedoch vermieden werden, dass sich die EU- Regulierung aufgrund von Bürokratie und Umsetzungshindernissen als KI- Bremse erweist, welche die wirtschaftliche Entwicklung in Deutschland und der gesamten EU hemmen und zu erheblichen Nachteilen bei der Wettbewerbsfä- AIS (bei Annahme entfällt Ziffer 2) ... higkeit deutscher und europäischer Unternehmen auf dem Weltmarkt führen könnte.“ Begründung (nur gegenüber dem Plenum): In dem Antrag wird nicht nachvollziehbar oder valide dargelegt, warum die Verordnung über Künstliche Intelligenz ((EU) 2024/1689, KI-VO) eine KI- Bremse darstelle, welche die wirtschaftliche Entwicklung in Deutschland und der gesamten EU zu hemmen drohe oder durch diese erhebliche Wettbewerbsnachteile auf dem Weltmarkt entstünden. Der Bundesrat hat in seiner 1056. Sitzung am 11. Juli 2025 gemäß §§ 3 und 5 EUZBLG bereits eine Stellungnahme zur Umsetzung des KI-Aktionsplans (BR-Drucksache 209/25 (Beschluss)) beschlossen. Der Entschließungsantrag von BY widerspricht diesem Beschluss, der die KI-VO als Meilenstein für Vertrauen in KI-Systeme begrüßt und dessen unverzügliche Umsetzung fordert. Der eingefügte Satz entspricht Ziffer 24 aus der BR-Drucksache 209/25 (Beschluss). Mit der KI-VO unterstreicht die EU den hohen Stellenwert des Schutzes von Grundrechten sowie von Arbeitnehmerinnen und Arbeitnehmerrechten, insbesondere im Zusammenhang mit Hochrisikotechnologien. Dieser Grundrechtsschutz kann nicht gegen eine schnellere wirtschaftliche Entwicklung aufgewogen werden. Aus frauen- und gleichstellungspolitischer Sicht ist zudem darauf hinzuweisen, dass Artikel 3 Absatz 2 und 3 des Grundgesetzes den Staat verpflichtet, bestehende Nachteile aktiv abzubauen. Eine bundesweite Aussetzung zentraler Regelungen könnte dieses verfassungsrechtliche Fördergebot unterlaufen und zu einer Verstärkung struktureller Ungleichheiten führen. 2. Nummer 2 wird wie folgt neu gefasst: Der Bundesrat begrüßt die Anstrengungen der EU, den Einsatz von KI EU-weit einheitlich zu regeln. Er stellt jedoch fest, dass sich die derzeitige EU- Regulierung, so auch die Verordnung über künstliche Intelligenz ((EU) 2024/1689, KI-VO), als innovationshemmend erweist und weiterer Anpassung bedarf. Begründung (nur gegenüber dem Plenum): Es ist unstrittig, dass die KI-VO in ihrer bisherigen Form regulatorische Lasten erzeugt und Compliance-Kosten verursacht, insbesondere bei KMU und Startups. Es ist jedoch nicht zutreffend, dass diese Verordnung die wirtschaftliche Entwicklung Deutschlands und der EU insgesamt zu hemmen droht. Zudem hat die Kommission in ihrem Digital Omnibus Paket verschiedene Reformen vorgeschlagen, die geeignet sind, um Innovationshemmnisse zu reduzieren. DS (entfällt bei Annahme von Ziffer 1) ... 3. Zu Nummer 6 Nummer 6 ist durch folgende Nummer 6 zu ersetzen: „6. Die Verordnung über Künstliche Intelligenz ((EU) 2024/1689, KI-VO) soll wesentlich zur Rechtssicherheit im Umgang mit KI beitragen. Bezüglich der Befugnis der Kommission, delegierte Rechtsakte zu erlassen, um insbesondere die in Anhang III genannten Anwendungsfälle für Hochrisiko-KI-Systeme zu ändern sowie die geregelten Ausnahmen zu Hochrisiko-KI unter bestimmten Bedingungen zu streichen, sollte die Bundesregierung sicherstellen, dass Sachverständige aus den genannten Anwendungsbereichen, die im Anhang III genannt werden, rechtzeitig in die Abstimmungsprozesse zu Entwürfen delegierter Rechtsakte der Kommission einbezogen werden. So können der Informationsfluss und Mitgestaltungsmöglichkeiten durch sachverständige Vertreterinnen und Vertreter aus diesen Bereichen sichergestellt werden. Darüber hinaus sollte die Vorgabe geeigneter Vorlaufzeiten beziehungsweise der Einbeziehung von Sachverständigen aus den Mitgliedstaaten in der KI-VO verankert werden. Andernfalls könnten Behörden und insbesondere Polizeien durch die genannten Änderungen mit neuen, verschärften oder gänzlich anderen Anforderungen konfrontiert werden, ohne dass damit eine angemessene Vorlaufzeit oder Planungssicherheit verbunden ist.“ Begründung (nur gegenüber dem Plenum): Die Möglichkeit rasanter technologischer Entwicklungen im Bereich der KI tragen das Risiko in sich, zu rechtlichen Regelungslücken bezüglich des Schutzes von Grund- und Menschenrechten zu führen. Die in den durch die KI-VO in Anhang III benannten Bereiche eines hohen Risikos der Grundrechteverletzung – unter anderem zur Verwendung biometrischer Daten, Regulierung kritischer Infrastruktur, allgemeine und berufliche Bildung, Beschäftigung und Arbeitnehmerinnen- und Arbeitnehmermanagement, Zugänglichkeit und Inanspruchnahme grundlegender privater und grundlegender öffentlicher Dienste und Leistungen, Strafverfolgung, Migrations-, Asyl- und Grenzkontrollmanagement sowie Rechtspflege und demokratische Prozesse – würde eine solche Regelungslücke bezüglich des Schutzes von Grundrechten, das Potential einer nachhaltigen Gefährdung der demokratischen Grundordnung nach sich ziehen. Zu berücksichtigen ist außerdem, dass das Allgemeine Gleichbehandlungsgesetz (AGG) verpflichtet, strukturelle Benachteiligungen zu vermeiden. Eine Aussetzung zentraler Vorgaben birgt das Risiko, dass notwendige Prüfmechanismen – insbesondere zur Vermeidung mittelbarer Diskriminierungen – vorübergehend entfallen und Rechtsunsicherheiten entstehen. Die Befugnis der Kommission schnell und flexibel mit delegierten Rechtsakten nachzusteuern, ist in diesem Zusammenhang als sehr wichtig zu bewerten. Zugleich ist das Verfahren des Erarbeitens und Verfassens von Entwürfen dele- AIS ... gierter Rechtsakte durch die Kommission mit einem umfassenden Abstimmungsverfahren verbunden. Entwürfe werden von der Kommission rechtzeitig und gleichzeitig an das Europäische Parlament und den Rat sowie zur gleichen Zeit an die Sachverständigen der Mitgliedstaaten übermittelt. Hier besteht eine inhaltliche Mitgestaltungsmöglichkeit für die Mitgliedstaaten und ihre Sachverständigen. Die Einbeziehung von Sachverständigen ist auch auf Ebene der Mitgliedstaaten, also der Bunderegierung zu regeln. Auch nach Erlassen des delegierten Rechtsaktes bestehen für den Rat beziehungsweise die zuständigen Ratsarbeitsgruppen Einspruchsmöglichkeiten. Eine geringe Vorlaufzeit und Planungssicherheit bezüglich geplanter delegierter Rechtsakte liegen eher an einem nicht ausgestalteten Informationsfluss, denn in dem Verfahren des Erarbeitens oder Erlassens dieser Rechtsakte begründet. Wie für alle KI-Anwendungen in Hochrisikobereichen gilt insbesondere für KI-Anwendungen für Strafverfolgungsbehörden, dass diese auf ihre Konformität hin geprüft werden müssen und jegliches Risiko einer nicht menschenrechtsbasierten und grundrechtskonformen Ausgestaltung vermieden werden muss. Marktanbieter und -anbieterinnen müssen sich dieser Verantwortung bewusst sein. Sollten Sie diese nicht übernehmen wollen, oder sich diese Verantwortung nicht mit ihren Marktinteressen decken, müssen KI-Programme und Anwendungen für Strafverfolgungsbehörden durch staatliche beziehungsweise staatlich geförderte Institutionen entwickelt werden. 4. Zu Nummer 9 Satz 2, Aufzählungspunkte 3., 4., 5. und 6. Nummer 9 ist wie folgt zu ändern: a) Im 3. Aufzählungspunkt sind die Wörter „bislang überbordende“ zu streichen. b) Der 4. Aufzählungspunkt ist zu streichen. c) Im 5. Aufzählungspunkt sind die Wörter „,statt parallele horizontale Verfahren aufrechtzuerhalten;“ durch die Wörter „,wobei auf eine Konformitätsprüfung durch Aufsichtsbehörden nicht verzichtet werden kann;“ zu ersetzen. [d) Der 6. Aufzählungspunkt ist durch folgenden Aufzählungspunkt zu ersetzen: „- die Kapazitäten von Regulatory Sandboxes („KI-Reallabore“) zum risikofreien Testen von KI-Anwendungen unter Realbedingungen zu erhöhen und einer breiten Masse an Unternehmen zugänglich zu machen“] Begründung (nur gegenüber dem Plenum): zu Buchstabe a: AIS [AIS DS] AIS ... Die verwendete Formulierung impliziert eine nicht angebrachte und weit unverhältnismäßige Mehrbelastung der Industrie durch eine massive Überregulierung durch die EU. Sie steht hingegen einer konstruktiven Überprüfung tatsächlicher bürokratischer Mehrlasten entgegen, weswegen auf sie verzichtet werden sollte. zu Buchstaben b bis d: Die Grundrechte-Folgenabschätzung ist zentral für die Sicherstellung des Grundrechtsschutzes, des Rechts auf Gleichbehandlung und Antidiskriminierung und eines menschen- und wertezentrierten Einsatzes von KI-Systemen, den der Beschluss des Bundesrates in BR-Drucksache 209/25 (Beschluss) ausdrücklich fordert (dort Nummer 6). Dieser Beschluss stellt ebenso fest, dass Konformitätsprüfungen unerlässlich sind, Konformitätsvermutungen werden abgelehnt (BR-Drucksache 209/25 (Beschluss) Nummer 14). Die KI-VO stuft KI-Systeme, die etwa zur Personalbewertung, Überwachung oder Entscheidungsunterstützung bei Einstellungen und Beförderungen eingesetzt werden, ausdrücklich als hochriskant ein. Damit reagiert sie auf die Gefahr, dass solche Systeme Fehlentscheidungen treffen, diskriminierende Muster verstärken oder die Privatsphäre der Beschäftigten verletzen können. Insbesondere automatisierte Leistungsanalysen oder Überwachungssysteme sind potenziell eine große Gefahr für Grundrechtseingriffe bei Beschäftigten. Die KI-VO verpflichtet dahingehend in Artikel 10 zur Sicherstellung diskriminierungsfreier und repräsentativer Datengrundlagen. Eine Aussetzung nationaler Vorgaben im Zusammenhang mit diesen Anforderungen könnte dazu führen, dass algorithmische Verzerrungen – die insbesondere Frauen und marginalisierte Gruppen überproportional betreffen – weiter fortgeschrieben werden. Damit steigt das Risiko struktureller Benachteiligungen im Zugang zu Beschäftigung, Leistungen und öffentlichem Dienst. Die KI-VO verpflichtet daher Arbeitgeberinnen und Arbeitgeber sowie Anbieterinnen und Anbieter solcher Systeme zu umfassender Transparenz, Nachvollziehbarkeit und Risikobewertung, um sicherzustellen, dass die eingesetzte Technologie fair und vor allem menschenzentriert bleibt. In diesem Zusammenhang ist die Grundrechte-Folgenabschätzung ein zentrales Instrument der KI-VO, welches besonders im Umgang mit Hochrisiko- Anwendungen zum Einsatz kommen soll. Insofern ist auch die Forderung nach einer Reduzierung der Pflichten zur Durchführung einer Grundrechte- Folgenabschätzung aus arbeitsmarktpolitischer Sicht abzulehnen. [zu Buchstabe d: Reallabore führen keine Konformitätsbewertungen durch und sind gegebenenfalls auch nicht dafür qualifiziert und notifiziert. Ihnen fehlt die Erfahrung mit standardisierten Prüfprozessen und Vergleichsmaßstäben, was im System der Konformitätsbewertung Unsicherheit erzeugen würde. Zudem setzen sie als Instrument der Innovationsförderung in einem früheren Stadium an als Konformitätsbewertungsstellen und haben auch einen anderen Auftrag. Während Unternehmen also im Rahmen eines Reallabors ihr Produkt noch entwickeln, wird bei der Konformitätsbewertung erst das fertiggestellte Pro- [DS] ... dukt geprüft. Nicht zuletzt würde durch die Vermischung der beiden Aufgaben ein Fehlanreiz für teilnehmende Unternehmen geschaffen, im Reallaborprozess Risiken nicht anzusprechen, die einer Konformitätserteilung möglicherweise im Wege stehen könnten. Die Regelung in Artikel 57 (7), wonach die Teilnahme an einem Reallabor „von den Marktüberwachungsbehörden und den notifizierten Stellen im Hinblick auf eine Beschleunigung der Konformitätsbewertungsverfahren in angemessenem Maße positiv gewertet (werden)“ soll daher beibehalten werden.] 5. Zu Nummern 10, 11 3. Aufzählungspunkt a) Nummer 10 ist durch die folgende Nummer 10 zu ersetzen: „10. Damit deutschen und europäischen Unternehmen keine weiteren Wettbewerbsnachteile auf dem Weltmarkt entstehen, hat die Behebung dieser Mängel mit besonderer Dringlichkeit zu erfolgen. Der Bundesrat fordert die Bundesregierung daher auf, bei der EU auf eine unmittelbare und prioritäre Umsetzung der genannten Forderungen hinzuwirken.“ b) In Nummer 11 ist der 3. Aufzählungspunkt zu streichen. Begründung (nur gegenüber dem Plenum): Zu Buchstabe a: Die Behebung bestehender Mängel ist angezeigt. Ein KI-Regulierungs- und Anwendungsmoratorium stellt jedoch nicht das geeignete Mittel dar. Mit einem sofortigen KI-Regulierungs- und Anwendungsmoratorium würden sich bereits laufende und angekündigte, begrüßenswerte Aktivitäten der Kommission sowie des Bundes zur Unterstützung einer rechtssicheren und bürokratiearmen Umsetzung der KI-VO verzögern. Unsicherheiten würden damit temporär voraussichtlich eher verstärkt als beseitigt, was sich wiederum eher nachteilig auf die Wettbewerbsfähigkeit auswirken könnte. Zu Buchstabe b: Die KI-VO soll grundsätzlich auf EU- oder Bundesebene vollzogen werden. Soll die Aufsicht über den KI-Einsatz bei Behörden des Landes nicht durch den Bund erfolgen, wären neue Aufsichtsstrukturen auf Ebene der Länder zu schaffen. Der Bedarf an kaum verfügbarem hochspezialisiertem Personal, das zur Wahrnehmung der Marktüberwachungsfunktion erforderlich ist, würde bei einer (teilweisen) Delegation auf Ebene der Länder weiter steigen und könnte nicht effektiv gedeckt werden. Zudem bestünde die Gefahr einer unterschiedlichen Auslegung der KI-VO. Durch die derzeit vorgesehene möglichst umfassende Bündelung der Aufgaben bei der Bundesnetzagentur (gemäß Referentenentwurf des Bundes) können Synergien genutzt, Fachwissen nachhaltig aufgebaut und eine stärkere Durchsetzungskraft – auch gegenüber Drittstaaten – erreicht werden. Damit kann eine wirksame Marktüberwachung ermöglicht wer- AIS DS In den, die den komplexen Anforderungen der KI-VO gerecht werden kann. B 6. Der federführende Ausschuss für Fragen der Europäischen Union und der Wirtschaftsausschuss empfehlen dem Bundesrat, die Entschließung zu fassen.]