Vertrauenswürdige Künstliche Intelligenz ermöglichen - Umsetzung der europäischen KI-Verordnung in Deutschland beschleunigen, Innovation fördern und digitale Souveränität stärken (Beschlussempfehlung und Bericht zu Drs. 21/2349)

Vertrauenswürdige Künstliche Intelligenz ermöglichen - Umsetzung der europäischen KI-Verordnung in Deutschland beschleunigen, Innovation fördern und digitale Souveränität stärken (Beschlussempfehlung und Bericht zu Drs. 21/2349) Deutscher Bundestag Drucksache 21/6404 21. Wahlperiode 10.06.2026 Beschlussempfehlung und Bericht des Ausschusses für Digitales und Staatsmodernisierung (23. Ausschuss) zu dem Antrag der Abgeordneten Rebecca Lenhard, Dr. Konstantin von Notz, Jeanne Dillschneider, weiterer Abgeordneter und der Fraktion BÜNDNIS 90/DIE GRÜNEN – Drucksache 21/2349 – Vertrauenswürdige Künstliche Intelligenz ermöglichen – Umsetzung der europäischen KI-Verordnung in Deutschland beschleunigen, Innovation fördern und digitale Souveränität stärken A. Problem Die Fraktion BÜNDNIS 90/DIE GRÜNEN stellt fest, mit der Verordnung über harmonisierte Vorschriften für künstliche Intelligenz habe die Europäische Union einen weltweit wegweisenden Rechtsrahmen für künstliche Intelligenz (KI) geschaffen. Ziel sei es, Grundrechte, Innovation und Wettbewerbsfähigkeit in Einklang zu bringen. Sie sei seit dem 1. August 2024 in Kraft, erste Bestimmungen seien für Unternehmen bereits anwendbar. In anderen Bereichen müsse die Verordnung noch in nationale Regelungen umgesetzt werden. Dies betreffe insbesondere auch die Etablierung einer effektiven Aufsichtsstruktur. Die KI-Verordnung sei eine große Chance für den Standort Deutschland. Unternehmen benötigten klare und verlässliche Rahmenbedingungen und Rechtssicherheit, um Innovationen voranzutreiben und ihre Wettbewerbsfähigkeit zu sichern. Forschung und Wissenschaft brauchten Bedingungen, die die Entwicklung und Anwendung von KI rechtssicher unterstützen. Die antragstellende Fraktion betont ihren Willen, wettbewerbsfähige „AI made in Europe“ entstehen zu lassen. Für eine wirksame Umsetzung der Verordnung in Deutschland brauche es die zielgerichtete und bürokratiearme Ausgestaltung einer schlagkräftigen, transparenten und unabhängigen KI-Aufsicht mit ausreichend personellen Ressourcen. Die Bundesregierung sei in der Verantwortung, die europäische KI-Verordnung auf nationaler Ebene umzusetzen und eine KI-Aufsichtsstruktur zu etablieren. Diese Verantwortung habe sie bislang nicht ausreichend wahrgenommen, die Umsetzungsfrist sei in Teilen bereits überschritten. Die Nutzung von KI-basierter biometrischer Identifikation in öffentlich zugänglichen Räumen (intelligente Videoüberwachung) – sei sie in Echtzeit oder retrograd – stoße auf erhebliche verfassungsrechtliche Bedenken und müsse ausgeschlossen werden. Besonders im Bereich sogenannter „KI-Agenten“ entstünden zudem neue Risiken für Verbraucherinnen und Verbraucher, Datenschutz, IT-Sicherheit und Wettbewerbsneutralität. Hier bestehe Prüfbedarf, ob die unterschiedlichen Rechtsakte angemessen ineinandergriffen und durchsetzungsfähig seien. Staat und Verwaltung hätten die besondere Verantwortung, den gezielten Einsatz von KI fördern und gleichzeitig geeignete Maßstäbe zu setzen, um Grundrechte sowie Transparenz- und Umweltauflagen praxisnah einzubinden. Vor diesem Hintergrund solle der Deutsche Bundestag die Bundesregierung insbesondere dazu auffordern, ausreichend Planstellen und Sachmittel für die als Marktüberwachungs- und Beschwerdestelle zu benennende Bundesnetzagentur einzurichten und die Stellen zeitnah mit Inkrafttreten des Umsetzungsgesetzes zu besetzen, damit die Behörde diese Rolle effektiv wahrnehmen kann. B. Lösung Ablehnung des Antrags mit den Stimmen der Fraktionen der CDU/CSU, AfD und SPD gegen die Stimmen der Fraktion BÜNDNIS 90/DIE GRÜNEN bei Stimmenthaltung der Fraktion Die Linke. C. Alternativen Keine. D. Kosten Wurden im Ausschuss nicht erörtert. Beschlussempfehlung Der Bundestag wolle beschließen, den Antrag auf Drucksache 21/2349 abzulehnen. Berlin, den 10. Juni 2026 Der Ausschuss für Digitales und Staatsmodernisierung Hansjörg Durz Vorsitzender Marvin Schulz Berichterstatter Robin Jünger Berichterstatter Dr. Carolin Wagner Berichterstatterin Rebecca Lenhard Berichterstatterin Sonja Lemke Berichterstatterin Bericht der Abgeordneten Marvin Schulz, Robin Jünger, Dr. Carolin Wagner, Rebecca Lenhard und Sonja Lemke I. Überweisung Der Deutsche Bundestag hat die Vorlage auf Drucksache 21/2349 in seiner 41. Sitzung am 14. November 2025 beraten und an den Ausschuss für Digitales und Staatsmodernisierung zur federführenden Beratung sowie an den Innenausschuss, an den Ausschuss für Recht und Verbraucherschutz, an den Haushaltsausschuss, an den Ausschuss für Wirtschaft und Energie, an den Ausschuss für Forschung, Technologie, Raumfahrt und Technikfolgenabschätzung und an den Ausschuss für die Angelegenheiten der Europäischen Union zur Mitberatung überwiesen. II. Stellungnahmen der mitberatenden Ausschüsse Der Innenausschuss hat die Vorlage auf Drucksache 21/2349 in seiner 36. Sitzung am 10. Juni 2026 beraten und empfiehlt mit den Stimmen der Fraktionen der CDU/CSU, AfD und SPD gegen die Stimmen der Fraktion BÜND- NIS 90/DIE GRÜNEN bei Stimmenthaltung der Fraktion Die Linke die Ablehnung des Antrags. Der Ausschuss für Recht und Verbraucherschutz hat die Vorlage auf Drucksache 21/2349 in seiner 39. Sitzung am 10. Juni 2026 beraten und empfiehlt mit den Stimmen der Fraktionen der CDU/CSU, AfD und SPD gegen die Stimmen der Fraktion BÜNDNIS 90/DIE GRÜNEN bei Stimmenthaltung der Fraktion Die Linke die Ablehnung des Antrags. Der Haushaltsausschuss hat die Vorlage auf Drucksache 21/2349 in seiner 39. Sitzung am 10. Juni 2026 beraten und empfiehlt mit den Stimmen der Fraktionen der CDU/CSU, AfD und SPD gegen die Stimmen der Fraktion BÜNDNIS 90/DIE GRÜNEN bei Stimmenthaltung der Fraktion Die Linke die Ablehnung des Antrags. Der Ausschuss für Wirtschaft und Energie hat die Vorlage auf Drucksache 21/2349 in seiner 37. Sitzung am 10. Juni 2026 beraten und empfiehlt mit den Stimmen der Fraktionen der CDU/CSU, AfD und SPD gegen die Stimmen der Fraktion BÜNDNIS 90/DIE GRÜNEN bei Stimmenthaltung der Fraktion Die Linke die Ablehnung des Antrags. Der Ausschuss für Forschung, Technologie, Raumfahrt und Technikfolgenabschätzung hat die Vorlage auf Drucksache 21/2349 in seiner 25. Sitzung am 10. Juni 2026 beraten und empfiehlt mit den Stimmen der Fraktionen der CDU/CSU, AfD und SPD gegen die Stimmen der Fraktion BÜNDNIS 90/DIE GRÜNEN bei Stimmenthaltung der Fraktion Die Linke die Ablehnung des Antrags. Der Ausschuss für die Angelegenheiten der Europäischen Union hat die Vorlage auf Drucksache 21/2349 in seiner 26. Sitzung am 10. Juni 2026 beraten und empfiehlt mit den Stimmen der Fraktionen der CDU/CSU, AfD und SPD gegen die Stimmen der Fraktion BÜNDNIS 90/DIE GRÜNEN bei Stimmenthaltung der Fraktion Die Linke die Ablehnung des Antrags. III. Petitionen Dem Ausschuss lag eine Petition zur Drucksache 21/2349 vor, zu der der Petitionsausschuss eine Stellungnahme gemäß § 109 der Geschäftsordnung des Deutschen Bundestages angefordert hat. Mit der Petition wird die Einrichtung einer dauerhaften Kontrollbehörde zur Genehmigung und Kontrolle von KI- Technologien gefordert, die unmittelbaren Einfluss auf Urheberrechte, Arbeitsmärkte, Sicherheit und das soziale Leben in Deutschland haben. Dem Anliegen des Petenten konnte mit der Ablehnung des Antrags auf Drucksache 21/2349 nicht entsprochen werden. IV. Beratungsverlauf und Beratungsergebnisse im federführenden Ausschuss Der Ausschuss für Digitales und Staatsmodernisierung hat die Vorlage auf Drucksache 21/2349 in seiner 29. Sitzung am 10. Juni 2026 beraten und empfiehlt mit den Stimmen der Fraktionen der CDU/CSU, AfD und SPD gegen die Stimmen der Fraktion BÜNDNIS 90/DIE GRÜNEN bei Stimmenthaltung der Fraktion Die Linke die Ablehnung des Antrags. Die Fraktion der CDU/CSU lehnte den Antrag ab und betonte, man sei der Bundesregierung für ihren Einsatz für den KI-Omnibus auf europäischer Ebene dankbar. Die Fraktion der AfD bezeichnete den Antrag als kleinen Etikettenschwindel, um noch mehr Beiräte aus der Zivilgesellschaft zu erreichen. Daher lehne man diesen ab. Die Fraktion der SPD legte dar, mit dem vorgelegten Gesetzentwurf (BT-Drucksache 21/4549) würden zentrale Intentionen des Antrags erfüllt. Zudem gebe es auf europäischer Ebene bereits neue Entwicklungen und Dynamiken, die den Antrag obsolet machten. Die Fraktion BÜNDNIS 90/DIE GRÜNEN betonte, die Umsetzung der KI-Verordnung sei eines der zentralen digitalpolitischen Zukunftsthemen und wichtig für die Grundrechte der Bürgerinnen und Bürger, für verlässliche Rahmenbedingungen der Wirtschaft und für staatliches Handeln in Verwaltung, Bildung und Sicherheitsbehörden. Umso unverständlicher sei es, dass die Bundesregierung ihren Gesetzentwurf (BT-Drucksache 21/4549) erst im März 2026 vorgelegt habe. Bereits im Oktober 2025 habe man sie zum Handeln aufgefordert. Der Gesetzentwurf sei zudem an vielen Stellen verbesserungsbedürftig geblieben, und der hierzu kurzfristig eingebrachte Änderungsantrag der Koalitionsfraktionen greife die Hinweise der Sachverständigen aus der durchgeführten öffentlichen Anhörung nur unzureichend auf. Die Aufsichtsstrukturen blieben zu schwach, es fehlten Ressourcen, klare Zuständigkeiten und eine wirklich unabhängige Kontrolle; auch Grundrechtsschutz und Transparenz seien unzureichend abgesichert. Der eigene Antrag enthalte viele gute Punkte, die zu berücksichtigen seien. Die antragstellende Fraktion hob hervor, dass ein verpflichtendes Transparenzregister für den KI-Einsatz in der öffentlichen Verwaltung notwendig sei. Die Bürgerinnen und Bürger müssten erfahren können, wo der Staat KI zu welchem Zweck einsetze. Gerade der Staat müsse ein Vorbild sein, und zwar transparent, überprüfbar und grundrechtsfest. Die Fraktion Die Linke hielt den Antrag vor dem Hintergrund des aktuelleren Entschließungsantrags der Fraktion BÜNDNIS 90/DIE GRÜNEN (Ausschussdrucksache 21(23)90) für überflüssig, da die Forderungen im Wesentlichen dort eingeflossen seien. Man werde sich daher enthalten. Berlin, den 10. Juni 2026 Marvin Schulz Berichterstatter Robin Jünger Berichterstatter Dr. Carolin Wagner Berichterstatterin Rebecca Lenhard Berichterstatterin Sonja Lemke Berichterstatterin Gesamtherstellung: H. Heenemann GmbH & Co. KG, Buch- und Offsetdruckerei, Bessemerstraße 83–91, 12103 Berlin, www.heenemann-druck.de Vertrieb: Bundesanzeiger Verlag GmbH, Postfach 10 05 34, 50445 Köln, Telefon (02 21) 97 66 83 40, Fax (02 21) 97 66 83 44, www.bundesanzeiger-verlag.de ISSN 0722-8333