Mitteilung der Kommission an das Europäische Parlament, den Rat, den Europäischen Wirtschafts- und Sozialausschuss und den Ausschuss der Regionen: Aktionsplan für den KI-Kontinent

Mitteilung der Kommission an das Europäische Parlament, den Rat, den Europäischen Wirtschafts- und Sozialausschuss und den Ausschuss der Regionen: Aktionsplan für den KI-Kontinent [Bundesrat Drucksache 209/1/25 30.06.25 ... Vertrieb: Bundesanzeiger Verlag GmbH, Postfach 10 05 34, 50445 Köln Telefon (02 21) 97 66 83 40, Fax (02 21) 97 66 83 44, www.betrifft-gesetze.de ISSN 0720-2946 E m p f e h l u n g e n der Ausschüsse EU - AIS - Fz - In - K - Wi zu Punkt ... der 1056. Sitzung des Bundesrates am 11. Juli 2025 Mitteilung der Kommission an das Europäische Parlament, den Rat, den Europäischen Wirtschafts- und Sozialausschuss und den Ausschuss der Regionen: Aktionsplan für den KI-Kontinent COM(2025) 165 final A Der federführende Ausschuss für Fragen der Europäischen Union (EU), der Ausschuss für Arbeit, Integration und Sozialpolitik (AIS), der Ausschuss für Innere Angelegenheiten (In) und der Ausschuss für Kulturfragen (K) empfehlen dem Bundesrat, zu der Vorlage gemäß §§ 3 und 5 EUZBLG wie folgt Stellung zu nehmen: 1. Der Bundesrat nimmt die Mitteilung der Kommission über den Aktionsplan für den KI-Kontinent zur Kenntnis. 2. Er begrüßt die Zielsetzung der Kommission, dass eine vertrauenswürdige und auf den Menschen ausgerichtete KI, sowohl für das Wirtschaftswachstum als auch für die Wahrung der Grundrechte und Grundsätze, auf denen unsere Gesellschaften beruhen, von entscheidender Bedeutung ist und rasches, politisches Handeln höchste Priorität hat. EU K EU AIS ... 3. Er begrüßt und unterstützt das Ziel der Kommission, Europa zu einem führenden KI-Kontinent zu entwickeln. Die im Aktionsplan skizzierten europäischen Weichenstellungen sind erforderlich, um den errungenen Wohlstand zu sichern, Europa als Wissenschafts- und Wirtschaftsstandort wettbewerbsfähig und als Lebens- und Arbeitsort weiterhin lebenswert zu gestalten. 4. Der Bundesrat betont, dass hierbei dem öffentlichen Sektor aufgrund seines Monopols beispielsweise in der Daseinsfürsorge oder der Sicherung der öffentlichen Ordnung, der Grenzen oder des Gemeinwohls, eine Schlüsselfunktion zukommt. Entsprechend müssen dem öffentlichen Sektor für einen grundrechts- und EU-konformen Einsatz von KI im Aktionsplan ausreichende Ressourcen zur Verfügung stehen und flankierende Maßnahmen auch in der Strategie „KI anwenden“ sichergestellt werden. Dies betrifft sowohl den vorrangigen und kostenarmen Zugang zu KI-Fabriken/Rechnerinfrastruktur oder Reallaboren für das Trainieren, Optimieren und Testen von KI-Modellen und zu hochwertigen und gut strukturierten Daten, als auch die Stärkung von KI-Kompetenzen und Innovationen durch niedrigschwellige Fördermöglichkeiten. Hierbei sind die Vermeidung von Diskriminierungsrisiken und Nutzung der Chancen für mehr Diversität und Inklusion als Querschnittsziele und -aufgaben zu verankern. 5. Der Bundesrat unterstreicht die Wichtigkeit einer Strategie für die Datenunion und die Einrichtung von Datenlaboren. Hierbei muss ein verbindlicher Standard bezüglich der erforderlichen Datenqualität zum Beispiel in Bezug auf zu vermeidenden Datenbias (Verzerrung durch Vorurteile), notwendige Diversität oder der Repräsentativität für den spezifischen Anwendungsbereich und Zielgruppe definiert werden und dessen Einhaltung überprüfbar sein. Dabei gilt es, das Potenzial von gemeinsamen, europäischen Datenräumen unter Wahrung der digitalen Souveränität der Mitgliedsstaaten und EU-Bürgerinnen und -Bürger zu nutzen. 6. Der Bundesrat befürwortet, dass der öffentliche Sektor eine wichtige strategische Triebkraft der Strategie „KI anwenden“ wird und innerhalb dieser KI ein wirksames Instrument zur Prävention und Bekämpfung von Diskriminierung und zur Gewährung der Chancengleichheit für alle sein soll. Hierfür müssen jedoch die notwendigen Maßnahmen und Instrumentarien, wie beispielsweise ethische Grundrechtsfolgenabschätzungen, Transparenzregister und Auskunfts- und Beschwerdeverfahren für KI-Anwendungen aller Risikostufen in der öf- EU K EU AIS EU AIS EU AIS ... fentlichen Verwaltung und im Rahmen der Strategie “KI anwenden“ verbindlich und standardisiert implementiert werden. 7. Der Bundesrat ist sich bewusst, dass für das Training von KI der Zugang zu zuverlässigen, genauen und gut strukturierten Daten von hoher Bedeutung ist. Gleichzeitig müssen die Interessen der betroffenen Personen bei der Erhebung und Verwendung von personenbezogenen Daten in der geplanten Strategie für die Datenunion mit in den Fokus genommen werden. Eine Rückverfolgbarkeit zu den betroffenen Personen sollte möglichst ausgeschlossen werden. Daher sollten vorrangig anonymisierte Daten zu KI-Trainingszwecken genutzt werden. Ebenso sollte transparent sein, welche personenbezogenen Daten zum Training von KI verwendet werden und welche Zwecke mit der KI konkret verfolgt werden. 8. Der Bundesrat spricht sich dafür aus, einen angemessenen Ausgleich zwischen Datennutzung durch KI und Datenschutz zu finden. Innovationen müssen ermöglicht und gefördert werden. Zum Schutz des Grundrechts auf informationelle Selbstbestimmung müssen KI aber auch Grenzen gesetzt werden. Erforderlich ist daher ein verstärkt risikobasierter Ansatz. Datenschutz sollte insbesondere dort stattfinden, wo das Grundrecht auf informationelle Selbstbestimmung besonderen Gefährdungen ausgesetzt ist (zum Beispiel KI-Training mit Daten aus Social Media oder mit Gesundheitsdaten). 9. Der Bundesrat begrüßt, dass der Aktionsplan für den KI-Kontinent Kompetenzen als einen Schlüsselbereich benennt und teilt die Einschätzung der Kommission, dass sich der Einsatz von KI auf Stellenprofile wie Kompetenzanforderungen auswirkt. Neben dem steigenden Bedarf an KI-Fachkräften zur Entwicklung von Anwendungen ist deshalb insbesondere die breit angelegte und kontinuierliche Qualifizierung von Arbeitskräften eine zentrale Herausforderung. Dabei muss in den Blick genommen werden, dass KI auch die Arbeitsbedingungen verändert. Um diesen Entwicklungen Rechnung zu tragen, ist es aus Sicht des Bundesrates wichtig, auf europäischer Ebene Standards zu Design und Einsatz von KI am Arbeitsplatz und zu algorithmischem Management zu entwickeln. EU In EU In EU AIS ... 10. Der Bundesrat betont die Bedeutung von KI im Rahmen der beruflichen Bildung für die Wettbewerbsfähigkeit europäischer Unternehmen. 11. Der Bundesrat fordert die strukturelle Berücksichtigung der beruflichen Bildung bei der Umsetzung des Aktionsplans. Dazu gehört die Sicherstellung des Zugangs für Schulen und andere Einrichtungen der beruflichen Bildung zu europäischen KI-Infrastrukturen und der Akademie für KI-Kompetenzen. 12. Der Bundesrat fordert die Schaffung und Weiterentwicklung von geeigneten Förderinstrumenten zur Stärkung KI-bezogener Weiterbildungsstrukturen in kleinen und mittleren Unternehmen (KMU). 13. Der Bundesrat unterstützt entsprechend, dass die Stärkung von KI- Kompetenzen und -Talenten als ein Schwerpunktthema des Aktionsplans gesetzt wurde. Hierbei sollte ergänzend zu technischen Kompetenzen ein Grundverständnis für die Einhaltung von Grundrechten sowie zu Diskriminierungsrisiken vermittelt werden. Das Wissen über Potentiale gesellschaftlicher Diversität, Inklusion und Chancengleichheit sind als zentrale Komponenten einer zukunftsgerichteten und grundrechtebasierten KI-Kompetenz einzustufen. Hierzu sind zukünftige KI-Fachkräfte, genauso wie Anwender und Anwenderinnen beziehungsweise Mitarbeitende aller Branchen und des öffentlichen Sektors zu sensibilisieren. Um die Diversität der KI-Experten und -Expertinnen zu erhöhen, sollten bei Förderprogrammen für Studiengänge, Weiterqualifizierungen und Umschulungen gezielt unterrepräsentierte und marginalisierte Gruppen berücksichtigt und adressiert werden. Zudem sollten bei der Auswahl von Pilotprojekten oder der Fortführung der Initiative „Govtech-Incubator“ ethische Grundrechtsfolgenabschätzungen durchgeführt und Kriterien wie Diversität, Gleichbehandlung und Inklusion aufgenommen werden. 14. Der Bundesrat ist der Überzeugung, dass die KI-Verordnung im Sinne einer menschenzentrierten Nutzung von KI ein wichtiger Meilenstein ist, um Vertrauen in KI-Systeme zu stärken. Deshalb hält der Bundesrat eine plangemäße Implementierung der KI-Verordnung für notwendig. Gerade im Bereich von Hochrisiko-Anwendungen wäre eine verzögerte Umsetzung nicht wünschenswert. Zielführender sind die von der Kommission angedachten Strukturen und EU K EU K EU K EU AIS EU AIS ... Dienstleistungen, die insbesondere KMU und Innovatoren bei der Anwendung der KI-Verordnung unterstützen sollen. 15. Der Bundesrat begrüßt den Ansatz, die Einhaltung und Vereinfachung der Rechtsvorschriften zu fördern. Eine globale Führungsrolle der EU muss dabei jedoch einer guten Balance zwischen Wirtschaftsinteressen und -förderung und der Wahrung von Grundrechten und ethischen Grundsätzen gerecht werden. Eine Vereinfachung bzw. Praxisorientierung darf nicht bedeuten, wichtige Vorgaben der KI-Verordnung beispielsweise bei Konformitätsprüfungen für Unternehmen zu konterkarieren. Vielmehr müssen innovative und niedrigschwellige Unterstützungsstrukturen für Unternehmen und öffentliche Verwaltung, sowie Aufsichtsbehörden geschaffen werden, um dem Anspruch einer vertrauenswürdigen und menschenzentrierten KI auch de facto gerecht werden zu können. 16. Der Bundesrat sieht es unter den geopolitischen Rahmenbedingungen als vordringlich an, deutlich in europäische Daten- und Recheninfrastrukturen zu investieren. Er begrüßt daher den Aufbau der KI-Fabriken und KI-Gigafabriken in Europa. Er sieht es als große Chance an, durch den massiven Ausbau von Rechenkapazitäten den KI-Standort Europa sicherer und unabhängiger von globalen Risiken zu machen, um die europäische Souveränität zu stärken und durch das Zusammenwirken von Wissenschaft und Wirtschaft in den KI- Gigafabriken KI-Anwendungen künftig schneller zu entwickeln, zu testen und zu skalieren. 17. Die bereits bestehenden KI-Ökosysteme gut einzubinden und auf die vorhandene Expertise im Hoch- und Höchstleistungsrechnen aufzubauen, ist aus Sicht des Bundesrates ein wesentlicher Erfolgsfaktor der KI-Gigafabrik-Initiative. Es wird entscheidend darauf ankommen, eine gleichermaßen für exzellente Forschung und Entwicklung wie für die Bedarfe der Wirtschaft bestens geeignete Struktur aufzubauen. Der Bundesrat regt deshalb an, das Zusammenspiel zwischen den KI-Fabriken und KI-Gigafabriken weiter zu konkretisieren. Um alle Kräfte und Kompetenzen wirksam zu bündeln, sollten auch die bestehenden gemeinsamen KI-Kompetenzzentren von Bund und Sitzländern am Aufbau mitwirken und an dem avisierten zeitlichen Ablauf angemessen partizipieren können. Das Einbeziehen aller Ebenen der nationalen High-Performance- Computing-Ökosysteme trüge aus Sicht des Bundesrates auch dazu bei, zum Beispiel die Moonshot-Projekte erfolgreich zu verfolgen. EU AIS EU K EU K ... 18. Der Bundesrat ist davon überzeugt, dass Europa mit seiner exzellenten Wissenschaft global wettbewerbsfähig ist und bleiben kann – auch bei der Entwicklung der KI und ihrer Anwendungen. Er setzt sich deshalb für eine weiterhin ambitionierte, ausgewogene und verlässliche europäische Forschungs- und Innovationsförderung ein. Forschung und Innovation sind die entscheidenden Elemente zur Stärkung der europäischen Wettbewerbsfähigkeit. 19. Darüber hinaus empfiehlt der Bundesrat, über eine EU-Förderung des Zugangs der Wissenschaft zur zukünftigen KI-Gigafabrik-Infrastruktur zu beraten, um der europäischen Hochschul- und Wissenschaftslandschaft in ihrer Breite Zugang zu diesen international konkurrenzfähigen Rechenleistungen zu ermöglichen. So können Wissenschaftseinrichtungen eine tragende Rolle als zentrale Nutzer und Entwicklungspartner insbesondere für die Startphase der KI- Gigafabriken übernehmen. Deshalb begrüßt der Bundesrat die gezielte Konsultation mit der Wissenschaftsgemeinschaft als Input für die Strategie „KI in der Wissenschaft“ (2. Quartal 2025) und verleiht seiner Hoffnung Ausdruck, dass die Überlegungen der Wissenschaftslandschaft Berücksichtigung finden werden. 20. Auf Grundlage ihrer langjährigen Erfahrung mit dem Auf- und Ausbau von Recheninfrastrukturen und der Gestaltung sektorenübergreifender Ökosysteme, der Ausbildung von Spezialistinnen und Spezialisten sowie der Verfügbarkeit einer bereits ausgebauten Daten- und Energieinfrastruktur sehen sich die deutschen Länder als geeignete Partner, um sich für den Aufbau einer KI-Gigafabrik zu engagieren. Der Bundesrat sieht wesentliche Vorteile bei der Umsetzung, wenn die KI-Gigafabrik als gemeinsame Initiative von Wirtschaft, Wissenschaft und öffentlicher Hand konzipiert werden soll. Die Länder wünschen sich eine finanzielle Beteiligung des Bundes für den Fall einer deutschen Bewerbung um den Standort einer KI-Gigafabrik. 21. Insgesamt bietet der Aktionsplan gute Chancen, in Europa technologisch souveräne, leistungsfähige und robuste KI-Ökosysteme aufzubauen, in der Prototypen, Inferenz-Anwendungen und Open-Source-Modelle auf heimischen Systemen entwickelt, getestet und betrieben werden können. Dies knüpft eng an deutsche und europäische Programme wie die European Open Science Cloud (EOSC) und die Nationale Forschungsdateninfrastruktur (NFDI) an, um qualitätsgesicherte Datenbestände bereitzustellen. Dabei muss zwingend noch die EU K EU K EU K EU K ... Governance des Aktionsplans weiter spezifiziert werden, um Freiheit und Autonomie der Wissenschaft hinsichtlich ihrer Datenbestände zu sichern. Nur dann werden NFDI und EOSC ein Erfolg werden. Ebenso ist wichtig, die NFDI insbesondere in ihrer Funktion als EU Node des EU Horizon Programms weiter zu stärken und die im Bottom-Up Prozess entwickelten Lösungen und aufgebauten Strukturen hinsichtlich ihrer Nutzbarkeit und ihres Beitrags bei der Einrichtung europäischer Datenräume zu prüfen. Indem sichergestellt wird, dass Daten in Übereinstimmung mit europäischen Datenschutzstandards vorgehalten und verarbeitet werden, wird zugleich vermieden, dass sensible Daten in non-EU- Clouds liegen oder nach drittstaatlichen Rechten ohne wirksame europäische Interventionsmöglichkeiten abgerufen werden können. Damit werden Wissenschaft und Wirtschaft in Europa in die Lage versetzt, datenintensive KI-Projekte auf heimischen Servern durchzuführen. 22. Der Bundesrat verweist auf seine Stellungnahme vom 7. Mai 2021 zur Mitteilung der Kommission über den Digitalen Kompass 2030 (BR-Drucksache 238/21 (Beschluss)) und betont erneut, dass ein einheitlicher sektorenübergreifender europäischer Datenraum unverzichtbare Voraussetzung für den Erhalt der Wettbewerbsfähigkeit darstellt. Der Bundesrat betont erneut die Bedeutung eines standardisierten Datenzugangs. Soweit möglich, muss die Nutzung von hochwertigen Daten sektorübergreifend einheitlich und mit möglichst niedrigem Aufwand möglich werden, um große Sprachmodelle zu trainieren und KI- Anwendungen zu testen. 23. Die aufzubauende KI-Kapazität im EU-Aktionsplan stellt die Erfüllung zukünftiger Bedarfe des Trainings von großen Sprachmodellen (LLM) und die Entwicklung von KI-Prototypen sowie die Erweiterung bestehender Open LLMs sicher. Zudem wird der steigende Bedarf an Kapazitäten für die KI-Inferenz nach europäischem Datenschutzrecht sichergestellt. 24. Deutschland hat in den vergangenen Jahren mit KI-Professuren, KI- Kompetenz- sowie KI-Servicezentren bereits Ressourcen geschaffen, die eine gute Ausgangsbasis für herausragende Forschung und innovative Lehre und Transfer an den deutschen Wissenschaftseinrichtungen darstellen. Nur durch die weitere Gewinnung und Förderung exzellenter wissenschaftlicher Nachwuchskräfte kann Forschung und Lehre zu und mit KI in ausreichendem Maße zukunftsfähig und mit hohem Transferpotenzial in Wirtschaft und Gesellschaft gestaltet wer- EU K EU K EU K ... den. Der Bundesrat befürwortet deshalb die Überlegungen der Kommission, die Voraussetzung für die erfolgreiche weltweite Gewinnung und Bindung von Talenten zu verbessern und begrüßt in diesem Zusammenhang auch die MSCA- Initiative „Choose Europe for Science.“ 25. Die breite Verankerung ethischer Prinzipien als Grundlage von KI-Nutzung und ihre Ausrichtung auf den Menschen stellt gerade mit Blick auf die Entwicklung in anderen Weltregionen ein wichtiges Alleinstellungsmerkmal und einen entscheidenden Wettbewerbsvorteil dar. Europa benötigt eine vertrauenswürdige und auch wertebasierte KI und ihren entsprechenden Einsatz. 26. Hochschulen und Forschungseinrichtungen sind Orte des kritischen Diskurses und der Kompetenzvermittlung. Der Bundesrat betont die Zielsetzung der Länder, in Zusammenarbeit mit dem Bund die Hochschulen als Orte der Ausbildung für KI-Kompetenzen zukunftssicher aufzustellen, um die Studierenden zu kritisch-reflektierten, verantwortungsvollen und souveränen Entwicklerinnen und Entwicklern sowie Nutzerinnen und Nutzern von KI heranzubilden. 27. Der Bundesrat unterstützt die im Aktionsplan betonte, wichtige Rolle eines einheitlichen Regelwerkes für die Stärkung von Vertrauen und Sicherheit bei der Nutzung von KI und teilt zugleich die Auffassung, dass die Einhaltung der europäischen KI-Verordnung insbesondere für kleinere Innovatoren erleichtert werden muss. 28. Der Bundesrat ist davon überzeugt, dass sich die Rahmenbedingungen für den Wissens- und Technologietransfer von den Hochschulen in Wirtschaft und Gesellschaft durch eindeutige und einheitliche rechtliche Regelungen (zum Beispiel Datenschutz, IP-Recht) auch auf europäischer Ebene, verbessern sollten. 29. Der Bundesrat behält sich gesonderte Stellungnahmen zu den in der Mitteilung der Kommission angesprochenen Einzelinitiativen vor. 30. Der Bundesrat übermittelt diese Stellungnahme direkt an die Kommission. EU K EU K EU K EU K EU K EU AIS K B 31. Der Finanzausschuss und der Wirtschaftsausschuss empfehlen dem Bundesrat, von der Vorlage gemäß §§ 3 und 5 EUZBLG Kenntnis zu nehmen.]