Schriftliche Frage 52 von Rebecca Lenhard (BÜNDNIS 90/DIE GRÜNEN): Hält die Bundesregierung an der von Parlamentarischem Staatssekretär Philipp Amthor in der Fragestunde des Deutschen Bundestages am 4. März…

Schriftliche Frage 52 von Rebecca Lenhard (BÜNDNIS 90/DIE GRÜNEN): Hält die Bundesregierung an der von Parlamentarischem Staatssekretär Philipp Amthor in der Fragestunde des Deutschen Bundestages am 4. März… Frage 52 (Rebecca Lenhard, BÜNDNIS 90/DIE GRÜNEN): Hält die Bundesregierung an der von Parlamentarischem Staatssekretär Philipp Amthor in der Fragestunde des Deutschen Bundestages am 4. März 2026 (Plenarprotokoll 21/61) vertretenen Auffassung fest, wonach agentische KI umfassend von der EU-KI-Verordnung erfasst ist, und wenn nein, wo sieht sie angesichts der seitherigen Entwicklungen (www.tagesschau.de/video/video-164681 6.html) zusätzlichen regulatorischen beziehungsweise gesetzgeberischen Handlungsbedarf? Antwort des Parlamentarischen Staatssekretärs Thomas Jarzombek vom 21. September 2026: Die Bundesregierung ist nach wie vor der Auffassung, dass die EU-KI- Verordnung für alle Formen künstlicher Intelligenz (KI) gilt, was die agentische KI einschließt, beobachtet die Entwicklungen aber sehr genau. Auch die Europäische Kommission vertritt die Auffassung, dass die nach der KI-Verordnung für KI-Systeme und GPAI-Modelle (KI- Modelle mit allgemeinem Verwendungszweck) geltenden Vorschriften auch für KI-Agenten gelten (https://ai-act-service-desk.ec.europa.eu/en/ai-act/fa q/how-are-ai-agents-addressed-within-ai-act-0). Angesichts der Tatsache, dass Entwicklungen im Zusammenhang mit KI-Agenten neu und schnelllebig sind, betont die Europäische Kommission, dass die regulatorischen Überlegungen in diesem Stadium nur vorläufig sind. Das KI- Büro überwacht die Entwicklungen weiterhin genau und wird, falls erforderlich, in Erwägung ziehen, Strategien zu entwickeln, um die potenziellen Risiken, die von KI-Agenten ausgehen, zu adressieren (a. a. O.). Insbesondere auch vor dem Hintergrund der aktuellen Ereignisse und Diskussionen um KI-Sicherheit treibt die Bundesregierung ferner den Auf- und Ausbau des AI Safety and Security Institute Deutschland (AI- SI Deutschland) intensiv voran. Das AISI Deutschland wird Deutschland in die Lage versetzen, sicherheitsrelevante KI-Risiken frühzeitig zu identifizieren und evidenzbasierte Handlungsoptionen abzuleiten. Im Rahmen der deutsch-kanadischen Sovereign Technology Alliance investiert Deutschland rund 100 Mio. Euro in das Non-Profit-KI-Startup LawZero zur Förderung eines neuen Ansatzes bei sicherer und souveräner KI. Das Geld fließt in das Projekt „Scientist AI“, welches die Entwicklung eines neuen, von Grund auf vertrauenswürdigen und sicheren KI-Modells verfolgt („Safe by Design“), das ausschließlich auf der Grundlage von Fakten arbeitet und keine eigenen Ziele verfolgt. Ein zentrales Anliegen der deutschen Beteiligung ist es, europäische Normen und den EU AI Act von Beginn an in die Architektur des neuen KI- Modellansatzes zu integrieren. Aus Sicht der Bundesregierung braucht es bei dem Thema verstärkt internationale Zusammenarbeit wie beispielsweise eine unabhängige, internationale KI-Aufsicht, um Systeme, die zunehmend autonomer agieren, in den entscheiden Fragen sicher zu gestalten.