Nationale und internationale Regulierung bei dem Einsatz von KI-Technologie, Drohnen und Loitering Munition (Antwort zu Drs. 21/4716)

Nationale und internationale Regulierung bei dem Einsatz von KI-Technologie, Drohnen und Loitering Munition (Antwort zu Drs. 21/4716) Deutscher Bundestag Drucksache 21/5169 21. Wahlperiode 01.04.2026 Antwort der Bundesregierung auf die Kleine Anfrage der Abgeordneten Gerold Otten, Udo Theodor Hemmelgarn, Dr. Malte Kaufmann, weiterer Abgeordneter und der Fraktion der AfD – Drucksache 21/4716 – Nationale und internationale Regulierung bei dem Einsatz von KI-Technologie, Drohnen und Loitering Munition V o r b e m e r k u n g d e r F r a g e s t e l l e r Die Schaffung einheitlicher Standards für autonome Waffensysteme (LAWS), Drohnen und Loitering Munition stellt die deutsche Diplomatie vor große Herausforderungen. Im Rahmen der UN-Waffenkonvention (CCW) verhandelt die Group of Governmental Experts (GGE) über die Definition von LAWS und die Notwendigkeit strikter Verbote (https://disarmament.unoda.org/en/updates/briefing-ch air-ccw-gge-laws-margins-first-committee). Doch der Prozess ist mühsam: Da Entscheidungen im Konsens getroffen werden müssen, führen Blockaden durch Staaten, die die Technologieführerschaft bei KI besitzen oder andere strategische Schwerpunkte setzen, dazu, dass der Entscheidungsfindungsprozess schleppend vorankommt. Im Fokus steht im Jahr 2026 die Ausarbeitung konkreter Elemente für ein rechtliches Instrument, das der siebten Überprüfungskonferenz vorgelegt werden soll. Parallel dazu hat sich mit der REAIM (Responsible AI in the Military Domain)-Serie eine agile Plattform jenseits der starren UN-Strukturen etabliert. REAIM konzentriert sich auf die Erarbeitung von Normen und Best Practices. Beim jüngsten Gipfel im Februar 2026 im spanischen A Coruña wurden die sogenannten Pathways for Action weiter konkretisiert (www.exteriores.gob.e s/en/REAIM2026/Documents/REAIM%202026Prozent20Pathways%20to%2 0Action.pdf). Auffällig bleibt für die Fragesteller hierbei die Rolle der USA. Die aktuelle National Defense Strategie sowie die am 9. Januar 2026 publizierte Artificial Intelligence Strategy for the Department of War verabschieden sich wortwörtlich von einem utopischen Idealismus und setzen an dessen Stelle einen nüchternen Realismus (www.justsecurity.org/129936/third-reaim-summit/, hier auch beide Dokumente). Auf der Ebene der NATO steht weniger die Frage des Verbots als vielmehr die operative Handlungsfähigkeit im Vordergrund. Das „Data and AI Review Board“ (DARB) setzt verbindliche Standards für die Mitgliedstaaten, um die Interoperabilität von KI-Systemen, Drohnenschwärmen und Loitering Muni- Die Antwort wurde namens der Bundesregierung mit Schreiben des Bundesministeriums der Verteidigung vom 31. März 2026 übermittelt. Die Drucksache enthält zusätzlich – in kleinerer Schrifttype – den Fragetext. tion sicherzustellen. Ziel ist ein reibungsloser Datenaustausch im Netzwerk, der gleichzeitig den ethischen Leitplanken des Bündnisses entspricht (www.na to.int/en/about-us/official-texts-and-resources/official-texts/2022/10/13/ natosdata-and-artificial-intelligence-review-board). Die wirtschaftliche Dimension der Rüstungskontrolle wird primär über das Wassenaar Arrangement gesteuert (www.wassenaar.org). Als zentrales Instrument der Exportkontrolle regelt es den Transfer von Dual-Use-Gütern. Gleichwohl befindet es sich in seiner schwersten Krise seit der Gründung. Das einst schlagkräftige Instrument zur Kontrolle von Rüstungs- und Dual-Use-Gütern leidet unter einer gefährlichen Mischung aus diplomatischer Lähmung (Konsensprinzip) und technologischem Zeitdruck (Forschungssprünge bei Quantencomputing und Agentic AI). Wichtige Akteure wie die USA und die EU warten nicht mehr auf den internationalen Konsens. Sie haben 2025 begonnen, unilaterale Listen einzuführen (https://eur-lex.europa.eu/legal-content/DE/TX T/?uri=CELEX:32025R2003). Das Ergebnis ist nach Auffassung der Fragesteller ein regulatorischer Flickenteppich, der Unternehmen vor enorme bürokratische Hürden stellt. Die Europäische Union möchte sich als moralische Instanz und Akteur positionieren. Während die EU über den Europäischen Verteidigungsfonds (EDF) ethische Mindeststandards für geförderte Rüstungsprojekte durchzusetzen versucht, befindet sich der EU AI Act in der Umsetzungsphase (https://digital-str ategy.ec.europa.eu/en/policies/regulatory-framework-ai). Dieser verpflichtet die Mitgliedstaaten zur Wahrung von Menschenrechten und Rechtsstaatlichkeit beim KI-Einsatz – eine Vorgabe, die zunehmend auch die Beschaffung von Systemen für den Grenzschutz und die innere Sicherheit beeinflusst. Der Bereich der Verteidigung wurde bewusst ausgespart. Die kürzlich bekannt gegebene Beschaffung von Loitering Munition ist in den Augen der Fragesteller ein bemerkenswerter Schritt, da sich die vorigen Regierungskoalitionen über fast zwei Jahrzehnte sehr schwergetan haben, der Bundeswehr bewaffnete Drohnen zur Verfügung zu stellen (www.hartpunk t.de/loitering-munition-bundeswehr/). Diese Beschaffung macht es für die Fragesteller nötig, Aspekte der deutschen KI-Strategie zu erfragen. Die bisherige Position ist in ihren Augen von Widersprüchlichkeiten geprägt. Einerseits strebt die Bundesregierung eine internationale Vorreiterrolle bei ethischen Standards an, andererseits erkennt sie die militärische Notwendigkeit an, im Wettbewerb mit Systemen aus Russland oder China nicht den technologischen Anschluss zu verlieren. Im nationalen Diskurs geht es um das Dogma der signifikanten menschlichen Kontrolle, also des „Human in the Loop“-Paradoxons (ethische Pflicht zur menschlichen Kontrolle bei gleichzeitig geforderter algorithmischer Geschwindigkeit, siehe Jeffrey Shaffer/ University of Cincinnati www.linkedin.com/pulse/my-ai-diary-one-day-time-19-jeffrey-shaffer-uu5gc #:~:text=The%20Paradox%20Unfolds:%20When%20Oversight,be%20more %20detrimental%20than%20beneficial.), und einer Ethik- statt einer Counter- AI-Fokussierung. Das, gepaart mit der bürokratischen Trägheit (im Gegensatz zu den schnelllebigen KI-Zyklen), Forschungsengpässen (Zivilklauseln an Universitäten, finanzielle Förderung von Forschung und Entwicklung) und Datenarmut durch Datenschutz und mangelnder Digitalisierung, wird nach Ansicht der Fragesteller mittelfristig eine große Herausforderung darstellen. V o r b e m e r k u n g d e r B u n d e s r e g i e r u n g Die Bundesregierung nimmt die Vorbemerkung der Fragesteller zur Kenntnis. Sie stimmt weder den darin enthaltenen Wertungen zu noch bestätigt sie die darin enthaltenen Feststellungen oder dargestellten Sachverhalte.  1. Gibt es auf Bundesebene Institutionen oder sind solche geplant, die ebenso wie in Frankreich die Agentur AMIAD (Agence ministérielle pour l'intelligence artificielle de défense) das vorhandene Know-how bündeln, um KI zu skalieren und für die Streitkräfte zu operationalisieren? Ja. Es wurde im Geschäftsbereich BMVg die Stelle des Chief AI Officers eingerichtet.  2. Wie stellt die Bundesregierung sicher, dass in künftigen, aber heute bereits absehbaren Szenarien (etwa dem massiven Ausbau von Drohnenschwärmen, bei denen die signifikante menschliche Kontrolle nicht mehr möglich ist), die Effizienz des Waffensystems zur Abwehr dieser Bedrohungen nicht leidet, ist diese Gefahr nach Auffassung der Bundesregierung gegeben, und wenn nein, warum nicht? Eine Gefahr im Sinne der Fragestellung besteht nicht. Die militärische Nutzung von KI in der Bundeswehr erfolgt stets unter Einhaltung der geltenden nationalen und internationalen Gesetze, Vorschriften und Einsatzregeln.  3. Wie nimmt die Bundesregierung ggf. Einfluss auf das Training von KI für Systeme, die in der Bundeswehr genutzt werden bzw. erprobt oder eingeführt werden sollen? Die Bundesregierung nimmt über die Ausgestaltung der Verträge mit Vertragspartnern auch Einfluss auf das Training von Software mit KI-Anteilen. Dabei stellt sie die Einhaltung geltender nationaler und internationaler Gesetze, Vorschriften und Einsatzregeln sicher.  4. Wer trägt nach Ansicht der Bundesregierung die völkerrechtliche Verantwortung, wenn ein autonom agierendes System aufgrund eines Softwarefehlers oder „Halluzinationen“ der KI zivile Ziele angreift, ist dies nach Kenntnis der Bundesregierung im Völkerrecht hinreichend geklärt, und wer wird in solchen Fällen haftbar gemacht? Eine rechtliche Bewertung kann nur im Rahmen einer konkreten Einzelfallbetrachtung erfolgen. Zudem wird auf die Antwort zu Frage 2 verwiesen.  5. Wie wird gewährleistet, dass der Deutsche Bundestag beim möglichen künftigen Einsätzen KI-gestützter Systeme im Ausland (Krisenmanagement etc.) nicht nur über das Budget, sondern auch über die ethischen Einsatzregeln (Rules of Engagement) im Detail entscheidet? Der Deutsche Bundestag sichert seinen Einfluss auf die Einsatzregeln über den konstitutiven Parlamentsvorbehalt, da die Bundeswehr als Parlamentsarmee für jeden bewaffneten Einsatz ein spezifisches Mandat benötigt. In diesen Mandaten legt das Parlament den Rahmen des Einsatzes fest. Zudem wird auf die Antwort zu Frage 2 verwiesen.  6. Verlangt die Bundeswehr von Herstellern wie Helsing oder Rheinmetall die Offenlegung der Quellcodes, um sicherzustellen, dass keine versteckten Funktionen oder „Backdoors“ in der KI existieren? Die Bundesregierung und die Bundeswehr setzen bei der Zusammenarbeit mit Unternehmen auf nationale Sicherheit und technologische Souveränität. Dazu wird bei Schlüsseltechnologien vertraglich Vorsorge getroffen.  7. Wie verhindert Deutschland ggf., dass KI-gestützte Software für Drohnen, die im Inland unter strengen Auflagen entwickelt wurde, durch „Dual Use“-Lücken oder Software-Updates im Ausland ohne Kontrolle für vollautonome Kriegsführung genutzt wird? Über die Erteilung von Genehmigungen für exportkontrollpolitisch sensible Güter entscheidet die Bundesregierung im Einzelfall und im Lichte der jeweiligen Situation nach sorgfältiger Prüfung unter Einbeziehung außen- und sicherheitspolitischer Erwägungen. Die Prüfung erfolgt auf Grundlage internationaler und nationaler rechtlicher Vorgaben und im Hinblick auf den vorgesehenen Verwendungszweck im jeweiligen Empfängerland.  8. Welche Lehren zieht die Bundesregierung aus der jahrelangen Diskussion um die Bewaffnung von Drohnen mit Blick auf die heutigen Herausforderungen durch KI? Die Einführung von KI-gestützten Waffensystemen ist für die Zukunfts- und Verteidigungsfähigkeit der Streitkräfte notwendig. Zudem wird auf die Antwort zu Frage 2 verwiesen.  9. Nimmt die Bundeswehr regelmäßig eine Abwägung zwischen den Risiken einer Nutzung von KI und einer Nichtnutzung von KI vor, was sind die Leitlinien dieser Abschätzung? Die verantwortungsvolle Nutzung von KI in der Bundeswehr unterliegt einem Risikomanagement. Dieses berücksichtigt neben den Risiken der Nutzung von KI-Systemen ebenfalls die Risiken deren Nicht-Nutzung. Leitlinien werden sich aus der Konzeption „Künstliche Intelligenz“ des Geschäftsbereichs BMVg ergeben. 10. Was sind die Eckpunkte der unverbindlichen „Best Practices“ bei der Regulierung von LAWS? Es wird auf die Antwort der Bundesregierung zu den Fragen 4, 5, 8 und 9 auf Bundestagsdrucksache 20/11452 verwiesen. 11. Welche der auf dem REAIM-Gipfel im Februar 2026 in Spanien verabschiedeten Punkte des „Pathways for Action“ will die Bundesregierung in nationale Gesetze oder Bundeswehr-Vorschriften überführen? Deutschland hat die politische Abschlusserklärung „Pathways to Action“ des 3. Responsible AI in the Military Domain (REAIM) Gipfels indossiert und bezieht deren Inhalte in sämtliche damit in sachlichem Zusammenhang stehende Vorschriften ein. 12. Wann wird die „Governance für AI“ in der Bundeswehr vorliegen, und in welchen Abständen wird diese Governance überprüft und aktualisiert? Die KI-Governance zum verantwortungsvollen und rechtssicheren Umgang mit KI im Geschäftsbereich BMVg ist etabliert. Die Überprüfung und Aktualisierung, erfolgt bedarfsgerecht. 13. Welchen Umfang (Seiten) wird dieses Dokument („Governance für AI“) im Vergleich zum entsprechenden US-Strategiepapier (https://media.defe nse.gov/2026/Jan/12/2003855671/-1/-1/0/ARTIFICIAL-INTELLIGENC E-STRATEGY-FOR-THE-DEPARTMENT-OF-WAR.PDF) haben, und wenn es sich stark unterscheidende Umfänge geben sollte, warum dieser auffallende Unterschied in der Seitenzahl, und welche inhaltlichen Gründe gibt es? Die Konzeption „Künstliche Intelligenz“ des GB BMVg hat einen Umfang von 46 Seiten zuzüglich Anlagen. Sie setzt den Rahmen für die rechtskonforme, verantwortungsvolle, sichere und zuverlässige Erprobung und Nutzung von KI im Geschäftsbereich BMVg und zeigt in Handlungsfeldern die notwendigen Handlungsbedarfe entlang einer Roadmap KI auf. Dies beinhaltet explizit Vorgaben zum rechtssicheren und verantwortungsvollen Umgang mit KI. 14. Wie bewertet die Bundesregierung das Risiko, dass durch die massive Beschaffung von KI-unterstützter Loitering Munition durch NATO- Staaten eine neue Rüstungs- und damit eine potenzielle Eskalationsspirale in der ungesteuerten KI-Rüstung (z. B. mit China oder Russland) ausgelöst wird (https://wehrtechnik.info/loitering-munitions-kamikazedrohnen/)? Eine gesicherte Verteidigungsfähigkeit und glaubhafte Abschreckung der NATO, auch mittels moderner Technologie wie KI-unterstützter Loitering Munition, ist aus Sicht der Bundesregierung essenziell für unsere Sicherheit. Die Bundesregierung setzt sich aktiv in multilateralen Formaten für einen verantwortungsvollen Umgang mit neuen Technologien wie KI im Verteidigungsbereich ein. 15. Werden die Trainingsdaten für KI-Algorithmen (z. B. von Helsing oder Stark Defence), die von den deutschen Streitkräften derzeit getestet oder künftig verwendet werden, innerhalb Deutschlands gespeichert und kontrolliert, oder fließen diese Daten in Cloud-Strukturen von Nicht-EU- Partnern ab? Die Datenspeicherung im Sinne der Fragestellung erfolgt auf Servern innerhalb Deutschlands bzw. der EU. 16. Wie stellt die Bundesregierung sicher, dass durch die technische Angleichung an US-amerikanische oder britische KI-Standards die bisher angewandten nationalen ethischen Einsatzkriterien (z. B. das Verbot vollautonomer Angriffe) nicht technisch „ausgehebelt“ werden? Die in der NATO Revised Artificial Intelligence Strategy aufgestellten Prinzipien für die verantwortungsvolle Nutzung von KI stellen sicher, dass rechtliche und ethische Vorgaben sowie technologische Möglichkeiten während des gesamten Lebenszyklus von KI-Systemen miteinander im Einklang stehen. Diese Prinzipien sind für alle NATO-Partnern handlungsleitend. 17. Durch wen wird Deutschland bei den Verhandlungen bei den UN (Group of Governmental Experts) sowie bei REAIM-Gipfeln sowie auf der NATO-Ebene vertreten, auf welcher Ebene sind diese Gespräche angebunden? Die Bundesrepublik Deutschland wird bei den Formaten im Sinne der Fragestellung durch das Auswärtige Amt und das Bundesministerium der Verteidigung vertreten. Die Ebene der Vertretung ist abhängig von Format und Inhalt des jeweiligen Termins. 18. Wie stellen das Auswärtige Amt und das Bundesministerium der Verteidigung ein Höchstmaß an Kohärenz sicher, wenn Deutschland in Genf (UN) für Verbote eintritt, während man gleichzeitig auf Ebene der NATO technische Standards für genau diese autonomen Systeme mitentwickelt? Grundsätzlich wird zwischen Waffensystemen mit automatisierten Funktionen, Waffensystemen mit autonomen Funktionen unter menschlicher Kontrolle sowie vollautonomen Waffensystemen jenseits menschlicher Kontrolle unterschieden. Die Bundesregierung lehnt vollautonome Waffensysteme, die der Verfügungsgewalt des Menschen entzogen sind, ab und setzt sich international für ein Verbot dieser ein. Darüber hinaus setzt sich die Bundesregierung international für Regelungen in Bezug auf Systeme mit autonomen Funktionen ein. Kohärenz wird durch eine enge Arbeitsbeziehung der zuständigen Arbeitseinheiten sichergestellt. Gesamtherstellung: H. Heenemann GmbH & Co. KG, Buch- und Offsetdruckerei, Bessemerstraße 83–91, 12103 Berlin, www.heenemann-druck.de Vertrieb: Bundesanzeiger Verlag GmbH, Postfach 10 05 34, 50445 Köln, Telefon (02 21) 97 66 83 40, Fax (02 21) 97 66 83 44, www.bundesanzeiger-verlag.de ISSN 0722-8333