Schriftliche Frage 169 von Tobias Ebenberger (AfD): Liegen der Bundesregierungen Informationen zu potentiellen Risiken durch rekursive Selbstverbesserung von künstlicher Intelligenz vor, und f…

Schriftliche Frage 169 von Tobias Ebenberger (AfD): Liegen der Bundesregierungen Informationen zu potentiellen Risiken durch rekursive Selbstverbesserung von künstlicher Intelligenz vor, und f… Frage 169 (Tobias Ebenberger, AfD): Liegen der Bundesregierungen Informationen zu potentiellen Risiken durch rekursive Selbstverbesserung von künstlicher Intelligenz vor, und falls ja, welche? Antwort des Parlamentarischen Staatssekretärs Thomas Jarzombek vom 6. Juli 2026: Der Bundesregierung sind die in Wissenschaft und Fachöffentlichkeit geführten Diskussionen über potenzielle Risiken fortgeschrittener Systeme der künstlichen Intelligenz, einschließlich theoretischer Szenarien einer rekursiven Selbstverbesserung, bekannt. Sie steht hierzu kontinuierlich im Austausch mit den zentralen Akteuren aus dem KI-Bereich. Ein wichtiger Partner ist dabei die Plattform Lernende Systeme, in der führende KI-Expertinnen und -Experten aus Wissenschaft, Wirtschaft und Zivilgesellschaft vertreten sind. Nach Einschätzung der Bundesregierung entwickeln sich Fähigkeiten moderner KI-Systeme derzeit dynamisch. Potenzielle Risiken, die sich aus weiteren Fähigkeitssteigerungen ergeben könnten, werden daher kontinuierlich beobachtet und bewertet. Hierzu zählen auch Fragestellungen, die in der wissenschaftlichen Diskussion unter dem Begriff der rekursiven Selbstverbesserung behandelt werden. Wie aus der entsprechenden Pressemitteilung entnommen werden kann, hat der Nationale Sicherheitsrat in seiner Sitzung am 8. Juni 2026 beschlossen, ein KI-Sicherheitsinstitut zu gründen. Dieses Institut soll Deutschlands Kapazitäten zur Erkennung von Gefahren moderner KI- Modelle bündeln, den Informationsaustausch mit vergleichbaren ausländischen Instituten intensivieren und auf einheitliche Standards im Umgang mit KI mit internationalen Partnern hinwirken. In der Europäischen Union bietet die KI-Verordnung (KI-VO) einen einheitlichen Rechtsrahmen zur Regulierung von KI-Systemen. Anbieter von KI-Modellen sind nach Artikel 55 der KI-VO verpflichtet, umfangreiche Maßnahmen zu ergreifen, um mögliche systemische Risiken durch leistungsstarke KI-Modelle zu analysieren und zu mitigieren. Die gesetzlichen Vorgaben gelten seit August 2025 und wurden durch den Code of Practice on General-Purpose AI konkretisiert. Dieser umfasst auch Risiken durch rekursive Selbstverbesserung. Die Durchsetzung der Vorgaben nach Artikel 55 KI-VO erfolgt gebündelt durch das AI-Office bei der Europäischen Kommission. Im Übrigen verweist die Bundesregierung hinsichtlich des Aspekts „selbstverstärkende Fähigkeitssprünge“ auf ihre Antwort auf die Schriftliche Frage 105 der Abgeordneten Dr. Andrea Lübcke auf Bundestagsdrucksache 21/6457.