Schriftliche Frage 53 von Ruben Rupp (AfD): Wie schätzt die Bundesregierung das Risiko ein, dass sich beim aktuellen Wettlauf großer KI- Firmen um das eine dominante große Sprachmodell…

Schriftliche Frage 53 von Ruben Rupp (AfD): Wie schätzt die Bundesregierung das Risiko ein, dass sich beim aktuellen Wettlauf großer KI- Firmen um das eine dominante große Sprachmodell… Frage 53 (Ruben Rupp, AfD): Wie schätzt die Bundesregierung das Risiko ein, dass sich beim aktuellen Wettlauf großer KI- Firmen um das eine dominante große Sprachmodell (LLM) unbeabsichtigt eine Superintelligenz, die das Potenzial hätte, sich einer menschlichen Kontrolle zu entziehen und sich gegen ihren Schöpfer zu richten, herausbildet (vgl. www.tagesschau.de/ wirtschaft/technologie/ki-anthropic-106.html), und hat sich die Bundesregierung eine Auffassung dazu gebildet, welche objektiv messbaren technischen Schwellen zusätzliche Sicherheitsauflagen für besonders leistungsstarke große Sprachmodelle rechtfertigen würden, und wenn ja, wie lautet diese? Antwort des Parlamentarischen Staatssekretärs Thomas Jarzombek vom 22. September 2026: Die Bundesregierung nimmt die mit der zunehmenden Leistungsfähigkeit von KI-Modellen verbundenen Sicherheitsrisiken, einschließlich möglicher Risiken eines Kontrollverlusts bei künftig hochautonomen KI-Systemen, sehr ernst. Die Bundesregierung beobachtet die Entwicklung fortlaufend und baut hierfür insbesondere mit dem KI- Sicherheitsinstitut AISI Deutschland entsprechende Analyse- und Bewertungskapazitäten auf und aus. Ebenso fördert die Bundesregierung die Forschung zu Methoden und Ansätzen, um die Zuverlässigkeit und Sicherheit von KI-Modellen zu verbessern. Am 16. September 2026 haben Bundesminister Dr. Karsten Wildberger und sein kanadischer Amtskollege Evan Solomon angekündigt, die Organisation LawZero mit insgesamt 300 Millionen kanadischen Dollar zu fördern. Deutschland steuert die Hälfte der Förderung bei, was rund 100 Mio. Euro entspricht. Ziel von LawZero ist die Entwicklung einer grundlegend neuen Form fortschrittlicher künstlicher Intelligenz, die nicht darauf ausgelegt ist, autonom zu handeln oder Ziele zu verfolgen, sondern so entwickelt wird, dass das System transparent schlussfolgert und zuverlässige, evidenzbasierte Ergebnisse liefert, die nicht durch eigene Zielsetzungen verzerrt sind. Darüber hinaus fordert die Bundesregierung eine globale Diskussion über die Notwendigkeit regulatorischer Leitplanken für Künstliche Intelligenz, um autonome Systeme sicher zu machen. Auf europäischer Ebene sieht die KI-VO für KI-Modelle mit allgemeinem Verwendungszweck und systemischem Risiko die höchsten Sicherheitsanforderungen und entsprechende Aufsichtsbefugnisse des EU AI Office vor, die seit August 2026 auch mit Sanktionen durchsetzbar sind. Durch die KI-VO wird ein systemisches Risiko bei einer Trainingsrechenleistung von mehr als 10^25 Gleitkommaoperationen (FLOP) gesetzlich vermutet; aber auch unterhalb dieses Schwellenwerts können Modelle aufgrund ihrer Fähigkeiten oder Auswirkungen entsprechend eingestuft werden.