Rede von Thomas Jarzombek (Parl. Staatssekretär beim Bundesminister für Digitales und Staatsmodernisierung) – Aktuelle Stunde: Sicherheit und Kontrolle von KI-Systemen gewährleisten – Staatliche Schutzverantwortung ernst nehmen

Rede von Thomas Jarzombek (Parl. Staatssekretär beim Bundesminister für Digitales und Staatsmodernisierung) – Aktuelle Stunde: Sicherheit und Kontrolle von KI-Systemen gewährleisten – Staatliche Schutzverantwortung ernst nehmen Herr Präsident! Liebe Kolleginnen und Kollegen! Es ist schön, dass wir heute die Gelegenheit haben, hier zum wiederholten Male über KI zu reden. Das ist ein superwichtiges Thema. Frau Kollegin Brantner, ich finde den gesamten Aufschlag der Grünen, zu sagen: „Wir müssen hier mehr machen“, interessant. Wir als Bundesregierung machen bei KI. In den drei Jahren der Ampelregierung lag das Hauptaugenmerk darauf, Regulierungen zu bauen, den AI Act zu bauen, und zwar mit einer Detailliertheit an Regulierungsinstrumenten auf über 100 Seiten, die nicht dazu beigetragen hat, dass eine starke KI in Europa einfach zu bauen war. Sie hat es den Gründerinnen und Gründern schwer gemacht. Deshalb ist unser Fokus als Bundesregierung vor allem, es den Gründerinnen und Gründern leicht zu machen, damit wir es schaffen, die Innovation aus den Hochschulen in globale Marktführerschaft zu übersetzen. Genau das haben wir bei der Raumfahrt getan. Wir haben gestern an diesem Pult darüber diskutiert, wie es Isar Aerospace geschafft hat, den ersten kommerziellen Raumflug Europas durchzuführen. Ein kleiner Rückblick – Frau Kollegin Brantner, auch Sie haben ja die letzten Jahre im Wirtschaftsministerium gearbeitet –: Als ich Luft- und Raumfahrtkoordinator war, mussten wir 500 Millionen Euro in einer ESA-Periode an Ariane geben. Daraus sind Dinge entstanden, über die an diesem Podium keiner geredet hat. Von diesen 500 Millionen Euro hat ein piratiger Raum- und Luftfahrtkoordinator 27 Millionen Euro abgezwackt und in einen Wettbewerb mit drei Start-ups gegeben. Für den Gewinner Isar Aerospace gab es Aufträge in Höhe von 11 Millionen Euro mit dem Staat als Ankerkunden; wir haben die Flüge eins und zwei gekauft. Es folgten 500 Millionen Euro private Investments. Das Ganze ist erfolgreich gewesen. Es gab drei Teams. Es gab auch noch Teams aus Frankreich, Spanien und UK. Und die Jungs aus Bayern waren halt die Besten. Der Wettbewerb hat funktioniert, und es folgten private Investitionen. – Da muss man nicht die Augen verdrehen. Wenn wir jetzt hingehen und sagen: „Wir bauen VEB ‚Künstliche Intelligenz‘, und die Europäische Kommission nimmt 100 Milliarden in die Hand“, wird es auf diese Art und Weise nicht zum Erfolg führen. Wir brauchen an dieser Stelle Wettbewerb, Mut und Start-ups. Übrigens gibt es diese auch aus Deutschland. Ich gucke auf Black Forest Labs, die gerade ein führendes World Model bauen, oder auf DeepL, die Marktführer sind, oder Cognigy, die globaler Marktführer bei Kundendienstleistungen mit 1 Milliarde Dollar Transaktionsvolumen sind. Das sind die Beispiele, die wir haben. Wir müssen jetzt einfach gucken: Was können wir als Staat damit machen? Sie haben ja recht: Wir müssen Ankerkunde werden. Das tun wir auch. Wir haben den „Agentic AI Hub“ gebaut. Wir bringen jetzt schon in der zweiten Runde Start-ups mit Kommunen zusammen und kommen hier zu sehr erfolgreichen Lösungen, die den Menschen helfen: Wenn Anträge zur Pflege gestellt und 100 Seiten Dokumente eingereicht werden, kann das die KI, anstatt dass Sachbearbeiter darüber tagelang brüten müssen, schön aufbereiten und damit den ganzen Prozess beschleunigen. Oder ich nenne als Beispiel SPARK, unsere agentische Planungsplattform. Damit können wir beispielsweise beim Bau von Stromtrassen – ein wichtiges Thema für uns alle –, von Wasserstoffleitungen oder von Autobahnbrücken, die gerade zerbröseln, die Planungsgeschwindigkeit verdoppeln, also den Planungszeitraum halbieren, indem wir mit KI die Verfahren an dieser Stelle unterstützen. Deshalb ist das Wichtigste, dass wir die KI nutzen. Sie bringt Nutzen für die Bürgerinnen und Bürger in diesem Land. Sie macht den Staat schneller und einfacher. Das Stichwort, mit dem Sie heute in diese Debatte gehen, ist ein anderes. Denn jetzt wird sehr viel über die Risiken geredet. Das hat auch Gründe, weil es bei KI natürlich nicht nur alle diese Chancen gibt, die ich gerade beschrieben habe, sondern es gibt bei KI auch große Risiken. Keine Technologie ist ohne Risiken, und damit müssen wir in der Tat umgehen. Wir nehmen das als Bundesregierung sehr ernst, und wir sind deshalb auch aktiv. Ich will drei zentrale Elemente nennen. Erstens. Unser Bundesminister Karsten Wildberger setzt sich dafür ein, dass es eine globale KI-Aufsicht gibt, und die braucht es auch. Es braucht globale Standards. Es braucht eine globale, unabhängige Aufsicht. Und es braucht eine Einsicht in Modelle und in Systeme. Zweitens. Wir bauen gerade ein AI Safety and Security Institute, das AISI Deutschland, ein Stück weit auch nach britischem Vorbild – nicht nur, um Zugang zu frühen und auch zu ungefilterten Modellen zu bekommen, sondern auch, um Beurteilungskompetenz zu erreichen. Wir wollen eine Behörde oder eine Truppe aufbauen, die helfen und auch abwehren kann. Drittens. Gerade letzte Woche hat Bundesminister Karsten Wildberger mit einer Delegation Kanada bereist und die Messe ALL IN besucht. Wir haben uns committet, nach Kanada nun bis zu 100 Millionen Euro in LawZero zu investieren. Das ist eine Initiative des KI-Professors Yoshua Bengio, einem der meistzitierten KI-Forscher der Welt, der eine KI baut, die eine Art Aufsicht und moralische Instanz für andere KIs ist. Ist das am Ende die finale Lösung? Das wissen wir nicht! Aber es ist sicherlich ein vielversprechender Ansatz, und wir investieren. Wir sind aktive Spieler in dem Ganzen. Ich will aber dazusagen, dass am Ende die Gefahren, die wir jetzt gerade sehr konkret sehen, nämlich dass KI-Agenten ausbrechen – man liest ja täglich davon – und andere KI-Systeme kompromittieren, natürlich auch ein Thema ist, das Haftungsfragen aufwirft. Das ist auch erst mal ein guter Schutz, da am Ende derjenige, der Systeme in Umlauf bringt, die wirtschaftlichen Schaden anrichten, dafür auch haften muss. Das ist nicht nur nach europäischem Recht so, sondern das ist im Übrigen auch nach US-amerikanischem Recht so. Das wird sicherlich einen sehr großen Einfluss haben, möglicherweise auch auf manche Erklärungen der Tech-CEOs, die gerade zitiert wurden. Denn diese Firmen müssen haften. Und wenn hier großer wirtschaftlicher Schaden entsteht, weil Systeme kompromittiert werden oder Systeme ausfallen, dann wird das sicherlich sehr starke Konsequenzen auf die Entwicklung in den Laboren haben. Denn es muss so sein, dass die Systeme, die veröffentlicht werden und Zugang zum Internet bekommen, verstanden werden und man sicher sein kann, dass sie keinen Schaden anrichten. Am Ende ist es mir wichtig, noch mal zu betonen: Das größte Risiko besteht darin, dass wir die Chancen verpassen. Hier müssen wir in Europa ran. Und das tun wir. Wir treten gezielt als Ankerkunde auf. Wir stärken Forscherinnen und Forscher. Wir machen mit dem gestern novellierten Wissenschaftsfreiheitsgesetz und demnächst mit dem Innovationsfreiheitsgesetz Dinge einfacher. Das ist der Weg, wie wir als Europa hier eine starke Stimme werden, sind und bleiben. Vielen Dank.