Rede von Dr. Konstantin von Notz (BÜNDNIS 90/DIE GRÜNEN) – Aktuelle Stunde: Sicherheit und Kontrolle von KI-Systemen gewährleisten – Staatliche Schutzverantwortung ernst nehmen

Rede von Dr. Konstantin von Notz (BÜNDNIS 90/DIE GRÜNEN) – Aktuelle Stunde: Sicherheit und Kontrolle von KI-Systemen gewährleisten – Staatliche Schutzverantwortung ernst nehmen Herr Präsident! Meine sehr verehrten Damen und Herren! Zitat: „Sobald keine Täuschung mehr nötig ist, löscht sie die Menschheit aus.“ Zitat Ende. Mit diesen Worten warnte jüngst ein ehemaliger OpenAI-Mitarbeiter vor den aktuellen Risiken entfesselter KI-Agenten. Völlig unbestritten: KI bietet große Chancen. Das ist ein Riesenthema für die Wirtschaft, keine Frage. Es gibt tolle neue digitale Möglichkeiten. Aber KI ist eben nicht nur ein Wirtschaftsthema, sondern es ist auch ein Sicherheitsthema, meine Damen und Herren. Wer das unterkomplex, Herr Rupp, auf Wirtschaft reduziert, dem sei gesagt: Das ist nicht wirtschaftsliberal, sondern das ist naiv, es nur so zu diskutieren. Derzeit erleben wir, dass praktisch über Nacht Bereiche entstehen, bei denen aus diffusen sehr reale Bedrohungslagen werden. KI-Agenten missachten Befehle, umgehen Sicherheitsvorkehrungen und nisten sich als Schläfer in digitale Systeme ein. Man erfährt von völlig unzureichenden Sicherheitsvorkehrungen der Unternehmen, von Weitergabe der Tools an Dritte, die sie in kriegerischen Konflikten bei den Huthi einsetzen. Man hört, dass es ein durchaus realistisches Szenario sei, dass die Menschheit bis zum Ende der Dekade ausgelöscht sein könnte, sprich in drei bis vier Jahren. Man kann also mal über die Sicherheitsrisiken im Bundestag reden. Deswegen haben wir das Thema heute aufgesetzt, meine Damen und Herren. Der Gesetzgeber und dieses Parlament muss der staatlichen Schutzverantwortung gegenüber den Bürgerinnen und Bürgern gerecht werden. Wir müssen gemeinsam – da hat der Kollege Lauterbach vollkommen recht – alles daransetzen, zu verhindern, dass uns diese Technologie entgleitet. Es stimmt: Wir sind, was die Regulierung der KI angeht, sehr viel weiter als andere. Der AI Act ist ein gutes Regelwerk. Er definiert, wo und unter welchen Bedingungen neue KI-Anwendungen zum Einsatz kommen. Er zeigt auch rote Linien auf und verbietet Anwendungen dort, wo der Einsatz gesellschaftspolitisch gefährlich ist. Er nimmt die Unternehmen in die Pflicht und definiert sogar sehr drastische Strafen bei Verstößen. Das ist alles gut und richtig. Aber die beste EU-Gesetzgebung nützt nichts, wenn sie nicht entschlossen in nationales Recht umgesetzt wird und wenn es nicht zugleich Aufsichtsbehörden gibt, die imstande sind, zumindest einigermaßen auf Augenhöhe mit den milliardenschweren KI-Firmen zu agieren, sie zu kontrollieren und notfalls auch zu sanktionieren. Klare Haftungsregeln – da hat der Kollege Jarzombek völlig recht – braucht es. Davon sind wir aber meilenweit entfernt, meine Damen und Herren. Die Aufgabe ist groß, und wir können das nur mit einem gemeinsamen Kraftakt schaffen. Ich gebe zu: Der Staatssekretär Jarzombek, der Minister sowieso, aber auch der Bundeskanzler arbeiten daran und sind da auf einem guten Weg. Das erkenne ich an; aber das wird nicht reichen. Wir müssen erstens das Thema tatsächlich zu einer Priorität in dieser Wahlperiode machen, und wir müssen zweitens es auf alle Tagesordnungen aller internationalen Treffen der nächsten Monate setzen, meine Damen und Herren. Was gilt es konkret zu tun? KI-Labore müssen zukünftig gänzlich anders als bisher kontrolliert werden. Wir brauchen eine Beweislastumkehr, und wir müssen wieder durchsetzen, was selbstverständlich ist, nämlich: Wer nicht garantieren kann, dass seine Systeme keine massiv negativen Auswirkungen auf unsere Gesellschaft und ihre Menschen haben, der darf sie nicht an den Start bringen. Das ist eine Selbstverständlichkeit. Wir brauchen eine international anerkannte Instanz, die diese Sicherheitsstandards überwacht. Ich bin, ehrlich gesagt, nicht bereit – das ist gesellschaftlich nicht akzeptabel –, darauf reduziert zu werden, alle paar Monate in neuen Firmenberichten nachlesen zu müssen, wie knapp man diesmal wieder an einer Katastrophe vorbeigeschrammt ist. Deswegen: Wir müssen in diesem Bereich was tun. Deswegen folgende Grundsätze: Der Mensch muss den Kontext der Mechaniken unserer Welt immer verstehen können; wir brauchen Transparenz. Alle relevanten Entscheidungen müssen von Menschen und dürfen nicht von Maschinen getroffen werden. Es müssen das Primat der Politik und die Reversibilität durch demokratische Veränderung gewährleistet sein. Ich möchte Ihnen, Herr Rupp, zum Schluss noch auf den Weg geben: Wenn man KI nur als eine Technologie versteht, mit der man seine komischen völkischen Weltbilder auf Wahlplakate bringt, dann ist man eben nicht in der Lage, zu erkennen, wozu dieses Parlament verpflichtet ist, nämlich hier eine klare Industriepolitik zu machen und einen klaren Rahmen zu schaffen, sodass diese Technologie den Menschen dient. Ganz herzlichen Dank.