Rede von Johannes Schätzl (SPD) – Aktuelle Stunde: Sicherheit und Kontrolle von KI-Systemen gewährleisten – Staatliche Schutzverantwortung ernst nehmen

Rede von Johannes Schätzl (SPD) – Aktuelle Stunde: Sicherheit und Kontrolle von KI-Systemen gewährleisten – Staatliche Schutzverantwortung ernst nehmen Sehr geehrter Herr Präsident! Liebe Kolleginnen! Liebe Kollegen! Frau Brantner, danke, dass Sie das Thema auf die Tagesordnung gesetzt haben. Aus der Ferne betrachtet, wirkten die beiden Reden von Frau Brantner und Herrn Jarzombek tatsächlich konfrontativ. Aber ich gehe davon aus, Sie haben am Ende beide recht. Das ist eine Abwägung zwischen Chancen und Risiken. Die Frage, ob man zunächst an Chancen oder Risiken denkt, wenn man das Wort „KI“ hört, die muss jeder selbst beantworten. Dennoch bin ich mir sicher: Wir alle könnten spontan zehn Chancen aufzählen. Wir haben es hier an diesem Pult relativ häufig gemacht – ich muss nicht alles aufzählen –: Medizin, Industrie, Handwerk, Verwaltung usw. Und tatsächlich – auch wenn es zu dieser späten Zeit vielleicht nicht mehr so wirkt –: Mich begeistert dieses Potenzial. Ja, wir müssen Lust auf diesen Fortschritt haben. Wir müssen als Parlament sicherstellen, dass dieser Fortschritt am Ende auch bei den Menschen im Land ankommt. Deshalb bin ich auch in der Abwägung zwischen Chancen und Risiken der festen Überzeugung, dass wir in Deutschland KI entwickeln, erproben und einsetzen sollten. Wenn ich sage, wir hätten sofort ein Gefühl für zehn Chancen, dann heißt das aber auch: Wir haben vermutlich nicht alle sofort ein Gefühl für zehn Risiken. Ja, die Risiken, sie werden größer. Jedes Modell arbeitet am Ende mit Wahrscheinlichkeiten. Es gibt keine eindeutig richtigen, definierten Antworten, die man vorgibt. Das wäre vermutlich ein geringeres Problem, würden wir nur über Textbausteine reden. Aber ja, wir geben der KI zunehmend Werkzeuge an die Hand. Sie kann Programme ausführen, sie kann E-Mails versenden, sie kann auf Daten zugreifen. Tatsächlich liegt aus meiner Sicht genau da das Risiko. Aus einer falschen Antwort kann plötzlich eine falsche Handlung werden. Und reden wir über Risiken, sehe ich ganz konkret drei Risiken. Erstens. KI kann Missbrauch erheblich erleichtern. Wir sehen, dass Cyberangriffe durch KI unterstützt werden. Das ist beispielsweise eine stark personalisierte, betrügerische E-Mail, und das ist bei Weitem nicht das Worst-Case-Problem. KI führt nicht immer eigenständig Angriffe durch, und dennoch gelingen mit ihr trotz Cybersicherheit Angriffe leichter. KI macht Angriffe skalierbarer. Zweites Risiko aus meiner Sicht. Auch ohne böswilligen Nutzen können sehr gefährliche Fehler entstehen. In Testszenarien wurden einige Modelle eingesetzt und dabei beispielsweise auch das Mittel der Erpressung benutzt, um das vorgegebene Ziel zu erreichen. Ja, das waren sehr gezielte, zugespitzte Versuchsanordnungen. Das belegt nicht, dass die heutigen Systeme dieses Vorgehen im Alltag nutzen. Dennoch zeigt es aber sehr eindeutig, dass unter gewissen Voraussetzungen Sicherheitsschranken versagen können. Drittes Risiko. Ja, wir brauchen einen Markt, aber der Markt darf nicht die falschen Anreize setzen. Wer aktuell das leistungsfähigste Modell zuerst auf den Markt bringt, hat einen Vorteil: Er gewinnt Kunden, er gewinnt Kapital. Gründliche Sicherheitsprüfungen hingegen kosten Geld. Wenn Unternehmen den Gewinn erhalten, die Gesellschaft aber den möglichen Schaden tragen müsste, würde hier ein gefährliches Ungleichgewicht entstehen. Aus meiner Sicht gibt es hier vier mögliche Lösungsszenarien. Erstens. Ja, wir müssen die europäische KI-Verordnung wirksam durchsetzen. Wir brauchen unabhängige Prüfkapazitäten, aussagekräftige Sicherheitstests und am Ende eine Aufsicht mit Personal, das Sachverstand und den tatsächlichen Zugang zu diesen Systemen hat. Zweitens. Jede KI, die selbst handelt, braucht stärkere Zugriffsrechte. Ich finde, der Grundsatz muss gelten: Je mehr Befugnisse eine KI hat, desto enger müssen die sicherheitstechnischen Grenzen gezogen werden. Drittens. Wir müssen über das Thema Souveränität sprechen. Europa braucht eigene Modelle. Wir müssen die europäische Handlungsfähigkeit aufbauen. Vierter und, so glaube ich, wichtigster Ansatz – Frau Brantner, da gebe ich Ihnen recht –: Wir müssen über die Haftung der Inhaber und der Vertreter dieser Modelle reden. Es reicht nicht ein einfacher Ausschluss in den AGBs. Wer einen Schaden verursacht, muss am Ende auch persönlich haften. Zusammengefasst, liebe Kolleginnen, liebe Kollegen: Wer KI voranbringen will, muss ihre Sicherheit mitentwickeln. Genau das ist unsere Aufgabe. Deswegen noch mal danke für das gut gewählte Thema. Danke für die Aufmerksamkeit.