Frage von Donata Vogtschmidt (DIE LINKE) mit Antwort – Schriftliche Antworten auf Fragen der Fragestunde (Drucksache 21/3773)

Frage von Donata Vogtschmidt (DIE LINKE) mit Antwort – Schriftliche Antworten auf Fragen der Fragestunde (Drucksache 21/3773) Welche Regelungs- und Durchsetzungslücken bestehen derzeit nach Ansicht der Bundesregierung mit Blick auf den Umstand, dass massenhaft KI-generierte Deepfakes mit Darstellungen sexualisierter Gewalt, teilweise sogar an Minderjährigen, auf der Plattform X verbreitet wurden und diese Verbreitung auch nicht zügig gestoppt werden konnte, und sieht die Bundesregierung dabei einen Zusammenhang zum Geschäftsmodell der X-Corporation? Antwort des Parl. Staatssekretärs Thomas Jarzombek: Die Bundesregierung verfolgt mit großer Sorge den Einsatz von KI-Tools für die Darstellung von Deepfakes, hierunter von Frauen und sogar Minderjährigen in sexualisierten Posen. Es ist inakzeptabel, dass Frauen und Minderjährige wiederholt Opfer sexualisierter Deepfakes werden, während die Plattformen untätig bleiben. Europäische Regeln wie der Digital Services Act (DSA) gelten für alle gleichermaßen, auch für große Tech-Konzerne. Die Erstellung oder Verbreitung solcher Bilder ohne Einwilligung stellt einen gravierenden Eingriff in die Persönlichkeitsrechte dar und kann in vielen Fällen strafbar sein. Es ist wichtig, dass auch technische Lösungen implementiert werden, die verhindern, dass Nutzer solche Bilder erstellen können. Es gibt bereits mehrere unterschiedliche Rechtsgrundlagen, um KI-generierte Deepfakes mit Darstellungen sexualisierter Gewalt zu unterbinden, etwa im Strafrecht, in der europäischen KI-Verordnung, es können zivilrechtliche Unterlassungs- und Schadensersatzansprüche bestehen, und auch der DSA kann hilfreich sein. Die Durchsetzung des DSA gegenüber X verantworten die EU-Kommission und der Digital Services Coordinator (DSC) am Sitz des Anbieters in der EU, hier in Irland. Beide Behörden handeln dabei unabhängig. Die Bundesregierung vertraut darauf, dass sie den DSA konsequent durchsetzen, und begrüßt, dass die EU-Kommission diese Woche ein offizielles Verfahren gegen X eingeleitet hat. Es ist richtig und wichtig, dass die EU-Kommission die Mittel des DSA in dieser Angelegenheit nutzt. Auch der deutsche DSC arbeitet eng mit dem DSC in Irland und mit der EU-Kommission zusammen, um eine einheitliche Anwendung und Durchsetzung der DSA-Regelungen in allen EU-Mitgliedstaaten zu sichern, und unterstützt die EU-Kommission in Verfahren gegen die sehr großen Online-Plattformen. Außerdem enthält die KI-Verordnung spezifische Vorgaben zur Kennzeichnung von KI-generierten Inhalten, einschließlich Deepfakes. Anbieter von KI-Systemen müssen im Regelfall sicherstellen, dass künstlich generierte oder veränderte Inhalte erkennbar gemacht werden. Die Bundesregierung arbeitet aktuell an der Durchführung der KI-VO einschließlich der Einrichtung der Aufsichts- und Durchsetzungsstrukturen.