Schriftliche Frage 149 von Dr. Kirsten Kappert-Gonther (BÜNDNIS 90/DIE GRÜNEN): Welchen Handlungsbedarf sieht die Bundesregierung im Hinblick auf den Schutz von Patientinnen und Patienten mit psychischen Erkrankungen vor…

Schriftliche Frage 149 von Dr. Kirsten Kappert-Gonther (BÜNDNIS 90/DIE GRÜNEN): Welchen Handlungsbedarf sieht die Bundesregierung im Hinblick auf den Schutz von Patientinnen und Patienten mit psychischen Erkrankungen vor… Frage 149 (Dr. Kirsten Kappert-Gonther, BÜNDNIS 90/DIE GRÜNEN): Welchen Handlungsbedarf sieht die Bundesregierung im Hinblick auf den Schutz von Patientinnen und Patienten mit psychischen Erkrankungen vor den Risiken der Nutzung von KI-Chatbots, die nicht für die medizinische Versorgung bestimmt sind (z. B. verstärkte Information und Aufklärung auch hinsichtlich Fragen der Anwendungsbereiche, Patientensicherheit und des Datenschutzes, qualitätsgesicherter digitaler Hilfeangebote sowie einer verbesserten Zugänglichkeit des psychosozialen Hilfesystems), vor dem Hintergrund der Ergebnisse der repräsentativen Befragung der Stiftung Deutsche Depressionshilfe und Suizidprävention vom April 2026 (www.deutsche-depressi onshilfe.de/unsere-forschung/laufende-forschungs projekte/ki-bei-depression), dass neben positiven Erfahrungen 57 Prozent der Nutzerinnen und Nutzer von KI-Chatbots mit Depression negative Erfahrungen beschreiben und 53 Prozent sogar verstärkt Gedanken an Selbstverletzung oder Suizid berichten sowie Nutzerinnen und Nutzer mit Depression zudem äußerten, dass der KI-Chatbot den Arzt- bzw. Psychotherapeutenbesuch überflüssig machte? Antwort des Parlamentarischen Staatssekretärs Dr. Georg Kippels vom 13. Mai 2026: Für einen Einsatz im Bereich psychischer Erkrankungen und Hilfen in psychischen Krisen sind nur solche KI-basierten Chat-Anwendungen geeignet, die für die jeweilige Nutzung ausgelegt sind und qualitätsgesichert wurden. Grundsätzlich gilt, dass KI-Chatbots mit medizinischer Zweckbestimmung unter das europäische Medizinprodukterecht fallen und die entsprechenden Anforderungen erfüllen müssen. Ab August 2026 gelten zusätzlich bestimmte Anforderungen der Verordnung (EU) 2024/1689 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz (Verordnung über künstliche Intelligenz – KI-Verordnung), wobei die KI-Verordnung, die im August 2024 in Kraft getreten ist, ein gestaffeltes System für die Anwendbarkeit verschiedener Vorgaben vorsieht. Für KI-Chatbots, die nicht unter das Medizinprodukterecht fallen, gelten die allgemeinen rechtlichen Vorgaben inklusive der allgemeinen Verbraucherschutz- und Datenschutzregelungen und der Vorgaben der KI- Verordnung. Die KI-Verordnung enthält unter anderem ab August 2026 anzuwendende Transparenzvorschriften nach Artikel 50 der KI- Verordnung, wonach Anbieter und Betreiber von KI-Systemen unter anderem verpflichtet sind, KI-generierte Inhalte zu kennzeichnen und sicherzustellen, dass KI-Systeme, die für die direkte Interaktion mit natürlichen Personen bestimmt sind, so konzipiert und entwickelt werden, dass die betreffenden Personen darüber informiert werden, dass sie mit einem KI-System interagieren, sofern dies nicht offensichtlich ist. Diese Transparenzpflicht ist auch dann einschlägig, wenn die infrage stehenden Chatbots nicht als Medizinprodukte und damit nicht als Hochrisiko-KI- Systeme einzustufen sind. Die Durchsetzung dieser Regelungen obliegt den entsprechenden Aufsichtsbehörden. Soweit die Studie der Stiftung Deutsche Depressionshilfe und Suizidprävention angesprochen ist, können die Ergebnisse der genannten Befragung erste Hinweise zu positiven und negativen Erfahrungen von Menschen mit psychischen Erkrankungen im Zusammenhang mit der Nutzung von KI geben. Um die Entwicklung geeigneter Anwendungen zu befördern, fördert die Bundesregierung KI-basierte Chat-Anwendungen spezifisch für den Bereich psychische Gesundheit. Darüber hinaus fördert das Bundesministerium für Forschung, Technologie und Raumfahrt den Auf- und Ausbau des künftigen Deutschen Zentrums für Psychische Gesundheit (DZPG). Die darin erarbeiteten Erkenntnisse und Innovationen sollen die Gesundheitsversorgung von Menschen mit psychischen Erkrankungen verbessern. Im Rahmen ihrer Forschungsarbeiten nutzen und adressieren die Wissenschaftlerinnen und Wissenschaftler im DZPG auch KI- Anwendungen. Die psychiatrisch-psychotherapeutische Versorgung von Menschen mit psychischen Erkrankungen ist sehr ausdifferenziert und wird kontinuierlich weiterentwickelt. Ergänzt werden die Angebote der Regelversorgung durch psychosoziale Angebote der Länder und Kommunen sowie der Zivilgesellschaft, so dass in Deutschland zahlreiche niedrigschwellige Angebote für Menschen in Krisensituationen mit menschlicher Interaktion zur Verfügung stehen. Inhalte zur Aufklärung und Information zum zweckmäßigen Gebrauch von KI-Chatbots werden auch in den Medien mittlerweile verstärkt aufgegriffen. Entsprechende Informationen der Verbraucherorganisationen, öffentlicher Einrichtungen wie beispielsweise der Bundeszentrale für Kinder- und Jugendmedienschutz sowie von Fach- und Berufsverbänden und der Industrie sind hilfreich, um einen sicheren und informierten Umgang mit diesen Anwendungen zu ermöglichen. Die Bundesregierung beobachtet die weitere Entwicklung unter Beachtung der damit verbundenen Chancen und Risiken.