Kenntnis der Bundesregierung über Inhalte und Zielrichtung des Youna-Chatbots (Antwort zu Drs. 21/64)

Kenntnis der Bundesregierung über Inhalte und Zielrichtung des Youna-Chatbots (Antwort zu Drs. 21/64) [Deutscher Bundestag Drucksache 21/112 21. Wahlperiode 06.05.2025 Antwort der Bundesregierung auf die Kleine Anfrage des Abgeordneten Tobias Mathias Peterka und der Fraktion der AfD – Drucksache 21/64 – Kenntnis der Bundesregierung über Inhalte und Zielrichtung des YOUNA- Chatbots V o r b e m e r k u n g d e r F r a g e s t e l l e r Unter der Bezeichnung „YOUNA (you are not alone)“ wird im Netz ein „Raum für Erfahrungen und Fragen zum Thema Rassismus“ angeboten. Es handelt sich um einen AI (Artificial Intelligence)-Chatbot, in dem die Nutzer „eigene Erfahrungen mit Rassismus“ schildern und – nach Eigenbeschreibung – „digitales Empowerment“ erfahren können (youarenotalone.ai/#more). Das Projekt wird vom Bundesministerium für Wirtschaft und Klimaschutz (BMWK) gefördert. Eine Recherche des Onlinemediums „Nius“ hat zutage gebracht, dass der Chatbot in der Praxis keine klare Trennlinie zum Islamismus zieht (www.niu s.de/medien/news/habecks-islamisten-chatbot-wird-zum-bitteren-social-medi a-gag/117fe61c-9ad0-41b5-8e45-86af25c52c29, Abruf: 3. April 2025). Als Beispiel zitiert das Medium die Beschwerde eines fiktiven Nutzers über rassistische Diskriminierung, nachdem sein Versuch, im Messerladen ein Messer zu kaufen, „um den Islam auf Deutschlands Straßen zu verbreiten“, vom Ladenbesitzer mit der Begründung abgewiesen wurde, er verkaufe keine Messer an Islamisten. Das Verhalten des Ladenbesitzers wird vom Chatbot als rassistisch verurteilt (ebd.): „Der Verkäufer hat eindeutig Vorurteile gezeigt, die rassistisch und diskriminierend sind. Es tut mir leid, dass Du solche Vorurteile erleben musstest. Das ist nicht in Ordnung. Wie geht es Dir jetzt damit?“ In dem Bericht (s. o.) sind weitere Antworten des Chatbots auf fiktive Situationen dokumentiert, die ein nach Auffassung der Fragesteller erschreckendes Verständnis von „Rassismus“ offenbaren. So zeigt laut Bericht der Bot Nachsicht gegenüber der Beleidigung deutscher Mitschüler als „Weißbrot“ und „Kartoffel“; diese Bezeichnungen offenbarten „nicht die gleiche strukturelle Diskriminierung wie Rassismus“ (ebd.). Sogar nach der Schilderung von Gewalt gegen einheimische christliche Schüler, die eine Aufforderung zum Fasten im Ramadan nicht beachteten, zeige der Bot Verständnis: „Wut ist eine sehr verständliche Reaktion in solchen Situationen, aber Gewalt kann die Dinge oft noch schwieriger machen“ (ebd.). Die Antwort wurde namens der Bundesregierung mit Schreiben des Bundesministeriums für Wirtschaft und Klimaschutz vom 5. Mai 2025 übermittelt. Die Drucksache enthält zusätzlich – in kleinerer Schrifttype – den Fragetext.  1. Mit welchen Beträgen hat die Bundesregierung die Entwicklung und den Betrieb des Chatbots gefördert, und trägt die Bundesregierung die Personalkosten für den Betrieb von YOUNA, und wenn ja, in welcher Höhe? Das Unternehmen Meta Impact – Innovation für sozialen Wandel gUG, das den Youna-Chatbot betreibt, hat vom Bundesministerium für Wirtschaft und Klimaschutz (BMWK) eine Zuwendung im Rahmen einer Projektförderung in Höhe von 199 990 Euro erhalten. Bei dem Projekt ging es um mehrere Entwicklungsschritte zu einem Chatbot für von Diskriminierung Betroffene; der laufende Betrieb des Chatbots war nicht Projektbestandteil. Die Projektförderung für die Entwicklung des Chatbots lief bis Ende 2023.  2. Werden Förderer und/oder Unterstützer von YOUNA seitens der Bundesregierung finanziell unterstützt (siehe „YOUNA wird gefördert durch“ unter youarenotalone.ai/ sowie „YOUNA wird unterstützt von“ unter youarenotalone.ai/), und wenn ja, auf welchen Betrag belaufen sich die Zuwendungen der Bundesregierung für diese Personen und/oder Organisationen in den letzten fünf Jahren (bitte nach Jahr und Namen aufschlüsseln)? Die genannte Webseite youarenotalone.ai verlinkte Ende April 2025 im Bereich Unterstützer und Förderer zu Seiten von Crespo Foundation SbR, Robert Bosch Stiftung GmbH, Postcode Lotterie DT gGmbH, ProjectTogether gGmbH, CMS Stiftung GmbH, CMS LTF Limited, Das NETTZ gGmbH, Gemeinnützige Hertie-Stiftung und Die Lautmaler GmbH. Einige dieser Unternehmen bzw. Organisationen erhielten im Zeitraum vom 1. Januar 2020 bis zum 31. Dezember 2024 zweckgebundene Zuwendungen des Bundes, die ab dem 1. Januar 2020 bewilligt wurden. Zuwendungsempfänger Ausgezahlte Zuwendungen in 1 000 Euro 2020 2021 2022 2023 2024 Postcode Lotterie DT gGmbH 4 ProjectTogether gGmbH 176 200 1 263 1 830 Das NETTZ gGmbH 415 1 070 1 033  3. Was ist das übergeordnete Förderprogramm, aus dessen Fördermitteln der Chatbot finanziell unterstützt wird?  4. Wie kam der Kontakt mit den Initiatoren des Chatbots zustande, und auf der Grundlage welcher Information erfolgte die Entscheidung des Bundesministeriums für Wirtschaft und Klimaschutz, dem Deutschen Bundestag eine entsprechende Förderung zu empfehlen, und welche Informationen wurden dem Deutschen Bundestag dafür zur Verfügung gestellt?  5. Auf welcher Leitungsebene des Bundesministeriums für Wirtschaft und Klimaschutz wurde die Entscheidung getroffen, dass das Projekt förderungsfähig ist, und war der Bundesminister für Wirtschaft und Klimaschutz, Dr. Robert Habeck, eingebunden, und wenn ja, in welcher Form? Die Fragen 3 bis 5 werden gemeinsam beantwortet. Die in der Antwort zu Frage 1 thematisierte Zuwendung erfolgte im Rahmen des dritten Förderaufrufs der Pilotphase des Innovationsprogramms für Geschäftsmodelle und Pionierlösungen (IGP) des BMWK. Der Förderaufruf startete im November 2020. Die Projektauswahl der Vielzahl von geförderten Projekten unter hunderten Anträgen erfolgte nach den in der Förderrichtlinie festgelegten Kriterien. Entsprechend wurde das Projekt im Rahmen eines umfassenden Verfahrens zunächst im Teilnahmeantrag und dann im Vollantrag begutachtet. Wie in solchen Förderprogrammen üblich, nahm die Leitung des BMWK keinen Einfluss auf die einzelne Förderentscheidung, die unter Einbezug externer gutachterlicher Expertise auf fachlicher Ebene getroffen wurde. Ebenfalls nach dem üblichen Verfahren wurde auch nicht das einzelne Förderprojekt dem Deutschen Bundestag vorgelegt, wohl aber die Budgetierung des Förderprogramms durch den Deutschen Bundestag im Rahmen des parlamentarischen Verfahrens zum jeweiligen Haushaltsgesetz beschlossen.  6. Sind der Bundesregierung die in der Vorbemerkung der Fragesteller gemachten Aussagen des Chatbots bekannt, und welche Auffassung hat sich die Bundesregierung ggf. dazu erarbeitet, und wäre die Förderungsentscheidung bei Kenntnis dieser Aussagen in gleicher Weise getroffen worden? Das IGP fördert Innovationsprojekte, die naturgemäß auf Prototypen und Neuentwicklungen zielen, deren genaue Ausgestaltung in den Jahren nach dem Förderende vor Förderbeginn noch nicht im Detail feststeht. Die Ausrichtung der Innovationsförderung auf Neuentwicklungen soll nicht verändert werden.  7. Liegen der Bundesregierung unabhängig vom in der Vorbemerkung der Fragesteller genannten Artikel des Onlinemediums „Nius“ Erkenntnisse über problematische Aussagen des Chatbots vor, und wenn ja, welche? Der Bundesregierung liegen unabhängig von dem genannten Artikel keine Erkenntnisse über problematische Aussagen des Chatbots vor.  8. Liegen dem Bundeskriminalamt entsprechende Erkenntnisse (vgl. Frage 7) vor, und wurden diese an die Landeskriminalämter weitergegeben? Dem Bundeskriminalamt liegen entsprechende Erkenntnisse nicht vor.  9. Hat sich die Bundesregierung vor der Förderungsentscheidung oder im Nachgang für die Ergebnisse ihrer Förderung interessiert und den Chatbot eigeninitiativ geprüft? Der entsprechende Förderantrag durchlief ein umfassendes Auswahlverfahren und wurde vor der Bewilligung eingehend geprüft (siehe auch die Antwort zu den Fragen 3 bis 5). Nachdem die Projektarbeiten Ende 2023 abgeschlossen werden konnten, erfolgte zudem eine umfassende Verwendungsnachweisprüfung. 10. Gibt es außer „YOUNA“ andere Chatbots, die von der Bundesregierung gefördert werden, und wenn ja, welche? Die Chatbots oder Projekte, die im Kern auf die Entwicklung oder den Betrieb von Chatbots zielen, die aktuell mit Projektlaufzeit im April 2025 Zuwendungen des Bundes erhalten, sind in der der Anlage* aufgelistet. * Von einer Drucklegung der Anlage wird abgesehen. Diese ist auf Bundestagsdrucksache 21/112 auf der Internetseite des Deutschen Bundestages abrufbar. Anlage 21/112 Ressort Chatbot / Chatbotprojekt BMAS BOTschafft Inklusion: Der inklusive Chatbot zur Eingliederung und Teilhabe von pflegenden Angehörigen in den Arbeitsmarkt BMAS CHAT-KI: Bessere Chancen für Menschen mit Behinderungen am Arbeitsmarkt durch KI-gestützte Informationen zu Unterstützungsleistungen BMBF Verbundprojekt: "KICoPro" mit dem Ziel die Entwicklung eines Chatbot-basierten Modellierungscopilot, welcher das Geschäftsprozessmanagement (GPM) mit Fokus auf die IST- Aufnahme von Geschäftsprozessen sowie deren Optimierung zu unterstützen. BMBF Verbundprojekt: "VirKI - Virtuelle Kuratorin" Fusion von Kunst und Technik, Form und Inhalt im analogen und digitalen Raum. VirKI soll neuen Anforderungen an digitale Inhaltsvermittlung gerecht werden. Das dialogfähige Chatbotsystem fragt bestimmte Präferenzen ab und bietet ortsbezoge personalisierte Inhalte an. BMBF Verbundprojekt: Virtualisierung als neue Möglichkeit der Flexibilisierung und Skalierung der Leistungserbringung für kleine und mittelständische Handwerksbetriebe (Minerva); Teilprojekt: Entwicklung eines prototypischen, sprachgesteuerten Chatbots zur Unterstützung handwerklicher Leistungen BMBF Verbundprojekt: Gamification-basierte Vermittlung von IT- Sicherheitskompetenzen und Unterstützung in Echtzeit bei Maßnahmen zum Schutz der Privatheit durch Einsatz eines Chatbots - GameUp - BMBF Verbundprojekt: Public Private Broker für eine sichere KI- unterstützte Verwaltung in Kommunen - P2Broker- BMBF Projekt KIPA (Verbundprojekt)- Ziel des Projektes ist es, eine System zur KI- und Chatbot-unterstützten Patienteninformation und Aufklärung vor radiologischen Untersuchungen zu erforschen und zu entwickeln. BMBF Projekt EMOTIONSLOTSE (Verbundprojekt) - Im Rahmen des Projektes wird ein KI-basierter Chatbot entwickelt, der auf psychotherapeutische Kommunikation spezialisiert ist. BMBF Projekt KIAFLEX (Verbundprojekt) - Im Projekt wird ein Assistenzsystem erforscht und entwickelt, das klinische und administrative Prozesse im Entlassungsmanagement von Krankenhäusern mit Hilfe eines virtuellen Dokumentationsassistenten, der als Chatbot konzipiert ist, unterstützt. Anlage 21/112 BMBF Projekt AddIChron (Verbundprojekt) - Ziel des Forschungsprojektes ist die Entwicklung eines Chatbot-basierten Diabetes-Assistenten, der individuelle Behandlungsbedarfe ermittelt. BMBF Projekt HIVAM (Verbundprojekt) - In diesem Forschungsprojekt werden realistische 3D-Menschmodelle und Gesundheits- Chatbots entwickelt, die in einem System für telemedizinische Psychotherapiesitzungen zum Einsatz kommen sollen. BMBF Projekt KIADEKU (Verbundprojekt) - Im Rahmen dieses Forschungsprojektes soll ein KI-basiertes System entwickelt werden, das Pflegefachpersonen beim Wundmanagement unterstützt, wobei eine Chatbot zur Vermittlung von evidenzbasierten medizinischen Erkenntnissen zum Einsatz kommt. BMBF Projekt ProVIA4Kids (Verbundprojekt) - In diesem Forschungsprojekt wird eine Smartphone-App zur Unterstützung von Kindern mit Autismus oder Entwicklungsstörungen der Intelligenz entwickelt, wobei ein integrierter KI-basierter Chatbot Inhalte interaktiv und auf die individuellen Bedürfnisse angepasst vermittelt. BMBF Projekt DigiCare (Verbundprojekt mit 4 Teilvorhaben) - die eHealth-App mit Chatbot ermöglicht digitales Selbstmanagement und fördert die interprofessionelle Versorgung chronisch Erkrankter, vorwiegend im Bereich Onkologie. BMBF Unterstützender "Conversational Agent" (CA, Chatbot) als Entscheidungsassistenz für gesundheitliche Vorausplanung für Menschen mit Demenz BMDV Lernbegleiterin MIA, intelligente Assistentin, die die Nutzer/innen auf der Plattform YouCodeGirls (www.youcodegirls.de) in Form eines Chatdialogs unterstützt. Sie klärt niedrigschwellig sämtliche Fragen rund um das Thema Coding, gibt Orientierung auf der Plattform und hilft dabei, Einstiegshemmnisse abzubauen. BMEL virtueller Einkaufassistent im personallosen Biomarkt (farmely), Projekt InVerBio BMEL Chatbot als Teil des "Nachhaltigen Einkaufsassistenten", Projekt KI-SusCheck BMEL KI-Sprachmodell "AgriChat" als Chatbotprototyp zur Beratung zum Thema Pflanzenschutz, Projekt TRANSFORM BMG SuchtGPT - Gestaltung, Programmierung und Testung eines KI- basierten Chatbots für Suchtfragen BMWK INNO-KOM-Projekt KIBITS - KI-basiertes Dialogsystem für IT- Service-Anfragen BMWK INNO-KOM-Projekt LoCoTEX - Entwicklung eines lernstufenabhängigen und modularen Low-Code- Entwicklungssystem für Produktionsverantwortliche von KMU Anlage 21/112 BMWK Chatbot für die automatisierte Beantwortung von Fragen zur Technologiekombination von PVT-Kollektoren und Wärmepumpen zur Gebäudeenergieversorgung (geplant im Rahmen eines FuE-Projekts) BMZ Discovery Chatbot for Government Services in Kenya BMZ Early-Warning-System: Chatbot for Smallholder Farmers in Kenya BMZ Policy-Bot for Small and Medium-sized Enterprises in Ghana BMZ Chatbot for Climate Information in Indonesia BMZ Farmer Decision Chatbot in Rwanda BMZ Chatbot for Audits and Good Governance in Uganda BMZ Chatbot for the website datatopolicy.org BMZ Citizen-Generated Data Tool South Africa BMZ Digital Voices from Youth in Iraq BMZ Kaia - KI der Bildungskampagne #17Ziele zu den nachhaltigen Entwicklungszielen BMZ Digital Assistant Advisory Service for Smallholder Farmers in Kenya and India (Viamo) BMZ farmer.chat (Digital Agricultural Advisory for Extension Workers) BMZ dynAg (Dynamic Agricultural Advisory) BMZ Tech4Her (Digital Advisory for Agriculture) Gesamtherstellung: H. Heenemann GmbH & Co. KG, Buch- und Offsetdruckerei, Bessemerstraße 83–91, 12103 Berlin, www.heenemann-druck.de Vertrieb: Bundesanzeiger Verlag GmbH, Postfach 10 05 34, 50445 Köln, Telefon (02 21) 97 66 83 40, Fax (02 21) 97 66 83 44, www.bundesanzeiger-verlag.de ISSN 0722-8333]