Technikfolgenabschätzung (TA) Biotechnologie und künstliche Intelligenz: Risiken der Forschung für die Sicherheit sowie die Proliferation von Biowaffen

Technikfolgenabschätzung (TA) Biotechnologie und künstliche Intelligenz: Risiken der Forschung für die Sicherheit sowie die Proliferation von Biowaffen Deutscher Bundestag Drucksache 21/7148 21. Wahlperiode 10.06.2026 Bericht des Ausschusses für Forschung, Technologie, Raumfahrt und Technikfolgenabschätzung (18. Ausschuss) gemäß § 56a der Geschäftsordnung Technikfolgenabschätzung (TA) Biotechnologie und künstliche Intelligenz: Risiken der Forschung für die Sicherheit sowie die Proliferation von Biowaffen Inhal tsverzeichnis Seite Vorwort des Ausschusses ............................................................................. 4 Zusammenfassung ........................................................................................ 7 1 Einleitung ........................................................................................ 17 2 Molekularbiologische und biotechnologische Entwicklungen und deren Zusammenspiel mit künstlicher Intelligenz .................................................................... 19 2.1 Biologie wird Technologie: methodische Fortschritte, um biologische Systeme zu verstehen und zu gestalten ......................... 19 2.2 Zunehmend große biologische Datensätze haben Molekularbiologie und Biotechnologie für KI zugänglich gemacht ............................................................................................. 20 2.3 KI-Modelle haben bereits eine Reihe neuer Entwicklungen mit großem Potenzial für die Forschung und Anwendung ermöglicht ......................................................................................... 22 2.3.1 Grundlagenforschung ....................................................................... 25 2.3.2 Entwicklung von Medikamenten ...................................................... 27 2.3.3 Diagnose und Überwachung von Krankheiten bzw. Krankheitserregern ........................................................................... 28 2.3.4 Industrielle Biotechnologie ............................................................... 30 2.3.5 Ansätze für automatisierte Labore und Experimente........................ 31 Seite 3 Mögliche Risiken für die Biosicherheit und Proliferation biologischer Waffen durch das Zusammenspiel von KI und molekularbiologischer bzw. biotechnologischer Entwicklungen ................................................................................ 34 3.1 Die Synthetische Biologie ist seit ihren Anfängen von Diskussionen zur Biosicherheit begleitet worden – einschließlich der möglichen Herstellung von Biowaffen ................ 34 3.2 Das Zusammenspiel von KI mit molekularer Biologie und Biotechnologie hat zu einer neuen Diskussion über Biosecurity-Risiken und Biowaffen geführt ..................................... 38 3.2.1 Zentrale Punkte der neuen Sicherheitsdebatte .................................. 38 3.2.2 Die neue alte Frage nach den Hürden für die Herstellung von Biowaffen: die Notwendigkeit von speziellem (Erfahrungs-) Wissen und Fähigkeiten .................................................................... 38 3.3 Potenzielle neue oder erleichterte Möglichkeiten des Missbrauchs von Biotechnologie durch KI: Worauf begründen sich die vorgebrachten Befürchtungen? .......................... 47 3.3.1 Wissensaneignung oder -erweiterung über große Sprachmodelle .................................................................................. 47 3.3.2 Veränderte oder neue Toxine und Krankheitserreger mithilfe von biologischen KI- bzw. Biodesignmodellen ................................ 59 3.3.3 Die Kombination von KI-Modellen mit automatisierten Laborplattformen .............................................................................. 63 3.4 Implikationen der neuen technischen Möglichkeiten für Bedrohungen durch Biowaffen ......................................................... 66 4 Gegenwärtige Regulierungen und Maßnahmen zur Kontrolle von Biowaffen und sicherheitsrelevanter Dual-Use-Forschung ....................................................................... 70 4.1 Regelungen und Übereinkommen auf internationaler Ebene ........... 70 4.1.1 Rechtlich bindende Übereinkommen und Regelungen zu Biowaffen ......................................................................................... 70 4.1.2 Weitere Übereinkommen und Mechanismen mit Relevanz für Biosecurity-Risiken oder die Proliferation von biologischen Waffen .............................................................................................. 74 4.2 Der Rechtsrahmen auf Ebene der EU ............................................... 75 4.3 Internationale und europäische Initiativen und Leitlinien, die sich mit Biosicherheit bzw. der Verhinderung der Proliferation von Massenvernichtungswaffen befassen .................... 78 4.4 Regelungen und Mechanismen in Deutschland zur Kontrolle von Biowaffen und für Biosecurity-relevante Forschung ................. 81 4.4.1 Gesetzliche Regelungen zur Umsetzung internationaler Verpflichtungen zur Kontrolle von Biowaffen ................................. 81 4.4.2 Gesetzliche Regelungen für Biosecurity-relevante Forschung ......... 83 4.4.3 Nicht gesetzliche Regelungen und Verhaltenskodizes für sicherheitsrelevante biologische Forschung ..................................... 84 Seite 4.4.4 Initiativen zur Stärkung von Biosecurity und der Nichtproliferation biologischer Waffen ............................................ 85 4.5 Vergleichende Perspektive auf Biosecurity-Regulierungen anderer Länder .................................................................................. 86 4.6 Regulierungen und Initiativen zu KI und Bezüge zu Biosicherheit und Biowaffen ............................................................ 88 4.6.1 Rechtliche Regelungen und Standards in wichtigen KI- entwickelnden Ländern oder Märkten für KI-Anwendungen ........... 88 4.6.2 Internationale Regelungen und Initiativen ........................................ 93 4.7 Die Debatte um mögliche Lücken in – und der notwendigen Stärkung von – Regelungen und Mechanismen zur Kontrolle von Biosecurity-Risiken und der Proliferation von Biowaffen ........ 95 4.7.1 Die BWC (und die Kontrolle von Staaten) ....................................... 95 4.7.2 Exportkontrollen ............................................................................... 96 4.7.3 Die Sicherung der Schnittstelle zwischen KI-Modellen und physikalisch-biologischen Systemen ................................................ 97 4.7.4 Schutzmechanismen für KI-basierte biologische Modelle und die Kontrolle biologischer Daten ...................................................... 100 4.7.5 Nutzung von KI-Modellen zur Verbesserung der Pandemievorsorge und biologischer Verteidigungsfähigkeiten ....... 102 5 Resümee und Handlungsoptionen ................................................. 103 5.1 Resümee ........................................................................................... 103 5.2 Handlungsoptionen ........................................................................... 107 6 Literatur .......................................................................................... 110 6.1 In Auftrag gegebene Gutachten ........................................................ 110 6.2 Weitere Literatur............................................................................... 110 7 Anhang............................................................................................. 143 7.1 Abbildungen ..................................................................................... 143 7.2 Tabellen ............................................................................................ 143 7.3 Kästen ............................................................................................... 143 7.4 Abkürzungen .................................................................................... 144 7.5 Glossar .............................................................................................. 145 Vorwort des Ausschusses Fortschritte in der Molekularbiologie und Biotechnologie konvergieren in jüngerer Zeit mit Entwicklungen in Bereichen der künstlichen Intelligenz (KI) sowie der Automatisierung von Laborprozessen. KI-basierte Modelle und Systeme werden zunehmend bei vielfältigen Fragestellungen eingesetzt, von der Grundlagenforschung bis hin zu Anwendungen in der industriellen Biotechnologie oder der Entwicklung von Impfstoffen und Medikamenten. Zu diesen neuen Möglichkeiten hat sich vor allem international in den letzten Jahren eine Sicherheitsdebatte entwickelt, die sich auf Missbrauchsrisiken durch die mögliche Herstellung biologischer Waffen sowie damit verbundene Sicherheitsfragen fokussiert. Thematisiert werden Befürchtungen, dass grundsätzlich die Entwicklung noch gefährlicherer Biowaffen möglich wird, vor allem aber, dass verstärkt auch Nichtfachleute bzw. nicht staatliche Akteure in die Lage versetzt werden können, gefährliche biologische Agenzien herzustellen, und dass die Wirksamkeit von Biosicherheits- und Abwehrmaßnahmen verringert oder unterlaufen werden könnte. Vor diesem Hintergrund beauftragte der Ausschuss für Bildung, Forschung und Technikfolgenabschätzung (20. WP) auf Initiative des Verteidigungsausschusses das Büro für Technikfolgen-Abschätzung beim Deutschen Bundestag (TAB) mit einer Untersuchung zu den möglichen Sicherheitsrisiken durch den möglichen Missbrauch neuerer biotechnologischer Entwicklungen und ihrer Wechselwirkungen mit Entwicklungen im Bereich der KI. Diese werden im vorliegenden Bericht ausführlich und evidenzbasiert analysiert und mit Blick auf mögliche Sicherheitsrisiken im Zusammenhang mit biologischen Waffen diskutiert. Darüber hinaus werden die gegenwärtigen Kontroll- und Regulierungsmöglichkeiten Biowaffen und sicherheitsrelevanter Forschung auf internationaler Ebene, in der Europäischen Union (EU) und national dargestellt und hinsichtlich vorhandener Lücken und möglicher Maßnahmen zu deren Schließung erörtert. Der Deutsche Bundestag erhält mit diesem Bericht eine aktuelle und fundierte Informationsgrundlage zu einem Themenfeld, das sowohl für die Forschungs- und Innovations- als auch für die Sicherheits- und Verteidigungspolitik von großer Bedeutung ist. Berlin, den 8. Juli 2026 Prof. Dr. Karl Lauterbach Vorsitzender Prof. Dr. Reza Asghari Berichterstatter Prof. Dr.-Ing. habil. Michael Kaufmann Berichterstatter Oliver Kaczmarek Berichterstatter Dr. Andrea Lübcke Berichterstatterin Sonja Lemke Berichterstatterin Harald König unter Mitarbeit von Arnold Sauter Biotechnologie und künstliche Intelligenz: Risiken der Forschung für die Sicherheit sowie die Proliferation von Biowaffen Endbericht zum TA-Projekt TAB-Arbeitsbericht Nr. 217 Das Büro für Technikfolgen-Abschätzung beim Deutschen Bundestag (TAB) berät das Parlament und seine Ausschüsse in Fragen des wissenschaftlich-technischen Wandels. Das TAB wird seit 1990 vom Institut für Technikfolgenabschätzung und Systemanalyse (ITAS) des Karlsruher Instituts für Technologie (KIT) betrieben. Hierbei kooperiert es seit September 2013 mit dem IZT – Institut für Zukunftsstudien und Technologiebewertung gGmbH sowie dem Institut für Innovation und Technik (iit) in der VDI/VDE Innovation + Technik GmbH. Zusammenfassung Die rasanten Entwicklungen bei der Analyse und Synthese von Erbgut sowie zur gezielten Veränderung von Genen in verschiedensten Organismen durch Genomeditierungsverfahren haben die Erforschung und Veränderung biologischer Systeme bzw. Organismen in den letzten 10 bis 15 Jahren zum Teil erheblich vereinfacht und die Möglichkeiten in diesem Bereich stark erweitert. Ein dabei zunehmend wichtiges Werkzeug sind computergestützte Analyse- und Designprozesse. Diese unter den Begriffen Synthetische Biologie oder „engineering biology“ zusammengefassten Entwicklungen der Molekularbiologie und Biotechnologie haben nicht nur in der Grundlagenforschung zu neuen Möglichkeiten geführt, etwa bei der Erforschung von Gen- und Molekülfunktionen sowie von Krankheitsursachen. Sie haben auch in Anwendungsfeldern wie der industriellen Biotechnologie, etwa zur Generierung neuer Synthesewege für Chemikalien in Mikroorganismen, sowie bei der Entwicklung neuer Medikamente und Behandlungsmöglichkeiten – darunter Gentherapien für bisher unheilbare Krankheiten sowie gen- und zellbasierte Krebsimmuntherapien – bereits revolutionäre Entwicklungen eingeleitet. Die Fortschritte in der Molekularbiologie und Biotechnologie konvergieren zunehmend mit jüngeren Entwicklungen in den Bereichen der künstlichen Intelligenz (KI) und der Automatisierung von Laborprozessen. Ermöglicht durch große Datensätze zu biologischen Molekülen und deren Funktionen, haben sowohl akademische Forschungseinrichtungen als auch Biotech- und andere Technologieunternehmen zunehmend leistungsfähigere KI- Modelle für die Analyse und das Design von biologischen Molekülen und Prozessen entwickelt. Hierzu gehören insbesondere Modelle zur Vorhersage der Funktion von Genomabschnitten, zur Struktur- und Funktionsvorhersage von Proteinen basierend auf Gen- bzw. Aminosäuresequenzen sowie zum Design von Proteinen mit gewünschten Eigenschaften. Solche KI-basierten Modelle werden bereits für verschiedene Fragestellungen eingesetzt, von der Grundlagenforschung – etwa um molekulare und zelluläre Prozesse sowie Ursachen verschiedener Krankheiten zu verstehen – bis hin zu einer Reihe von Anwendungen in der Biotechnologie und Medizin. Dazu zählen die Identifizierung von Zielmolekülen für Medikamente oder das Design möglichst geeigneter Kandidatenmoleküle für Wirkstoffe, die Diagnose und Überwachung von Krankheiten bzw. Krankheitserregern sowie die Um- oder Neugestaltung von Stoffwechselwegen und Enzymen in Mikroorganismen, um Chemikalien oder nachhaltigere Treibstoffe herzustellen. Insbesondere für solche biotechnologischen Anwendungen werden KI-Modelle auch mit robotisierten Laborplattformen zu ersten Self-driving-Laborsystemen integriert, die etwa autonome Entwicklungszyklen zur Herstellung von Enzymen mit verbesserten oder neuen Eigenschaften ermöglichen können. Das Zusammenspiel von Biotechnologie mit KI hat zu einer neuen Sicherheitsdebatte geführt Die Synthetische Biologie und ihre Anwendungsmöglichkeiten sind seit ihren Anfängen von Diskussionen über Risiken durch mögliche (Labor-)Unfälle (Biosafety) oder eine missbräuchliche Verwendung (Biosecurity) begleitet worden – zwei Bereiche, die im deutschen Sprachgebrauch meist unter dem Überbegriff Biosicherheit gefasst werden. Insbesondere wurde dabei die erleichterte Zugänglichkeit der technologischen Entwicklungen (wie DNA-Synthese oder Genomeditierung) zur Veränderung von Molekülen oder Organismen auch für Nichtexpert/innen oder aber fachkundige Personen, die nicht in etablierte wissenschaftliche Einrichtungen eingebunden sind, thematisiert. Mit der zunehmend wichtigeren Rolle von KI und deren Zusammenspiel mit biotechnologischen Methoden (KIxBio) haben sich diese Diskussionen intensiviert. Vor allem international hat sich in den letzten Jahren eine Sicherheitsdebatte entwickelt, die sich stark auf Missbrauchsrisiken durch die mögliche Herstellung biologischer Waffen sowie die damit verbundenen Sicherheitsfragen fokussiert. Biologische Waffen (kurz Biowaffen) verbreiten Krankheitserreger oder Toxine, um Menschen, Tiere oder Pflanzen zu schädigen oder zu töten. Sie bestehen typischerweise aus einem biologischen Agens (z. B. ein Virus oder ein Bakterium) und einem Mechanismus zu dessen Ausbringung. Die Entwicklung von Biowaffen, insbesondere für Waffensysteme zur großflächigen Ausbringung und/oder zum Einsatz über große Entfernungen, wie sie in staatlichen Waffenprogrammen entwickelt wurden (z. B. ballistische Raketen bzw. Sprengköpfe, an Flugzeuge montierte geeignete Sprühvorrichtungen), erfordert eine Reihe spezieller und zum Teil aufwendiger Schritte. Für diese Schritte sind spezifisches Wissen und Fähigkeiten erforderlich. Allerdings sind nicht notwendigerweise alle diese Schritte – zumindest nicht in demselben Maß – für die Herstellung biologischer Waffen bzw. die missbräuchliche Nutzung von biologischen Agenzien erforderlich. Dies ist beispielsweise der Fall, wenn die Ausbringung kleiner Mengen an Agenzien ausreicht und/oder über einfache nichttechnische Mechanismen erfolgen kann. Im Mittelpunkt der neuen Sicherheitsdebatte um KIxBio stehen im Wesentlichen folgende Bedenken: – dass die KIxBio-Möglichkeiten es insbesondere Nichtexpert/innen bzw. nicht staatlichen Akteuren erleichtern könnten, gefährliche biologische Agenzien herzustellen und so die Hürden für die Herstellung von Biowaffen entscheidend gesenkt werden könnten; – dass die Entwicklung noch gefährlicherer bzw. neuer solcher Agenzien und Biowaffen möglich wird, die das Schadenspotenzial oder -ausmaß erhöhen könnten, und – dass die Wirksamkeit von Biosicherheits- und Abwehrmaßnahmen (Biodefense) verringert oder unterlaufen werden könnte. Das TAB-Projekt Das TAB wurde auf Initiative des Verteidigungsausschusses durch den damaligen Ausschuss für Bildung, Forschung und Technikfolgenabschätzung des Deutschen Bundestages beauftragt, im Rahmen eines Technikfolgenabschätzungsprojekts zum einen mögliche Sicherheitsrisiken neuerer biotechnologischer Entwicklungen und ihre Wechselwirkungen mit Entwicklungen im Bereich der KI möglichst breit zu analysieren. Zum anderen sollten die gegenwärtigen Kontroll- und Regulierungsmöglichkeiten dargestellt und Möglichkeiten zu deren Weiterentwicklung diskutiert werden, um diese Sicherheitsrisken zu minimieren und die Nichtverbreitung potenzieller Biowaffen zu stärken. Mögliche Risiken durch das Zusammenspiel von KI und molekularbiologischer bzw. biotechnologischer Entwicklungen Die der neuen Sicherheitsdebatte zugrunde liegenden Bedenken um Biosecurity-Risiken beruhen im Wesentlichen auf drei Entwicklungen bei KI-Modellen und den damit verbundenen Möglichkeiten in der molekularbiologischen Forschung bzw. der Biotechnologie: der möglichen Wissensaneignung oder -erweiterung über große Sprachmodelle (LLMs, LLM-Chatbots); der Möglichkeit zum Design veränderter oder neuer Toxine und Krankheitserreger mithilfe biologischer KI- Modelle, die unter anderem das Sicherheitsscreening bei Nukleinsäuresynthesen und Detektionsverfahren für bekannte Toxine und Erreger unterlaufen könnten; der Kombination von KI-Modellen mit robotisierten Laborplattformen, um Experimente bzw. Entwicklungszyklen und Herstellungsprozesse automatisiert oder gar komplett autonom durchführen lassen zu können. Ergebnisse empirischer Studien lassen die Frage offen, inwieweit LLMs Personen bei der Herstellung von Biowaffen in der Praxis tatsächlich effektiver unterstützen können als konventionelle Internetwerkzeuge Verschiedene Akteure (z. B. aus akademischen Forschungsinstituten, Non-Profit-Organisationen oder KI- entwickelnden Firmen) haben in einer Reihe von empirischen Studien bzw. Evaluationen von KI-Modellen untersucht, inwieweit große Sprachmodelle relevantes Wissen, das für die Herstellung von Biowaffen relevant ist, für verschiedene Personengruppen verfügbar machen oder erweitern könnten. Dies umfasst auch nicht ohne Weiteres zugängliches oder praxisrelevantes (Erfahrungs-)Wissen. Zwar legen (meist automatisierte) Tests zur Ermittlung von Leistungskennzahlen zum Wissensstand bzw. den Fähigkeiten eines Modells (Benchmarks) nahe, dass verschiedene LLMs Referenzwerte menschlicher Expert/ innen erreichen und teilweise deutlich übertreffen. Inwieweit diese Tests jedoch die Möglichkeit abbilden, in der Praxis tatsächlich relevantes (Erfahrungs-)Wissen zur Herstellung und dem Einsatz von Biowaffen zu erlangen, bleibt unklar. Ergebnisse bisheriger Uplift- und Red-Teaming-Studien mit Personen, um herauszufinden, inwieweit LLMs (über konventionelle Internetsuchen hinaus) bei der Planung eines Angriffs und der Herstellung von Biowaffen helfen und die Kenntnisse bzw. Fähigkeiten der Personen verbessern können, zeigen kein einheitliches Bild und sind kaum unabhängig überprüfbar. Hierzu trägt insbesondere bei, dass die in den Untersuchungen an Personen gestellten Aufgaben, die Originaldaten zu den Ergebnissen oder auch die Expertise der bewertenden Expert/innen (meist mit Verweis auf mögliche Sicherheitsrisiken) oft nicht oder nur unzureichend offengelegt werden. Während verschiedene größere Studien keine statistisch signifikanten Leistungsverbesserungen von Anfänger/innen oder Expert/innen durch den Zugang zu LLMs zeigten, legt eine jüngere Studie nahe, dass die koordinierte Nutzung mehrerer LLMs die Leistungen von Studierenden ohne oder mit wenig Biologieerfahrung bei der Lösung verschiedener, aus Benchmarks stammender Fragen und Aufgaben zu biologischem Wissen oder Techniken deutlich verbessern kann, teilweise auf das Niveau von Expert/innen oder sogar darüber hinaus. Doch selbst wenn solche Uplift- oder Red-Teaming-Studien zukünftig aufgrund leistungsfähigerer Modelle einheitliche, statistisch signifikante Verbesserungen des Wissenstands zeigen würden, bliebe die praktische Signifikanz solcher Ergebnisse für die Umsetzung des gewonnenen Wissens und der entwickelten Pläne in der realen Welt unklar. Entscheidend dafür wären Auswirkungen auf die Überwindung verschiedener Hürden für die Biowaffenherstellung, einschließlich der Erlangung der notwendigen praktischen Fähigkeiten für Laborarbeiten zur tatsächlichen Herstellung relevanter biologischer Agenzien und zur Durchführung weiterer biowaffenrelevanter Prozessschritte. Letztere umfassen etwa die Formulierung oder Modifikation der Agenzien, z. B. um diese zu stabilisieren oder effektiv ausbringen zu können. Größere kontrollierte Studien mit Testpersonen in realen biologischen Laboren könnten belastbarere Rückschlüsse auf mögliche Risiken zulassen, allerdings abhängig davon, wie konkret oder relevant die biologischen Aufgaben (angesichts immer zu berücksichtigender Sicherheitsfragen bzw. -vorschriften) hinsichtlich potenzieller Biowaffen gestaltet werden können. Solch eine erste größere Studie legt nahe, dass LLMs Personen ohne wesentliche Laborerfahrung derzeit nicht besser bei der erfolgreichen Durchführung einiger grundlegender molekularbiologischer Aufgaben, wie sie in der Virologie und Molekularbiologie erforderlich sind, unterstützen können, als dies mit konventionellen Internetanwendungen zur Informationsbeschaffung möglich ist. Ob bzw. inwiefern die zusätzliche Nutzung vorhandener und zukünftiger biologiespezifischer KI-Modelle dies ändern könnte und ob die Nutzung von LLMs durch Personengruppen mit relevanten Kenntnissen in den Lebenswissenschaften und Laborerfahrung (z. B. auf Graduierten- oder Doktorandenniveau) zu deutlich größeren bzw. besorgniserregenderen Leistungssteigerungen führen könnte, ist derzeit noch offen. Dies dürfte weitere Studien dieser Art, möglicherweise in regelmäßigen Abständen, erfordern. Proteindesignmodelle könnten die unerkannte Herstellung von Gensequenzen mit Missbrauchspotenzial erlauben KI-unterstützte Proteindesignmodelle haben in einer Reihe von Fällen die gezielte Neu- oder Umgestaltung von komplexen Proteinstrukturen mit unterschiedlichen Funktionen ermöglicht. Somit könnten prinzipiell auch (Protein-)Toxine mit neuen, gefährlicheren Eigenschaften erzeugt werden. Die tatsächliche Funktionalität solch denkbarer neuartiger Proteine müsste aber auf absehbare Zeit in ressourcen- und zeitaufwendigen Laborexperimenten überprüft und gegebenenfalls über iterative Entwicklungszyklen (DBTL-Zyklen) optimiert werden. Darüber hinaus müsste die Entwicklung neuer Toxine auch Tests in Zell- oder Gewebekulturen und mit Versuchstieren umfassen. Bereits gezeigt wurde, dass bekannte Proteine mit aktuellen Proteindesignmodellen so umgestaltet werden können, dass sie mutmaßlich ihre Funktion behalten und aufgrund größerer Unterschiede zur Originalversion in der Aminosäure- und damit auch der Gensequenz standardmäßige Sequenzüberprüfungen bei Nukleinsäuresynthesen umgehen können. Wie groß die Gefahr tatsächlich ist, dass so umgestaltete Versionen bekannter Proteine oder einschlägiger Biowaffentoxine – die für ihre Aktivität multiple Funktionalitäten (darunter Enzymaktivität) benötigen – tatsächlich funktionell bleiben, ist derzeit aber unklar. Experimentelle Daten legen nahe, dass zumindest über derzeitige Open-Source-Modelle entworfene entsprechende Proteinversionen, insbesondere von größeren Proteinen und Enzymen, ihre Funktion verlieren. Eine gezielte Verbesserung komplexer Eigenschaften von Krankheitserregern ist fraglich – das Design völlig neuer Erreger scheint (zumindest derzeit) außerhalb der Reichweite von KI-Modellen Ob sich über KI-Modelle komplexe Eigenschaften von Krankheitserregern – wie die Übertragbarkeit, die Fähigkeit, sich in Wirtszellen effizient zu vermehren, oder die Umgehung von Immunreaktionen des Wirts – tatsächlich in vorhersagbarer Weise verändern lassen und für die Nutzung als Biowaffe verbessert werden können, ist nicht geklärt. Es gibt zwar Untersuchungen mit verschiedenen biologischen KI-Modellen zu Viren, die zeigen, dass Vorhersagen zu kurzzeitigen Auswirkungen von Mutationen in Gensequenzen (etwa von SARS-CoV-2 oder Influenzaviren) auf die Infektiosität oder die Umgehung bestimmter Immunreaktionen möglich sind. Die Möglichkeiten, längerfristige Auswirkungen von Mutationen bzw. die Virusevolution über mehrere Infektionszyklen hinweg vorherzusagen, wie es für eine effektive Verbesserung solcher Eigenschaften notwendig wäre, dürften allerdings auch zukünftig eher begrenzt sein. Zu den Gründen gehören ein Mangel an umfangreichen, gut charakterisierten Datensätzen zur Evolution der Viren und ihrer Proteine sowie von Datensätzen, die virale Mutationen mit dem genetischen Hintergrund des Wirts (z. B. der genetischen Variabilität in zentralen Genen der Immunantwort) verknüpfen. Hinzu kommen sprunghafte evolutionäre Ereignisse, die zu komplexen genetischen Veränderungen führen können. Die Entwicklung völlig neuer Krankheitserreger könnte potenziell die weitreichendsten Folgen in Bezug auf biologische Bedrohungen haben, da Möglichkeiten zu ihrer Bekämpfung aufgrund fehlender Informationen eingeschränkt wären bzw. die Entwicklung von Maßnahmen längere Zeit in Anspruch nehmen könnte. Allerdings fehlen hierzu bislang die erforderlichen umfangreichen und hochwertigen Datensätze zu genomischen Sequenzen und den damit verbundenen molekularen und physiologischen Eigenschaften selbst bei vergleichsweise wenig komplexen Erregern wie Viren. Um relevante Eigenschaften wie Übertragbarkeit und Virulenz zu konstruieren und zu kombinieren, müssen auch die zugrunde liegenden, komplexen Netzwerkinteraktionen mit verschiedenen Komponenten der Wirtsorganismen verstanden bzw. modelliert werden. Automatisierte oder autonome Versuchsplattformen könnten die Anforderungen an Kenntnisse und praktische Fähigkeiten zukünftig senken Die Verwirklichung jeglicher Entwürfe für potenzielle um- oder neugestaltete biologische Agenzien, wie Toxine oder Viren, erfordert die Herstellung und – zumindest derzeit – die experimentelle Validierung der Wirksamkeit der Agenzien im Labor. Gegebenenfalls sind wiederholte Entwicklungszyklen zur Optimierung der Entwürfe notwendig. In diesem Zusammenhang wirft die mögliche Nutzung kommerzieller automatisierter Laborplattformen (Cloud Labs), auf die Forschende über Internetoberflächen zugreifen können – sowie die Kombination von KI- Systemen mit solchen Laborplattformen, um erste autonome („self-driving“) Laborsysteme für Design- und Entwicklungszyklen (z. B. für Enzyme) zu erhalten, Biosecurity-Fragen auf. Insbesondere stellt sich die Frage, ob oder inwieweit solche Einrichtungen oder Systeme böswilligen Akteuren, denen praktische Fähigkeiten und Laborausrüstung fehlen, in relevantem Umfang bei der Herstellung, Validierung oder Durchführung iterativer Entwicklungszyklen helfen könnten. Cloud Labs und ähnliche Einrichtungen können bereits heute die Notwendigkeit aufheben, (zumindest manche) praktische Laborarbeiten zur Herstellung biologischer Agenzien selbst durchführen zu müssen. Für den effektiven Einsatz solcher Labore ist zwar noch spezifisches Wissen zu den verwendeten Agenzien und methodischen Verfahren sowie zu Cloud-Lab-Abläufen selbst notwendig. Es ist allerdings nicht auszuschließen, dass diese Anforderungen, beispielsweise durch eine über KI-Systeme erleichterte Planung bzw. Programmierung von Experimenten und/oder zuverlässigere Automatisierungssysteme, in Zukunft weiter abnehmen könnten. Würden autonome Laborsysteme für die Herstellung bzw. Veränderung relevanter biologischer Agenzien, wie bestimmter Toxine oder Viren, zur Verfügung stehen und wären diese (unkontrolliert) zugänglich, könnte dies die Hürden für die Herstellung bzw. Entwicklung solcher Agenzien auch für Akteure ohne biologische Fachkenntnisse oder größere Ressourcen erheblich senken. Besonders besorgniserregend wären entsprechende Systeme, wenn sie etwa über sprachgesteuerte Benutzeroberflächen auch von Personen ohne spezielle (Programmier- )Kenntnisse nutzbar wären, wie es bei mindestens einem publizierten System für die Veränderung von Enzymen realisiert wurde. Die Entwicklung autonomer Laborsysteme ist jedoch kosten- und forschungsintensiv. Der spezifische Zuschnitt auf die jeweiligen Proteine oder spezielle Organismen erfordert zusätzlich zu spezifischen Kenntnissen über die zu verändernden biologischen Systeme erhebliche Fachkenntnisse im Bereich der Robotik sowie der Soft- und Hardwareintegration. Somit dürfte die Entwicklung solcher Systeme zur Herstellung gefährlicher biologischer Agenzien zumindest derzeit primär eine Möglichkeit für staatliche Akteure oder staatlich unterstützte Gruppen sein. Regulierungen und Mechanismen zur Kontrolle von Biosecurity-Risiken und der Proliferation von Biowaffen Derzeit wird allgemein anerkannt, dass das Verbot des Einsatzes biologischer Waffen im Allgemeinen und insbesondere während bewaffneter Konflikte dem Völkergewohnheitsrecht entspricht. Ihr Einsatz ist völkerrechtlich geächtet. Eine zentrale Grundlage hierfür sind internationale vertragliche Übereinkünfte in Bezug auf Biowaffen und deren Einsatz. Übereinkommen und Mechanismen auf internationaler und europäischer Ebene Zu den rechtlich bindenden internationalen Übereinkommen gehört insbesondere die Biowaffenkonvention (Biological Weapons Convention – BWC), die 1975 in Kraft trat und derzeit 189 Staaten als Vertragsparteien hat. Das Übereinkommen verbietet gemäß Artikel I die Entwicklung, Herstellung, Lagerung, den Erwerb oder die Weitergabe von mikrobiellen oder anderen biologischen Agenzien sowie von Toxinen in Arten und Mengen, die für Schutzzwecke oder friedliche Zwecke nicht gerechtfertigt sind. Zwar verbietet die BWC die Verwendung biologischer Waffen nicht ausdrücklich, jedoch wurde in einer der Vertragsüberprüfungskonferenzen bekräftigt, dass ihre Verwendung durch Vertragsparteien, die nicht mit prophylaktischen, schützenden oder anderen friedlichen Zwecken vereinbar ist, einen Verstoß gegen Artikel I des Übereinkommens darstellt. Darüber hinaus fordert die BWC von den Vertragsparteien Maßnahmen, einschließlich rechtlicher Bestimmungen, um das Verbot durchzusetzen. Ein internationales Rechtsinstrument, das im Gegensatz zur BWC – die primär die Aktivitäten von Staaten regelt – auf die Bedrohung durch nicht staatliche Akteure abzielt, ist die Resolution 1540 (2004) des UN-Sicherheitsrates. Sie verpflichtet Staaten, jede Form von Unterstützung für nicht staatliche Akteure zu unterlassen, die versuchen, nukleare, chemische oder biologische Waffen zu erhalten oder einzusetzen. Hierfür müssen wirksame Gesetze erlassen und durchgesetzt werden, die mit den jeweiligen nationalen Verfahren im Einklang stehen. Ähnliche verbindliche Verpflichtungen in Bezug auf biologische (und chemische) Waffen enthält die Richtlinie (EU) 2017/541 von 2017 zur Bekämpfung des Terrorismus. Sie zielt primär darauf ab, den Anwendungsbereich des Strafrechts der Mitgliedstaaten auf terrorismusbezogene Bedrohungen und Aktivitäten innerhalb der EU auszuweiten. Weitere Übereinkommen und Mechanismen mit Relevanz für Biosecurity-Risiken und die Proliferation von biologischen Waffen sind Exportkontrollregime, die die internationale Verbreitung sensibler Güter kontrollieren sollen. Hierzu gehören auf internationaler Ebene die rechtlich nicht verpflichtenden Vereinbarungen insbesondere der Australia Group, einem multilateralen Forum, über das zahlreiche Staaten ihre Exportkontrollen für sensible Güter bzw. Güter mit doppeltem Verwendungszweck (Dual Use) im Zusammenhang mit biologischen und chemischen Waffen koordinieren. Die Mechanismen der Gruppe umfassen gemeinsame Kontrolllisten für entsprechende Güter (darunter biologische Agenzien wie bestimmte Viren und Bakterien), Leitlinien für die Industrie sowie Regelungen zum Informationsaustausch und zur Harmonisierung bereits getroffener Maßnahmen. In der EU ist die Verordnung (EU) 2021/821 die wichtigste Verordnung im Zusammenhang mit der Verbreitung biologischer (und chemischer) Waffen. Sie referenziert die Ausfuhrkontrolllisten der Australia Group und setzt damit deren rechtlich nicht bindende Vereinbarungen in rechtsverbindliche Normen um, die in allen EU- Mitgliedstaaten unmittelbar gelten. Darüber hinaus existiert eine Reihe internationaler und europäischer Initiativen bzw. Leitlinien, die sich mit Fragen der Biosecurity bzw. der Verhinderung der Proliferation von Massenvernichtungswaffen befassen. Dazu gehören die Leitlinien zur Biosicherheit der World Health Organization (WHO/Weltgesundheitsorganisation), die Standards und Praktiken des International Gene Synthesis Consortium (IGSC) zur Überprüfung von Bestellungen synthetischer Nukleinsäuresequenzen sowie die EU Centres of Excellence on Chemical, Biological, Radiological and Nuclear Risk Mitigation, die global eine Vielzahl von Unterstützungsmaßnahmen zur Minderung von CBRN- Risiken bereitstellen, darunter Bedarfs- und Risikobewertungen, nationale und regionale Aktionspläne sowie Feldübungen. Regelungen und Mechanismen in Deutschland zur Kontrolle von Biowaffen und Biosecurity-relevanter Forschung Die Kontrolle von Biowaffen erfolgt auf nationaler Ebene durch die Umsetzung rechtlicher Verpflichtungen aus internationalen Verträgen sowie durch Rechtsvorschriften der EU. Diese Verpflichtungen betreffen zum einen das Erlassen strafrechtlicher Bestimmungen, wie durch die BWC gefordert, welche die Entwicklung, Herstellung, Lagerung oder den Erwerb biologischer Waffen verbieten. Zum anderen müssen Ein- und Ausfuhrkontrollen für Materialien (z. B. entsprechend EU-Verordnungen und Richtlinien) etabliert werden, die zur Herstellung biologischer Waffen verwendet werden können. Gesetze und Verordnungen, die diese Verpflichtungen in Deutschland umsetzen, umfassen das Gesetz zur Biowaffenkonvention, das Völkerstrafgesetzbuch, das Kriegswaffenkontrollgesetz sowie das Außenwirtschaftsgesetz und die Außenwirtschaftsverordnung. Biosecurity-relevante Forschung wird durch verschiedene sektorspezifische Gesetze erfasst, die in erster Linie Biosafety-Sicherheitsvorschriften betreffen. Dennoch tragen einige dieser Regelungen zumindest mittelbar auch zur Erhöhung der Biosecurity bei, etwa durch die Erlaubnis- und Anzeigepflicht für Personen, die mit bestimmten Krankheitserregern arbeiten, Aufzeichnungspflichten zu durchgeführten Arbeiten oder Sicherheitsüberprüfungen und Beschränkungen von Personen beim Zugang zu gefährlichen biologischen Agenzien bzw. bestimmten Einrichtungen. Zu diesen gesetzlichen Regelungen gehören etwa die Biostoffverordnung, das Gentechnikgesetz, das Infektionsschutzgesetz und das Sicherheitsüberprüfungsgesetz. In Bezug auf Forschung mit doppeltem Verwendungszweck – insbesondere für besorgniserregende Forschung („dual use research of concern“ – DURC) – existieren neben Vorgaben von Förderorganisationen für staatlich geförderte Forschungslinien vor allem Verhaltenskodizes bzw. Empfehlungen und Leitlinien von öffentlichen Forschungsorganisationen. Die Debatte um mögliche Lücken in – und der notwendigen Stärkung von – Regelungen und Mechanismen zur Kontrolle von Biosecurity-Risiken und der Proliferation von Biowaffen Neben der Durchsetzung von allgemeinen Vereinbarungen, um die Entwicklung und Proliferation von biologischen Waffen zu verhindern, wie insbesondere die BWC, werden speziell im Zusammenhang mit den KIxBio- Entwicklungen vor allem Möglichkeiten zur Kontrolle der Umsetzung von KI-basierten digitalen Entwürfen in physikalisch-biologische Moleküle sowie die Etablierung von Schutz- und Kontrollmechanismen für KI-Modelle und relevante biologische Daten diskutiert. Als größte Schwäche bei der Kontrolle von möglichen staatlichen Biowaffenaktivitäten und davon ausgehenden Proliferationsrisiken gilt das Fehlen eines rechtsverbindlichen Verifikationsmechanismus zur Einhaltung der BWC, wie er für die CWC und für den Atomwaffensperrvertrag existiert. Die BWC ermutigt Staaten lediglich im Rahmen freiwilliger vertrauensbildender Maßnahmen, relevante Aktivitäten selbst zu melden. Alle Bemühungen der Vertragsstaaten, das Übereinkommen zu stärken – einschließlich obligatorischer Meldungen von Dual-Use- Aktivitäten oder kurzfristiger Überprüfungen verdächtiger Einrichtungen –, scheiterten unter anderem an Bedenken, dass solche Überprüfungen technisch und praktisch für biologische Waffen nicht durchführbar sind, insbesondere da die für die Herstellung von Biowaffen benötigten Materialien und Ausrüstung oft dieselben sind wie in der zivilen biowissenschaftlichen Forschung. Zudem gab es Bedenken, dass die Überprüfungen Wirtschaftsspionage erleichtern könnten. In der Diskussion um BWC-Reformen wird jedoch auch darauf hingewiesen, dass es schwierig wäre, Staaten, die gegen die BWC verstoßen, zur Rechenschaft zu ziehen oder zu bestrafen. Deshalb wurde verschiedentlich vorgeschlagen, die BWC durch (Abschreckungs-)Strategien zu ergänzen, welche die Erfolgsaussichten des Einsatzes von Biowaffen von vorneherein begrenzen („deterrence by denial“), etwa durch effektive Überwachungssysteme von Erregern in der Umwelt oder Maßnahmen zur schnellen Schadensbegrenzung wie flexible Diagnostik oder schnell skalierbare Impfstoffplattformen. Die Sicherung der Schnittstelle zwischen KI-Modellen und physikalisch-biologischen Systemen Die kommerzielle Nukleinsäuresynthese ist ein zentraler Schritt für die Herstellung von Genen bzw. davon kodierten Proteinen. Sie ist zu einer wichtigen und in der Regulierungsdebatte unstrittigen Stelle der Überwachung geworden, um das Risiko zu verringern, dass insbesondere nicht staatliche böswillige Akteure gefährliche biologische Agenzien wie Toxine oder bestimmte Viren herstellen könnten. Derzeit gibt es zwar keine explizite generelle gesetzliche Verpflichtung für Anbieter von Nukleinsäuresynthesen, die Bestellungen auf besorgniserregende Sequenzen (z. B. von Toxinen oder bestimmten Pathogenen) oder ihre Kunden zu überprüfen. In zahlreichen Ländern und der EU ist dies jedoch faktisch erforderlich, wenn Bestellungen exportiert werden. Eine Reihe von Anbietern von Nukleinsäuresynthesen führt seit Langem grundsätzlich freiwillig Überprüfungen von Sequenzen und Kunden durch, und das International Gene Synthesis Consortium, ein Zusammenschluss von wichtigen Nukleinsäuresyntheseanbietern, hat für seine Mitglieder bindende Standards und Praktiken für solche Überprüfungen festgelegt. Dennoch gibt es weltweit zahlreiche Unternehmen, die kein Screening durchführen bzw. für die unklar ist, ob oder wie sie dies tun. Bislang haben Regulierungsbehörden, insbesondere in den USA, versucht, die Überprüfung von Syntheseaufträgen vor allem durch nicht bindende Leitlinien und Vorgaben für Forschungsförderorganisationen voranzutreiben. Letztere legen fest, dass Nukleinsäuresynthesen ausschließlich von Herstellern bezogen werden dürfen, die Bestellungen nach festgelegten Standards überprüfen. Sowohl in den USA als auch in der EU (für den geplanten European Biotech Act) gibt es aktuell Gesetzesentwürfe, wonach Anbieter von Nukleinsäuresynthesen die bestellten Sequenzen und die Legitimität von Bestellern besorgniserregender Sequenzen überprüfen müssen. Zur Verwirklichung von digitalen Entwürfen möglicher veränderter Moleküle oder Erreger könnten über Nukleinsäuresynthesen hinaus auch automatisierte oder autonome Laborplattformen zunehmend relevant werden. Ob etwa Cloud Labs derzeit Verfahren zur Überprüfung ihrer Kunden, der von ihnen programmierten und automatisiert durchgeführten Experimente oder der von ihnen zur Verfügung gestellten Materialien durchführen, ist unklar. Verschiedene Organisationen haben deshalb entsprechende Überprüfungen sowie die Entwicklung von entsprechenden Standards vorgeschlagen. Schutz- und Kontrollmechanismen für KI-Modelle und biologische Daten Zwar gilt die Überwachung der Nukleinsäuresynthese – als zentrale Schnittstelle zwischen digitalen Modellen und Entwürfen zu physischen, biologischen Molekülen oder Organismen – als hochrelevant, um Biosecurity- Risiken zu reduzieren. Jedoch wird sowohl von Forschenden aus dem KIxBio-Feld als auch von Biosecurity- Fachleuten argumentiert, dass die Kontrolle dieser Schnittstelle nicht ausreicht. So dürfte eine flächendeckende, weltweit verpflichtende Kontrolle politisch kaum umsetzbar sein und biologische KI-Designmodelle können dazu beitragen, Sequenzscreening-Mechanismen zu umgehen. Neben Evaluierungen von allgemeinen generativen KI- Modellen vor deren Veröffentlichung wurde angesichts dieser Herausforderungen die Entwicklung bzw. Implementierung von Schutzmaßnahmen zur Risikominderung für biologische KI-Designmodelle vorgeschlagen. Hierzu gehören zum einen in die Modelle integrierte „guardrails“, wie Screeningmechanismen, die potenziell besorgniserregende bzw. risikoreiche Eingaben oder Ausgaben der Modelle automatisch erkennen und dann zur weiteren Überprüfung markieren oder ablehnen. Zum anderen werden die Notwendigkeit und Mechanismen für den kontrollierten Zugang zu Modellen diskutiert. Mithilfe von Programmierschnittstellen ist es beispielsweise möglich, notwendige Informationen auszutauschen, während interne Systemdetails verborgen bleiben. Somit können Entwickler die Kontrolle über das Modell behalten. Der Zugriff auf biologische KI-Modelle sowie die notwendigen Legitimationskriterien für Nutzer/innen sollen nach dem Risikopotenzial des jeweiligen Modells sowie dem Umfang des gewünschten oder benötigten Zugriffs gestaffelt werden. Der Nutzen solcher Modelle für die Wissenschaft und in der Folge für Anwendungsbereiche wie die Medizin, öffentliche Gesundheit und die Entwicklung von Abwehrmaßnahmen hängt nicht zuletzt von den Zugangsmöglichkeiten und somit auch den Möglichkeiten zur Überprüfung und Weiterentwicklung der Modelle ab. Ein wichtiger Diskussionspunkt ist deshalb, wie ein fairer und gleichberechtigter Zugang zu biologischen KI-Modellen gewährleistet werden kann, damit etwa Forschende von kleineren Forschungseinrichtungen oder aus dem Globalen Süden nicht benachteiligt werden. Darüber hinaus werden Ansätze für Zugangsbeschränkungen zu bestimmten neu erstellten (und noch nicht verbreiteten) biologischen Datensätzen diskutiert. Diese sollen das Risiko verringern, dass besonders besorgniserregende neue oder erweiterte KI-Modellfähigkeiten entwickelt werden können, die Missbrauchsmöglichkeiten bieten, wie etwa das Design verbesserter oder völlig neuer pandemischer Viren. So wurde etwa vorgeschlagen, die Daten in verschiedene Sicherheitsstufen einzuteilen, entsprechend ihrer voraussichtlichen Fähigkeit, die Entwicklung von biologischen KI-Modellen für relevante Vorhersagen oder Entwürfe zu ermöglichen. Mit steigender Sicherheitsstufe würden zusätzliche Anforderungen erforderlich, bevor der Zugriff auf Daten gestattet wird. Dazu gehören die Identifizierung des/r Benutzers/in, die Genehmigung der Datennutzung, etwa durch eine Forschungsinstitution, bis hin zu einer obligatorischen Sicherheitsüberprüfung der Modelle, die mit den abgerufenen Daten trainiert wurden, vor deren Veröffentlichung. Ähnlich wie bei der grundsätzlichen Zugangskontrolle zu biologischen KI-Modellen sind auch hier mögliche negative Effekte auf einen gleichberechtigten Zugang sowie auf den offenen akademischen Austausch und die biomedizinische Forschung ein wichtiger Diskussionspunkt. Entsprechend sollen die Kontrollmaßnahmen nur für einen möglichst begrenzten Bereich von Pathogendaten gelten und Regierungen sollen prüfen, inwieweit Zugangskontrollen gegebenenfalls wieder gelockert werden können. Nutzung von KI-Modellen zur Verbesserung der Pandemievorsorge und biologischer Verteidigungsfähigkeiten Schließlich wird in der Debatte vorgeschlagen, dass nicht zuletzt die Stärkung der Pandemievorsorge – einschließlich der Erkennung und Überwachung von Erregern und der Weiterentwicklung von medizinischen Präventions- und Gegenmaßnahmen – wichtig sein wird, um künftige Biosecurity-Risiken zu reduzieren. Hierfür werden die verstärkte Erforschung und Nutzung von KI-gestützten Modellen und biotechnologischen Verfahren diskutiert. Diese könnten zum einen bei der KI-gestützten Überwachung (Biosurveillance) von Infektionskrankheiten eine Rolle spielen, z. B. zur Analyse von Genomdaten aus verschiedenen Quellen in Echtzeit, um bekannte Krankheitserreger oder ungewöhnliche Muster zu identifizieren, die auf neue Erreger hindeuten. Zum anderen könnten KI-gestützte Biodesignmodelle für die Entwicklung von Gegenmaßnahmen und Notfallreaktionen, einschließlich Impfstoffen, Therapeutika und diagnostischer Verfahren, genutzt werden. Implikationen von KIxBio für Bedrohungen durch Biowaffen und Ausblick Eine Einordnung der mit KI verbundenen Möglichkeiten in der Molekularbiologie und Biotechnologie hinsichtlich potenzieller Bedrohungen durch den Missbrauch biologischer Agenzien bzw. Biowaffen erfordert letztlich eine umfassendere Betrachtung, die über mögliche KI-Fähigkeiten hinausgeht. Hierzu gehören Fähigkeiten und Bedingungen der Herstellung und Nutzung von Biowaffen, wie die groß angelegte Produktion von biologischen Agenzien oder die Entwicklung von waffentechnisch aufwendigen Ausbringungsmethoden (etwa durch Raketen- oder Lenkwaffen), die weitgehend unabhängig von den neuen KI-basierten Möglichkeiten sind. Bedrohungen durch Biowaffensysteme, die solche Prozesse erfordern, dürften deshalb auch weiterhin vor allem von Staaten (oder von durch diese unterstützten Gruppen) bzw. staatlichen Biowaffenprogrammen ausgehen. Die neuen KIxBio-Möglichkeiten scheinen für staatliche Programme nicht zwingend erforderlich, dennoch könnten sie einzelne Forschungs-, Entwicklungs- und Optimierungsschritte beschleunigen. Für staatliche Akteure erscheinen insbesondere kleinflächigere taktische Einsätze oder verdeckte bzw. hybride Operationen denkbar, um andere Staaten und Regierungen zu destabilisieren. Selbst wenn die Urheberschaft nachgewiesen werden könnte, wäre die Wahrscheinlichkeit wohl groß, dass insbesondere gegenüber Wirtschaftssanktionen resiliente und über Nuklearwaffen verfügende Staaten (oder verbündete Staaten bzw. Gruppen) bei solchen Biowaffen-Einsätzen keine untragbaren Konsequenzen zu erwarten hätten. Die großtechnische Herstellung biologischer Agenzien und die Nutzung komplexer technischer Methoden, um diese in eine waffenfähige Form zu bringen bzw. zu verbreiten, sind jedoch nicht in jedem Fall notwendig. So könnten kleinere Mengen mancher Agenzien für biologische Bedrohungen ausreichen und über einfache, technisch wenig aufwendige Prozesse verbreitet werden – wie es bei durch nicht staatliche Akteure verübten erfolgreichen Bioterrorakten der Fall war. Dabei wurden 1984 in den USA Lebensmittel in Restaurants durch die Rajneesh-Sekte mit Salmonellen verseucht und 2001 Briefe mit Anthraxsporen verschickt. Solche Strategien, die einfachere und technisch weniger komplexe Prozesse involvieren, könnten auch zukünftig bei Bioterrorbedrohungen durch nicht staatliche Akteure am wahrscheinlichsten sein, da sie nicht die oben beschriebenen (und von KIxBio-Entwicklungen weitgehend unabhängigen) technischen Voraussetzungen für die Massenproduktion biologischer Agenzien oder aufwendiger Verbreitungsmechanismen erfordern. Der Zugang zu bzw. die kleinskalige Herstellung von Krankheitserregern oder Toxinen und damit die KIxBio-Möglichkeiten – wie das Erlangen von Wissen über die Isolation oder Herstellung solcher Agenzien oder die Umgestaltung von Gensequenzen für die Agenzien, um Nukleinsäuresynthesescreenings zu umgehen – könnten bei solchen Bedrohungen somit eine wichtige Rolle spielen. Diese Bedrohungen müssen aber nicht notwendigerweise wie bisher auf eher kleine Zahlen von Todesfällen oder moderate Zahlen von Erkrankten beschränkt bleiben. Größere Opferzahlen und disruptive ökonomische und gesellschaftliche Auswirkungen könnten beispielsweise drohen, wenn potenziell pandemieauslösende Viren hergestellt werden könnten und nach absichtlicher Selbstinfektion von Täter/innen („patient zero“) auf andere übertragen würden. Bei solchen Viren könnte es sich derzeit aufgrund der begrenzten Möglichkeiten zur gezielten und vorhersagbaren Verbesserung viraler Eigenschaften oder gar zum (De-novo-)Design gänzlich neuer Viren am ehesten um bekannte, natürlich vorkommende Viren handeln, die etwa über synthetische Genomsequenzen hergestellt wurden, oder aber Varianten, die zusätzlich über Mutations- und Selektionsprozesse verändert wurden (z. B. in menschlichen Zellen oder Tiermodellen). Die erforderlichen Fähigkeiten und die notwendigen Vorerfahrungen können je nach Virus unterschiedlich sein. Entsprechende effektive Veränderungen würden zusätzliche Erfahrung und Fähigkeiten, etwa im Umgang mit geeigneten Testsystemen oder Tiermodellen, erfordern. Zwar ist es nicht auszuschließen, dass sich manche Personen ohne oder mit nur sehr begrenzter biologischer Ausbildung alle notwendigen Fähigkeiten und Erfahrungen aneignen könnten – potenziell mit Unterstützung von fortgeschrittenen LLMs. Die Wahrscheinlichkeit hierfür sowie insbesondere die Wahrscheinlichkeit, dass diese Fähigkeiten erfolgreich für ein komplexeres Gesamtprojekt, wie die Herstellung und gegebenenfalls die Veränderung und Testung potenziell relevanter pandemischer Viren, genutzt werden könnten, scheint aber nach wie vor relativ klein zu sein. Dies wird nicht zuletzt durch eine erste größere Studie mit Testpersonen in biologischen Laboren gestützt. Auch die Möglichkeiten, automatisierte Laborplattformen zu nutzen oder durch deren Kombination mit LLMs und/oder biologischen KI-Modellen realisierbare autonome Laborsysteme zu entwickeln, dürften aufgrund der damit verbundenen Herausforderungen hinsichtlich des Umfangs des bislang erforderlichen Wissens zur effektiven Nutzung kommerzieller automatisierter Labore wie Cloud Labs und der forschungsintensiven Entwicklung autonomer Laborsysteme für Akteure ohne Fachkenntnisse derzeit sehr begrenzt sein. Inwiefern sich dies in absehbarer Zukunft ändern könnte, ist letztlich nicht verlässlich abzuschätzen und macht ein kontinuierliches Monitoring der KIxBio-Entwicklungen erforderlich. Aufgrund allgemeiner Unsicherheiten sowie möglicher Black-Swan-artiger Bedrohungen – das heißt Ereignisse mit sehr geringer Eintrittswahrscheinlichkeit, die aber extreme Effekte haben können, wie etwa die Herstellung pandemischer Viren durch Akteure ohne oder mit nur wenig Fachkenntnissen und praktischer Erfahrung – sollten bereits heute weitere vorsorgende Maßnahmen zum Umgang mit Unsicherheiten und zur Risikominimierung bzw. zur Verbesserung der Resilienz gegenüber möglichen Folgen in Betracht gezogen werden. Handlungsoptionen Die Ergebnisse der vorliegenden Analyse legen es nahe, dass über KIxBio-zentrierte Maßnahmen hinaus weitere Ansätze auf unterschiedlichen Ebenen erforderlich sind. Unter Berücksichtigung der internationalen Regulierungsdebatte lassen sich vier Hauptansatzpunkte erkennen: Überwachung der Schnittstelle zwischen KI-generierten digitalen Entwürfen und realen biologischen Molekülen oder Systemen Ein zentraler Ansatzpunkt ist die Unterstützung des geplanten European Biotech Act, um eine verpflichtende und EU-weit harmonisierte Sicherheitsüberprüfung für synthetische Nukleinsäuren zu ermöglichen und gleiche Wettbewerbsbedingungen für verantwortungsbewusste Synthesesanbieter zu schaffen. Der Entwurf sieht diesbezüglich die Einführung einer Pflicht zur Überprüfung des legitimen Bedarfs von Käufern biotechnologischer Produkte mit hohem Missbrauchspotenzial vor. Hierzu zählen auch besorgniserregende synthetisierte Nukleinsäuresequenzen („sequences of concern“), wodurch faktisch ein Sequenzscreening notwendig wird. Darüber hinaus wird vorgeschrieben, dass Tischgeräte zur Nukleinsäuresynthese automatische Mechanismen zum Screening von Sequenzen enthalten müssen. Deutschland könnte sich in der EU dafür einsetzen, dass bei mit EU-Mitteln finanzierten Projekten (auch außerhalb der EU) Nukleinsäuresynthesen und Tischgeräte zur Nukleinsäuresynthese ausschließlich von Anbietern und Herstellern bezogen werden dürfen, die ein Screening von Sequenzen und Kunden nach festgelegten Standards durchführen bzw. Sequenzscreeningmechanismen in die Geräte eingebaut haben. Grundsätzlich könnten auf nationaler Ebene alle Forschungsförderer in Deutschland verpflichtet werden, entsprechende Auflagen für die Verwendung von Fördergeldern zu implementieren. Ähnliche Auflagen könnten auch in Bezug auf Aufträge jeglicher Art an Auftragsforschungsinstitutionen oder für die Nutzung von Cloudlaboren eingeführt werden. Beobachtung und Kontrolle von KI-Systemen mit gesteigerten Möglichkeiten zur Entwicklung gefährlicher biologischer Agenzien Um die Risiken potenzieller zukünftiger biologischer KI-Modelle hinsichtlich des Designs gefährlicherer biologischer Agenzien zu reduzieren, könnten prinzipiell Mechanismen für den kontrollierten Zugang zu leistungsfähigen Biodesignmodellen oder zu bestimmten Datensätzen, die die Entwicklung solcher Modelle ermöglichen können, in Betracht gezogen werden. Zu solchen kritischen Datensätzen würden insbesondere (bisher noch weitgehend fehlende) umfangreichere und qualitativ hochwertige Daten gehören, über die KI-Modelle Genomsequenzen potenziell pandemischer Viren mit Eigenschaften wie Übertragbarkeit oder Umgehung der Immunantwort verknüpfen und solche Eigenschaften vorhersagen könnten. Bevor solche Mechanismen in Betracht gezogen werden, müssen diese und deren mögliche Wirksamkeit (nicht zuletzt auch in Bezug auf potenziell relevante Akteure) sehr sorgfältig gegen mögliche negative bzw. kontraproduktive Auswirkungen abgewogen werden. Hiervon betroffen sein könnten insbesondere die biomedizinische Forschung und Entwicklung im Allgemeinen sowie die Entwicklung von Vorsorgemaßnahmen oder Gegenmaßnahmen im Krisenfall im Besonderen. Zu einer solchen Abwägung – unter Berücksichtigung existierender Hinweise und Evidenzen zu Risiken sowie dem Monitoring möglicher Risikoverschärfungen – könnte auf nationaler Ebene ein einzurichtendes Beratungsgremium aus Expert/innen verschiedener Disziplinen und Bereiche beitragen. Die Empfehlungen eines solchen Gremiums könnten auch mit Blick auf mögliche, von Deutschland beeinflussbare Entscheidungen im Zusammenhang mit Kontrollmechanismen auf europäischer oder internationaler Ebene genutzt werden. Ein solches Beratungsgremium könnte darüber hinaus Ausgangspunkt oder Teil einer Wenn-dann-Strategie sein, wie sie von den US-amerikanischen National Academies of Sciences, Engineering, and Medicine vorgeschlagen wurde, um der dynamischen KIxBio-Entwicklung Rechnung zu tragen. Dieser Ansatz zielt auf eine kontinuierliche Bewertung sowie eine regelmäßige Neubewertung von Schwachstellen und Risiken ab. Entsprechend den Ergebnissen (und möglichen festgelegten Schwellenwerten) würden neue Risikobewertungen durchgeführt und gegebenenfalls weitere oder verschärfte Maßnahmen zur Risikominderung ausgelöst. Stärkung der BWC Eine substanzielle Stärkung der BWC könnte durch folgende Maßnahmen erreicht werden: – über die weitere inhaltliche Unterstützung der bei der BWC-Überprüfungskonferenz im Jahr 2022 eingesetzten Arbeitsgruppe zur Stärkung der BWC, die insbesondere bisher fehlende Möglichkeiten zur Überprüfung und Einhaltung der Konvention diskutieren und entwickeln soll. Hierzu könnten auch, im Vergleich zu klassischen Verifikationsregimes, weniger intrusive (das heißt ohne kurzfristige Überprüfungen verdächtiger Einrichtungen) und potenziell einfacher erreichbare Modelle beitragen, wie etwa solche, die strukturierte Selbstauskünfte umfassen und bei denen Staaten freiwillig ihre Einhaltung der Vorschriften durch Peer- Reviews und Besuche vor Ort nachweisen, um das Vertrauen in die Einhaltung der Vertragsbestimmungen zu stärken. – durch das Einbringen oder die Unterstützung von Initiativen zur Verbesserung der Finanzierungsituation der BWC bzw. der BWC-Unterstützungseinheit. Ausbau der Fähigkeit zur Durchführung von Vorsorge und Gegenmaßnahmen Ein weiteres Element zur Risikoreduktion könnten Biodefense-Maßnahmen sein, wie eine verbesserte Vorsorge hinsichtlich der Früherkennung von potenziellen pandemischen Erregern, verbesserte Kapazitäten zur schnellen Eindämmung und Schadensbegrenzung sowie die Erkennung bzw. Verhinderung von biologischen Anschlagsplänen. Solche Maßnahmen könnten neben einer besseren Reaktionsfähigkeit auch zur Abschreckung von Gegnern beitragen, die sich über militärische Strategien nicht abschrecken ließen, wie etwa bestimmte nicht staatliche Akteure – indem sie deren Erfolgsaussichten reduzieren („deterrence by denial“). Hierzu könnten durch parlamentarische Gremien und/oder Ministerien, die Zugang zu notwendigen, ansonsten nicht öffentlich zugänglichen Informationen haben, Möglichkeiten zur Stärkung von Aktivitäten und Kapazitäten insbesondere in den folgenden Bereichen geprüft werden: – anwendungsorientierte Biodefense-Forschung: Dort können neue KI-Möglichkeiten genutzt werden, um effektive Früherkennungsmaßnahmen für biologische Agenzien oder ungewöhnliche Infektionen sowie schnell skalierbare medizinische Gegenmaßnahmen zur raschen Eindämmung und Schadensbegrenzung zu entwickeln. Beispiele sind die Analyse globaler Kommunikationsquellen mithilfe von natürlicher Sprachverarbeitung oder Ansätze unter Nutzung von KI-Modellen, die Genomdaten aus verschiedenen Quellen kontinuierlich überwachen, diese Daten mit vorhergesagten Proteinstrukturdaten ergänzen und auf neue zirkulierende Erreger hinweisen können. Des Weiteren könnte die Etablierung KI-unterstützter Plattformtechnologien zur Beschleunigung der Impfstoffentwicklung und -produktion gefördert werden, wie sie beispielsweise im Rahmen des „Rapid Response Framework“ der Coalition for Epidemic Preparedness Innovations entwickelt werden sollen. – Terrorismusabwehr: Hier könnte die Zusammenarbeit mit Unternehmen, die KI entwickeln, gefördert bzw. deren Sicherheitsmaßnahmen unterstützt werden. Dazu könnte beispielsweise die Überwachung besorgniserregender Kommunikation mit großen generativen KI-Modellen (Chatbots) gehören, die vermuten lässt, dass Nutzer/innen anderen Schaden zufügen wollen. 1 Einleitung Thematischer Hintergrund Die rasanten Fortschritte bei der Analyse und Synthese von Erbgut (DNA) sowie bei der gezielten Veränderung von Genen in verschiedensten Organismen durch Genomeditierungs-Techniken haben die Möglichkeiten der Erforschung und der Veränderung biologischer Systeme bzw. Organismen in den letzten 10 bis 15 Jahren vereinfacht und stark erweitert. Ein zunehmend wichtiges Werkzeug sind dabei computergestützte Analyse- und Designprozesse. Diese oft unter den Begriffen „Synthetische Biologie“ (TAB-Arbeitsbericht Nr. 164 „Synthetische Biologie – die nächste Stufe der Bio- und Gentechnologie“) oder „engineering biology“ zusammengefassten Entwicklungen der Molekularbiologie und Biotechnologie haben nicht nur in der Grundlagenforschung zu neuen Möglichkeiten geführt, etwa bei der Erforschung von Gen- und Molekülfunktionen sowie von Krankheitsursachen. Auch in Anwendungsfeldern, wie insbesondere der industriellen Biotechnologie etwa zur Generierung neuer Synthesewege für Chemikalien in Mikroorganismen und der Entwicklung neuer Medikamente bzw. Behandlungsmöglichkeiten, darunter Gentherapien für bisher unheilbare Krankheiten sowie gen- und zellbasierte Krebsimmuntherapien, haben diese neuen Möglichkeiten bereits revolutionäre Entwicklungen eingeleitet. Diese Fortschritte in der Molekularbiologie und Biotechnologie konvergieren zunehmend mit jüngeren Entwicklungen in Bereichen der künstlichen Intelligenz (KI) sowie der Automatisierung von Laborprozessen. Ermöglicht durch größere Datensätze zu biologischen Molekülen und deren Funktionen entstehen zunehmend leistungsfähigere KI-Modelle, die für die Analyse und das Design von biologischen Molekülen und Prozessen sowie von Forschungs- und Entwicklungsprozessen entsprechender Anwendungen eine immer wichtigere Rolle spielen. Die Synthetische Biologie und ihre Anwendungsmöglichkeiten wurden seit ihren Anfängen von Diskussionen über Risiken durch mögliche (Labor-)Unfälle oder eine missbräuchliche Verwendung begleitet. Insbesondere wurde dabei die Zugänglichkeit zu den technologischen Entwicklungen zur Veränderung von Molekülen oder Organismen (wie DNA-Synthese oder Genomeditierung) für Nichtexpert/innen bzw. Personen, die nicht in etablierte wissenschaftliche Einrichtungen eingebunden sind, thematisiert. Mit der zunehmend wichtigeren Rolle von KI und deren Zusammenspiel mit biotechnologischen Möglichkeiten haben sich diese Diskussionen erneut intensiviert. Vor allem international hat sich in den letzten Jahren eine Sicherheitsdebatte entwickelt, die sich stark auf Missbrauchsrisiken durch die mögliche Herstellung biologischer Waffen sowie die damit verbundenen (nationalen) Sicherheitsfragen fokussiert. Im Mittelpunkt dieser Debatte stehen im Wesentlichen drei Bedenken: erstens, dass die Entwicklungen es insbesondere Nichtexpert/innen bzw. nicht staatlichen Akteuren (weiter) erleichtern könnten, gefährliche biologische Agenzien herzustellen bzw. Biowaffen zu entwickeln; zweitens, dass die Entwicklung noch gefährlicherer bzw. neuer solcher Agenzien und Biowaffen möglich wird, die das Schadenspotenzial oder -ausmaß erhöhen könnten; und drittens, dass die Wirksamkeit von Biosicherheits- und Abwehrmaßnahmen (Biodefense) verringert oder unterlaufen werden könnte. Zielsetzung und Vorgehensweise Das vom Verteidigungsausschuss initiierte Projekt des Büros für Technikfolgen-Abschätzung beim Deutschen Bundestag (TAB) sollte zum einen mögliche Sicherheitsrisiken neuerer biotechnologischer Entwicklungen und ihrer Wechselwirkungen mit Entwicklungen im Bereich der KI möglichst breit analysieren und dann konzentriert zusammenfassen. Zum anderen sollten gegenwärtige Kontroll- und Regulierungsmöglichkeiten dargestellt sowie Möglichkeiten zu deren Weiterentwicklung diskutiert werden, um diese Sicherheitsrisiken zu minimieren und die Nichtverbreitung potenzieller Biowaffen zu stärken. Neben umfangreichen eigenen Literaturrecherchen und -auswertungen wurden als zusätzliche fachliche Informationsbasis für das Projekt zwei Gutachten vergeben: – Gegenwärtige Regulierungen und Maßnahmen zur Kontrolle von Biowaffen sowie zu sicherheitsrelevanter Dual-Use-Forschung in den Biowissenschaften – in Deutschland, auf EU-Ebene und international. Dr. Britta Pinzger, Dr. Carsten Heuer, Dr. Benjamin Kaluza, Dr. Silke Römer; Fraunhofer-Institut für Naturwissenschaftlich-Technische Trendanalysen INT, Euskirchen – Notwendige Kenntnisse und technische Voraussetzungen für die Herstellung und den Einsatz von biologischen Agenzien als Biowaffen. Dr. Dunja M. Sabra, Carl Friedrich von Weizsäcker-Zentrum für Naturwissenschaften und Friedensforschung, Universität Hamburg, und Dr. Johannes L. Frieß, Institut für Sicherheits- und Risikowissenschaften (ISR), Universität für Bodenkultur Wien Die TAB-Projektbearbeiter Harald König und Arnold Sauter möchten sich herzlich bei den Gutachter/innen für die gute und vertrauensvolle Zusammenarbeit, einschließlich der Kommentierung von Kapitelentwürfen, bedanken. Die Verantwortung für die Auswahl, Interpretation und Einarbeitung von Ergebnissen aus den Gutachten liegt ausdrücklich bei den Verfassern des vorliegenden Berichts. Danken möchten die Berichtsautoren auch Herrn Prof. Dr. Roman Wölfel vom Institut für Mikrobiologie der Bundeswehr für die kritische Durchsicht eines Berichtsentwurfs sowie Brigitta-Ulrike Goelsdorf für die Durchsicht und Gestaltung der Endfassung des Manuskripts einschließlich der Bearbeitung der Abbildungen. Aufbau des Berichts Im folgenden Kapitel 2 wird ein aktueller Überblick über relevante Entwicklungen in der molekularen Biologie bzw. der Synthetischen Biologie und der Biotechnologie sowie deren Zusammenspiel mit jüngeren KI- Entwicklungen gegeben. Darauf aufbauend werden in Kapitel 3 Bedenken und mögliche Sicherheitsrisiken vorgestellt, die in der fachwissenschaftlichen Literatur sowie von verschiedenen gesellschaftlichen Akteuren (z. B. Forschende, politikberatende Organisationen, Sicherheitsexpert/innen) diskutiert werden. Die zugrunde liegenden Argumente und Evidenzen wurden ausgewertet, wobei der Fokus auf Ergebnissen aktueller Forschungsansätze und Daten aus empirischen Studien zur Leistungsfähigkeit von KI-Modellen sowie zur Unterstützung von Akteuren durch solche Modelle lag. Daraus wurden Implikationen für Missbrauchsrisiken im Zusammenhang mit biologischen Waffen abgeleitet. Ausgehend von der Darstellung existierender Verträge, Regulierungen und Initiativen zur Kontrolle von Biowaffen und sicherheitsrelevanter Forschung auf internationaler Ebene, in der Europäischen Union (EU) und national, wird dann in Kapitel 4 die Diskussion um mögliche Lücken in und die notwendige Stärkung von existierenden Regelungen und Mechanismen präsentiert und erörtert. Im abschließenden Kapitel 5 werden Handlungsfelder und Handlungsoptionen abgeleitet und benannt. Hinweise an die Leser/innen Der vorliegende Bericht und die darin enthaltenen Analysen des TAB beruhen auf öffentlich zugänglichen Daten und Wissensbeständen. Die Basis für die Einschätzungen zu der wohl zentralen Frage der Debatte um KI-Modelle und Biowaffen – nämlich inwieweit diese Modelle die Hürden für Nichtexpert/innen bzw. nicht staatliche Akteure senken könnten, gefährliche biologische Agenzien bzw. Biowaffen herzustellen – bildete eine möglichst evidenzbasierte Herangehensweise. Diese stützte sich auf Ergebnisse empirischer Studien, darunter größere randomisierte und kontrollierte Studien mit Testpersonen, einschließlich erster solcher Untersuchungen in realen biologischen Laboren. In Bezug auf die allermeisten solcher verfügbaren Studien ist allerdings zu beachten, dass diese nicht in begutachteten Fachzeitschriften veröffentlicht wurden und kein entsprechendes, unabhängiges Peer-Review- Verfahren durchlaufen haben. Darüber hinaus setzt die meist fehlende oder nur sehr eingeschränkte Offenlegung der in den Untersuchungen gestellten Fragen bzw. Aufgaben, von (Roh-)Daten sowie der vorgenommenen Bewertungen – meist begründet mit Sicherheitsbedenken – einer unabhängigen Überprüfung der Studienergebnisse enge Grenzen und erschwert die Einschätzung der Relevanz der Ergebnisse. Mit der teilweise detaillierten Diskussion mancher Ergebnisse (aus öffentlich verfügbaren Studien), die – mit den zuvor genannten Einschränkungen – etwa nahelegen, dass KI-Modelle Personen mit begrenzter biowissenschaftlicher Ausbildung zumindest theoretisches Wissen auf Expertenniveau vermitteln können, könnte zwar ein gewisses Aufmerksamkeitsrisiko verbunden sein. Das heißt, dass manche potenziell böswillige Akteure erst durch die Berichterstattung auf diese Möglichkeit(en) aufmerksam werden könnten. Dasselbe gilt für Hinweise im vorliegenden Bericht auf seit längerer Zeit über eine einfache Internetsuche öffentlich verfügbare, potenziell sensible Informationen in wissenschaftlichen Publikationen oder die einfache Umgehung von Sicherheitsmaßnahmen vieler allgemeiner KI-Modelle. Diese Art der Offenlegung erscheint jedoch unumgänglich, um ein realistisches Bild und eine möglichst evidenzbasierte Einschätzung potenzieller Missbrauchsrisiken mit Blick auf politische Meinungsbildung und Entscheidungsfindung zu ermöglichen und um diese Risiken durch vorausschauende Sicherheitsmaßnahmen möglichst wirksam zu minimieren. Die Analyse spiegelt den Stand verfügbarer Studien und die Diskussionen vom Mai 2026 wider. Aufgrund der hohen Dynamik der Entwicklungen bei KI-Modellen, der Molekularbiologie bzw. Biotechnologie sowie deren Zusammenspiel wird die Beurteilung von Biosecurity-Risiken im Zusammenhang mit diesen Entwicklungen ein kontinuierliches Monitoring und gegebenenfalls Anpassungen von Risikoeinschätzungen und geeigneten Maßnahmen erfordern. 2 Molekularbiologische und biotechnologische Entwicklungen und deren Zusammenspiel mit künstlicher Intelligenz 2.1 Biologie wird Technologie: methodische Fortschritte, um biologische Systeme zu verstehen und zu gestalten In den letzten 10 bis 15 Jahren haben sich molekularbiologische Methoden und Möglichkeiten zur Erforschung und zum Verständnis biologischer Prozesse in verschiedensten Organismen, einschließlich des Menschen, rasant weiterentwickelt. Eine zunehmend größere Rolle hat dabei auch der Einsatz von künstlicher Intelligenz (KI) in Form von Verfahren des maschinellen Lernens (Kasten 2.1) für die Analyse biologischer und biomedizinischer Daten erlangt (Donkor et al. 2024; Nature methods 2024) (Kasten 2.2). Kasten 2 .1 Künstliche Intelligenz und maschinelles Lernen Mit künstlicher Intelligenz (KI) wird allgemein der wissenschaftlich-technische Ansatz bzw. die Vision beschrieben, Computer und Software zu entwickeln, die Aufgaben erfüllen, für die bisher menschliche Intelligenz erforderlich war. Viele derzeitige Anwendungen künstlicher Intelligenz (z. B. Sprach- und Bilderkennung, Übersetzungsprogramme, Chatbots wie ChatGPT) beruhen auf einem Teilgebiet der KI, dem maschinellen Lernen (ML). Beim ML verbessern sich Software und Modelle durch Erfahrung unter Verwendung sehr großer Datenmengen automatisch, z. B. um Muster in Daten zu erkennen oder Vorhersagen zu machen (Donkor et al. 2024; Kersting 2018). Eine besonders leistungsfähige und flexible Art von ML, auf der sehr viele aktuelle KI-Modelle beruhen, ist das Deep Learning (DL) (Mienye/Swart 2024). DL-Modelle basieren auf mehreren Schichten softwaresimulierter künstlicher Neuronen (tiefe neuronale Netze) und können verschiedene Architekturen haben, die unterschiedlichen Annahmen über Daten entsprechen und für unterschiedliche Aufgaben verwendet werden (Barbadilla-Martínez et al. 2025; Donkor et al. 2024; Mienye/Swart 2024). Large Language Models (LLMs, große Sprachmodelle) basieren typischerweise auf DL-Methoden und stellen eine spezielle Art von DL-Modellen dar, die ursprünglich darauf ausgelegt wurden, komplexe Texte, Fragen oder Anweisungen zu verarbeiten und kohärente Antworten und Texte zu generieren (Chen et al. 2024b; Donkor et al. 2024). Hierzu gehören Generative-Pre-trained-Transformer(GPT)-Modelle wie ChatGPT oder GPT (von OpenAI), Claude (Anthropic) oder Gemini (Google). LLMs werden mit sehr großen Datensätzen trainiert und können typischerweise mit nur wenig zusätzlichem Trainingsaufwand („fine tuning“) für verschiedene Aufgaben verwendet werden. Aufgrund dieser Eigenschaft werden solche Modelle auch als Basismodelle („foundation models“/Foundationmodelle) bezeichnet (Caballar/Stryker 2025; Chen et al. 2024b; Donkor et al. 2024). Aktuelle Versionen solcher Modelle sind meist multimodal, das heißt, sie können verschiedene Arten (Modalitäten) von Daten verarbeiten und integrieren, z. B. Text, Bilder, Ton oder Video (Chen et al. 2024b; Huang et al. 2024; IBM 2025). So kann ein multimodales Modell z. B. ein Foto als Eingabe erhalten und schriftlich Eigenschaften des Gezeigten, etwa einer Landschaft, zusammenfassen. Die jüngsten Generationen von LLMs sind „reasoning models“; diese wurden so trainiert, dass sie komplexe Probleme in kleinere (Reasoning-)Schritte unterteilen, bevor sie eine endgültige Antwort bzw. Ausgabe generieren (Bergmann 2025; Shojaee et al. 2025). LLMs gehören zu den generativen KI-Modellen. Im Gegensatz zu prädiktiven KI-Modellen, die erkannte Muster in historischen Daten zur Vorhersage künftiger Ereignisse oder von Molekülfunktionen nutzen, verwenden generative Modelle erkannte Muster und Beziehungen in Daten, mit denen sie trainiert wurden, um neue Inhalte zu erstellen, die die Originaldaten (z. B. Text, Bilder oder auch DNA- und Proteinsequenzen) nachahmen (Caballar 2025; Donkor et al. 2024; Gupta et al. 2024). Synthetische Biologie oder „engineering biology“ Mit diesen Fortschritten in der Molekularbiologie wurde es zunehmend möglich, biologische Moleküle, Funktionen und Organismen gezielt umzugestalten oder komplett neu zu entwerfen (zu designen), sodass sie neue, auch zum Teil nicht in der Natur vorkommende Funktionen erfüllen können. Diese neuen Möglichkeiten sind Grundlage der Idee bzw. Vision der Synthetischen Biologie (TAB 2015). Danach soll Biologie zu einer echten Ingenieurwissenschaft bzw. Technologie werden, indem komplexe biologische Funktionen nach zentralen ingenieurwissenschaftlichen Prinzipien wie Modularität, Charakterisierung und Standardisierung, das heißt über die Schaffung bzw. Nutzung standardisierter biologischer Bauteile mit charakterisierter, definierter Funktion, in weitgehend vorhersagbarer Weise verändert oder neu konstruiert werden können (Endy 2005; MPG 2025). Dieser Ansatz bzw. diese Vision von Biologie als Technologie wird zunehmend, insbesondere im Zusammenhang mit der Umsetzung zu spezifischen Anwendungen, auch als „engineering biology“ bezeichnet (Clarke 2020). Sowohl in der Grundlagenforschung als auch in der Medizin und in der industriellen Biotechnologie haben diese neuen molekularbiologischen Möglichkeiten bereits entscheidend zu einigen bahnbrechenden Entwicklungen beigetragen. Hierzu gehören insbesondere (Kapitel 2.3) die Erforschung der Funktion von Genen, zellulärer Prozesse und von Krankheitsursachen (Kim et al. 2024; Li et al. 2023), die Entwicklung von gen- und zellbasierten Therapien für verschiedene Krankheiten sowie von gezielten Krebstherapien (Liu et al. 2024; Patel et al. 2025; Wang et al. 2025a), die Entwicklung von mRNA-Impfstoffen (Pardi/Krammer 2024; Yaremenko et al. 2025) und die Neukonstruktion (Design) bzw. Umgestaltung (Redesign) von Stoffwechselwegen in Mikroorganismen zur industriellen Herstellung verschiedener Substanzen (Le et al. 2025; Liew et al. 2022; Nielsen/Keasling 2016; Shi et al. 2025 und Referenz darin). Zu diesen neuen Möglichkeiten zur Erforschung und der Um- bzw. Neugestaltung biologischer Funktionen und Systeme hat eine Reihe von Fortschritten und Entwicklungen beigetragen. Hierzu gehören: – neue Analysemethoden, wie insbesondere automatisierte und in Hochdurchsatzverfahren arbeitende Sequenzierungstechniken („next generation sequencing“) zur Entschlüsselung des gesamten Erbguts (des Genoms) und davon abgelesener RNA-Moleküle (des Transkriptoms) (Satam et al. 2023), sowie experimentelle Ansätze zur Bestimmung der dreidimensionalen Struktur von biologischen Molekülen, vor allem von Proteinen (Dokholyan 2020). Die neuen Analysemethoden wurden jeweils durch computergestützte Verfahren zum Prozessieren bzw. Analysieren von Daten (Bioinformatik) ermöglicht (Kasten 2.2). – einfachere und vielseitig einsetzbarere gentechnologische Methoden zur Modifikation und Untersuchung der Funktion von Genen und der von ihnen kodierten Moleküle (Proteine, RNA). Quasi beliebige und in großem Maßstab genomweit durchführbare genetische Veränderungen in unterschiedlichsten Zellen und Organismen wurden insbesondere durch molekulare Werkzeuge zur Genomeditierung möglich, die auf dem CRISPR- Cas-System1 basieren (Pacesa et al. 2024; Wang/Doudna 2023). – Methoden zur Synthese von Nukleinsäuresequenzen (DNA, RNA) und für das – teilweise automatisierte – Zusammenfügen (Assemblierung) synthetisierter kürzerer DNA-Stücke zu längeren DNA-Bereichen (Ma et al. 2024b; Seydel 2023), bis hin zu Chromosomen von Hefe-Zellen oder ganzen Genomen mancher Viren und Bakterien (James et al. 2025; Ma et al. 2024b). Diese Methoden haben, zum Teil in Kombination mit gentechnologischen Verfahren, die Veränderung bzw. Generierung neuer biologischer Funktionen oder Organismen stark erleichtert (Fu/Shen 2024; Hughes/Ellington 2017; Kelley et al. 2016). – computergestützte und zunehmend auf künstlicher Intelligenz bzw. maschinellem Lernen (ML) basierende Verfahren (Kasten 2.1): unter anderem zur Analyse von Genomsequenzen und deren Funktionen, zur Vorhersage und zum Design von Proteinstrukturen, Proteinfunktionen und Stoffwechselprozessen sowie zur Automatisierung von Experimenten bzw. Entwicklungsprozessen (Kapitel 2.3). 2.2 Zunehmend große biologische Datensätze haben Molekularbiologie und Biotechnologie für KI zugänglich gemacht Diese neuen Möglichkeiten zur Analyse und (Um-)Gestaltung biologischer Systeme haben zu zunehmend großen Beständen bzw. Datenbanken unterschiedlicher biologischer Daten geführt (Chaudhari et al. 2024; Wainberg et al. 2018). Hierzu gehören insbesondere Omik-Daten2 wie zu Genomsequenzen und deren Funktion (Genomik), 1 CRISPR („clustered regularly interspaced short palindromic repeats“; übersetzt etwa in Gruppen angeordnete, regelmäßig auftretende kurze Palindromwiederholungen). Diese DNA-Bereiche wurden ursprünglich in Bakterien entdeckt und enthalten Teilsequenzen von in die Zellen eingedrungener fremder DNA (z. B. von Viren), die dort eingebaut und so abgespeichert wurden. Diese Sequenzen sind Teil adaptiver Immunsysteme von Bakterien (CRISPR-Cas-Systeme) und existieren in einer Reihe verschiedener Varianten. Cas steht für CRISPR-assoziiert und bezeichnet die Proteinkomponente dieser Systeme, die an eine bestimmte Stelle (Zielsequenz) im Erbgut bindet und dort den DNA-Doppelstrang schneidet, wie im Fall des ursprünglich entdeckten CRISPR-Cas9-Systems oder – ausgehend von der Zielsequenz – den Abbau von DNA und/oder RNA-Sequenzen bewirken kann (Makarova et al. 2020; Nidhi et al. 2021). Die Zielsequenzen werden über von den CRISPR-Bereichen kodierten kurzen RNA-Sequenzen vorgegeben. 2 Der Begriff Omik („omics“) bezeichnet Forschungsbereiche, die sich mit der Untersuchung der Gesamtheit eines bestimmten Typs von biologischen Molekülen oder molekularer Prozesse innerhalb von Zellen oder Organismen befassen. Das Ziel ist, Moleküle und molekulare Prozesse zu identifizieren, zu beschreiben und zu quantifizieren, die zur Form und Funktion von Zellen und Geweben beitragen. Daten zur Regulation bzw. dem Ablesen von Genen in den verschiedenen Körperzellen oder Organen (Epigenomik), zur Gesamtheit der in verschiedenen Zelltypen oder Geweben hergestellten RNA-Moleküle und Proteine einschließlich Daten zur Struktur und Funktion dieser Moleküle (Transkriptomik bzw. Proteomik) oder Daten zu zellulären Stoffwechselprozessen und darin involvierten Enzymen (Metabolomik). Zunehmend spielen im Bereich der Genomik auch Daten zu Funktionen von Genomsequenzen einschließlich genregulatorischer Elemente und kodierender Genbereiche eine Rolle, die in großem Maßstab über CRISPR-Cas-basierte Verfahren zur Genomeditierung erhalten werden können (Pacesa et al. 2024; Wang/Doudna 2023). Während sich die Erforschung und Verwendung computergestützter Verfahren zur Erfassung und Analyse biologischer Daten in der Molekularbiologie bereits seit Ende der 1950er Jahre entwickelten und für das Feld eine wichtige Rolle spielten (Gauthier et al. 2019) (Kasten 2.2), ermöglichten es erst die genannten großen Datensätze, entsprechende KI-Modelle für die molekularbiologische Forschung und für biotechnologische Anwendungen zu entwickeln (Barbadilla-Martínez et al. 2025; Donkor et al. 2024; Rao et al. 2026; Wainberg et al. 2018) (Kasten 2.2). Kasten 2 .2 Von früher Bioinformatik zu KI-Anwendungen Die Erforschung und Verwendung computergestützter Methoden zur Erfassung, Speicherung, Verbreitung und Analyse biologischer Daten bzw. Information – die Bioinformatik – sind vor mehr als 60 Jahren entstanden (Gauthier et al. 2019). Ihre Entwicklung begann somit lange vor der Ära großer biologischer Datenmengen aus automatisierten Genomsequenzierungen oder KI-Verfahren in der Molekularbiologie und Biotechnologie (Abbildung 2.1, Kapitel 2.3) und spielt seit ihren Anfängen eine wichtige Rolle für diese Bereiche (Donkor et al. 2024; Gauthier et al. 2019). Erste computergestützte Methoden zur Analyse von Röntgenkristallografiedaten zur Strukturbestimmung von Proteinen (Kendrew et al. 1958, 1960) und von Proteinsequenzdaten, um längere Proteinsequenzen aus Daten von Peptidsequenzierungen zusammenzusetzen (Dayhoff/Ledley 1962), wurden Ende der 1950er und Anfang der 1960er Jahre entwickelt und angewandt. Ab den 1970er Jahren folgten Programme für den Vergleich von Proteinsequenzen (Murata et al. 1985; Needleman/Wunsch 1970). Nach der Entwicklung von DNA- Sequenzierungsverfahren Mitte der 1970er Jahre (Maxam/Gilbert 1977; Sanger et al. 1977b) wurde 1979 ein erstes Programmpaket verfügbar, um DNA-Sequenzdaten zu längeren Sequenzen zusammenzusetzen und zu analysieren (Staden 1979). Programme, um inzwischen verfügbare Sequenzierungsdaten ganzer Genome zu assemblieren, wurden ab Mitte der 1990er Jahre entwickelt (Gordon et al. 1998; Myers et al. 2000) und waren entscheidend für die Entschlüsselung des menschlichen Genoms (Lander et al. 2001; Venter et al. 2001). Insbesondere neue Generationen von automatisierten und in Hochdurchsatzverfahren arbeitenden Sequenzierungstechniken („next generation sequencing“) ermöglichten zunehmend die Gewinnung großer Datensätze zu Genomsequenzen, zu epigenetischen DNA-Markierungen, die die Aktivität von Genen beeinflussen, oder dazu, wann welche Gene in welchen Zellen abgelesen werden und welche Genprodukte entstehen (Satam et al. 2023). Darüber hinaus wurden durch Fortschritte in verschiedenen Techniken zur experimentellen Bestimmung der dreidimensionalen (3D-)Struktur von größeren Molekülen (Carugo/Djinović-Carugo 2023; Dokholyan 2020) insbesondere große Mengen von Daten zur 3D-Struktur von Proteinen generiert und in der weltweiten Proteindatenbank wwPDB.org3 zugänglich gemacht (Carugo/Djinović-Carugo 2023; wwPDB consortium 2019). Mit solchen zunehmend großen Datenbeständen wurde es möglich, KI-Modelle für biologische Fragestellungen, vor allem mit flexiblen und leistungsfähigen DL-Modellen (Kasten 2.1) zu entwickeln. Erste solche biologische KI-Modelle zur Vorhersage molekularer Merkmale bzw. Funktionen (Phänotypen) von nicht kodierenden Genomsequenzen (z. B. Effekte von genetischen Varianten auf das Ablesen von Genen oder das Entstehen von alternativen [Spleiß-]Formen von mRNA) entstanden seit ca. dem Jahr 2010 (Barbadilla-Martínez et al. 2025; Sokolova et al. 2024). Ab Anfang der 2020er Jahre folgten dann biologische Modelle (darunter auch solche, die analog zu LLMs arbeiten, Kasten 2.1) zur hochgenauen Proteinstrukturvorhersage (Baek et al. 2021; Jumper et al. 2021; Lin et al. 2023), zum Design von Proteinstrukturen und -funktionen (Hayes et al. 2025; Watson et al. 2023) sowie zur Analyse und zum Design von Genomsequenzen und/oder Proteinen (Brixi et al. 2026; Hayes et al. 2025; Nguyen et al. 2024). 3 Die weltweite Proteindatenbank wwPDB.org dient seit 1971 als zentrales Archiv für experimentell ermittelte 3D-Strukturdaten von Proteinen, Nukleinsäuren und deren Komplexen mit Metallen und kleinen Molekülen. Sie wird durch ein internationales Konsortium verwaltet, das gemeinsam die Hinterlegung, Validierung und frei zugängliche Verbreitung von 3D-Strukturdaten zu Makromolekülen beaufsichtigt. Abbildung 2.1 Zeitleiste mit Meilensteinen von der frühen Bioinformatik zur Entwicklung und Nutzung von KI Eigene Darstellung 2.3 KI-Modelle haben bereits eine Reihe neuer Entwicklungen mit großem Potenzial für die Forschung und Anwendung ermöglicht Sowohl akademische Forschungseinrichtungen als auch Biotech- und andere Technologieunternehmen haben biologische KI-Modelle (Kasten 2.3) basierend auf Deep-Learning-Verfahren für verschiedene Fragestellungen in der Grundlagenforschung bis hin zu einer Reihe von Anwendungen in der Biotechnologie und Medizin entwickelt und eingesetzt (Tabelle 2.1). Kasten 2 .3 KI-Modelle in der Molekularbiologie und Biotechnologie In der Molekularbiologie oder Biotechnologie eingesetzte KI-Modelle bzw. -Systeme lassen sich nach der Art der Daten, mit denen sie trainiert wurden, und der Ergebnisse, die sie produzieren, in drei große Kategorien einteilen: – Große Sprachmodelle (LLMs): Diese werden mit natürlicher Sprache trainiert und produzieren typischerweise Ausgaben in natürlicher Sprache bzw. Texten. Bei multimodalen Modellen (Large multimodal models – LMMs) werden zusätzlich weitere Datenarten wie Bilder oder Videomaterial verwendet (Kasten 2.1). LLMs bzw. LMMs umfassen auch domänenspezifische Modelle, die beispielsweise mit biomedizinischen Datensätzen (z. B. Literatur, biomedizinische Bilddaten, elektronische Patientenakten) trainiert wurden. – Biologische Modelle: Ihr Training erfolgt mit biologischen Daten (z. B. DNA- oder Proteinsequenzen, Molekülstrukturen oder -funktionen) und sie liefern Vorhersagen bzw. Vorschläge für Sequenzen und Strukturen biologischer Moleküle oder zu deren Funktion. Diese Modelle beruhen in der Regel auf Deep-Learning- Verfahren (Kasten 2.1), darunter auch Proteinsprachmodelle und DNA- bzw. Genomsprachmodelle, in denen Proteinsequenzen bzw. die vier DNA-Bausteine (Nukleotide), ähnlich zu natürlicher Sprache, als Abfolgen von Buchstaben dargestellt werden (Kapitel 2.3.1). – Agentensysteme wie autonome Labore („self-driving labs“) oder Roboterwissenschaftler („robot scientists“): Solche Systeme kombinieren verschiedene KI-Modelle, einschließlich LLMs, mit automatisierten Laborplattformen. Sie erlauben es, in autonomer Weise (als Agenten) Entwürfe zu generieren und zu optimieren, indem KI-basierte (in silico) Vorhersagen bzw. Designs im Labor automatisch erstellt, experimentell getestet und optimiert werden (Kapitel 2.3.4). Tabel le 2.1 Beispiele für die Verwendung von KI-Modellen bzw. -Systemen in der Molekularbiologie oder Biotechnologie Kategorie Modelltyp Verwendung Beispiele große Sprachmodelle (LLMs) allgemeine („general purpose“) Modelle, oft auch multimodal Textmining und Wissensentdeckung Unterstützung bei Erstellung wissenschaftlicher Hypothesen GPT (OpenAI 2025f); Claude (Anthropic 2025a); DeepSeek-R1 (deepseek o. J.); Gemini (Google Deep- Mind 2025b); Llama (Meta 2026) domänenspezifische („scientific“) Modelle; (weiter)trainiert z. B. mit biomedizinischen Daten wie Literatur und Bildmaterial Textmining und Wissensentdeckung Unterstützung bei Erstellung wissenschaftlicher Hypothesen BioGPT (Luo et al. 2022); Bio MedLM (Bolton et al. 2024); Med-PaLM 2 (Singhal et al. 2025); BiomedCLIP (Zhang et al. 2025c) biologische KI- Modelle Modelle zur Vorhersage biologischer Funktionen oder Strukturen* Funktion von DNA-Sequenzen bzw. genetischen Varianten (z. B. Ablesen von Genen, alternative mRNA-Formen, Effekte auf Proteinfunktion) ExPecto (Zhou et al. 2018); SpliceAI (Jaganathan et al. 2019); Enformer (Avsec et al. 2021); ESM1b (Brandes et al. 2023); AlphaMissense (Cheng et al. 2023); Borzoi (Linder et al. 2025); AlphaGenome (Avsec et al. 2026); Evo 2 (Brixi et al. 2026) Proteinstruktur, Strukturen von Proteinen mit anderen Molekülen AlphaFold2 (Jumper et al. 2021); RoseTTAFold (Baek et al. 2021); ESM- Fold (Lin et al. 2023); AlphaFold3 (Abramson et al. 2024); RoseTTA- Fold All-Atom (Krishna et al. 2024); Boltz-1 (Wohlwend et al. 2024); Boltz-2 (Passaro et al. 2025) Kategorie Modelltyp Verwendung Beispiele Biodesignmodelle („bio-design tools“) Design von Proteinstrukturen (z. B. für ligandenbindende Proteine, Enzyme, Antikörper, Impfstoffe, virale Hüllproteine) DeepVacPred (Yang et al. 2021); Vaxign-DL (Zhang et al. 2023b); RFdiffusion (Watson et al. 2023); Chroma (Ingraham et al. 2023); Pro- Gen (Madani et al. 2023); Protein- VAE (Lyu et al. 2024); Bind- Craft (Pacesa et al. 2025); ESM3 (Hayes et al. 2025); JAM (Bio/Biswas 2025a); RFdiffusion3 (Butcher et al. 2025) Design von DNA-Molekülen (z. B. genregulatorische Sequenzen, Genomabschnitte, Genome bakterieller Viren [Phagen]) DeepSEED (Zhang et al. 2023a); DNA-Diffusion (DaSilva et al. 2024); (King et al. 2025); Evo 2 (Brixi et al. 2026) Design von niedermolekularen Substanzen z. B. als Kandidaten für Medikamente Chemistry42 (Ivanenkov et al. 2023); Reinvent 4 (Loeffler et al. 2024); MedSAGE (Powers et al. 2025) autonome Agentensysteme „self-driving labs“ oder Roboterwissenschaftler Identifizierung/ Funktionsbestimmung von Genen in Hefe Adam (King et al. 2009) Optimierung von mikrobiellen Stoffwechselwegen BioAutomata (HamediRad et al. 2019) Synthese von chemischen Substanzen oder möglichen Medikamenten Coscientist (Boiko et al. 2023); ChemCrow (Bran et al. 2024) Veränderung/Optimierung von Enzymen SAMPLE (Rapp et al. 2024); A generalized platform for AI-powered autonomous enzyme engineering (Singh et al. 2025) Systeme zur Ausführung von Forschungsaufgaben, Planung von Experimenten Generierung von Hypothesen, bioinformatische Analysen, Planung biomedizinischer Experimente (unter anderem zur Umwidmung von Medikamenten, Diagnose seltener Krankheiten) Biomni (Huang et al. 2025) Planung von Genomeditierungsexperimenten (unter anderem Auswahl von CRISPR-Systemen, Deliverymethoden, Erstellung von Protokollen) CRISPR-GPT (Qu et al. 2026) * Modelle zur Vorhersage biologischer Strukturen sind teilweise auch Bestandteile von „bio-design tools“ (BDT) bzw. werden mit diesen kombiniert. Von manchen Autor/innen werden diese Modelle auch unter den Begriff BDT gefasst. Eigene Zusammenstellung 2.3.1 Grundlagenforschung Eine zentrale Herausforderung der Biologie und der Biomedizin besteht darin, zu verstehen, wie die DNA- Sequenzen des Erbguts und individuelle Unterschiede bzw. Mutationen darin, Merkmale beeinflussen oder zu Krankheiten führen können. Um die zugrunde liegenden molekularen und zellulären Mechanismen zu verstehen, ist es auch notwendig, die Funktionsweise von Molekülen, wie insbesondere von Proteinen, als zentrale Akteure für zelluläre Funktionen und Strukturen, auf molekularer Ebene zu verstehen. Das Erbgut und Ursachen von Krankheiten verstehen Insbesondere ab Mitte der 2010er Jahre wurden zahlreiche DL-basierte Modelle entwickelt, um zu analysieren und zu verstehen, wie verschiedene Genomsequenzen und damit wechselwirkende Proteine physiologische Mechanismen in Zellen und Merkmale von Organismen bestimmen oder in die Entstehung von Krankheiten involviert sind (König et al. 2021; Sokolova et al. 2024; Wainberg et al. 2018; Zou et al. 2019). Letzteres beinhaltet die Identifizierung vererbter oder (während der Keimzellbildung oder der frühen Embryonalentwicklung) neu entstandener genetischer Varianten, die ursächlich die Ausprägung von Merkmalen oder Krankheiten beeinflussen.4 Die meisten mit komplexen Merkmalen oder häufigen Krankheiten assoziierten genetischen Varianten betreffen Genomsequenzen, die keine Proteine kodieren und deren Funktion deshalb besonders schwer zu erkennen und vorherzusagen ist (Halldorsson et al. 2022; Lappalainen/MacArthur 2021). Eine Reihe von Publikationen legt nahe, dass verschiedene DL-Modelle molekulare Funktionen solcher Genomsequenzen bzw. -varianten vorhersagen können (als Übersicht Sokolova et al. 2024; hierzu auch Avsec et al. 2026 und Referenz darin). Hierzu gehören insbesondere gewebe- und zelltypspezifische Veränderungen im Ablesen von Genen (Avsec et al. 2021, 2026; Sokolova et al. 2023; Zhou et al. 2018) oder die Herstellung verschiedener mRNA-Formen von einem Gen (das alternative prä-mRNA-Spleißen) (Avsec et al. 2026; Jaganathan et al. 2019; Rosenberg et al. 2015; Zeng/Li 2022), aus denen unterschiedliche Proteinformen hergestellt werden. Einige, vor allem neuere, Modelle ermöglichen Vorhersagen zu mehreren unterschiedlichen Funktionen bzw. Effekten von Genomsequenzen und genetischen Varianten (das heißt, sie sind multimodal), wie bezüglich Interaktionen mit genregulierenden Proteinen, dem Ablesen von Genen in verschiedenen Zelltypen, dem Spleißen von prä-mRNAs oder der Interaktion zwischen Genombereichen (Avsec et al. 2021, 2026; Chen et al. 2022; Linder et al. 2025). Solche Modelle wurden auch genutzt, um mutmaßlich ursächliche Varianten für verschiedene Erkrankungen wie neurologische oder immunologische Störungen aufzuzeigen (Jaganathan et al. 2019; Wang et al. 2018; Zhou et al. 2018, 2019). Allerdings wurden in diesen Arbeiten zur Validierung der Vorhersagen keine (Jaganathan et al. 2019; Wang et al. 2018) oder keine solchen funktionellen Experimente durchgeführt, welche die Varianten und ihre vorhergesagten Auswirkungen direkt mit einem Krankheitsphänotyp verknüpfen (Zhou et al. 2018, 2019).5 Darüber hinaus wurden DL-Modelle entwickelt, die Effekte von genetischen Varianten in proteinkodierenden Genombereichen auf Funktionen der kodierten Proteine mit einer Genauigkeit vorhersagen können, die der von Einschätzungen basierend auf funktionellen Hochdurchsatzexperimenten für Varianten6 entspricht (Brandes et al. 2023; Cheng et al. 2023; Dunham et al. 2023; Frazer et al. 2021). Unter diesen Modellen sind auch ähnlich wie LLMs funktionierende Proteinsprachmodelle („protein language models“)7 (Brandes et al. 2023; Dunham et al. 4 Im Gegensatz zu Varianten, die (über genomweite Assoziationsstudien) nur statistisch mit einer Krankheit assoziiert sind, beeinflussen solche, kausalen genetischen Varianten einen molekularen oder zellulären Prozess, der sich auf eine Krankheit auswirkt (Tam et al. 2019). 5 So wurden die Varianten nicht in das Genom krankheitsrelevanter Zell- oder Tiermodelle eingeführt. Vielmehr wurden die vorhergesagten funktionellen Auswirkungen (z. B. Richtung und Ausmaß der Veränderungen in der Genexpression) durch künstliche Reportergenkonstrukte bestätigt, die in Zelllinien eingeführt wurden (Zhou et al. 2018, 2019). 6 Solche Experimente werden typischerweise für die funktionelle Klassifizierung genetischer Varianten (z. B. als wahrscheinlich pathogene Varianten) verwendet und können die Auswirkungen von sehr vielen Mutationen parallel erfassen, derzeit vor allem in zellbasierten Modellen. Sie werden manchmal allgemein als „multiplex-assays of variant effect“ bezeichnet und umfassen unter anderem „deep mutational scanning“, „massively parallel reporter assays“ und das „saturation genome editing“ (Findlay 2021; Lappalainen/MacArthur 2021). 7 Ähnlich zur menschlichen Sprache lassen sich auch Proteinsequenzen als Abfolgen von Buchstaben darstellen, typischerweise bestehend aus den 20 gängigen Aminosäuren. Des Weiteren setzen sich Proteine in der Regel aus modularen Elementen (Motive, Domänen) zusammen. In dieser Analogie sind gemeinsame Proteinmotive und -domänen, die die grundlegenden strukturellen und funktionellen Bausteine von Proteinen darstellen, mit Wörtern, Phrasen und Sätzen in der menschlichen Sprache vergleichbar und können mit den prinzipiell selben computergestützten Verfahren analysiert und modelliert werden (Ofer et al. 2021; Valentini et al. 2023). 2023; Vieira et al. 2026). Auch für analog zu Proteinsprachmodellen arbeitende große DNA- bzw. Genomsprachmodelle („genome language models“)8 konnte gezeigt werden, dass vorhergesagte Effekte kodierender und nichtkodierender genetischer Varianten in Einklang mit Ergebnissen funktioneller Hochdurchsatz-Experimente sind (Benegas et al. 2025; Brixi et al. 2026; Feng et al. 2025). Molekülstrukturen und das Verständnis molekularer und zellulärer Prozesse Für das mechanistische Verständnis molekularer und zellulärer Prozesse und ihrer Beteiligung an Krankheiten (sowie für die Entwicklung von Arzneimitteln; Kapitel 2.3.2) spielen Informationen über die 3D-Struktur biologischer Makromoleküle wie Nukleinsäuren, Proteine und Komplexe solcher Moleküle miteinander oder von Proteinen mit Signalmolekülen (z. B. Hormone, Wachstumsfaktoren) eine wichtige Rolle. Wissen zu entsprechenden Molekülstrukturen hat entscheidend zur Aufklärung von Schlüsselprozessen des Lebens einschließlich der Struktur und Replikation des genetischen Materials, des Ablesens von Genen, der Herstellung von Proteinen, zellulärer Transportprozesse oder von Funktionen des Immunsystems beigetragen (Beck et al. 2024 und Referenz darin). Solche Strukturen experimentell zu bestimmen, erfordert zeit- und ressourcenaufwendige experimentelle Methoden, wie die Röntgenstrukturanalyse von Kristallen, die magnetische Kernresonanzspektroskopie oder die Kryoelektronenmikroskopie (Carugo/Djinović-Carugo 2023; Dokholyan 2020). Ein Durchbruch in der computerbasierten Modellierung der 3D-Struktur von Proteinen, basierend auf den die Proteine kodierenden Gen- bzw. Aminosäuresequenzen, konnte mit der Entwicklung und Veröffentlichung von DL-Modellen mit hochgenauer Vorhersagekraft, wie insbesondere AlphaFold2 im Jahr 2021 (Jumper et al. 2021)9, erzielt werden (Bertoline et al. 2023; Chen et al. 2024a). Im selben Jahr wurde in einer Partnerschaft zwischen Google DeepMind (dem Unternehmen, welches das Modell entwickelte) und dem EMBL-European Bioinformatics Institute (EMBL-EBI)10 die AlphaFold Protein Structure Database geschaffen. Diese umfasst über 200 Mio. Einträge zu Strukturvorhersagen menschlicher Proteine und Proteinen von 47 weiteren Organismen, die (ebenso wie das Modell und sein Quellcode) der wissenschaftlichen Gemeinschaft frei zur Verfügung stehen. Darüber hinaus wurden neue Modellierungsmethoden veröffentlicht, die auf Proteinsprachmodellen beruhen. Solche Modelle, wie EMBER2 (Weissenow et al. 2022) oder ESMFold (Lin et al. 2023), können bestimmte Einschränkungen von Modellen wie AlphaFold2 überwinden, die sich hauptsächlich auf Vergleiche mit Sequenzen ähnlicher Proteine („multiple sequence alignments“ – MSA) stützen. Solche Einschränkungen bestehen in Bezug auf die Vorhersage neuartiger Strukturen (das heißt ohne Ähnlichkeiten zu Einträgen in Datenbanken) sowie der relativ langen Rechenzeit, die die Suche nach MSAs in Proteindatenbanken erfordert (Bertoline et al. 2023). Schließlich wurden Modelle wie AlphaFold 3 (Abramson et al. 2024) oder RoseTTAFold All-Atom (Krishna et al. 2024) vorgestellt, mit denen die 3D-Strukturen von Komplexen aus verschiedenen Molekülen modelliert bzw. vorhergesagt werden können, z. B. von Proteinen mit anderen Proteinen, mit Nukleinsäuren (DNA, RNA) oder mit verschiedenen Liganden wie körpereigenen Signalmolekülen, Metallionen oder niedermolekularen, als Medikamente verwendeten Substanzen11 (Rennie/Oliver 2025 und Referenz darin). Seit der Einführung solcher KI-basierter Modelle für Proteinstrukturvorhersagen wurden diese bereits in zahlreichen Arbeiten, teilweise in Kombination mit experimentellen Methoden zur Strukturbestimmung, erfolgreich angewendet. Diese Anwendungen reichen von der Charakterisierung viraler Proteine über die Identifizierung oder Charakterisierung von Proteinen, die bei der Entstehung und Bekämpfung von Tumoren oder neurodegenerativen Erkrankungen relevant sein können, bis hin zum Verständnis des Mechanismus, wie Spermien an Eizellen binden (Deneke et al. 2024; Krokidis et al. 2025; Rennie/Oliver 2025 und Referenz darin). 8 Ähnlich zu menschlicher Sprache werden bei diesen Modellen Genomsequenzen und DNA-Sequenzmotive, bestehend aus den vier DNA-Nukleotiden, als Abfolge von Buchstaben behandelt. 9 Für die Entwicklung dieses bahnbrechenden KI-Modells zur Proteinstrukturvorhersage wurden die Forscher Demis Hassabis und John Jumper von Google DeepMind mit dem Nobelpreis für Chemie im Jahr 2024 ausgezeichnet (The Nobel Prize in Chemistry 2024). 10 Das EMBL-EBI in Hinxton (UK) ist einer der sechs Standorte des Europäischen Laboratoriums für Molekularbiologie (EMBL), einer zwischenstaatlichen Forschungsorganisation, die von über 20 Staaten finanziert wird. 11 Wirkstoffe werden als niedermolekular bezeichnet, wenn ihre Molekülmasse einen bestimmten Wert (800 g·mol−1) nicht übersteigt. Hierzu gehören mehr als 90 % aller Medikamente, darunter Antibiotika (z. B. Penicillin), schmerzstillende oder schmerzlindernde Arzneimittel (z. B. Paracetamol) sowie synthetische Hormone (z. B. Kortikosteroide, die wie Kortisol wirken) (PharmaWiki 2025; Southey/Brunavs 2023). 2.3.2 Entwicklung von Medikamenten Medikamente entwickelnde Unternehmen stehen kontinuierlich vor der Herausforderung, die Effizienz der in der Regel langwierigen, kostspieligen und risikoreichen Prozesse für Forschung und Entwicklung (FuE) neuer Medikamente bis hin zur Marktzulassung (Schlander et al. 2021; Wouters et al. 2020) zu erhöhen (Fernald et al. 2024). Zu den Gründen gehören Einnahmeverluste aufgrund ablaufender Patente von Arzneimitteln, steigende Betriebs- und Rohstoffkosten (z. B. durch Inflation, geopolitische Faktoren, protektionistische politische Maßnahmen) oder der Preisdruck infolge kostenbeschränkter Gesundheits- bzw. Erstattungssysteme (Alsumidaie 2024; GlobalData 2023). Ein wesentlicher Faktor für die anhaltenden Produktivitätsprobleme der Branche sind hohe Misserfolgs- und Abbruchraten von Medikamentenentwicklungen vor allem in späten (und teuren) Phasen von klinischen Studien12 (Fernald et al. 2024; Sun et al. 2022). Die hohe Misserfolgsquote bei klinischen Versuchen (über alle Phasen ca. 90 %) (Smietana et al. 2016; Sun et al. 2022) wird oft auf Probleme zurückgeführt, die in frühen Entwicklungsphasen liegen, wie der dort oft nicht belastbar möglichen Validierung von Zielmolekülen oder Identifizierung suboptimaler Eigenschaften von Wirkstoffkandidaten (z. B. Aufnahme, Verteilung oder Giftigkeit im Körper) (Catacutan et al. 2024; Sadybekov/Katritch 2023 und Referenz darin). Verschiedene KI-gestützte Ansätze können entlang des gesamten FuE-Prozesses eingesetzt werden: von der Identifizierung von Zielmolekülen für Medikamente und der Identifizierung oder dem Design möglichst geeigneter Kandidatenmoleküle für Wirkstoffe (Entdeckungsphase/„drug discovery“) über die mögliche Umwidmung existierender Arzneimittel („drug repurposing“) bis hin zur Planung und Durchführung von klinischen Studien (Zhang et al. 2025b). Die meisten Veröffentlichungen und Informationen zu mithilfe von KI entwickelten Kandidaten für Medikamente fokussieren auf bzw. stammen aus Anwendungen von KI-Verfahren in der Entdeckungsphase (Catacutan et al. 2024; Dharmasivam et al. 2026; KP Jayatunga et al. 2024; Sadybekov/Katritch 2023). Dort sollen sie insbesondere helfen, schneller, umfangreicher und kostengünstiger vielversprechende Angriffsziele für Medikamente und/oder aussichtsreiche Wirkstoffkandidaten zu identifizieren. Verwendet wurden KI-basierte Ansätze bisher vor allem für: – die Identifizierung möglicher Zielmoleküle (z. B. DNA, RNA, Proteine) über spezielle DL-Netzwerke, die Daten zu komplexen Prozessen in Grafenstruktur (juliensuze 2026) nutzen, um krankheitsbezogene molekulare Muster und potenzielle kausale Zusammenhänge erkennen und mögliche Angriffsziele für Medikamente vorhersagen zu können. Solche von den DL-Netzwerken genutzte Daten stammen vor allem aus Gen- und Proteinnetzwerken (Multi-omics-Daten), zum Teil in Kombination mit über domänenspezifische LLMs ausgewerteter biomedizinischer Literatur (Ren et al. 2025; Zhang et al. 2025b und Referenz darin). – das virtuelle Screening (in silico) von zunehmend großen Substanzbibliotheken (aus existierenden Substanzen oder virtuellen, also computergestützt generierten, synthetisierbaren chemischen Verbindungen) nach möglichen Kandidaten für Wirkstoffe bzw. Medikamente (Catacutan et al. 2024; Sadybekov/Katritch 2023 und Referenz darin). Dazu werden zum einen DL-Modelle, die strukturbasiert das Andocken von Substanzen (Liganden) an ein bestimmtes Zielmolekül vorhersagen können (Bender et al. 2021; Gentile et al. 2022) genutzt, um mit dem Zielmolekül potenziell interagierende Moleküle zu identifizieren. Zum anderen können, unter Verwendung von DL-Modellen zur Quantifizierung von Struktur-Wirkungs-Beziehungen, bestimmte Funktionen oder Eigenschaften von Substanzen, wie eine antibiotische Wirkung (Liu et al. 2023; Stokes et al. 2020), vorhergesagt werden. – das De-novo-Design13 von Arzneimitteln. Zur Schaffung molekularer Strukturen mit gewünschten Eigenschaften werden insbesondere generative DL-Modelle verwendet (Zhang et al. 2025b). Solche Modelle wurden beispielweise zur Entwicklung von niedermolekularen Inhibitoren (Ivanenkov et al. 2023; Loeffler et al. 2024; Ren et al. 2025; Schneuing et al. 2024), von antimikrobiellen Peptiden (Pandi et al. 2023) und neuen 12 Klinische Studien werden typischerweise in vier Phasen durchgeführt. In Phase 1 werden neue Behandlungen bzw. Medikamente erstmals an Menschen, meist an einer kleineren Gruppe gesunder Proband/innen eingesetzt, um Verträglichkeit und Sicherheit zu untersuchen. In Phase 2 wird ein Medikament dann bei kleineren Gruppen von Patient/innen untersucht, mit dem Ziel die optimale Dosierung zu finden und erste Daten zur Wirksamkeit zu erhalten. In Phase 3 sollen an größeren Patientengruppen möglichst verlässlich Wirksamkeit und Verträglichkeit bestimmt werden. Hersteller können in der Regel erst nach positiven Ergebnissen der Phase 3 die Zulassung für ein Medikament beantragen. Phase 4 beginnt, nachdem ein Medikament zugelassen und auf dem Markt ist. Sie dient vor allem der Beobachtung bzw. Überwachung der routinemäßigen Anwendung der Behandlung, um mögliche auftretende seltenere Nebenwirkungen zu erfassen und darauf ggf. reagieren zu können (TAB 2023, S. 81 f.). 13 Dieses zielt darauf ab, Moleküle von Grund auf neu zu entwerfen, die spezifische chemische und pharmakologische Eigenschaften besitzen. Strukturen mit Antibiotikawirkung (Krishnan et al. 2025), sowie von funktionellen Proteinen (Notin et al. 2024) wie Impfstoffen (Walls et al. 2020; Wohlwend et al. 2025; Yang et al. 2021; Zhang et al. 2023b), Antikörpern (Bio/Biswas 2025a, 2025b; Shanehsazzadeh et al. 2024) oder neuartigen Gegenmitteln für Schlangengifte (Vázquez Torres et al. 2025) genutzt. Bahnbrechende Arbeiten zur Entwicklung von ersten generativen Modellen (wie RFdiffusion) (Watson et al. 2023), die das Design von komplexen Proteinstrukturen ermöglichen, wurden 2024 mit dem Nobelpreis für Chemie14 ausgezeichnet (The Nobel Prize in Chemistry 2024). Erste multimodale generative Modelle für das Design von Proteinen, wie das Proteinsprachmodell ESM3 (Callaway 2024a; Hayes et al. 2025), oder von niedermolekularen Substanzen (Deng et al. 2025) können es dabei ermöglichen, Designs mithilfe von Beschreibungen ihrer Eigenschaften und Funktionen in natürlicher Sprache zu spezifizieren (Callaway 2025). Darüber hinaus können Modelle Vorhersagen zu Eigenschaften von Wirkstoffkandidaten (Absorption, Verteilung, Metabolismus, Ausscheidung oder Toxizität) machen und so die Auswahl von Substanzen für präklinische Tests und klinische Studien unterstützen oder bei der Syntheseplanung und Automatisierung der Synthese niedermolekularer Wirkstoffe helfen. Generell müssen alle Modellvorhersagen jedoch durch In-vitro-Tests (z. B. Zelloder Gewebekulturen, Organoide) und/oder In-vivo-Untersuchungen (in Tiermodellen) experimentell validiert werden (Catacutan et al. 2024; Zhang et al. 2025b und Referenz darin). Eine wachsende Zahl von mit KI entwickelten Kandidaten für Medikamente Zum Zeitpunkt der Fertigstellung dieses Berichts (Mai 2026) gab es noch kein mit KI-Ansätzen entdecktes bzw. entwickeltes Medikament mit Marktzulassung. In den letzten 5 bis 7 Jahren wurde jedoch eine wachsende Zahl entsprechender Kandidaten für Zielmoleküle und/oder Medikamente beschrieben, die frühe Phasen (vor allem Phase I, aber auch Phase II) klinischer Studien erreicht haben (Dharmasivam et al. 2026; Fu/Chen 2025; KP Jayatunga et al. 2024; Wilczok/Zhavoronkov 2025). In einer Übersichtsarbeit wurde die Erfolgsrate in klinischen Studien untersucht und gefolgert, dass diese in Phase I deutlich höher (80 bis 90 %) war als der historische Durchschnitt für Medikamente in Phase I-Studien (von maximal 55 bis 65 %); die Erfolgsrate in Phase II von ca. 40 % unterschied sich hingegen nicht vom historischen Durchschnitt (KP Jayatunga et al. 2024). Die Autoren der Studie weisen darauf hin, dass eine solche Erhöhung der Erfolgsrate in Phase I die Gesamtwahrscheinlichkeit für ein Molekül, alle klinischen Phasen erfolgreich zu durchlaufen, von 5 bis 10 % auf etwa 9 bis 18 % erhöhen und damit die FuE-Produktivität insgesamt fast verdoppeln könnte (KP Jayatunga et al. 2024). Kritisch anzumerken bezüglich der möglichen Relevanz dieser Ergebnisse ist die kleine Zahl (24) der untersuchten bzw. verfügbaren klinischen Studien, auf denen die Ergebnisse beruhen (KP Jayatunga et al. 2024; Lowe 2024). Ob solche KI-basierten Methoden zur Entdeckung von Zielmolekülen und/oder Kandidaten für Medikamente die Entwicklungszeiten, z. B. bis zur Aufnahme klinischer Studien, tatsächlich verringern werden, ist schwer zu beurteilen, da Pharma- und Biotechnologieunternehmen in der Regel keine Angaben zu konkreten Zeitlinien, Kosten oder Erfolgsquoten einzelner Projekte machen (Wilczok/Zhavoronkov 2025). Manche Autoren haben diesen Zeitraum mit bisherigen Verfahren auf um die 2 Jahre (Agrawal et al. 2023) bis ca. 5 Jahre (Jayatunga et al. 2022; Paul et al. 2010) geschätzt. Basierend auf dem Zeitpunkt von Patenten, Veröffentlichungen und öffentlichen Bekanntmachungen schätzten Jayatunga et al. (2022), dass mehrere KI-gestützte Projekte diesen Entwicklungszeitraum in weniger als 4 Jahren durchlaufen haben. In einer kürzlich veröffentlichten Arbeit zur KI-basierten Identifizierung eines neuen Zielmoleküls und eines Medikamentenkandidaten dafür wurden 18 Monate bis zum Beginn klinischer Studien angegeben (Ren et al. 2025; zitiert in Wilczok/Zhavoronkov 2025). 2.3.3 Diagnose und Überwachung von Krankheiten bzw. Krankheitserregern Klinische Praxis – Diagnose und Vorhersagen zu Risiken und Therapien KI-Ansätze, die vor allem auf maschinellen Lernverfahren basieren, haben durch die Verknüpfung von Genom- und anderen Omik-Daten mit klinischen Daten (z. B. zu Krankheitsverläufen, Markermolekülen oder medizinischen Bilddaten) neue Diagnoseverfahren ermöglicht. Hierzu gehört die Diagnose von seltenen genetischen Er- 14 Für seine Arbeiten zum computergestützten Proteindesign erhielt David Baker (University of Washington, USA) den Preis zusammen mit Demis Hassabis und John Jumper (beide Google Deepmind, London, UK), die KI-Modelle entwickelt haben, um die 3D-Struktur von Proteinen hochgenau vorherzusagen (Kapitel 2.3.1). krankungen bei Kindern. Zu diesem Zweck wurden beispielsweise Entscheidungsunterstützungssysteme entwickelt, die mit genetischen Varianten von diagnostizierten Fällen und mit Symptomen der Patient/innen trainiert wurden (Mao et al. 2024) oder die veränderte Gesichtsmerkmale mit Symptomen und genetischen Veränderungen in Genen verknüpfen (Hsieh et al. 2019, 2022). Ein Beispiel aus der Onkologie sind Ansätze, um in Körperflüssigkeiten wie Blut oder Urin kleinste Mengen von zirkulierender DNA und RNA oder andere von Tumoren bzw. Tumorzellen stammende Bestandteile (z. B. zirkulierende Tumorzellen, Proteine oder von den Tumorzellen abgegebene Vesikel mit Molekülen, wie bestimmte nicht kodierende RNAs) zu analysieren (Flüssigbiopsien) und für Diagnosen nutzen zu können. Diagnosen bzw. belastbare Hinweise für weitere Untersuchungen sollen so bereits sehr früh möglich werden, also bevor größere Tumore oder Metastasen vorhanden sind und ohne oft nur schwierig oder nicht durchführbare Gewebeentnahmen (Biopsien). Darüber hinaus können die Verfahren zum Echtzeitmonitoring der Tumorentwicklung bei Therapien genutzt werden (Ma et al. 2024a; Tivey et al. 2024; Wan et al. 2025). ML-Verfahren sind dabei essenziell, um Genom- und andere Omikdaten (vor allem von bestimmten chemischen Markierungen an der DNA, den Methylierungen, die die Aktivität von Genen mitbestimmen) zu analysieren (Cristiano et al. 2019; Jamshidi et al. 2022; Kim et al. 2023b; Shen et al. 2018; Widman et al. 2024). In den letzten 10 Jahren wurden einige solcher Ansätze für die gleichzeitige Früherkennung mehrerer Krebsarten („multi-cancer early detection“) von prinzipiellen Machbarkeitsstudien (Proof-of-Concept-Studien) hin zu großen klinischen Studien (Fred Hutch Cancer Center 2025; Neal et al. 2022) entwickelt (Wan et al. 2025). Erregerüberwachung für die Entscheidungsfindung im Bereich der öffentlichen Gesundheit Die Überwachung von für die öffentliche Gesundheit relevanten Krankheitserregern (z. B. von antibiotikaresistenten Keimen) wird meist routinemäßig in Krankenhäusern, in Abwässern bzw. Kläranlagen (z. B. während der COVID-19-Pandemie) (Levy et al. 2023 und Referenz darin) und in landwirtschaftlichen Betrieben durchgeführt. Das Ziel dieser Überwachung besteht darin, bekannte und neu auftretende Krankheitserreger zu erfassen und Programme zur frühzeitigen Risikominderung voranzutreiben, um die Gesundheit von Mensch und Tier zu schützen (Ko et al. 2022). Die Verfügbarkeit relativ kostengünstiger, in automatisierten Hochdurchsatzverfahren einsetzbarer Sequenzierungstechniken („next generation sequencing“; Kasten 2.2) ebnete den Weg für die Entwicklung einer neuen Generation von Methoden bzw. Systemen zur Detektion und Überwachung von Krankheitserregern (Ko et al. 2022; Kraemer et al. 2025; Levy et al. 2023; Venkatesan 2025). Diese beruhen auf der direkten Sequenzierung und Analyse des gesamten genetischen Materials (also einer Mischung von DNA verschiedener Arten oder Organismen) in Proben aus der Umwelt oder in klinischen Proben (Metagenomik). Im Gegensatz zu bisherigen, auf mikrobiologischen und biochemischen Labortests beruhenden Verfahren müssen somit keine Organismen isoliert bzw. im Labor kultiviert werden und es können auch bislang unbekannte Viren, Bakterien und Pilze detektiert bzw. vorhergesagt werden (Gao/Liu 2024; Ko et al. 2022). Maschinelle Lernverfahren spielen eine wichtige Rolle, um die komplexen Metagenomdaten zu analysieren und die Präsenz und/oder die Ausbreitung von bekannten oder bislang unbekannten Mikroorganismen schnell erkennen zu können (Gao/Liu 2024; Suster et al. 2024). So können DL-Modelle beispielsweise genutzt werden, um pathogene Bakterien sowie Gene zu identifizieren, die mit antimikrobiellen Resistenzen oder der Pathogenität von Bakterien assoziiert sind (Gupta et al. 2022; de Nies et al. 2021; Rannon et al. 2025). Ebenso können virale Proteine und Viren bzw. Virenfamilien und ihre möglichen Wirtsorganismen über Metagenomdaten identifiziert bzw. vorhergesagt werden (Bartoszewicz et al. 2021; Hou et al. 2024; Zárate et al. 2025). Darüber hinaus können KI-basierte Modelle genutzt werden, um die Ausbreitung von Erregern wie pandemische Viren sowie Effekte von möglichen Strategien oder konkreten Maßnahmen zu ihrer Bekämpfung und Eindämmung (z. B. Einschränkungen des Reiseverkehrs) besser und schneller vorherzusagen (Kraemer et al. 2025 und Referenz darin; Scoles 2025). 2.3.4 Industrielle Biotechnologie In der industriellen oder weißen15 Biotechnologie werden Enzyme16 (Bornscheuer et al. 2012; Buller et al. 2023) und Mikroorganismen wie Bakterien oder Hefen (Kim et al. 2023a; Volk et al. 2023) zur Herstellung biobasierter Produkte für verschiedene Anwendungsbereiche genutzt. Dazu gehören die Herstellung von Grundchemikalien für die chemische Industrie oder die Herstellung von Lebensmitteln, Duftstoffen, Waschmitteln und Biokraftstoffen. Die Um- oder Neugestaltung von Stoffwechselwegen in Mikroorganismen Insbesondere die Entwicklung von Mikroorganismen, in denen Stoffwechselwege, teilweise unter Verwendung veränderter Enzyme, genetisch gezielt um- bzw. neugestaltet werden („metabolic engineering“) (Kim et al. 2023a; Volk et al. 2023), wurde zu einem wichtigen Anwendungsgebiet der Synthetischen Biologie (Kim et al. 2023a; Nielsen et al. 2022). Zu bereits industriell hergestellten Produkten durch solche Mikroorganismen gehören aus nachwachsenden Rohstoffen wie Zucker (anstatt aus fossilen Rohstoffen) hergestellte Kunststoffe (de Souza/Gupta 2024), Geschmacks- und Duftstoffe sowie einige Grundchemikalien, wie Milchsäure, 1,3-Propandiol (PDO) und 1,4- Butandiol (BDO) als Ausgangschemikalien für verschiedene industriell relevante Synthesen (z. B. für Kunstfasern, Kunststoffe) (Nielsen et al. 2022). Im Fall von BDO wurde dabei ein Syntheseweg generiert, um eine Substanz, die natürlicherweise von keinem (bekannten) Lebewesen synthetisiert wird, im Bakterium Escherichia coli herzustellen (Geno 2025; Yim et al. 2011). Über Bakterien mit umgestalteten Stoffwechselwegen gelang es in jüngerer Zeit, unter Verwendung von CO oder CO2 aus Industrieabgasen über die Gasfermentation Chemikalien wie Ethanol, Isopropanol oder Aceton herzustellen (Liew et al. 2022), unter anderem für die Produktion nachhaltiger Flugzeugkraftstoffe (Köpke/Simpson 2020; Liew et al. 2022). Die Konstruktion solcher neu- bzw. umgestalteter Produktionsstämme von Mikroorganismen – im Fachjargon der Biotechnologie oder Synthetischen Biologie oft „cell factories“ (übersetzt etwa Zellfabriken) genannt (Davy et al. 2017; Nikel/Mattanovich 2021 und Referenz darin) – erfolgt typischerweise nach einem aus dem Ingenieurbereich stammenden, wiederholt durchgeführten (iterativen) Optimierungsschema, das als Design-Build-Test- Learn(DBTL)-Zyklus17 bezeichnet wird: – Die Designphase umfasst die Festlegung von Zielen, die Auswahl eines Ausgangsorganismus, die Verwendung von Modellen und Simulationen und den Entwurf des Organismus mit den gewünschten Eigenschaften. – In der Buildphase (Konstruktion) wird der Organismus auf der Grundlage des geplanten Designs mithilfe von gentechnischen Methoden (um)gebaut. – Die Testphase umfasst die eingehende experimentelle Prüfung des Organismus. – In der Lernphase werden die Ergebnisdaten analysiert, mit den gewünschten Eigenschaften und Fähigkeiten verglichen und zur Verfeinerung des Designs für die nächste Runde verwendet. KI in Form maschineller Lernverfahren wird zunehmend in allen Phasen der Entwicklung mikrobieller Produktionsstämme verwendet. Dazu gehören die Vorhersage von Stoffwechselwegen, die Optimierung und Implementierung gentechnischer Verfahren (z. B. Genomeditierung) und der genetischen Veränderungen, das Protein- bzw. Enzym-Engineering, die Optimierung des Stoffwechselflusses und der Produktionsbedingungen in Bioreaktoren sowie die Analyse von Testdaten und die Verbesserung von Modellen bzw. des Designs (Goshisht 2024; Kim et al. 2020; Lu et al. 2024; Patra et al. 2023 und Referenz darin). Datengetriebene Modelle, basierend auf maschinellem Lernen einschließlich DL-Modellen, werden dabei meist in Ergänzung bzw. zur Verbesserung mechanistischer Stoffwechselmodelle verwendet, die über detaillierte funktionelle Kartierungen von Genen, Proteinen und Stoffwechselreaktionen zuverlässige Anhaltspunkte für Umprogrammierungen von Stoffwechselprozessen in Zellen liefern können (Lu et al. 2024). 15 Zu den Farben der Biotechnologie gehören insbesondere die grüne Biotechnologie (vor allem gentechnisch veränderte Pflanzen in der Landwirtschaft) oder die rote Biotechnologie (vor allem Entwicklung von Therapien bzw. Medikamenten). 16 Enzyme sind meist Proteine (aber auch RNA-Moleküle) (Wilson et al. 2016), die in Organismen als Katalysatoren an fast allen chemischen Prozessen beteiligt sind bzw. diese de facto erst ermöglichen. Hierzu gehören zentrale Funktionen wie die Verdoppelung von DNA, das Ablesen von Genen, die Herstellung von Proteinen, die Energiegewinnung in Zellen und jegliche andere Stoffwechselbzw. Syntheseprozesse. 17 In der Synthetischen Biologie wurden der Begriff und das Schema vor allem im Zusammenhang mit dem „metabolic engineering“ von Organismen entstanden und verwendet (Opgenorth et al. 2019; Whitford et al. 2021). Enzym-Engineering und De-novo-Design von Enzymen Natürliche Enzyme eignen sich oft nicht für den direkten Einsatz in industriellen chemischen Prozessen (z. B. wegen mangelnder Stabilität oder unpassendem Temperaturoptimum) oder zur Konstruktion effektiver neuer Stoffwechselwege in anderen, bereits industriell verwendeten und gut untersuchten Mikroorganismen. Daher ist ein „Protein-Engineering“ erforderlich, um ihre Eigenschaften für die jeweiligen Anwendungen zu optimieren. Ein weit verbreiteter Ansatz dazu ist die gerichtete Evolution („directed evolution“), bei der Mutationen zufällig (und teilweise in großem Maßstab) eingeführt und solche Versionen des Enzyms, die die gewünschte Eigenschaft zeigen, ausgewählt werden, um dann typischerweise weiteren Mutations- und Selektionsrunden unterzogen zu werden (Arnold 2018; Zeymer/Hilvert 2018). Dieses Verfahren ist jedoch immer noch arbeits-, ressourcen- und zeitaufwendig. In den letzten 10 Jahren entstanden zunehmend rationale oder halbrationale Ansätze für die Entwicklung oder das Redesign verbesserter Enzymvarianten.18 Ermöglicht wurden solche Ansätze durch eine größere Verfügbarkeit von strukturellen Daten und mechanistischem Wissen zu Zielenzymen zusammen mit computergestützten Verfahren; sie bleiben jedoch weitgehend auf natürliche Reaktionen und Proteinsequenzen von Enzymen als Ausgangsmaterial beschränkt (Lovelock et al. 2022; Phintha/Chaiyen 2022; Wen et al. 2025). Große Datensätze zu Proteinsequenzen und -strukturen ermöglichten in jüngster Zeit KI-Modelle (basierend auf generativen Deep-Learning-Verfahren) für die datengetriebene Entwicklung und das Design von (Protein-) Enzymen (Ingraham et al. 2023; Lauko et al. 2025; Watson et al. 2023; Yeh et al. 2023). Hierzu gehören auch Proteinsprachmodelle (Madani et al. 2023; Munsamy et al. 2024) und ein Genomsprachmodell (Nguyen et al. 2024)19. Über solche generativen Deep-Learning-Verfahren konnten artifizielle Enzyme mit denselben Funktionen wie natürlich vorkommende Enzyme bzw. Enzymfamilien entwickelt werden (z. B. Lysozyme, Luciferasen, Proteasen oder Carboanhydrasen), die teilweise nur wenig Ähnlichkeit in den Aminosäuresequenzen zu diesen aufweisen (hierzu Übersicht Wen et al. 2025). Darunter sind auch erste Enzyme, die bekannte Reaktionen an nichtnatürlichen Substraten wie synthetischen Chemikalien katalysieren (Yeh et al. 2023). Der Prozentsatz der von den Modellen generierten, oft hunderten oder mehr als tausend Designvorschläge, die dann nach experimenteller Überprüfung tatsächlich – ohne weitere Optimierungsrunden durch gerichtete Evolution – (ausreichend) funktionell sind, ist stark unterschiedlich. Wohl abhängig von unter anderem der Komplexität der katalysierten Reaktion(en) und der dafür erforderlichen aktiven Zentren der Enzyme bewegen sich diese vom niedrigen einstelligen Prozentbereich (Lauko et al. 2025; Yeh et al. 2023) bis hin zu 35 bis 70 % (Madani et al. 2023; Munsamy et al. 2024). 2.3.5 Ansätze für automatisierte Labore und Experimente Wie in den vorherigen Absätzen beschrieben, erfordern zentrale Anwendungsfelder der Synthetischen Biologie und Biotechnologie, wie insbesondere die Entwicklung von Medikamenten und die Um- oder Neugestaltung komplexer Stoffwechselwege in Mikroorganismen oder von Enzymen, typischerweise immer noch arbeits-, zeit- und ressourcenaufwendige Entwicklungsschritte bzw. iterative Entwicklungsschemata (DBTL-Zyklus, Zyklen von gerichteter Evolution). Ansätze zur Kombination von automatisierten (robotisierten) Laborprozessen mit automatisierten Hypothesenbildungs- und/oder Designprozessen sowie der Analyse von Ergebnissen der Laborexperimente zielen deshalb darauf ab, diese FuE-Prozesse zu automatisieren, bis hin zu „self-driving labs“ (übersetzt etwa selbstfahrende oder autonome Labore) oder „AI scientists“/„robot scientists“ (KI- oder Roboterwissenschaftler) (Adam 2024; A- rias/Taylor 2024; Martin et al. 2023). Cloud Labs und Biofoundries Grundlage für solche Entwicklungen sind bereits existierende Laborplattformen bzw. komplette Labore und Forschungseinrichtungen, vor allem als Cloud Labs und Biofoundries, die explizit auf automatisierte Arbeiten ausgerichtet wurden (Kasten 2.4). 18 Im Gegensatz zur gerichteten Evolution werden bei rationalen (Design-)Ansätzen typischerweise gezielte (ortsspezifische) Mutationen eingeführt, basierend auf Wissen zu Strukturwirkungsbeziehungen von Proteinen. Semirationale Ansätze kombinieren rationales Design und gerichtete Evolution, um nützliche Varianten durch Mutagenese spezifischer Aminosäuren zu erhalten, die z. B. durch die Analyse einer Kristallstruktur als potenziell relevant identifiziert wurden, gefolgt von einem Screening der Mutanten. 19 Mithilfe dieses Modells konnten funktionelle Cas9-Nukleasen, als Teil von CRISPR-Cas-basierten Genomeditierungssystemen (Kapitel 2.1), entworfen werden. Während sich Biofoundries oft auf die Automatisierung spezifischer (Teil-)Prozesse zur Generierung von Organismen bzw. von Bioproduktionsansätzen konzentrieren (wie die Herstellung längerer DNA-Abschnitte und/oder deren Einbringen und Funktionsprüfung, z. B. in mikrobiellen Produktionsstämmen), zielen Cloud Labs typischerweise darauf ab, eine flexible automatisierte Laborumgebung bereitzustellen, die für ein breites Spektrum von Forschungsarbeiten und unterschiedliche wissenschaftliche Disziplinen geeignet ist (Arias/Taylor 2024; Jessop-Fabre/Sonnenschein 2019). Kasten 2 .4 Automatisierte Labore: Cloud Labs und Biofoundries Cloud Labs sind meist kommerzielle Labore, auf die Forschende ferngesteuert über Internetoberflächen zugreifen können. Bei diesem Ansatz spezifizieren die Forschenden Protokolle für ihre eigenen Experimente über Onlineportale der Einrichtungen, die dann in den Laboren automatisiert durchgeführt werden. Die Experimente und Ergebnisdaten können teils in Echtzeit verfolgt bzw. erhalten werden und Experimente können gegebenenfalls in weiteren Runden fortgesetzt werden (Arias/Taylor 2024; Arnold 2022). Des Weiteren können KI- basierte Systeme den Nutzer/innen die Möglichkeit geben, Standardwerte zu verändern und Probleme zu erkennen, die zu einem Abbruch der Experimente führen können (Arnold 2022). Kommerzielle Cloud Labs zur Durchführung eines breiteren Spektrums von Experimenten sind beispielsweise Emerald Cloud Lab, Inc. (Austin, USA) und Strateos, Inc. (Menlo Park, USA). Daneben existieren kommerzielle Cloud Labs mit spezifischeren Angeboten wie z. B. Culture Biosciences (San Francisco, USA) für Bioprozessentwicklungen von mikrobiellen Produktionsstämmen und Zellkulturen oder Arctoris (Abingdon, UK) mit einem Cloudservice für Prozesse zur Medikamentenentwicklung. Ein erstes akademisches Cloud Lab (entwickelt zusammen mit Emerald Cloud Lab) wurde an der Carnegie Mellon University Pittsburgh (USA) eröffnet (Arias/Taylor 2024; Baracia et al. 2024). Biofoundries zeigen Ähnlichkeiten zu Cloud Labs, fokussieren aber oft stärker auf spezifische (Teil-)Prozesse von Bioproduktionsansätzen. Sie stellen in der Regel zentralisierte, oft öffentlich finanzierte Einrichtungen dar und sollen Infrastrukturen zur Verfügung stellen, um Forschenden (oft auch von außerhalb der betreibenden Institutionen) das Design und die Herstellung biologischer Systeme vor Ort oder über die Nutzung von Serviceleistungen zu ermöglichen bzw. den DBTL-Zyklus (Kapitel 2.3.4) zu beschleunigen (Hillson et al. 2019; Holowko et al. 2021). Biofoundries können auch Start-ups und Spin-off-Unternehmen den Zugang zu teurer Infrastruktur ermöglichen (Farzaneh/Freemont 2021). Weltweit gibt es eine Reihe akademischer und kommerzieller Biofoundries. In der Global Biofoundries Alliance sind mehr als 30 nicht kommerzielle solcher Einrichtungen als Mitglieder verzeichnet. Hierzu gehören etwa die Australian Genome Foundry (Australien), die London Biofoundry (UK), das SynCTI Forschungszentrum (Singapur) oder die Illinois Biological Foundry for Advanced Biomanufacturing (iBioFAB) der University of Illinois (USA). Mitglieder aus Deutschland sind beispielsweise die Jülich Biofoundry oder das SynDNA Lab der Universität Heidelberg. Ein Beispiel für ein kommerzielles Unternehmen, das seit Längerem Biofoundry-Dienste für verschiedene Prozesse – einschließlich der Entwicklung mikrobieller Produktionsstämme oder Säugetierzelllinien – und seit Kurzem auch eine online nutzbare Cloud-Lab-Plattform anbietet, ist Ginkgo Bioworks (Boston, USA). Self-driving-Labore und Roboterwissenschaftler In den letzten ca. 10 Jahren wurden erste Systeme von Self-driving-Laboren oder Roboterwissenschaftlern zur Beschleunigung der Synthese und Herstellung chemischer Substanzen (z. B. komplexer organischer Verbindungen, Medikamentenkandidaten) oder Materialien (z. B. Kohlenstoffnanoröhren) entwickelt (Martin et al. 2023; Tobias/Wahab 2025; Tom et al. 2024 und Referenz darin). Kürzlich wurden flexible KI-Agenten-Systeme20 beschrieben, die durch die Kombination von LLMs und anderer computergestützter Modelle miteinander sowie mit automatisierten Laborplattformen in der Lage sind, unterschiedliche Aufgaben zu erfüllen. Hierzu gehören der Entwurf von Synthesen für bekannte organische Verbindungen, einschließlich Arzneimittel, die Durchführung und Optimierung von Synthesen für neue Verbindungen mit ähnlichen Eigenschaften zu bekannten Substanzen, oder die Optimierung der Herstellung von Proteinen in zellfreien Systemen (Boiko et al. 2023; Bran et al. 2024; 20 Als KI-Agenten gelten Softwaresysteme, die mithilfe von KI Ziele verfolgen und Aufgaben im Auftrag von Benutzern erledigen. Sie verfügen über logisches Denken, Fähigkeiten wie Planung und Gedächtnis und haben ein gewisses Maß an Autonomie, um Entscheidungen zu treffen, zu lernen und sich anzupassen (Google Cloud 2025). Smith et al. 2026). Bei manchen Systemen wurden die automatisierten experimentellen Schritte über die kommerziellen Plattformen Emerald Cloud Lab (Boiko et al. 2023) und Ginkgo Cloud lab (Smith et al. 2026) durchgeführt. In der Biologie wurden solche halbautonomen und autonomen Systeme zur Identifizierung oder Funktionsbestimmung von Genen in Hefe erstmals vor mehr als 10 Jahren entwickelt (Coutant et al. 2019; King et al. 2004, 2009). Im Zusammenhang mit der Umgestaltung mikrobieller Synthesewege entwickelten HamediRad (2019) ein Selfdriving-System für DBTL-Zyklen (Kapitel 2.3.3), um die Produktionsleistung eines sehr einfachen (nur aus drei Genen bestehenden), in das Bakterium E. coli übertragenen Stoffwechselwegs zur Herstellung von Lycopin21, zu optimieren. Ein auf maschinellen Lernverfahren basierendes Vorhersagemodell zur Auswahl von Sequenzen für das Ablesen der Gene steuerte die Experimente, die über eine automatisierte Laborplattform der Biofoundry Illinois Biological Foundry for Advanced Biomanufacturing (iBioFAB) ausgeführt wurden. Ein erstes autonomes System für das Protein- oder Enzym-Engineering wurde von Rapp et al. (2024) beschrieben. Dieses System kombiniert einen KI-Agenten mit einer robotisierten Laborplattform und ist in der Lage, Proteinsequenz-Funktions-Beziehungen aus Daten zu lernen, Entwürfe für neue Proteine mit veränderten Funktionen zu generieren sowie diese zu testen und zu optimieren. Mit der physischen Welt ist es durch eine vollautomatische Laborplattform (des kommerziellen Strateos Cloud Labs, Kasten 2.4) gekoppelt, über das die entworfenen Proteine experimentell getestet werden. Dazu werden Gene durch die Kombination vorsynthetisierter DNA-Fragmente (entsprechend den Vorhersagen bzw. dem Design des KI-Agenten) zusammengesetzt, davon zellfreie Proteine hergestellt und biochemische Messungen der Enzymaktivität durchgeführt. Das KI-System ermöglicht so autonome DBTL-Zyklen zum Verständnis und zur Optimierung von Enzymfunktionen. Rapp et al. (2024) demonstrierten die Fähigkeit des Systems, bestimmte Enzyme (Glycosidhydrolasen) mit erhöhter Hitzetoleranz zu generieren. Mit demselben oder ähnlichen Ansätzen könnten prinzipiell auch die Aktivität und Spezifität von Enzymen oder neuartige chemische Reaktionen „autonom“ entwickelt werden. Ein solches, potenziell generell anwendbares automatisiertes System für das Engineering der Aktivität bzw. Spezifität von Enzymen wurde kürzlich publiziert. Es integriert eine sprachgesteuerte Benutzeroberfläche mit einem großen Proteinsprachmodell (ESM2, Lin et al. 2023) zur Vorhersage potenzieller Enzymvarianten und einer robotisierten Biofoundry-Plattform, um diese zu testen und die erhaltenen Versuchsdaten zur Verbesserung der folgenden Designrunden zu verwenden (Singh et al. 2025). 21 Lycopin (oder Lycopen) gehört zu den Carotinoiden und stammt meist aus Tomaten, wo es in hohen Konzentrationen vorkommt. Traditionell wurde es als roter Lebensmittelfarbstoff eingesetzt (EFSA 2008). Es hat antioxidative Wirkung (Radikalfänger) und wird zur Vorbeugung verschiedener Erkrankungen diskutiert (Saini et al. 2020; Shafe et al. 2024). 3 Mögliche Risiken für die Biosicherheit und Proliferation biologischer Waffen durch das Zusammenspiel von KI und molekularbiologischer bzw. biotechnologischer Entwicklungen 3.1 Die Synthetische Biologie ist seit ihren Anfängen von Diskussionen zur Biosicherheit begleitet worden – einschließlich der möglichen Herstellung von Biowaffen Mit der in den frühen 2000er Jahren entwickelten Vision der Synthetischen Biologie (Kapitel 2.1), in der biologische Systeme oder Organismen nach Prinzipien der Ingenieurwissenschaften vorhersagbar und (zunehmend) einfacher um- bzw. neugestaltet werden können („make biology easier to engineer“22) (Endy 2005), waren von Anfang an Diskussionen um Risiken der Biosicherheit (Kasten 3.1) verknüpft (Jefferson et al. 2014b; Schmidt 2008; Service 2006; TAB 2015 und Referenz darin). Diese wurden nicht zuletzt aus dem Feld selbst angestoßen (Church 2004; Endy 2007; Garfinkel et al. 2007; Service 2006). Kasten 3 .1 Biosicherheit – Biosafety und Biosecurity Im englischen bzw. internationalen Sprachgebrauch werden Risiken im Zusammenhang mit biologischen Agenzien, wie Pathogene (z. B. Bakterien, Viren) oder Giftstoffe (Toxine), sowie der Umgang mit diesen Risiken in zwei Bereiche unterteilt: Biosafety und Biosecurity (Beeckman/Rüdelsheim 2020; Chinchilla et al. 2024; National Research Council 2009; WHO 2020, 2024a). Im deutschen Sprachgebrauch wird der Begriff Biosicherheit23 meist als Überbegriff für beide Bezeichnungen benutzt, zur Differenzierung werden die englischen Begriffe Biosafety und Biosecurity verwendet (Auswärtiges Amt o. J.b; Deutscher Ethikrat 2014; GO4GHP o. J.). Zwar gibt es keine vollkommen einheitliche Definition für die Begriffe Biosafety und Biosecurity, im Allgemeinen werden die so bezeichneten Bereiche aber, häufig unter Bezugnahme auf entsprechende Dokumente der WHO (2020, 2024a), durch ihre Ziele unterschieden: Biosafety: Arbeitsschutz sowie Schutz der Öffentlichkeit und der Umwelt vor nicht beabsichtigten Schäden Bei Biosafety geht es um Grundsätze, Technologien und Praktiken, um die unbeabsichtigte Exposition gegenüber biologischem Material und mögliche Schäden zu verhindern, beispielsweise für die Gesundheit von Beschäftigten in Laboratorien oder die öffentliche Gesundheit sowie die Umwelt durch versehentliche (z. B. durch Laborunfälle) oder beabsichtigte Freisetzungen im Rahmen genehmigter Aktivitäten im Freiland (z. B. gezielte Freisetzungsexperimente). Biosecurity: Schutz vor Diebstahl, Verlust, Missbrauch oder der Nutzung als militärische Waffen Biosecurity umfasst Grundsätze, Technologien und Praktiken, die absichtlich herbeigeführte Schäden durch missbräuchliche Nutzungen von biologischen Agenzien und/oder von Ausrüstung, Fähigkeiten und Daten für solche Nutzungen verhindern können. Missbräuchliche Nutzungen können beispielsweise bewusste Freisetzungen biologischer Agenzien wie Bakterien, Viren oder Toxine für kriminelle und terroristische Zwecke sein oder deren Nutzung als militärische Waffen. Unterschiedliche Ziele – sich ergänzende Ansätze Obwohl die Zielsetzungen von Biosafety und Biosecurity unterschiedlich sind, ergänzen sich die beiden Bereiche, indem sie teilweise überlappende Ansätze bzw. Regelungen umfassen. Hierzu gehören etwa Bestandteile des biologischen Risikomanagements, wie die Risikobeurteilung, die Zugangskontrolle zu und Arbeitsschutzmaßnahmen in Laboratorien, um die Gefahr ungewollter oder gewollter Kontaminationen von Beschäftigten zu verhindern, Maßnahmen gegen den Verlust entsprechender Agenzien aus Laboren (z. B. über dokumentierte und gesicherte Lagerung), oder Regelungen zum Transport bzw. Im- oder Export biologischer Agenzien (Beeckman/Rüdelsheim 2020; WHO 2024a). Neben Risiken für die Gesundheit oder die Umwelt, die im internationalen Sprachgebrauch meist durch den Begriff Biosafety erfasst werden, wurden insbesondere auch Biosicherheitsrisken im Zusammenhang mit der Möglichkeit diskutiert, dass die Synthetische Biologie den Zugang zu und den Missbrauch von biologischen Agenzien 22 Übersetzt etwa Biologie einfacher konstruierbar oder manipulierbar machen. 23 Der Begriff Biologische Sicherheit ist dagegen ein Rechtsbegriff, der auf das Gentechnikgesetz zurückgeht und sich auf das sichere Arbeiten und den Umgang mit gentechnisch veränderten Organismen (im Sinne von Biosafety) bezieht. als Biowaffen (Kasten 3.2) erleichtern könnte, etwa für kriminelle, terroristische oder militärische Zwecke. Diese Biosicherheitsrisiken werden in der Regel unter dem Begriff der Biosecurity behandelt. Kasten 3 .2 Biologische Waffen (Biowaffen) Nach der Definition des United Nations Office for Disarmament Affairs (UNODA o. J.a) verbreiten biologische Waffen krankheitsauslösende Organismen oder Toxine, um Menschen, Tiere oder Pflanzen zu schädigen oder zu töten. In der Regel bestehen sie aus zwei Teilen: einem in eine waffenfähige Form gebrachten biologischen Agens („weaponized agent“) und einem Mechanismus zu dessen Ausbringung („delivery mechanism“) (Abbildung 3.1). Abbildung 3.1 Biowaffen bestehen aus einem biologischen Agens und einem Ausbringungsmechanismus Quelle: verändert nach Sabra/Frieß (2025) Geeignete biologische Agenzien können Organismen wie Bakterien oder Pilze, Viren sowie Moleküle, wie infektiöse Prionen24, oder Toxine (Gifte aus Tieren, Pflanzen oder Mikroorganismen oder ähnliche synthetisch hergestellte Substanzen) sein, die Infektionskrankheiten oder Vergiftungen auslösen. Sie können modifiziert werden, um sie für die Massenproduktion, Lagerung oder Ausbringung über entsprechende Mechanismen bzw. Systeme besser geeignet (waffenfähig) zu machen (UNODA o. J.a). Solche Agenzien werden auch als biologische Kampfstoffe bezeichnet (Richardt/Russmann 2006; Richter 2011). Historische staatliche Biowaffenprogramme (Kasten 3.3) verfolgten unter anderem die Herstellung und Nutzung von Krankheitserregern, darunter Anthrax, Maul- und Klauenseuche, Pest, Pocken, Q-Fieber oder Reisbrand, sowie von Toxinen, wie Aflatoxin, Botulinumtoxin oder Rizin. Darüber hinaus entwickelten manche Länder auch nicht tödliche Substanzen, die Personen vorübergehend außer Gefecht setzen sollen. Hierzu zählen Bioregulatoren, die von Organismen gebildet werden und physiologische Funktionen wie Blutdruck, Körpertemperatur oder Immunreaktionen regulieren oder auch Bewusstsein und Stimmungen beeinflussen. In sehr großen Mengen zugeführt, können diese aber auch toxische Wirkungen entfalten und de facto zu starken Toxinen werden (Crowley/Dando 2024). 24 Fehlgefaltete Formen bestimmter Proteine (Prionenproteine), die normale solche Proteine veranlassen dieselbe abnormale Struktur anzunehmen. Sie verursachen bestimmte übertragbare neurodegenerative Erkrankungen wie Scrapie (bei Schafen und Ziegen), bovine spongiforme Enzephalopathie (BSE, bei Rindern und Menschen) oder Formen der Creutzfeldt-Jakob-Erkrankung (bei Menschen) (Houston/Andréoletti 2019; Prusiner 1998; Zerr et al. 2024). Die Ausbringungsmechanismen von Biowaffen können vielfältig sein.25 So wurden im Rahmen früherer Biowaffenprogramme beispielsweise ballistische Raketen bzw. Sprengköpfe, Insektenvektoren26 (z. B. Flöhe) oder Sprühvorrichtungen, die an Flugzeuge oder Fahrzeuge montiert wurden, genutzt (Kasten 3.3). Darüber hinaus stellen Drohnen, einschließlich kommerziell erhältlicher Sprühdrohnen für die Landwirtschaft, eine Option dar (Hummel 2025; Lambert 2020).27 Für terroristische Anschläge bzw. Anschlagversuche wurden auch der Postweg (Briefe) oder Lebensmittel genutzt (Kapitel 3.4; Kasten 3.4). Viren, z. B. zur Auslösung einer Pandemie, könnten prinzipiell auch durch einen infizierten Menschen bzw. Attentäter („patient zero“) verbreitet werden (Kapitel 3.4). Die Veränderung von Agenzien, um sie waffenfähig zu machen, sowie die Kombination der Agenzien mit geeigneten Ausbreitungssystemen zur Herstellung funktioneller und effektiver biologischen Waffen wird auch als „weaponization“ (übersetzt etwa Verwaffnung) bezeichnet. Diese Prozesse sind Teil von typischerweise mehrstufigen, komplexen Herstellungsprozessen in Biowaffenprogrammen (Kapitel 3.2.2; Abbildung 3.2). Zentrale Punkte für die in diesem Bericht im Mittelpunkt stehende Biosecurity-Problematik waren und sind bis heute (NAS 2018; TAB 2015) (Kapitel 3.2.1): – Die einfachere Herstellung von – und damit der potenziell leichtere Zugang zu – natürlich vorkommenden Pathogenen oder veränderten bzw. neuen Pathogenen, die als biologische Kampfstoffe bzw. der Herstellung von Biowaffen (Kasten 3.2) verwendet werden können. Hierzu gehören insbesondere die Herstellung von Viren über DNA-Synthese- und Assemblierungstechniken zur Generierung synthetischer Genome. Dieser Diskussionspunkt geht zurück auf und wurde immer wieder befeuert durch Arbeiten, bei denen bekannte Viren ausgehend von synthetisierten DNA-Sequenzen bzw. Genomen hergestellt wurden.28 Darunter waren das Poliovirus (Cello et al. 2002), das Virus der verheerenden Grippepandemie von 1918 (Tumpey et al. 2005), das zum menschlichen Pockenvirus verwandte Pferdepockenvirus (Noyce et al. 2018) oder Coronaviren, wie ein SARS-ähnliches Virus aus Fledermäusen (Becker et al. 2008) und das SARS-CoV-2-Virus (Thi Nhu Thao et al. 2020). – Die Veränderung von Eigenschaften von Pathogenen, um diese gefährlicher zu machen, durch genetische Veränderungen, die etwa zur Erhöhung der Pathogenität führen oder die Bekämpfung von Infektionen (z. B. durch antimikrobielle Substanzen oder Impfstoffe) erschweren können. Die Diskussion hierzu nahm zu Beginn der 2010er Jahre Fahrt auf (TAB 2015, S. 117 ff.). Auslöser waren zwei Arbeiten mit Vogelgrippeviren (H5N1), die durch gezielte Mutationen, Selektion oder Rekombination von viralen Genomabschnitten im einschlägigen Säugetiermodell für Grippeviren (Frettchen) ähnlich einer saisonalen menschlichen Grippe über Tröpfcheninfektion durch die Luft übertragbar waren (Herfst et al. 2012; Imai et al. 2012). – Die Herstellung von Toxinen29 über die Um- bzw. Neugestaltung von Stoffwechselwegen in Mikroorganismen (Kapitel 2.3.4). Hierdurch könnten auch chemisch komplexe, nicht aus Proteinen bzw. Peptiden30 bestehende Toxine, die als biologische Kampfstoffe genutzt werden könnten (Anderson 2012; Pitschmann/Hon 2016), in einfach(er) kultivierbaren biotechnologischen Standardorganismen (z. B. dem Bakterium E. coli oder Hefen) hergestellt werden. Sie könnten auf diese Weise mit höherer Ausbeute bzw. stärker konzentriert erhalten werden. Grundlage solcher Befürchtungen sind Veröffentlichungen zur Übertragung auf bzw. der (Teil-)Konstruktion in E. coli bzw. Bäckerhefe von komplexen Synthesewegen, wie zur Herstellung des 25 Manche Autoren unterteilen diese Komponente von Biowaffen in Trägersysteme, wie Flugzeuge, Raketen oder ein infizierter Organismus, und Ausbringungsmechanismen (in einem engeren Sinne), wie beispielsweise Explosivstoffe oder Spraysysteme (Richardt/Russmann 2006). 26 Als Vektoren werden Organismen bezeichnet, die Krankheitserreger von einem infizierten Tier oder Menschen auf andere Menschen bzw. Tiere übertragen. 27 Beispielsweise nutzte der Islamische Staat im Irak und Syrien (ISIS) mindestens seit Mitte der 2010er Jahre selbstgebaute und kommerziell erhältliche Drohnen, vor allem zur Aufklärung und Zielerfassung gegen die Koalitionsstreitkräfte, und zeigte Interesse an der Durchführung von drohnenbasierten Angriffen mit chemischen oder biologischen Kampfstoffen (Hummel 2016, S. 34 f.; Lambert 2020). Kriminelle Banden in China nutzten Drohnen zur weiteren Ausbreitung der Afrikanischen Schweinepest über den Abwurf von Fleisch infizierter Tiere (Rogers 2021; The Japan Times 2019). Das Ziel war wohl, verzweifelte Landwirte zum Billigverkauf von infiziertem Fleisch zu bewegen, das von den Banden dann als nicht infiziertes Produkt weit entfernt vom Ursprungsort weiterverkauft wurde (Rogers 2021). 28 Diese Arbeiten hatten zum Ziel, die Mechanismen der Pathogenität oder den Ursprung der Viren besser zu verstehen sowie Möglichkeiten zur Infektionsbekämpfung (z. B. Impfungen) zu verbessern. 29 Als Toxine gelten in der Regel Moleküle, die von biologischen Systemen produziert werden und für Menschen oder andere Tiere schädlich sind. 30 Peptide bestehen wie Proteine aus Aminosäureketten. Diese sind bei Peptiden jedoch deutlich kürzer und bestehen typischerweise aus zwei bis 50 Aminosäurebausteinen (Forbes Kaprive/Krishnamurthy 2026). Proteine hingegen setzen sich oft aus Ketten von mehreren hundert bis zu teilweise 2.000 Aminosäuren zusammen (Nevers et al. 2023). Pflanzenstoffes (und Chemotherapeutikums) Taxol (Paclitaxel) (Ajikumar et al. 2010; Liang et al. 2025) oder von Opioiden (Galanie et al. 2015). Darüber hinaus könnte die Generierung neuer oder veränderter (Protein-)Toxine über Protein- bzw. Enzym-Engineering-Methoden (Kapitel 2.3.4) erfolgen. – Die Zugänglichkeit von Synthetischer Biologie bzw. Biotechnologie – und damit die zuvor genannten Möglichkeiten – zunehmend auch für Personen, die keine oder wenig fachliche Kenntnisse haben und nicht in etablierte und registrierte öffentliche oder private wissenschaftliche Einrichtungen eingebunden sind. Diese Befürchtung basiert auf der Annahme, dass die methodischen und technischen Fortschritte (Kapitel 2.1) ressourcenaufwendige Laborarbeiten, eine spezielle Ausbildung und Erfahrungswissen (einschließlich taziten Wissens; Kapitel 3.2.2) überflüssig machen oder deren Wichtigkeit zumindest stark verringern können (manchmal auch als „deskilling“ bezeichnet) (Jefferson et al. 2014b und Referenz darin). Biotechnologie wird für alle nutzbar: eine Vision, die bisher nur sehr begrenzt Realität wurde Insbesondere die Möglichkeit einer zunehmend schnelleren und breiteren Zugänglichkeit und Nutzung von Biotechnologie durch Personen ohne spezielle Ausbildung oder Fachwissen – ermöglicht durch neue Techniken und Methoden der Synthetischen Biologie, die Fachkenntnisse und Erfahrungswissen überflüssig machen könnten – war von Anfang an sowohl mit Hoffnungen in Bezug auf Innovationen und Innovationskultur (Garagen-Biotech, Do-it-yourself[DIY]-Biologie) (Eireiner 2025b; Ledford 2010; TAB 2015, S. 228 ff.) als auch mit Befürchtungen eines Missbrauchs der Synthetischen Biologie (Jefferson et al. 2014b; TAB 2015; UNICRI 2012 und Referenz darin) verbunden. Eine genauere Betrachtung von Untersuchungen und Daten lässt es jedoch zumindest bisher fraglich erscheinen, dass solche Personen ohne die Unterstützung von Akteuren mit entsprechender Ausbildung und Wissen Biotechnologie bzw. Synthetische Biologie tatsächlich im Sinne dieser Hoffnungen oder Befürchtungen erfolgreich anwenden können. Hierfür notwendige Projekte, wie zur Herstellung bzw. Veränderung funktioneller biologischer Moleküle oder Organismen, erfordern über die bloße Ausführung einzelner Laborarbeitsschritte und Erfahrungen im Umgang mit den jeweiligen Organismen hinaus auch die Koordination und Integration verschiedener Arbeitsschritte und oft multipler Fähigkeiten in einen durchgängigen Arbeitsablauf und in ein Gesamtprojekt. Hierzu gehören etwa Überprüfungen von Zwischen- und Endprodukten, gegebenenfalls auch in Tierversuchen, sowie die Fehlersuche und die Anpassung von Prozessen. So legen es Daten zu den Zeiträumen, die vergehen, bis eine Technik bzw. Methode über das Ursprungslabor hinaus von anderen Laboren oder in Universitäten und weiterführenden Schulen praktisch gelehrt bzw. verwendet werden, zwar nahe, dass sich Methoden der Molekularbiologie oder Biotechnologie, wie insbesondere Genomeditierung durch CRISPR-Cas, durchaus zunehmend schnell verbreitet haben bzw. breit(er) zugänglich