Die KI und das Gift – ein Weckruf für die Forschergemeinde

Der Schweizer Bevölkerungsschutzexperte wertet das Experiment allerdings auch eher als grundsätzlichen Denkanstoß, sich über die Sicherheit von Künstlicher Intelligenz nicht nur in der Pharmaforschung und deren möglicher missbräuchlicher Nutzung klar zu werden. Die tatsächliche Gefahr nun durch die konkreten Ergebnisse der „Kampfstoff-Errechnung“ sieht er geringer an: „Was die künstliche Intelligenz gefunden hat, sind Verbindungen, die nun verifiziert werden müssten – genauso wie in der Arzneimittelentdeckung, dem eigentlichen Zweck dieser generativen KI. Via Retrosynthese müsste zuerst ein praktikabler Syntheseweg gefunden werden. Dann müsste die Synthese in einer Laborinfrastruktur stattfinden, die sehr sicher betreffend Arbeitsschutz ist. Schließlich müsste die Toxizität überprüft werden. Entsprechend erscheint dies einen eher beschwerlichen Weg darzustellen, wenn es doch bereits heute sehr viel zugängliche Informationen über bekannte, sehr toxische Chemikalien gibt, inklusive bekannte chemische Kampfstoffe“, sagt er. 

Abseits von möglichen terroristischen oder sonstigen kriminellen Ambitionen auf nicht staatlicher Ebene könnten sich aber mit entsprechenden Ressourcen ausgestattete Akteure – also etwa sogenannte „Schurkenstaaten“ – dazu entscheiden, Künstliche Intelligenz in dem Sinne einzusetzen, meint er. „Besonders wenn ein Chemiewaffen-Programm möglichst nicht auffallen soll – ein Pfad, der aber einen klaren Verstoß des Völkerrechts darstellt“, sagt er.

Eine Maßnahme, möglichen Missbrauch zu vermeiden, sei etwa Exportkontrolle, die unter anderem zahlreiche Chemikalien einer Bewilligungspflicht unterstellt, sagt Invernizzi. „Ein überaus wichtiges Element ist die Sensibilisierung und Bewusstseinsbildung innerhalb der KI-Community, dass man bei Anfragen die notwendige Sorgfalt und Nachsicht walten lässt, ganz im Sinne von ,know your customer´. Dies bedingt beispielsweise auch eine Registrierungspflicht eines Users, wenn er auf generative KI Zugriff haben und diese verwenden will“, erklärt er.

Allerdings existieren auch etliche frei zugängliche Open-Source-Anwendungen im Bereich des de-novo-Moleküldesigns.

Chancen und Risiken von Künstlicher Intelligenz auf dem Prüfstand

Insofern stellt die Künstliche Intelligenz in der Pharma-Entwicklung auch nur eine Erweiterung der Dinge dar, die Paracelsus in seinem berühmten Zitat meinte: „Alle Dinge sind Gift und nichts ist ohne Gift; allein die Dosis macht, dass ein Ding kein Gift ist.“ Auch wenn der antike griechische Arzt sicher nicht vorhersehen konnte, dass sich sein „Alle Dinge“ tatsächlich so weit fassen lässt – eben auch auf Künstliche Intelligenz.

Unterdessen sind die Schweizer Bevölkerungsschützer nicht die einzigen, die sich mit den möglichen Risiken Künstlicher Intelligenz auseinandersetzen. Das Europäische Parlament setzte bereits im Jahr 2020 einen Sonderausschuss zu den Chancen und Risiken Künstlicher Intelligenz ein. Der „Sonderausschuss zu künstlicher Intelligenz im digitalen Zeitalter (AIDA)“ legte gerade erst im Mai 2022 seinen Abschlussbericht vor. In dem vorgeschlagenen „EU-Fahrplan für KI“ heißt es neben der Forderung nach einem „günstigen regulatorischen Umfeld für KI“ und nach „einer Stärkung der digitalen Infrastruktur“ auch, dass man „militärische und sicherheitspolitische Aspekte der KI“ angehen müsse. Dazu solle die EU „international mit gleichgesinnten Partnern zusammenarbeiten, um ihre auf den Menschen ausgerichtete, auf EU-Werten basierende Vision zu fördern“, heißt es da.

Noch bis zum 6. November 2022 ist im Übrigen auch eine Ausstellung im Deutschen Hygienemuseum in Dresden zu sehen, die sich mit der KI auseinandersetzt. In der Schau „Künstliche Intelligenz: Maschinen – Lernen – Menschheitsträume“ ist informativ und interaktiv dargestellt, wie KI bereits in unserem Alltag integriert ist, welche Chancen sie bietet – und eben auch welche Risiken. Eine Rezension zur Ausstellung gibt es im sozialwissenschaftlichen Nachrichtenportal Soziopolis.