Künstliche Intelligenz in der Vor-Ort-Apotheke – noch ein weiter Weg

In der ersten Welle der „Digitization“ sei es nur um den digitalen Einsatz menschlicher Intelligenz mit der sturen Anwendung menschlicher „Wenn-Dann-Regeln“ gegangen, die auf konkrete Beobachtungen und logischen Schlussregeln basieren. Die so entwickelte Software habe keine Spielräume und arbeite lediglich vom Menschen Vorgegebenes ab. Die zweite Welle habe dann die „Algorithmization“, das heißt die Künstliche Intelligenz (KI) eingeführt. Dabei würden Daten nach maschinellen „Wenn-Dann-Regeln“ verarbeitet. Ursprünglich seien diese zwar ebenfalls vom Menschen geschaffen, aber die Software entwickle sie auf der Basis neuer Situationen als selbstlernendes System weiter. „KI ist eine Kombination von menschlicher Logik, menschlicher Stochastik und technischer Informatik“, fasste Dettling zusammen. „Sie errechnet durch maschinelles Lernen eigene Wenn-Dann-Regeln.“

Die Herausforderung bei der Anwendung bestehe nun darin, wie der Mensch kontrollieren kann, welche „Wenn-Dann-Regeln“ die KI entwickelt, und welche Fehlerquellen dabei entstehen könnten. In diesem Zusammenhang spreche man auch von KI als „Blackbox“. Als Ansatz für die Kontrolle sieht er Parallelen zur Arzneimittelentwicklung. Er glaubt, dass KI genauso geprüft werden muss wie Arzneimittel. Beide seien Produkte besonderer Art, allerdings wissenschaftlich erklärbar und berechenbar mit den Prädikaten Wirksamkeit als Wahrscheinlichkeit, Unbedenklichkeit und Qualität, zum Beispiel im Hinblick auf die Cybersicherheit. 

In der Arzneimittelversorgung könnte medizinische Software in Zukunft eine größere Rolle spielen. Software, die als Grundlage für medizinischen Entscheidungen dienen soll, ist rechtlich ein Medizinprodukt. Für dieses muss laut Dettling die Wiederholbarkeit, Zuverlässigkeit und Leistung entsprechend der bestimmungsgemäßen Verwendung nachwiesen werden. Wie das beim Einsatz Künstlicher Intelligenz für solche Apps gewährleistet werden könne (Stichwort „Blackbox“), sei jedoch bislang nicht geklärt. Hier stehe man noch völlig am Anfang.

Trotzdem habe die US-Arzneimittelbehörde bereits solche Software zugelassen. Als Beispiel führte Dettling ein KI-gestütztes Diagnosesystem für diabetische Retinopathie an, dessen Vermarktung die FDA im April 2018 genehmigte. Es analysiert den Augenhintergrund auf frühe, diskrete Anzeichen von Gefäßveränderungen in weniger als einer Minute, und zwar ohne notwendige Präsenz eines Augenarztes und mit einer hohen Sensitivität und Spezifität.