Künstliche Intelligenz in der Apotheke

Bei der Künstlichen Intelligenz (KI) steht man, so Dettling, allgemein ganz am Anfang der Entwicklung. Eine rechtlich verbindliche Definition gibt es hierfür noch nicht.

Für Dettling stellt sich die KI-Entwicklung wie folgt dar: Die erste Welle der „Digitalisierung“ war vom digitalen Einsatz menschlicher Intelligenz mit der sturen Anwendung menschlicher „Wenn-Dann-Regeln“ geprägt. Diese Regeln beruhten auf konkreten Be­obachtungen und logischen Schluss­regeln, das heißt: „Gleiches ist unter gleichen Bedingungen gleich, in Vergangenheit, Gegenwart und Zukunft.“ Software, die auf dieser Grundlage entwickelt wurde, hat keine „Spielräume“ und arbeitet lediglich vom Menschen Vorgegebenes ab. Mit der zweiten Welle ist dann die „Algorithmisierung“ hinzugekommen – und damit die Künstliche Intelligenz (KI). Hierbei werden Daten nach maschinellen „Wenn-Dann-Regeln“ verarbeitet. Ursprünglich wurden diese zwar ebenfalls vom Menschen geschaffen, aber die Software entwickelte sie auf der Basis neuer Situationen mithilfe des maschinellen Lernens als selbst lernendes System weiter. „KI ist eine Kombination von menschlicher Logik, menschlicher Stochastik und tech­nischer Informatik“, fasste Dettling zusammen. „Sie errechnet durch maschinelles Lernen eigene ‚Wenn-Dann-Regeln.’“

Parallelität von KI und Arzneimittelentwicklung

Die Herausforderung bei der Anwendung besteht nach Dettling nun darin, wie der Mensch kontrollieren kann, welche „Wenn-Dann-Regeln“ die KI entwickelt und welche Fehlerquellen dabei entstehen könnten. In diesem Zusammenhang spreche man auch von KI als „Blackbox“. Als Ansatz für die Kontrolle und Eingrenzung des Spielraums sieht Dettling Parallelen zur Arzneimittelentwicklung. Er glaubt, dass KI genauso geprüft werden muss wie Arzneimittel. Beide seien Produkte besonderer Art und sollten wissenschaftlich erklärbar und berechenbar sein, und zwar mit den Prädikaten Wirksamkeit als Wahrscheinlichkeit, Unbedenklichkeit und Qualität, zum Beispiel im Hinblick auf die Cybersicherheit.

Medizinische Software ist Medizinprodukt

Bei medizinischer Software, die zukünftig auch in der Arzneimittelversorgung eine größere Rolle spielen dürfte, handelt es sich rechtlich um Medizinprodukte. Für medizinische Software müssen die Wiederholbarkeit, Zuverlässigkeit und Leistung entsprechend der bestimmungsgemäßen Verwendung nachwiesen werden. Wie dies beim Einsatz Künstlicher Intelligenz für solche Apps gewährleistet werden könne (Stichwort „Blackbox“), sei jedoch, so Dettling, bislang nicht geklärt. Hier stehe man noch völlig am Anfang. Die amerikanische Arzneimittelbehörde (US-FDA) vertrete die Auffassung, dass das traditionelle Paradigma der Medizinprodukteregulierung nicht für adaptive Technolo­gien der Künstlichen Intelligenz oder des Maschinellen Lernens (AI/ML) entwickelt worden sei, die das Poten­zial haben, die Geräteleistung in Echtzeit anzupassen und zu optimieren, um die Gesundheitsversorgung für Patienten kontinuierlich zu verbessern. Einfach ausgedrückt: Die Medizinprodukteregulierung passe nicht für solche Software.

Trotzdem hat die US-Arzneimittelbehörde solche Software bereits zugelassen. Als Beispiel nannte Dettling ein KI-gestütztes Diagnosesystem für diabetische Retinopathie, dessen Vermarktung die US-FDA im April 2018 genehmigt hat. Es analysiert den Augenhintergrund auf frühe, diskrete Anzeichen von Gefäßveränderungen in weniger als einer Minute, und zwar ohne notwendige Präsenz eines Augenarztes und mit einer hohen Sensi­tivität und Spezifität.

Könnte KI in der Apotheke helfen?

„Je besser eine Tätigkeit quantitativ-statistisch erfasst werden kann, umso stärker wird die Künstliche Intelligenz sein und umso eher Menschen ersetzen“, vermutet Dettling. Basierend auf dieser Grundregel leitet er zu den drei Testfragen Folgendes ab: Individuelle Medikationspläne sind für ihn eher kein Fall für den Einsatz Künstlicher Intelligenz, da es hierbei immer um konkrete Einzelfälle geht. Unterstützung durch KI hält er jedoch für denkbar. Dass KI „Empathie kann“, hält er schon für wahrscheinlicher, denn die Bilderkennungs-KI und Emotionserkennungs-KI sind heute bereits weit fortgeschritten. Weniger Chancen räumt Dettling der KI zum „troubleshooting“ in der Apotheke ein, da der Versorgungsalltag von Vor-Ort-Apotheken in großem Umfang von zufallsartigen Problemen geprägt ist. Deren Lösung erfordere Flexibilität und die Fähigkeit zu spontaner Pro­blemlösung mithilfe individueller Maßnahmen – und dies sei kein Fall für die Künstliche Intelligenz.

Dettlings „Mosaikstein-These“

Angesichts der bisher zaghaften Ansätze schätzt Dettling, dass es wohl noch einige Zeit dauern wird, bis die KI in der Apotheke eingesetzt werden kann. Sie könnte allerdings „Mosaikstein-artig daherkommen“. Damit meint er, dass die KI Tätigkeiten generellerer Art Stück für Stück auch bei der Arzneimittelversorgung in der Apotheke übernehmen könnte. Demgegenüber werden Tätigkeiten individuellerer Art seiner Überzeugung nach auch weiterhin menschliche Kompetenzen erfordern. „Das Gesamtmosaik der Arzneimittelversorgung mit ihren vielfältigen Anforderungen wird aus einer Mischung von Mensch und KI bestehen“, so sein Resümee.

Keine speziellen Haftungsrisiken

In der Diskussion zu seinem Vortrag trat Dettling Bedenken entgegen, dass die Software sich quasi verselbstän­digen und ein Apotheker für daraus erwachsene Schäden in Anspruch genommen werden könnte. Hier sieht er keinen großen Unterschied zur jetzigen Rechtslage, da Medizinprodukte zertifiziert werden müssen und daher ebenso wie Arzneimittel daraufhin geprüft werden, wie und ob sie tatsächlich ihren Zweck erfüllen. Beim Arzneimittel hafte im Schadensfall der Inverkehrbringer. So werde es auch bei der Software sein. Auch die Gefahr, dass eine solche Software durch die eigenständige Weiterentwicklung eventuell off label agieren könnte, hält er zumindest zurzeit für unwahrscheinlich. Die medizinische Software, die die FDA bislang zugelassen hat, hatte bereits „ausgelernt“, sodass sie sich eigenständig nicht mehr weiterentwickeln konnte. |