Welche Chancen und Risiken bietet KI im Gesundheitswesen?

Die Weltgesundheitsorganisation (WHO) hat einen Leitfaden zur Verwendung von künstlicher Intelligenz im Gesundheitswesen publiziert. Dort ist zu lesen, dass die Technologie unter bestimmten Voraussetzungen hilfreich in der Medizin sein könnte, aber auch irreführende und potenziell gefährliche Ergebnisse liefern könnte. Es komme auf die Qualität der Daten an, mit denen der Algorithmus versorgt wird.

Künstliche Intelligenz beschreibt ein informationstechnisches Netzwerk, das Daten so verarbeitet, dass neue Inhalte generiert werden. Der Algorithmus „lernt“ aus dem vorhandenen Datensatz. Die Rechenergebnisse hängen also stark von den verfügbaren Daten ab.
ChatGPT beispielsweise generiert originäre Texte, indem Informationen aus Artikeln anhand bestimmter Schlagworte und Anweisungen (den sogenannten prompts) gefunden und vom KI-Algorithmus modelliert werden. Das so errechnete Resultat basiert auf dem Datensatz, ist aber ein neuer Text.

Künstliche Intelligenz könnte laut WHO-Bericht bei der Diagnose, Forschung, Arzneimittelentwicklung, Verwaltung von Gesundheitsdaten sowie in der (Weiter-)Bildung von Heilberuflern genutzt werden.

Ist die Datengrundlage, mit dem das Computermodell arbeitet, verzerrt, so sind auch die errechneten Ergebnisse falsch, voreingenommen oder ungenau. Im Gesundheitssektor könne das beispielsweise falsche Diagnosen zur Folge haben, gibt die WHO im Leitfaden zu bedenken. Fehler, Missbrauch und schlussendlich gesundheitliche Schäden einzelner Menschen seien dann unvermeidbar. Insbesondere, wenn der Technologie zu sehr vertraut wird und Herausforderungen und Einschränkungen, was zum Beispiel Sicherheit und Nutzen angehen, missachtet werden.

Nur durch einen transparenten und verantwortungsvollen Umgang mit künstlicher Intelligenz sei es möglich, davon zu profitieren. Wie kann das gelingen?

Chancen und Risiken des Einsatzes von KI im Gesundheitswesen, laut WHO