US-Apothekenkette Rite Aid setzt fehlerhafte KI ein

Dieser Einsatz von Künstlicher Intelligenz (KI) ging daneben: Jahrelang hat die US-Apothekenkette Rite Aid mithilfe von KI-gestützter Gesichtserkennung die Gesichter seiner Kunden gescannt und mit einer Datenbank mutmaßlicher und bestätigter Ladendieben abgeglichen. Die habe jedoch unscharfe Fotos von Überwachungskameras, Mobiltelefonen oder Nachrichtensendungen enthalten, teilte die US-Handelsaufsicht FTC mit. Damit habe die Technik tausende falsche Meldungen von angeblichen Ladendieben generiert, woraufhin Unschuldige verdächtigt und belästigt worden seien.

In einem Fall habe das System fälschlicherweise ein 11-jähriges Mädchen gemeldet, das daraufhin durchsucht wurde. Einmal sei nach der Meldung einer Schwarzen Frau die Polizei gerufen worden, weil das System meinte, die gesuchte Person entdeckt zu haben – dabei habe es sich um eine weiße Blondine gehandelt. Die Probleme sollen laut FTC so eindeutig gewesen sein, dass sogar die Angestellten aufgrund der zahlreichen Falschmeldungen frustriert gewesen seien.

Fünf Jahre keine Gesichtserkennung

In einer Einigung mit der FTC verpflichtet sich Rite Aid nun, für fünf Jahre keine Gesichtserkennung in den Filialen zu benutzen. Nach einem Bericht der US-Zeitung Washington Post bemängelte die Handelsaufsicht, dass die Technik keine Vorkehrungen besaß, um Kunden zu schützen. Zudem habe Rite Aid nicht über den Einsatz der Technik informiert.

Wie die Zeitung weiter schreibt, habe die Kette, die 80 Prozent ihrer Filialen in Gegenden mit einer mehrheitlich weißen Bevölkerung betreibt, die Überwachungstechnik überwiegend in Apotheken eingesetzt, die sich in Gegenden mit nicht-weißer Bevölkerungsmehrheit befinden. Seit Jahren sei bekannt, dass Systeme zur Gesichtserkennung vor allem bei Menschen, die nicht weiß sind, versagen und fälschlicherweise Treffer ausgeben. Auch deshalb spreche die FTC von einem „rücksichtslosen Einsatz“, der zu „Demütigungen und anderen Schäden“ bei der Kundschaft geführt und gegen gesetzliche Vorgaben verstoßen habe.

Laut Washington Post könnte die Einigung zwischen Rite Aid und der FTC Auswirkungen auf andere Einzelhandelsunternehmen in den USA haben. So sei eine ähnliche Technik an vielen Orten der USA im Einsatz, beispielsweise bei der Baumarktkette Home Depot.

Rite Aid im Insolvenzverfahren

Im Oktober 2023 hat Rite Aid einen Insolvenzantrag gestellt, nachdem das Unternehmen in der US-Opioidkrise unter Druck geraten war. Rite Aid verwies in dem Zusammenhang auf sinkende Verkäufe und „rechtliche Risiken“. In hunderten Klagen war der Apothekenkette vorgeworfen worden, vielfach illegale Rezepte für Schmerzmittel eingelöst zu haben. Das Insolvenzverfahren nach Kapitel elf des US-Insolvenzrechts schützt Unternehmen für eine gewisse Zeit vor dem Zugriff ihrer Gläubiger und erleichtert damit einen finanziellen Neustart.

Rite Aid ist die größte Drogeriekette an der US-Ostküste und die drittgrößte in den Vereinigten Staaten. Die Kette beschäftigt rund 53.000 Mitarbeiter in rund 2500 Apotheken und gehört zu den 100 umsatzstärksten Unternehmen des Landes. Der Hauptsitz des Unternehmens befindet sich in Camp Hill (Pennsylvania), nahe Harrisburg.