Wenn ihnen die Befangenheit bei menschlichen Entscheidungen im Gesundheitswesen bewusster wird, sind Patienten – laut einer Studie der Lehigh University und der Seattle University – für medizinische Empfehlungen einer Künstlichen Intelligenz (KI) empfänglicher. Dieser „Salienz-Bias“, also diese Voreingenommenheit im Bereich der Aufmerksamkeit hat die Wahrnehmung laut Studie tatsächlich verändert.
Die KI wird mit Fairness verbunden
Marketing-Expertin Rebecca J. H. Wang vermutet, die gesteigerte Aufgeschlossenheit gegenüber KI beruht darauf, dass Voreingenommenheit als eine grundlegende menschliche Unzulänglichkeit gilt. Demgegenüber wird eine größere Integrität mit der KI verbunden. Im Vergleich zu Menschen wird Fairness und Vertrauenswürdigkeit bei „AI Agents“, also von Software- und Hardware, die autonom Aufgaben erledigen, stärker wahrgenommen.
Sechs Experimente mit fast 1.900 Teilnehmern haben die Forscher durchgeführt. Hat man die Teilnehmer an menschliche Vorurteile in der medizinischen Versorgung erinnert, wurden sie für KI-Empfehlungen empfänglicher. Zu diesen Vorurteilen gehörte auch eine unterschiedliche Behandlung, die auf Charakteristika wie dem Geschlecht des Patienten beruht.
Eine Altersdiskriminierung kennt die KI nicht
In verschiedenen Szenarien, benötigten die Patienten eine Empfehlung oder Diagnose bei Erkrankungen wie einem Koronararterien-Bypass oder Hautkrebs. Dabei wurden sie befragt, ob sie eine Empfehlung von einem Menschen oder von einem Computer/KI-Assistenten bevorzugen würden. Einem Teil der Personen wurde frühere Szenarien gezeigt, die ihren Aufmerksamkeits-Wert verbessern sollte. Dazu gehörten Infografiken, die verbreitete Fehleinschätzungen zeigten und beschrieben, was es bedeutete, wenn sich diese für die Betroffenen negativ auswirkten.
Thematiesiert wurde besonders die Altersdiskriminierung bei Patienten über 50 Jahren sowie eine geschlechtsspezifische Voreingenommenheit. Die in „Computers in Human Behavior“ veröffentlichten Ergebnisse zeigen schließlich auch, dass beim Fehlen der Voreingenommenheit die Subjektivität des menschlichen medizinischen Personals häufig als positiv angesehen wird. Ist die Voreingenommenheit aber hoch, legen die Patienten mehr Wert auf die wahrgenommene Objektivität der KI.
Quelle: pressetext