Vertrauen in KI wächst – aber Zweifel bleiben

Rund 1.200 Teilnehmende nahmen an einer experimentellen Studie von der Julius-Maximilians-Universität in Würzburg und der Charité Berlin teil. Ihnen wurden Werbeanzeigen für Arztpraxen vorgelegt. Anhand verschiedener Eigenschaften sollten sie die darauf abgebildeten Ärztinnen und Ärzte bewerten. Wichtigster Unterschied: Bei einigen gezeigten Personen wurde die Information ergänzt, dass sie Künstliche Intelligenz (KI) für Tätigkeiten wie Verwaltung, Diagnose oder therapeutische Zwecke nutzen würden.
 

Misstrauen überwiegt noch

Die Studienteilnehmer bewerteten eben diese deutlich negativer. Sie hielten sie für weniger kompetent, weniger vertrauenswürdig und weniger empathisch. Sogar dann, wenn in der fiktiven Anzeige stand, dass KI lediglich für Verwaltungsaufgaben genutzt werde. Die Bereitschaft, einen Termin mit den betreffenden Medizinerinnen und Medizinern zu machen, war niedriger als bei anderen ohne die KI-Erwähnung. Als Grund vermuten die Studienautoren, dass die potenziellen Patientinnen und Patienten die Befürchtung hätten, die Arztpraxen könnten der KI blind folgen. Sie raten Praxen dazu, ihre Patientinnen und Patienten über den möglichen Einsatz von KI zu informieren und die Vorteile zu betonen. So könnten Bedenken beseitigt und Verständnis für sinnvollen KI-Einsatz erzeugt werden. Ein mögliches Argument: Wird KI in der Praxisverwaltung eingesetzt, hätte das Team mehr Zeit für die Patientenbetreuung. So könne die KI schlussendlich sogar zu einer noch menschlicheren Gesundheitsversorgung beitragen.
 

Aufklärung über KI-Einsatz

Der Frage, inwieweit Patientinnen und Patienten über den Einsatz von KI aufzuklären sind, ging ein Forschungsteam der US-amerikanischen Standfort University nach. Es veröffentlichte darüber einen Beitrag im Fachblatt JAMA. Sie empfehlen, Patientinnen und Patienten nicht grundsätzlich über jedes eingesetzte KI-Tool zu informieren. Bei welchen Tools es Sinn mache, hinge u. a. davon ab, ob der KI-Einsatz ein gesundheitliches Risiko für die Personen berge und sie sich aufgrund dessen eventuell für oder gegen eine Behandlung oder einen Eingriff entscheiden würden. Konkret würde das bedeuten, dass über den Einsatz eines KI-gesteuerten OP-Roboters informiert werden sollte, über einen internen KI-Prognosealgorithmus zur Blutlagerung dagegen nicht. 
 

Mensch vor KI

Klinikpatientinnen und -patienten stehen dem Einsatz von KI grundsätzlich positiv gegenüber. Das ergab eine weitere KI-Studie, die unter Leitung des Klinikums rechts der Isar der Technischen Universität München und der Charité-Universitätsmedizin Berlin durchgeführt und im JAMA Network Open veröffentlicht wurde. Dafür wurden über 13.000 Personen auf 6 Kontinenten befragt. Wichtigster Punkt für die Patientinnen und Patienten: Die letzte Entscheidung sollte noch immer in menschlichen Händen liegen. 

Die Ergebnisse:

• 57,6 % der Teilnehmenden bewerteten den Einsatz von KI im Gesundheitswesen positiv.
• Davon waren Frauen mit 55,6 % zurückhaltender als Männer mit 59,1 %. 
• 5,3 % der Personen mit sehr gutem Gesundheitszustand hatten eine eher negative Einstellung gegenüber der KI.
• Bei Personen mit eher schlechtem Gesundheitszustand sahen 29,2 % die KI-Anwendung negativ. Dies könnte jedoch auch an einem höheren Alter und weniger allgemeiner Technik-Affinität dieser Personengruppe liegen.
• 72,9 % sprechen sich für ärztlich geleitete Entscheidungsprozesse aus. 
   

Das Fazit der Studienautoren: „Die Ergebnisse dieser Studie lassen darauf schließen, dass die Einführung von KI im Gesundheitswesen verschiedene Strategien erfordert. Sie sollten u. a. auf Alter, Gesundheitszustand, technisches Verständnis und das Bedürfnis nach ärztlicher Einbindung und Transparenz abgestimmt werden.“

MT