Der grosse Irrtum von Doktor Computer

Irren sei menschlich, heisst es – und viele hoffen daher, dass es Computer dank künstlicher Intelligenz und Deep Learning einmal besser machen. Dass wir davon aber noch weit entfernt sind, machte eben erst der grosse Hoffnungsträger in diesem Bereich «Watson for Oncology» von IBM deutlich. Doktor Algorithmus habe einen Rückschlag erlitten, schreibt die NZZ dazu. «Doktor Watson» – wie das System gerne freundlich genannt wird – berät weltweit über 200 Spitäler bei der Suche nach der am besten geeigneten Krebstherapie. Schon früher gab es Hinweise, dass das System fehlerhafte Empfehlungen gebe. Der Leiter der Krebsabteilung von Kopenhagens Reichskrankenhaus, Leif Jensen, habe das System schon 2017 scharf kritisiert, schreibt die NZZ in ihrem Beitrag: Folge man Watsons Tipps, könne es sein, dass Patienten sterben, statt zu genesen.

Das amerikanische Online-Magazin STAT-News, das mit dem «The Boston Globe» zusammenarbeitet, hat in einem Beitrag mit dem Titel «IBM’s Watson supercomputer recommended ‘unsafe and incorrect’ cancer treatments, internal documents show» aufgezeigt, dass Watson häufig «unsichere und inkorrekte Behandlungsempfehlungen» gebe, während IBM das System gegenüber den Medien weiterhin lobte. Im STAT-News-Beitrag heisst es frei übersetzt: «Gemäss den Dokumenten, die im vergangenen Sommer vom stellvertretenden Chief Health Officer von IBM Watson Health präsentiert wurden, sind die Probleme hauptsächlich auf das Training von Watson durch IBM-Ingenieure und -Mediziner im renommierten Memorial Sloan Kettering Cancer Center zurückzuführen. Die Software wurde mit einer kleinen Anzahl von „synthetischen“ Krebsfällen oder hypothetischen Patienten und nicht mit realen Patientendaten gefüttert. Die Empfehlungen basierten auf der Expertise einiger weniger Spezialisten pro Krebsart statt aufgrund von Leitlinien oder Evidenz».

Trotz dieser massiven Rückschläge glauben viele an die Zukunft von künstlicher Intelligenz und Deep Learning in der Medizin als Grundlage für ärztliche Entscheide. Grund dafür ist die wachsende Komplexität der Behandlungen und Krankheitsbilder. ÄrztInnen sind heute kaum mehr in der Lage neben ihrer ärztlichen Tätigkeit im Alltag den Überblick über die riesige Informationsflut zu behalten. Dies ist mit ein Grund, weshalb bei mediX die ärztlichen Guidelines für die Behandlung von PatientInnen einen so hohen Stellenwert haben. Sie werden von ÄrztInnen der mediX schweiz, mediX zürich oder mediX bern erarbeitet und stützen sich auf evidenzbasierten wissenschaftlichen Erkenntnissen und internationalen Richtlinien ab. Sie werden laufend überarbeitet und erweitert. Übrigens: Neu gibt es die Guidelines-Kurzversionen als WebApp unter www.medix-guidelines.ch auch fürs Mobile. Sie dienen den PraktikerInnen in den mediX-Praxen im ärztlichen Alltag als Leitlinien für die Behandlung verschiedener häufiger oder kritischer Krankheiten.

Die Anbieter von künstlicher Intelligenz und Deep Learning wollen gemäss ihren Aussagen mit ihren Systemen den ÄrztInnen helfen, Zeit zu sparen und die Treffsicherheit von Diagnosen und Therapien zu erhöhen, z.B. indem sie diese von Routineaufgaben bei der Auswertung von Bilddaten entlasten. So konnten Heidelberger Forscher kürzlich zeigen, dass Algorithmen besonders schwer einschätzbare Melanome öfter richtig als Hautkrebs erkannten als eine Gruppe von Dermatologen.» Hoffnungen weckt künstliche Intelligenz auch im Bereich der personalisierten Medizin, die auf den Eigenheiten jeder einzelnen PatientIn basiert. Bei der Durchleuchtung der grossen und komplexen Datenmengen und den unendlich vielen individuellen Behandlungsmöglichkeiten sollen Algorithmen helfen, die richtigen Kombinationen zu finden.

Der Anspruch der Entwickler von «Watson for Oncology» sei indessen wesentlich grösser, schreibt die NZZ in ihrem Artikel: «Der Algorithmus soll personalisierte Therapien für dreizehn häufige Krebsarten vorschlagen. Dazu gleicht Watson for Oncology das Wissen aus Hunderten medizinischen Fachjournalen und Lehrbüchern mit dem jeweiligen Fall ab. Zusätzlich trainierten Onkologen der New Yorker Krebsklinik Memorial Sloan Kettering das System. Die New Yorker Spezialisten zeigten Watson Krebsfälle und wie sie diese behandeln. Auf Basis dieses Trainings und einer Literaturrecherche macht das System nun Vorschläge auf dem Stand des aktuellen Wissens. Laut IBM sollen darunter auch Therapieoptionen sein, auf die der Arzt nicht kommt.

Manche Anwender loben das System, weil es informiertere Entscheidungen ermögliche. Der von Watson gelieferte Hintergrund habe ihm Gewissheit gegeben, dass die ins Auge gefasste Therapie für einen Lungenkrebspatienten die richtige sei, sagte etwa ein Arzt des Jupiter Medical Center in Florida zu Statnews. Hingegen kritisiert Bláha den Anspruch von IBM als «extrem schwer beherrschbar». «Wir trainieren unsere KI für sehr spezifische Teilaufgaben», erklärt der Informatiker. IBM hingegen versuche, den ganzen Arzt zu simulieren. Doch für eine Anamnese sei das Gespür des Arztes unerlässlich.»

Dieser Beitrag wurde unter Arzt als Beruf, Politik & Gesundheit, Über mediX, Was tun bei ......? veröffentlicht. Setze ein Lesezeichen auf den Permalink.

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.
Dein Kommentar wird von der Blog-Redaktion geprüft und und erscheint erst nach der Freigabe.

Spamschutz * Frist ist abgelaufen. Bitte laden Sie den Spamschutz erneut.