Title: L2: Bewertung von KI in der Krebszellendiagnostik
Course: Neue Aufgaben zum Thema Künstliche Intelligenz > Section: Biologie, Q-Phase

Aufgabenübersicht

Aufgabe 1
Fassen Sie auf der Grundlage von Material A und unter Beachtung der Leitfragen 1 das Entscheidungsproblem zusammen.

Aufgabe 2
Formulieren Sie persönliche und inhaltliche Fragen, die die Patientin dem Arzt oder der Ärztin beim Aufklärungsgespräch bezüglich des Einsatzes von KI-Systemen bei der Diagnose stellen könnte.

Aufgabe 3
Ermitteln Sie unter Einbezug der Materialien A und B sowie der Leitfragen 2 vier Handlungsmöglichkeiten, die die Patientin bezüglich des Einsatzes von KI-Systemen bei ihrer Diagnose haben sollte.

Aufgabe 4
Versetzen Sie sich in die Lage der Patientin und entscheiden Sie sich für eine der von Ihnen formulierten Handlungsoptionen. Begründen Sie Ihre Entscheidung kurz.

Material A: Erfahrungsbericht aus ärztlicher Sicht - eine mögliche Erkrankung an Krebs

Es war ein schöner Julitag, als die Patientin in den OP-Saal geschoben wurde. Bei der Gallenoperation sollten Gallensteine entfernt werden. Als sie schließlich nach der Narkose aufwachte, war deutlich mehr Zeit vergangen, als für die Operation eingeplant gewesen war. Mein ärztlicher Bericht nach der Operation überraschte sie: Bei der Operation musste zusätzlich ein Lebersegment entnommen werden, da auffälliges Gewebe festgestellt wurde, das in die Histologie[1] geschickt wurde.

In unserem Krankenhaus setzen wir die neuesten medizinische Methoden ein. Aktuell haben wir die Möglichkeit, KI-Systeme zur Diagnose von Krankheiten wie beispielsweise Krebs, einzusetzen. Wie bei jeder Untersuchung müssen wir dazu die Patientinnen und Patienten aufklären und ihr Einverständnis zu unserem Handeln einholen.

[1] In der Histologie beschäftigt man sich unter anderem mit der Untersuchung von Gewebe.

Material B: Perspektiven auf den Einsatz von KI-Systemen in der Krebsdiagnostik

Bei der Diagnose von Krebs werden heutzutage verschiedene medizinische Verfahren eingesetzt. Bei einer Biopsie werden Proben von Geweben oder Zellen genommen und zur weiteren Untersuchung eingereicht. Im Labor können verschiedene Flüssigkeiten untersucht werden. Hilfreich sind auch bildgebende Verfahren. Dazu gehören das Röntgen, die Magnetresonanztomographie (kurz: MRT), die Computertomographie (kurz: CT), die Positronen-Emission-Tomografie (kurz: PET), die Szintigrafie oder auch die Ultraschalluntersuchung.

Bei der Anwendung von solchen Verfahren ist die Auswertung der erzeugten Bilder von entscheidender Bedeutung für die Diagnose, die bisweilen von ärztlichem Fachpersonal vorgenommen wird. KI-Systeme können an dieser Stelle ebenfalls genutzt werden.

Rathmes und Krauthammer (2021) fassen in ihrer Veröffentlichung die Chancen und Risiken der Nutzung von KI-Systemen zusammen:

Sie betonen, dass gerade im Bereich des Deep Learnings[1] eine große Chance für die medizinische Nutzung von KI-Systemen besteht. Die große und stetig wachsende Menge verfügbarer Daten, mit denen die Vorhersagealgorithmen trainiert werden, können zu einer Verbesserung der Mustererkennung in Bildern führen. Zukünftig geht man davon aus, dass KI-Systeme effizienter und genauer in der Diagnose sein können. Die verfügbare Datenvielfalt übersteigt zudem jeden Erfahrungsschatz, den ein Mediziner oder eine Medizinerin in ihrem Berufsleben je erlangen kann. In dem Artikel wird angemerkt, dass die KI-Systeme eine Diagnose nicht ohne ärztliche Aufsicht treffen müssen. Sie könnten assistieren, indem sie den Ärztinnen und Ärzten Hinweise geben und damit Diagnosen präziser machen. Zudem kann der Einsatz von KI-Systemen weniger erfahrene oder fachfremde Personen befähigen, auch komplizierte Diagnosen zu treffen. Des Weiteren ist die Leistungsfähigkeit von KI-Systemen konstant und Ermüdungserscheinungen werden nicht auftreten. Sie können dem ärztlichen Personal alltägliche Routinen abnehmen, sodass sich diese auf andere Aufgaben konzentrieren können.

Ein Nachteil, der von den Autoren gesehen wird, ist, dass KI-Systeme die menschliche Komponente bei der Konsultation eines Arztes oder einer Ärztin nicht ersetzen können, da ein vertrauensvoller und empathischer Umgang sowie Mitgefühl ebenfalls entscheidend sind. Zudem ist bei KI-Systemen die Entscheidungsfindung nicht einsichtig; die Prozesse, die die Entscheidung herbeigeführt haben, können nicht direkt nachvollzogen werden. Für eine gute Leistung von KI-Systemen ist des Weiteren der zugrundeliegende Datensatz entscheidend. Das bedeutet auch, dass Ergebnisse einseitig und fehlerhaft sein können, wenn dies bei den zugrundeliegenden Daten bereits der Fall ist. Die Autoren geben zudem zu bedenken, dass medizinische Daten sehr sensibel sind und daher der Datenschutz hohe Priorität hat.

[1] Maschinelles Lernen mit Hilfe neuronaler Netze

Leitfragen 1

Beachten Sie die folgenden Leitfragen.

- Wer ist der Entscheidungsträger/die Entscheidungsträgerin?
- Was soll genau entschieden werden?
- Welche Personen sind von der Situation betroffen?
- Welche Interessen haben die beteiligten Personen?
- Was genau ist das moralische Problem?

Leitfragen 2

Beachten Sie die folgenden Leitfragen.

- Welche beiden gegensätzlichen Handlungsmöglichkeiten könnten zu einer Lösung führen?
- Wie könnte man anders handeln?
- Was würden Sie vorschlagen, wenn Sie selbst am Konflikt beteiligt wären oder fallen Ihnen noch andere Möglichkeiten ein?

Übersicht der Lösungshinweise

Lösungshinweise zu Aufgabe 1

- Die Patientin muss entscheiden, inwiefern ein KI-System bei ihrer Diagnose eingesetzt werden soll.
- Dabei ist die Patientin selbst, der Arzt und ggf. auch Angehörige von der Entscheidung betroffen.
- Die Patientin und ihre Angehörigen möchten eine möglichst belastbare Diagnose, während der Arzt ebenfalls eine belastbare Diagnose erzielen will, darüber hinaus aber auch wirtschaftliche Interessen verfolgen kann.
- Das moralische Problem liegt zum einen in der Weitergabe von medizinischen Daten an eine KI und zum anderen im Umgang mit einer möglichen Fehldiagnose, die das KI-System erzeugt.

Lösungshinweise zu Aufgabe 2

mögliche Fragen an die Ärztin/den Arzt

(exemplarisch)

- Welche persönlichen Daten werden weitergegeben und wohin?
- Wer haftet bei einer Fehldiagnose?
- Was macht das KI-System genau bei der Diagnose?

Lösungshinweise zu Aufgabe 3

Grundsätzlich gibt es vier Handlungsoptionen, für die folgende Informationen sprechen:

1.) Die Diagnose wird nur mit dem KI-System gemacht.

- KI-Systeme sind effizienter und genauer.
- Hohe Leistungsfähigkeit der KI.
- Hohes Risiko einer Fehldiagnose, falls Datensatz zu Verzerrung führt.

2.) Die Diagnose wird zunächst mit dem KI-System gemacht, wobei danach ein Arzt das Ergebnis validiert.

- Der Arzt wird ggf. von dem bereits erzeugten Ergebnis beeinflusst.
- KI-Systeme sind effizienter und genauer.
- Es gibt eine „doppelte Absicherung“ der Diagnose.
- Menschliche Komponente bleibt erhalten.

3.) Die Diagnose wird zunächst von einem Arzt gemacht und danach mit dem KI-System überprüft.

- KI-Systeme sind effizienter und genauer.
- Es gibt eine „doppelte Absicherung“ der Diagnose.
- Ärztliche Fehler können ggf. behoben werden.
- Menschliche Komponente bleibt erhalten.

4.) Die Diagnose wird ohne KI-System erstellt.

- Es gibt bereits ausreichend gute Diagnoseverfahren.
- Menschliche Komponente bleibt erhalten.
- Ggf. Fehler durch Müdigkeit oder Überlastung.
- Sensible Daten werden nicht weitergegeben.