KI-Modelle zum Wohle von Patientinnen und Patienten nutzen

Herr Eickhoff, welche Rolle spielt KI in ihrer Forschung?

Der Fokus meiner Forschung liegt auf den Grundlagen von KI-Modellen im Bereich der natürlichen Sprachverarbeitung, dazu gehören beispielweise große Sprachmodelle wie etwa ChatGPT. Vorrangig geht es um die Erklärbarkeit und Sicherheit solcher Modelle, aber auch um ihre Verbesserung. Die Schlüsselfrage lautet: Wie beeinflussen die Eingaben und Trainingsdaten, die in das Modell eingespeist werden und durch seine verschlungenen Pfade – die Parameter – fließen, das, was am Ende herauskommt? Das lässt sich aufgrund der Komplexität der Modelle nicht immer leicht beantworten. Um das abschätzen zu können, benötigt man mathematische Methoden.

Es reicht heutzutage nicht mehr, nur die Fehler in diesen Modellen verringern zu wollen. Es geht vielmehr um die Frage, wie sich Sprachmodelle in medizinischen Kontexten so einsetzen lassen, damit ich als Patient oder als Arzt am Ende bessere Entscheidungen treffen kann. Das ist letztendlich das Ziel meiner Arbeit.

Wo gibt es in der Medizin bereits Fortschritte durch den Einsatz von KI und wo stößt sie noch an ihre Grenzen?

Auf medizinischen Feldern, die auf Bildgebungsverfahren beruhen, hat die KI schon viel vorangebracht. Das sind Bereiche, in denen man sich visuelle Artefakte oder Befunde anschaut, auf deren Grundlage Diagnosen oder Therapien erstellt werden, etwa die Radiologie oder die Pathologie. Dabei kann häufig eine Software eingesetzt werden: Dort lade ich meine Bilder hoch und die Software markiert mir auf dem Bildmaterial Läsionen, Tumore oder Ähnliches.

Auch in allen Bereichen der sogenannten Präzisionsmedizin, in denen genomische Informationen relevant sind, wie in der Onkologie, gibt es KI-Anwendungen zur Auswertung von Zeitreihen oder tabellarischen Daten.

Generell sind die Computer-Vision-Modelle, die sich mit Bildern befassen, historisch etwas ausgereifter als Sprachmodelle oder andere Machine-Learning-Modelle. Der Einsatz von Sprachmodellen ist zwar oft technisch machbar, allerdings müssen verschiedene Bestandssysteme, wie etwa die Patientenakte oder das Medikamentensystem, zusammengeschaltet und einer Machine-Learning-betriebenen Software zur Verfügung gestellt werden. Das bedeutet einen riesigen Vorab-Aufwand und erschwert den prospektiven Einsatz.

Zentraler Vorteil der KI ist, dass sie sehr große Datenmengen vergleichsweise schnell scannen und abgleichen kann…

Es gibt zwei große Pull-Faktoren für den Einsatz von Künstlicher Intelligenz in der Medizin. Der erste ist das Effizienz-Versprechen: Das Modell kann etwas schneller als ein Mensch - beispielweise viel Text lesen, viele Bilder anschauen oder ähnliches. 

Der andere Faktor heißt Qualität: Es gibt Anwendungen, bei denen Machine-Learning-Modelle weniger Fehler machen als der Mensch, weil sie in der Lage sind, bestimmte Artefakte oder Zusammenhänge genauer zu untersuchen. Ein Beispiel: Der Mensch kann im Durchschnitt vier bis fünf Datenpunkte gleichzeitig miteinander im Kopf korrelieren, sehr intelligente Menschen kommen vielleicht auf sieben. Auf einer Intensivstation werden aber 50, 60 oder sogar 70 kontinuierliche Datenpunkte erhoben, zu jedem Zeitpunkt. Für den Menschen ist es unmöglich, in diesem sehr komplexen Gefüge Muster zu erkennen. Verschiedene Studien haben aber gezeigt, dass die KI sehr wohl Muster besser und frühzeitiger erkennen kann, die beispielsweise Komplikationen auf der Intensivstation vorhersagen. Dadurch kann man bei der Behandlung bis zu mehrere Stunden Vorlaufzeit gewinnen, bevor die Komplikationen tatsächlich auftreten.

Oder nehmen wir an, für eine bestimmte Patientin liegen 25 Dokumente vor. Eine sehr große und heterogene Materialsammlung mit mehreren Hundert Seiten, darunter kurze Arztbriefe und sehr lange Dokumente, Faxe, Bilder und handschriftlicher Text. Ein Arzt muss nun herausfinden, ob die Patientin eine bestimmte Therapie erhalten hat und wenn ja, wann. Man kann vielleicht aufgrund von Erfahrung einige Dokumenttypen ausschließen. Aber den Rest muss man durchsuchen, das ist langsam und fehlerbehaftet. Hier kann die KI beim Finden und Extrahieren von Informationen eine große Unterstützung sein.

Wie lässt es sich verhindern, dass die KI sich irrt oder Fehler macht? 

Die Datenqualität wird immer ein Problem sein. Je reiner oder qualitativ hochwertiger die Eingabedaten eines KI-Modells sind, desto besser sind erwartungsgemäß die Ausgabedaten. Und trotzdem passieren Fehler, etwa weil in der realen Welt mal etwas schiefgeht – niemand hat beispielsweise Zeit gehabt, einen kritischen Datenpunkt aufzuschreiben oder einzugeben, weil etwas dazwischengekommen ist. 

Die große Herausforderung sehe ich in der Schnittstellenproblematik: Wie arbeiten Menschen mit solchen smarten Werkzeugen effizient und zuverlässig zusammen? Wie sorge ich dafür, dass das, was das Modell macht, auch verständlich ist für den Patienten, den Arzt, den Prozess? Das gilt ganz besonders für die Krankenversorgung, weil dort ansonsten Menschen Schaden nehmen können.

Es kommt aber auch auf die Entwicklung der Menschen an, wenn wir Fehler beim Einsatz von KI vermeiden wollen. Wir kennen den Begriff des Deskillings: Menschen verlernen Dinge, weil sie sie zu oft an eine Maschine delegieren. Oder das Never-Skilling: Junge Menschen haben in ihrer Profession bestimmte Fähigkeiten nie erlernt - weil diese schon sehr früh an eine Maschine abgegeben wurden, die weniger Fehler macht als der Mensch.

Unklar ist auch, was der Einsatz von KI mit uns als Anwendern gesundheitlich macht. Löst es bei mir Hirnschäden aus, wenn ich bestimmte kognitive Prozesse immer delegiere? Oder erkranken KI-Power-User häufiger an früh beginnender Demenz? Alle diese Fragen können wir voraussichtlich erst nach Jahrzehnten beobachtender Studien beurteilen.

Aktuell arbeitet meine Forschungsgruppe zum Beispiel mit Kolleginnen und Kollegen an der Philosophischen und der Wirtschafts- und Sozialwissenschaftlichen Fakultäten zusammen, um solche Maschine-Mensch-Schnittstellen sowie gute Rezepte für den Einsatz von KI-Werkzeugen zu entwickeln, im Sinne unserer Patientinnen und Patienten.

Angesichts großer Mengen hochsensibler persönlicher Daten: Wie kann die moderne Hochleistungsmedizin gewährleisten, dass diese Daten sicher sind? 

KI-Modelle sind oftmals sehr groß und erfordern viel Rechenleistung. Deshalb funktioniert nicht jedes Modell auf einem Mobilgerät oder dem Computer in einer Arztpraxis, die Verarbeitung muss dann über ein Rechenzentrum laufen. Eine Lösung, bei der die Sicherheit der Daten gewährleistet ist, ist dabei das sogenannte On-Premise Hosting, bei dem die Server wirklich im Haus stehen und außer mir niemand den Schlüssel für den Zugang dazu hat.

Eine Alternative ist dediziertes Cloud-Computing bei Cloud-Anbietern: Sie sind in der Regel zertifiziert, ihre Server stehen in der EU, sie bieten alle Vorteile der Cloud und meine Daten sind dort ganz klar abgetrennt von anderen Daten. Vorteil: Die Kliniken müssen nicht selbst eine so große Rechnerumgebung vorhalten. Solche Lösungen werden aktuell an vielen Kliniken erprobt.

Wie werden künftige Medizinerinnen und Mediziner auf einen verantwortungsvollen Umgang mit KI-Tools vorbereitet? 

Dieser Aspekte wird in der Tat immer wichtiger – sowohl im Medizinstudium als auch in der lebenslangen Weiterbildung von Klinikerinnen und Klinikern. 

Die jungen Menschen, die jetzt Medizin studieren, sind auch selbst sehr interessiert an diesem Thema – weil sie darüber in den Medien etwas mitbekommen und natürlich auch, weil sie sie selbst privat einsetzen, ich denke an Suchmaschinen oder auch Chatbots.

Ich habe kürzlich im Rahmen eines Seminars über Medizinethik eine Einführung in KI für Medizinerinnen und Mediziner gegeben. Dabei ging es um die Frage, was darf ich als Mediziner überhaupt kognitiv auslagern und was muss ich selbst tun als Mensch? Wie gehe ich damit um, wenn Fehler gemacht werden? Oder wie gehe ich damit um, wenn zwar kein Fehler gemacht wird, aber das Ergebnis trotzdem schlecht ist? 

Derzeit sind Kurse zu KI im Studium der Humanmedizin in Tübingen noch nicht verpflichtend in der Studienordnung festgeschrieben. Da Tübingen jedoch ein führender KI-Standort ist, gibt es ein breites Angebot dazu - über Wahlfächer oder fächerübergreifende Angebote. Das Tübinger KI-Trainingszentrum für die Medizin entwickelt hierzu spezielle Lehrformate, und der Masterstudiengang Medizinische Strahlenwissenschaften beinhaltet als bundesweit erster seiner Art einen eigenen Profilbereich für KI.

Wenn ich in zehn oder 20 Jahren zu meinem Hausarzt gehe, sitzt da noch ein Mensch oder nur noch ein Computer?

Für alle Menschen, die in infrastrukturell gut aufgestellten Gegenden leben, wird sich der Besuch beim Hausarzt nicht allzu sehr von heute unterscheiden. Wahrscheinlich hängt ein unauffälliges Mikrofon im Raum, das mithört beim Gespräch, und anschließend schreibt die KI automatisiert den Arztbrief oder gibt Empfehlungen für die Behandlung – all das wird bereits vielerorts eingesetzt, nur künftig wird es noch mehr Schnittstellen geben, über die Dinge automatisiert im Hintergrund passieren. 

In infrastrukturell benachteiligten Gegenden, selbst in Deutschland, müssen Menschen allerdings bereits heute mehrere Stunden fahren, um zum Hausarzt zu kommen. In solchen Fällen wird bereits im Feldversuch stärker auf Telemedizin gesetzt und auch eine stärkere Automatisierung durch KI-Technologie erprobt. Das mag die traditionelle Versorgung nicht vollumfänglich ersetzen, aber es ist vielleicht eine bessere Alternative als das, was Patientinnen und Patienten jetzt dort haben. 

Grundsätzlich bin ich aber überzeugt, dass wir auch auf absehbare Zeit von diesem fundamentalen Bild „Ein Mensch spricht mit einem Menschen“ nicht sehr weit abrücken werden.

Das Interview führte Maximilian von Platen