„Bereits 1956 wurde 'Künstliche Intelligenz' (KI) als Forschungsgebiet durch das 'Dartmouth Summer Research Project on Artificial Intelligence' in die Wissenschaft eingeführt. In den folgenden Jahrzehnten erlebte die KI in der öffentlichen Wahrnehmung ein Auf und Ab und konnte sich nur in vergleichsweise wenigen Bereichen der Medizin flächendeckend etablieren“, sagte Prof. Dr. Jan Stallkamp in seinem Online-Seminar über Künstliche Intelligenz in der Medizintechnik am 3. Februar 2021. Stallkamp hat an der Medizinischen Fakultät Mannheim eine Professur für Automatisierung in der Medizin und Biotechnologie – die einzige in Deutschland – inne, ist einer der Direktoren des Mannheimer Instituts für Intelligente Systeme in der Medizin (MIISM) und leitet die zum Fraunhofer-Institut für Produktionstechnik und Automatisierung IPA gehörende Projektgruppe für Automatisierung in der Medizin und Biotechnologie PAMB. Sie ist inmitten des Universitätsklinikums Mannheim im CUBEX⁴¹ angesiedelt, einem Zentrum für Unternehmensgründungen im Bereich Medizintechnologie. Das Seminar fand im Rahmen der Veranstaltungsreihe „heiINNOVATION talks: Digital health – from an analog to a digital world“ statt, die von Dr. Raoul Haschke, dem Leiter der Transfer-Agentur hei_INNOVATION der Universität Heidelberg durchgeführt wurde.

Belohnungssysteme für KI

Wie Stallkamp ausführte, sind Techniken der KI bzw. des maschinellen Lernens (KI/ML) in der Lage, aus großen, offensichtlich chaotischen Datenmengen Strukturen mit aussagefähigen Informationen abzuleiten. Das von Stallkamp aufgeführte System IBM Watson beispielsweise soll nicht nur große Mengen von Patientendaten für diagnostische Zwecke auswerten, sondern kann auch Sprache in ihrer ganzen Vielfalt beim Dialog mit dem Patienten erkennen und interpretieren. Dabei können solche Systeme durch Interaktion mit den Experten lernen und sich mit der Zeit immer weiter verbessern. Außerdem könnten KI-Systeme auf Basis des „Reinforcement Learning“ nach dem Prinzip von Versuch und Irrtum und eines entsprechenden „Belohnungssystems“ über viele Wiederholungsschleifen in einem Trainingsprozess so weit entwickelt werden, dass KI-basierte Systeme in Zukunft auch Entscheidungen treffen. Um den Einsatz von KI in der Medizin entstand in den letzten Jahren ein regelrechter Hype und KI wurde als Universallösung in der digitalisierten Welt angesehen. Trotz umfassender Forschungen zur KI ist die Zahl der Applikationen, die Eingang in die tägliche medizinische Praxis gefunden haben, jedoch immer noch sehr gering.

Das Potenzial von KI in der Medizin ist jedoch riesig, was im Bereich der digitalen Bildverarbeitung und -analyse in der Radiologie und Pathologie bereits zu erkennen ist. Es steht außer Frage, dass mit künstlichen neuronalen Netzen (KNN) ungleich größere Datenmengen beherrscht werden können als mit ihrem natürlichen Vorbild, dem menschlichen Gehirn. Auch zeigt sich KI/ML bei der Identifizierung anatomischer Strukturen und dem Erkennen anomaler Strukturveränderungen dem erfahrenen Radiologen oft überlegen. Im EKG erkennt KI nach Aussage von Anwendern einen Herzinfarkt inzwischen früher und zuverlässiger als der Kardiologe. Das Training der KI-Systeme ist jedoch in der Regel sehr aufwendig. Selbst für eine einzige, eher einfache radiologische Anwendung mussten in der Maschine 50 000 Fälle eingespeist und manuell annotiert werden,damit diese Anwendung erlernt werden konnte. Ein weiterer Nachteil ist, dass heute nur ein Mensch die Flexibilität und Intuition für die medizinische Behandlung außerhalb des engen Sichtbarkeitsbereichs (Scopes) eines Algorithmus aufbringt.

Das Problem der Black Box

Was ist aber die Folge, wenn der Maschine doch einmal ein Fehler unterläuft? Bei KNN liegen zwischen der Ebene der Dateneingabe (input layer) und den Ergebnissen (output layer) eine Anzahl versteckter Ebenen (hidden layer), die zusammen eine Black Box bilden. Black Box, weil sich die Berechnung des Ergebnisses auf Basis einer Eingabe nur unzureichend nachvollziehen lässt. Wenn das Ergebnis der Blackbox einen Behandlungsfehler auslöst, kann der Grund dafür nicht nachvollzogen werden. Wegen dieser immanenten Unsicherheit durch die Black Box werden Anwendungen von KI/ML-Systemen in der Medizin bisher nur eingeschränkt genutzt. Die Minimierung dieser Unsicherheit ist eines der Kernforschungsthemen von KI-Anwendungen. Solange in problematischen Fällen die Genauigkeit und Sicherheitsmargen nicht bestimmt und Haftungsfragen nicht geklärt sind, ist eine Zulassung für den Einsatz von KI anstelle des Facharztes in der medizinischen Diagnostik ausgeschlossen.

In der Medizintechnik hingegen sind schon heute adaptive Systeme und eine effiziente und präzise Intervention durch Automatisierung ohne den Einsatz von KI nicht mehr vorstellbar. Die Automatisierung ist der Schlüssel, zum Beispiel bei Probenentnahmen aus einem tief liegenden Gewebe mithilfe eines roboterassistierten, bildgestützten Interventionssystems, denn der Roboter kann die Biopsienadel schneller und exakter positionieren, als es der Arzt oder die Ärztin manuell könnte. Bisher trauen wir uns aber nur, eine Führungshülse für das Nadelinstrument über der Einstichstelle automatisch zu positionieren. Der Vorschub durch die Maschine ist auf Basis der vorhandenen Messdaten noch viel zu riskant. Die KI soll die Aufgabe übernehmen, die Erfahrung und menschliche Intuition in der Regelkette zukünftig zu ersetzen, die heute einen solchen Eingriff erst möglich machen.

Robotereinsatz bei Schlaganfall

Mit solchen KI-basierten Robotersystemen ließen sich zukünftig auch analytische und therapeutische Maßnahmen durchführen. Die letzte Kontrolle durch den Arzt ist dabei aber nicht zu ersetzen. Eindrücklich belegt Stallkamp die Potenziale eines mit „Deep Reinforcement Learning“ gesteuerten experimentellen Robotersystems für den automatisierten Kathetervorschub bei schweren Schlaganfällen. Bei diesen Interventionen werden Katheter in der Leiste eingeführt und bis in das verstopfte Gefäß im Gehirn vorgeschoben. Wenn das Forschungsprojekt erfolgreich sein wird, wird das Robotersystem dem manuellen Vorschub selbst durch Experten deutlich überlegen sein, was eine Verbesserung des Therapieerfolges bedeutet, da es bei diesem Vorgang auf jede Minute ankommt.

Ein weiteres Anwendungsgebiet für KI könnte die kontinuierliche, automatische Überwachung (surveillance) bei chronischen Erkrankungen oder auch bei der Prävention von Krankheiten sein. Diskutiert wird auch die Unterstützung der Pflege durch KI-Systeme. Auch wenn davon ausgegangen werden kann, dass die Betroffenen den Kontakt zu Personen aus Fleisch und Blut dem Kontakt zu einem Avatar vorziehen, stellt sich die Frage, wie die Akzeptanz aussieht, wenn keine Pflegekraft zeitnah zur Verfügung steht. Eine ausschließlich KI-gesteuerte Medizin, in der die Maschine den Arzt ersetzen und ein Algorithmus ethisch „denken und handeln“ muss, ist nicht das Ziel der Entwicklung und auch nicht erstrebenswert. Aus heutiger Sicht stellt KI ein Werkzeug für eine enorme Erweiterung menschlicher Fähigkeiten dar. Noch ist sie aber kein Ersatz und bei juristischen und ethisch-regulatorischen Fragen ist immer der Mensch und nicht die Maschine verantwortlich. Wie damit in Zukunft umgegangen wird – auch dafür trägt der Mensch die Verantwortung.