Künstliche Intelligenz in der Medizin

DigitalisierungAutomatisierung und Künstliche Intelligenz (KI) verändern rasant das Gesundheitswesen. In Kliniken, Krankenhäusern und Arztpraxen sind die elektronische Patientenakte (ePA), Datenmanagementsysteme, KI-gestützte Auswertungen, Vorhersagen und Ressourcenplanung, Roboterassistenten im OP, intelligente Assistenten und viele weitere Technologien auf dem Vormarsch. Ärztinnen und Ärzte, Gesundheitsfachkräfte, Patientinnen und Patienten werden zunehmend durch kognitive Systeme unterstützt - vom telemedizinischen Erstgespräch über die KI-gestützte Diagnose bis zur individualisierten Therapie und Nachsorge zu Hause ("care at home"). Die digitale Vernetzung von verteilten Patientendaten, öffentlichen Gesundheitsdaten und Daten aus Gesundheits-Apps und Smart Wearables ist die Grundlage für individualisierte und optimierte Gesundheitsangebote.

Die digitale Patientenreise

In Zukunft wird uns die digitale Medizin als Patientinnen und Patienten begleiten: Von der Prävention, über das Screening, Diagnose und Therapie bis hin zur Nachsorge.

Grafik zur digitalen Patientenreise
© Fraunhofer IKS

Herausforderungen für vertrauenswürdige KI in der Medizin

Künstliche Intelligenz in der Medizin verspricht für viele Anwendungsbereiche großes Potenzial, etwa in der medizinischen Diagnostik, Medikamentenentwicklung, Administration und Prozessmanagement in Krankenhäusern und Arztpraxen, Ressourcen- und Kapazitätsplanung, Patientenaufklärung oder dem Training von Gesundheitsfachpersonal.

Für den Einsatz von KI müssen unterschiedliche technologische und organisatorische Herausforderungen geeignet adressiert werden, von der Datenbasis über die Algorithmen-Entwicklung bis zur Praxisanwendung von KI-Systemen.

Die Datenbasis...

...hat maßgeblichen Einfluss auf die Qualität des KI-Systems, und ist nicht selten der zeitaufwändigste Teil eines KI-Projektes. Noch vor der eigentlichen Algorithmen-Entwicklung entsteht durch die Datensammlung ("data collection") und Datenaufbereitung ("data preprocessing") der Input, anhand dessen die KI trainiert und getestet wird.

Die Qualität des Algorithmus...

...ist vergleichbar mit den bekannten Qualitätsunterschieden zwischen Technologie-Produkten

Der Einsatz von KI...

...muss von Anwendungsfall zu Anwendungsfall evaluiert werden. Hier gilt: Es hängt ganz davon ab. Selbst ein hochqualitativer KI-Algorithmus kann nicht immer problemlos von einem auf einen anderen Kontext übertragen werden. Und nicht für jeden Use Case ist der Einsatz von KI gleichermaßen sinnvoll und umsetzbar. 

  • Geringe Datenmengen ("Little Data")
    erfordern besondere Trainings- und Testansätze, um trotzdem vertrauenswürdige KI-Modelle zu entwickeln, z.B. im Falle seltener Krankheiten.
  • Multi-modale Daten
    machen die klinische Entscheidungsfindung oft komplex und erfordern besondere KI-Verarbeitungsmethoden.
  • Verteilte & besonders schützenswerte Daten 
    können oft nicht “einfach” zur Entwicklung von KI-Modellen zur Verfügung gestellt werden, sondern erfordern dezentrale Methoden zur sicheren Datenverarbeitung wie Föderiertes Lernen ("Federated Learning").
  • Datenverfügbarkeit & -qualität 
    stellen bei beispielsweise seltenen Krankheiten durch die spärliche Datenlage eine große Herausforderung dar. 

  • KI-Erklärbarkeit 
    ist selbst für Fachpersonal nicht immer gegeben, wenn nicht durch geeignete technische Methoden nachvollziehbar ist, welche Daten und Faktoren ausschlaggebend für die Entscheidung der KI sind.
  • Unsicherheit & Bias
    sind häufig Resultate von Training auf unvollständigen oder ungenauen Daten, was in einer Unsicherheit der Ergebnisse des KI-Modells münden kann.

  • KI-Sicherheitsnachweise
    sind besonders für kritische Anwendungsbereiche wichtig, um die Zuverlässigkeit, Qualität und Erklärbarkeit der KI-Entscheidungen zu gewährleisten.
  • Unbekannte Szenarien
    treten im Reinforcement Learning auf, wenn das Modell außerhalb der ‘closed world’ eingesetzt wird in der es trainiert wurde. Solche Fälle können per Out-of-Distribution Detection erkannt werden.

Forschung zu KI in der Medizin am Fraunhofer IKS

Unser Fokus: Trustworthy Digital Health

Am Fraunhofer IKS forschen wir zu folgenden Themen, mit besonderem Fokus auf die Entwicklung vertrauenswürdiger KI-basierter Systeme in sicherheitskritischen Bereichen wie dem Gesundheitswesen:​

  • Optimierung der Patient Journey: vom Screening über die Diagnose bis zur Behandlung und Nachsorge ​
  • Medizinische Entscheidungsunterstützung und Zeitreihen 
  • Klinische Entscheidungsfindung mittels kausaler Inferenz
  • Roboterassistierte Krankenhäuser​
  • Dateneffiziente medizinische Bildverarbeitung in Bildgebung und Diagnostik ​
  • Optimierung von Gesundheitsprozessen, wie Ressourcen-Management im Krankenhaus​
  • Predictive Maintenance von Medizingeräten​
  • Optische Qualitätsprüfung von medizinischen Geräten​
  • Praktische Anwendungen von Quantencomputing in der Medizin​

Unsere Leistungen rund um KI in der Medizin

Dateneffiziente medizinische Bildverarbeitung

mit sicheren und erklärbaren KI-Modelle für Datenmangel und kleine Stichprobengrößen.

Medizinische Entscheidungsunterstützung & Zeitreihen

mit erklärbarer und zuverlässiger KI für verbesserte Entscheidungsfindung, Krankheitsvorhersage und Behandlung.

Optimierung von Gesundheitsprozessen

mit skalierbaren, übertragbaren KI-Systemen zur Erleichterung manueller Aufgaben für Gesundheitsexperten.

Validierung & Verifizierung von KI-Modellen

mit unserem Verifizierungsrahmen um Sicherheit und Vertrauenswürdigkeit zu gewährleisten.

 

Unsere Formate:

  • Ideation-Workshops
  • Rapid Prototyping
  • R&D
  • Trainings

Dank Zeitreihen-Analyse einen Schritt voraus sein.

Dank Ursachen-Analyse antworten auf all Ihre »Was-wäre-wenn«-Fragen finden.​

 

 

Mit uns KI-Systeme vertrauenswürdig und transparent gestalten.

Chancen der Digitalisierung in der Medizin

Durch die Digitalisierung entstehen riesige Datenmengen. Wie diese Daten effektiv genutzt werden, zeigt die Industrie 4.0. Daten werden vernetzt, um Prozesse zu überwachen, um Trends frühzeitig zu erkennen und um mit neuen Geschäftsmodellen darauf reagieren zu können. Diese Vorteile lassen sich ebenso auf die Medizin übertragen. Unter Berücksichtigung aller medizinischen und nicht-medizinischen Daten wird es möglich, effizient und rational Entscheidungen zu treffen, Therapien zu individualisieren oder Krankheiten frühzeitig zu erkennen.

Big Data und Künstliche Intelligenz (KI) sind wichtige Schlüsselbegriffe in der Medizin der Zukunft. KI kann in kürzester Zeit große Datenmengen kombinieren und analysieren, schneller, als es Menschen je möglich wäre. Dies ebnet den Weg für intelligente Anwendungen in den Bereichen:

  •  Klinische Entscheidungsfindung
  •  Roboterassistierte Chirurgie
  •  Medizinische Bildverarbeitung und Diagnostik
  •  Überwachung chronischer Krankheiten
  •  Krankenhausdatenmanagement

 

Medizinische Bildverarbeitung und Diagnostik mittels Quantencomputing

CT-Bilder auf Laptop und Bildschirm
© iStock.com/Orientfootage

Wir arbeiten an praxisnahen Einsatzpotentialen der Quantentechnologie in der Medizin. Mehr Informationen dazu finden Sie auf unserem Blog.

Basierend auf bereits existierenden Bilddaten und damit verbundenen Diagnosen werden von der KI Muster im Bild erkannt, die Krankheitsbildern zugeordnet werden. Die Analyse und Verfügbarkeit großer Datenmengen macht es möglich, pathologische Veränderungen im Bild schnell und zuverlässig zu erkennen, Therapien individuell auf den Patienten anzupassen und Prognosen zum weiteren Krankheitsverlauf abzugeben.

 

Roboterassistierte Chirurgie

Robotik im OP-Saal ist alles andere als Science-Fiction. Schon heute finden Roboter-Assistenten Anwendung bei verschiedensten Operationen oder auch in der Krankenhauslogistik bei der Verteilung von Medikamenten. Die Robotik ermöglicht eine höhere Präzision, eine bessere Visualisierung sowie ein minimalinvasives Vorgehen bei Operationen.

Medizinischer Roboter im OP
© iStock.com/ClaudioVentrella

Absicherung sicherheitskritischer KI-Anwendungen in der Medizin

Um die Sicherheit von Anwenderinnen und Anwendern digitaler Gesundheitsdienste zu gewährleisten, sind ganzheitliche Sicherheitskonzepte erforderlich. Intelligente Systeme sammeln und kombinieren Daten und treffen darauf basierend Entscheidungen. 

Dieser Entscheidungsprozess wird durch zwei Faktoren erschwert:

  • Verfügbarkeit der Daten: Künstliche Intelligenz wird anhand von aufbereiteten Datensätzen trainiert, um Muster erkennen zu können. Im Gesundheitswesen sind diese Daten teilweise kaum verfügbar, z.B. in der Diagnose von seltenen Krankheiten.
  • Intransparenz und Nachvollziehbarkeit von KI-Entscheidungen: Komplexe KI-Algorithmen und deren Entscheidungen können beispielsweis in der Diagnostik durch Fachpersonal nur schwer überprüft werden, weil nicht klar ist, welche Daten für die Entscheidung grundlegend sind.

Falschdiagnosen und -prognosen stellen ein großes Risiko bei der Anwendung kognitiver Systeme in der Medizintechnik dar.  

 

Forschungsschwerpunkte des Fraunhofer IKS

Absicherung der Wahrnehmung (Perzeption) kognitiver Systeme in der Medizin

Künstliche Intelligenz erkennt in Bildern und Sensordaten Muster, die zuvor anhand von Trainingsdaten erlernt wurden. Durch die Perzeption, d.h. Interpretation dieser Daten, werden Objekte erkannt und die Umgebung wird wahrgenommen. Eine zuverlässige und robuste Perzeption ist nicht nur für die Diagnostik, sondern auch für die Wahrnehmung von OP-Robotern ein kritischer Sicherheitsfaktor. Um sicher agieren zu können und Falschbehandlungen und Verletzungen von Patientinnen und Patienten zu vermeiden, ist die exakte Positionierung des Eingriffes im Körper unerlässlich.

Dynamische Sicherheitsnachweise für digitale Gesundheitsdienste

Die regulatorischen Anforderungen an die Sicherheit und Leistungsfähigkeit von Medizinprodukten sind hoch. Intelligente Systeme entwickeln sich kontinuierlich weiter und erweitern ihre Fähigkeiten. Dabei bleiben sie eine Black Box, d.h. nach außen ist nicht klar, wie Entscheidungen getroffen werden. Um Künstliche Intelligenz zertifizieren zu können, ist ein dynamischer und kontinuierlicher Sicherheitsnachweis notwendig. Wir am Fraunhofer IKS forschen an Lösungen, um die Erklärbarkeit, Transparenz und Robustheit neuronaler Netze zu verbessern und Qualitäts- und Sicherheitsnachweise der KI zu erbringen.

Bestimmung von
Unsicherheiten des
KI-Outputs

Mit Unsicherheitsabschätzungen bringen wir der Künstlichen Intelligenz das Zweifeln bei, um Fehlentscheidungen zu vermeiden. In der Medizin sind oft nur wenige Daten in niedriger Qualität zum Training kognitiver Systeme vorhanden. Dies kann dazu führen, dass auf Basis vorhandener Daten keine eindeutige Entscheidung getroffen werden kann. In solchen Situationen ist es wichtig, dass sich das kognitive System dieser Unsicherheit bewusst ist und darauf aufmerksam macht, um z.B. Falschdiagnosen zu vermeiden.

Erklärbarkeit und Nachvollziehbarkeit von KI

Unter dem Schlagwort Explainable AI forscht das Fraunhofer IKS an Lösungen, die Entscheidungsgrundlage bei der Diagnostik für Anwenderinnen und Anwender verständlich und überprüfbar zu machen. Dabei verbinden wir KI-Technologie mit klassischer Softwareentwicklung.

Quantencomputing & KI in der Medizin

In einem Verbundprojekt mit dem Klinikum der LMU München forschen wir an Lösungen, wie Quantencomputing und Künstliche Intelligenz für eine intelligente Diagnostik und Gesundheitsversorgung eingesetzt werden können.

Weitere Informationen zu KI in der Medizin

Hier finden Sie unsere Blogartikel, aber auch spannende Artikel und Veranstaltungen rund um KI in der Medizin.

 

Blogartikel zu KI in der Medizin

Sie wollen mehr zur Forschung des Fraunhofer IKS rund um das Thema KI in der Medizinerfahren? Dann schauen Sie auf unserem Safe Intelligence Blog vorbei. Hier finden Sie viele Blogartikel zu Künstlicher Intelligenz in der Medizin.

 

Kassenärztliche Vereinigung Thürigen / 30.6.2023

»Kein guter Arzt muss befürchten, durch die KI ersetzt zu werden«

Welche Potenziale setzt Künstliche Intelligenz in der Medizin frei? Und welche Risiken kommen mit der KI hinzu? Darüber hat das Mitgliedermagazin der Kassenärztlichen Vereinigung Thüringen (kvt) mit Dr. Narges Ahmidi gesprochen. Lesen Sie hier das Interview:

 

 

13.2.2023

ChatGPT: Noch kein Allheilmittel

KI-Programme wie ChatGPT können auch in der Medizin einiges umkrempeln. Das Deutsche Ärzteblatt sprach dazu unter anderem mit Dr. Narges Ahmidi, Abteilungsleiterin Reasoned AI Decisions am Fraunhofer IKS, über das Potenzial, aber auch die aktuellen Schwachstellen von KI in der Medizin.