Künstliche Intelligenz in der Medizin

Für den Einsatz von KI müssen unterschiedliche technologische und organisatorische Herausforderungen geeignet adressiert werden, von der Datenbasis über die Algorithmen-Entwicklung bis zur Praxisanwendung von KI-Systemen.

• Geringe Datenmengen (»Little Data«)
  erfordern besondere Trainings- und Testansätze, um trotzdem vertrauenswürdige KI-Modelle zu entwickeln, z.B. im Falle seltener Krankheiten.
• Multi-modale Daten
  machen die klinische Entscheidungsfindung oft komplex und erfordern besondere KI-Verarbeitungsmethoden.
• Verteilte & besonders schützenswerte Daten 
  können oft nicht »einfach« zur Entwicklung von KI-Modellen zur Verfügung gestellt werden, sondern erfordern dezentrale Methoden zur sicheren Datenverarbeitung wie Föderiertes Lernen (»Federated Learning«).
• Datenverfügbarkeit & -qualität 
  stellen bei beispielsweise seltenen Krankheiten durch die spärliche Datenlage eine große Herausforderung dar.
  

• KI-Erklärbarkeit 
  ist selbst für Fachpersonal nicht immer gegeben, wenn nicht durch geeignete technische Methoden nachvollziehbar ist, welche Daten und Faktoren ausschlaggebend für die Entscheidung der KI sind.
• Unsicherheit & Bias
  sind häufig Resultate von Training mit unvollständigen oder ungenauen Daten, was in einer Unsicherheit der Ergebnisse des KI-Modells münden kann.

• KI-Sicherheitsnachweise
  sind besonders für kritische Anwendungsbereiche wichtig, um die Zuverlässigkeit, Qualität und Erklärbarkeit der KI-Entscheidungen zu gewährleisten.
• Unbekannte Szenarien
  treten im Reinforcement Learning auf, wenn das Modell außerhalb der »closed world« eingesetzt wird, in der es trainiert wurde. Solche Fälle können per Out-of-Distribution Detection erkannt werden.

Direkt Kontakt aufnehmen

Am Fraunhofer IKS forschen wir zu folgenden Themen, mit besonderem Fokus auf die Entwicklung vertrauenswürdiger KI-basierter Systeme in sicherheitskritischen Bereichen wie dem Gesundheitswesen:​

• Optimierung der Patient Journey: vom Screening über die Diagnose bis zur Behandlung und Nachsorge ​
• Medizinische Entscheidungsunterstützung und Zeitreihen 
• Klinische Entscheidungsfindung mittels kausaler Inferenz
• Roboterassistierte Krankenhäuser​
• Dateneffiziente medizinische Bildverarbeitung in Bildgebung und Diagnostik ​
• Optimierung von Gesundheitsprozessen, wie Ressourcen-Management im Krankenhaus​
• Predictive Maintenance von Medizingeräten​
• Optische Qualitätsprüfung von medizinischen Geräten​
• Praktische Anwendungen von Quantencomputing in der Medizin​

Wir arbeiten an praxisnahen Einsatzpotentialen der Quantentechnologie in der Medizin. Mehr Informationen dazu finden Sie auf unserem Blog.

Basierend auf bereits existierenden Bilddaten und damit verbundenen Diagnosen werden von der KI Muster im Bild erkannt, die Krankheitsbildern zugeordnet werden. Die Analyse und Verfügbarkeit großer Datenmengen macht es möglich, pathologische Veränderungen im Bild schnell und zuverlässig zu erkennen, Therapien individuell auf den Patienten anzupassen und Prognosen zum weiteren Krankheitsverlauf abzugeben.

Robotik im OP-Saal ist alles andere als Science-Fiction. Schon heute finden Roboter-Assistenten Anwendung bei verschiedensten Operationen oder auch in der Krankenhauslogistik bei der Verteilung von Medikamenten. Die Robotik ermöglicht eine höhere Präzision, eine bessere Visualisierung sowie ein minimalinvasives Vorgehen bei Operationen.

Um die Sicherheit von Anwenderinnen und Anwendern digitaler Gesundheitsdienste zu gewährleisten, sind ganzheitliche Sicherheitskonzepte erforderlich. Intelligente Systeme sammeln und kombinieren Daten und treffen darauf basierend Entscheidungen. 

Dieser Entscheidungsprozess wird durch zwei Faktoren erschwert:

• Verfügbarkeit der Daten: Künstliche Intelligenz wird anhand von aufbereiteten Datensätzen trainiert, um Muster erkennen zu können. Im Gesundheitswesen sind diese Daten teilweise kaum verfügbar, z.B. in der Diagnose von seltenen Krankheiten.
  
• Intransparenz und Nachvollziehbarkeit von KI-Entscheidungen: Komplexe KI-Algorithmen und deren Entscheidungen können beispielsweis in der Diagnostik durch Fachpersonal nur schwer überprüft werden, weil nicht klar ist, welche Daten für die Entscheidung grundlegend sind.
  

Falschdiagnosen und -prognosen stellen ein großes Risiko bei der Anwendung kognitiver Systeme in der Medizintechnik dar.