Künstliche Intelligenz in der Medizin

Dr. Narges Ahmidi, Abteilungsleiterin Reasoned AI Decisions, erklärt im Video wie KI in der Medizin und maschinelles Lernen die Zukunft prägen wird. Die Anwendungsbereiche reichen von der Diagnose, z. B. durch Bildanalyse, über die Behandlung von Patienten bis hin zur Wartung von medizinischen Geräten auf Intensivstationen.

Die digitale Transformation verändert rasant das Gesundheitswesen. In Kliniken, Krankenhäusern und Arztpraxen sind die digitale Patientenakte, intelligente Systeme und KI in der Medizin auf dem Vormarsch, die Ärztinnen und Ärzte bei der Diagnose oder als Roboterassistenten im OP unterstützen. Die digitale Vernetzung von Patientendaten ermöglicht individualisierte und optimierte Behandlungsprozesse. In der Zukunft wird uns digitale Medizin zur Nachsorge und Therapie auch zu Hause begleiten. Gesundheits-Apps und Smart Wearables, die z.B. den Puls messen und die täglichen Schritte zählen, sind für viele Menschen bereits Teil des Alltags. Sie können viel mehr als nur ein Lifestyle-Produkt, denn sie befähigen Patientinnen und Patienten die eigenen Gesundheitsdaten zu tracken und Therapien durchzuführen.

Die digitale Patientenreise

In Zukunft wird uns die digitale Medizin als Patientinnen und Patienten begleiten: Von der Prävention, über das Screening, Diagnose und Therapie bis hin zur Nachsorge.

Grafik zur digitalen Patientenreise — © Fraunhofer IKS

Forschung zu KI in der Medizin am Fraunhofer IKS

Am Fraunhofer IKS forschen wir zu folgenden Themen, mit besonderem Fokus auf die Entwicklung vertrauenswürdiger KI-basierter Systeme in sicherheitskritischen Bereichen wie dem Gesundheitswesen:

Optimierung der Patient Journey: vom Screening über die Diagnose bis zur Behandlung und Nachsorge
Klinische Entscheidungsfindung mittels kausaler Inferenz
Roboterassistierte Krankenhäuser
Medizinische Bildgebung und Diagnostik
Ressourcen-Management im Krankenhaus
Predictive Maintenance von Medizingeräten
Optische Qualitätsprüfung von medizinischen Geräten
Praktische Anwendungen von Quantencomputing in der Medizin

Unsere Leistungen rund um KI in der Medizin

Mit uns den Zustand von Patienten
vorhersagen

Dank Zeitreihen-Analyse einen Schritt voraus sein.

Zeitreihen-Analysen

Mit uns die Zukunft verändern

Dank Ursachen-Analyse antworten auf all Ihre »Was-wäre-wenn«-Fragen finden.

Ursachen-Analyse

Mit uns Ihr KI-System bewerten

Dank Güte-Analyse die Generalisierbarkeit, Zuverlässigkeit, Robustheit, Bias, Out-of-Distribution Verhalten und Unsicherheit bestimmen.

Güte-Analyse

Unsere Angebote

Ideation-Workshops
Rapid Prototyping
R&D
Validierung der Verlässlichkeit

Angebote

Unsere Leistungen zu KI in der Medizin

Erfahren Sie hier alles zu den Kernkompetenzen und Leistungen des Fraunhofer IKS im Bereich KI in der Medizin. Wir freuen uns auf Ihre Anfrage.

Zur Leistungsübersicht

Chancen der Digitalisierung in der Medizin

Durch die Digitalisierung entstehen riesige Datenmengen. Wie diese Daten effektiv genutzt werden, zeigt die Industrie 4.0. Daten werden vernetzt, um Prozesse zu überwachen, um Trends frühzeitig zu erkennen und um mit neuen Geschäftsmodellen darauf reagieren zu können. Diese Vorteile lassen sich ebenso auf die Medizin übertragen. Unter Berücksichtigung aller medizinischen und nicht-medizinischen Daten wird es möglich, effizient und rational Entscheidungen zu treffen, Therapien zu individualisieren oder Krankheiten frühzeitig zu erkennen.

Big Data und Künstliche Intelligenz (KI) sind wichtige Schlüsselbegriffe in der Medizin der Zukunft. KI kann in kürzester Zeit große Datenmengen kombinieren und analysieren, schneller, als es Menschen je möglich wäre. Dies ebnet den Weg für intelligente Anwendungen in den Bereichen:

Klinische Entscheidungsfindung
Roboterassistierte Chirurgie
Medizinische Bildverarbeitung und Diagnostik
Überwachung chronischer Krankheiten
Krankenhausdatenmanagement

Wir am Fraunhofer IKS forschen an der Absicherung digitaler Anwendungen in diesen sicherheitskritischen Bereichen.

Medizinische Bildverarbeitung und Diagnostik

CT-Bilder auf Laptop und Bildschirm — © iStock.com/Orientfootage

Durch die Analyse von Bilddaten kann Künstliche Intelligenz bei der medizinischen Diagnostik unterstützen. Basierend auf bereits existierenden Bilddaten und damit verbundenen Diagnosen werden von der KI Muster im Bild erkannt, die Krankheitsbildern zugeordnet werden. Die Analyse und Verfügbarkeit großer Datenmengen macht es möglich, pathologische Veränderungen im Bild schnell und zuverlässig zu erkennen, Therapien individuell auf den Patienten anzupassen und Prognosen zum weiteren Krankheitsverlauf abzugeben.

Wir arbeiten darüber hinaus an praxisnahen Einsatzpotentialen der Quantentechnologie in der Medizin. Mehr Informationen dazu finden Sie auf unserem Blog.

Roboterassistierte Chirurgie

Robotik im OP-Saal ist alles andere als Science-Fiction. Schon heute finden Roboter-Assistenten Anwendung bei verschiedensten Operationen oder auch in der Krankenhauslogistik bei der Verteilung von Medikamenten. Die Robotik ermöglicht eine höhere Präzision, eine bessere Visualisierung sowie ein minimalinvasives Vorgehen bei Operationen.

Medizinischer Roboter im OP — © iStock.com/ClaudioVentrella

Absicherung sicherheitskritischer KI-Anwendungen in der Medizin

Um die Sicherheit von Anwenderinnen und Anwendern digitaler Gesundheitsdienste zu gewährleisten, sind ganzheitliche Sicherheitskonzepte erforderlich. Intelligente Systeme sammeln und kombinieren Daten und treffen darauf basierend Entscheidungen.

Dieser Entscheidungsprozess wird durch zwei Faktoren erschwert:

Verfügbarkeit der Daten: Künstliche Intelligenz wird anhand von aufbereiteten Datensätzen trainiert, um Muster erkennen zu können. Im Gesundheitswesen sind diese Daten teilweise kaum verfügbar, z.B. in der Diagnose von seltenen Krankheiten.
Intransparenz und Nachvollziehbarkeit von KI-Entscheidungen: Komplexe KI-Algorithmen und deren Entscheidungen können beispielsweis in der Diagnostik durch Fachpersonal nur schwer überprüft werden, weil nicht klar ist, welche Daten für die Entscheidung grundlegend sind.

Falschdiagnosen und -prognosen stellen ein großes Risiko bei der Anwendung kognitiver Systeme in der Medizintechnik dar. Wir am Fraunhofer-Institut für Kognitive Systeme IKS forschen daran, intelligente kognitive Systeme verlässlich und sicher zu machen.

Unsere Forschung umfasst mehrere Schwerpunkte:

Absicherung der Wahrnehmung (Perzeption) von kognitiven Systemen in der Medizin
Dynamische Sicherheitsnachweise digitaler Gesundheitsdienste
Bestimmung von Unsicherheiten (Uncertainty Estimations) des KI-Outputs
Erklärbarkeit und Nachvollziehbarkeit kognitiver Systeme
Anwendung von Quantencomputing in der Medizin

Forschungsschwerpunkte des Fraunhofer IKS

Absicherung der Wahrnehmung (Perzeption) kognitiver Systeme in der Medizin

Künstliche Intelligenz erkennt in Bildern und Sensordaten Muster, die zuvor anhand von Trainingsdaten erlernt wurden. Durch die Perzeption, d.h. Interpretation dieser Daten, werden Objekte erkannt und die Umgebung wird wahrgenommen. Eine zuverlässige und robuste Perzeption ist nicht nur für die Diagnostik, sondern auch für die Wahrnehmung von OP-Robotern ein kritischer Sicherheitsfaktor. Um sicher agieren zu können und Falschbehandlungen und Verletzungen von Patientinnen und Patienten zu vermeiden, ist die exakte Positionierung des Eingriffes im Körper unerlässlich.

Dynamische Sicherheitsnachweise für digitale Gesundheitsdienste

Die regulatorischen Anforderungen an die Sicherheit und Leistungsfähigkeit von Medizinprodukten sind hoch. Intelligente Systeme entwickeln sich kontinuierlich weiter und erweitern ihre Fähigkeiten. Dabei bleiben sie eine Black Box, d.h. nach außen ist nicht klar, wie Entscheidungen getroffen werden. Um Künstliche Intelligenz zertifizieren zu können, ist ein dynamischer und kontinuierlicher Sicherheitsnachweis notwendig. Wir am Fraunhofer IKS forschen an Lösungen, um die Erklärbarkeit, Transparenz und Robustheit neuronaler Netze zu verbessern und Qualitäts- und Sicherheitsnachweise der KI zu erbringen.

Bestimmung von
Unsicherheiten des
KI-Outputs

Mit Unsicherheitsabschätzungen bringen wir der Künstlichen Intelligenz das Zweifeln bei, um Fehlentscheidungen zu vermeiden. In der Medizin sind oft nur wenige Daten in niedriger Qualität zum Training kognitiver Systeme vorhanden. Dies kann dazu führen, dass auf Basis vorhandener Daten keine eindeutige Entscheidung getroffen werden kann. In solchen Situationen ist es wichtig, dass sich das kognitive System dieser Unsicherheit bewusst ist und darauf aufmerksam macht, um z.B. Falschdiagnosen zu vermeiden.

Erklärbarkeit und Nachvollziehbarkeit von KI

Unter dem Schlagwort Explainable AI forscht das Fraunhofer IKS an Lösungen, die Entscheidungsgrundlage bei der Diagnostik für Anwenderinnen und Anwender verständlich und überprüfbar zu machen. Dabei verbinden wir KI-Technologie mit klassischer Softwareentwicklung.

Quantencomputing in der Medizin

In einem Verbundprojekt mit dem Klinikum der LMU München forschen wir an Lösungen, wie Quantencomputing und Künstliche Intelligenz für eine intelligente Diagnostik und Gesundheitsversorgung eingesetzt werden können.

Weitere Informationen zu KI in der Medizin

Hier finden Sie unsere Blogartikel, aber auch spannende Artikel und Veranstaltungen rund um KI in der Medizin.

Blogartikel zu KI in der Medizin

Sie wollen mehr zur Forschung des Fraunhofer IKS rund um das Thema KI in der Medizinerfahren? Dann schauen Sie auf unserem Safe Intelligence Blog vorbei. Hier finden Sie viele Blogartikel zu Künstlicher Intelligenz in der Medizin.

Alle Blogartikel

Kassenärztliche Vereinigung Thürigen / 30.6.2023

»Kein guter Arzt muss befürchten, durch die KI ersetzt zu werden«

Welche Potenziale setzt Künstliche Intelligenz in der Medizin frei? Und welche Risiken kommen mit der KI hinzu? Darüber hat das Mitgliedermagazin der Kassenärztlichen Vereinigung Thüringen (kvt) mit Dr. Narges Ahmidi gesprochen. Lesen Sie hier das Interview:

Zum Artikel

13.2.2023

ChatGPT: Noch kein Allheilmittel

KI-Programme wie ChatGPT können auch in der Medizin einiges umkrempeln. Das Deutsche Ärzteblatt sprach dazu unter anderem mit Dr. Narges Ahmidi, Abteilungsleiterin Reasoned AI Decisions am Fraunhofer IKS, über das Potenzial, aber auch die aktuellen Schwachstellen von KI in der Medizin.