Fraunhofer-Institut für Kognitive Systeme IKS
Fraunhofer-Institut für Kognitive Systeme IKS
Grüne Tropfen vor blauem Hintergrund
© iStock.com/in-future

Künstliche Intelligenz in der Medizin

© iStock.com/in-future

Künstliche Intelligenz in der Medizin

Digitalisierung, Automatisierung und Künstliche Intelligenz (KI) verändern rasant das Gesundheitswesen. In Kliniken, Krankenhäusern und Arztpraxen sind die elektronische Patientenakte (ePA), Datenmanagementsysteme, KI-gestützte Auswertungen, Vorhersagen und Ressourcenplanung, Roboterassistenten im OP, intelligente Assistenten und viele weitere Technologien auf dem Vormarsch. Ärztinnen und Ärzte, Gesundheitsfachkräfte, Patientinnen und Patienten werden zunehmend durch kognitive Systeme unterstützt – vom telemedizinischen Erstgespräch über die KI-gestützte Diagnose bis zur individualisierten Therapie und Nachsorge zu Hause (»care at home«). Die digitale Vernetzung von verteilten Patientendaten, öffentlichen Gesundheitsdaten und Daten aus Gesundheits-Apps und Smart Wearables ist die Grundlage für individualisierte und optimierte Gesundheitsangebote.

 

Direkt Kontakt aufnehmen

Die digitale Patientenreise

In Zukunft wird uns die digitale Medizin als Patientinnen und Patienten begleiten: Von der Prävention, über das Screening, Diagnose und Therapie bis hin zur Nachsorge.

Grafik zur digitalen Patientenreise
© Fraunhofer IKS

Herausforderungen für vertrauenswürdige KI in der Medizin

Künstliche Intelligenz in der Medizin verspricht für viele Anwendungsbereiche großes Potenzial, etwa in der medizinischen Diagnostik, Medikamentenentwicklung, Administration und Prozessmanagement in Krankenhäusern und Arztpraxen, Ressourcen- und Kapazitätsplanung, Patientenaufklärung oder dem Training von Gesundheitsfachpersonal.

Für den Einsatz von KI müssen unterschiedliche technologische und organisatorische Herausforderungen geeignet adressiert werden, von der Datenbasis über die Algorithmen-Entwicklung bis zur Praxisanwendung von KI-Systemen.

Alle ausklappen Alle einklappen

Die Datenbasis...

...hat maßgeblichen Einfluss auf die Qualität des KI-Systems, und ist nicht selten der zeitaufwändigste Teil eines KI-Projektes. Noch vor der eigentlichen Algorithmen-Entwicklung entsteht durch die Datensammlung (»data collection«) und Datenaufbereitung (»data preprocessing«) der Input, anhand dessen die KI trainiert und getestet wird.

  • Geringe Datenmengen (»Little Data«)
    erfordern besondere Trainings- und Testansätze, um trotzdem vertrauenswürdige KI-Modelle zu entwickeln, z.B. im Falle seltener Krankheiten.
  • Multi-modale Daten
    machen die klinische Entscheidungsfindung oft komplex und erfordern besondere KI-Verarbeitungsmethoden.
  • Verteilte & besonders schützenswerte Daten 
    können oft nicht »einfach« zur Entwicklung von KI-Modellen zur Verfügung gestellt werden, sondern erfordern dezentrale Methoden zur sicheren Datenverarbeitung wie Föderiertes Lernen (»Federated Learning«).
  • Datenverfügbarkeit & -qualität 
    stellen bei beispielsweise seltenen Krankheiten durch die spärliche Datenlage eine große Herausforderung dar.

Direkt Kontakt aufnehmen

Die Qualität des Algorithmus...

...ist vergleichbar mit den bekannten Qualitätsunterschieden zwischen Technologie-Produkten.

  • KI-Erklärbarkeit 
    ist selbst für Fachpersonal nicht immer gegeben, wenn nicht durch geeignete technische Methoden nachvollziehbar ist, welche Daten und Faktoren ausschlaggebend für die Entscheidung der KI sind.
  • Unsicherheit & Bias
    sind häufig Resultate von Training mit unvollständigen oder ungenauen Daten, was in einer Unsicherheit der Ergebnisse des KI-Modells münden kann.

Direkt Kontakt aufnehmen

Der Einsatz von KI...

...muss von Anwendungsfall zu Anwendungsfall evaluiert werden. Hier gilt: Es hängt ganz davon ab. Selbst ein hochqualitativer KI-Algorithmus kann nicht immer problemlos von einem auf einen anderen Kontext übertragen werden. Und nicht für jeden Use Case ist der Einsatz von KI gleichermaßen sinnvoll und umsetzbar.

  • KI-Sicherheitsnachweise
    sind besonders für kritische Anwendungsbereiche wichtig, um die Zuverlässigkeit, Qualität und Erklärbarkeit der KI-Entscheidungen zu gewährleisten.
  • Unbekannte Szenarien
    treten im Reinforcement Learning auf, wenn das Modell außerhalb der »closed world« eingesetzt wird, in der es trainiert wurde. Solche Fälle können per Out-of-Distribution Detection erkannt werden.

Direkt Kontakt aufnehmen

Forschung zu KI in der Medizin am Fraunhofer IKS

Unser Fokus: Trustworthy Digital Health

Am Fraunhofer IKS forschen wir zu folgenden Themen, mit besonderem Fokus auf die Entwicklung vertrauenswürdiger KI-basierter Systeme in sicherheitskritischen Bereichen wie dem Gesundheitswesen:​

  • Optimierung der Patient Journey: vom Screening über die Diagnose bis zur Behandlung und Nachsorge ​
  • Medizinische Entscheidungsunterstützung und Zeitreihen 
  • Klinische Entscheidungsfindung mittels kausaler Inferenz
  • Roboterassistierte Krankenhäuser​
  • Dateneffiziente medizinische Bildverarbeitung in Bildgebung und Diagnostik ​
  • Optimierung von Gesundheitsprozessen, wie Ressourcen-Management im Krankenhaus​
  • Predictive Maintenance von Medizingeräten​
  • Optische Qualitätsprüfung von medizinischen Geräten​
  • Praktische Anwendungen von Quantencomputing in der Medizin​

Leistungen: Entdecken Sie die Zukunft zuverlässiger Gesundheitsversorgung!

Kooperieren Sie mit uns, um Innovationen im Bereich medizinischer KI voranzutreiben. Wir entwickeln vertrauenswürdige und zuverlässige KI-Modelle auf Basis medizinischer Daten, die Ihre Plattformen und Anwendungen verbessern.

Vorhersage & Entscheidungsunterstützung

Verbessern Sie die Patientenversorgung mit unseren maßgeschneiderten Lösungen in der Kardiologie und Frauengesundheit.

Entscheidungsunterstützung

Vertrauenswürdige KI

Unsere Modelle sind interpretierbar und nachvollziehbar, sodass Sie jeder Entscheidung vertrauen können und diese verstehen. Sichere LLM-Agenten optimieren Ihren klinischen Arbeitsablauf.

Vertrauenswürdige KI

Medizinische Daten

Von Zeitreihen bis hin zu medizinischen Bildern – nutzen Sie die Kraft der Daten, um zuverlässige Erkenntnisse zu gewinnen und bessere Diagnosen sowie Ergebnisse zu erzielen.

Medizinische Daten

KI in der Medizin in unserem Safe Intelligence Onlinemagazin

 

© iStock.com/vm

KI in der Medizin / 7.10.2025

KI hilft, Gesichtsfrakturen zu erkennen

Beratungsprojekte spielen eine entscheidende Rolle, um die Fraunhofer-Mission zu erfüllen, nämlich Spitzenforschung in industrielle Anwendungen zu bringen. Vor kurzem arbeitete das Fraunhofer IKS zusammen mit dem südkoreanischen Unternehmen ZIOVISION an der KI-basierten Segmentierung von Gesichtsfrakturen aus medizinischen Bildern. Der erfolgreiche Abschluss des Projekts zeigt die potenziellen Vorteile, die solche Kooperationen für beide Partner bieten.

KI in der Medizin
 

© iStock.com/vm

KI in der Medizin / 21.8.2025

Generative AI: eine Revolution für das Gesundheitswesen?

Künstliche Intelligenz, insbesondere große Sprachmodelle (LLMs), werden von vielen als Schlüsselressource für ein überlastetes Gesundheitssystem betrachtet. Besonders die KI-gestützte Automatisierung könnte bei der Bewältigung von Wissensmanagement-Aufgaben schnell Entlastung schaffen. Bevor es soweit ist, müssen Herausforderungen im Bereich Security und Safety sowie rechtliche Vorgaben berücksichtigt werden. Die Forschung des Fraunhofer IKS widmet sich diesen beiden Aspekten.

Generative AI
 

© iStock.com/Erika Parfenova

Porträt Katie Fitch / 27.3.2025

»Das Zusammenspiel von Forschung und Industrie begeistert mich«

Seit November 2024 ist Dr. Katie Fitch Abteilungsleiterin Trustworthy Digital Health am Fraunhofer IKS. Durch ihre Begeisterung für Mathematik war für Katie der Weg in den Bereich Engineering schon früh klar. Dann entdeckte sie die medizinische KI-Forschung für sich.

Porträt Katie Fitch
 

© iStock.com/AndreyPopov

KI im Krankenhaus / 6.3.2025

Schichtplanungsagent mit Reinforcement Learning soll Personaleinsatz verbessern

In einem gemeinsamen Projekt haben das Fraunhofer IKS und ATOSS Software einen KI-gesteuerten Schichtplanungsagenten entwickelt, der die Personaleinsatzplanung automatisiert und dabei eine hohe Skalierbarkeit aufweist.

KI-Schichtplanungsagent
 

© iStock.com/Drbouz

Maschinelles Lernen in der Medizin / 24.7.2024

Datengestützte Diagnostik verbessert Gesundheit von Frühgeborenen

Frühchen werden vor der vollständigen Reifung ihrer Organsysteme geboren und haben oft mit verschiedenen Gesundheitsproblemen zu kämpfen, die als »Morbiditäten« bezeichnet werden. Diese treten selten isoliert, sondern oft gleichzeitig auf. Zusammenhänge oder gar Muster in ihrem gemeinsamen Auftreten zu erforschen, hilft, gezieltere und individuellere Pflegepläne für die frühgeborenen Babies zu entwickeln. Ein Projektbericht.

ML in der Medizin
 

© iStock.com/Orientfootage

Safe Intelligence
Onlinemagazin

Möchten Sie mehr über die Forschung des Fraunhofer IKS zu KI in der Medizin erfahren? Dann schauen Sie in unserem Safe Intelligence Onlinemagazin vorbei:

Zum Onlinemagazin

Jetzt Kontakt aufnehmen

Kontaktieren Sie uns unverbindlich über das untenstehende Kontaktformular. Wir freuen uns auf Ihre Anfrage und setzen uns schnellstmöglich mit Ihnen in Verbindung.

Vielen Dank für Ihr Interesse am Fraunhofer IKS.

Wir haben Ihnen soeben eine Bestätigungsmail geschickt. Sollten Sie in den nächsten Minuten keine E-Mail erhalten, prüfen Sie bitte Ihren Spam-Ordner oder schicken Sie uns eine E-Mail an business.development@iks.fraunhofer.de.

* Pflichtfelder

Es ist ein Fehler aufgetreten. Bitte versuchen Sie es erneut oder kontaktieren Sie uns per E-Mail:
business.development@iks.fraunhofer.de