Zusammenfassung: Das Team Trustworthy Digital Health des Fraunhofer IKS entwickelt sichere und nachvollziehbare KI-Lösungen, die medizinische Entscheidungen verbessern und eine personalisierte Patientenversorgung ermöglichen.
Zusammenfassung: Das Team Trustworthy Digital Health des Fraunhofer IKS entwickelt sichere und nachvollziehbare KI-Lösungen, die medizinische Entscheidungen verbessern und eine personalisierte Patientenversorgung ermöglichen.
Die Sicherheit und Vertrauenswürdigkeit von intelligenten Gesundheitsanwendungen bildet das Herzstück unserer Forschung zu Digital Health am Fraunhofer IKS. Denn: KI-Anwendungen müssen zuverlässig, verständlich und robust für Patientinnen und Patienten, Ärztinnen und Ärzte, Gesundheitsversorger und andere wichtige Akteure sein. Nur dann können die vieldiskutierten Potenziale von Digitalisierung und Künstlicher Intelligenz (KI) im sicherheitskritischen Gesundheitswesen ausgeschöpft werden, im Sinne einer bestmöglichen Patientenversorgung.
Unser Leitthema Trustworthy Digital Health bündelt verschiedene Forschungsschwerpunkte, interdisziplinäre Kompetenzen und Lösungen, die wir – entsprechend dem Stand der Wissenschaft, Technik und Gesundheitswirtschaft – ständig weiterentwickeln. Gemeinsam mit Kliniken, Medizintechnik- & Health-IT-Unternehmen, Netzwerken, Universitäten und vielen weiteren Partnern aus Forschung und Industrie erforschen und entwickeln wir intelligente Gesundheitslösungen. Unser Spektrum reicht von klassischen KI-Modellen bis hin zu modernen generativen KI-Ansätzen. Unser Fokus liegt dabei insbesondere auf Anwendungen für klinische Vorhersagen und Entscheidungsunterstützung.
Die digitale Transformation des Gesundheitswesens eröffnet neue Möglichkeiten, KI entlang des gesamten Patientenpfades zur Analyse von Patientendaten einzusetzen und medizinische Entscheidungen auf bislang unerreichte Weise zu unterstützen. Individuelle Risiko- und Krankheitsprognosen, Vorschläge für Behandlungspläne oder KI-basierte Ereignisvorhersagen tragen zu einer personalisierten und präventiven Gesundheitsversorgung bei.
Wir sind spezialisiert auf die Entwicklung erklärbarer und zuverlässiger KI-Modelle für klinische Vorhersagen und Entscheidungsunterstützungssysteme (DSS), die medizinisches Fachpersonal bei der Datenanalyse, fundierten Entscheidungsfindung und Optimierung von Prozessen unterstützen. Gemeinsam mit Gesundheitsexperten und der Industrie entwickeln wir Lösungen für verschiedenste Bereiche und Fachgebiete – von Kardiologie und Frauengesundheit bis hin zu Krankenhausmanagement und Patientendokumentation. Neben »klassischen« KI-Methoden erforschen wir auch zukunftsweisende Technologien wie Quantencomputing.
Im sicherheitskritischen Gesundheitswesen, in dem Menschenleben auf dem Spiel stehen, ist die Gewährleistung zuverlässiger und robuster KI-Lösungen von zentraler Bedeutung. Vorschriften wie das EU-KI-Gesetz und die Medical Device Regulation (MDR) unterstreichen die Bedeutung der Sicherheit in der medizinischen KI. Unsere umfassende Expertise im Bereich vertrauenswürdiger KI – basierend auf zahlreichen Forschungsprojekten – ermöglicht es uns, reale Herausforderungen im Gesundheitswesen zu meistern: von intransparenten KI-gesteuerten Entscheidungsprozessen über unvollständige, unstrukturierte, wenige oder verteilte Daten bis hin zu Verzerrungen in Datensätzen und Halluzinationen großer Sprachmodelle (LLMs). In enger Zusammenarbeit mit Fachleuten aus dem Gesundheitswesen und der Industrie entwickeln wir medizinische KI-Lösungen, denen Sie vertrauen und deren Entscheidungen Sie nachvollziehen können.
Von medizinischen Bildern über Zeitreihen bis hin zu tabellarischen Daten und Texten – die digitale Vernetzung stellt immer mehr Daten für KI-gestützte Analysen bereit. Diese unterstützen nicht nur eine fundierte Entscheidungsfindung, sondern entlasten medizinisches Fachpersonal auch von zeitintensiven manuellen Tätigkeiten. In der medizinischen Bildgebung, etwa in der Pathologie und Radiologie, hilft KI bereits bei der Auswertung von Röntgen-, MRT- oder CT-Bildern. KI-Modelle zur Analyse von Zeitreihendaten erkennen Muster und Trends im Verlauf, um beispielsweise Risiken frühzeitig abzuschätzen oder die Ressourcenplanung zu optimieren. Moderne generative KI-Ansätze (GenAI) ermöglichen zudem die Auswertung unstrukturierter oder multimodaler Gesundheitsdaten, sodass Verwaltungs- und Dokumentationsaufgaben (teilweise) automatisiert werden können. Mit unserer Expertise und vielfältigen Forschungsansätzen unterstützen wir Sie dabei, das Potenzial KI-gestützter Analysen für unterschiedlichste medizinische und gesundheitsbezogene Daten voll auszuschöpfen.
Das Fraunhofer IKS bietet ein breites Spektrum an Lösungen für verschiedene medizinische Fachgebiete und Anwendungen im Gesundheitswesen. Zu unseren Kunden zählen Medizinerinnen und Mediziner, Kliniken, Unternehmen und Universitäten. Hier erfahren Sie, wie Sie mit uns zusammenarbeiten können:
Sie haben eine Idee, wie Künstliche Intelligenz (KI) Ihre klinische Arbeit erleichtern kann, aber keinen konkreten Fahrplan für die Umsetzung? Das Fraunhofer IKS unterstützt Sie dabei, KI von der ersten Idee in die klinische Praxis zu bringen.
Bringen wir Ihre KI-Idee in die klinische Praxis!
Sie haben eine Idee, wie KI in Ihrem Unternehmen eingesetzt werden kann, aber Ihnen fehlen Ressourcen oder Erfahrung für die Umsetzung? Das Fraunhofer IKS bringt Ihre KI-Projekte mit umfassendem Know-how in der (sicheren) KI-Entwicklung voran – egal ob für einen ersten Proof of Concept, einen schnellen Prototyp oder ein marktreifes KI-Produkt.
Schöpfen wir das volle Potenzial Ihres KI-Projekts aus!
Sie suchen einen verlässlichen Partner für die Entwicklung und Implementierung von KI, der über eine nachweisliche Erfolgsbilanz bei Förderanträgen und Projekten verfügt?
Machen wir Ihr KI-Projekt erfolgreich!
Sie wünschen sich neutrales, fachkundiges Feedback zu Ihrem KI-Modell und/oder Ihren verwendeten Daten? Das Fraunhofer IKS unterstützt Sie dabei, die spezifischen Herausforderungen bei der Vorbereitung von KI-Modellen für die regulatorische Zulassung und klinische Nutzung zu meistern.
Erhalten Sie Expertenfeedback zu Ihrem KI-Modell!
| Jahr Year | Titel/Autor:in Title/Author | Publikationstyp Publication Type |
|---|---|---|
| 2026 | Safety design guidelines for clinician–AI interaction in computer-aided diagnosis systems using system-theoretic framework with explainability validation Hagiwara, Yuki; Fitch, Katherine; Trapp, Mario |
Zeitschriftenaufsatz Journal Article |
| 2025 | A View on Vulnerabilites: The Security Challenges of XAI Pachl, Elisabeth; Langer, Fabian; Markert, Thora; Lorenz, Jeanette Miriam |
Konferenzbeitrag Conference Paper |
| 2025 | Application of Infrared Thermography and Artificial Intelligence in Healthcare: A Systematic Review of Over a Decade (2013-2024) Vicnesh, Jahmunah; Salvi, Massimo; Hagiwara, Yuki; Hah, Yan Yee; Mir, Hasan; Barua, Prabal Datta; Chakraborty, Subrata; Molinari, Filippo; Acharya, Rajendra U. |
Zeitschriftenaufsatz Journal Article |
| 2025 | Evaluation of Active Feature Acquisition Methods for Time-varying Feature Settings Kleist, Henrik von; Zamanian, Alireza; Shpitser, Ilya; Ahmidi, Narges |
Zeitschriftenaufsatz Journal Article |
| 2024 | Zukunftsteam KI und medizinisches Personal Lorenz, Jeanette Miriam; Pachl, Elisabeth |
Zeitschriftenaufsatz Journal Article |
| 2024 | Analysis of Missingness Scenarios for Observational Health Data Zamanian, Alireza; Kleist, Henrik von; Ciora, Octavia; Piperno, Marta; Lancho, Gino; Ahmidi, Narges |
Zeitschriftenaufsatz Journal Article |
| 2024 | Delineating morbidity patterns in preterm infants at near-term age using a data-driven approach Ciora, Octavia; Seegmüller, Tanja; Fischer, Johannes; Wirth, Theresa; Häfner, Friederike; Stoecklein, Sophia; Flemmer, Andreas W.; Förster, Kai; Kindt, Alida; Bassler, Dirk; Poets, Christian F.; Ahmidi, Narges; Hilgendorff, Anne |
Zeitschriftenaufsatz Journal Article |
| 2024 | Intelligente Gesundheit Lorenz, Jeanette Miriam; Schmidhuber, Johanna |
Zeitschriftenaufsatz Journal Article |
| 2024 | KI-Entwicklung - von der Vorschrift zum Computercode Zamanian, Alireza; Pachl, Elisabeth; Lancho, Gino |
Zeitschriftenaufsatz Journal Article |
| 2024 | The quest for a practical quantum advantage or the importance of applications for quantum computing Lorenz, Jeanette Miriam |
Zeitschriftenaufsatz Journal Article |
| 2023 | Assessable and interpretable sensitivity analysis in the pattern graph framework for nonignorable missingness mechanisms Zamanian, Alireza; Ahmidi, Narges; Drton, Mathias |
Zeitschriftenaufsatz Journal Article |
| 2023 | Proteomics reveals antiviral host response and NETosis during acute COVID-19 in high-risk patients Bauer, Alina; Pachl, Elisabeth; Hellmuth, Johannes C.; Kneidinger, Nikolaus; Motaharehsadat, Heydarian; Frankenberger, Marion; Stubbe, Hans C.; Ryffel, Bernhard; Petrera, Agnese; Hauck, Stefanie M.; Behr, Jürgen; Kaiser, Rainer; Scherer, Clemens; Deng, Li; Teupser, Daniel; Ahmidi, Narges; Muenchhoff, Maximilian; Schubert, Benjamin; Hilgendorff, Anne |
Zeitschriftenaufsatz Journal Article |
| 2023 | Quantum-enhanced AI in medicine Lorenz, Jeanette Miriam |
Vortrag Presentation |
| 2023 | Künstliche Intelligenz im Gesundheitswesen Ahmidi, Narges |
Zeitschriftenaufsatz Journal Article |
| 2023 | Post-hoc Saliency Methods Fail to Capture Latent Feature Importance in Time Series Data Schröder, Maresa; Zamanian, Alireza; Ahmidi, Narges |
Konferenzbeitrag Conference Paper |
| 2023 | What about the Latent Space? The Need for Latent Feature Saliency Detection in Deep Time Series Classification Schröder, Maresa; Zamanian, Alireza; Ahmidi, Narges |
Zeitschriftenaufsatz Journal Article |
| 2023 | Toward Safe Human Machine Interface and Computer-Aided Diagnostic Systems Hagiwara, Yuki; Espinoza, Delfina; Schleiß, Philipp; Mata, Núria; Doan, Nguyen Anh Vu |
Konferenzbeitrag Conference Paper |
| 2021 | Early-, Late-, and Very Late-Term Prediction of Target Lesion Failure in Coronary Artery Stent Patients: An International Multi-Site Study Pachl, Elisabeth; Zamanian, Alireza; Stieler, Myriam; Bahr, Calvin; Ahmidi, Narges |
Zeitschriftenaufsatz Journal Article |