Künstliche Intelligenz in der Medizin

Künstliche Intelligenz und vor allem LLMs gelten vielen als Hoffnungsträger für ein überfordertes Gesundheitssystem. Vor allem könnte KI-basierte Automation bei Aufgaben des Wissensmanagements schnell Entlastung bringen. Bis es so weit ist, müssen Probleme mit Security und Safety gelöst sowie rechtliche Anforderungen erfüllt werden. Die Forschung des Fraunhofer IKS nimmt sich beider Themen an.

Seit November 2024 ist Dr. Katie Fitch Abteilungsleiterin Trustworthy Digital Health am Fraunhofer IKS. Durch ihre Begeisterung für Mathematik war für Katie der Weg in den Bereich Engineering schon früh klar. Dann entdeckte sie die medizinische KI-Forschung für sich.

In einem gemeinsamen Projekt haben das Fraunhofer IKS und ATOSS Software einen KI-gesteuerten Schichtplanungsagenten entwickelt, der die Personaleinsatzplanung automatisiert und dabei eine hohe Skalierbarkeit aufweist.

Frühchen werden vor der vollständigen Reifung ihrer Organsysteme geboren und haben oft mit verschiedenen Gesundheitsproblemen zu kämpfen, die als »Morbiditäten« bezeichnet werden. Diese treten selten isoliert, sondern oft gleichzeitig auf. Zusammenhänge oder gar Muster in ihrem gemeinsamen Auftreten zu erforschen, hilft, gezieltere und individuellere Pflegepläne für die frühgeborenen Babies zu entwickeln. Ein Projektbericht.

Regelungen und Standards für vertrauenswürdige Künstliche Intelligenz existieren bereits, und Hochrisiko-KI-Systeme in der Medizin stehen bald zur Prüfung an. Doch wie genau lassen sich diese Hochrisiko-Regeln in technische Maßnahmen zur Validierung von tatsächlichem Code und Algorithmen umsetzen? Das AI-Verifikationsframework des Fraunhofer IKS setzt hier an und bietet eine Lösung.