Digitale Signalverarbeitung mittels generativer Künstlicher Intelligenz (DSgenAI)

Generative Künstliche Intelligenz (GenAI) eröffnet neue Möglichkeiten zur Automatisierung von komplexen Aufgaben. So erobern zum Beispiel Chatbots und KI-Agenten seit einigen Jahren das Internet, indem sie Suchmaschinen ersetzen, E-Mails schreiben oder Bücher zusammenfassen. Die zugrundeliegenden Large Language Models (LLMs) können natürlichsprachlichen Input, ebenso wie Bilder und Dokumente effizient verarbeiten und reproduzieren. Studien schätzen, dass generative KI in der Wirtschaft Effizienzgewinne von Milliarden Euro freisetzen kann [1].

Insbesondere für sicherheitskritische Anwendungen sind Zuverlässigkeit und Robustheit eine wichtige Voraussetzung dafür, dass eine Technologie dauerhaft Effizienzsteigerungen in der Praxis erzielen kann. Die statistische Natur und die schwer interpretierbaren Lernprozesse von GenAI machen dies jedoch zu einer echten Herausforderung, da es grundsätzlich keine Garantie für korrekte oder hilfreiche Ergebnisse gibt (»Halluzinationen«). Infolgedessen wächst die Kluft zwischen technologisch möglichen und nachweisbar sicheren GenAI-Anwendungen weiter [2].

Ein grundlegendes Prinzip, um Prozessabläufe transparenter und verifizierbarer zu gestalten, ist die Kombination von LLM-basierten Komponenten mit Ressourcen ohne KI, siehe Abbildung 1. Unser Fraunhofer IKS Orchestrator-Framework entscheidet dann für individuelle Prozessschritte, ob die Aufgabe per LLM gelöst werden soll oder nicht, und ob alternative Plausibilisierungsmethoden zu Verfügung stehen. Standards und etablierte, deterministische Tools können eine Entscheidungsgrundlage schaffen.

Vor diesem Hintergrund entwickelt das Fraunhofer IKS verschiedene Methoden, um die Sicherheit von Anwendungen mit GenAI zu gewährleisten, darunter:

•  Verbesserte Retrieval-augmented Generation (RAG) Method [3]      
• Hybride Suchmethoden
• Systematische Reviewprozesse mit Human-in-the-Loop
• Multi-modale Plausibilisierungskonzepte 
• Unsicherheits-Prädiktion
• Metriken für semantische Ähnlichkeit, die zertifizierbare Sicherheitsspielräume aufweisen
• Feinabstimmung privater Modelle für datensensible Aufgaben

Benchmarks der Workflows mit realistischen Daten zeigen, ob solche Ansätze industriellen Anforderungen standhalten können. Aufbauend auf der einzigartigen Expertise im Zusammenspiel von KI und Sicherheit (Safety), verbindet das Fraunhofer IKS so grundlegende KI-Forschung mit industriellen Anwendungen.

Quellenangaben

[1] McKinsey & Company, The economic potential of generative AI: The next productivity frontier, 2023. 

[2] A. Kreutz, C. Drabek, R. Beck, “Mind the Economic Safety Gap. Accelerating Safety Innovation using Generative Artificial Intelligence,” Embedded World Exhibition and Conference 2025.

[3] B. Balu, F. Geissler, F. Carella, J.-V. Zacchi, J. Jiru, N. Mata, R. Stolle, “Towards Automated Safety Requirements Derivation Using Agent-based RAG,” in Proceedings og the AAAI Spring Symposium, 2025, pp. 299–307.