Fraunhofer-Institut für Kognitive Systeme IKSKünstliche Intelligenz (KI) ist in der heutigen Technologielandschaft allgegenwärtig. In einigen technischen Anwendungsbereichen, z. B. in der Fertigung, ist es sehr wichtig, dass KI-Techniken genaue Ergebnisse liefern. Denn nur wenn KI eine vertrauenswürdige und zuverlässige Leistung liefert, kann sie in sicherheitskritischen Szenarien für die Entscheidungsfindung eingesetzt werden.
© iStock.com/zorazhuang
Vertrauenswürdige und verlässliche KI-Anwendungen
Herausforderung: Komplexität und Unsicherheit
- Die Gewährleistung der Zuverlässigkeit von KI-Anwendungen ist vor allem aus zwei Gründen eine Herausforderung: Die Komplexität der Techniken und das Ausmaß an Unsicherheit, das sie mit sich bringen.
- Die Komplexität von KI-Techniken ergibt sich aus den verwendeten Algorithmen, Parametern und Architekturen sowie aus der allgemeinen Schwierigkeit, die von KI getroffenen Entscheidungen zu verstehen und zu interpretieren.
- Gleichzeitig stützen sich Künstliche Intelligenz auf unterschiedliche Datensätze, stochastische Suchheuristiken sowie Trainings- und Betriebskontexte, die alle Unsicherheit mit sich bringen.
Bedarf: Auf KI anwendbare Prinzipien
- Um diese Herausforderungen zu überwinden, können eine Reihe von Grundsätzen festgelegt werden. Sie erhöhen die Zuverlässigkeit und Vertrauenswürdigkeit von KI-Techniken.
- Diese Grundsätze sollten so verallgemeinerbar sein, dass sie auf mehrere Techniken angewendet werden können, aber auch eine Bestätigung liefern, dass die KI die gewünschten Kriterien erfüllt.
- Wenn die Grundsätze dies beiden Ziele erreichen, können sie auf breiter Basis angewendet werden und so das Vertrauen in KI-Anwendungen in der Wirtschaft erhöhen.
Lösung: Angepasste Techniken
Ein pragmatischer Ansatz zur Gewährleistung der Vertrauenswürdigkeit und Zuverlässigkeit von KI-Anwendungen besteht darin, anwendbare Grundsätze aus anderen Bereichen zu ermitteln und sie an diesen Kontext anzupassen. So können beispielsweise Sicherheitsstandards speziell für KI entwickelt werden. Gleichzeitig wird die Arbeit zur Verbesserung der Interpretierbarkeit und Verständlichkeit von KI es den Nutzern ermöglichen, den Entscheidungsprozess hinter den Techniken nachzuvollziehen, wodurch das Vertrauen in die erzielten Ergebnisse gestärkt wird.