KOSMOX

Entwicklung einer neuartigen lokalen kontrafaktischen Erklärungsmethode und – Schnittstelle unter Berücksichtigung kognitiver Modellierungsansätze

  • Förderkennzeichen: 01IS19082A
  • Laufzeit: 01.01.2020 – 31.12.2021
  • Gesamtfördersumme: 1.002.223,00 €

Durch die enormen Fortschritte im Bereich Künstliche Intelligenz (KI) in den letzten Jahren kommen zunehmend mehr dieser KI-Technologien zum Einsatz, vor allem im Bereich des maschinellen Lernens (ML) können sie den Anwendern als Entscheidungsunterstützung dienen. Zur Analyse der Daten und somit der Nutzung der Technologie ist dabei eine nachgelagerte Überprüfung, Validierung und Interpretation der Ergebnisse seitens des Anwenders notwendig, aufgrund des Black-Box-Charakters fehlt es allerdings aktuell an Transparenz und Erklärbarkeit. Ein robustes Explainable Artificial Intelligence (XAI)-System soll den Entscheidungsträger darin unterstützen, die vom System getroffenen Entscheidungen zu verstehen und Verbesserungspotenziale aufzeigen, um in Zukunft auf Grundlage des eingesetzten ML-Models ein gewünschtes Ergebnis zu erzielen. Zur Gewährleistung dieser Funktionen soll im Projektvorhaben ein lokales post-hoc Erklärungssystem entwickelt werden. Dieses zeichnet sich durch eine semantische Integration zweier komplementärer Erklärungsansätze, lokal regelbasiert und simulationsbasiert kausal, aus. Im Rahmen des KOSMOX Vorhabens soll unter Einbezug der Erkenntnisse aus den Kognitions-, IS-, Organisationswissenschaften, HCI und der Verhaltensökonomie eine Erklärungsschnittstelle entwickelt werden. Diese soll eine interaktive Kommunikation zwischen dem End-User und den eingesetzten KI-Techniken bzw. deren Erklärungen ermöglichen. Der Anwender soll darin unterstützt werden, die ML-Ergebnisse für den Entscheidungsfindungsprozess nachzuvollziehen bzw. zu verstehen.

DX-Workshop 2021

DX-Workshop 2021 Die Projektmitarbeitenden Kaja Balzereit und Alexander Diedrich haben den DX-Workshop 2021 mitgestaltet:…

Mehr dazu