Wissenschaftlicher Beitrag im Journal ACM Transactions on Interactive Intelligent Systems veröffentlicht
Wir freuen uns, mitteilen zu können, dass die Forschungsgruppe von JProf. Mario Nadj einen innovativen Artikel im Journal ACM Transactions on Interactive Intelligent Systems mit dem Titel Does this Explanation Help? Designing Local Model-agnostic Explanation Representations and an Experimental Evaluation using Eye-tracking Technology veröffentlicht hat.
In der Forschung zu erklärbarer künstlicher Intelligenz (Explainable Artificial Intelligence, XAI) wurden verschiedene Methoden vorgeschlagen, um Nutzern und Nutzerinnen Vorhersagen zu erklären und die Transparenz der zugrundeliegenden Systeme der künstlichen Intelligenz (KI) zu erhöhen. Der Nutzerperspektive wurde in der XAI-Forschung jedoch weniger Aufmerksamkeit geschenkt, was dazu führt, dass (1) die Nutzer und Nutzerinnen nicht ausreichend in den Designprozess einbezogen werden und (2) nur ein begrenztes Verständnis dafür besteht, wie sie diese visuell wahrnehmen. Vor diesem Hintergrund haben wir Repräsentationen lokaler Erklärungen aus vier etablierten Modell-agnostischen XAI-Methoden in einem iterativen Designprozess mit Nutzern und Nutzerinnen weiterentwickelt. Darüber hinaus haben wir diese in einem Laborexperiment mittels Eye-Tracking Technologie sowie Selbstauskünften und Interviews evaluiert. Unsere Ergebnisse zeigen unter anderem, dass Nutzer und Nutzerinnen nicht unbedingt einfache Erklärungen bevorzugen und dass ihre individuellen Charakteristika, wie z.B. das Geschlecht und die bisherige Erfahrung mit KI-Systemen, ihre Präferenzen sehr beeinflussen. Darüber hinaus halten die Nutzer einige Erklärungen nur in bestimmten Szenarien für hilfreich, so dass die Auswahl einer geeigneten Erklärung sehr vom Kontext abhängt. Mit unserer Arbeit leisten wir einen Beitrag zur laufenden KI Forschung zur Verbesserung der Transparenz.