Künstliche Intelligenz (KI) begegnet den Menschen mittlerweile in fast allen Lebensbereichen. KI soll unterstützen, beraten und bei schwierigen Entscheidungsfindungen objektive und optimierte Lösungsvorschläge liefern. Wie aber können Menschen nachvollziehen, warum und wie eine KI zu ihrem jeweiligen Ergebnis gekommen ist? Im Sonderforschungsbereich/ Transregio (SFB/TRR) 318 der Universitäten Bielefeld und Paderborn beschäftigt sich ein interdisziplinäres Forschungsteam mit dieser Problematik: Ziel sind verstehbare Assistenzsysteme, die beispielsweise Rückfragen der Nutzer*innen beantworten und passgenaue Erklärungen liefern können. Im neuen Forschungspodcast geben die Forschenden Einblick in ihre Arbeit und erklären, warum erklärbare KI einen wichtigen Schritt in die Zukunft der KI-Forschung darstellt.
Wissenschaftler*innen aus sechs Disziplinen – Informatik, Linguistik, Medienwissenschaft, Psychologie, Soziologie und Wirtschaftswissenschaften – forschen im SFB an dem Prozess des interaktiven Erklärens und wie dieser auf KI-Systeme übertragen werden kann. Der Podcast „Explaining Explainability“ (zu deutsch: Erklärbarkeit erklären) bringt alle Disziplinen zusammen: Darin spricht Moderatorin Professorin Dr. Britta Wrede mit jeweils zwei Forschenden aus unterschiedlichen Fachrichtungen über deren aktuelle Forschung, Herausforderungen, Anwendungsbereiche und die Relevanz der Erklärbaren KI.
© Universität Bielefeld/M. Adamski
Die erste Episode nähert sich dem Thema Erklärbarkeit aus Perspektiven der Informatik und der Linguistik. Zu Gast sind die Sprecher*innen des SFB, Professor Dr. Philipp Cimiano (Informatik) von der Universität Bielefeld und Professorin Dr. Katharina Rohlfing (Psycholinguistik) von der Universität Paderborn. Was heißt eigentlich Explainability, warum und in welchen Bereichen ist sie so wichtig? Wo steht die Forschung aktuell – und was sind die größten Herausforderungen?
Wie können hochtechnische Abläufe für jeden verständlich dargestellt werden?
„Was die KI-Forschung im TRR so besonders macht, ist der Fokus auf die Person, der etwas erklärt wird“, sagt Philipp Cimiano. „Wie lassen sich hochtechnische Abläufe und Funktionen allgemein verständlich wiedergeben? Gegensätze, Vergleiche und Abstufungen können hier Licht ins Dunkel bringen. Wenn wir etwa den Entscheidungsprozess durch ein Maschinen-gelerntes Modell erklären wollen, dann spielen die Eigenschaften des Falles in dem eine Entscheidung getroffen wird, sogenannte Features, eine wichtige Rolle. Die Entscheidung kann dadurch erklärt werden, dass die Wichtigkeit der einzelnen Features bei der Entscheidung nachvollziehbar gemacht wird.“ Im Podcast erklären die Wissenschaftler*innen anhand konkreter Beispiele, worum es bei ihrer Forschung geht und geben Einblicke in ihren Forschungsalltag.
Die weiteren Episoden folgen im zweimonatigen Rhythmus. In der nächsten Podcast-Folge wird es um den Prozess der Alltagserklärungen gehen: Was hat die Linguistik bislang zu den Strukturen von Alltagserklärungen herausgefunden – und wie kann die Informatik diese Erkenntnisse für das Design von KI-Systemen weiterverarbeiten?
Der SFB/TRR 318 „Constructing Explainability“
Wie kann KI begreifbar werden? Oft setzen technische Erklärungen Wissen über die Funktionsweise von KI voraus und sind nur schwer nachvollziehbar. Im Sonderforschungsbereich/Transregio Constructing Explainability (Erklärbarkeit konstruieren, SFB/TRR 318) erarbeiten die Forschenden Wege, die Nutzer*innen in den Erklärprozess einzubinden. Dafür untersucht das interdisziplinäre Forschungsteam die Prinzipien, Mechanismen und sozialen Praktiken des Erklärens und wie diese im Design von KI-Systemen berücksichtigt werden können. Das Ziel des Projektes ist es, Erklärprozesse verständlich zu gestalten und verstehbare Assistenzsysteme zu schaffen.
Die Ko-Konstruktion von Erklärungen untersuchen insgesamt 22 Projektleiter*innen mit rund 40 wissenschaftlichen Mitarbeitenden aus Linguistik, Psychologie, Medienwissenschaft, Soziologie, Wirtschaftswissenschaft und Informatik der Universitäten Bielefeld und Paderborn.
