Erklärungen gemeinsam entwickeln: Neuer Sonderforschungsbereich zu künstlicher Intelligenz an den Universitäten Paderborn und Bielefeld

25.05.2021
von: Jörg Heeren

Die Deutsche Forschungsgemeinschaft (DFG) hat heute (25.05.2021) die Einrichtung eines neuen Transregio-Sonderforschungsbereichs zum Thema „Erklärbarkeit von künstlicher Intelligenz (KI)“ (SFB-TRR 318) an den Universitäten Bielefeld und Paderborn bekanntgegeben. In den kommenden vier Jahren wird sie dafür rund 14 Millionen Euro Fördergelder zur Verfügung stellen. Das stark interdisziplinär ausgerichtete Forschungsprogramm mit dem Titel „Constructing Explainability“ („Erklärbarkeit konstruieren“) geht über die Frage nach Erklärbarkeit von KI als Grundlage algorithmischer Entscheidungsfindungen hinaus. Die DFG hat heute außerdem gemeldet, dass der Sonderforschungsbereich 1283 der Universität Bielefeld verlängert wird und dass der Transregio-Sonderforschungsbereich 211 verlängert wird, an dem die Universität Bielefeld beteiligt ist. 

„Durch die jetzige Entscheidung der Deutschen Forschungsgemeinschaft gehören künftig fünf Sonderforschungsbereiche zur Universität Bielefeld. Fächerübergreifende Verbundforschung zu großen Fragen der heutigen Zeit spielt eine große Rolle für unsere Universität“, sagt Professor Dr.-Ing. Gerhard Sagerer, Rektor der Universität Bielefeld. „Ich gratuliere allen Wissenschaftler*innen, die an den drei SFB-Anträgen beteiligt sind, zu dem großen Erfolg und der exzellenten Bewertung durch die externen Gutachter*innen.“

Der Ansatz des neuen Transregio-Sonderforschungsbereichs „Constructing Explainability“ fördert die aktive Teilnahme der Menschen an soziotechnischen Systemen. Ziel ist es, die Mensch-Maschine-Interaktion zu verbessern, das Verständnis von Algorithmen in den Mittelpunkt zu stellen und dieses als Produkt eines multimodalen Erklärprozesses zu untersuchen. Die vierjährige Förderung beginnt am 1. Juli. 

Prof. Dr. Katharina Rohlfing
Prof. Dr. Katharina Rohlfing von der Universität Paderborn ist Sprecherin des neues Sonderforschungsbereichs. Foto: Universität Paderborn

Das Ziel: Algorithmen zugänglich machen

Künstliche Intelligenz ist heutzutage fester Bestandteil des modernen Lebens – sie sortiert Bewerbungen aus, begutachtet Röntgenbilder und schlägt neue Songlisten vor. Grundlage für solche Prozesse sind algorithmische Entscheidungsfindungen. „Bürgerinnen und Bürger haben ein Recht darauf, dass algorithmische Entscheidungen transparent gemacht werden. Das Ziel, Algorithmen zugänglich zu machen, ist Kern der sogenannten eXplainable Artificial Intelligence (XAI), bei der Transparenz, Interpretier- und Erklärbarkeit als gewünschte Ergebnisse im Mittelpunkt stehen“, sagt Professorin Dr. Katharina Rohlfing, Sprecherin des neuen Sonderforschungsbereichs.

„Das Problem ist, dass in unserer digitalen Gesellschaft algorithmische Ansätze wie das maschinelle Lernen rasant an Komplexität zunehmen. Die Undurchsichtigkeit ist ein ernsthaftes Problem in allen Kontexten, insbesondere aber dann, wenn Menschen auf dieser undurchsichtigen Grundlage Entscheidungen treffen müssen“, fügt Professor Dr. Philipp Cimiano als stellvertretender Sprecher hinzu. Gerade bei Vorhersagen im Bereich der Medizin oder der Rechtsprechung sei es notwendig, die maschinengesteuerte Entscheidungsfindung nachzuvollziehen, so Cimiano weiter. Zwar gebe es bereits Ansätze, die die Erklärbarkeit entsprechender Systeme zum Gegenstand hätten, die Erklärungen, die dabei entstehen, setzen allerdings Wissen über die Funktionsweise von KI voraus. Was laut Cimiano und Rohlfing fehle, seien Konzepte zur Ko-Konstruktion von Erklärungen, bei der die Adressaten – also die Menschen – stärker in den KI-gesteuerten Erklärprozess miteinbezogen werden.

Prof. Dr. Philipp Cimiano
Prof. Dr. Philipp Cimiano von der Universität Bielefeld ist stellvertretender Sprecher des neuen Sonderforschungsbereichs. Foto: Universität Bielefeld/M.-D. Müller

Prinzipien des Erklärens und Verstehens als soziale Praktiken erforschen

„In unserem Ansatz gehen wir davon aus, dass Erklärungen nur dann für die Anwender nachvollziehbar sind, wenn sie nicht nur für sie, sondern auch mit ihnen entstehen“, sagt Katharina Rohlfing. „In Erklärungen unter Menschen sorgt dafür der Austausch zwischen den Beteiligten, die Fragen stellen und Unverständnis äußern können.“ In einem interdisziplinären Team arbeiten Linguist*innen, Psycholog*innen, Medienforscher*innen, Soziologen*innen, Ökonom*innen und Informatiker*innen eng zusammen, unter ihnen sind auch Forschende der neu gegründeten Medizinischen Fakultät OWL der Universität Bielefeld. Die am Sonderforschungsbereich beteiligten Wissenschaftler*innen erforschen die Prinzipien und Mechanismen des Erklärens und Verstehens als soziale Praktiken und wie diese in KI-Systemen implementiert werden können. Darüber hinaus erforscht das Team, wie die Ko-Konstruktion von Erklärungen im Zwischenspiel von Mensch und Maschine neue soziale Praktiken etabliert und wie sich diese gesellschaftlich auswirken.

Der Ansatz soll neue Antworten auf gesellschaftliche Herausforderungen im Zusammenhang mit künstlicher Intelligenz liefern. Im Kern geht es dabei um die Teilnahme von Menschen an soziotechnischen Systemen, mit der auch die Informationssouveränität der Nutzer gefördert wird. „Unser Ziel ist es, neue Formen von Kommunikation mit wirklich erklärbaren und verstehbaren KI-Systemen zu schaffen und somit neue Assistenzformen zu ermöglichen“, fasst Rohlfing zusammen.

Symbolbild Sonderforschungsbereich
Ein neuer Sonderforschungsbereich der Universitäten Paderborn und Bielefeld hat die Erklärbarkeit künstlicher Intelligenz zum Ziel. Foto: Universität Paderborn

Fünf Sonderforschungsbereiche an der Universität Bielefeld

Durch die neuen Beschlüsse der Deutschen Forschungsgemeinschaft steigt die Zahl der Sonderforschungsbereiche an der Universität Bielefeld von vier auf fünf. Der neu bewilligte Transregio-Sonderforschungsbereich (SFB-TRR) 318 zur Erklärbarkeit von künstlicher Intelligenz (KI), für den die Universitäten Bielefeld und Paderborn kooperieren, wird bis Mitte 2025 gefördert. Ebenfalls wird der SFB 1283 zur Erforschung des Zufalls um vier Jahre verlängert. Außerdem hat die DFG die Verlängerung des Transregio-Sonderforschungsbereichs (SFB-TRR) 211 bekannt gegeben, ein Verbund mit der Technischen Universität Darmstadt und der Goethe-Universität Frankfurt. Darin untersuchen Physiker*innen die Wechselwirkungen von Materie unter extremen Bedingungen. Bereits Ende 2020 wurde der SFB 1288 der Universität Bielefeld verlängert, der sich mit den historisch variablen Praktiken des Vergleichens beschäftigt. In einem weiteren Transregio-Sonderforschungsbereich (SFB/TRR 212) wird erforscht, warum Tiere ganz individuell ihre eigene, unverwechselbare Nische im Ökosystem wählen. Für den Verbund kooperieren die Universitäten Bielefeld und Münster seit 2018.

Sonderforschungsbereiche (SFB) sind langfristig angelegte Forschungseinrichtungen der Uni-versitäten, in denen Wissenschaftler*innen im Rahmen eines fächerübergreifenden Forschungsprogramms zusammenarbeiten. Sie werden von der DFG finanziert und ermöglichen die Bearbeitung anspruchsvoller, aufwendiger und langfristig konzipierter Forschungsvorhaben. Die Dauer der Förderung beträgt im Idealfall zwölf Jahre, wobei eine Förderperiode vier Jahre umfasst.