Die KI-Verstehenden

Etwas zu erklären, ist für Menschen etwas völlig Alltägliches – nicht jedoch für Künstliche Intelligenz (KI). Das Hin und Her aus Fragen, Antworten und Rückfragen überfordert selbst die ausgereiftesten Algorithmen. An der Universität Bielefeld soll nun Künstliche Intelligenz für solche Dialoge fit gemacht werden. Dafür kooperieren Forschende aus Informatik, Robotik, Medizin, Neurobiologie, Linguistik, Psychologie, Sportwissenschaft und Soziologie. Noch ist die Forschung ganz am Anfang, doch die Einsatzmöglichkeiten wären vielfältig. Die Systeme könnten zum Beispiel in der medizinischen Diagnostik zum Einsatz kommen, aber auch entscheidend dazu beitragen, die Entscheidungen Künstlicher Intelligenz transparent zu machen.

Wie komplex menschliche Fähigkeiten sind, wird oft erst klar, wenn sie hinterfragt werden. Dass das schlichte Erklären eine hochkomplexe Angelegenheit ist, fällt uns im Alltag meist nicht auf. Wie komplex ein solcher Vorgang ist, wird aber beim Versuch klar, einen solchen Prozess auf eine KI zu übertragen. Wer heute eine solche Maschine um eine Erklärung bittet – zum Beispiel einen KI-gestützten Sprachassistenten, wie er inzwischen in vielen Haushalten Einzug gehalten hat, bekommt in der Regel einen vorgefertigten Artikel vorgelesen. Doch Antworten auf Nachfragen? Fehlanzeige.

Die Professorin Dr.-Ing. Britta Wrede, die an der Medizinischen Fakultät OWL der Universität Bielefeld zu Medizinischen Assistenzsystemen arbeitet, und ihr Kollege Professor Dr. Philipp Cimiano, der sich an der Technischen Fakultät mit semantischen Datenbanken befasst, versuchen mit ihrer Forschung, genau das möglich zu machen: KI, die zu solch komplexer Interaktion fähig ist. Ko-Konstruktion nennt sich diese Art der Interaktion, die auf sprachlicher Ebene ein tiefes Verstehen ermöglicht.

Forschung zur Konstruktion von Erklärbarkeit

Ob digitale Assistenten auf Smartphone und Tablet oder smarte Lautsprecher: Was in KI-gesteuerten Systemen vorgeht, bleibt ihren Nutzenden meist verborgen. Mit dem Prinzip der Ko-Konstruktion soll sich das ändern. Im Wechselspiel von Frage und Antwort finden Menschen und intelligente technische Systeme zu gemeinsamen Erklärungen für Wissen, das in den Maschinen steckt. Im großen Umfang wird das Thema seit 2021 am gemeinsamen Transregio-Sonderforschungsbereich „Konstruktion von Erklärbarkeit“ (SFB/TRR 318) der Universitäten Bielefeld und Paderborn untersucht. Der Verbund wird von der Deutschen Forschungsgemeinschaft gefördert. Das interdisziplinäre Forschungsteam des Transregios untersucht die Prinzipien, Mechanismen und sozialen Praktiken des Erklärens und wie diese im Design von KI-Systemen berücksichtigt werden können.

„Rein von der Wortbedeutung kommt der Begriff ‘Ko-Konstruktion‘ daher, etwas zusammen zu konstruieren – und was konstruiert wird, das sind in unserem Fall Erklärungen“, sagt Cimiano. „Eine Erklärung, die gibt es nicht einfach irgendwo. Die liegt nicht einfach rum und man muss sie nur aufnehmen und präsentieren. Sie wird gemeinsam erarbeitet.“ Es reiche eben nicht aus, eine Erklärung einfach an den oder die Fragende*n zu schicken, die dann verstanden würde, ergänzt Wrede. „Wird in einem Gespräch etwas erklärt, ist es so, dass der Fragende – im Englischen sagen wir ,Explainee‘ – zu einem Aspekt, der ihm unklar ist, nachfragt.“ Das Ergebnis: Beide, Fragenstellerin und Antwortgeberin, interagieren miteinander – und zwar auf eine ganz individuelle Art. „Damit bekommen Aspekte, zu denen nachgefragt wird, eine besondere Relevanz auch für die Erklärerin, die sich anhand der Frage eine Vorstellung davon machen kann, worin das Missverständnis bei dem Fragenden liegen könnte“, erklärt Wrede weiter.

© Michael Adamski

Nur gemeinsam können beide das Ziel erreichen. Und natürlich kann der Prozess auch misslingen. „Wenn eine Erklärung so unverständlich ist, dass der oder die Explainee nicht mal in die Lage versetzt wird, eine Frage zu stellen, kann keine Ko-Konstruktion entstehen.“ Findet jedoch eine echte Interaktion statt, bestehend aus Fragen und Antworten, ko-konstruieren beide Partner*innen gleichermaßen die Erklärung. „Wie jede*r das kennt, der versucht, jemandem etwas zu erläutern: Die Erklärung entsteht in dem Moment – und das meinen wir mit Ko-Konstruktion“, sagt Cimiano.

Ko-Konstruktion: Verstehen und aktiv nachfragen

Doch warum ist diese Art der interaktiven Erklärung überhaupt so wichtig? Schließlich ist es doch auch möglich, sich Wissen zum Beispiel aus Büchern anzueignen. Für Wrede bietet die Ko-Konstruktion entscheidende Vorteile – nicht zuletzt die, dass die Erklärung individuell auf den oder die Fragesteller*in zugeschnitten wird. „Außerdem führt der Prozess dazu, dass die Explainees eine aktive Rolle in dem Ganzen spielen. Studien haben gezeigt, dass es für das Verstehen wichtig ist, eine aktive Rolle einzunehmen. Denn wenn eine Person einer Erklärung nur passiv zuhört, werden weniger kognitive Ressourcen aktiviert. Wenn sie hingegen aktiv nachfragt, werden kognitive Prozesse angestoßen, zum Beispiel die Formulierung von möglichen Alternativerklärungen. So kann sie versuchen, sich Zusammenhänge selbst klarzumachen, und stößt dabei auf Widersprüche, zu denen sie dann konkrete Fragen stellen kann.“

© Michael Adamski

Prof’in Dr.-Ing. Britta Wrede forscht zu medizinischen Assistenzsystemen, die intuitiv anwendbar sind.

Die aktive Rolle versetzt die oder den Explainee außerdem besser in die Lage, das Erklärte auf ein eigenes Problem anzuwenden und in Handlung umzusetzen. „Wenn zum Beispiel ein Patient in einer ko-konstruktiven Art Informationen zu einem medizinischen Befund erklärt bekommt, hat er während des Erklärprozesses schon viele Fragen gestellt und viel über mögliche Zusammenhänge nachgedacht. Das erleichtert ihm, später eine Entscheidung über eine Operation oder medizinische Behandlung zu treffen“, sagt Wrede.

Hilfe bei medizinischen Diagnosen

Wie ein solches System praktisch funktionieren könnte, darüber machen sich Cimiano und sein Team Gedanken: „Einer unserer Anwendungsfälle ist die medizinische Diagnose von Epilepsie. Epilepsie ist ein relativ schwieriges Krankheitsbild, schwierig zu diagnostizieren. Die Diagnose hängt von vielen Faktoren ab, zum Beispiel wie viele Anfälle es gibt, wie stark sie sind, in welchen Phasen sie sich wiederholen oder was genau da bei den Anfällen passiert.“

Die Forschenden versuchen nun, ein System zu entwickeln, das Mediziner*innen unterstützen kann. „Wir arbeiten daran, eine gleichberechtigte Interaktion hinzubekommen“, erklärt der Professor. Die Maschine soll vom konkreten medizinischen Bereich etwas verstehen und mit diesem Hintergrundwissen Rückfragen stellen können. Ein Dialog könnte zum Beispiel so ablaufen: Die Maschine stellt die Frage, ob bestimmte Ursachen einer Krankheit bereits ausgeschlossen seien. „Die Mediziner*innen könnten dann wieder sagen: Ja, das haben wir ausgeschlossen“, sagt der Forscher. „Die Maschine kann dann wieder antworten: Okay, dann liegt hier mit 80 Prozent Wahrscheinlichkeit doch ein epileptischer Anfall vor. Die Mediziner*innen können dann wieder fragen, warum das so sei, und so weiter.“ Dabei soll die Maschine die Personen nicht bevormunden. Die Entscheidungen treffen immer die Mediziner*innen und sind auch verantwortlich. „Die Maschine soll ihnen aber genügend Informationen an die Hand geben, damit sie mit gutem Gewissen entscheiden können.“

© Birte Richter

Mit der Software Epia gleichen Patient*innen ihre Einschätzungen mit denen einer Pflegekraft ab. Inwiefern die App dabei hilft, dass sie zu einem gemeinsamen Verständnis gelangen, untersuchen Forschende um Prof’in Dr.-Ing. Britta Wrede.

Forschende um Professorin Wrede wollen EKG-Daten mit KI auswerten lassen, um ein mögliches Vorhofflimmern zu ermitteln. Daran arbeiten sie in Kooperation mit dem Verbundprojekt Find-AF 2, an dem der Neurologe Professor Dr. med. Wolf-Rüdiger Schäbitz vom Evangelischen Klinikum Bethel und der Medizinischen Fakultät OWL beteiligt ist. „In unserer Studie gehen wir der Frage nach, ob es möglich ist, durch einen ko-konstruktiven Erkläransatz der KI den medizinischen Expert*innen sogar neue Erkenntnisse zu ermöglichen.“ So könnten aktuelle KI-Erkläransätze schon angeben, aufgrund welcher Merkmale sie eine bestimmte Entscheidung getroffen haben. „Wenn medizinische Expert*innen die Möglichkeit hätten, ein System interaktiver befragen zu können, wäre es theoretisch denkbar, dass sie auf neue Merkmale und Zusammenhänge zwischen Merkmalen stoßen, auf die sie vorher nicht gekommen sind. Ob das aber wirklich möglich ist, wissen wir noch nicht.“

Wo Ko-Konstruktion zum Beispiel erforscht wird

Verbundprojekt Kinbiotics

Der übermäßige Einsatz von Breitbandantibiotika führt zu Problemen wie der zunehmenden Antibiotikaresistenz von Erregern. Unter Leitung der Universität Bielefeld arbeiten Wissenschaftler*innen an einem KI-gestützten Assistenzsystem, das medizinisches Fachpersonal unterstützen soll, über Antibiotikatherapien zu entscheiden. Es soll Empfehlungen für individuelle Patient*innen geben mit dem Ziel, Wirksamkeit zu maximieren und Nebenwirkungen zu minimieren. Das Bundesministerium für Gesundheit fördert das Projekt seit 2020. An dem Projekt sind unter anderem die drei Trägerkliniken des Universitätsklinikums OWL beteiligt.

Verbundprojekt „Bots Building Bridges“

Informatikerinnen und Soziolog*innen forschen gemeinsam in dem von der Universität Bielefeld koordinierten Projekt. Die Forschenden untersuchen, wie KI Bots begegnen kann, die Fake News und Hate Speech verbreiten: Wenn Bots problematisch sind, können sie auch Teil der Lösung sein? Können Bots eingesetzt werden, um Falschmeldungen und Verunglimpfungen im Internet zu bekämpfen? Um die Debattenkultur im Internet zu verbessern, soll im Projekt eine Onlineanwendung entwickelt und bereitgestellt werden, die ko-konstruktiv bedient wird. Das Verbundprojekt wird seit 2020 von der Volkswagen-Stiftung gefördert.

NRW-Forschungskolleg „Gestaltung von flexiblen Arbeitswelten“

Welche Aspekte müssen bei der Entwicklung von intelligenten Systemen beachtet werden, um positive Auswirkungen auf den Menschen in der Arbeitswelt zu erzielen? Damit befasst sich das an den Universitäten Bielefeld und Paderborn angesiedelte NRW-Forschungskolleg. In ungünstigen Szenarien wird der Mensch zum Werkzeug der KI und muss sich an ihre Vorgaben anpassen. Auf der anderen Seite kann KI aber auch die Fähigkeiten von Menschen verbessern. Das kann dazu führen, dass sie mehr und auch qualitativ anspruchsvollere Aufgaben lösen als ohne KI. Das Kolleg wird seit 2014 vom Ministerium für Kultur und Wissenscha¬ft des Landes Nordrhein-Westfalen gefördert.

Schwerpunktprogramm „Robust Argumentation Systems“

Wie können Maschinen Argumente verstehen und produzieren? Viele Diskussionen finden im Internet statt: In verschiedenen Medien, auf Portalen oder Social Media. In diesem Schwerpunktprogramm geht es darum, KI-Systeme zu entwickeln, die Debatten verstehen und für Menschen zusammenfassen können. Ko-Konstruktion spielt dann eine Rolle, wenn die Systeme auf Nachfrage von Nutzer*innen die Argumente einer Debatte aufschlüsseln und den argumentativen Lagern zuordnen können. Die KI soll auch Argumente produzieren können, wenn die Frage gestellt wird, was für etwas oder gegen etwas spricht, – etwa in der Debatte um die Impfpflicht. Das Schwerpunktprogramm wird von der Universität Bielefeld koordiniert und seit 2017 von der Deutschen Forschungsgemeinschaft gefördert.

JAII – Joint Artificial Intelligence Institute

Das Institut gründete die Universität Bielefeld 2020 gemeinsam mit der Universität Paderborn. Die JAII-Forschenden widmen sich KI-Systemen, die die Kompetenz von Menschen ergänzen, indem sie interaktiv bei Entscheidungsprozessen unterstützen. Das Institut soll die Zusammenarbeit der beiden Universitäten fördern, Krä¬fte bündeln und mit einer eigenen KI-Forschungsstrategie gemeinsame Verbundprojekte einwerben, die sich insbesondere mit der Ko-Konstruktion von Mensch und Maschine befassen.

CITEC – Forschungszentrum für Kognitive Interaktionstechnologie

In dem Institut der Universität Bielefeld untersuchen Wissenschaftler*innen aus Informatik, Biologie, Linguistik und Literaturwissenschaft, Mathematik, Psychologie und Sportwissenschaft¬ die Interaktion und Kommunikation zwischen Mensch und Maschine. Das Forschungszentrum ist eine der Zentralen Wissenschaftlichen Einrichtungen der Universität. Strategische Partner sind der Hausgerätehersteller Miele, der Bertelsmann-Konzern, das Honda Research Institute und die v. Bodelschwinghschen Sti¬ftungen Bethel. Von 2007 bis 2019 war CITEC Teil der Exzellenzinitiative des Bundes und der Länder. CITEC widmet sich seit seiner Gründung den wissenschaftlichen Grundlagen für mitdenkende technische Systeme, die soziale Interaktionsfähigkeiten, Künstliche Intelligenz und situativ flexibles Handeln verbinden. Aktuelle Projekte zur Ko-Konstruktion knüpfen an theoretische Konzepte und technologische Entwicklungen aus dem Institut an.