“Intelligente Systeme müssen nachhaltig und sicher werden“

Frau Hammer, warum sind Systeme mit Künstlicher Intelligenz (KI) häufig nicht nachhaltig?

Wenn KI-Systeme erforscht und entwickelt werden, liegt der Fokus bislang auf technischen Fragen in der Einführungsphase. Intelligente soziotechnische Systeme sind zum Beispiel den Menschen unterstützende medizinische Assistenzsysteme oder intelligente Datenbrillen, die Tätigkeiten in der industriellen Produktion erleichtert. Es wird weniger drauf geschaut, wie solche Systeme auf Dauer mit Menschen interagieren und welche langfristigen gesellschaftlichen, technologischen oder ökologischen Einflüsse sie haben. Gerade die Bedürfnisse des Menschen und der Gesellschaft kommen aber oft erst zum Vorschein, wenn die Systeme schon auf dem Markt sind. Nehmen wir Assistenzsysteme im Gesundheitswesen: Intelligente Spracherkennung funktioniert zum Beispiel schlechter bei Menschen mit Alzheimer. Ein intelligentes Pflegebett, das über Sprachbefehle bedient werden kann, reagiert dann oft nicht auf diese Menschen. In anderen Fällen funktionieren Assistenzsysteme vielleicht technisch, werden aber im aktuellen Design nicht gut von Patient*innen angenommen, etwa bei der Unterstützung in der Pflege durch einen Roboter.

Wie kann SAIL dazu beitragen, KI-Systeme zu verbessern?

Im Netzwerk SAIL versuchen wir, die Grundlagen für die Gestaltung nachhaltigerer KI-Systeme zu legen. Dafür schauen wir uns zwei Anwendungsbereiche an: Gesundheitswesen und industrielle Arbeitsplätze. Nachhaltigkeit bedeutet hier zum einen, dass KI-Systeme über ihren gesamten Lebenszyklus funktionsfähig bleiben und sich an den Bedürfnissen der Gesellschaft orientieren. Das hängt auch mit Ko-Konstruktion zusammen: Intelligente Systeme im Gesundheitswesen oder in der industriellen Produktion müssen sinnhaft mit Menschen interagieren können, etwa mit Patient*innen, Pfleger*innen, Werksarbeiter*innen oder Planer*innen. Zum anderen heißt Nachhaltigkeit, KI-Systeme ressourcenschonend zu gestalten. Wir untersuchen, wie KI-Systeme ohne riesige Datenmengen und möglichst energieeffizient arbeiten können.

Warum konzentrieren Sie sich insbesondere auf intelligente Assistenzsysteme im Gesundheitswesen und Arbeitsplätze in der Industrie?

In beiden Anwendungsbereichen interagieren Menschen mit intelligenten soziotechnischen Systemen über einen längeren Zeitraum hinweg. Dadurch werden Effekte des gesamten Lebenszyklus sichtbar. Gleichzeitig unterscheiden sich die beiden Bereiche in Bezug auf ihren Reifegrad: Im Gesundheitswesen werden KI-Systeme gerade erst eingeführt, während sie im Bereich industrieller Arbeitsplätze schon länger im Einsatz sind. Das ermöglicht uns, ganz verschiedene Herausforderungen zu untersuchen. Eine wichtige Frage in Bezug auf die Industrie ist zum Beispiel, wie sich KI-Systeme flexibel an veränderte Bedürfnisse anpassen können, etwa wenn ein Unternehmen seine Produkte stärker individualisieren will. KI-Modelle müssen dann auch auf Basis von wenigen und sich ändernden Daten sicher funktionieren. Im Gesundheitswesen liegt die Herausforderung vor allem darin, dass intelligente Assistenzsysteme zwar im Labor funktionieren, aber nicht durchgängig in der realen Anwendung – wie im Fall des Pflegebetts mit Spracherkennung.

SAIL wird vom Land NRW über ein Programm im Bereich „Vernetzung“ gefördert. Warum ist Vernetzung in der KI-Forschung wichtig?

Intelligente Systeme werden unsere Gesellschaft zunehmend verändern – deswegen müssen wir uns überlegen, wie wir sie nachhaltig und sicher gestalten. Dazu kann SAIL einen Beitrag leisten. Die Probleme lassen sich aber nur interdisziplinär lösen. In unserem Forschungsnetzwerk kooperieren Wissenschaftler*innen aus ganz unterschiedlichen Disziplinen, von Informatik und Ingenieurwissenschaften bis zu Psychologie und Linguistik. Wir verknüpfen die Expertisen der Universitäten Bielefeld und Paderborn sowie der Fachhochschule Bielefeld und der Technische Hochschule Ostwestfalen-Lippe. Dadurch kann SAIL zur Bildung eines langfristigen, für internationale Forschung und nachhaltige Innovationen relevanten Schwerpunkts in Ostwestfalen beitragen.

SAIL ist 2022 gestartet und läuft noch bis 2026. Worauf freuen Sie sich am meisten?

Ich freue mich darauf, in einem interdisziplinären Team mit ausgewiesenen Spitzenforscher*innen an einem spannenden Thema mit hoher gesellschaftlicher Relevanz arbeiten zu dürfen. Ein zentraler Bestandteil von SAIL ist zudem die Vernetzung des wissenschaftlichen Nachwuchses: Promovierende aus verschiedenen Disziplinen und Universitäten oder Hochschulen bilden kleine Teams und entwickeln gemeinsam Lösungen für die KI-Forschung. Mit vielversprechenden jungen Kolleg*innen zusammenzuarbeiten, finde ich sehr bereichernd.