Verfahren der Künstlichen Intelligenz und des Maschinellen Lernens werden immer häufiger in komplexen Entscheidungssituationen angewendet. Sie unterstützen menschliche Entscheidungen. Wissenschaftler*innen des Instituts CITEC der Universität Bielefeld untersuchen gemeinsam mit Forschenden des Fachbereichs Sozialwesen der Fachhochschule Bielefeld die Chancen und Risiken maschineller Handlungsempfehlungen im Feld sozialer Dienste. Dafür arbeiten sie mit den v. Bodelschwinghschen Stiftungen Bethel zusammen. Das Ministerium für Kultur und Wissenschaft des Landes Nordrhein-Westfalen fördert das Projekt als Teil des Graduiertenkollegs „Digitale Gesellschaft“.
Künstliche Intelligenz (KI) wird beispielsweise eingesetzt, um Kreditwürdigkeit zu prüfen. Auch im Feld sozialer Dienste kann KI neue Möglichkeiten eröffnen, zum Beispiel in Form von Systemen, die Empfehlungen bei der Planung von Hilfen – etwa für Menschen mit Behinderungen – geben. Oftmals sind maschinelle Entscheidungen aber nicht transparent und die Entscheidungskriterien nicht nachvollziehbar.
Bei Entscheidungen größere Datenbasis berücksichtigen
„Wenn Menschen sich zu sehr auf maschinelle Handlungsempfehlungen verlassen, könnte das grundlegende demokratische Prinzipien gefährden“, sagt Professor Dr. Philipp Cimiano von der Technischen Fakultät und dem Center for Cognitive Interaction Technology (CITEC) der Universität Bielefeld. „Gleichwohl bietet maschinelle Entscheidungsunterstützung Chancen zur Verbesserung der Qualität von Entscheidungen. Die Entscheidungen basieren auf einer größeren Datenbasis und können damit objektiver sein als menschliche Entscheidungen.“ In diesem Spannungsfeld entwickeln Wissenschaftler*innen von CITEC und der Fachhochschule Bielefeld Grundlagen für optimale maschinelle Entscheidungsunterstützung.
Damit Maschinen Entscheidungen treffen können, müssen sie zunächst mit Daten gefüttert werden. Für ihre Forschung zu KI zur Unterstützung sozialer Dienste erhalten Cimiano und seine Mitarbeiterin Angelika Maier die Daten von sozialen Einrichtungen in Bethel – stationären Einrichtungen des betreuten Wohnens in der Behindertenhilfe.
Die Daten stammen aus den Falldokumentationen von Personen, die in den Einrichtungen Unterstützung erhalten haben. Mit Algorithmen können aus diesen Daten Muster identifiziert werden. Diese geben Aufschluss über den Verlauf von Hilfen und über Besonderheiten, die sich dabei zeigen. Das ist die Grundlage für Entscheidungsfindungen, die von einem intelligenten System unterstützt werden. „Wir betrachten, welche Themen über die Zeit für die Klient*innen aktuell sind, oder wie die Eigenständigkeit eingeschätzt wird“, sagt Angelika Maier. „Mit diesen Informationen kann dann zielgenauer auf die Bedürfnisse und Ressourcen einzelner Klient*innen eingegangen werden.“
„Das neue System kann künftig dazu beitragen, dass Beschäftigte in sozialen Einrichtungen ihre Klientinnen und Klienten zielgenauer unterstützen“, sagt Professor Dr. Ingmar Steinhart vom Vorstand der v. Bodelschwinghschen Stiftungen Bethel.
System soll Expertise von Fachkräften ergänzen
Was bei der Einführung eines neuen Systems zu berücksichtigen ist und wo es innerhalb einer Einrichtung und im Entscheidungsprozess sinnvoll eingesetzt werden kann, analysieren Professor Dr. Udo Seelmeyer und die Doktorandin Diana Schneider aus dem Fachbereich Sozialwesen der Fachhochschule Bielefeld. Schneider beschäftigt sich in ihrem Promotionsprojekt mit Methoden der Szenarienbildung und Technikfolgenabschätzung: „Unsere Fragen sind: Welche unbeabsichtigen Nebenfolgen kann so ein technisches System haben? Und wie muss es eingesetzt werden damit Qualität der Hilfen und Fachlichkeit der Mitarbeiter befördert werden?“, sagt Diana Schneider. Udo Seelmeyer sieht in dem Projekt auch einen Vorteil für die Arbeit der Fachkräfte: „Ein solches System eröffnet neue Zugänge zu der Masse an Dokumentationstexten, die ansonsten ungenutzte Datengräber bleiben“, sagt Seelmeyer.
Algorithmen können Entscheidungen vorschlagen, die Expertise und das Erfahrungswissen der Fachkräfte sollen sie aber nicht ersetzen. „Unser Prototyp soll die demokratischen Grundprinzipien, aber auch Inklusion, Teilhabe und Gleichberechtigung nicht untergraben, sondern sichern“, sagt Cimiano. „Wir wollen ein klares Bild entstehen lassen, wie maschinelle Handlungsempfehlungen zum Vorteil aller eingesetzt werden kann.“
Das Projekt mit dem Titel „Maewin“ läuft bis Mitte 2021. Der Name steht für „Maschinelle Entscheidungsunterstützung in wohlfahrtsstaatlichen Institutionen“. Das Projekt wird im Rahmen des Forschungsverbunds „Digitale Gesellschaft“ durch das Ministerium für Kultur und Wissenschaft des Landes Nordrhein-Westfalen gefördert. Der Verbund beschäftigt sich mit der Frage, wie Digitalisierung die Gesellschaft verändert und wie sich Technologie auf die Meinungsbildung auswirkt.
Methods of artificial intelligence (AI) and machine learning are increasingly being used to support the human decision-making process. Researchers from Bielefeld University’s CITEC institute are working together with researchers from the Faculty of Social Sciences at the University of Applied Sciences Bielefeld to investigate the opportunities and risks of using algorithm-based recommendations for decision-making in the field of social services. For this, the academic researchers are partnering with the v. Bodelschwingh Foundation Bethel. The Ministry of Culture and Science of the German State of North Rhine-Westphalia is supporting the project as part of the Digital Society research program.
Artificial intelligence (AI) is used in many areas such as credit scoring. AI may also open up new possibilities in social work, for instance in the context of service planning for people with disabilities. However, it is frequently the case that algorithmic-based decisions are not necessarily transparent and that the criteria upon which such decisions are based are not readily understood by humans.
‘If people were to rely heavily on algorithmic recommendations during their decision-making process, it could undermine fundamental democratic principles.,’ says Dr. Philip Cimiano, a professor at Bielefeld University’s Faculty of Technology and the Center for Cognitive Interaction Technology (CITEC). ‘At the same time, algorithmic assistance in decision-making also offers the possibility of improving the quality of decisions. In this case, decisions are based on a much larger set of data and can, therefore, be more objective than human decisions.’ With both of these considerations in mind, researchers from CITEC and the University of Applied Sciences Bielefeld are laying the foundation to optimize algorithm-based assistance for decision-making.
To be able to support decision-making, researchers have to feed data into the algorithms. The v. Bodelschwingh Foundation Bethel, the largest welfare institution in Europe, is providing Professor Philipp Cimiano and his colleague Angelika Maier with data for their research. Bethel social institutions include residential services such as individual apartments or group-homes for disabled individuals.
The data used in the project are drawn from Bethel case records on individuals who are part of a program that works to guarantee and promote their social participation – so called “service planning .” Using algorithms, patterns can be identified in this service planning data. These patterns offer insight into the nature of service planning and the specific issues that arise during the process. Both become the basis for decision-making supported by intelligent systems. ‘We consider which issues a client is facing over a period of time, or how their autonomy is assessed,’ says Angelika Maier. ‘With this information, an individual’s needs and resources can be met in a more targeted way.’
‘The new system can help professionals at social institutions to provide their clients with even more targeted support in the future,’ says Professor Dr. Ingmar Steinhart, who is a member of the Board of Management of the v. Bodelschwingh Foundation Bethel.
Introducing new technologies like decision support systems brings up many issues. Professor Dr. Udo Seelmeyer and doctoral researcher Diana Schneider from the Faculty of Social Services at the Bielefeld University of Applied Sciences are investigating what needs to be considered when introducing a new system and where it can be usefully applied within an institution and in the decision-making process. In her doctoral research, Schneider deals with methods of scenario analysis and technology assessment. ‘What unintended side effects and unwanted social consequences might such a technical system have? How should it be used to enhance the quality of care and professionalism of the workers?’ asks Diana Schneider. Udo Seelmeyer also sees an advantage for the professional work: ‘A decision support system offers new points of access to the vast mass of textual documentation that otherwise remains unused in the data graveyard,’ says Seelmeyer.
Algorithms may be able to make recommendations for decisions, but they will not replace the expertise and implicit knowledge gleaned from experience that social workers have. ‘Our prototype is meant to ensure – and not undermine – basic democratic principles of inclusion, participation, and equality,’ explains Cimiano. ‘It is our aim to create a clear vision of how a system providing algorithm-based recommendations for decision-making can be used for the benefit of everyone.’
The project is called “Maewin” and it will run through mid 2021. “Maewin” is the German acronym for “Maschinelle Entscheidungsunterstützung in wohlfahrtsstaatlichen Institutionen“ [Decision-Support Systems in welfare institutions]. This research is supported by the Digital Society research program funded by the Ministry of Culture and Science of the German State of North Rhine-Westphalia.. The Digital Society research program addresses questions of how digitalization is transforming society and how technology impacts the formation of opinions.
