Die europäische KI-Verordnung stuft alle Systeme, die automatisch über die Bildungszukunft von Menschen entscheiden, als Hochrisikosysteme ein. Hierzu gehören zum Beispiel KI-Systeme, die automatisch Bewerbungen für zugangsbeschränkte Studiengänge bewerten.
Ein Grund dafür sind Diskriminierungsrisiken. Benjamin Paaßen erklärt, was es mit automatischer Diskriminierung auf sich hat, wie man Fairness in KI-Systemen definieren, messen und bekämpfen kann und was das alles für den Hochschulbereich bedeutet.

Prof. Dr. Benjamin Paaßen ist Juniorprofessor für Wissensrepräsentation und Maschinelles Lernen an der Technischen Fakultät. Der Forschungsschwerpunkt ist der Einsatz von KI-Systemen in der Bildung.
Paaßen ist außerdem Mitglied der universitätsweiten Task Force KI in der Lehre.