KI als Herausforderung für die Durchsetzung von Diskriminierungsverboten

Ringvorlesung: Diversity and Fairness in Artificial Intelligence.Die Ungleichbehandlung gleicher Sachverhalte sowie die Gleichbehandlung ungleicher Sachverhalte geschieht auf individueller Ebene oft unbewusst - und bleibt dabei unerkannt. Selbstlernende Algorithmen, die entsprechende Entscheidungen auswerten, werden aber schnell die zugrundeliegenden Muster erkennen und die entsprechende Schematisierung in die Masse tragen, wo sie offensichtlich werden. Bei trivialen Unterscheidungsmerkmalen lässt sich dies erkennen und korrigieren - allerdings gibt es auch Fälle mittelbarer und verdeckter Diskriminierung, bei denen auch denjenigen, die den Algorithmus überprüfen oder überwachen die Folgen nicht sofort erkennbar sein dürften. Für die Nutzer entsprechender Algorithmen, aber auch für diejenigen, die Vorgaben schaffen oder diese überwachen bzw. nachträglich durchsetzen müssen, stellt sich daher die Frage, wann und wie eine Ungleichbehandlung vorab vermieden werden kann bzw. muss oder umgekehrt eine staatliche Sanktionierung erfolgt oder eine Wiedergutmachung zu leisten ist. Die dahinterstehende Abwägung ist keineswegs trivial: Wenn selbst ein nicht-lernender Algorithmus kann unerkannte (mittelbar) diskriminierende Folgen haben, würde man den Entwicklern bzw. Betreibern kaum einzuhaltende Sorgfaltspflichten auferlegen.Referent: Prof.Dr. Michael Beurskens, Universität PassauDieser Vortrag findet auf deutsch statt.