Den diesjährigen Promotionspreis der Bucerius Law School erhält Dr. Arian Henning für seine Dissertation „Rechtfertigung durch lernende Systeme – Erklärbarkeit als Element einer neuen Begründungsarchitektur im Recht“. Der Preis wird von der Kanzlei Noerr gestiftet und ist mit 5.000 Euro dotiert. Noerr-Partnerin Simone Schönen überreichte den Preis im Namen der Kanzlei.
Wenn Maschinen mitentscheiden
Die Verheißungen der Künstlichen Intelligenz haben längst den Staat erreicht: Immer häufiger wirken lernende Systeme an hoheitlichen Entscheidungen mit, etwa bei der Prüfung von Asylanträgen in der Migrationsverwaltung oder der Risikoabschätzung zur Gefahrenabwehr. Wie die eingesetzten Modelle zu ihrem Ergebnis gelangen, lässt sich im Einzelfall jedoch kaum rekonstruieren.
Für den Rechtsstaat ist das ein unmittelbares Problem, denn die Ausübung von Hoheitsgewalt bedarf einer nachvollziehbaren Begründung. Die KI-Verordnung der EU spricht sogar von „klaren und aussagekräftigen“ Erläuterungen. Der Verordnungsgeber lässt aber offen, wie diese aussehen sollen. Genau hier setzt die Arbeit an: Sie fragt, wie sich algorithmische Entscheidungen rechtfertigen lassen, deren Zustandekommen sich den herkömmlichen Kategorien der Begründung und Begründbarkeit entzieht.
Fairness im Verfahren
Dazu entwickelt sie einen normativen Begriff der Erklärbarkeit, angelegt als funktionales Äquivalent zur menschlichen Begründung. Eine algorithmische Erklärung darf danach nicht zur argumentativen Fassade verkommen, muss aber auch nicht die Herstellung der Entscheidung engmaschig rekonstruieren. Entscheidend ist vielmehr eine adressatengerechte Darstellung der maßgeblichen Gründe, die Betroffenen wirksamen Rechtsschutz ermöglicht.
Eine umfangreiche Studie mit 4.250 Teilnehmenden prüft dieses Konzept empirisch. Ihr Befund: Begründungen steigern die wahrgenommene Fairness des Verfahrens, ganz gleich, ob Mensch oder Maschine entscheidet. Sogenannte kontrafaktische Erklärungen wirken bei algorithmischen Entscheidungen jedoch stärker als bei menschlichen. Sie zeigen, unter welchen Umständen die Entscheidung anders ausgefallen wäre, und holen so den Fairnessrückstand automatisierter Entscheidungen weitgehend auf.
