14.10.2021

Faire Verwaltungsentscheidungen mit Menschen und/oder Maschinen?

„Sie dürfen jetzt Ihre Masken abnehmen.“ Mit diesen Worten wurde am Donnerstag, dem 7. Oktober 2021, die Vortragsreihe des Forums Junge Rechtswissenschaft Tübingen im Wintersemester 2021/22 eröffnet. Die Anwesenden durften sich über einen spannenden Vortrag von Dr. jur. Dr. rer. pol. Yoan Hermstrüwer vom Max Planck Institute for Research on Collective Goods Berlin zum Thema „Faire Verwaltungsentscheidungen mit Menschen und Maschinen“ freuen.

Hermstrüwer absolvierte in Freiburg, Paris und Bonn ein Studium der Rechtswissenschaft und der Orientalistik. 2015 wurde er an der Universität Bonn promoviert. Nach seinem zweiten Staatsexamen im Jahr 2016 war er in dem Zeitraum von 2018 bis 2020 als Fellow am Transatlantic Technology Law Forum der Stanford Law School tätig. Es folgte eine zweite Promotion an der Friedrich-Schiller-Universität Jena im Bereich der Wirtschaftswissenschaften. Seit 2021 ist Hermstrüwer Dozent an der Michigan Law School.

Der Referent widmete sich in seinem Vortrag der Frage, inwieweit sich der Umfang maschineller Beteiligung an staatlichen Entscheidungen auf die wahrgenommene Verfahrensfairness auswirkt: Wird ein Verfahren beispielsweise individuell als „fairer“ wahrgenommen, wenn dieses ausschließlich der menschlichen Kontrolle unterliegt im Vergleich zu Entscheidungsverfahren, die ausschließlich auf maschinellen Prozessen beruhen?

Im ersten Teil seines Vortrages beleuchtete Hermstrüwer die rechtliche Perspektive. Er ging dabei ein auf Art. 22 DSGVO sowie auf den derzeit diskutierten Art. 14 EU KI-Gesetzentwurf der Kommission vom Februar 2021, der die Garantie menschlicher Aufsicht beim Einsatz von Hochrisiko-KI-Systemen regelt. Im Zentrum der Debatte über den Einsatz Künstlicher Intelligenz (KI) stehe der Zielkonflikt von Einzelfallgerechtigkeit und Regelgerechtigkeit – beides letztlich Forderungen des Art. 3 GG –, dem sich auch die Menschliche Intelligenz (MI) stellen müsse.

Im zweiten Teil präsentierte der Referent die Ergebnisse einer von ihm in den USA durchgeführten Studie zur wahrgenommenen Verfahrensfairness. Im Rahmen dieses rechtswissenschaftlichen Experiments wurden den Teilnehmer/innen drei Vignetten (Szenarien) vorgelegt. Sie sollten bewerten, für wie fair sie das Verfahren in den jeweiligen Szenarien halten, wenn (1) dieses allein von einem Menschen entschieden wird, (2) dieses größtenteils der menschlichen Kontrolle unterliegt und die KI lediglich als Unterstützungshilfe Eingang in den Prozess findet, (3) dieses größtenteils von der KI gesteuert wird und die menschliche Kontrolle nur unterstützend eine Rolle spielt, oder (4) das Verfahren ausschließlich KI-gesteuert ist. 

Nach dem Ergebnis der Studie war die wahrgenommene Verfahrensfairness bei vollautomatisierten Entscheidungen (4) am geringsten. Dagegen war sie am höchsten bei Verfahren mit hoher menschlicher Kontrolle (2). Entscheidungen mit geringer menschlicher Kontrolle (3) wurden als ebenso so fair wie vollumfänglich menschliche Entscheidungen (1) wahrgenommen. Im Durchschnitt schnitten folglich die hybriden Verfahrensmodelle besser ab im Vergleich zu den Verfahrensmodellen, an denen nur eine Intelligenz (MI oder KI) beteiligt war. 

Darüber hinaus wurde untersucht, welchen Einfluss die Genauigkeit und Korrektheit der Entscheidungsergebnisse auf die wahrgenommene Verfahrensfairness hat. Das Ergebnis erstaunt: Zwar gingen die Teilnehmer/innen davon aus, dass die KI im Vergleich zur MI korrektere Ergebnisse erzielt, jedoch empfanden sie den ausschließlichen Einsatz der KI dennoch als unfair. Die wahrgenommene Verfahrensfairness habe also wenig mit der Entscheidungsrichtigkeit der KI zu tun – die Skepsis gegenüber dem Einsatz der KI erwachse aus anderen Gründen.

Letztendlich gehe die Black-Box-Kritik, nach der der Prozess der Ergebnisfindung durch die KI für den Menschen nicht nachvollziehbar und somit nicht vertrauenswürdig sei, fehl, so der Referent. Wichtig sei in diesem Kontext, dass die KI nicht losgelöst von der MI betrachtet werden könne, sondern beide Intelligenzen in einer Art wechselseitigem Verhältnis stünden. Sie dienten jeweils als Vergleichsfaktoren und könnten sich gegenseitig gewinnbringend ergänzen. „Es besteht eine Art ‚Gewaltenteilung’ zwischen KI und MI“, so Hermstrüwer.

Abschließend stellte der Referent fest, dass die KI bestimmte Formen von Fairness fördern könne, wie beispielsweise die Gleichverteilung von Fehlern oder das Aufdecken gesellschaftlicher Fehlentwicklungen. Zudem sei eine Delegation von Entscheidungen sowie Entscheidungsprozessen an die KI ohne Einbußen an Verfahrensfairness möglich. Darüber hinaus könne die KI mit hoher menschlicher Kontrolle die (wahrgenommene) Verfahrensfairness fördern.

Die Juristische Fakultät bedankt sich bei Yoan Hermstrüwer für die spannenden Einblicke in seine Forschung, die neuen Impulse sowie aufschlussreichen Ergebnisse!

Der nächste Vortrag des Forums Junge Rechtswissenschaft findet am Donnerstag, 25. November 2021 um 18 Uhr c.t. statt. Dr. Michael Müller M.A., LL.M. (Cantab), LMU München, wird zum Thema „Dynamische Verfassungsinterpretation – Verfassungsgeschichte und Verfassungsinterpretation unter dem Grundgesetz“ vortragen.

Text: Emely Nann