On Thursday, June 24th 2021, an interdisciplinary symposium on Tübingen’s “AI MEETS LAW” platform took place in cooperation with the Carl Friedrich von Weizsäcker-Centre. It was dedicated to “Accepting Opaque Algorithms? Legitimate Use in a Situation of (Partial) Ignorance”.
"Black-box" or "opaque" algorithms, especially Machine Learning (ML) models, have been the object of a recent and intense debate. Public and private institutions rely, in an increasing number of contexts, in their decision making on computers with ML capabilities. As such ML solutions are often developed by third parties, such as software companies, it is not clear whether the institutions using the tools always understand the way the algorithm works, and whether the algorithm produces biased decisions. ML based decision making, however, can affect people's lives in various ways. That is especially relevant if the government relies on it.
Scholarly debate has expounded extensively on the transparency and explainability of ML decision making. Yet the preliminary state of the discourse seems to suggest that, irrespective of the measures taken, there remains a degree of opacity. In this webinar, we therefore did not discuss how transparency and explainability could be improved. Rather, we took the opposite route of accepting the opacity of those models as a given, and we discussed what kind of legitimate use can be made by public or private institutions despite the opacity of ML. In other words, as algorithmic opacity seems to be here to stay with us for a while. Our intention was to try to find a path towards reasonable use in a situation of (partial) ignorance.
The symposium put an emphasis on historical and philosophical approaches to these questions in order to establish a foundation for further legal discourse.
Thomas Haigh (Professor, University of Wisconsin-Milwaukee) is a historian of science. Thanks to his work on the computerization of businesses, he brought a historical perspective on the use of computer systems by corporations, including ideological fantasies and failed attempts, as well as how it illustrates the current debate on opaque AI in institutions.
The next speaker was John Zerilli, Research Fellow at the Cambridge Leverhulme Center for the Future of Intelligence. With a double training in philosophy and the law, he is the lead author of A Citizen's Guide to Artificial Intelligence. John explained new approaches on explainability. He put AI decisionmaking in concrete decisional contexts and argued from here what specific requirements on explainability can suffice to make the use of AI-based decisionmaking acceptable. It became clear that the focus point of an AI-application can be pivotal for understanding its rationale and that, from there, important conclusions on explainability can already be drawn.
The subsequent discussion among the panelists and the audience revealed that the legal and societal acceptance of opacity is interrelated with the historical experience of society in relation to the emergence of new technology. While technological progress can bring economic efficiency, it also bears on our societal perceptions on how we are willing to accept concomitant risks. Constant technological and societal change leads to a permanent process of adaption to the evolving AI-landscape. The main conclusion that could be drawn, therefore, was that the legal and societal approach to the dealings with opacity should not be conceived of as a static set of rules and requirements but rather as a dynamic process of risk-evaluation and reassessment of historical experiences in society.
The AI MEETS LAW platform was established in 2020 at the Law Faculty in Tübingen. It is an informal discussion group on the Intersection of Artificial Intelligence and Law. You can learn more about it here: https://uni-tuebingen.de/en/167985.
Sign up for our mailing list and watch out for the upcoming events!
Auf unserer Webseite werden Cookies verwendet. Einige davon werden zwingend benötigt, während es uns andere ermöglichen, Ihre Nutzererfahrung auf unserer Webseite zu verbessern. Ihre getroffenen Einstellungen können jederzeit bearbeitet werden.
oder
Essentiell
in2cookiemodal-selection
Erforderlich, um die Benutzerauswahl der Cookie-Einstellungen zu speichern.
3 Monate
be_lastLoginProvider
Benötigt, damit TYPO3 beim Backend-Login den Zeitpunkt des letzten Logins feststellen kann.
3 Monate
be_typo_user
Dieses Cookie teilt der Webseite mit, ob ein Besucher oder eine Besucherin zugleich im TYPO3-Backend angemeldet ist und die Rechte besitzt, die Webseite zu verwalten.
Sitzungsende
ROUTEID
Diese Cookies werden gesetzt, um den Benutzer oder die Benutzerin immer zum gleichen Server zu leiten.
Sitzungsende
fe_typo_user
Ermöglicht Frontend-Login.
Sitzungsende
Videos
iframeswitch
Wird verwendet, um eingebettete externe Inhalte Dritter anzuzeigen.
3 Monate
yt-player-bandaid-host
Wird verwendet, um YouTube-Videos anzuzeigen.
Beständig
yt-player-bandwidth
Wird verwendet, um die optimale Videoqualität basierend auf den Geräte- und Netzwerkeinstellungen des Besuchers oder der Besucherin zu bestimmen.
Beständig
yt-remote-connected-devices
Speichert die Einstellungen des Videoplayers des Benutzers oder der Benutzerin unter Verwendung von eingebettetem YouTube-Video.
Beständig
yt-remote-device-id
Speichert die Einstellungen des Videoplayers des Benutzers oder der Benutzerin unter Verwendung von eingebettetem YouTube-Video.
Beständig
yt-player-headers-readable
Sammelt Daten über die Interaktion der Besucher mit den Videoinhalten der Website - Diese Daten werden verwendet, um die Relevanz der Videoinhalte der Website für den Besucher zu erhöhen.
Beständig
yt-player-volume
Wird verwendet, um die bevorzugte Lautstärke der YouTube-Videos zu speichern.
Beständig
yt-player-quality
Wird verwendet, um die bevorzugte YouTube Wiedergabequalität zu speichern.
Beständig
yt-remote-session-name
Speichert die Einstellungen des Videoplayers des Benutzers oder der Benutzerin unter Verwendung von eingebettetem YouTube-Video.
Sitzungsende
yt-remote-session-app
Speichert die Einstellungen des Videoplayers des Benutzers oder der Benutzerin unter Verwendung von eingebettetem YouTube-Video.
Sitzungsende
yt-remote-fast-check-period
Speichert die Einstellungen des Videoplayers des Benutzers oder der Benutzerin unter Verwendung von eingebettetem YouTube-Video.
Sitzungsende
yt-remote-cast-installed
Speichert die Benutzereinstellungen beim Abruf eines auf anderen Webseiten integrierten YouTube-Videos.
Sitzungsende
yt-remote-cast-available
Speichert die Benutzereinstellungen beim Abruf von integrierten YouTube-Videos.
Sitzungsende
ANID
Wird für Targetingzwecke verwendet, um ein Profil der Interessen der Website-Besucher zu erstellen, um relevante und personalisierte Google-Werbung anzuzeigen.
2 Jahre
SNID
Google Maps - Google verwendet diese Cookies, um Benutzereinstellungen und Informationen zu speichern, wenn Sie Seiten mit Google Maps aufrufen.
1 Monat
SSID
Wird verwendet, um Informationen darüber zu speichern, wie Sie die Website nutzen und welche Werbung Sie vor dem Besuch dieser Website gesehen haben, und um die Werbung auf Google-Ressourcen anzupassen, indem Sie sich an Ihre letzten Suchanfragen, Ihre früheren Interaktionen mit Anzeigen oder Suchergebnissen eines Werbetreibenden und Ihre Besuche auf einer Website eines Werbetreibenden erinnern.
6 Monate
1P_JAR
Dieses Cookie wird verwendet, um die Werbedienste von Google zu unterstützen
1 Monat
SAPISID
Wird für Targetingzwecke verwendet, um ein Profil der Interessen der Website-Besucher zu erstellen, um relevante und personalisierte Google-Werbung anzuzeigen.
6 Monate
APISID
Wird für Targetingzwecke verwendet, um ein Profil der Interessen der Website-Besucher zu erstellen, um relevante und personalisierte Google-Werbung anzuzeigen.
6 Monate
HSID
Beinhaltet verschlüsselte Einträge Ihres Google Accounts und der letzten Login-Zeit um vor Attacken und Datendiebstahl aus Formulareinträgen zu schützen.
2 Jahre
SID
Wird zu Sicherheitszwecken verwendet, um digital signierte und verschlüsselte Aufzeichnungen der Google-Konto-ID eines Nutzers und der letzten Anmeldezeit zu speichern, die es Google ermöglichen, Nutzer zu authentifizieren, eine betrügerische Verwendung von Anmeldeinformationen zu verhindern und Benutzerdaten vor Unbefugten zu schützen. Dies kann auch für Targetingzwecke genutzt werden, um relevante und personalisierte Werbeinhalte anzuzeigen.
6 Monate
SIDCC
Dieses Cookie speichert Informationen über Nutzereinstellungen und -informationen für Google Maps.
3 Monate
NID
Das NID-Cookie enthält eine eindeutige ID, die Google verwendet, um Ihre Einstellungen und andere Informationen zu speichern.
6 Monate
CONSENT
Dieses Cookie verfolgt, wie Sie eine Website nutzen, um Ihnen Werbung zu zeigen, die für Sie interessant sein könnte.
18 Jahre
__Secure-3PAPISID
Dieses Cookie wird verwendet, um die Werbedienste von Google zu unterstützen
2 Jahre
__Secure-3PSID
Dieses Cookie wird verwendet, um die Werbedienste von Google zu unterstützen
2 Jahre
__Secure-3PSIDCC
Dieses Cookie wird verwendet, um die Werbedienste von Google zu unterstützen.
6 Monate