Leitlinien zum Umgang mit generativen KI Tools

Als zukunftsorientierte und progressive Universität erkennt die Universität Tübingen das transformative Potenzial generativer KI an. Dieses Potenzial erfasst aktuell viele Bereiche der Gesellschaft und verändert sowohl die universitäre als auch die außeruniversitäre Arbeitswelt. Generative KI wird bereits mit rasanter Geschwindigkeit in unterschiedliche Berufsfelder eingebunden. Es wird keine Welt mehr ohne KI geben. Zahllose Studierende der UT werden künftig in Berufsfeldern tätig sein, in denen der Umgang mit generativer KI zu ganz alltäglichen Arbeitsprozessen gehört. Genauso wird generative KI auch den Arbeitsalltag von Forschenden unterschiedlicher Disziplinen sowie von Mitarbeitenden der Verwaltung zunehmend verändern. Darin sieht die UT eine große Herausforderung, aber auch eine substanzielle Chance. Denn die Universität kann der Ort sein, an dem kritisch-reflexive, transparente und verantwortungsvolle Umgangsweisen mit generativer KI erarbeitet, ausgehandelt und vermittelt werden.  So trägt sie dazu bei, dass der gesellschaftliche Wandel im Kontext von KI problembewusst und zugleich konstruktiv gestaltet werden kann.
 

Die Potenziale generativer KI im Bereich der Text- und Datenverarbeitung sind äußerst vielfältig. Für die Universität Tübingen erstrecken sie sich über alle relevanten Bereiche: Generative KI hat das Potenzial zu verändern, wie Studierende lernen und sich in einer von Daten gesättigten Wissenschaftswelt bewegen. Sie kann neue didaktische Ansätze in der digitalen Lehre ermöglichen, Forschenden veränderte Umgangsweisen mit Texten oder Bildern eröffnen, zur Erweiterung der Wissenschaftskommunikation beitragen und nicht zuletzt auf Ebene der Verwaltung unterstützen. Die Vielfalt der Möglichkeiten macht eine genaue Bestimmung von Potenzialen sowie die Entwicklung von Regelwerken besonders herausfordernd. Klar ist, dass generative KI für Studium, Lehre, Forschung und Wissenschaftskommunikation jeweils eigene Potenziale bietet und pauschale Einschätzungen wenig zielführend sind. Aktuell befindet sich die Universität in einer Phase der Exploration, in der Potenziale in allen genannten Feldern erkundet, getestet und kritisch diskutiert werden müssen. In Anbetracht der rasanten technischen Entwicklung und technologischer “Hypes” gilt es, die Potenziale von generativer KI realistisch einzuschätzen, um sie für eine zukunftsorientierte Universität in einem definierten Rahmen nutzbar machen zu können.

Generative KI hat neben vielfältigen Potenzialen auch zahlreiche problematische Implikationen. Dazu gehören die Tatsache, dass viele urheberrechtliche sowie datenschutzrechtliche Fragen ungeklärt bleiben. Generierte Texte können falsche, missverständliche, oder irreführende Ergebnisse produzieren und Quellen 'halluzinieren'. Generative KI kann den bereits in die Trainingsdaten der Systeme eingeschriebenen Bias reproduzieren. Soziale, kulturelle und wissenschaftliche Vorannahmen können sich in die Systeme und die generierten Texte einschreiben. Entwicklerinnen und Entwickler können die generierten Texte zum Teil gezielt manipulieren. Darüber hinaus hat generative KI bei massenhafter Nutzung einen substanziellen ökologischen Fußabdruck, insbesondere durch Stromverbrauch, CO2-Ausstoß, den Verschleiß von Mineralien und Wasserverbrauch. Außerdem können unterschiedliche Bezahlmodelle für stärkere und schwächere KI-Systeme ökonomische Ungleichheitsverhältnisse (bspw. zwischen Studierenden mit unterschiedlichen Einkommensverhältnissen) noch verschärfen.

Zentrales Ziel der Universität Tübingen ist deshalb, die Potenziale generativer KI zu erproben und in den verschiedenen Bereichen der Universität produktiv einzusetzen, ohne die bereits erwähnten problematischen Implikationen aus dem Blick zu verlieren. Dafür müssen sowohl grundlegende als auch fachspezifische Lehrangebote erarbeitet und rechtliche Rahmenbedingungen z.B. für den Einsatz in Prüfungen geschaffen werden. Auch auf Ebene der Forschung, Wissenschaftskommunikation und Verwaltung braucht die Universität einen kritischen Diskurs zu den Potenzialen und Grenzen generativer KI. Das Erreichen dieser Ziele wird viel Arbeit und Aufmerksamkeit fordern. Allerdings zeigt sich bereits jetzt, dass zentrale Leitlinien unverzichtbar sind.

Erstens sind die Mitglieder der Universität zu einem kritisch-reflexiven Umgang mit generativer KI aufgefordert. Viele der Probleme mit generativer KI entstehen (auch auf gesellschaftlicher Ebene) aufgrund einer unbedarften Haltung. Zur kritisch-reflexiven Haltung gehört sowohl die Entwicklung eines differenzierten Problembewusstseins als auch die Fähigkeit, die Potenziale und Limitationen generativer KI realistisch einschätzen zu können. 

Zweitens soll der Umgang mit generativer KI grundlegend transparent gestaltet werden. Wird generative KI eingesetzt (sei es in Forschung, Studium, Verwaltung oder Wissenschaftskommunikation), ist das Vorgehen zu dokumentieren und im jeweiligen Format transparent sichtbar zu machen. 
Drittens sind alle Mitglieder der Universität zu einer verantwortungsvollen Nutzung generativer KI im Sinne der Regeln guter wissenschaftlicher Praxis angehalten. Das heißt unter anderem, dass es auch bei der Arbeit mit generativer KI in der Eigenverantwortung der Verfasserinnen und Verfasser liegt, dass ihre Texte keine Plagiate enthalten und alle Quellen kritisch geprüft wurden. Es heißt auch, dass die jeweiligen Nutzerinnen und Nutzer Verantwortung dafür übernehmen müssen, wie und zu welchem Zweck die zur Verfügung gestellten Daten durch KI-Systeme weiterverarbeitet werden.

In welcher Form diese Leitlinien umgesetzt werden, ist notwendigerweise in unterschiedlichen Arbeitsfeldern und Fachkulturen individuell zu handhaben. Die Fächer und Institutionen sind aufgefordert, eigene Richtlinien zu formulieren und zur Verfügung zu stellen. Zur Bearbeitung besonders dringlicher prüfungsrechtlicher Fragen entwickeln die AG Generative KI und das Rektorat aktuell grundlegende Lösungsansätze. Diese sollen als Basis für eine Weiterentwicklung in den Fakultäten und Einrichtungen dienen.

Sind die grundlegenden Bedingungen eines kritisch-reflexiven, transparenten und verantwortungsvollen Umgangs erfüllt, kann generative KI Potenziale bieten, um Arbeitsprozesse an und jenseits der Universität zu bereichern. Worin diese Bereicherungen im Einzelnen bestehen und wie sie in einem kritischen Abwägungsprozess mit den problematischen Implikationen zu bewerten sind, wird in den kommenden Jahren Gegenstand kontinuierlicher Diskussionen an der Universität Tübingen sein.

Zusammenfassung der bisherigen Arbeit sowie zur "Handreichung KI in Lehr- und Prüfungskontexten"