Internationales Zentrum für Ethik in den Wissenschaften (IZEW)

Das schwierige Timing der Integration ethischer Aspekte

Elsa ist seit einem halben Jahr fertig mit ihrem Philosophiestudium. Nun wird sie von einem Ethikinstitut als Doktorandin für ein Technikentwicklungsprojekt angestellt, in dem ein robotisches System für die Pflege weiterentwickelt wird. Ihre Aufgabe ist es, ethische und soziale Aspekte in die Projektarbeit einzubringen. Als erste Aufgabe soll Elsa ethische Richtlinien für das Projekt aufstellen. Elsa fragt sich: Wie soll ich das bewerkstelligen, wenn noch gar nicht klar ist, wie die Technik konkret gestaltet sein und angewendet werden wird? Kann das überhaupt gelingen?

Am 1. Oktober 2019 fand am IZEW ein Workshop zur Schwierigkeit des Timings der Integration ethischer Aspekte in Technikentwicklungsprojekten statt. Mone Spindler und Wulf Loh hatten im Rahmen des BMBF Netzwerks „Integrierte Forschung“ zu Grundlagenreflexion und Erfahrungsaustausch zu dieser Herausforderung integrierter Forschung eingeladen (vgl. Spindler et al. 2019). 20 Teilnehmende aus den Bereichen Technikfolgeabschätzung, Science and Technology Studies, Technikethik und Informatik diskutierten ob und wenn ja wie der Einbezug ethischer, rechtlicher und sozialer Aspekte von Projektbeginn an gelingen kann. Das Fallbeispiel der Philosophin Elsa und eine wissenschaftsphilosophische Rekonstruktion des „Collingride Dilemmas“ (Liebert und Schmidt 2010) dienten als Ausgangspunkte der Diskussion.

Das „Collingride Dilemma“

Bereits 1980 beschrieb David Collingridge, ein Mitbegründer der Technikfolgenabschätzung, folgendes Dilemma der sozialen Kontrolle von Technologien: „When change is easy, the need for it cannot be foreseen; when the need for change is apparent, change has become expensive, difficult, and time-consuming.“ (Collingridge 1980, S. 11) Das „Collingridge Dilemma“ wird zwar häufig zitiert, Collingridges Argumentation ist im Detail jedoch wenig bekannt. Diese wurde zur Grundlagenreflexion von den Teilnehmenden deshalb ausführlich rekapituliert.

Dabei zeigten sich: Elsa hat nicht nur ein Problem des Timings, denn bei der sozialen Kontrolle von Techniken wirken die drei Dimensionen Zeit, Wissen und Macht zusammen. Entsprechend lässt sich das Dilemma nach Collingridge nicht – wie häufig angenommen – allein in der Wissens-Dimension durch die möglichst genaue Abschätzung gesellschaftlicher Folgen einer Technik lösen.

Collingridge schlägt vielmehr ein Konzept zur Entscheidungsfindung unter der Bedingung von Unwissenheit über Folgen vor, das an allen drei Dimensionen ansetzt. Er fordert hierfür u.a., den Einfluss von Wissenschaft, Politik und Institutionen auf Innovationsprozesse zu stärken, die Korrigierbarkeit von Entwicklungsentscheidungen sicherzustellen, die Werthaltigkeit und Unsicherheit von Wissen zu thematisieren und Innovationprozesse nicht einmalig zu prüfen, sondern kontinuierlich zu monitoren.

Zusammenhänge von Einfluss und Timing

Im Mittelpunkt des Erfahrungsaustauschs stand der enge Zusammenhang zwischen den Dimensionen Macht und Zeit. Denn viele Teilnehmende teilten Elsas Erfahrung im Fallbeispiel, dass ihr Einfluss auf den Entwicklungsprozess begrenzt ist. Besonders eindrücklich ergab sich aus den vielfältigen Diskussionen und Erfahrungsberichten folgender Zusammenhang: Es ist wichtig, beim Timing der Integration über vorwettbewerbliche Projekte und ihre Laufzeiten hinaus zu denken. Denn Elsas Beteiligung an dem Projekt kommt einerseits zu spät, weil grundlegende Entscheidungen bereits bei der Konzeption von Innovationsförderung gefällt werden. Andererseits endet Elsas Beteiligung zu früh, nämlich bevor die Technik idealerweise zur Marktreife weiterentwickelt wird. Zudem ist ihr Einfluss auf das begrenzte Projekt auch deshalb eingeschränkt, weil diejenigen, die in den Projekten üblicherweise die Entwicklungsarbeiten ausführen, selbst keine Entscheider*innen sind, die gemeinsam mit Elsa größere Richtungsentscheidungen treffen könnten.

Was sollte Elsa tun?

Der Workshop schloss mit der Frage, welche praktischen Ratschläge die Teilnehmenden Elsa mit auf den Weg geben würden. ELSA wurde z.B. geraten, die Projektkoordination zu motivieren, den Einbezug ethischer, rechtlicher und sozialer Aspekte ernster zu nehmen. Neben Projekttreffen könnte sie Zwiegespräche mit ihren Kolleg*innen suchen, um diese für ihre Themen zu interessieren. Und sie sollte überlegen, wie sie ihrem Team die ethische Materie methodisch besser näherbringen kann.

Dabei kam die auch in der Literatur kritisch diskutierte Frage auf, welche Rolle ELSA-Partner*innen in Technikentwicklungsprojekten einnehmen sollten. „Wir sind doch keine Ausbilder, Berater oder Therapeuten, sondern Forschende!“, wandte ein Teilnehmer ein. Anstatt zu vermitteln und zu integrieren sollte Elsa versuchen, mit ihren technischen Kolleg*innen gemeinsame Forschungsfragen zu entwickeln. Sie wurde ermutigt, Position zu beziehen und mit ihrem Team eine offene Diskussion über ethische Probleme von Pflegetechniken zu beginnen.

Bei aller Vielfältigkeit der Ratschläge bestand in einem Punkt jedoch Einigkeit: Elsa sollte so oder so viel Geduld mitbringen.

Literatur

Collingridge, David (1980): The social control of technology. Reprint. London: Pinter.

Liebert, Wolfgang; Schmidt, Jan C. (2010): Collingridge’s dilemma and technoscience. In: Poiesis Prax 7 (1-2), S. 55–71. DOI: 10.1007/s10202-010-0078-2.

Spindler, Mone; Zinsmaier, Judith; Booz, Sophia; Wydra, Sven; Heyen, Nils B.; Gieseler, Helya et al. (2019): How to achieve integration? Methodical concepts and methodological challenges of integrating ethical, social, legal and economic aspects into technology development. In: Arne Manzeschke und Bruno Gransche (Hg.): Das geteilte Ganze. Horizonte Integrierter Forschung für künftige Mensch-Technik-Verhältnisse. Wiesbaden: Springer VS.