Menschliches Handeln, das ist die grundlegende Botschaft dieses Textes, ist nie neutral. Aus diesem Grund sind auch die Erzeugnisse unseres Handelns, wie zum Beispiel Technologien, nie moralisch neutral und können es auch gar nicht sein. Somit erübrigt sich auch die Frage, wie wir Algorithmen von ihren allfälligen Vorurteilen oder Neigungen befreien können, die zu unbefriedigenden Ergebnissen führen — wie etwa, dass eine Google Foto-App People of Color als Gorillas zu erkennen meint. Können wir nicht. Jeder Algorithmus ist gebiased. Die Frage ist, wie.
Kritische Fragen als Werkzeug
In diesem Text möchte ich Ihnen in vier Schritten ein Werkzeug für die Ermittlung der moralisch relevanten Aspekte einer Technologie an die Hand geben. Auf diese Weise lässt sich bei jedem Artefakt nicht nur darüber nachdenken, welche moralischen Werte in das jeweilige Produkt tatsächlich eingegangen sind, sondern auch, was vielleicht noch wichtiger ist, welche moralischen Werte in die Herstellung einer Technologie eingehen sollten. Diese zweite Frage nach dem (moralisch) Wünschenswerten ist es, die uns alle zu Philosoph*innen macht und die wir uns stellen müssen, sofern uns interessiert, in was für einer Gesellschaft wir leben wollen. Anhand mehrerer Beispiele werde ich im Folgenden mit Ihnen gemeinsam diese vier Schritte gehen, die doch vielmehr vier Fragenkomplexe sind, mit denen ausgerüstet Sie sich an jede Technologie wenden können.
(1) Herstellung und Design
Beginnen wir mit einer richtigen Alltagstechnologie, einem Tisch. Stellen Sie sich vor, Sie folgen der Einladung zu einem Abendessen und stehen nun vor der gedeckten Tafel. Wohin setzen Sie sich? Sicherlich nicht an die Stirnseite des Tisches, ist dieser Platz doch für gewöhnlich den Gastgeber*innen vorbehalten. Ein runder Tisch hingegen bietet allen gleichberechtigt einen Platz. Doch auch runde Tische sind nicht vollkommen inklusiv, was Sie etwa an einem Stehtisch sehen können. Kleinere Menschen oder Menschen im Rollstuhl sind von ihrer Nutzung ausgeschlossen. Staubsaugerroboter sind nach Kriterien entworfen, die uns an Menschen oder Tiere erinnern. Sie sind klein, rund und sollen niedlich und harmlos wirken, damit wir zu ihnen Vertrauen fassen und uns darauf einlassen, dass sie in unserem privaten Raum autonom agieren. Doch ist es nicht unangebracht, Vertrauen zu einem Roboter zu entwickeln? Wem vertrauen wir denn tatsächlich, wenn wir meinen, uns auf ihn zu verlassen? Doch vielmehr denjenigen, die ihn konstruiert, designt und programmiert haben und die vermutlich auch auf die durch den Roboter erhobenen Daten zugreifen können.
Ein eindrückliches historisches Beispiel für die ethischen Fragen, die sich mit Blick auf die Herstellung einer Technologie stellen, liefert uns der Electronic Numerical Integrator and Computer (ENIAC), der erste elektronische Computer.
Dieser wurde von sechs Frauen programmiert und betrieben. Jedoch wurde ihre Bedeutung für die Betriebsbereitschaft des ENIAC vom ersten Moment an aus der Geschichte gelöscht. Im Buch «Broad Band» von Claire L. Evans (2018) ist dies anschaulich nachzulesen. Doch nicht nur die Rolle und Ausbeutung von Menschen, häufig Frauen*, verlieren wir in der Evaluation einer Technologie gerne aus dem Blick, sondern auch die von Tieren. Nehmen wir die berühmten Xenobots, die winzig kleinen, autonomen und programmierbaren Roboter, die aus embryonalen Stammzellen des Afrikanischen Krallenfrosches (lat. Xenopus laevis) bestehen. Die Xenobots können sich selbstständig fortbewegen, da es sich bei besagten Stammzellen um Vorläufer für Haut- und insbesondere Herzmuskelzellen handelt. Eine von vielen ethischen Fragen, die sich mit Blick auf diese organischen Maschinen stellen, betrifft die Arbeitsbedingungen auch der Frösche, die zu ihrer Herstellung beigetragen haben.
(2) Autonomie und Aufgabenbereich
Tische werden für alle mögliche Zwecke hergestellt. Nebst Esstischen gibt es auch Altäre, OP- und Schreibtische sowie Werk-, Schul- und Schlachtbänke. Selbst im Aufgabenbereich eines Tisches verbergen sich somit zahlreiche, zumeist nicht weiter bemerkte, moralische Aspekte, denen wir nachspüren können.
Die ersten bedeutenden Computertechnologien des vergangenen Jahrhunderts teilten oftmals eine Konstante in ihrer Zwecksetzung – sie kamen in der Kriegsführung zum Einsatz. Der bereits vorgestellte ENIAC etwa diente der US-Armee während des zweiten Weltkriegs zur Berechnung ballistischer Tabellen. Das wirft sicher Fragen auf. Die oben angesprochenen Xenobots sollen im menschlichen Körper oder in den Ozeanen Aufräumarbeiten übernehmen und in nicht allzu ferner Zukunft sogar Lasten wie etwa Wirkstoffe transportieren. Doch lässt sich durchaus danach fragen, wer ihren genauen Aufgabenbereich festlegt und ihre Befugnis begrenzt. Wer trägt die Verantwortung, wenn die organischen Roboter einen Auftrag nicht wunschgerecht erfüllen, wenn sie Fehler machen oder es zu Unfällen kommt? Ob Sie es glauben oder nicht, verkörpert auch ein Staubsaugerroboter ethische Prinzipien, um seine Saugtätigkeit ausüben zu können. Er soll vermutlich auf grössere Haustiere achten, also etwa nicht über den Schwanz der Katze fahren. Insekten hingegen sind ihm für gewöhnlich egal – im Gegenteil würden sich die meisten vermutlich wünschen, ihr Staubsaugerroboter würde gerade Spinnen und Käfer besonders gründlich beseitigen. Dass das jedoch kein universell geteilter ethischer Commonsense ist, zeigt der Roboterethiker Oliver Bendel: Er hat einen Staubsaugerroboter namens Ladybird (dt. «Marienkäfer») entworfen, der immer dann anhalten soll, wenn er marienkäferähnliche Strukturen zu erkennen glaubt.
(3) Daten und Sicherheit
Der dritte Fragenkomplex, den Sie an Artefakte richten sollten, erfordert ein weites Verständnis von Daten. Denn die meisten nichtdigitalen Technologien, wie etwa herkömmliche Tische, erheben keine Daten, auf die Dritte (etwa Unternehmen) problemlos zugreifen könnten. Aber sicherlich verrät auch ein Tisch einiges über diejenigen, die ihn nutzen.
Bei Computertechnologien liegt die Frage der Datenerhebung und der Sicherheit ihres Einsatzes auf der Hand.
Dafür müssen Sie nicht erst Militär- und Kriegstechnologien betrachten, sondern es genügt, wenn Sie einmal Ihr Smartphone in die Hand nehmen und sich überlegen, wer von all den Daten profitiert, die durch Sie bei Diensten wie Whats-App, Facebook oder Google Maps bewusst oder unbewusst erhoben werden. Natürlich erheben auch Roboter Daten. Was für Daten kommen etwa durch den Einsatz der Xenobots in der Medizin über einen menschlichen Körper zustande und wer (wie vielleicht Ärzt*innen und die Pharmaindustrie) kann auf diese zugreifen? Sogar Staubsaugerroboter werfen berechtigte Fragen auf hinsichtlich einer Nutzung der Daten, die sie erheben.
(4) Kontext und Einsatzbereich
Jede Technologie stellt uns vor ethische Herausforderungen, die ihren Einsatzbereich und insbesondere die darin agierenden Menschen (und Tiere) betreffen. Diese mögen bei Tischen vielleicht nicht allzu gravierend sein. Wobei sicherlich auch ein sensibler Blick etwa auf einen in einer bestimmten Weise designten OP-Tisch einiges über die durch ihn veränderten Arbeitsbedingungen der um den Tisch herum tätigen Menschen erkennen kann.
Die Digitalisierung der Arbeitswelt führt an vielen Stellen zu erheblichen Veränderungen der Tätigkeiten von Mensch und Tier – was in der gesellschaftlichen Diskussion über die sogenannte Industrie 4.0 ihren berechtigten Ausdruck findet. Auch Roboter verändern unsere Arbeit, ja, sie wurden ursprünglich gerade dafür geschaffen, wie der Ausdruck «Roboter» selbst verrät, der auf das tschechische Wort «robota» für Arbeit, Frondienst und Zwangsarbeit zurückgeht. In welcher Weise sind etwa Menschen und Tiere in Medizin und Umweltschutz durch den Einsatz der Xenobots betroffen? Welche gesellschaftlichen Auswirkungen könnte ihre Herstellung und serienmässige Produktion haben? Wie verändern Haushaltsroboter wie Rasenmäher-, Fensterputz- und Staubsaugerroboter unser Zusammenleben und die Arbeit der Menschen, die bislang im Haushalt tätig waren – in vielen Fällen Frauen* –, bezahlt und unbezahlt? Nur auf den ersten, groben und unangemessen flüchtigen Blick erscheinen Roboter als reine Erleichterung für die von ihnen betroffenen Menschen.
Wir alle sind gefragt
Meine Hoffnung ist, dass Sie mit diesem Text eine Möglichkeit für sich finden, die Technologien, die Sie ganz selbstverständlich nutzen, und solche, die in unserer Gesellschaft entwickelt werden, ethisch zu evaluieren. Technik ist nie neutral, ganz gleich, ob von Tischen, Smartphones, Robotern oder Algorithmen die Rede ist. Und nicht nur akademische Philosoph*innen sind für ihre ethische Einschätzung verantwortlich, wenn diese sicherlich auch aufgrund ihrer Expertise den Diskurs transparent gestalten und führen müssen. Sondern es ist unser aller Verantwortung, die verschiedenen Technologien in ihren Einsatzbereichen kritisch zu reflektieren und die moralischen Herausforderungen, vor die sie uns stellen, ernsthaft in den Blick zu nehmen.
