Damit Maschinen allen Menschen dienen

Wie genau kam Joy Buolamwini zu ihrem Job? Die Entwicklerin gründete die «Algorithm Justice League», das ist eine NGO, die es sich zum Ziel gesetzt hat, Diskriminierungen aufgrund der Herkunft oder des Geschlechts in den neueren Entwicklungen Künstlicher Intelligenz (KI) aufzudecken und ihnen entgegen zu wirken. Hintergrund dafür waren ihre eigenen Forschungsarbeiten zu Technologien der Gesichtserkennung am MIT media lab, bei denen die schwarze Wissenschaftlerin immer so weisse Masken zum Test aufsetzen musste, wie die des Hacker-Kollektivs «Anonymous» – die Software erkannte sie sonst nicht als Mensch. In ihrem TED-Talk «How I’m Fighting Bias in Algorithms» (Wie ich Verzerrungen in Algorithmen bekämpfe; 2016) führt Joy diese Tatsache auf den Mangel inklusiver Datensets zurück: Da diese zu wenig Bilder schwarzer Menschen enthielten, haben die Algorithmen nur «gelernt», Gesichter von nicht-schwarzen Menschen zu erkennen. Allerdings ist das noch nicht ganz klar: Google kämpft seit Jahren mit dem Problem, dass die Algorithmen der Plattform schwarze Menschen fälschlicherweise als Gorillas einstufen – bislang ohne eine Perspektive auf eine Lösung.

Lernfähige Maschinen

Doch was ist eigentlich KI, und inwiefern stellt sie eine Gefahr oder auch Chance für Frauen dar? Jenseits der jahrzehntelangen Forschung zu logisch konstruierter KI (etwa Schachcomputer), Weltmodellen und Expertensystemen sind in den letzten Jahren Durchbrüche in einer ganzen Reihe von Datenanalyse-Systemen gelungen. Sie ermöglichen in Verbindung mit grossen Mengen an Daten, Rechenpower und hoher Vernetzung das, wovon Menschen seit Jahrzehnten träumen: Die Entwicklung von lernfähigen Maschinen – also aus Daten lernende Software, die in Verbindung mit steuerungsfähiger Hardware Aufgaben übernehmen kann, die bislang Menschen vorbehalten waren: z. B. Analyse, Bewertung und Steuerung komplexer Sachverhalte.

Daten, Funktion und Ziel

Bei einer ersten Annäherung an KI ist es hilfreich, zu unterscheiden, ob diese Technologien eingesetzt werden zur Analyse von Sachverhalten (z. B. Coronadiagnose) resp. zur Anwendung einer durch technische Tools unterstützten Steuerung von Dingen; ob in einfachen, statischen Systemen (z. B. automatisierte Bettenverteilung im Krankenhaus) oder aber in komplexen, mitunter dynamischen Systemen (z. B. eine plattform-basierte Vernetzung von Patient*innen und Ärzt*innen, die besonderen Informationsbedürfnissen wie Sprach- oder Rechtskenntnissen Rechnung trägt). In allen Fällen sind für die Bewertung und Einschätzung der Technik folgende Punkte von grosser Bedeutung:

• Basis des Systems (Daten, Algorithmen/Lernverfahren, Modelle/berücksichtigte Korrelationen)
• Funktionsweise und Sicherheit (Performanz, Schwachstellen, Manipulationsmöglichkeiten, etc.)
• Ziele beziehungsweise Ausrichtung der Optimierung (z. B.: Soll eine automatisierte Bettenverteilung im Krankenhaus dem Patientenwohl dienen, dem Renommee der Ärztin oder der Krankenhausauslastung?)

Kaum durchschaubare Systeme

Inwiefern kann es hier nun zu Problemen kommen? Das Beispiel von Joy Buolamwini ist ein typisches Problem der Technikentwicklung, das im Falle von KI besonders schwer erklärbar ist. Denn die Nachvollziehbarkeit und Kontrolle von KI stellen Menschen vor grosse Herausforderungen: Zunächst einmal stellt sie ein technisches Problem dar, das mit den Analysetechnologien selbst zusammenhängt. Früher konnten Algorithmen in Softwaresystemen oder so genannten algorithmischen Entscheidungssystemen logisch getestet werden auf Basis etwa der Überprüfung der Algorithmen, der Operationalisierung und Datenauswahl zur Lösung des Problems, der Einbindung in Softwaresysteme usw. Ein solches Algorithmen-Auditing ist heute kaum mehr möglich. Denn einerseits sind die Systeme meist zu komplex, zu interaktiv und zu dynamisch. Andererseits besteht eben der Clou der KI darin, dass sich die Technik mit der Datenanalyse und Anwendung verändert, also: dass sie selbst lernt. Um nachzuvollziehen, was die KI gelernt hat oder warum sie zu bestimmten Ergebnissen kommt, muss man heute deswegen in einem komplizierten Verfahren den Daten-Input und -Output miteinander vergleichen. Allerdings sind die meisten existierenden KI-basierten Systeme, wie die grossen Plattformen Google, Facebook, Amazon + Co, durch IT-Sicherheits- und Urheberrecht vor externen Datenzugriffen geschützt. Das heisst, die wenigen Nerd_ista, die in der Lage wären, eine solche Prüfung vorzunehmen, haben in der Regel kein Material zum Üben und Testen. Das ist ungeschickt, kommen doch diese Technologien unabhängig von Entwicklungsstand und Nachvollziehbarkeit immer mehr zum Einsatz.

Fatale Genderblindheit

In Deutschland warnen Organisationen wie die Anti-Diskriminierungsstelle des Bundes, das Bundesministerium der Justiz und für Verbraucherschutz oder zahlreiche zivilgesellschaftliche NGOs vor den Risiken algorithmischer Diskriminierung. Aber mangels Transparenz braucht es immer zuerst kleinere oder grössere Skandale, die das Thema anschaulich machen. Dazu gehörte z. B. ein automatisches Bewertungssystem von Bewerbungen bei Amazon, das Frauen systematisch benachteiligte. Wie aus Medienberichten hervor ging, basierte das System auf dem Abgleich von neuen Bewerbungen mit in der Vergangenheit erfolgreichen Bewerbungen. Da allerdings in der Vergangenheit generell mehr Männer eingestellt wurden, «orientierte» sich die KI an einer verzerrten Datenauswahl und reproduzierte die Ungleichverteilung: Sie bewertete Frauen generell schlechter als Männer. Das Bewertungssystem wurde eingestellt.

Wie kommt man zu diskriminierungsfreien Daten?

In Abhängigkeit von der Tätigkeit könnte man bei solchen Problemen auch mehr Diversität im Ranking bzw. der Optimierung algorithmischer Systeme fordern: Denn wenn der Clou von algorithmischen Entscheidungssystemen darin besteht, auf Basis von Daten effektive Entscheidungen zu treffen, dann braucht es eine Quote bzw. eine Definition von Vielfalt als Ziel, damit die effektiven Entscheidungen auch gesellschaftlichen Normen gerecht werden und nicht zu einseitig sind. Ausserdem braucht es die richtigen – beispielsweise aktuellen, repräsentativen, dem jeweiligen Problem entsprechenden – Daten. Und hier stellt sich das weitaus grössere Problem: Bislang gibt es weder auf nationaler noch auf europäischer Ebene Lösungen, die ein solches Datenmanagement realisieren, die Prüfungen zulassen oder standhalten, erst recht nicht für Akteur*innen verschiedener Branchen. Beispielsweise wäre es toll, wenn die Sensordaten smarter Autos auch der Klimaforschung und dem öffentlichen Nahverkehr zu Verfügung stünden. Aber auch wenn ein grosser Teil des aktuellen politischen und wissenschaftlichen Diskurses Zugang zu guten, korrekten, diskriminierungsfreien Daten fordert, weiss kaum jemand, wie das Ganze realisiert werden kann und soll – zumal sich die Erhebungsmethoden täglich überholen.

Design entscheidet über Wert und Gefahr

Doch das Ganze heisst nicht, dass Algorithmen oder KI Frauen nur Schaden zufügen können. In einem aktuellen Blogbeitrag beleuchtete David R. Robinson, wie Algorithmen seit Jahrzehnten dazu beitragen, das (Über-)leben von Säuglingen besser zu schützen, weil sie helfen, deren Gesundheitszustand direkt nach der Geburt rasch zu beurteilen, und wie KI-Systeme heute dazu beitragen können, dass Schülerinnen und Schüler besser lesen lernen. Hier unterstützen Algorithmen dabei, die Lernfortschritte der Schüler*innen einzuschätzen und geben Empfehlungen für passende Bücher. Nun mag nicht jede Frau ein Kind ihr eigenes nennen können oder wollen, insofern haken die Beispiele ein bisschen. Aber sie sollen den Blick auf etwas anderes richten:

Der Wert oder die Gefahr, die von KI bzw. von Technik im Allgemeinen aus der Perspektive von Frauen besteht, hängt sehr stark ab von ihrem Design: Von ihrem Ziel, von ihrer Ausführung, von den Ergebnissen und Evaluationen. Seit Beginn der Digitalisierung Ende der 70er Jahre (in Deutschland) kritisierten Forscherinnen die mangelnde Orientierung der Technologieentwicklung an den Bedürfnissen des Menschen allgemein, an den Bedürfnissen von Frauen im Besonderen. Und in der Tat ist es heute vielleicht das grösste Problem, dass überall Daten gesammelt, aggregiert, analysiert und verkauft werden, dass Menschen aus wirtschaftlichen oder politischen Interessen manipuliert werden, aber dass sich die wenigsten jemals Gedanken gemacht haben, was WIR als Gesellschaft für eine KI wollen. Wenn uns eine Technologie die Möglichkeit bietet, vollständig neues Wissen zu erlangen und Dinge völlig neuartig steuern zu können, dann sollten wir uns sehr gut überlegen, was wir wissen und steuern wollen und was wir dazu brauchen.

Mit KI Virenverbreitung verstehen

Plante man beispielsweise, das neuartige Virus SARS-CoV-2 und seine Verbreitung besser zu verstehen, könnte man neben Virologen auch Data Scientist_a befragen. Bislang wurde die Verbreitung des Virus v. a. durch Tests an Hamstern und Frettchen untersucht oder auch mit Experimenten mit Menschen und Objekten. Offen ist dabei etwa die Frage: Wird SARS-CoV-2 auch über Objekte oder CO² übertragen? Und was bedeutete das für den Handel mit Geld, für internationale Lieferketten, Klimaanlagen etc.? Was bedeutete das für die Freiheitseinschränkungen im Kontext der Covid 19-Bekämpfung, sind diese zielführend? Eine solche datenbasierte Lösung wäre günstiger, ethischer, schneller und repräsentativer als traditionelle Forschung – und würde so öffentliche Gelder für andere Bereiche freistellen. Allerdings bräuchte man hier den Zugang zu entsprechenden Daten; nicht nur zu Infektionsdaten, sondern etwa auch zu den Daten globaler Produktion und Verteilung (z. B. Infrastrukturen und Routen, Art und Menge der Güter, Verpackung, Art des Transports etc.), zu den Daten aus Stadtplanung und Architektur (z. B. Gebäudepläne mit Luftkanälen oder Klimaanlagen, Lufträume, Nähe zu Häusern etc.), zu den Daten vom öffentlichen Nahverkehr (Infrastruktur, Lufträume, Auslastung und Frequenz etc.) und so weiter. Diese Daten müssten dann maschinenlesbar und standardisiert sein, und man bräuchte eine Art öffentliches Daten-Management, das den Zugriff für viele Akteur*innen und unterschiedliche Zwecke ermöglicht. Zumindest in Deutschland wäre das bislang undenkbar.

Was wollen wir?

Auch dieses Thema ist nicht genuin feministisch. Aber ich halte es bei einer Technologie, die gigantische Chancen bietet, aber durch ihre fehlende Nachvollziehbarkeit auch ungemeine Risiken beinhaltet und Diskriminierung und dergleichen verstärken kann, für weniger hilfreich, auf Nicht-Diskriminierung und Nachvollziehbarkeit zu pochen, als mitzuentscheiden, was damit entwickelt werden soll. Wollen wir wirklich die smarte Dunstabzugshaube, die unterschiedliche Gerüche verbreiten kann? Oder wollen wir eine Software, die es im Falle von Pandemien und reduziertem Schulunterricht erlaubt, die Schulzeiten mit anderen Verpflichtungen der Eltern zu koordinieren? Wollen wir autonome Autos, oder wollen wir eine smarte Mobilität, die unterschiedliche Verkehrsmittel verknüpft? Wollen wir Pflegeroboter, oder wollen wir Technologien, die unsere Arbeit so stützen, dass wir mehr Zeit für Familie, Freund*innen und anderes haben? Und: wie können digitale Technologien genutzt werden, um solche Forderungen in Wirtschaft und Politik einzubringen?

Was mir vorschwebt, ist ein kooperatives Innovationsmanagement, ein Instrument, bei dem Menschen ihre konkreten Probleme und Fragestellungen einbringen können und andere Menschen Ressourcen zur Lösung. Ein gemeinschaftlicher Ansatz anstelle der jetzigen Dominanz von Unternehmen. Es würde dazu Plattform-Technologien, wie wir sie von Google, Facebook & Co kennen, demokratisch weiterentwickeln – ein komplexes Unterfangen, das in Deutschland gerade beginnt.

Literatur

• Krüger, Julia/ Lischka, Konrad (2018): Damit Maschinen den Menschen dienen (Arbeitspapier Bertelsmann Stiftung).
• Krüger, Julia (2016): Das digitale Phänomen.