UB-Logo
Online Magazin
Untergrund-Blättle

Wie Algorithmen Rassismus lernen | Untergrund-Blättle

Digital

Algorithmen lügen nicht Wie Algorithmen Rassismus lernen

Digital

Programme, die Sprache interpretieren, sind sexistisch und rassistisch, sagen Wissenschaftler. Weil sie uns aufs Maul schauen.

Algorithmen beeinflussen einen immer grösseren Teil des Lebens.
Mehr Artikel
Mehr Artikel
Bild ansehen

Bild: Algorithmen beeinflussen einen immer grösseren Teil des Lebens. Künstliche Intelligenz hat damit das Potential, existierende Vorurteile zu verstärken. / Royonx (CC0 1.0)

Während Maschinen immer besser darin werden, die menschliche Sprache zu interpretieren, lernen sie auch die Vorurteile, die tief in unserer Sprache verwurzelt sind, schreibt der «Guardian» und verweist auf eine Studie, die im April 2017 im Wissenschaftsmagazin «Science» veröffentlicht wurde.

Eine der erfolgreichsten Methoden, mit denen Computer Alltagssprache interpretieren, zeigt eine auffallende rassistische und geschlechtsspezifische Befangenheit, wiesen die Autoren nach. Weil ein immer grösserer Anteil unserer täglichen Entscheidungen von Algorithmen abhängt, zementieren sie so soziale Ungleichheiten und Vorurteile.

Algorithmen sind naiv

Die Software reagiert, wie wir es von kleinen Kindern kennen, die immer das hören, was sie partout nicht hören sollen. Im schlimmsten Fall geben sie unsere unpassenden Aussagen dann in illustrer Gesellschaft zum Besten. Mit anderen Worten: Algorithmen sind sexistisch und rassistisch, weil wir es sind.

Ein gutes Beispiel dafür ist «Tay», ein Chatbot von Microsoft, der in sozialen Netzwerken selbständig kommunizieren sollte. Dafür musste die Software-Persönlichkeit die Sprache von jungen Menschen lernen. Vor einem Jahr ging «Tay» online. Nicht einmal einen Tag später sah sich Microsoft gezwungen, die künstliche Intelligenz vom Netz zu nehmen. Der Grund: sie pöbelte nur noch..

Wie aus Sprache eine Zahlenfolge wird

Arvind Narayanan, Informatiker an der Universität Princeton, und seine Co-Autoren haben die Methode des «Word Embeddings» untersucht, die in den vergangenen Jahren für grosse Fortschritte in der Sprachinterpretation gesorgt hat. «Word Embedding» arbeitet mit einem Modell, das Sprache in Zahlen übersetzt.

Die Software analysiert, welche Worte oft mit einem gesuchten Wort zusammen auftauchen, bildet diesen Zusammenhang als Zahlenfolge ab und macht ihn so für Computer verständlich. Worte, die Blumen bezeichnen, werden beispielsweise mathematisch mit solchen zusammengefasst, die Angenehmes bedeuten. Begriffe für Insekten tauchen eher zusammen mit unangenehmeren Begleitworten auf.

Wie Rassismus im Code landet…

An dieser Stelle wird es haarig. Algorithmen lernen Vorurteile, die auch in psychologischen Tests mit Menschen bewiesen wurden: Die Worte «weiblich» und «Frau» werden eher mit Kunst, Geisteswissenschaften und Haushalt assoziiert, während «männlich» und «Mann» näher an Mathematik und Ingenieurswissenschaften liegen.

Studien mit Menschen bewiesen, dass ein Bewerber mit «europäischem» Namen in den USA mit 50 Prozent höherer Wahrscheinlichkeit zu einem Vorstellungsgespräch eingeladen wird als jemand, dessen Name afro- oder latinoamerikanisch klingt. Künstliche Intelligenz übernimmt diese Vorurteile. «Wer nicht glaubt, dass Namen rassistisch beurteilt werden, hat hier den Beweis dafür», sagt Joanna Bryson, Informatikerin an der Universität Bath und eine der Co-Autorinnen der Studie.

…und warum das gefährlich ist

Das kann durchaus praktische Auswirkungen haben. Etwa, wenn jemand am Flughafen immer kontrolliert wird, weil er oder sie einen Namen trägt, den ein Algorithmus als risikobehaftet einstuft. Oder wenn Bewerbungen elektronisch vorsortiert werden.

Zurück zum vorlauten Nachwuchs: Auf einer Familienfeier kann die kindliche Bespiegelung für amüsante Momente sorgen oder ganz schön peinlich werden. In der Welt der künstlichen Intelligenz ist sie ein Problem. Algorithmen beeinflussen einen immer grösseren Teil des Lebens. Künstliche Intelligenz hat damit das Potential, existierende Vorurteile zu verstärken. Korrigieren kann sie sich nicht, weil sie nicht die Möglichkeit zur Reflexion hat, warnen die Wissenschaftler. Menschen sind in der Lage, ihre Befangenheit zu erkennen und ihr Handeln bewusst anzupassen. Ein Programm kann das nicht.

Algorithmen lügen nicht

Oder vielleicht doch. «Menschen können lügen, zum Beispiel über die Gründe, warum sie jemanden nicht eingestellt haben. Von Algorithmen erwarten wir keine Täuschung», sagte Sandra Wachter, die an der Universität Oxford zu datenethischen Fragen und Algorithmen forscht, dem «Guardian». Es sei denn, sie sind dazu programmiert worden, muss man ergänzen.

Zusammen mit zwei anderen Experten hat Wachter dazu aufgerufen, eine Art «Wächter-Algorithmus» zu erstellen. Eine schwierige Angelegenheit, gibt sie zu. Denn das hiesse, Teile des Sprachverständnisses zu entfernen, ohne dadurch die Software zu beeinträchtigen. Kann der Algorithmus soziokulturelle Zusammenhänge dann noch verstehen? Und wie lässt sich Moral logisch erfassen?

Software bildet Gesellschaft ab

«Prinzipiell können wir ein System aufbauen, das Vorurteile bei der Entscheidungsfindung feststellt und dann entsprechend handelt», erklärt Wachter. «Das ist eine komplizierte Aufgabe, aber eine, der wir uns als Gesellschaft stellen müssen».

Der nächste Schritt in der Entwicklung künstlicher Intelligenz, sagen Fachleute, könnte das «Erlernen» komplexer menschlicher Fähigkeiten wie Logik und gesunder Menschenverstand sein. Ob sich diejenigen, die die entsprechende Software planen, einig sind, was das ist?

Red. / Infosperber

Diesen Beitrag hat Daniela Gschweng aufgrund eines Berichts des «Guardian» und anderer Quellen erstellt.

Kommentare zu diesem Artikel

es gibt noch keinen Beitrag zu diesem Artikel

Schreibe einen Kommentar...
captcha

Mehr zum Thema...

Modell des britischen Nachrichtendienstes GCHQ in Cheltenham, England.
Computer, Internet, HandyWas bedeuten Snowdens Enthüllungen für eine widerständige Praxis?

07.03.2014

- Bild- und Textverarbeitung, Internetrecherche und -veröffentlichungen, Mails und Instant Messaging, Handykommunikation und sogar Smartphones und sogenannte soziale Netzwerke...

mehr...
Mario Sixtus
Sicherheit in der Informationstechnik Kryptographie, Open Source und Gesellschaft

10.09.2015

- Die weltweite elektronische Vernetzung stellt wohl eine der tiefgreifendsten Veränderungen seit der industriellen Revolution dar. Das gesellschaftliche Zusammenleben und das Verhältnis der Staaten untereinander stehen vor tiefgreifenden Herausforderungen.

mehr...
kurafire
Interview mit Klaus MainzerTechnikgestaltung heisst auch Lebens- und Arbeitsgestaltung

29.01.2016

- Selbst in fremden Umgebungen orientierungsfähige Roboter laufen auf zwei Beinen über holprige Hindernisstrecken, andere verarbeiten, vermessen oder verpacken Gegenstände und kommunizieren dabei permanent mit anderen Maschinen.

mehr...

Mehr auf UB online...