Datum

4. Mai 2017

Digital

Algorithmen lügen nicht Wie Algorithmen Rassismus lernen

Digital

Programme, die Sprache interpretieren, sind sexistisch und rassistisch, sagen Wissenschaftler. Weil sie uns aufs Maul schauen.

Algorithmen beeinflussen einen immer grösseren Teil des Lebens.
Mehr Artikel
Mehr Artikel
Bild ansehen

Bild: Algorithmen beeinflussen einen immer grösseren Teil des Lebens. Künstliche Intelligenz hat damit das Potential, existierende Vorurteile zu verstärken. / Royonx (CC0 1.0)

Während Maschinen immer besser darin werden, die menschliche Sprache zu interpretieren, lernen sie auch die Vorurteile, die tief in unserer Sprache verwurzelt sind, schreibt der «Guardian» und verweist auf eine Studie, die im April 2017 im Wissenschaftsmagazin «Science» veröffentlicht wurde.

Eine der erfolgreichsten Methoden, mit denen Computer Alltagssprache interpretieren, zeigt eine auffallende rassistische und geschlechtsspezifische Befangenheit, wiesen die Autoren nach. Weil ein immer grösserer Anteil unserer täglichen Entscheidungen von Algorithmen abhängt, zementieren sie so soziale Ungleichheiten und Vorurteile.

Algorithmen sind naiv

Die Software reagiert, wie wir es von kleinen Kindern kennen, die immer das hören, was sie partout nicht hören sollen. Im schlimmsten Fall geben sie unsere unpassenden Aussagen dann in illustrer Gesellschaft zum Besten. Mit anderen Worten: Algorithmen sind sexistisch und rassistisch, weil wir es sind.

Ein gutes Beispiel dafür ist «Tay», ein Chatbot von Microsoft, der in sozialen Netzwerken selbständig kommunizieren sollte. Dafür musste die Software-Persönlichkeit die Sprache von jungen Menschen lernen. Vor einem Jahr ging «Tay» online. Nicht einmal einen Tag später sah sich Microsoft gezwungen, die künstliche Intelligenz vom Netz zu nehmen. Der Grund: sie pöbelte nur noch..

Wie aus Sprache eine Zahlenfolge wird

Arvind Narayanan, Informatiker an der Universität Princeton, und seine Co-Autoren haben die Methode des «Word Embeddings» untersucht, die in den vergangenen Jahren für grosse Fortschritte in der Sprachinterpretation gesorgt hat. «Word Embedding» arbeitet mit einem Modell, das Sprache in Zahlen übersetzt.

Die Software analysiert, welche Worte oft mit einem gesuchten Wort zusammen auftauchen, bildet diesen Zusammenhang als Zahlenfolge ab und macht ihn so für Computer verständlich. Worte, die Blumen bezeichnen, werden beispielsweise mathematisch mit solchen zusammengefasst, die Angenehmes bedeuten. Begriffe für Insekten tauchen eher zusammen mit unangenehmeren Begleitworten auf.

Wie Rassismus im Code landet…

An dieser Stelle wird es haarig. Algorithmen lernen Vorurteile, die auch in psychologischen Tests mit Menschen bewiesen wurden: Die Worte «weiblich» und «Frau» werden eher mit Kunst, Geisteswissenschaften und Haushalt assoziiert, während «männlich» und «Mann» näher an Mathematik und Ingenieurswissenschaften liegen.

Studien mit Menschen bewiesen, dass ein Bewerber mit «europäischem» Namen in den USA mit 50 Prozent höherer Wahrscheinlichkeit zu einem Vorstellungsgespräch eingeladen wird als jemand, dessen Name afro- oder latinoamerikanisch klingt. Künstliche Intelligenz übernimmt diese Vorurteile. «Wer nicht glaubt, dass Namen rassistisch beurteilt werden, hat hier den Beweis dafür», sagt Joanna Bryson, Informatikerin an der Universität Bath und eine der Co-Autorinnen der Studie.

…und warum das gefährlich ist

Das kann durchaus praktische Auswirkungen haben. Etwa, wenn jemand am Flughafen immer kontrolliert wird, weil er oder sie einen Namen trägt, den ein Algorithmus als risikobehaftet einstuft. Oder wenn Bewerbungen elektronisch vorsortiert werden.

Zurück zum vorlauten Nachwuchs: Auf einer Familienfeier kann die kindliche Bespiegelung für amüsante Momente sorgen oder ganz schön peinlich werden. In der Welt der künstlichen Intelligenz ist sie ein Problem. Algorithmen beeinflussen einen immer grösseren Teil des Lebens. Künstliche Intelligenz hat damit das Potential, existierende Vorurteile zu verstärken. Korrigieren kann sie sich nicht, weil sie nicht die Möglichkeit zur Reflexion hat, warnen die Wissenschaftler. Menschen sind in der Lage, ihre Befangenheit zu erkennen und ihr Handeln bewusst anzupassen. Ein Programm kann das nicht.

Algorithmen lügen nicht

Oder vielleicht doch. «Menschen können lügen, zum Beispiel über die Gründe, warum sie jemanden nicht eingestellt haben. Von Algorithmen erwarten wir keine Täuschung», sagte Sandra Wachter, die an der Universität Oxford zu datenethischen Fragen und Algorithmen forscht, dem «Guardian». Es sei denn, sie sind dazu programmiert worden, muss man ergänzen.

Zusammen mit zwei anderen Experten hat Wachter dazu aufgerufen, eine Art «Wächter-Algorithmus» zu erstellen. Eine schwierige Angelegenheit, gibt sie zu. Denn das hiesse, Teile des Sprachverständnisses zu entfernen, ohne dadurch die Software zu beeinträchtigen. Kann der Algorithmus soziokulturelle Zusammenhänge dann noch verstehen? Und wie lässt sich Moral logisch erfassen?

Software bildet Gesellschaft ab

«Prinzipiell können wir ein System aufbauen, das Vorurteile bei der Entscheidungsfindung feststellt und dann entsprechend handelt», erklärt Wachter. «Das ist eine komplizierte Aufgabe, aber eine, der wir uns als Gesellschaft stellen müssen».

Der nächste Schritt in der Entwicklung künstlicher Intelligenz, sagen Fachleute, könnte das «Erlernen» komplexer menschlicher Fähigkeiten wie Logik und gesunder Menschenverstand sein. Ob sich diejenigen, die die entsprechende Software planen, einig sind, was das ist?

Red. / Infosperber

Diesen Beitrag hat Daniela Gschweng aufgrund eines Berichts des «Guardian» und anderer Quellen erstellt.

Kommentare zu diesem Artikel

Kommentar

es gibt noch keinen Beitrag zu diesem Artikel

Schreibe einen Kommentar...Kommentare
Lupe
captcha refresh

Mehr zum Thema...

kurafire
Interview mit Klaus MainzerTechnikgestaltung heisst auch Lebens- und Arbeitsgestaltung

29.01.2016

- Selbst in fremden Umgebungen orientierungsfähige Roboter laufen auf zwei Beinen über holprige Hindernisstrecken, andere verarbeiten, vermessen oder verpacken Gegenstände und kommunizieren dabei permanent mit anderen Maschinen.

mehr...
Facebook polarisiert nicht nur, es ist auch wenig vergleichbar mit konventionellen Medien.
Ein Algorithmus ist nicht objektivFacebook: Die politische Macht des Tech-Giganten

20.05.2016

- «Sollte Facebook helfen, die Wahl Donald Trumps zu verhindern?» fragten Facebook-Angestellte den Facebook-CEO Mark Zuckerberg. Es mag überraschend klingen, dass diese Frage überhaupt gestellt wurde.

mehr...
Ähnlich wie bei der Ernährungskontrolle muss es ein fachliches Expertenkommittee geben, das sich mit Algorithmen und deren Nutzung auseinandersetzt.
Warum an der Debatte über Algorithmen alle BürgerInnen teilhaben solltenRaus aus dem Dunkeln

14.03.2017

- Algorithmische Entscheidungsfindung ist aus unserem digitalen Leben nicht mehr wegzudenken. Diese Entwicklung bringt Fragen mit sich: Darf eine PKW-Software darüber entscheiden, wer im Falle eines Unfalls zu Schaden kommt?

mehr...
Fake News.
Wer darf Autor sein? Wer hat Autorität? Wer ist Fake News?Bot und die Welt

24.05.2017

- Wie entstehen Informationen und was sie erzählen sie über die Welt? Wie ist die Welt gebaut und welchen Platz haben wir in ihr?

mehr...

Mehr auf UB online...

Top Artikel