UB-LogoOnline MagazinUntergrund-Blättle

Danah Boyd über algorithmische Entscheidungssysteme | Untergrund-Blättle

4532

digital

ub_article

Digital

Danah Boyd über algorithmische Entscheidungssysteme „Wenn sie ethisch umgesetzt werden, kosten sie mehr“

Digital

Software, die registriert, auf welche weiterführende Schule jemand am Liebsten gehen würde und mithilfe eines Algorithmus darüber entscheidet, wer schliesslich welchen Schulplatz bekommt, kann für klamme Städte und Regierungen verlockend klingen.

Danah Boyd an der «Writers on Writing about Technology» Konferenz, Yale University.
Mehr Artikel
Mehr Artikel
Bild ansehen

Bild: Danah Boyd an der «Writers on Writing about Technology» Konferenz, Yale University. / Sage Ross (CC BY-SA 2.0 cropped)

18. Januar 2018

18. 01. 2018

0
0
2 min.
Korrektur
Drucken
Unternehmen versprechen mitunter, dass damit die Effizienz erhöht werde. In den USA werden solche und ähnliche algorithmische Entscheidungssysteme auch in anderen öffentlichen Bereichen implementiert, beispielsweise in der Erstellung von Profilen für die Polizei.

Danah boyd leitet das Forschungsinstitut Data & Society in New York und forscht für Microsoft über soziale und kulturelle Aspekte von sozialen Medien und Big Data. In einem Blog-Post zum noch nicht erschienenen Buch „Automating Inequality“ (kurz: AI) von Virginia Eubanks schreibt sie über die Kosten von algorithmischen Entscheidungssystemen im öffentlichen Bereich:

«Wenn Sie jemals hören, dass die Implementierung von algorithmischen Entscheidungsfindungsinstrumenten in soziale Dienste oder andere hochrangige Regierungsentscheidungen ihre Effizienz erhöht oder die Kosten für die Steuerzahler reduziert, wissen Sie, dass Sie belogen werden. Wenn sie ethisch umgesetzt werden, kosten diese Systeme mehr. Und das sollten sie auch.

Ob es um gerichtliche Entscheidungen geht (z. B. „Risk Assessment Scoring“) oder um ein Modell davon, wer für Obdachlosigkeit gefährdet ist – die Kosten von algorithmischen Systemen liegen nicht einfach in der Implementierung. Sie liegen in der Überprüfung. Es kostet Geld, sie in dem Bereich weiterzuentwickeln, für den sie gedacht waren. Es kostet Geld, ihre Nutzer zu trainieren, sodass sie die Daten verantwortungsvoll nutzen. […]

Ansonsten […] helfen die Systeme, Steuergelder von herkömmlichen Diensten abzuzweigen und, unter der Illusion, Menschen zu helfen, die Taschen gewinnorientierter Unternehmen zu füllen. […]

Was die Datenanalyse gut macht, ist Möglichkeiten für Experimente und tiefere Exploration zu eröffnen. Aber […] weil die Technologie Geld sparen soll, gibt es kein Budget dafür, diese Daten zu nutzen, um Menschen wirklich zu helfen. Stattdessen wird Technologie zur Illusion. Nicht weil die Technologie von Natur aus schlecht ist, sondern aufgrund der Art und Weise, wie sie eingesetzt und genutzt wird.»

Leon Kaiser
netzpolitik.org

Dieser Artikel steht unter einer Creative Commons (CC BY-NC-SA 4.0) Lizenz.

Mehr zum Thema...
In den USA entscheidet eine Software vielerorts darüber, ob eine Haftstrafe auf Bewährung ausgesetzt wird oder nicht.
Software entscheidet über Bewährung oder HaftAlgorithmen entscheiden über Leben. Zeit, sie zu regulieren.

07.12.2017

- Algorithmische Systeme strukturieren zunehmend diverse gesellschaftliche Bereiche und informieren oder ersetzen dabei vormals menschliche Entscheidungen.

mehr...
Trevor Paglen, Jacob Appelbaum Autonomy Cube Tor network Relay && Hotspot.
Wie Regierungen und Firmen mit unseren digitalen Doppelgängern umgehenData Doubles

14.11.2018

- Die Spuren, die wir als NutzerInnen digital-vernetzter Werkzeuge hinterlassen, haben längst einen konkreten Einfluss auf unsere Leben – bekomme ich einen Kredit oder nicht?

mehr...
Ein wesentliches, durch die algorithmischen Systeme verstärktes Element der neoliberalen Programmatik ist es, individuelles Handeln zu privilegieren und Konkurrenz als zentralen Faktor der Motivation zu betonen.
Nicht neoliberale Programmatik und algorithmische SystemeAlgorithmen, die wir brauchen

18.01.2017

- Automatisierte Entscheidungssysteme prägen unsere Leben schon heute, in Zukunft geht ohne sie gar nichts mehr.

mehr...
Big Data - das Bändigen von grossen Datenmengen soll erforscht werden

22.02.2017 - „Big Data“ ist aktuell in aller Munde. „Big Data“, die immensen Massen von digitalen Daten, machen die einen hungrig, den anderen machen sie ...

’Aus neutraler Sicht’ von Albert Jörimann - Jaron Lanier -

14.10.2014 - In der Rede von Jaron Lanier anlässlich der Entgegennahme des Friedenspreises des Deutschen Buchhandels gab es Passagen, die ich nicht richtig verstand. ...

Dossier: Facebook
Propaganda
Nachrichtendienstgesetz: Für Dich!

Aktueller Termin in Düsseldorf

HATE & SPEECH

Rassismus hat viele Gesichter. In „HATE & SPEECH“ stehen die individuellen Erfahrungswelten aller Beteiligten und eine kritische Reflexion im Vordergrund.

Samstag, 24. Oktober 2020 - 11:00

Zakk, Fichtenstraße 40, 40223 Düsseldorf

Event in Brno

Neposlušné Brno - knižní festival radikální imaginace

Samstag, 24. Oktober 2020
- 11:10 -

Káznice

Bratislavská 249/68

60200 Brno

Mehr auf UB online...

Trap
Untergrund-Blättle