UB-Logo Online Magazin
Untergrund-Blättle

Danah Boyd über algorithmische Entscheidungssysteme | Untergrund-Blättle

Digital

Danah Boyd über algorithmische Entscheidungssysteme „Wenn sie ethisch umgesetzt werden, kosten sie mehr“

Digital

Software, die registriert, auf welche weiterführende Schule jemand am Liebsten gehen würde und mithilfe eines Algorithmus darüber entscheidet, wer schliesslich welchen Schulplatz bekommt, kann für klamme Städte und Regierungen verlockend klingen.

Danah Boyd an der «Writers on Writing about Technology» Konferenz, Yale University.
Mehr Artikel
Mehr Artikel
Bild ansehen

Bild: Danah Boyd an der «Writers on Writing about Technology» Konferenz, Yale University. / Sage Ross (CC BY-SA 2.0 cropped)

18. Januar 2018

18. Jan. 2018

0
0

2 min.

Korrektur
Drucken
Unternehmen versprechen mitunter, dass damit die Effizienz erhöht werde. In den USA werden solche und ähnliche algorithmische Entscheidungssysteme auch in anderen öffentlichen Bereichen implementiert, beispielsweise in der Erstellung von Profilen für die Polizei.

Danah boyd leitet das Forschungsinstitut Data & Society in New York und forscht für Microsoft über soziale und kulturelle Aspekte von sozialen Medien und Big Data. In einem Blog-Post zum noch nicht erschienenen Buch „Automating Inequality“ (kurz: AI) von Virginia Eubanks schreibt sie über die Kosten von algorithmischen Entscheidungssystemen im öffentlichen Bereich:

«Wenn Sie jemals hören, dass die Implementierung von algorithmischen Entscheidungsfindungsinstrumenten in soziale Dienste oder andere hochrangige Regierungsentscheidungen ihre Effizienz erhöht oder die Kosten für die Steuerzahler reduziert, wissen Sie, dass Sie belogen werden. Wenn sie ethisch umgesetzt werden, kosten diese Systeme mehr. Und das sollten sie auch.

Ob es um gerichtliche Entscheidungen geht (z. B. „Risk Assessment Scoring“) oder um ein Modell davon, wer für Obdachlosigkeit gefährdet ist – die Kosten von algorithmischen Systemen liegen nicht einfach in der Implementierung. Sie liegen in der Überprüfung. Es kostet Geld, sie in dem Bereich weiterzuentwickeln, für den sie gedacht waren. Es kostet Geld, ihre Nutzer zu trainieren, sodass sie die Daten verantwortungsvoll nutzen. […]

Ansonsten […] helfen die Systeme, Steuergelder von herkömmlichen Diensten abzuzweigen und, unter der Illusion, Menschen zu helfen, die Taschen gewinnorientierter Unternehmen zu füllen. […]

Was die Datenanalyse gut macht, ist Möglichkeiten für Experimente und tiefere Exploration zu eröffnen. Aber […] weil die Technologie Geld sparen soll, gibt es kein Budget dafür, diese Daten zu nutzen, um Menschen wirklich zu helfen. Stattdessen wird Technologie zur Illusion. Nicht weil die Technologie von Natur aus schlecht ist, sondern aufgrund der Art und Weise, wie sie eingesetzt und genutzt wird.»

Leon Kaiser
netzpolitik.org

Dieser Artikel steht unter einer Creative Commons (CC BY-NC-SA 4.0) Lizenz.

Mehr zum Thema...

Ein wesentliches, durch die algorithmischen Systeme verstärktes Element der neoliberalen Programmatik ist es, individuelles Handeln zu privilegieren und Konkurrenz als zentralen Faktor der Motivation zu betonen.
Nicht neoliberale Programmatik und algorithmische SystemeAlgorithmen, die wir brauchen

18.01.2017

- Automatisierte Entscheidungssysteme prägen unsere Leben schon heute, in Zukunft geht ohne sie gar nichts mehr. Wie aber müssten sie beschaffen und eingebettet sein, damit sie zu einem guten Leben für alle beitragen?

mehr...
Dario Trimarchi
Special zur digitalen SelbstverteidigungZwei Jahre Snowden-Enthüllungen

20.07.2015

- Morgen ist der 2. Jahrestag des Beginns der Snowdenenthüllungen.

mehr...
In den USA entscheidet eine Software vielerorts darüber, ob eine Haftstrafe auf Bewährung ausgesetzt wird oder nicht.
Software entscheidet über Bewährung oder HaftAlgorithmen entscheiden über Leben. Zeit, sie zu regulieren.

07.12.2017

- Algorithmische Systeme strukturieren zunehmend diverse gesellschaftliche Bereiche und informieren oder ersetzen dabei vormals menschliche Entscheidungen.

mehr...

Aktueller Termin in Frankfurt am Main

Filmpremiere: "weil wir Romnja sind?!"

Ein Film von Anita Adam, Dragiza Pasara Caldaras, Diana Alina Preda und Ursula Schmidt Pallmer.

Montag, 16. September 2019 - 18:00

Filmmuseum, Schaumainkai 41, Frankfurt am Main

Event in Wien

Vienna Improvisers Orchestra: The Living Score

Montag, 16. September 2019
- 19:00 -

Fabrik Seestadt


Wien

Mehr auf UB online...

Trap