UB-Logo Online MagazinUntergrund-Blättle

Danah Boyd über algorithmische Entscheidungssysteme | Untergrund-Blättle

4532

Digital

Danah Boyd über algorithmische Entscheidungssysteme „Wenn sie ethisch umgesetzt werden, kosten sie mehr“

Digital

Software, die registriert, auf welche weiterführende Schule jemand am Liebsten gehen würde und mithilfe eines Algorithmus darüber entscheidet, wer schliesslich welchen Schulplatz bekommt, kann für klamme Städte und Regierungen verlockend klingen.

Danah Boyd an der «Writers on Writing about Technology» Konferenz, Yale University.
Mehr Artikel
Mehr Artikel
Bild ansehen

Bild: Danah Boyd an der «Writers on Writing about Technology» Konferenz, Yale University. / Sage Ross (CC BY-SA 2.0 cropped)

18. Januar 2018
0
0
2 min.
Korrektur
Drucken
Unternehmen versprechen mitunter, dass damit die Effizienz erhöht werde. In den USA werden solche und ähnliche algorithmische Entscheidungssysteme auch in anderen öffentlichen Bereichen implementiert, beispielsweise in der Erstellung von Profilen für die Polizei.

Danah boyd leitet das Forschungsinstitut Data & Society in New York und forscht für Microsoft über soziale und kulturelle Aspekte von sozialen Medien und Big Data. In einem Blog-Post zum noch nicht erschienenen Buch „Automating Inequality“ (kurz: AI) von Virginia Eubanks schreibt sie über die Kosten von algorithmischen Entscheidungssystemen im öffentlichen Bereich:

«Wenn Sie jemals hören, dass die Implementierung von algorithmischen Entscheidungsfindungsinstrumenten in soziale Dienste oder andere hochrangige Regierungsentscheidungen ihre Effizienz erhöht oder die Kosten für die Steuerzahler reduziert, wissen Sie, dass Sie belogen werden. Wenn sie ethisch umgesetzt werden, kosten diese Systeme mehr. Und das sollten sie auch.

Ob es um gerichtliche Entscheidungen geht (z. B. „Risk Assessment Scoring“) oder um ein Modell davon, wer für Obdachlosigkeit gefährdet ist – die Kosten von algorithmischen Systemen liegen nicht einfach in der Implementierung. Sie liegen in der Überprüfung. Es kostet Geld, sie in dem Bereich weiterzuentwickeln, für den sie gedacht waren. Es kostet Geld, ihre Nutzer zu trainieren, sodass sie die Daten verantwortungsvoll nutzen. […]

Ansonsten […] helfen die Systeme, Steuergelder von herkömmlichen Diensten abzuzweigen und, unter der Illusion, Menschen zu helfen, die Taschen gewinnorientierter Unternehmen zu füllen. […]

Was die Datenanalyse gut macht, ist Möglichkeiten für Experimente und tiefere Exploration zu eröffnen. Aber […] weil die Technologie Geld sparen soll, gibt es kein Budget dafür, diese Daten zu nutzen, um Menschen wirklich zu helfen. Stattdessen wird Technologie zur Illusion. Nicht weil die Technologie von Natur aus schlecht ist, sondern aufgrund der Art und Weise, wie sie eingesetzt und genutzt wird.»

Leon Kaiser
netzpolitik.org

Dieser Artikel steht unter einer Creative Commons (CC BY-NC-SA 4.0) Lizenz.

Mehr zum Thema...
Marc Dalmulder
Wie lässt sich ästhetischer Widerstand aus Big Data formen?Paradoxien der „Freiheit 2.0“

02.03.2018

- Wie können Vorgänge wie das Sammeln, Speichern und Vernetzen von Daten, die sich unserer sinnlichen Erfahrung entziehen, künstlerisch aufbereitet werden?

mehr...
Big Bang Data exhibit at CCCB.
Was wir tun müssten, damit Daten wirklich offen werdenOpen-Data-Debatte revisited

20.06.2017

- Schon oft wurden die Vorzüge von Open Data (offenen Daten) besungen.

mehr...
Trevor Paglen, Jacob Appelbaum Autonomy Cube Tor network Relay && Hotspot.
Wie Regierungen und Firmen mit unseren digitalen Doppelgängern umgehenData Doubles

14.11.2018

- Die Spuren, die wir als NutzerInnen digital-vernetzter Werkzeuge hinterlassen, haben längst einen konkreten Einfluss auf unsere Leben – bekomme ich einen Kredit oder nicht?

mehr...

-

-

Dossier: Klimawandel
Klimawandel
Propaganda
Helene Fischer: Von Kinderhand für mich gemacht

Aktueller Termin in Berlin

STÖRUNG - Theaterperformance von BÄM Kollektiv

Das queer-feministische Kollektiv BÄM! [Bringt Ärger Mit]lädt ein zuSTÖRUNG.Unaufhaltsam rattert eine Maschine, die sich auf die Suche nach der Hysterie begibt. Gemixt werden Cheerleading-madness mit wild ge:machten Tieren, ...

Freitag, 3. Dezember 2021 - 20:00

Katapult Berlin, Wilhelminenhofstraße 91,Berlin., 12459 Berlin

Event in Berlin

EGONX

Freitag, 3. Dezember 2021
- 19:00 -

Schokoladen

Ackerstraße 169

10115 Berlin

Mehr auf UB online...

Untergrund-Blättle