UB-Logo Online Magazin
Untergrund-Blättle

Danah Boyd über algorithmische Entscheidungssysteme | Untergrund-Blättle

4532

ub_article

Digital

Danah Boyd über algorithmische Entscheidungssysteme „Wenn sie ethisch umgesetzt werden, kosten sie mehr“

Digital

Software, die registriert, auf welche weiterführende Schule jemand am Liebsten gehen würde und mithilfe eines Algorithmus darüber entscheidet, wer schliesslich welchen Schulplatz bekommt, kann für klamme Städte und Regierungen verlockend klingen.

Danah Boyd an der «Writers on Writing about Technology» Konferenz, Yale University.
Mehr Artikel
Mehr Artikel

Bild: Danah Boyd an der «Writers on Writing about Technology» Konferenz, Yale University. / Sage Ross (CC BY-SA 2.0 cropped)

18. Januar 2018

18. Jan. 2018

0
0

2 min.

Korrektur
Drucken
Unternehmen versprechen mitunter, dass damit die Effizienz erhöht werde. In den USA werden solche und ähnliche algorithmische Entscheidungssysteme auch in anderen öffentlichen Bereichen implementiert, beispielsweise in der Erstellung von Profilen für die Polizei.

Danah boyd leitet das Forschungsinstitut Data & Society in New York und forscht für Microsoft über soziale und kulturelle Aspekte von sozialen Medien und Big Data. In einem Blog-Post zum noch nicht erschienenen Buch „Automating Inequality“ (kurz: AI) von Virginia Eubanks schreibt sie über die Kosten von algorithmischen Entscheidungssystemen im öffentlichen Bereich:

«Wenn Sie jemals hören, dass die Implementierung von algorithmischen Entscheidungsfindungsinstrumenten in soziale Dienste oder andere hochrangige Regierungsentscheidungen ihre Effizienz erhöht oder die Kosten für die Steuerzahler reduziert, wissen Sie, dass Sie belogen werden. Wenn sie ethisch umgesetzt werden, kosten diese Systeme mehr. Und das sollten sie auch.

Ob es um gerichtliche Entscheidungen geht (z. B. „Risk Assessment Scoring“) oder um ein Modell davon, wer für Obdachlosigkeit gefährdet ist – die Kosten von algorithmischen Systemen liegen nicht einfach in der Implementierung. Sie liegen in der Überprüfung. Es kostet Geld, sie in dem Bereich weiterzuentwickeln, für den sie gedacht waren. Es kostet Geld, ihre Nutzer zu trainieren, sodass sie die Daten verantwortungsvoll nutzen. […]

Ansonsten […] helfen die Systeme, Steuergelder von herkömmlichen Diensten abzuzweigen und, unter der Illusion, Menschen zu helfen, die Taschen gewinnorientierter Unternehmen zu füllen. […]

Was die Datenanalyse gut macht, ist Möglichkeiten für Experimente und tiefere Exploration zu eröffnen. Aber […] weil die Technologie Geld sparen soll, gibt es kein Budget dafür, diese Daten zu nutzen, um Menschen wirklich zu helfen. Stattdessen wird Technologie zur Illusion. Nicht weil die Technologie von Natur aus schlecht ist, sondern aufgrund der Art und Weise, wie sie eingesetzt und genutzt wird.»

Leon Kaiser
netzpolitik.org

Dieser Artikel steht unter einer Creative Commons (CC BY-NC-SA 4.0) Lizenz.

Mehr zum Thema...

Ein wesentliches, durch die algorithmischen Systeme verstärktes Element der neoliberalen Programmatik ist es, individuelles Handeln zu privilegieren und Konkurrenz als zentralen Faktor der Motivation zu betonen.
Nicht neoliberale Programmatik und algorithmische SystemeAlgorithmen, die wir brauchen

18.01.2017

- Automatisierte Entscheidungssysteme prägen unsere Leben schon heute, in Zukunft geht ohne sie gar nichts mehr. Wie aber müssten sie beschaffen und eingebettet sein, damit sie zu einem guten Leben für alle beitragen?

mehr...
Mario Sixtus
Die Kontrolle über die DatenUser Data Manifesto 2.0

31.08.2015

- Heute wurde auf der ownCloud Konferenz in Berlin das User Data Manifesto 2.0 veröffentlicht. Neben den Autoren Frank Karlitschek, Jan-Christoph Borchardt und Hugo Roy wird das Manifest von der Free Software Foundation Europe, GNOME, KDE, Netzpolitik.org, ownCloud, Spreed, „Terms of Service – Didn’t Read“ und X-Lab unterstützt.

mehr...
In den USA entscheidet eine Software vielerorts darüber, ob eine Haftstrafe auf Bewährung ausgesetzt wird oder nicht.
Software entscheidet über Bewährung oder HaftAlgorithmen entscheiden über Leben. Zeit, sie zu regulieren.

07.12.2017

- Algorithmische Systeme strukturieren zunehmend diverse gesellschaftliche Bereiche und informieren oder ersetzen dabei vormals menschliche Entscheidungen.

mehr...

Aktueller Termin in Frankfurt am Main

Klimastreikwoche: Forderungen erarbeiten

Zur Studentischen Vollversammlung am 27.11. im Rahmen der bundesweiten Klimastreikwoche von Students For Future Frankfurt veranstalten wir ein Forderungsplenum, zu dem alle Studierenden eingeladen sind zu partizipieren.

Mittwoch, 20. November 2019 - 18:00

Studierendenhaus, Mertonstraße 26, Frankfurt am Main

Event in Hamburg

Lifes

Mittwoch, 20. November 2019
- 19:30 -

Schute


Hamburg

Mehr auf UB online...

Trap
Untergrund-Blättle
Untergrund-Blättle