UB-Logo Online MagazinUntergrund-Blättle

Danah Boyd über algorithmische Entscheidungssysteme | Untergrund-Blättle

4532

Danah Boyd über algorithmische Entscheidungssysteme „Wenn sie ethisch umgesetzt werden, kosten sie mehr“

Digital

Software, die registriert, auf welche weiterführende Schule jemand am Liebsten gehen würde und mithilfe eines Algorithmus darüber entscheidet, wer schliesslich welchen Schulplatz bekommt, kann für klamme Städte und Regierungen verlockend klingen.

Danah Boyd an der «Writers on Writing about Technology» Konferenz, Yale University.
Mehr Artikel
Mehr Artikel

Danah Boyd an der «Writers on Writing about Technology» Konferenz, Yale University. Foto: Sage Ross (CC BY-SA 2.0 cropped)

18. Januar 2018
0
0
2 min.
Drucken
Korrektur
Unternehmen versprechen mitunter, dass damit die Effizienz erhöht werde. In den USA werden solche und ähnliche algorithmische Entscheidungssysteme auch in anderen öffentlichen Bereichen implementiert, beispielsweise in der Erstellung von Profilen für die Polizei.

Danah boyd leitet das Forschungsinstitut Data & Society in New York und forscht für Microsoft über soziale und kulturelle Aspekte von sozialen Medien und Big Data. In einem Blog-Post zum noch nicht erschienenen Buch „Automating Inequality“ (kurz: AI) von Virginia Eubanks schreibt sie über die Kosten von algorithmischen Entscheidungssystemen im öffentlichen Bereich:

«Wenn Sie jemals hören, dass die Implementierung von algorithmischen Entscheidungsfindungsinstrumenten in soziale Dienste oder andere hochrangige Regierungsentscheidungen ihre Effizienz erhöht oder die Kosten für die Steuerzahler reduziert, wissen Sie, dass Sie belogen werden. Wenn sie ethisch umgesetzt werden, kosten diese Systeme mehr. Und das sollten sie auch.

Ob es um gerichtliche Entscheidungen geht (z. B. „Risk Assessment Scoring“) oder um ein Modell davon, wer für Obdachlosigkeit gefährdet ist – die Kosten von algorithmischen Systemen liegen nicht einfach in der Implementierung. Sie liegen in der Überprüfung. Es kostet Geld, sie in dem Bereich weiterzuentwickeln, für den sie gedacht waren. Es kostet Geld, ihre Nutzer zu trainieren, sodass sie die Daten verantwortungsvoll nutzen. […]

Ansonsten […] helfen die Systeme, Steuergelder von herkömmlichen Diensten abzuzweigen und, unter der Illusion, Menschen zu helfen, die Taschen gewinnorientierter Unternehmen zu füllen. […]

Was die Datenanalyse gut macht, ist Möglichkeiten für Experimente und tiefere Exploration zu eröffnen. Aber […] weil die Technologie Geld sparen soll, gibt es kein Budget dafür, diese Daten zu nutzen, um Menschen wirklich zu helfen. Stattdessen wird Technologie zur Illusion. Nicht weil die Technologie von Natur aus schlecht ist, sondern aufgrund der Art und Weise, wie sie eingesetzt und genutzt wird.»

Leon Kaiser
netzpolitik.org

Dieser Artikel steht unter einer Creative Commons (CC BY-NC-SA 4.0) Lizenz.

Mehr zum Thema...
In den USA entscheidet eine Software vielerorts darüber, ob eine Haftstrafe auf Bewährung ausgesetzt wird oder nicht. Sie ermittelt unter anderem die Risikowahrscheinlichkeit, ob eine Person in naher Zukunft ein weiteres Verbrechen begehen wird und richtet danach ihre Entscheidung aus.
Software entscheidet über Bewährung oder HaftAlgorithmen entscheiden über Leben. Zeit, sie zu regulieren.

07.12.2017

- Algorithmische Systeme strukturieren zunehmend diverse gesellschaftliche Bereiche und informieren oder ersetzen dabei vormals menschliche Entscheidungen.

mehr...
Trevor Paglen, Jacob Appelbaum Autonomy Cube Tor network Relay && Hotspot.
Wie Regierungen und Firmen mit unseren digitalen Doppelgängern umgehenData Doubles

14.11.2018

- Die Spuren, die wir als NutzerInnen digital-vernetzter Werkzeuge hinterlassen, haben längst einen konkreten Einfluss auf unsere Leben – bekomme ich einen Kredit oder nicht?

mehr...
Ein wesentliches, durch die algorithmischen Systeme verstärktes Element der neoliberalen Programmatik ist es, individuelles Handeln zu privilegieren und Konkurrenz als zentralen Faktor der Motivation zu betonen.
Nicht neoliberale Programmatik und algorithmische SystemeAlgorithmen, die wir brauchen

18.01.2017

- Automatisierte Entscheidungssysteme prägen unsere Leben schon heute, in Zukunft geht ohne sie gar nichts mehr.

mehr...
Big Data - das Bändigen von grossen Datenmengen soll erforscht werden

22.02.2017 - „Big Data“ ist aktuell in aller Munde. „Big Data“, die immensen Massen von digitalen Daten, machen die einen hungrig, den anderen machen sie Angst. Und alle Welt stellt sich die Frage: Wie kann man die Chancen nutzen, die Big Data bietet, ohne gleichzeitig den Persönlichkeitsschutz komplett über Bord zu werfen.

"Aus neutraler Sicht" von Albert Jörimann - Jaron Lanier -

14.10.2014 - In der Rede von Jaron Lanier anlässlich der Entgegennahme des Friedenspreises des Deutschen Buchhandels gab es Passagen, die ich nicht richtig verstand. Was soll das zum Beispiel heissen: «Big Data schürt die algorithmische Konzentration von Reichtum»?

Dossier: Facebook
Mike Deerkoski
Propaganda
Nachrichtendienstgesetz: Für Dich!

Aktueller Termin in Berlin

International Whores Day Demonstation

Hussies, whores, hookers, rent boys, paramours, harlots, dominas, and pro-subs! Brothel workers, strippers, escorts and sugar babies!

Samstag, 3. Juni 2023 - 16:00 Uhr

U-Bhf. Nollendorfplatz, Bülowstraße, 10777 Berlin

Event in Berlin

FLINTA* Bar Abend @ Tristeza

Samstag, 3. Juni 2023
- 18:00 -

Tristeza

Pannierstraße 5

12047 Berlin

Mehr auf UB online...

Der US-amerikanische Drehbuchautor und Regisseur Terrence Malick am Filmset.
Vorheriger Artikel

Der schmale Grat

Kompromissloser Antikriegsfilm

Kühlraum eines Schlacht- und Fleischverarbeitungsbetriebs.
Nächster Artikel

Joseph Ponthus: Am laufenden Band

Berichte eines modernen Fabrikarbeiters

Untergrund-Blättle