Danah Boyd über algorithmische Entscheidungssysteme

Unternehmen versprechen mitunter, dass damit die Effizienz erhöht werde. In den USA werden solche und ähnliche algorithmische Entscheidungssysteme auch in anderen öffentlichen Bereichen implementiert, beispielsweise in der Erstellung von Profilen für die Polizei.

Danah boyd leitet das Forschungsinstitut Data & Society in New York und forscht für Microsoft über soziale und kulturelle Aspekte von sozialen Medien und Big Data. In einem Blog-Post zum noch nicht erschienenen Buch „Automating Inequality“ (kurz: AI) von Virginia Eubanks schreibt sie über die Kosten von algorithmischen Entscheidungssystemen im öffentlichen Bereich:

«Wenn Sie jemals hören, dass die Implementierung von algorithmischen Entscheidungsfindungsinstrumenten in soziale Dienste oder andere hochrangige Regierungsentscheidungen ihre Effizienz erhöht oder die Kosten für die Steuerzahler reduziert, wissen Sie, dass Sie belogen werden. Wenn sie ethisch umgesetzt werden, kosten diese Systeme mehr. Und das sollten sie auch.

Ob es um gerichtliche Entscheidungen geht (z. B. „Risk Assessment Scoring“) oder um ein Modell davon, wer für Obdachlosigkeit gefährdet ist – die Kosten von algorithmischen Systemen liegen nicht einfach in der Implementierung. Sie liegen in der Überprüfung. Es kostet Geld, sie in dem Bereich weiterzuentwickeln, für den sie gedacht waren. Es kostet Geld, ihre Nutzer zu trainieren, sodass sie die Daten verantwortungsvoll nutzen. […]

Ansonsten […] helfen die Systeme, Steuergelder von herkömmlichen Diensten abzuzweigen und, unter der Illusion, Menschen zu helfen, die Taschen gewinnorientierter Unternehmen zu füllen. […]

Was die Datenanalyse gut macht, ist Möglichkeiten für Experimente und tiefere Exploration zu eröffnen. Aber […] weil die Technologie Geld sparen soll, gibt es kein Budget dafür, diese Daten zu nutzen, um Menschen wirklich zu helfen. Stattdessen wird Technologie zur Illusion. Nicht weil die Technologie von Natur aus schlecht ist, sondern aufgrund der Art und Weise, wie sie eingesetzt und genutzt wird.»

Danah Boyd über algorithmische Entscheidungssysteme | Untergrund-Blättle

Danah Boyd über algorithmische Entscheidungssysteme „Wenn sie ethisch umgesetzt werden, kosten sie mehr“