Automating Inequality: How High-Tech Tools Profile, Police, and Punish the Poor ist ein wegweisendes Werk der Politikwissenschaftlerin und Technologin Virginia Eubanks. Das 2018 veröffentlichte Buch untersucht den zunehmenden Einsatz automatisierter Entscheidungssysteme in öffentlichen Bereichen wie Sozialhilfe, Wohnungswesen und Kinderschutz. Eubanks argumentiert, dass diese Technologien arme und marginalisierte Bevölkerungsgruppen überproportional stark treffen und bestehende Ungleichheiten eher verstärken als abbauen. Das Buch ist ein Grundlagentext im entstehenden Feld der algorithmischen Gerechtigkeit und hochrelevant für aktuelle Debatten über digitale Verwaltung, ÜberwachungÜberwachung beschreibt die systematische Sammlung, Beobachtung und Analyse von Informationen über Personen, Gruppen oder Institutionen, meist durch staatliche oder private Akteure. und kritische Kriminologie.
Merkzettel
Automating Inequality – Virginia Eubanks
Sebastiaan ter Burg from Utrecht, The Netherlands, CC BY 2.0, via Wikimedia Commons
Autorin: Virginia Eubanks
Erstveröffentlichung: 2018
Land: USA
DisziplinDisziplin bezeichnet ein System der Verhaltensregulierung durch Überwachung, Kontrolle und körperliche bzw. geistige Dressur.: Digitale Gerechtigkeit, Sozialpolitik, KriminologieKriminologie ist die interdisziplinäre Wissenschaft über Ursachen, Erscheinungsformen und gesellschaftliche Reaktionen auf normabweichendes Verhalten. Sie untersucht insbesondere Prozesse sozialer Kontrolle, rechtliche Rahmenbedingungen sowie individuelle und strukturelle Einflussfaktoren.
Schlüsselideen: datenbasierte DiskriminierungDiskriminierung beschreibt die Benachteiligung oder Herabsetzung von Personen oder Gruppen aufgrund bestimmter Merkmale wie Geschlecht, Hautfarbe, Herkunft, Religion oder sozialem Status., digitaler Wohlfahrtsstaat, algorithmische Voreingenommenheit
Grundlage für: Debatten über prädiktive Algorithmen, soziale Ungleichheit und automatisierte Überwachung
Hauptargumente
1. Digitale Armenhäuser: Eubanks entwickelt das Konzept des „digital poorhouse“, um zu beschreiben, wie neue Technologien alte Formen institutioneller Diskriminierung gegenüber Armen fortschreiben und verstärken. Durch die Automatisierung von Wohlfahrtsanträgen, Wohnungsvergabe und Risikobewertungen im Kinderschutz wird ArmutArmut beschreibt den Mangel an materiellen, sozialen und kulturellen Ressourcen, die notwendig sind, um am gesellschaftlichen Leben teilzuhaben. zunehmend als Datenproblem behandelt – nicht als soziale Frage.
2. Fallstudien struktureller Gewalt: Das Buch analysiert drei Fallstudien: den gescheiterten Versuch in Indiana, Wohlfahrtsanträge zu automatisieren; das prädiktive Risikomodell in Los Angeles zur Kinderschutzbewertung; sowie das System in Allegheny County zur automatisierten Kinderschutzüberwachung. Alle drei zeigen, wie fehleranfällig, intransparent und diskriminierend solche Systeme sein können.
3. Algorithmische Voreingenommenheit und soziale Sortierung: Eubanks kritisiert die Annahme, dass technische Systeme neutral seien. Sie argumentiert, dass sie historische Ungleichheiten kodieren, Machtverhältnisse widerspiegeln und diskriminierende Wirkungen entfalten – besonders gegenüber Armen, Frauen und People of Color.
4. Techno-Solutionismus und politische Verantwortung: Das Buch kritisiert die Vorstellung, soziale Probleme ließen sich technisch lösen. Solche Systeme entziehen sich oft demokratischer Kontrolle, verschleiern politische Verantwortung und schaffen neue Formen bürokratischer Gewalt.
Techno-Solutionismus vs. Algorithmische Gerechtigkeit
Eubanks stellt der techno-utopischen Vision der großen Tech-Konzerne eine kritische Perspektive entgegen: Der Glaube, dass Maschinen menschliche Fehler übertreffen und soziale Gerechtigkeit automatisieren können, sei naiv und gefährlich.
Die Versprechen des Techno-Solutionismus:
- Effizienz: Algorithmen sollen schneller und genauer arbeiten.
- Neutralität: Maschinen gelten als frei von Vorurteilen.
- Kosteneffizienz: Automatisierung soll Verwaltungskosten senken.
- Skalierbarkeit: Systeme sollen auf große Bevölkerungen anwendbar sein.
Eubanks’ Gegenposition:
- Automatisierte Systeme reproduzieren Ungleichheit, anstatt sie zu beheben.
- Sie verstecken Diskriminierung hinter dem Anschein von Objektivität.
- Sie entrechten Betroffene, die keine Möglichkeit mehr haben, gegen Fehlentscheidungen vorzugehen.
- Technologie wird so zum Instrument politischer Kontrolle statt sozialer Hilfe.
Tech-Unternehmen und die Automatisierung öffentlicher Dienste
Amazon Web Services (AWS): Cloud-Dienste für Sozialverwaltungen.
Microsoft: Software für Fallmanagement und Leistungsbewilligung.
Google / Sidewalk Labs: „Smart City“-Infrastruktur mit algorithmischer Steuerung.
Palantir: Vorhersagemodelle für Kinderschutz und Sozialbetrug.
IBM: Tools für prädiktive PolizeiDie Polizei ist eine staatliche Institution zur Gefahrenabwehr, Aufrechterhaltung der öffentlichen Ordnung und Verfolgung von Straftaten. und Sozialleistungsprüfung.
Northpointe (Equivant): COMPAS-Risiko-Algorithmen.
Thomson Reuters / LexisNexis: Identitätsprüfung und Sozialbetrugsanalysen.
Oracle: Systeme für Medicaid und Kindergeld.
SAS Institute: Datenanalyse bei Sozialleistungsfehlern.
OpenAI: Erste Tests von KI-Assistenten im Sozialbereich.
Zwei Zukunftsvisionen
Während Tech-Konzerne auf Effizienz und Automatisierung setzen, fordert Eubanks eine gerechte, menschenzentrierte Sozialpolitik. Ihr Plädoyer: Technologie darf nicht als Ersatz für politische Verantwortung dienen wie der nachstehende Vergleich zwischen Silicon Valleys technischer Lösungsorientierung und einem „techno-realism“ zeigt.
| Silicon Valley (Techno-Solutionismus) | Virginia Eubanks (Techno-Realismus) | |
|---|---|---|
| Problemverständnis | Soziale Probleme sind primär technischer Natur und können durch datenbasierte Systeme gelöst werden. | Soziale Probleme sind politischer und struktureller Natur und erfordern gesellschaftliche und demokratische Lösungen. |
| Technologische Neutralität | Daten und KI erzeugen neutrale, rationale Ergebnisse frei von menschlichem Vorurteil. | Datensysteme kodieren und reproduzieren historische Ungleichheiten und soziale Vorurteile. |
| Zielsetzung | Effizienz und Skalierbarkeit sind die wichtigsten Ziele bei der Gestaltung öffentlicher Dienste. | Gerechtigkeit, Rechenschaftspflicht und Menschenwürde sollten die zentralen WerteGrundlegende Vorstellungen darüber, was in einer Gesellschaft wünschenswert, gut oder erstrebenswert ist. digitaler Systeme sein. |
| Technologische Wirkung | Technologie stärkt Bürger:innen durch verbesserte Dienstleistungen und besseren Zugang. | Technologie diszipliniert und bestraft oft die Armen und Marginalisierten unter dem Vorwand der Verbesserung. |
Theoretische Einordnung
Überwachungsstudien: Eubanks knüpft an Oscar Gandy an, dessen Konzept des „Panoptic Sort“ auf algorithmische Kategorisierung und Ausgrenzung verweist.
Oscar Gandy – The Panoptic Sort (1993)
In seinem Werk beschreibt Gandy, wie persönliche Daten systematisch gesammelt und genutzt werden, um Menschen algorithmisch einzuordnen und zu kontrollieren. Diese „informatorische Diskriminierung“ schaffe neue Formen sozialer ExklusionDer Ausschluss von Individuen oder Gruppen aus zentralen gesellschaftlichen Bereichen. – ein zentraler Bezugspunkt für Eubanks’ Kritik.
Kritische KriminologieTheoretischer Ansatz der Kriminologie, der Kriminalität als Ausdruck sozialer Ungleichheit und Machtverhältnisse interpretiert.: Das Buch zeigt, wie digitale Systeme Sozialhilfe in ein Kontroll- und Risikomanagementsystem verwandeln – ganz im Sinne kritischer Gesellschaftsanalyse.
Soziale UngleichheitSoziale Ungleichheit bezeichnet systematische Unterschiede in den Lebensbedingungen, Chancen und Ressourcen von Individuen oder sozialen Gruppen, die zu ungleichen Möglichkeiten der gesellschaftlichen Teilhabe und der Verwirklichung individueller Lebensentwürfe führen. und Technokratie: Eubanks verbindet digitale Automatisierung mit neoliberalen Machtverschiebungen: Verantwortung wird individualisiert, soziale Probleme werden technisiert.
Rezeption und Wirkung
Das Buch wurde für seine empirische Tiefe und moralische Klarheit gelobt. Es beeinflusst Debatten in Sozialarbeit, Verwaltung, Datenethik und Kriminologie. Kritiker bemängeln eine US-Zentrierung – doch die aufgezeigten Probleme betreffen zunehmend auch europäische Sozialstaaten.
Verbindungen zu anderen Theorien
- Oscar Gandy – The Panoptic Sort: Frühwerk über algorithmische Diskriminierung.
- Ruha Benjamin – Race After Technology: Verknüpft technologische Vorurteile mit RassismusRassismus bezeichnet die Diskriminierung, Abwertung oder Benachteiligung von Menschen aufgrund zugeschriebener „rassischer“ oder ethnischer Merkmale. und Ungleichheit.
- Jonathan Simon – Governing Through Crime: Eubanks zeigt, wie Kontrolllogiken auch im Sozialstaat greifen.
Literatur
- Eubanks, V. (2018). Automating Inequality: How High-Tech Tools Profile, Police, and Punish the Poor. New York: St. Martin’s Press.
- Gandy, O. H. (1993). The Panoptic Sort: A Political Economy of Personal Information. Boulder: Westview Press.
- Benjamin, R. (2019). Race After Technology: Abolitionist Tools for the New Jim Code. Cambridge: Polity Press.
- Simon, J. (2007). Governing Through Crime. Oxford: Oxford University Press.
.jpg){kind=link}