Die Armut ist zurück. Weltweit. In den USA herrscht Hungersnot. Mehr als 50 Millionen Amerikaner haben nicht genug zu essen. Auch in der Schweiz sitzen in den Klassen mehr arme Kinder als noch im letzten Schuljahr, wie Caritas berichtet. Das Corona-Jahr treibe erstmals seit 1998 wieder mehr Menschen in extreme Armut, so die Vereinten Nationen. Anders als damals werden ärmere Menschen aber zunehmend von Maschinen betreut – sei es in Indien, den USA oder Europa.
Das könnte vor allem auch ihre Aufstiegschancen nachhaltig mindern. Wenn Algorithmen das Sozialwesen übernehmen, halten sie die Menschen im Armenhaus gefangen. Das erhärten aufwendige internationale Recherchen des britischen «Guardians» und aktuell des amerikanischen Technologie-Magazins «Wired». Sie decken aktuell zahlreiche Fälle auf und zeigen, wie Armut automatisiert wird, wie verletzliche Menschen in Nummern verwandelt und Sozialarbeiter durch Maschinen ersetzt werden.
Chancen sind nicht einprogrammiert
Es zeigt sich, dass arme Menschen gleich in zwei digitalen Systemen gefangen sind. Zum einen im digitalen Punktesystem für ihre Kreditwürdigkeit. Längst bekannt im Finanzwesen, aber auch zunehmend genutzt von Technologiefirmen. Nie war es einfacher, Daten zu sammeln. Der finanzielle Fussabdruck ist gigantisch geworden. Private Inkasso- und Finanzdatenfirmen zapfen öffentliche Register, soziale Medien, Surf-Verhalten, App-Nutzung an, werten eine riesige Datenspur aus und kategorisieren die Konsumentinnen und Konsumenten. Und wehe der, die einmal abgestempelt ist. Arbeitgeber, Vermieterinnen rufen diese Daten gerne ab. Dann wird es ein Leben lang schwierig, überhaupt noch an Wohnraum, Jobs oder Kredit zu kommen. Ungerechte maschinenbasierte Entscheidungssysteme haben ihr Urteil über den armen Menschen gefällt. Chancen auf ein besseres Leben oder Investitionen in eine bessere Zukunft sind da nicht einprogrammiert.
Zum anderen sind arme Menschen im digitalen Kontrollsystem der Sozial- und Arbeitsämter gefangen. Die Digitalisierung der Wohlfahrt kann die Ärmsten noch stärker benachteiligen als bisher. Moderner, sparsamer und effizienter: Sozial- und Arbeitsämter sind permanent unter Druck. Immer öfter setzen Regierungen deshalb auf Software. In Österreich sorgte ein umstrittenes Programm, das die Arbeitsmarktfähigkeit der Menschen beurteilte, bereits für Schlagzeilen.
Automatisierung der Armut
Beide digitalen Systeme führen dazu, dass arme Menschen in ihrem Elend gefangen sind, ausweglos aussortiert und codiert. Die Algorithmen im Sozialwesen sehen arme Menschen als Risiken. Sie orientieren sich viel zu wenig an ihren Potenzialen und Chancen.
Vor der Digitalisierung der Armut hat die Uno bereits letztes Jahr gewarnt. Der alarmierende Bericht untersuchte digitale Technologien in den Sozialsystemen. Die Menschenrechtsorganisation kritisiert darin Software-Anbieter und Staaten scharf. Statt neue digitale Tools zu entwickeln, welche die Fürsorge und Chancengleichheit für Arme und Zurückgelassene verbessern, würden vor allem Programme lanciert, welche Schwächere überwachen, kategorisieren, gängeln und bestrafen.
Die amerikanische Politikwissenschaftlerin Virginia Eubanks hat früh schon auf das Problem der neuen digitalen Armenhäuser hingewiesen und in ihrem Buch «Ungleichheit automatisieren» Mechanismen entlarvt. Auch der prominente Historiker Yuval Harari hat diese Entwicklung vorweggenommen: «Big-Data-Algorithmen könnten die ungleichsten Gesellschaften schaffen, die es je gegeben hat.»
Algorithmen sind also nicht nur Systembewahrer, sie machen Systeme zurzeit noch ungerechter. Sie fussen auf vergangenen Daten. Sie trainieren mit vergangenen Daten. Und sie sind auch nur so fair und ethisch wie ihre Programmierer.
Digitale Ethik ist deshalb wichtiger denn je. Zurzeit gibt es in der Schweiz nur vereinzelte Initiativen. Die Schweiz will beispielsweise mit der Swiss Digital Initiative international mehr Gewicht auf die Menschenrechte und -würde im digitalen Raum lenken. Die Anlagestiftung Ethos will Firmen auf einen Kodex digitaler Verantwortung verpflichten. Aber es bräuchte vor allem auch Software, welche die Chancen ärmerer Menschen vergrössern. Beispielsweise bessere Durchmischungen in Schulen, mit Kindern aus allen sozialen Schichten und wo nicht arme und reiche Kinder getrennt unterrichtet werden, was heute in bestimmten Quartieren schon passiert. Immerhin testet man solche Projekte bereits in der Schweiz. Digitale Ethik-Expertinnen fordern aber viel mehr. Beispielsweise ein Ethik-Label für Algorithmen. #aufbruch