Der Automating Society Report von AlgorithmWatch wird durch die Bertelsmann Stiftung gefördert und widmet sich der Frage, wie KI-basierte Systeme von privaten sowie öffentlichen Akteurinnen und Akteuren in 16 europäischen Ländern eingesetzt werden. Dazu wurden alle zur Thematik gehörenden Fälle bis Ende September 2020 gesammelt und analysiert.
Der Einsatz von ADM-Systemen, also Anwendungen zum Automatisieren von Entscheidungen, hat sich innerhalb eines Jahres stark erhöht. Dabei unterscheiden sich die Auswirkungen der ADM-Systeme von Land zu Land und je nach Anwendungsfall.
Die wenigsten der untersuchten Fallbeispiele haben jedoch einen nachweislich positiven Einfluss auf den Lebensalltag der Betroffenen. Zu den positiven Beispielen gehören Früherkennungssysteme von häuslicher Gewalt in Spanien sowie die automatisierte Prävention von Rezeptbetrug in Portugal und die Aufdeckung von Steuerhinterziehung in Slowenien.
Negativ fällt vor allem der massive Ausbau von Gesichtserkennungssoftware im öffentlichen Raum in allen europäischen Ländern auf. Diese Systeme werden häufig ohne oder gegen bestehende rechtliche Grundlagen eingesetzt.
