| KI | Automatisierte Entscheidungsfindungen haben großen Einfluss auf gesellschaftspolitische Themen

Automatisierte Entscheidungsfindungen haben großen Einfluss auf gesellschaftspolitische Themen

Der „Atlas der Automatisierung“ untersucht die Automatisierung von Entscheidungen durch Algorithmen, die besonders gefährdeten Menschen in Deutschland schaden, aber auch helfen.

Die gemeinnützige Forschungsorganisation AlgorithmWatch schafft mit ihrem „Atlas der Automatisierung“ einen Überblick über alle in Deutschland eingesetzten Systeme automatisierter Entscheidungsfindung (ADM), die die gesellschaftliche Teilhabe betreffen. ADM-Systeme sind Algorithmen, die eingesetzt werden, um automatisierte Entscheidungen zu treffen. Zusätzlich zur Datenbank des Atlasses wurde ein Report zum Stand von ADM-Systemen im öffentlichen Raum in Deutschland verfasst.

Die drei wichtigsten Hauptkapitel des Reports umfassen die Kategorien Arbeitswelt, Gesundheit und Medizin sowie Sicherung und Überwachung. In der Arbeitswelt werden automatisierte Bewerbungsverfahren, Personalmanagement und die algorithmische Verwaltung von Arbeitslosigkeit untersucht. In der Medizin sind unter anderem automatisierte Diagnosesysteme Thema. Zum Kapitel Sicherheit und Überwachung gehören Gesichtserkennung und Spracherkennung bei Asylsuchenden wie auch vorhersagende Polizeiarbeit.

Im Atlas der Automatisierung selbst sind Behörden, Forschungseinrichtungen, Interessenverbände und Nichtregierungsorganisationen verzeichnet, die sich mit ADM-Systemen beschäftigen. Diese werden zusammen mit Regulierungen, Softwaresystemen, Technologien und Produkten in einer Datenbank gesammelt. Zusätzlich werden sie anhand ihres Potenzials zur Diskriminierung und zur Verbesserung des Lebens besonders gefährdeter Personengruppen bewertet.