Was bedeuten automatisierte Entscheidungssysteme (automated decision making – ADM) in der (Sozial)Politik für den Sozialstaat, unser Zusammenleben, unsere Gesellschaft? Welche Chancen und Risiken bergen diese Systeme, und wie gehen wir als Zivilgesellschaft mit ihnen um? Zu diesen Fragen hielt Kristina Penner, Referentin der Geschäftsführung bei AlgorithmWatch, beim arbeit plus Innovation Lab am 18.12.2019 einen spannenden Input.
Im Zentrum standen ADM als soziotechnische Systeme, also technische Systeme, die Einfluss auf die Gesellschaft als Ganzes oder bestimmte Gruppen ausüben. Daraus ergibt sich die Abgrenzung zu Künstlicher Intelligenz (KI): Nicht jede KI ist gesellschaftlich relevant, und umgekehrt basiert nicht jedes automatisierte Entscheidungssystem auf KI. Gerade in der Sozialpolitik versprechen ADM mehr Effizienz in Zeiten sinkender finanzieller Mittel und angesichts dessen, dass Systeme sozialer Sicherung zunehmend unter Druck geraten. Wesentliche Einsatzbereiche hier sind unter anderem Kinder- und Familienpolitik (bspw. die automatische Errechnung des Risikos für Vernachlässigung), predictive policing (Vorhersagen über Straffälligkeit bestimmter Personen(gruppen)) sowie Sozialleistungen und Arbeitslosigkeit. ADM haben potentiell problematische Folgen sowohl auf gesellschaftlicher als auch individueller Ebene, etwa wirtschaftliche Nachteile, das Fortschreiben von Diskriminierung oder sogar die Einschränkung bürgerlicher Freiheiten.
Um als Zivilgesellschaft handlungsfähig zu bleiben ist es notwendig, die Entwickler von ADM in die Verantwortung zu nehmen. Das gilt insbesondere, wenn der Entwickler der Staat ist und Bürger*innen sich dem ADM nicht entziehen können. Wesentlich ist dabei, dass Transparenz alleine nicht ausreicht: es braucht Aufsicht, Nachvollziehbarkeit, Erklärung und nicht zuletzt die Möglichkeit, ADM mitzugestalten.
Peter Ruhmanseder, Vorstandsmitglied von arbeit plus, nahm aus Sicht der Sozialen Unternehmen – insbesondere in Hinblick auf das Arbeitsmarkt-Chancen-Modell des AMS, einem ADM in der österreichischen Sozialpolitik – Stellung zum Thema und schlug dabei einen weiteren Bogen. Die Effizienzversprechen von ADM in der Sozialpolitik werfen auch die Frage auf, warum Menschen als weniger glaubwürdig erscheinen als diese Systeme. Wünschenswert wäre es, nicht-technische Lösungen wieder denkbar zu machen und Menschen und deren Empathiefähigkeit wieder ins Zentrum zu stellen.
Die anschließende Diskussion spiegelte das rege Interesse und die vielen Perspektiven auf das Thema wider. Wir bedanken uns daher bei den Vortragenden und allen Teilnehmer*innen für die spannenden Gespräche!
