In den öffentlichen Verwaltungen vieler Länder wird mittlerweile vermehrt Künstliche Intelligenz (KI) eingesetzt, um über die Verteilung von staatlichen Sozialdienstleistungen zu entscheiden.
Diese Entscheidungen zur Verteilung knapper öffentlicher Güter basieren auf der Evaluation und Bewertung von Bürgerprofilen entlang von Kriterien zur Empfangsberechtigung wie legal/betrügerisch, bedürftig/nicht-bedürftig oder verdient/nicht-verdient. Obgleich die Art und das Ausmaß von KI-Implementierungen im Bereich sozialer Bewertung von Menschen für Zwecke staatlicher Ressourcenentscheidungen zwischen Ländern stark variiert,  führt die Delegation der diesbezüglich notwendigen Werteentscheidungen an Maschinen überall zu wichtigen Fragen nach Ethik, Gerechtigkeit, Qualität, Verantwortung, Zurechenbarkeit und Transparenz der Entscheidungsgrundlagen. Wahrnehmungen, Einstellungen und Akzeptanz bezüglich des Einsatzes von KI unterscheiden sich nun zwischen Ländern ganz erheblich, was unter anderem auf kontextspezifische Normen und Werte, Technologiestände, Wirtschaftsformen, zivilgesellschaftliche Haltungen, legislative, exekutive und judikative Charakteristika zurückzuführen ist. Das Ziel des inter- und transdisziplinären Forschungsprojekts AI FORA ist es, den gegenwärtigen Status Quo und die zukünftigen Optionen für KI-basierte soziale Bewertung im Bereich der Verteilung öffentlicher Dienstleistungen zu verstehen, um bessere KI-Technologie für soziale Wohlfahrtsysteme zu gestalten. Basierend auf Daten aus sechs empirischen Länderfallstudien zu Deutschland, Estland, Spanien, Indien, China und den USA werden experimentelle Szenariosimulationen entwickelt, die das partizipatorische Co-Design unter Beteiligung gesellschaftlicher Stakeholder in einem Better-AI Lab anleiten.

• Weitz, K., Schlagowski, R., André E. (2021) Demystifying Artificial Intelligence for End-Users: Findings from a Participatory Machine Learning Show . In: Proceedings of the 44th German Conference on Artificial Intelligence. (Accepted Version)