Affiliation:
1. Fachbereich Psychologie, Arbeitseinheit Digitalisierung in psychologischen Handlungsfeldern, Philipps-Universität Marburg, Deutschland
Abstract
Zusammenfassung: Algorithmusbasierte Systeme unterstützen zunehmend Entscheidungen mit zukunftsentscheidenden Konsequenzen. Um positive Aspekte algorithmusbasierter Systeme nutzbar zu machen und gleichzeitig Risiken im Einsatz zu minimieren, wird von verschiedenen Interessensgruppen die Rolle menschlicher Aufsicht betont. Ziel dieses Positionspapiers ist es, anhand des Beispiels algorithmusbasierter Personalauswahl und mit dem Fokus auf Fairness und Diskriminierung zu betonen, dass Hoffnungen, die auf menschlicher Aufsicht ruhen, womöglich fehlgeleitet sind und menschliche Aufsicht beim Einsatz von Systemen nur ein Puzzleteil für deren effektiven und sicheren Einsatz ist. Darüber hinaus müssen die Bedingungen effektiver menschlicher Aufsicht beim Einsatz algorithmusbasierter Systeme besser verstanden werden, wofür die Psychologie eine tragende Rolle spielen kann.
Reference48 articles.
1. Albright,
A. (2019). If you give a judge a risk score: Evidence from Kentucky bail decisions. Harvard John M. Olin Fellow’s Discussion Paper. Verfügbar unter: www.law.harvard.edu/programs/olin_center/Prizes/2019-1.pdf
2. Misuse of Diagnostic Aids in Process Control: The Effects of Automation Misses on Complacency and Automation Bias
3. Can algorithms legitimize discrimination?