Künstliche Intelligenz, Bias und Versicherungen – Eine technische und rechtliche Analyse

Abstract

ZusammenfassungKünstliche Intelligenz (KI) kann in der datengetriebenen Versicherungswirtschaft erhebliche Effizienzgewinne mit sich bringen. Das gilt auch für den Einsatz von KI im Verhältnis zu potenziellen Kunden, Versicherungsnehmern und Begünstigten von Versicherungsleistungen. KI trägt jedoch das Risiko eines Bias, eines systematischen Prognosefehlers, und damit der Diskriminierung, in sich. Dieser interdisziplinäre Beitrag untersucht aus Sicht der Informatik die Gefahr eines Bias und ihre Ursachen. Darauf aufbauend wird aus juristischer Sicht erörtert, inwieweit bei Bias die Diskriminierungsverbote eingreifen und welche Rechtsfolgen sie haben. Eine anschließende Analyse der technischen Vermeidbarkeit von Bias führt zu der juristischen Frage, wie das Versicherungsaufsichtsrecht sicherstellt, dass Bias soweit wie möglich verhindert wird. Abschließend wird die Bedeutung des EU-Entwurfs einer KI-Verordnung für die Vermeidung von Bias beleuchtet. Wie man mit der in diesem Beitrag angenommenen Unvermeidbarkeit von Bias informationstechnologisch und versicherungsrechtlich umzugehen hat, ist eine der wichtigen, in weiterer interdisziplinärer Forschung zu klärenden Fragen.