Künstliche Intelligenz und Ethik im Gesundheitswesen – Spagat oder Symbiose?

Abstract

ZusammenfassungKünstliche Intelligenz (KI) gewinnt auch im Gesundheitswesen immer mehr an Bedeutung. Diese Entwicklung löst ernst zu nehmende Sorgen aus, die sich anhand von sechs großen „Worst-Case-Szenarien“ zusammenfassen lassen. Von einer KI-basierten Verbreitung von Desinformationen und Propaganda über einen möglichen militärischen Wettlauf zwischen den Großmächten bis hin zu einer möglichen Herrschaft der Algorithmen („Algokratie“) auf Basis einer voreingenommenen Torwächterintelligenz: Die realen Gefahren einer unkontrollierten weiteren Entwicklung von KI sind insbesondere im Gesundheitsbereich keinesfalls zu unterschätzen. Allerdings könnte der Menschheit aus Angst vor KI jedoch die Möglichkeit entgehen, die Entwicklung unserer Gesellschaft gemeinsam mit uns freundlich gesinnter KI positiv zu gestalten.Anwendungsfälle im Gesundheitswesen spielen in diesem Diskussionsbeitrag eine vorrangige Rolle, da hier sowohl die Risiken als auch die Chancen neuer KI-basierter Systeme besonders deutlich werden. Dürfen z. B. ältere Menschen mit Demenz (MmD) Teile ihrer Autonomie KI-basierten Assistenzsystemen anvertrauen, damit sie andere Aspekte ihres Alltagslebens weiterhin selbstständig meistern können? In diesem Beitrag argumentieren wir, dass sich der Spagat zwischen Ethik und KI sowie den Gefahren und Chancen von KI im Gesundheitswesen zumindest teilweise durch einen langfristig angelegten ethischen Ansatz in Richtung einer Symbiose zwischen Mensch und KI überwinden lässt. Wir illustrieren diesen Ansatz beispielhaft anhand unseres „I-CARE“-Systems, eines KI-basierten Empfehlungssystems zur tertiären Prävention von Demenz. Dieses System wurde seit 2015 im gleichnamigen Projekt „I-CARE“ an der Universität Bremen entwickelt und wird dort bis heute erforscht..