Abstract
ZusammenfassungDie rasanten Entwicklungen im Bereich der Künstlichen Intelligenz und Robotik stellen nicht nur die Ethik, sondern auch das Recht vor neue Herausforderungen, gerade im Bereich der Medizin und Pflege. Grundsätzlich hat der Einsatz von KI dabei das Potenzial, sowohl die Heilbehandlungen als auch den adäquaten Umgang im Rahmen der Pflege zu erleichtern, wenn nicht sogar zu verbessern. Verwaltungsaufgaben, die Überwachung von Vitalfunktionen und deren Parameter sowie die Untersuchung von Gewebeproben etwa könnten autonom ablaufen. In Diagnostik und Therapie können Systeme die behandelnde Ärztin unterstützen. Intelligente Betten ermöglichen eine Frühmobilisierung der Patient:innen bei gleichzeitig geringerem Personalaufwand. Gleichwohl birgt der Einsatz der Systeme rechtliche Herausforderungen. So besteht das Risiko einer Verletzung der beteiligten Personen. Im Gegensatz zu herkömmlichen Technologien „leidet“ KI unter der „Black-Box-Problematik“: Die von den Systemen generierten Ergebnisse sind nicht mehr vollständig vorhersehbar und nachvollziehbar. Der Einsatz birgt unbekannte und unkalkulierbare Risiken, was sich insbesondere auf die zivilrechtliche Haftung und strafrechtliche Verantwortung auswirkt. Wem die Entscheidungen der Systeme normativ zuzurechnen sind, ist eine Kernfrage des juristischen Diskurses. Die aus praktikabilitätsgründen naheliegende Wahl, dem letztentscheidenden Menschen das Verhalten eines KI-Systems zuzurechnen, überzeugt nicht in allen Fällen, sondern degradiert ihn häufig zum symbolischen Haftungsknecht und legt ihm einseitig die Risiken der Technologien auf. Weiterhin ergeben sich im Bereich der Medizin und Pflege Fragen hinsichtlich der Zulassung von KI-Systemen, da die Maschinen während der Nutzung weiterlernen und so ihren strukturellen Aufbau kontinuierlich verändern. Es ist daher angebracht, sich frühzeitig mit dem Konfliktpotential aus ethischer und rechtlicher Sicht auseinander zu setzen, um einer potenziellen gesellschaftlichen Angst vor derartigen Systemen vorzubeugen und einen praxisgerechten Handlungsrahmen zu schaffen.
Funder
Gottfried Wilhelm Leibniz Universität Hannover
Publisher
Springer Science and Business Media LLC
Subject
Health Policy,Philosophy,Health (social science),Issues, ethics and legal aspects
Reference58 articles.
1. Article36 (2016) Key elements of meaningful human control. Article36. https://article36.org/wp-content/uploads/2016/04/MHC-2016-FINAL.pdf. Zugegriffen: 17. Juni 2022
2. Beck S (2018) Zum Einsatz von Robotern im Palliativ- und Hospizbereich. MedR 36:773–778. https://doi.org/10.1007/s00350-018-5046-1
3. Beck S (2020) § 7 Strafrechtliche Implikationen von KI und Robotik. In: Ebers M, Heinze C‑A, Krüger T, Steinrötter B (Hrsg) Künstliche Intelligenz und Robotik, 1. Aufl. C. H. Beck, München, S 243–269
4. Beck S, Faber M (2022) Kapitel 3.8: Rechtlicher Rahmen des Einsatzes von KI in der Medizin. In: Buck-Heeb P, Oppermann B‑H (Hrsg) Automatisierte Systeme. C.H. Beck, München, S 267–300
5. BGH (1990) NJW, 40:2560–2569
Cited by
2 articles.
订阅此论文施引文献
订阅此论文施引文献,注册后可以免费订阅5篇论文的施引文献,订阅后可以查看论文全部施引文献