Das (unheimliche und) unsichere Tal der Assistenz und Automation – Beschreibung und Absicherungsmöglichkeiten

Abstract

Zusammenfassung Fortschritte in der Automatisierungstechnik ermöglichen es technischen Systemen immer mehr Aufgaben zu übernehmen. Für die Gestaltung der Interaktion und Kooperation von Mensch und Maschine ist die Einschätzung des Menschen bzgl. der Fähigkeiten der Maschine sicherheitsrelevant. Das Uncanny Valley der Robotik beschreibt, wie Roboter mit hoher, aber nicht perfekter Menschenähnlichkeit als unheimlich wahrgenommen werden. Bestehende Studien, z. B. für Luft- und Bodenfahrzeuge, deuten an, dass es einen ähnlichen Zusammenhang zwischen Automationsgrad und Sicherheit geben könnte, da sich zwischen gut funktionierenden teil- und hochautomatisierten Modi ein unsicheres Tal bildet, in welcher die Sicherheit des Systems stark reduziert ist. Es werden Gestaltungsoptionen beschrieben, um diesen Bereich abzusichern.