Смертоносные автономные системы вооружения: ландшафт и перспективы

Abstract

Активное развитие военных технологий искусственного интеллекта приближает момент массового развертывания смертоносных автономных систем вооружения (САС). Точное международно признанное определение САС до сих пор отсутствует, что приводит к терминологическим спорам, за которыми скрываются как военно-технические, так и этико-философские проблемы. Задача контроля над автономными системами оружия сложна и должна рассматриваться междисциплинарно, одновременно в нескольких плоскостях, включая соображения оперативного применения, морально-этические дилеммы и правовые коллизии. Все три типа соображений фокусируются вокруг проблем значимого человеческого контроля и атрибуции ответственности за применение САС. Показана проблема фиктивности номинального человеческого контроля над сложными техническими системами, использующими непрозрачные алгоритмы функционирования. Значительное сопротивление разработчиков новых видов оружия, доказывающих достаточность существующих норм международного гуманитарного права для регулирования новой области, затрудняет введение дополнительных ограничений на САС. Существующие соглашения по контролю над распространением технологий лишь частично способны служить инструментом для контроля над САС. Отмечено, что в случае с САС возможен мощный импульс к развитию особого направления в контроле над вооружениями, связанного с юридическими аспектами атрибуции ответственности за неправомерное применение систем оружия, чего не наблюдалось прежде в корпусе международно-правовой базы по контролю над вооружениями. В условиях обрушения системы контроля над вооружениями, сложившейся после окончания холодной войны, в кратко- и среднесрочном периоде могут быть предложены определенные частные меры предотвращения наиболее дестабилизирующих проявлений САС.