Делегации США и России на переговорах группы правительственных экспертов по летальным автономным системам вооружений исключили из проекта соглашения ряд ограничений. Встреча проходила в Женеве с 31 августа по 4 сентября в рамках Конвенции ООН о конкретных видах обычного оружия. Об этом со ссылкой на источники и документы сообщает The Washington Post.
Из текста убрали требование, чтобы человек проверял назначенные искусственным интеллектом военные цели перед нанесением удара. Также исчезли положения о том, что такие системы должны работать «предсказуемо» и «надёжно», и пункт об учёте этических норм при применении вооружений с ИИ.
Правки вносились в последний день переговоров, заседание длилось около 15 часов. По словам собеседников газеты, обсуждение шло за закрытыми дверями — камеры ООН отключили, наблюдателей от гражданского общества удалили.
Команды США и России состояли примерно из десяти юристов каждая — почти вдвое больше, чем у других делегаций. Изменения поступали настолько быстро, что представители небольших стран не успевали за процессом. Один из собеседников назвал происходившее «смертью от тысячи бумажных порезов».
Госдепартамент США, МИД России и ООН на запросы The Washington Post о комментарии не ответили.
Пока соглашение не имеет обязательной юридической силы, но переговоры могут открыть путь к заключению юридически обязывающего договора. В ноябре страны вновь соберутся в Женеве, чтобы обсудить, получит ли процесс официальный мандат.
Исполнительный директор коалиции Stop Killer Robots Николь ван Ройен отмечает, что решения на площадке ООН принимаются консенсусом, поэтому США и Россия, выступающие против обязательных ограничений, могут заблокировать предложения, которые поддержит большинство государств.
Заместитель директора Human Rights Watch по вопросам вооружений Верити Койл заявила, что ослабление правил приведёт к ситуации, когда решения о жизни и смерти будут принимать машины без человеческого контроля.
Автономные и основанные на ИИ системы уже применяются в реальных войнах. По данным The Washington Post, американские военные использовали чат-бота компании Anthropic для выявления почти тысячи целей в первые сутки войны с Ираном, а Израиль широко применял алгоритмические системы при операциях в секторе Газа.
Параллельно Пентагон пересматривает собственную директиву об автономном оружии, принятую в 2023 году. В ней есть положения об обязательном человеческом контроле над автономными и полуавтономными системами и соблюдении законов войны. В июне Дональд Трамп поручил обновить документ за 90 дней, однако к концу сентября новая версия опубликована не была.
Выступая на Генассамблее ООН, президент Украины Владимир Зеленский предупредил о скором массовом внедрении ИИ в ход войны. По его словам, уже в следующем году решения на поле боя могут начать принимать не только люди, но и искусственный интеллект.