Дипломаты из США и России заставили страны ООН отказаться от обязательного человеческого надзора за «роботами-убийцами» с ИИ — WP

Представители Москвы и Вашингтона договорились давить на другие страны, чтобы не ограничивать применение автономных средств атаки — пишет The Washington Post со ссылкой на три источника, знакомых с ходом переговоров и некие документы.

Обсуждения «роботов-убийц» (САС/LAWs) продолжаются уже несколько лет. Ранее аналогичным образом страны боролись против оружия в космосе: страны долго принимали и не принимали резолюции с требованием его ограничить, обвиняли Россию в его разработке, а потом Трамп просто заявил, что у США оно уже есть и что оно уже выведено на орбиту.

В 2023 году Россия уже отказалась поддержать резолюцию ООН по «роботам-убийцам». В этом году американская компания Anthropic намекнула, что не планирует разрабатывать ИИ для оружия и слежки за гражданами, чтобы не нарушать Конституцию, после чего Трамп фактически начал репрессировать её сотрудников. Суд встал на сторону фирмы, однако направление мысли в Белом доме стало очевидным. Россия и Украина уже доказано пользуются нейросетями при ударах дронами. Израиль также бомбил Палестину с учётом оценки от ИИ; недавно на Венецианском кинофестивале этому посвятили целый фильм. США использовали Anthropic для ударов по Ирану.

В новой статье WP речь идёт о подготовке текста международного договора или конвенции вроде тех, которые уже ограничивают разработку ядерного оружия, применение химического оружия и прочие виды опасных вооружений. Текст проекта ещё не готов и непонятно, кто именно присоединится к договорённостям. Тем не менее, по текущим черновикам уже сейчас становится понятно, что он будет намного слабее, чем того хотели бы некоторые страны и военные бюрократы. 

Переговоры по тексту финального договора ведутся непублично. Последняя встреча сотни дипломатов состоялась в здании ООН в швейцарской Женеве. Как пишет WP, за примерно 15 часов встречи дипломаты США и России «активно перерабатывали текст документа, исключая из него ряд положений, призванных обеспечить безопасность использования искусственного интеллекта в системах вооружения».  

Источники говорят, что Москва и Вашингтон вместе договорились убрать из текста договора требования о том, чтобы системы с ИИ функционировали «предсказуемо» и «надежно», а также пункт об «этических аспектах» при применении оружия с ИИ. Кроме того, представители Кремля и Овального кабинета вместе заставили остальных согласиться с тем, что ИИ не обязан будет получать подтверждение от реального военного перед нанесением удара. Один из дипломатов пожаловался, что изначальный проект договора «умер от казни тысячью порезами».

«Переговоры в ООН по вопросу летальных автономных систем вооружения в настоящее время не носят обязательного характера, однако, если государства-члены придут к согласию, они могут открыть путь к заключению знакового договора, имеющего юридическую силу. Это наиболее масштабная международная инициатива, направленная на регулирование применения оружия с искусственным интеллектом на поле боя. Однако, по словам трех источников, на переговорах в Женеве, состоявшихся в начале сентября, стало очевидно, что США и Россия станут главным препятствием на пути к прогрессу [Активисты] считают, что Вашингтон и Москва не поддерживают введение юридически обязательных правил в отношении автономных систем вооружения и оказывают огромное влияние на исход переговоров», — говорится в статье.