WP: США и Россия исключили человеческий контроль из глобального пакта об оружии с ИИ

Две страны ослабили ряд гарантий в рамках важной инициативы ООН по регулированию использования автономного оружия летального действия. Глобальные переговоры, состоявшиеся в начале этого месяца, ознаменовали собой самый значительный прогресс на пути к потенциальному заключению договора.

ООН. В начале этого месяца сотни дипломатов собрались в огромном конференц-зале ООН в Швейцарии, чтобы обсудить важный договор, регулирующий использование автономного оружия летального действия, — первое соглашение, регулирующее использование смертоносного оружия на основе искусственного интеллекта. В последний день переговоров они приняли агрессивный характер.

По словам трех источников, знакомых с ходом переговоров, которые пожелали остаться анонимными, чтобы иметь возможность обсуждать конфиденциальные вопросы за закрытыми дверями, а также по данным документов, с которыми ознакомилась The Washington Post, в течение следующих примерно 15 часов американские и российские дипломаты вносили изменения в документ, убирая ряд положений, призванных ограничить использование искусственного интеллекта в оружии.

По словам источников, они убрали формулировки, требующие, чтобы системы работали «предсказуемо» и «надежно», а также пункт, обязывающий учитывать этические соображения при использовании ИИ в качестве оружия. Кроме того, американская и российская команды убрали положение, требующее, чтобы люди проверяли военные цели, разработанные ИИ, перед нанесением удара.

По словам этих трех источников, на закрытом заседании, когда камеры ООН были выключены, а наблюдатели от гражданского общества удалены, Вашингтон и Москва задействовали свои армии юристов — по 10 человек с каждой стороны, что почти вдвое превышает дипломатическое присутствие других делегаций, — чтобы внести изменения, которые продвигались так быстро, что у делегаций поменьше голова шла кругом.

«Это была смерть от тысячи порезов бумагой», — сказал один из них.

Госдепартамент США, Министерство иностранных дел России и Организация Объединенных Наций не ответили на запросы о комментарии.

Размывание соглашения, подробности которого ранее не разглашались, показывает, как США и Россия работают над ослаблением глобальных правил, регулирующих использование смертоносного оружия на основе искусственного интеллекта, в то время как Пентагон стремится быстро внедрить эту развивающуюся технологию в свою военную стратегию.

Переговоры проходят на фоне ожесточённых общественных дебатов об экзистенциальных рисках, связанных с передовым искусственным интеллектом, поскольку руководители технологических компаний призывают мировых лидеров к сотрудничеству, чтобы ввести ограничения на использование этой технологии. ООН уже много лет пытается регулировать использование ИИ в военных целях, но без особого успеха, и последняя директива — это самый значительный прогресс в этом направлении.

Попытки Вашингтона нейтрализовать глобальные правила, регулирующие использование искусственного интеллекта в военных целях, также дают представление о том, как он может подойти к регулированию использования этой технологии в вооруженных силах США. В настоящее время американские власти пересматривают директиву о смертоносном автономном оружии, опубликованную в 2023 году.

Верити Койл, заместитель директора по вопросам вооружений в отделе по кризисам, конфликтам и вооружениям организации Human Rights Watch, заявила, что слабые правила, регулирующие смертоносное оружие с искусственным интеллектом, могут привести к серьёзным последствиям.

«Это может означать, что машины смогут принимать решения, от которых зависит жизнь и смерть, без контроля со стороны человека, — сказала она. — Практические последствия очевидны: больше жертв среди гражданского населения, меньше подотчётности и более быстрый переход к более рискованным автоматизированным военным действиям».

Во всем мире использование искусственного интеллекта в военных целях перешло от преимущественно теоретических сценариев к реальному применению на поле боя. По данным The Post, американские военные использовали чат-бот Anthropic для определения почти 1000 целей для нанесения ударов в первые 24 часа войны с Ираном. Израиль активно использует искусственный интеллект в своих военных операциях в секторе Газа, сообщает The Post.

За последние несколько месяцев компании, занимающиеся искусственным интеллектом, раскрыли, что их боты автономно взламывали серверы других организаций, включая правительственные веб—сайты США, и что гнусные субъекты в таких местах, как Йемен и Иран, использовали чат-ботов, чтобы попытаться создать оружие или нацелиться на американских военных, что вызвало опасения, что технология может стать неконтролируемой.

В этом месяце исследователь-антрополог уволился из компании и предупредил общественность, что искусственный интеллект может положить конец человеческой расе, вызвав яростные дебаты в Вашингтоне о том, как его регулировать, прежде чем он создаст экзистенциальную угрозу человечеству.

На фоне этого шквала возмущения технические руководители и мировые лидеры срочно призвали к регулированию искусственного интеллекта. На заседании Совета Безопасности ООН на этой неделе исполнительный директор OpenAI Сэм Альтман и руководитель Anthropic Дарио Амодей призвали страны к сотрудничеству в создании модели глобального управления искусственным интеллектом.

Регулирование «должно формироваться в рамках демократических процессов, при этом правительства должны быть подотчетны народу, которому они служат», — сказал Альтман. «На международном уровне это означает сотрудничество».

Однако попытки регулирования на национальном уровне натолкнулись на препятствие: администрация Трампа утверждает, что любые правила в отношении ИИ будут препятствовать инновациям.

«Соединенные Штаты также полностью отвергают любые попытки создать глобалистскую схему контроля над искусственным интеллектом, о котором сейчас так много говорят, — в дальнейшем официально именуемым «сверхразумным», — заявил президент Дональд Трамп во вторник в ООН.

Переговоры ООН о смертоносном автономном оружии в настоящее время носят необязательный характер, хотя они могут привести к заключению исторического юридически обязывающего договора, если страны-участницы придут к согласию. Это самая масштабная глобальная попытка урегулировать использование оружия с искусственным интеллектом на поле боя.

Однако на переговорах в Женеве в начале сентября стало очевидно, что США и Россия станут серьёзным препятствием на пути к прогрессу, сообщили три источника.

Команду США возглавляют дипломаты Госдепартамента, представители Пентагона и эксперты по правовым вопросам, сообщила Койл из Human Rights Watch. «У них много ресурсов, и они готовы защищать военную автономию США», — сказала она.

Николь ван Ройен, исполнительный директор глобальной неправительственной коалиции Stop Killer Robots, заявила, что Вашингтон и Москва не поддерживают юридически обязывающие правила в отношении автономного оружия и имеют огромное влияние на исход переговоров.

Переговоры по автономному оружию требуют, чтобы десятки стран пришли к консенсусу по поводу того, какие правила будут действовать, добавила она. США и Россия не выступают за мультилатерализм, который требует от стран совместной работы для достижения соглашений, и могут использовать «политический капитал для оказания давления на другие государства», сказала она.

«У них есть возможность блокировать любой значительный прогресс, которого добивается подавляющее большинство государств, желающих продвинуться в вопросе заключения юридически обязывающего договора», — добавила она.

В ноябре страны соберутся в Женеве, чтобы обсудить, могут ли переговоры привести к официальному мандату или, возможно, к заключению юридически обязывающего договора.

В США параллельно ведутся дискуссии, пока Пентагон работает над пересмотром собственной директивы об использовании автономного оружия. В июне Трамп издал меморандум о национальной безопасности, согласно которому директива должна быть обновлена в течение 90 дней. По состоянию на конец сентября правительство США не опубликовало новую версию.

Директива, принятая в 2023 году при администрации Байдена, содержала несколько пунктов, аналогичных тем, которые были исключены из документа ООН, в том числе требование о том, чтобы автономные и полуавтономные системы вооружения проверялись людьми. Кроме того, директива предписывала, чтобы те, кто управляет системами вооружения с искусственным интеллектом, соблюдали законы войны и соответствующие международные договоры.

Ричард Леннан, советник по вопросам разоружения в юридической команде Международного комитета Красного Креста, сказал, что глобальные договоры могут способствовать контролю над применением опасного оружия. В качестве примера он привёл директивы о химическом и биологическом оружии, противопехотных минах и кассетных боеприпасах, которые ограничивают их использование.

«Речь не о наказании, а об установлении норм и влиянии на поведение, — сказала Леннан. — Мы считаем, что договор, регулирующий использование автономного оружия, может быть столь же эффективным».

Однако Койл отметила, что у США и России есть дипломатические рычаги, юридические команды и политические стимулы, чтобы ослабить любые глобальные правила, касающиеся автономного оружия. По ее словам, действия, направленные на смягчение регулирования использования ИИ в оружии, следуют давно отработанной схеме.

«Когда США хотят сохранить военное или технологическое преимущество, они продвигают добровольные рекомендации вместо обязательных правил, — сказал Коул. — Мы видели, как это происходит в киберпространстве, космосе и в других сферах контроля над вооружениями. Автономное оружие — не исключение».