ЦАХАЛ: убийца с искусственным интеллектом

Операция ЦАХАЛ "Железные мечи" против группировки ХАМАС, после террористической атаки 7 октября 2023 года, уже стала самой продолжительной в истории Израиля. В результате боевых действий погибло более 40 тысяч мирных жителей - это примерно 2% от довоенного населения Газы, еще около 93 тысяч человек было ранено. 

Официальные потери Израиля - 904 убитых мирных жителя и 702 военнослужащих, ранено более 13 тысяч человек. Газета The New York Times, ссылаясь на высокопоставленных американских чиновников, пишет, что сейчас Израиль добился всего, на что был способен в военном плане.

Израиль разрушил или захватил важнейшие подземные маршруты ХАМАС для снабжения из Египта в Газу. Около 14 000 комбатантов в Газе были убиты или взяты в плен, по заявлениям израильских военных. В ЦАХАЛ также заявили, что они ликвидировали половину руководства "Бригад Кассама", военного крыла ХАМАС, включая высших руководителей Мухаммеда Дейфа и Марвана Иссу.

Однако эксперты, приглашенные CNN, проанализировали 16 из 24 батальонов ХАМАС, действующих на севере секторе Газа, по их оценкам, ЦАХАЛ удалось уничтожить только 2 бригады. 9 понесли значительные потери, но 7 из них пополняются, а 5 батальонов вообще не понесли серьезного ущерба и полноценно воюют с самого начала конфликта.

В то же время, одна из важнейших оставшихся целей Израиля - возвращение примерно 115 заложников, которые все еще удерживаются в Газе, не может быть достигнута военным путем, по мнению действующих и бывших американских и израильских чиновников, а продолжающиеся бомбардировки только увеличивают риски для гражданского населения. Как следует  из отчета спутникового центра ООН UNOSAT, в секторе Газа в разной степени разрушены 18% зданий.

В этом плане стоит обратить внимание на сообщение портала Israel Defense от 14 февраля 2023 года. За 8 месяцев до террористической атаки ХАМАС на Израиль, на конференции AI Week в Тель-Авивском университете, полковник израильской армии Йоав, глава Центра искусственного интеллекта подразделения "8200", рассказал, что создана программа ИИ, которая может находить опасных террористов на основе списка людей, который был введен в систему. "Этот процесс выполняется за считанные секунды, на что в прошлом у сотен специалистов ушло бы несколько недель" - сказал он.

Полковник впервые сообщил, что в ходе операции "Страж стен", проводимой в мае 2021 года, ЦАХАЛ смог идентифицировать командиров ракетных и противотанковых подразделений ХАМАС на территории сектора Газа. Программа ИИ "смогла найти террористов среди огромного числа людей и передать эту информацию следователям Разведывательного отдела".

ИИ помог определить 200 новых целей для атак ЦАХАЛ. Кроме того, подразделение "8200" смогло модифицировать свои инструменты и приемы работы программы ИИ примерно 150 раз, непосредственно в ходе операции "Страж стен". Новая программа дополнит серию систем в рамках революции в области ИИ, среди которых были названы "Евангелие" и "Алхимик", все для облегчения целеуказания нахождения террористов подразделениям ЦАХАЛ.

Затем, в 2024 году британские издание The Guardian, со ссылкой на источник в израильской разведке, сообщило, что ЦАХАЛ использовал программу ИИ "Лаванда" для осуществления бомбардировок в секторе Газа. На основании базы данных связей и контактов 37 тысяч  потенциальных членов ХАМАС, вычислялось их местонахождение и выдавалось целеуказание для авиаударов.

Как оказалось, командир подразделения "8200" ЦАХАЛ, под псевдонимом написал книгу “Команда из человека и машины: как создать синергию между человеком и искусственным интеллектом, которая произведет революцию в нашем мире”, опубликованную в 2021 году.

Это подтвердила израильская газета Haaretz, в книге были приведены доводы в пользу разработки специальной программы, которая могла бы быстро обрабатывать огромные объемы данных для определения тысяч потенциальных “целей” для ударов в разгар войны, когда скорость принятия решений имеет принципиальное значение. Программа также могла помочь в сокращении сопутствующего ущерба и разработки в данном направлении велись с 2015 года. В последствии, такая программа действительно была разработана ЦАХАЛ и названа "Лаванда".

Полноценное расследование о применении ИИ "Лаванда" было проведено израильским журналистом Ювалем Абрахамом. Формально программа "Лаванда" была предназначена для обозначения всех боевиков в военном крыле ХАМАС и, таким образом, 37 тысяч человек были определены, как потенциальные цели для уничтожения. 

На ранних этапах операции "Железные мечи" военные ЦАХАЛ безоговорочно доверяли "Лаванде" определение целей в секторе Газа. Один из источников заявил, что военный персонал часто лишь выступал в роли “штампа” для подтверждения решений принятого ИИ и на это уходило около “20 секунд” по каждой цели. Прежде чем дать разрешение на авиаудар, необходимо было просто убедиться, что отмеченная цель - это мужчина, так как в рядах военного крыла ХАМАС и джихадистов нет женщин. При этом все знали, что программа допускает ошибку примерно в 10% случаев определения цели и подозреваемый имеет лишь слабую связь с группами боевиков или вообще никак не причастен к деятельности ХАМАС.

Однако для ЦАХАЛ 10% ошибок было лишь вопросом статистики. “В статистическом подходе есть что-то, что ведет вас в соответствии с определенными нормами. В ходе этой операции было совершено нелогичное количество ударов. По моей памяти это беспрецедентно. И я гораздо больше доверяю в определении целей статистическому подходу, чем солдату, потерявшему друга 2 дня назад. Все там, включая меня, потеряли людей 7 октября. Машина все делала хладнокровно. И это упростило задачу” - рассказал один из израильских военных.

Ранее, чтобы санкционировать убийство одного человека, израильским военным приходилось проходить сложный и длительный процесс согласований, перепроверять доказательства того, что человек действительно был высокопоставленным членом военного крыла ХАМАСА, выяснять, где он жил, его контактную информацию и, наконец, знать, когда он был в удобной для атаки точке в режиме реального времени. Когда список целей насчитывал всего несколько десятков человек из руководства ХАМАС, сотрудники военной разведки могли индивидуально выполнять работу, связанную с установлением личности боевика и его местонахождения.

Однако спустя две недели после начала войны было дано разрешение на уничтожение рядовых боевиков ХАМАС и времени для стандартных процедур принятия решения уже не хватало. Поэтому после выборочной ручной проверки точности целеуказания "Лаванды", которая показала 90% эффективность, было принято решение, что целеуказание "Лаванды" будет приниматься для исполнения без дополнительной проверки. В 10% ошибок попадали люди, у которых с боевиком ХАМАС случайно совпадали имя или кличка. Люди, которые использовали мобильный телефон, который когда-то принадлежал боевику ХАМАС.

Более того, ЦАХАЛ систематически атаковал боевиков ХАМАС, когда они находились в своих домах ночью, где присутствовали все их родные, а не в ходе их боевых рейдов. Это происходило потому, что с точки зрения разведки, было легче обнаружить людей в их частных домах, чем в гуще сражения. Дополнительные автоматизированные системы слежения также были настроены для отслеживания и фиксации целей, когда они заходили в дома.

Программа "Лаванда" анализирует информацию, собранную о значительной части 2,3 миллионов жителей сектора Газа с помощью системы наблюдения, затем оценивает и ранжирует вероятность того, что каждый конкретный человек причастен к военному крылу ХАМАС. Для этого есть различный набор параметров, например, нахождение в одном чате в мессенджере с известным боевиком, другие контакты в социальных сетях, частая смена мобильного телефона или адреса проживания. Согласно источникам, ИИ присваивает почти каждому человеку в Газе рейтинг от 1 до 100, отражающий вероятность того, что он является боевиком.

Учет домов, строений, стратегических предприятий, использовавшихся ХАМАС, вела программа ИИ “Евангелие”,  впоследствии "Лаванда" обрабатывала уже проанализированные ею данные, какой процент ошибок был у “Евангелие” не сообщается, хотя разветвленная система туннелей ХАМАС проходит под больницами и школами сектора Газа.

Кроме того, согласно источникам в израильской разведке, когда дело дошло до нанесения ударов по рядовым боевикам ХАМАС, указанных "Лавандой", военные предпочли использовать только неуправляемые свободнопадающие бомбы, вместо высокоточных. “Вы не хотите тратить дорогие бомбы на незначительных людей - это очень дорого для страны, и таких бомб не хватает”, - сказал один из офицеров израильской разведки.

Что касается "сопутствующего ущерба", то в первые недели войны на каждого рядового боевика ХАМАС, отмеченного "Лавандой", допускалась смерть до 20 мирных жителей, хотя до событий 7 октября 2023 года, никакого “сопутствующего ущерба” при уничтожении боевиков низкого ранга не допускалось. Источники в израильской разведке сообщили, что в том случае, когда целью был высокопоставленный чиновник ХАМАС в звании командира батальона или бригады, несколько раз санкционировалось убийство более 100 мирных жителей.

До 7 октября 2023 года, после авиаударов по отдельным боевикам, израильская разведка проводила процедуры оценки ущерба, чтобы узнать, поражена ли цель и сколько мирных жителей при этом погибло. Процедура включала в себя прослушивание телефонных звонков родственников, потерявших своих близких. Однако в отношении рядовых боевиков ХАМАС эта процедура была отменена в целях экономии времени. Поэтому источники в израильской разведке сообщили, что они не знают, сколько мирных жителей на самом деле было убито в результате каждого удара, а что касается рядовых боевиков, то достоверно не известно были ли они убиты вообще.

“Для меня было очень удивительно, что нас попросили разбомбить дом, чтобы убить пехотинца ХАМАС, важность которого в боевых действиях была слишком низкой”, - сказал один источник в ЦАХАЛ. “Я назвал эти цели ‘мусорными целями’" - сказал он.

После того, как израильские военные вошли на север сектора Газа, количество целей выявленных "Лавандой" там сократилось, так как многие люди стали уходить на юг. Поэтому рейтинг причастности к ХАМАС для целеуказания был снижен. Согласно источнику в разведке, "Лавандой" уже  отмечались как цели, даже некоторые несовершеннолетние, хоят боевики обычно старше 17 лет, но это не было обязательным условием для ИИ.

Стоит сказать, что после публикации разоблачительной статьи в The Guardian, от представителей ЦАХАЛ редакция издания получила официальный ответ, где говорилось, что некоторая информация, изложенная в статье, абсолютно беспочвенна, а другая отражает неправильное понимание директив ЦАХАЛ. Сообщалось, что ЦАХАЛ наносит удары только по военным объектам и боевикам в соответствии с правилами пропорциональности и предосторожностями. Исключительные инциденты подвергаются тщательному изучению и расследованию, так как  ХАМАС систематически использует гражданское население в качестве живого щита и ведет боевые действия внутри гражданских зданий, включая жилые дома, больницы, мечети, школы и объекты ООН.

По заверению ЦАХАЛ, Израиль не использует систему ИИ, которая идентифицирует боевиков-террористов. Существует лишь база данных, которая используется аналитиками разведки и инструменты ИИ, для идентификации целей, которая осуществляется сугубо в индивидуальном порядке.

Вполне очевидно, что прямых официальных доказательств существования "Лаванды", скорей всего, мир получит не скоро. Однако косвенные доказательства, в виде публичных заявлений главы Центра искусственного интеллекта ЦАХАЛ и верифицированные The Guardian результаты журналистского расследования Юваля Абрахама, уже существуют. Они представляют картину, как из книги про антиутопичное будущее, где ИИ, призванный сократить "сопутствующий ущерб", в обстоятельствах недостатка времени становится основным источником принятия решений для человека, и "человечность" как таковая исчезает, превращаясь в статистику.

В любом случае, этические вопросы работы ИИ нужно решать на мировом уровне уже сейчас. В связи с тем, что применение ИИ, без четко очерченных границ, может привести к катастрофе, так как использование ИИ для определения целей и применения ядерного оружия, уже совсем не отдаленное будущее, а вопрос ближайших лет.