Сотрудники Google протестуют из-за контракта с Израилем на 1,2 миллиарда долларов

4 марта в центре Манхэттена управляющий директор Google в Израиле Барак Регев выступал на конференции, посвященной развитию израильской технологической индустрии, когда один из присутствующих встал в знак протеста. "Я инженер-программист Google Cloud, и я отказываюсь создавать технологии, которые способствуют геноциду, апартеиду или слежке", - кричал протестующий, одетый в оранжевую футболку с белым логотипом Google. "Нет технологиям для апартеида!"

Сотрудник Google, 23-летний инженер-программист по имени Эдди Хэтфилд, был освистан аудиторией и быстро выведен из зала, о чем свидетельствует видеозапись мероприятия. После паузы Регев обратился к акту протеста. "Одна из привилегий работы в компании, которая разделяет демократические ценности, это предоставление пространства для различных мнений", - сказал он собравшимся.

Через три дня Google уволила Хэтфилда.Хэтфилд является частью растущего движения внутри Google, которое призывает компанию отказаться от проекта Nimbus, контракта на $1,2 млрд с Израилем, совместно с Amazon. Протестная группа, названная No Tech for Apartheid, в настоящее время насчитывает более 200 сотрудников Google. По словам участников группы есть еще сотни сотрудников, разделяющих их цели. Журналисты TIME поговорили с пятью текущими и пятью бывшими сотрудниками Google по данной теме.  Многие из сотрудников рассказали о растущем негодовании внутри компании в связи с помощью Израилю в войне в Газе. Двое бывших сотрудников Google заявили, что уволились из Google в прошлом месяце в знак протеста против проекта Nimbus. Об этих увольнениях, как и о истории с Хэтфилдом ранее не сообщалось.

Протестная деятельность группы No Tech for Apartheid связана как с тем, что общественность не знает о проекте Nimbus, так и с уже известными фактами. По данным министерства финансов Израиля, которое объявило о заключении контракта в 2021 году, Google и Amazon будут предоставлять услуги искусственного интеллекта и облачных вычислений израильскому правительству и военным. Как сообщается, проект Nimbus предполагает создание силами Google защищенного экземпляра Google Cloud на территории Израиля, что позволит израильскому правительству проводить масштабный анализ данных, обучение ИИ, размещение баз данных и другие работы при минимальном контроле со стороны компании. Документы Google, впервые опубликованные изданием Intercept в 2022 году, свидетельствуют о том, что сервисы Google, предлагаемые Израилю через "облако", обладают такими возможностями, как распознавание лиц с помощью искусственного интеллекта, автоматическая категоризация изображений и отслеживание объектов.

Дальнейшие детали контракта скудны или вовсе отсутствуют.  Значительная часть недовольства сотрудников связана отсутствием прозрачности о проекте Nimbus и о характере отношений компании Google с Израилем.  Ни Google, ни Amazon, ни Израиль не описали конкретные возможности, предлагаемые Израилю в рамках контракта. В своем заявлении представитель Google сказал: «Мы чётко заявили, что контракт Nimbus касается задач, которые выполняются на нашей коммерческой платформе министерствами израильского правительства, включая  финансы, здравоохранение, транспорт и образование.Наша работа не направлена на особо чувствительные или засекреченные военные задачи, связанные с вооружением или разведывательными службами». По словам представителя компании, все клиенты Google Cloud должны соблюдать условия предоставления услуг и политику приемлемого использования. Эта политика запрещает использовать сервисы Google для нарушения законных прав других людей или для "насилия, которое может привести к смерти, серьезному ущербу или травмам". Представитель Amazon заявил, что компания "стремится сделать преимущества наших ведущих мировых облачных технологий доступными для всех наших клиентов, где бы они ни находились", и добавил, что компания оказывает поддержку сотрудникам, пострадавшим от войны, и сотрудничает с гуманитарными организациями. Правительство Израиля не сразу ответило на просьбу о комментарии.

Нет никаких доказательств того, что технология Google или Amazon использовалась для убийства гражданских лиц. Сотрудники Google заявляют, что у них есть три причины для беспокойства: недвусмысленное заявление министерства финансов Израиля в 2021 году о том, что Nimbus будет использоваться министерством обороны; характер услуг, которые могут быть доступны израильскому правительству в облаке Google; и очевидная неспособность Google контролировать, что Израиль может делать с ее технологиями. Сотрудники опасаются, что мощные средства искусственного интеллекта и облачные вычислительные инструменты Google могут быть использованы для слежки, военного целеуказания или других форм милитаризации. По условиям контракта Google и Amazon, как сообщается, не могут запретить отдельным государственным структурам, в том числе израильским военным, пользоваться их услугами, а также не могут отменить контракт из-за давления общественности.

Недавние сообщения в израильской прессе указывают на то, что авиаудары наносятся при поддержке системы целеуказания с искусственным интеллектом; неизвестно, какой облачный провайдер, если таковой имеется, предоставляет вычислительную инфраструктуру, которая, вероятно, необходима для работы такой системы. Сотрудники Google отмечают, что по соображениям безопасности технические компании часто имеют очень ограниченное представление (если оно есть в принципе) о том, что происходит на суверенных облачных серверах их правительственных клиентов. "У нас нет большого контроля над тем, что делают облачные клиенты, по понятным причинам конфиденциальности", - говорит Джеки Кей, инженер-исследователь из лаборатории DeepMind AI Google. "Но тогда какая у нас гарантия, что клиенты не злоупотребляют этой технологией в военных целях?"

Участники группы No Tech for Apartheid говорят, что их кампания набирает силу по мере того, как продолжают поступать новые сообщения о роли искусственного интеллекта в израильской кампании бомбардировок Газы; после недавних убийствах израильскими военными иностранных гуманитарных работников; и после того, когда даже президент Байден призвал Израиль немедленно прекратить огонь. 

В 2018 году сотрудники Google организовали акцию протеста, которая вынудила компанию отказаться от отдельного контракта с Пентагоном. Теперь, в условиях растущего международного возмущения “побочным ущербом” от войны Израиля в Газе, многие работники считают увольнение Хэтфилда попыткой Google снизить растущую угрозу для своего бизнеса. "Я думаю, что Google уволила меня, потому что увидела, как сильно набирает обороты это движение внутри Google", - говорит Хэтфилд, который впервые согласился дать комментарий, специально для этой статьи. "Я думаю, что они хотели организовать своего рода сдерживающий эффект, используя мое увольнение как пример”.

Хэтфилд говорит, что его акция протеста стала следствием отсутствия ответов от руководства Google на его вопросы о проекте Nimbus. "Мой руководитель сказал мне, что я не могу позволить этим проблемам влиять на мою работу", - рассказывает он TIME. "Что довольно нелепо, потому что я рассматриваю это как часть своей работы. Я стараюсь, чтобы пользователи моей работы были в безопасности. Как я могу работать над тем, что мне говорят делать, если я не считаю это безопасным?"

По его словам, через три дня после того, как он нарушил ход конференции, Хэтфилда вызвали на встречу с его менеджером Google и представителем отдела кадров. Ему сказали, что он нанес ущерб имиджу компании и будет немедленно уволен. "Этот сотрудник помешал коллеге, который выступал с докладом, и тем самым вмешался в официальное мероприятие, спонсируемое компанией", - говорится в заявлении представителя Google, поступившем в редакцию TIME. "Такое поведение недопустимо, независимо от того, о чем идет речь, и сотрудник был уволен за нарушение наших правил".

Видана Абдель Халек решила покинуть компанию после увольнения Хэтфилда. 25 марта она отправила письмо руководителям компании, включая генерального директора Сундара Пичаи, в котором сообщила о своем решении уволиться в знак протеста против проекта Nimbus. "Никто не приходит в Google работать над наступательными военными технологиями", - написала бывшая сотрудница отдела доверия и политики безопасности в письме, попавшем в распоряжение TIME. 

В этом письме она отмечала, что с начала войны в результате израильских атак на Газу погибло более 13 тысяч детей; что Израиль обстреливал палестинцев, пытавшихся добраться до грузов с гуманитарной помощью; и открывал огонь по колоннам с эвакуируемыми беженцами. "Через Nimbus ваша организация предоставляет облачные технологии искусственного интеллекта этому правительству и тем самым способствует этим ужасам", - говорилось в письме.

Сотрудники утверждают, что отношения Google с Израилем противоречат принципам компании в области искусственного интеллекта. Эти принципы гласят, что компания не будет применять технологии искусственного интеллекта в тех областях, которые могут нанести "общий вред", способствовать созданию "оружия или других технологий", цель которых - причинение вреда, или создавать технологии, "цель которых противоречит общепринятым принципам международного права и прав человека". "Если вы предоставляете облачные технологии искусственного интеллекта правительству, которое, как вы знаете, совершает геноцид, и которое, как вы знаете, злоупотребляет этой технологией, чтобы навредить невиновным гражданским лицам, тогда вы далеки от нейтральности", - говорит Халек. "Если уж на то пошло, то теперь вы - соучастник".

Два работника подразделения Google DeepMind, занимающегося искусственным интеллектом, сообщили, что способность их отдела предотвращать использование своих инструментов искусственного интеллекта в военных целях была ослаблена после реструктуризации, проведенной в прошлом году. Когда DeepMind была приобретена Google в 2014 году, она, как сообщалось, подписала соглашение, согласно которому ее технологии никогда не будут использоваться в военных или разведывательных целях. Однако, после ряда изменений в руководстве, DeepMind стала подчиняться тем же принципам использования искусственного интеллекта, что и Google в целом. Эти принципы не помешали Google заключить прибыльные военные контракты с Пентагоном и Израилем. «Хотя DeepMind, возможно, была недовольна работой над военными проектами с использованием искусственного интеллекта или оборонными контрактами в прошлом, я действительно думаю, что это больше не наше решение», — сказал один из сотрудников DeepMind, попросивший не называть его имени, поскольку ему не разрешено публично выступать. «Google DeepMind разрабатывает передовые модели искусственного интеллекта, которые потом развертываются через платформу Vertex AI облака Google, а затем могут быть проданы государственным и другим клиентам». Одним из таких клиентов является Израиль.

"Для того чтобы я мог спокойно участвовать в создании модели искусственного интеллекта, выпущенной в облаке [Google], я бы хотел, чтобы существовала определенная ответственность, чтобы можно было отменить использование, если, например, она используется для слежки или в военных целях, что противоречит международным нормам", - говорит Кей, сотрудник DeepMind. "Эти принципы применимы к приложениям, которые разрабатывает DeepMind, но неясно, применимы ли они к клиентам Google Cloud".

Представитель Google не ответил на конкретные вопросы о DeepMind для этой статьи.

Другие сотрудники Google рассказали об источниках беспокойства в проекте Nimbus в контексте технологий Google Cloud. Технология облачных вычислений, которую компания обычно предлагает своим клиентам, включает инструмент под названием AutoML, который позволяет пользователю быстро обучить модель машинного обучения с использованием пользовательского набора данных. Три сотрудника, опрошенные журналом TIME, заявили, что правительство Израиля теоретически могло бы использовать AutoML для разработки систем слежки или военного целеуказания. Нет никаких доказательств того, что Израиль использовал Google Cloud для создания такого инструмента, хотя недавно газета New York Times сообщила, что израильские солдаты использовали функцию распознавания лиц в Google Photos (доступную бесплатно), а также другие технологии, не принадлежащие Google, для идентификации подозреваемых на контрольно-пропускных пунктах.

"Предоставление мощной технологии стране, которая продемонстрировала желание злоупотреблять технологиями искусственного интеллекта и использовать его для всех видов военной активности - неэтичное решение", - говорит Габриэль Шубинер, бывший исследователь Google. "Это предательство по отношению ко всем инженерам, которые работают в Google Cloud".

Представитель Google не ответил на вопрос, был ли AutoML предоставлен Израилю в рамках проекта Nimbus.

Участники группы No Tech for Apartheid утверждают, что было бы наивно представить, что Израиль не использует технологии Google в насильственных целях. "Если у нас нет надзора за тем, как эта технология используется," говорит Рэйчел Уэстрик, инженер по программному обеспечению Google, "то израильские военные будут использовать это для силовых методов".

“Строительство массивной локальной облачной инфраструктуры в пределах границ Израиля, по словам [израильского правительства], в основном направлено на сохранение информации внутри Израиля под строгим контролем”, говорит Мохаммад Хатами, инженер-программист Google. "Но, по сути, мы знаем, что это означает: мы даем им свободу использовать наши технологии для всего, что они захотят, и вне всяких ограничений, которые мы устанавливаем"

Нынешние и бывшие сотрудники Google также говорят, что боятся выступать против проекта Nimbus или в поддержку палестинцев, поскольку, по словам некоторых, опасаются мести.

 "Я знаю сотни людей, которые выступают против происходящего, но они боятся потерять работу, [или] подвергнуться мести", - говорит Халек, работник, уволившийся в знак протеста против проекта Nimbus. "Люди напуганы". Увольнение Хэтфилда из Google, по словам Халека, было "прямым, ясным актом мести... это было сообщение от Google о том, что мы не должны говорить об этом".

Представитель Google отрицает, что увольнение Хэтфилда было актом мести со стороны компании.

Тем не менее, внутреннее недовольство растет, говорят  сотрудники. “Я думаю, что Google хочет представить поступок Эдди как отдельный эпизод. Но это совершенно не так”, - говорит Вестрик, инженер-программист Google. "Мнение, которое высказал Эдди, широко разделяется в компании. Людям не нравиться, что их результаты их труда используются для апартеида".

"Мы не собираемся останавливаться", - говорит Зельда Монтес, инженер-программист YouTube, входящий в группу No Tech for Apartheid. "Я могу точно сказать, что это не заглохнет. Это будет только усиливаться".