Русские взломали субподрядчика Пентагона по ИИ

Бывший сотрудник Эми Лю, в рамках иска к американской фирме Clarifai утверждает, что фирма была взломана одним или несколькими людьми из России, в результате чего, вероятно технологии, используемые американскими военными достались противнику. В иске говорится, что руководство Clarifai узнало о взломе в ноябре прошлого года, но не сообщило об этом Пентагону, а когда Эми Лю - бывший капитан ВВС, попыталась раскрыть инцидент, она была уволена.

Другой бывший сотрудник сказал изданию WIRED, что действия руководства фирмы по поводу взлома, побудили его покинуть компанию.

Фирма Clarifai работала над частью проекта Пентагона Maven, по наполнению американских вооруженных сил искусственным интеллектом. Проект Maven вызвал бунт внутри Google, который взял на себя аналогичный контракт по анализу информации с Дронов. Более 4500 сотрудников Google подписали письмо, протестуя против проекта, заявив, что они не хотят, чтобы технология Google потенциально помогала убивать людей. Протест побудил компанию выпустить этические принципы, регулирующие использование ИИ технологии, и обещание не продлевать свою часть в проекте Maven, по истечению контракта, в следующем году.

Фирма Clarifai отказалась комментировать, работал ли она над проектом Maven. Представитель фирмы сказал, что инцидент с безопасностью связан с ”нецелевым ботом", который заразил исследовательский сервер, но не получил доступа к каким-либо данным или коду. Представитель сказал, что клиенты были уведомлены об этом инциденте, но отказался сказать, был ли Пентагон в их числе.

Clarifai был основан в 2013 году Мэтью Зейлером, который изучал машинное обучение наряду с профессорами, которые позже стали ведущими исследователями ИИ в Google и Facebook. Стартап предлагает компаниям распознавание образов под такие задачи, как распознавание знаменитостей и продуктов питания.

Лю говорит, что отсутствие прозрачности и плохая безопасность, которую она наблюдала в Clarifai, сделали её непригодным местом для этой работы. ”Если сейчас Google не будет работать, и все, что у них останется, - это такие компании, как Clarifai, - сказала Лю.

Лю говорит, что она была втянута в военную разработку Clarifai, когда она помогла подготовить проект презентации Clarifai для контракта Maven в июне 2017. В презентации утверждается, что технология Clarifai, разработанная для коммерческих клиентов, может быть адаптирована под военных, для таких целей, как обнаружение и подсчет автомобилей и людей, по данным предоставляемым Дронами. Лю говорит, что Clarifai выиграла контракт на шесть месяцев, в 7 миллионов долларов. Как и Google, Clarifai работала над Maven в качестве субподрядчика «ECS Federal», ИТ-подрядчика со штаб-квартирой в Fairfax, штат Вирджиния.

Контракт Maven был большой победой для Clarifai. Внутренний документ конца 2017 года показывает, что до этого большинство контрактов стартапа были меньше, чем на $100,000. Но Лю и другие, знакомые с проектом, говорят, что руководство скрыло тот факт, что Clarifai стала участвовать в военной разработке, описывая проект в целом как правительственный контракт,который может спасти жизни. Два человека, которые работали над проектом, говорят, что они изначально не были проинформированы о том, что технология наблюдения, которую они строили, была для военных.

Текущие и бывшие сотрудники Clarifai сказали, что около 10 человек работали над контрактом Maven, в комнате без окон, позже помеченной как «Тайная комната». Для некоторых, цель проекта полностью раскрылась только тогда, когда, более чем через месяц, госслужащие, которые, по-видимому, были военнослужащими, посетили офисы Clarifai, чтобы обсудить разрабатываемую систему.

В начале ноября Clarifai была проинформирована интернет-провайдером Cogent, что один из его серверов подвергся атаке. В отчете говорилось, что весь код компании и учетные данные учетной записи AmazonWebServices, сохраненные данные клиентов могли быть взломаны, и что вредоносная программа, по—видимому, попала с компьютера из России. Представитель Clarifai сказал, что расследование компании показало, что ни какие данные компании или код не были взломаны.

В журналах отчётности, генеральный директор, сообщал, что вредоносная программа пыталась связаться с компьютерами “во всем мире. "В том числе и некоторыми, принадлежащими правительству США. "Одним из них являлся сетевой информационный центр МО США.”

Лю говорит, что тогда на следующий день она услышала от других сотрудников, что компания подверглась нападению. Вскоре после этого, как говорится в ее жалобе, генеральный советник Clarifai, Кэролайн Маккаффери, вызвал ее, чтобы встретиться в кладовке.

Там, как утверждает Лю, Маккаффери подробно рассказал, о том, что руководство узнало о взломе и попросили помощи в планировании внутренних сообщений об инциденте. Лю говорит, что она высказала опасения, что Пентагон, и, возможно, другие клиенты Clarifai, должны быть проинформированы, но Маккаффери утверждал, что в этом нет необходимости, пока внутреннее расследование не было завершено.

Позже в тот же день, Маккаффери объявил на собрании компании, что никто не должен писать о взломе, со слов, бывших и действующих сотрудников. В своем иске Лю говорит, что в следующую запланированную встречу со своим менеджером,в повестку дня она добавила пункт о необходимости проинформировать правительство о взломе. Через несколько дней Лю была уволена.

Один из бывших и один из действующих сотрудников Clarifai сообщили, что компания не раскрыла инцидент Пентагону даже несколько недель спустя. Представитель компании сказал, что клиенты были уведомлены об инциденте, но отказались сказать, когда это произошло. В жалобе Лю говорится, что Пентагон узнал об этом инциденте другим способом, но она и её адвокат отказались говорить о подробностях.

Люс казали, что её уволили, потому что её работа не устраивала отдел продаж Clarifai. В её иске утверждается, что реальная причина увольнения была в том, что она призвала Clarifai сообщить Пентагону о взломе. Её жалоба была подана и в Министерство обороны, с указанием на то, что Clarifai нарушила правила Пентагона, не сообщив об инциденте в течение 72 часов, и нарушила законодательство, запрещающее репрессии против сотрудников, пытающихся раскрыть информацию о нарушениях правил департамента. Представитель Clarifai подтвердил, что Лю была уволена в ноябре 2017 года, но отрицал, что компания сделала это из-за взлома.

Как сообщают источники знакомые с ходом работ, в начале этого года контракт Clarifai, связанный с проектом Maven, был продлен на два месяца, потому что Пентагону понравились технологии, разработанные компанией.