Рус­ские взло­ма­ли суб­под­ряд­чи­ка Пен­та­го­на по ИИ

Быв­ший со­труд­ник Эми Лю, в рам­ках иска к аме­ри­кан­ской фирме Clarifai утвер­жда­ет, что фирма была взло­ма­на одним или несколь­ки­ми людь­ми из Рос­сии, в ре­зуль­та­те чего, ве­ро­ят­но тех­но­ло­гии, ис­поль­зу­е­мые аме­ри­кан­ски­ми во­ен­ны­ми до­ста­лись про­тив­ни­ку. В иске го­во­рит­ся, что ру­ко­вод­ство Clarifai узна­ло о взло­ме в но­яб­ре про­шло­го года, но не со­об­щи­ло об этом Пен­та­го­ну, а когда Эми Лю - быв­ший ка­пи­тан ВВС, по­пы­та­лась рас­крыть ин­ци­дент, она была уво­ле­на.

Дру­гой быв­ший со­труд­ник ска­зал из­да­нию WIRED, что дей­ствия ру­ко­вод­ства фирмы по по­во­ду взло­ма, по­бу­ди­ли его по­ки­нуть ком­па­нию.

Фирма Clarifai ра­бо­та­ла над ча­стью про­ек­та Пен­та­го­на Maven, по на­пол­не­нию аме­ри­кан­ских во­ору­жен­ных сил ис­кус­ствен­ным ин­тел­лек­том. Про­ект Maven вы­звал бунт внут­ри Google, ко­то­рый взял на себя ана­ло­гич­ный кон­тракт по ана­ли­зу ин­фор­ма­ции с Дро­нов. Более 4500 со­труд­ни­ков Google под­пи­са­ли пись­мо, про­те­стуя про­тив про­ек­та, за­явив, что они не хотят, чтобы тех­но­ло­гия Google по­тен­ци­аль­но по­мо­га­ла уби­вать людей. Про­тест по­бу­дил ком­па­нию вы­пу­стить эти­че­ские прин­ци­пы, ре­гу­ли­ру­ю­щие ис­поль­зо­ва­ние ИИ тех­но­ло­гии, и обе­ща­ние не про­дле­вать свою часть в про­ек­те Maven, по ис­те­че­нию кон­трак­та, в сле­ду­ю­щем году.

Фирма Clarifai от­ка­за­лась ком­мен­ти­ро­вать, ра­бо­тал ли она над про­ек­том Maven. Пред­ста­ви­тель фирмы ска­зал, что ин­ци­дент с без­опас­но­стью свя­зан с ”неце­ле­вым ботом", ко­то­рый за­ра­зил ис­сле­до­ва­тель­ский сер­вер, но не по­лу­чил до­сту­па к каким-​либо дан­ным или коду. Пред­ста­ви­тель ска­зал, что кли­ен­ты были уве­дом­ле­ны об этом ин­ци­ден­те, но от­ка­зал­ся ска­зать, был ли Пен­та­гон в их числе.

Clarifai был ос­но­ван в 2013 году Мэтью Зей­ле­ром, ко­то­рый изу­чал ма­шин­ное обу­че­ние на­ря­ду с про­фес­со­ра­ми, ко­то­рые позже стали ве­ду­щи­ми ис­сле­до­ва­те­ля­ми ИИ в Google и Facebook. Стар­тап пред­ла­га­ет ком­па­ни­ям рас­по­зна­ва­ние об­ра­зов под такие за­да­чи, как рас­по­зна­ва­ние зна­ме­ни­то­стей и про­дук­тов пи­та­ния.

Лю го­во­рит, что от­сут­ствие про­зрач­но­сти и пло­хая без­опас­ность, ко­то­рую она на­блю­да­ла в Clarifai, сде­ла­ли её непри­год­ным ме­стом для этой ра­бо­ты. ”Если сей­час Google не будет ра­бо­тать, и все, что у них оста­нет­ся, - это такие ком­па­нии, как Clarifai, - ска­за­ла Лю.

Лю го­во­рит, что она была втя­ну­та в во­ен­ную раз­ра­бот­ку Clarifai, когда она по­мог­ла под­го­то­вить про­ект пре­зен­та­ции Clarifai для кон­трак­та Maven в июне 2017. В пре­зен­та­ции утвер­жда­ет­ся, что тех­но­ло­гия Clarifai, раз­ра­бо­тан­ная для ком­мер­че­ских кли­ен­тов, может быть адап­ти­ро­ва­на под во­ен­ных, для таких целей, как об­на­ру­же­ние и под­счет ав­то­мо­би­лей и людей, по дан­ным предо­став­ля­е­мым Дро­на­ми. Лю го­во­рит, что Clarifai вы­иг­ра­ла кон­тракт на шесть ме­ся­цев, в 7 мил­ли­о­нов дол­ла­ров. Как и Google, Clarifai ра­бо­та­ла над Maven в ка­че­стве суб­под­ряд­чи­ка «ECS Federal», ИТ-​подрядчика со штаб-​квартирой в Fairfax, штат Вир­джи­ния.

Кон­тракт Maven был боль­шой по­бе­дой для Clarifai. Внут­рен­ний до­ку­мент конца 2017 года по­ка­зы­ва­ет, что до этого боль­шин­ство кон­трак­тов стар­та­па были мень­ше, чем на $100,000. Но Лю и дру­гие, зна­ко­мые с про­ек­том, го­во­рят, что ру­ко­вод­ство скры­ло тот факт, что Clarifai стала участ­во­вать в во­ен­ной раз­ра­бот­ке, опи­сы­вая про­ект в целом как пра­ви­тель­ствен­ный кон­тракт,ко­то­рый может спа­сти жизни. Два че­ло­ве­ка, ко­то­рые ра­бо­та­ли над про­ек­том, го­во­рят, что они из­на­чаль­но не были про­ин­фор­ми­ро­ва­ны о том, что тех­но­ло­гия на­блю­де­ния, ко­то­рую они стро­и­ли, была для во­ен­ных.

Те­ку­щие и быв­шие со­труд­ни­ки Clarifai ска­за­ли, что около 10 че­ло­век ра­бо­та­ли над кон­трак­том Maven, в ком­на­те без окон, позже по­ме­чен­ной как «Тай­ная ком­на­та». Для неко­то­рых, цель про­ек­та пол­но­стью рас­кры­лась толь­ко тогда, когда, более чем через месяц, гос­слу­жа­щие, ко­то­рые, по-​видимому, были во­ен­но­слу­жа­щи­ми, по­се­ти­ли офисы Clarifai, чтобы об­су­дить раз­ра­ба­ты­ва­е­мую си­сте­му.

В на­ча­ле но­яб­ря Clarifai была про­ин­фор­ми­ро­ва­на интернет-​провайдером Cogent, что один из его сер­ве­ров под­верг­ся атаке. В от­че­те го­во­ри­лось, что весь код ком­па­нии и учет­ные дан­ные учет­ной за­пи­си AmazonWebServices, со­хра­нен­ные дан­ные кли­ен­тов могли быть взло­ма­ны, и что вре­до­нос­ная про­грам­ма, по—ви­ди­мо­му, по­па­ла с ком­пью­те­ра из Рос­сии. Пред­ста­ви­тель Clarifai ска­зал, что рас­сле­до­ва­ние ком­па­нии по­ка­за­ло, что ни какие дан­ные ком­па­нии или код не были взло­ма­ны.

В жур­на­лах от­чёт­но­сти, ге­не­раль­ный ди­рек­тор, со­об­щал, что вре­до­нос­ная про­грам­ма пы­та­лась свя­зать­ся с ком­пью­те­ра­ми “во всем мире. "В том числе и неко­то­ры­ми, при­над­ле­жа­щи­ми пра­ви­тель­ству США. "Одним из них яв­лял­ся се­те­вой ин­фор­ма­ци­он­ный центр МО США.”

Лю го­во­рит, что тогда на сле­ду­ю­щий день она услы­ша­ла от дру­гих со­труд­ни­ков, что ком­па­ния под­верг­лась на­па­де­нию. Вско­ре после этого, как го­во­рит­ся в ее жа­ло­бе, ге­не­раль­ный со­вет­ник Clarifai, Кэро­лайн Мак­каф­фе­ри, вы­звал ее, чтобы встре­тить­ся в кла­дов­ке.

Там, как утвер­жда­ет Лю, Мак­каф­фе­ри по­дроб­но рас­ска­зал, о том, что ру­ко­вод­ство узна­ло о взло­ме и по­про­си­ли по­мо­щи в пла­ни­ро­ва­нии внут­рен­них со­об­ще­ний об ин­ци­ден­те. Лю го­во­рит, что она вы­ска­за­ла опа­се­ния, что Пен­та­гон, и, воз­мож­но, дру­гие кли­ен­ты Clarifai, долж­ны быть про­ин­фор­ми­ро­ва­ны, но Мак­каф­фе­ри утвер­ждал, что в этом нет необ­хо­ди­мо­сти, пока внут­рен­нее рас­сле­до­ва­ние не было за­вер­ше­но.

Позже в тот же день, Мак­каф­фе­ри объ­явил на со­бра­нии ком­па­нии, что никто не дол­жен пи­сать о взло­ме, со слов, быв­ших и дей­ству­ю­щих со­труд­ни­ков. В своем иске Лю го­во­рит, что в сле­ду­ю­щую за­пла­ни­ро­ван­ную встре­чу со своим ме­не­дже­ром,в по­вест­ку дня она до­ба­ви­ла пункт о необ­хо­ди­мо­сти про­ин­фор­ми­ро­вать пра­ви­тель­ство о взло­ме. Через несколь­ко дней Лю была уво­ле­на.

Один из быв­ших и один из дей­ству­ю­щих со­труд­ни­ков Clarifai со­об­щи­ли, что ком­па­ния не рас­кры­ла ин­ци­дент Пен­та­го­ну даже несколь­ко недель спу­стя. Пред­ста­ви­тель ком­па­нии ска­зал, что кли­ен­ты были уве­дом­ле­ны об ин­ци­ден­те, но от­ка­за­лись ска­зать, когда это про­изо­шло. В жа­ло­бе Лю го­во­рит­ся, что Пен­та­гон узнал об этом ин­ци­ден­те дру­гим спо­со­бом, но она и её ад­во­кат от­ка­за­лись го­во­рить о по­дроб­но­стях.

Люс ка­за­ли, что её уво­ли­ли, по­то­му что её ра­бо­та не устра­и­ва­ла отдел про­даж Clarifai. В её иске утвер­жда­ет­ся, что ре­аль­ная при­чи­на уволь­не­ния была в том, что она при­зва­ла Clarifai со­об­щить Пен­та­го­ну о взло­ме. Её жа­ло­ба была по­да­на и в Ми­ни­стер­ство обо­ро­ны, с ука­за­ни­ем на то, что Clarifai на­ру­ши­ла пра­ви­ла Пен­та­го­на, не со­об­щив об ин­ци­ден­те в те­че­ние 72 часов, и на­ру­ши­ла за­ко­но­да­тель­ство, за­пре­ща­ю­щее ре­прес­сии про­тив со­труд­ни­ков, пы­та­ю­щих­ся рас­крыть ин­фор­ма­цию о на­ру­ше­ни­ях пра­вил де­пар­та­мен­та. Пред­ста­ви­тель Clarifai под­твер­дил, что Лю была уво­ле­на в но­яб­ре 2017 года, но от­ри­цал, что ком­па­ния сде­ла­ла это из-за взло­ма.

Как со­об­ща­ют ис­точ­ни­ки зна­ко­мые с ходом работ, в на­ча­ле этого года кон­тракт Clarifai, свя­зан­ный с про­ек­том Maven, был про­длен на два ме­ся­ца, по­то­му что Пен­та­го­ну по­нра­ви­лись тех­но­ло­гии, раз­ра­бо­тан­ные ком­па­ни­ей.