Система распознавания лиц как идеальная машина угнетения

Предисловие

В последнее время я довольно часто натыкаюсь на мнение, что жить стало лучше, жить стало веселее. А причиной такому радикальному улучшению жизни простого народа является ни что иное, как технический прогресс, который на днях, а может быть, и раньше неизбежно приведёт к всеобщему благорастворению воздусей и невиданному счастью безо всякого богопротивного коммунизма. Разумеется, отрицать волшебный положительный эффект от приобретения последнего айфона было бы просто глупо. Но и надеяться на технологию, как на панацею, разумному человеку тоже не подобает.

Наши западные друзья, продолжая что-то подозревать про нынешнюю инкарнацию капитализма, написали довольно интересную статью на тему опасности злоупотребления высокими технологиями. Предупреждаю, многабукав! Для тех, кто боится не осилить, дам краткое резюме: «если у вас нет паранойи, это ещё не значит, что за вами никто не следит». Более любознательным же читателям, коих тут, несомненно, большинство, предлагаю ознакомиться и высказать своё ценное мнение в каментах: как вы полагаете, если технология, оказавшись в нечистых руках, может стать опасным оружием, возьмёмся ли мы гарантировать чистоту рук корпораций или правоохранительных органов?

При такой серьезной угрозе неприкосновенности частной жизни и гражданских свобод, следует отказаться от регламентирования в пользу прямого запрета

Жители Трои были бы в восторге от системы распознавания лиц.

Легко поверить в воодушевляющее, но, конечно, иллюзорное представление о том, как будет выглядеть будущее, в котором будет реализован весь потенциал технологии распознавания лиц. Вам никогда больше не придётся встретить незнакомца, суетиться с паролями или беспокоиться о том, что вы забыли свой кошелек. Вы сможете организовать всю свою видео- и фотоколлекцию за считанные секунды – даже мгновенно найдёте фотографии ваших детей, бегающих в летнем лагере. Что еще более важно, пропавшие люди будут разысканы, школы станут безопасными, а плохие парни не смогут скрыться в тени или залечь на дно.

Полное удобство. Абсолютная справедливость. Церкви полны по воскресеньям. Наконец, наша техно-утопия воплотится в жизнь.

Соблазненные этим видением, люди будут с удовольствием устанавливать технологию распознавания лиц в свои дома и на свои устройства, позволяя ей играть центральную роль во всё большем числе аспектов своей жизни. Вот так захлопывается мышеловка, и нелицеприятная правда выходит наружу: технология распознавания лиц – это угроза, замаскированная под благо. Это инструмент для угнетения, перед которым невозможно устоять, который идеально подходит правительству для установления беспрецедентного авторитарного контроля и создания машины полной ликвидации личного пространства.

Нам не следовало бы пускать этого троянского коня в город.

Текущее обсуждение

Американский Комитет Гражданских Свобод (ALCU), совместно с почти семью десятками других правозащитных организаций, потребовал от Amazon прекратить продажу технологии распознавания лиц правительству и далее призвал Конгресс принять мораторий на использование государством технологии распознавания лиц. Их поддержали СМИ, и влиятельные голоса выразили беспокойство. В Washington Post редакционная коллегия заявила, что «Конгресс обязан вмешаться в самое ближайшее время». Даже некоторые члены Конгресса, многие из которых недавно были ошибочно идентифицированы программным обеспечением для распознавания лиц Amazon, по праву обеспокоены.

Мы тоже разделяем такую позицию. Вместе с группой других учёных мы призвали Amazon отказаться от подобной практики. В свою очередь, Брэд Смит, президент Microsoft, призвал правительство США законодательно ограничить использование технологии распознавания лиц. «Единственный эффективный способ управления использованием технологий правительством - это самому правительству активно управлять этим использованием ... Фактически, это то, что мы считаем сегодня необходимым – правительственная инициатива по регулированию надлежащего использования технологии распознавания лиц, основанная на предварительной рекомендации двухпартийной экспертной комиссии», – написал он в блоге Microsoft.

Корпоративное лидерство важно, и регулирование, которое налагает ограничения на технологию распознавания лиц, может быть полезным. Но частичной защиты и «четко сформулированных рекомендаций» никогда не будет достаточно. Независимо от того, насколько эффективным окажется законодательное регулирование, ограничения, вероятно, не успеют вступить в силу до момента, когда технология сканирования лиц не станет намного дешевле и проще в использовании. Смит, похоже, сам это подтверждает, хоть и непреднамеренно. Он подчеркивает, что «Microsoft призвала к принятию национального законодательства о личной безопасности в Соединенных Штатах в 2005 году». Ну, на дворе уже 2018 год, и Конгресс ещё даже не начинал ничего принимать.

Если технология распознавания лиц продолжит беспрепятственно развиваться и развертываться, будет построена огромная инфраструктура, и нам придётся с ней жить. История показывает, что широко обнародованные успехи, страх неспособности поддерживать безопасность, и абсолютное опьянение властью будет соблазнять на превышение полномочий, мотивировать торможение процесса и, в конечном итоге, приведет к систематическим злоупотреблениям.

Почему необходим запрет

Призыв полностью запретить системы распознавания лиц является экстремальным. Действительно умные ученые, такие как Джудит Донат, утверждают, что это –  неправильный подход. Она предлагает более технологически нейтральную тактику, основанную на более широких правилах, определяющих конкретные виды деятельности, которые должны быть запрещены, вред, которого следует избегать, а также ценности, права и ситуации, которые мы пытаемся защитить. И мы согласны с таким подходом, когда дело касается почти любой другой цифровой технологии.

Но мы убеждены, что технология распознавания лиц является самым уникально опасным механизмом наблюдения, который когда-либо был изобретен. Это недостающее звено в и без того уже зловещей инфраструктуре наблюдения, построенной потому, что эта инфраструктура выгодна как государственному, так и частному секторам. И когда технологии становятся настолько опасными, а отношение вреда к выгоде становится таким несбалансированным, заслуживают рассмотрения категорические запреты. Закон уже запрещает определенные виды опасных цифровых технологий, таких как шпионское ПО. Технология распознавания лиц гораздо опаснее. Её стоит выделить в особую категорию, с конкретным запретом на основе надежной, целостной, основанной на ценностях и в значительной степени нейтральной с точки зрения технологий нормативной базы. Такая многоуровневая система поможет избежать нормативной гонки, когда законодатели не успевают за технологическим прогрессом.

Слежка, проводимая с помощью систем распознавания лиц, по сути своей является репрессивной. Само существование систем распознавания лиц, которые часто являются невидимыми, наносит ущерб гражданским свободам уже потому, что люди ведут себя иначе, если подозревают, что за ними следят. Даже законодательство, которое гарантирует строгие защитные процедуры, не сможет предотвратить холод, который скуёт важнейшие возможности человеческого развития, подавляя экспрессивное и религиозное поведение индивидов.

Технология распознавания лиц также допускает множество других злоупотреблений и агрессивных действий:

• Непропорциональное воздействие на людей с другим цветом кожи и на другие меньшинства и уязвимые группы населения.
• Извращение правосудия, которое может означать отказ от идеала презумпции невиновности в пользу идеи «людей, которые еще не были признаны виновными в совершении преступления».
• Содействие преследованиям и насилию.
• Отрицание основополагающих гражданских прав, таких как защита от «произвольного государственного контроля за передвижениями, привычками, отношениями, интересами и мыслями».
• Удавка неотвратимого, совершенного поддержания законности.
• Практическая ликвидация «недоступности информации».
• Усиление капитализма всеобщей слежки.

Как справедливо замечает исследователь распознавания лиц Клэр Гарви, ошибки в технологии могут иметь смертельные последствия:

«Что произойдет, если в такой системе произойдёт сбой? Ошибка системы видеонаблюдения может означать, что невиновный человек подвергнется слежке, попадёт под следствие, и, возможно, даже подвергнется аресту и обвинению в совершении преступления, которое он не совершал. Ошибка системы распознавания лиц на персональной полицейской телекамере может быть смертельной. Офицер, предупрежденный о потенциальной угрозе общественной безопасности или самому себе, должен в одно мгновение решить, использовать ли ему оружие. Ложное предупреждение ставит невинного человека под прицел».

В двух отчетах, среди прочих, подробно описаны многие из этих проблем. Есть бесценная статья, написанная Дженнифер Линч, старшим штатным юристом в Electronic Frontier Foundation, «Face Off: использование технологии распознавания лиц правоохранительными органами». И есть незаменимое исследование «Бесконечная очередь» из Центра по вопросам Конфиденциальности и Технологии в Джорджтауне в соавторстве с Клэр Гарви, Альваро Бедоя и Джонатаном Франкле. Наше мнение глубоко подкрепляется этими скрупулёзными научными работами, и мы призываем всех, кто интересуется этой темой, внимательно их изучить.

Несмотря на проблемы, описанные нашими коллегами, вы можете скептически относиться к необходимости запрета. В конце концов, другие технологии представляют собой аналогичные угрозы: данные геолокации, данные социальных сетей, данные истории поиска и так много других составляющих наших следов в «больших данных» могут быть очень раскрывающими сами по себе и прямо подвергающими переоценке ценностей в совокупности. И все же распознавание лиц остается уникально опасным. Даже среди биометрий, таких как отпечатки пальцев, образцы ДНК и сканирование радужной оболочки глаза, распознавание лица стоит отдельно.

Системы, которые используют отпечаток лица, имеют пять отличительных признаков, которые оправдывают выделение их в запретную категорию. Во-первых, лица трудно скрыть или изменить. Они не могут быть зашифрованы, в отличие от жесткого диска, электронной почты или текстового сообщения. Их можно распознавать с удаленных камер, и эти изображения всё более и более дёшевы для получения и хранения в облаке - тенденция, которая сама по себе позволяет расползание слежки.

Во-вторых, имеются уже существующие базы данных имён и лиц, например, для водительских прав, полицейских досье и профилей социальных сетей. Это облегчает дальнейшую эксплуатацию благодаря механизмам «подключи и работай».

В-третьих, в отличие от традиционных систем наблюдения, для которых часто требуются новые дорогостоящие аппаратные средства или новые источники данных, приборы для распознавания лиц уже широко распространены и сейчас находятся в широкой доступности, а именно, камеры видеонаблюдения и индивидуальные камеры офицеров полиции.

В-четвертых, переломный момент. Любая система распознавания, созданная для идентификации арестованных или пойманных на камеру людей, требует создания соответствующей инфраструктуры, которая с помощью нескольких строк кода может применяться для анализа информации с личных видеокамер или каналов видеонаблюдения в режиме реального времени. Нью-йоркский губернатор Эндрю Куомо прекрасно выразил логику расползания технологии распознавания лиц, настаивая на том, что сканирование автомобильных номеров незначительно по сравнению с тем, что камеры могут делать после подключения технологии распознавания лиц. «Когда она считывает этот номерной знак, она считывает его для поимки мелких нарушителей ... [но] штраф является почти наименее значительным вкладом, который может обеспечить это электронное оборудование», – сказал Куомо. «Мы переходим к технологии распознавания лиц, которая выводит его на совершенно новый уровень, где оно может распознавать лицо человека в автомобиле и сверять его с базой данных». Если вы построите такую технологию, они будут следить за нами.

Наконец, следует отметить, что лица, в отличие от отпечатков пальцев, походки или радужки, являются основой нашей идентичности. Лица являются каналами между нашей реальной и виртуальной жизнью, и они могут быть нитью, которая связывает все наши действия под реальным, анонимным и псевдонимным именем. Легко думать, что у людей нет особой заинтересованности скрывать лица, потому что многие из нас регулярно показывают их публично. Действительно, за пределами районов, где распространена паранджа, скрывание лица часто вызывает подозрение.

В действительности же у нас есть интерес к ограничению доступа к нашим лицам, и это потому, что люди исторически развивали ценности и институты, связанные с защитой конфиденциальности в периоды, когда было трудно идентифицировать большинство людей, которых мы не знаем. Благодаря биологическим ограничениям человеческая память не безгранична; без помощи технологий, мы можем вспомнить только ограниченное количество лиц. И благодаря размеру и распределению населения, мы будем сталкиваться с определённым числом людей в течение нашей жизни. Эти ограничения создают зоны неясности, и благодаря ним люди с большим успехом скрываются на публике.

Недавние решения Верховного Суда о 4-й поправке показали, что борьба за защиту частной жизни в общественных местах не устаревает. Именно этим летом, в деле Карпентера против Соединенных Штатов, наш высший суд постановил голосованием в 5 против 4 голосов, что Конституция защищает данные о местонахождении мобильного телефона. Основываясь на мнении большинства, главный судья Джон Робертс писал: «Человек не отказывается от защиты четвертой поправки, вступая в общественную сферу. Напротив, «то, что [один] стремится сохранить как частное, даже в доступной для общественности области, может быть защищено конституцией».

Почему технология распознавания лиц не может быть регламентирована

Поскольку технология распознавания лиц представляет собой чрезвычайную опасность, общество не может позволить себе полагаться на внутренние процессы реформ, такие как саморегуляция. Финансовая выгода будет стимулировать предпринимательский подход, который расширит пределы технологии распознавания лиц, и корпоративное лоббирование сильно подтолкнёт в этом направлении.

Общество также не может дожидаться народного восстания. Технология распознавания лиц будет по-прежнему продаваться в качестве компонента новейших и лучших приложений и устройств. Apple уже подает Face ID как лучшую новую функцию своего нового iPhone. То же самое относится к идеологически заряженному освещению новостей о событиях, когда технология распознавания лиц, предположительно, приходит на помощь в безвыходных ситуациях.                                                                                       

Наконец, общество не должно возлагать надежды на традиционные подходы к регулированию. Поскольку технология распознавания лиц представляет собой уникальную угрозу, ее нельзя сдерживать мерами, которые определяют надлежащее и ненадлежащее использование и которые надеются сбалансировать потенциальную социальную выгоду с помощью сдерживания нечистоплотных участников. Это одна из редких ситуаций, требующих абсолютного запрета, что-то вроде Оттавского договора о пехотных минах.

В настоящее время существует немного разумных предложений по контролю использования технологии распознавания лиц и даже меньше реальных законов, ограничивающих его. Например, биометрические законы в Иллинойсе и Техасе заслуживают похвалы, но они следуют традиционной стратегии регулирования, требующей от тех, кто будет собирать и использовать распознавание лиц (и другие биометрические идентификаторы), следовать базовому набору методов по не предвзятой обработке информации и протоколов конфиденциальности. К ним относятся требования к получению информированного согласия до сбора, обязательные обязательства по защите данных и ограничения на их хранение, запреты на получение прибыли от продажи биометрических данных, ограничения на раскрытие биометрических данных другим лицам и, в частности, частные основания исков по нарушениям уставов.

Предлагаемые законы распознавания лиц следуют аналогичным образцам. Федеральная торговая комиссия рекомендует аналогичный подход к «уведомлению, сбору и справедливым границам данных» для распознавания лиц. Отчет Electronic Frontier Foundation, в котором основное внимание уделяется правоохранительной деятельности, содержит похожие, хоть и более веские предложения. К ним относятся ограничения на сбор и хранение данных; рекомендуя ограничить комбинацию одной или нескольких биометрий в одной базе данных; определение четких правил использования, совместного доступа и безопасности; и предоставление уведомлений, аудиторских проверок и независимого надзора. В своём типовом законодательстве о распознавании лиц Юридический Центр Джорджтауна по Конфиденциальности и Технологиям предлагает ввести существенные ограничения на доступ правительства к базам данных цифровых образов, а также значимые ограничения на использование распознавания лиц в режиме реального времени.

К сожалению, большинство из этих существующих и предлагаемых требований носят процедурный характер, и, на наш взгляд, они не смогут в конечном счете остановить расползание слежки и распространение инфраструктуры сканирования лиц. Во-первых, некоторые из основных предположений о согласии, уведомлении и выборе, которые встроены в существующие законодательные рамки, являются ошибочными. Информированное согласие как регуляторный механизм наблюдения и практики данных является впечатляющим провалом. Даже если бы люди получили весь контроль в мире, они не смогли бы осмысленно его использовать.

Тем не менее законодатели и индустрия плетутся, не обращая внимания на время людей и ограниченность ресурсов. Мало того, эти правила, как и большинство правил конфиденциальности в эпоху цифровых технологий, пронизаны дырами. Некоторые из уставов применяются только к тому, как собираются или хранятся данные, но в основном игнорируют, как они используются. Другие применимы только к коммерческим субъектам или к правительству и настолько неоднозначны, что позволяют все виды пагубной деятельности. И признание разрекламированных преимуществ распознавания лиц повлечёт большее количество камер, большую инфраструктуру и всеобъемлющие базы данных.

Будущее человеческих лиц

Поскольку технология распознавания лиц обещает перевести то, кто мы есть, и куда бы мы не пошли в отслеживаемую информацию, которая может практически мгновенно быть сохранена, обнародована и проанализирована, её будущее развитие угрожает сделать нас постоянно скомпрометированными. Будущее человеческого процветания зависит от того, успеют ли запретить технологию распознавания лиц до того, как системы станут слишком укорененными в нашей жизни. В противном случае люди не будут знать, что значит выйти на публику, не будучи автоматически идентифицированными, профилированными и потенциально используемыми. В таком мире критики технологии распознавания лиц будут лишены голоса, их заставят замолчать или исчезнуть.

Автор: Вудроу Харцог 

В соавторстве с Эваном Селингером