И восстанут не машины: как люди становятся объектом контроля ИИ и к чему это приведет

Фантаст Айзек Азимов оказался не прав: если уж мы и увидим войну людей и технологий, то инициирует ее человек. Как и почему это возможно, размышляет основатель фонда поддержки IT-стартапов «Спутник» Максим Пудалов. 

Тема использования роботов с искусственным интеллектом существует в научной фантастике с середины XX века. Как известно, в своих произведениях ее активно развивал фантаст Айзек Азимов, предсказавший многие тренды современности и сформулировавший знаменитые три закона робототехники. Сюжет быстро нашел отклик у последователей-фантастов и отражение в героях произведений разных форматов и времен — от Электроника до Терминатора. Особенно впечатляющим оказался нарратив о том, что человек будет эксплуатировать роботов, и это приведет к восстанию машин.

Однако реальность показывает, что история пошла по другому, возможно, более драматичному пути. Пусть пока мы используем слабый искусственный интеллект, но тренд уже очевиден: люди продолжат работать, но контролировать их будут машины. Это станет фактором еще большей сегрегации общества, и если уж нас и ждут бунты мирового масштаба, то скорее людей против людей. Или против роботов, людьми управляемых.

Всепроникающий контроль технологий

Почти ни одна сфера жизни уже не обходится без помощи технологий. Беспилотные доставщики привозят продукты. Навигаторы и автопилоты помогают передвигаться по городу, умные алгоритмы — выбирать контент и партнеров. Но помощь во многих сферах постепенно становится контролем. По всему миру растет применение технологий, которые следят за тем, где мы находимся, какую информацию потребляем, кому переводим деньги, как мы работаем, достаточно ли хорошо себя чувствуем и не нарушаем ли закон.

Так, по сообщению WSJ, после пандемии количество американских работодателей, использующих технологии для отслеживания действий сотрудников и их продуктивности, выросло с 30% до 60%. Среди них — Amazon, который с помощью ИИ замеряет время между заданиями складских сотрудников и даже уведомляет о прекращении контракта. Известно, что крупные российские ретейлеры тоже активно роботизируют склады — в том числе с помощью голосовых технологий, которые постоянно сопровождают складской персонал. Тренд на HR-роботизацию будет распространяться на все сферы, где нехватка кадров ощущается особенно остро.

До 2033 года, по оценкам FMI, на 16,1%  вырастет и мировой рынок технологий распознавания лиц. Их возможности постепенно приближаются к безграничным: от оценки эмоционального состояния человека до определения людей определенной национальности (такую технологию запатентовал Huawei для применения в Китае), не говоря уж о банальной идентификации и локализации граждан. Примечательно, кстати, что основными поставщиками систем ИИ-наблюдения являются Китай и США, а 51% их применения приходится на демократические, а не авторитарные страны.

Технологии самого видеонаблюдения тоже предоставляют множество возможностей. В аэропортах с их помощью не только удается находить оставленный без присмотра багаж и измерять расстояние между пассажирами в очередях, что было актуально во время карантина, но и выявлять курение в неположенных местах, распознавать подозрительное поведение и даже оружие в толпе. Борьба с нарушениями во всех видах — вообще самый заметный сегмент использования ИИ, что логично. Банки и другие финансовые учреждения используют ИИ для анализа трансакций и предотвращения мошенничества. Полиция США обучила модель, которая предсказывает возможные места и время преступлений. В России дорожные службы автоматически фиксируют нарушения ПДД, в Сингапуре помогают предотвращать их, анализируя трафик, а автомобильные системы вроде Tesla или отдельных приложений отслеживают признаки усталости водителя.

Но, пожалуй, наиболее любопытный тренд заключается в том, что технологии контролируют не только общественное, но и частное поведение людей. Пока существует в виде предсказательных моделей, но наверняка найдет практическое применение распознавание признаков депрессии и суицидальных мыслей среди пользователей соцсетей. Идет работа над моделями, которые выявляют неуспеваемость студентов. А у каждого из нас наверняка есть история, когда гаджеты «подслушали» желание и незаметно привели на сайт с нужным товаром или услугой. Это примеры мягкой силы — самой эффективной и коварной, потому что она нами даже не осознается.

Незаменимый потребитель

Да, технологизация приводит не только к контролю, но и к частичной замене человека роботами в экономических процессах. Но заявления о том, что люди будут освобождены от труда, все же преждевременны. 

Во-первых, как бы ни развивалась научная мысль, очень многие задачи с точки зрения той же экономики целесообразней выполнять человеку. Полезные ископаемые, из которых делаются компьютеры, — ресурс невозобновляемый. А человек — ресурс возобновляемый, да еще и воспроизводимый самостоятельно. Так что в одних случаях человеческое участие будет обусловлено дороговизной технологий, как происходит сейчас с компьютерным зрением, в других — созданием новых рабочих мест вокруг автоматизированных функций. 

Во-вторых, даже самый развитый ИИ никогда не станет потребителем экономических благ. Потреблять может только человек, а чтобы ему было на что покупать товары и услуги, он должен как-то зарабатывать.

Наконец, мы пока не видим предпосылок к тому, чтобы даже сильный ИИ смог подчинить себе творческий акт. И речь не о создании картинок, видео или музыки, с которыми ИИ уже прекрасно справляется, а о созидании. То есть о зарождении идеи, выборе оптимального пути для ее воплощения в непредсказуемых условиях, об убеждении других в верности такого выбора и об управлении ресурсами для ее реализации. Даже программирование самого ИИ происходит только благодаря творческому акту разработчиков. Это то, что мы пока не можем автоматизировать и, скорее всего, перестанем пытаться. Ведь зачем отказываться от власти не только над роботами, но и над другими людьми? 

Высший контроль над машинами останется за человеком, но доступен он будет немногим. Именно способность к творчеству может расколоть человечество, а технологизация станет лишь триггером.

Божья искра мирового пожара

Общество и так уже разделено на тех, кто воспроизводит что-то по заданному образцу, и на тех, кто инициирует и созидает. Однако дальнейшее развитие информационных систем сильно снижает требования к первым и кратно увеличивает возможности вторых. Раньше для работы таксистом нужно было знать город, а сейчас достаточно навигатора. Раньше хороший дизайнер за час мог нарисовать столько, сколько успеет сам, а теперь вышел на новый уровень, потому что использует нейросети, как талантливый художник — подмастерье. Одновременно с этим рабочий на заводе делает все более простую работу, тогда как его менеджер контролирует еще больше данных по выработке, которых раньше не знал. 

Лидерство, креативное мышление и аналитический склад ума уже сейчас входят в топ самых востребованных навыков в мире, а в будущем и вовсе станут пропуском в жизнь. Но обходится их развитие недешево. Детские сады и школы, которые учат детей думать нестандартно, могут позволить себе немногие семьи. Разрыв по возможностям в образовании между бедными и богатыми уже велик и продолжит расти. Возможно, ситуацию смягчит увеличение среднего уровня жизни благодаря тем же технологиям, а также помощь общественных институтов, создающих социальные лифты для одаренных юношей и девушек. Но глобально процесс цивилизационного расслоения на тех, кто контролирует ИИ, и на тех, кого контролирует ИИ, уже запущен. 

Выбрать сторону нужно уже сейчас, пока влияние технологий еще не так велико.

Автор: Максим Пудалов