Кому и зачем нужен ИИ? Мысли по итогам одного совещания

Не так давно (30 мая 2019) состоялось совещание по обсуждению «Стратегии по развитию искусственного интеллекта» и дорожной карты к ней с участием В.В.Путина и многих заинтересованных лиц. Протокол совещания выложен здесь на АШ, и доступен на сайте Кремля. Мероприятие дало некоторую пищу для размышления о том, насколько наше руководство и околовластные «элиты» понимают сложность и масштаб проблемы, которую они бодро взялись решать. А речь, по мнению некоторых экспертов, идёт ни много ни мало об «экзистенциальной угрозе человечеству».

Следует отметить, что такое совещание (и такая Стратегия), просто не могло не случиться. Ещё бы, на совещании говорилось о том, что за последние пару лет уже в 30 странах приняты национальные стратегии развития ИИ. Естественно, наши интеллектуалы просто не могли смолчать, коль скоро поставлена задача выйти в лидеры по инновационному развитию.

Конечно, стратегия – дело хорошее. Писать хорошие документы за хорошие деньги наши чиновники научились. Смущает лишь история реализаций подобных стратегий в прошлом.  За науку у нас отвечают самые разные ведомства и организации, поэтому разных платформ, программ, стратегий научно-технологического и инновационного развития за последние 20 лет принято достаточно. Если не копать глубоко, то можно упомянуть:

•  

  избранные стратегии инновационного развития

  •  Технологические платформы, принятые решением президиума Правительственной комиссии по высоким технологиям и инновациям 21.02.2012. Там ИИ входит мелким шрифтом в одно из 10 направлений «Национальной программной платформы», рассчитанной до 2020 г., наряду с парой сотен других актуальных задач. Ссылки на перечень платформ есть на сайте Минэкономразвития, но последний документ по теме датирован декабрём 2012г. Составили, отчитались, забыли, иначе пришлось бы сопоставлять, что планировали достичь к 2020г., а что реально сделано.
  • Свой вклад пытается внести и РАН, которая работает по утвержденной Правительством РФ   3 декабря 2012 г. №2237-р «Программе фундаментальных научных исследований государственных академий наук на период 2013-2020 гг.». Там есть направление под номером 35 «Когнитивные системы и технологии, нейроинформатика и биоинформатика, системный анализ, искусственный интеллект, системы распознавания образов, принятие решений при многих критериях». Соответствующий пункт наличествует и в очередном «Плане фундаментальных исследований РАН до 2025г.», где есть раздел «Разработка фундаментальных проблем искусственного интеллекта, распознавания образов, оптимизации, проблемно-ориентированных систем и экспертных систем, основанных на знаниях». Разработан, наконец, и национальный проект «Наука» (срок реализации с октября 2018 до 2024г., в феврале 2019г. на сайте правительства опубликован его «Паспорт»). Проект сосредоточен на финансовой, кадровой и организационной стороне научных исследований, в том числе и по ИИ.
  • Национальная технологическая инициатива («Программа мер по формированию принципиально новых рынков и созданию условий для глобального технологического лидерства России к 2035 году», сайт) разработанная Агентством стратегических инициатив, АСИ (его представитель Дм.Песков выступал на совещании у Путина). Среди направлений есть NeuroNet, работа которого нацелена на создание «рынка средств человеко-машинных коммуникаций, основанных на передовых разработках в нейротехнологиях и повышающих продуктивность человеко-машинных систем, производительность психических и мыслительных процессов».
  • «Стратегия инновационного развития России на период до 2020г.» – СИР-2020, принята распоряжением Правительства РФ от 8.12.2011 в соответствии с Федеральным законом «О науке и государственной научно-технической политике». В тексте есть ссылка на предыдущие документы - В 2005 году были утверждены «Основные направления политики Российской Федерации в области развития инновационной системы на период до 2010 года», в 2006 году – «Стратегия развития науки и инноваций в Российской Федерации на период до 2015 года». Стратегия включает Перечень мероприятий (по годам) и список Целевых индикаторов для контроля выполнения задач Стратегии.
  • «Стратегия научно-технологического развития Российской Федерации».  Утверждена Указом Президента Российской Федерации от 1 декабря 2016 г. № 642, которая ссылается на Федеральный закон от 28 июня 2014 г. № 172-ФЗ «О стратегическом планировании в Российской Федерации». Как ни странно, в данном документе нет никакого упоминания предыдущей Стратегии, а также итогов её реализации. Именно в этом документе в качестве одного из основных приоритетов научно-технического развития на ближайшие 10-15 лет назван «переход к передовым цифровым, интеллектуальным производственным технологиям, роботизированным системам, новым материалам и способам конструирования, создание систем обработки больших объемов данных, машинного обучения и искусственного интеллекта». Собственно, из этого документа и проистекла обсуждаемая Стратегия по развитию ИИ.

   

Далее я систематизировал материалы совещания, взяв важные соображения из разных выступлений.

Как разработчики Стратегии сформулировали цели развития ИИ? Вот так:

1. Рост благосостояния и качества жизни людей
2. Стимулирование экономического роста
3. Обеспечение национальной безопасности и охраны правопорядка

(довольно политкорректно, только цель №3 явно выглядит приоритетной).

Сформулированы ровно 6 движущих факторов развития ИИ:

1. Алгоритмы и математические методы
2. Программное обеспечение
3. Хранение, сбор и обработка данных
4. Разработка специализированного аппаратного обеспечения
5. Подготовка кадров
6. Нормативное регулирование

Собственно, тезисы о «наращивании кадрового интеллектуального потенциала» и «настройки нашего законодательства на новую технологическую реальность», о которых говорит Путин, уже более 10 лет кочуют из программы в программу, из стратегии в стратегию. К этому чиновники привыкли и резонно полагают, что «отвечать за базар» и в этот раз, вряд ли придётся. 

Конкретика, за которую придётся отчитываться, сосредоточена в первых 4-х пунктах. Так, основным направлением Стратегии станет «создание принципиально новых фундаментальных заделов, математических методов, принципов работы искусственного интеллекта, в том числе по аналогии с человеческим мозгом».

Стоп, теперь настало время разобраться, про какой ИИ вообще шла речь на совещании. Во избежание недоразумений, сразу приведу определения, которыми я буду руководствоваться (Tim Urban The AI Revolution: The Road to Superintelligence )

• Слабый ИИ - Artificial Narrow Intelligence (ANI):

Это ИИ специализирующийся на конкретной задаче/проблеме. И, зачастую, превосходящий человека в решении этой задачи. Например, шахматная программа обыграла человека, но она умеет только это.  Речь идёт о различного рода экспертных системах, как правило, работающих с большими объёмами данных.

• Сильный ИИ - Artificial General Intelligence (AGI):

Его ещё называют ИИ человеческого уровня (например, Универсальный Человекоподобный Интеллект – УЧИ). Так называют ИИ, который сравнялся с человеком в решении  любых интеллектуальных и творческих задач.

• Супер ИИ Artificial Superintelligence (ASI):

По определению Ника Бострома (Nick Bostrom), эксперта в области ИИ из Оксфорда, это “интеллект, который намного превосходит наилучшие человеческие мозги в практически любой области, включая научное творчество, жизненную мудрость и социальные навыки”

Надо сказать, что участники совещания «путаются в показаниях». Скажем, Греф говорит, что ИИ повсюду и «наш смартфон – это маленькая фабрика искусственного интеллекта», явно имея ввиду именно слабый ИИ. Далее он же говорит, что в понятие «искусственного интеллекта» мы «вовнутрь погрузили пять таких элементов. Первое – это компьютерное зрение, это обработка естественного языка, это распознавание и синтез речи, это рекомендательные системы и системы принятия решений, и отдельно как направление – это перспективные методы и перспективные технологии искусственного интеллекта, в первую очередь это так называемые ML‑технологии, технологии автоматизированного машинного обучения». Именно эти направления он имеет ввиду, когда заверяет собравшихся, что «мы хотим разработать решения, которые могут обеспечить превосходство над человеком по специальным задачам … к 2030 году».

Здесь разработчики стратегии ничем не рискуют, так как подобные «решения» в ряде областей существуют уже сейчас (алгоритмы для интеллектуальных игр, медицинская диагностика, анализ big-data, алгоритмы для финансовых рынков, чат-боты и т.п.) и продолжают развиваться своим чередом безо всяких стратегий. Греф вынужден сделать необходимое пояснение, что «вообще, сегодня ключевая цель всех разработчиков ИИ – это построение так называемого общего интеллекта, общего искусственного интеллекта, или суперуниверсального, или суперсильного компьютерного интеллекта, который сможет решать любые задачи. Мы пока в стратегии эти цели не обозначили, наверное, это следующий этап, следующая стратегия». Он явно читал умные книги с определениями, но не стал вдаваться в подробности, свалив всё в одну кучу.

Но я уверен, что именно сильным ИИ размахивали перед президентом, уговаривая вложиться в Стратегию. Действительно, именно сильный ИИ имел ввиду Президент, говоря, что «… если кто‑то сможет обеспечить монополию в сфере искусственного интеллекта, – ну последствия нам всем понятны – тот станет властелином мира. …речь идёт не только об алгоритмах для отдельных, узкоспециальных задач. Нужны именно универсальные решения, использование которых даёт максимальный эффект, причём в любой отрасли». Мне кажется, что Президент ориентирован-таки на получение в результате именно сильного ИИ, тогда как разработчики, понимая всю масштабность задачи (несопоставимой выделенным ресурсам, о чём ниже), заранее подменяют одну цель другой.

О финансировании.

На реализацию Стратегии предполагается выделить 90 млрд.руб. (≈$1.4 млрд.) на 6 лет, т.е. около $230 млн. в год. Много это или мало? Для технологии, обладатель которой «станет властелином мира», по-моему, не слишком много. Ну, например, известные полковники вскладчину вполне могли бы из накопленных средств профинансировать год работ по стратегии. А в АО «Роснано» менее чем за 6 лет государство вложило 182 млрд.руб.  Основные конкуренты тратят на два порядка больше, понимая, сколь высоки ставки. На совещании прозвучали оценки, что страны, реализующие национальные стратегии в области ИИ инвестируют в год не менее чем 1 миллиард долларов, а «некоторые страны инвестируют темпом от 5 до 10 миллиардов долларов из государственного бюджета в год в эту технологию». И это только открытые источники финансирования, думаю, что основные деньги проходят через военные и силовые структуры.

Сроки и перспективы.

Если верить Грефу, то «в 2017 году началась повальная гонка… за лидерство, национальное лидерство в области искусственного интеллекта».  Скорее всего, Греф знает, что гонка стартовала лет на 50 раньше (так DARPA (Defense Advanced Research Projects Agency), управление Министерства обороны США, отвечающее за разработку новых технологий для использования в интересах вооружённых сил в «золотой век» ИИ в 1960-е гг. инвестировало в фундаментальные исследования ИИ в Университете Карнеги-Меллона, в Массачусетском технологическом институте, Стэнфордском университете и Стэнфордском исследовательском институте. Участвовал в гонке и СССР – первым чемпионом мира среди шахматных программ в 1974г. была  советская программа «Каисса»). Именно 2017г. выделяется лишь тем, что 1сентября 2017, в День Знаний,   В.В.Путин в одной из школ Ярославля произнёс известную фразу: "Искусственный интеллект — это будущее не только России, это будущее всего человечества. Здесь колоссальные возможности и трудно прогнозируемые сегодня угрозы. Тот, кто станет лидером в этой сфере, будет властелином мира".  Из конкретных сроков (помимо 2030, до которого будет действовать сама стратегия), прозвучали следующие:

• К 2024г. – войти в топ‑10 стран по образовательным программам в области искусственного интеллекта
• к 2024 году - войти в топ‑10 стран по количеству статей и участия в конференциях
• к 2030 году - войти в топ‑10 стран по среднему уровню цитируемости
• к 2030 году - устранить дефицит специалистов в области искусственного интеллекта.
• До 2030г. - обеспечить превосходство ИИ над человеком по специальным задачам

Бюрократически грамотные ориентиры. Скажем, образовательные программы бывают очень разными по содержанию и эффективности, важно иметь критерии оценки и сравнения. Равно как и публикации, и конференции, и пресловутый уровень цитируемости мало что доказывают, особенно в условиях санкций. Всё это опосредованно связано с результативностью исследований (грантоеды РФФИ не дадут соврать). У нас полностью устранён дефицит юристов и экономистов – и как это связано с качеством судебной системы и успехами экономики? Ну, а превосходство ИИ по специальным задачам, как я уже отмечал, можно оформлять прямо сейчас. Кроме того, планировать в нашей стране что-либо на период до 2030г. можно довольно уверенно. В связи с «проблемой 2024» вспоминается кейс Насреддина, осла и падишаха. До отчёта по результатам выполнения Стратегии в 2030г. может и не дойти.

Для сравнения, опрос о перспективах, проведённый Д.Барратом (автором книги «Последнее изобретение человечества: Искусственный интеллект и конец эры Homo sapiens») среди участников конференции по ИИ в 2014г., дал следующие результаты. Вопрос звучал так: к какому году будет получен сильный ИИ? Ответы:

• к 2030:   42% опрошенных
• к 2050:   25%
• к 2100:   20%
• после 2100: 10%
• никогда: 2%

Эти ответы заставляют сомневаться в правильности определения задач Стратегии, в которой вопрос о создании сильного ИИ по предложению Грефа отодвинут на дальнюю (и туманную) перспективу.

 Участники и бенефициары разработки Стратегии.

Координатором работ выступил Сбербанк, поэтому основным докладчиком был Г.Греф. Всё это делалось под эгидой вице‑премьера Правительства М.А.Акимова. Среди участников:

• Правительство (Министерство цифрового развития, Минэкономразвития, Минобразования, Минпромторг, Минпросвещения, Минздрав)
• Центральный банк
• Субъекты Федерации, главным образом Москва
• Коммерческие структуры (в том числе и с гос.участием): «Яндекс», «Мэйл.Ру», «Ростех», «Ростелеком», «Газпромнефть», «Росатом»,
• Вузы: Высшая школа экономики, Физтех, Сколтех, ИТМО,
• Прочие: Российская академия наук, РВК, АНО «Цифровая экономика».

Такой состав участников позволяет сделать вывод о том, что инициатором разработки Стратегии являются именно коммерческие структуры, которые убедили государственных чиновников, посулив им выгоды в сфере безопасности, электронного Правительства, обработки big-data и т.п. Звучал прямой призыв (от Воложа, "Яндекс", и Дюкова, «Газпром нефть») к министерствам и ведомствам «обеспечить запрос на инновации», которого просто нет сейчас. То есть, государство правовыми актами создаёт преференции инноваторам (например, технологические коридоры, типа запрета на лампы накаливания), а те разрабатывают всё подряд, включая ИИ. Такая вспомогательная роль государства подтверждается и словами вице-премьера Акимова: «Именно крупный российский бизнес должен и может стать основным участником мероприятий по развитию в Российской Федерации высокотехнологичных отраслей». Не случайно, инициатором, а теперь и координатором, движухи является Сбербанк. Для чего ИИ нужен Сбербанку? Вот о чём примерно идёт речь:

• Автоматизация работы колл-центра
• Борьба с мошенничеством
• Разработка персональных предложений
• Минимизация рутинных процессов

 Не поражает воображение. Оптимизация бизнес-процессов. Как итог – масштабное сокращение сотрудников и максимизация прибыли банковского бизнеса. Несмотря на инновационную оболочку, цели тех же Яндекса и Mail.ru также крутятся вокруг прибыли и повышения капитализации. Реализация Стратегии помимо гос.финансироавния будет полагаться на программы по ИИ, которые должны вести за свой счёт крупные коммерческие структуры. Такая программа есть у Сбера, у «Газпром нефти» (о ней на совещании говорил её ген.директор А.Дюков). Хотя, вряд ли понадобилась бы Стратегия, если крупный бизнес не рассчитывал бы на освоение средств бюджета. В качестве научных экспертов предполагается привлекать структуры ВШЭ, МФТИ, Сколтеха. Про институты системы РАН не упоминается (никто из академиков на совещании не был и не выступал). Как же тогда предполагается решать фундаментальные проблемы на пути разработки сильного ИИ?

Проблема кадров

Разработчики исходят из разумного тезиса о том, что для появления инноваций сначала должны появиться инноваторы. И здесь не всё так радужно. Именно поэтому, на совещании много говорили о кадрах. По словам Грефа, «сегодня у нас работает порядка 6–6,5 тысячи человек в этой области в стране, могу сказать, что только лаборатории искусственного интеллекта одного Microsoft на сегодняшний день насчитывают более 6,5 тысячи человек, а с помощником Alexa в компании Amazon работает 10 тысяч человек».

По словам Д.Пескова (из АСИ): «Разрыв по потребностям в кадрах сейчас настолько катастрофичный, что мы не смогли найти ни одного сценария, при котором мы могли бы ликвидировать отставание даже до 2030 года».

Натурально, есть два пути – готовить своих и приглашать чужих (либо возвращать бывших своих). Так, Путин прямо говорит, что «надо наращивать наш кадровый, интеллектуальный потенциал, сохранять свои таланты и привлекать лучших специалистов со всего мира». На первом направлении, справедливость ради, многое делает тот же Сбер, не дожидаясь помощи государства – создана «Школа 21» (где, собственно, и прошло совещание) по образцу французской школы программирования «Ecole 42»; работает Академия искусственного интеллекта для школьников. В рамках Стратегии предполагается создать 3 новых международных математических центра; в Москве РФПИ планирует создать центр развития ИИ на базе МГУ. С другой стороны, А.Волож из "Яндекса" проинформировал, что «в «Яндексе» за последние пару лет мы вернули сто специалистов из мировых компаний работать обратно у нас, и мы их привлекали, конечно, не столько зарплатами, сколько возможностью решения амбициозных задач и возможностью решать задачи, которые внедряются прямо у тебя на глазах».

Здесь уместны два комментария. Во-первых, вряд ли хотя бы половина тех, кто занимается сейчас ИИ, имеет диплом «Специалиста по ИИ». Здесь важнее фундаментальное образование в математике, физике, программировании (которое даёт тот же Физтех), а вникнуть в проблематику ИИ по конкретному направлению можно на уровне спецкурса. Во-вторых, по поводу возвращения и приглашения кадров из-за рубежа у меня есть большие сомнения. Думаю, что возвращаются те, кто занимается программированием и может, в принципе, заняться и ИИ. Те, кто уже серьёзно работает по ИИ и добился успеха, наверняка, на карандаше у бизнеса и спецслужб. И ему уже платят более чем достаточно. Если же это не россиянин, то поехать помочь России «стать властелином мира» ему вряд ли позволят. Это всё равно, что надеяться в 40-е годы прошлого века пригласить в СССР для совместных ядерных исследований участников Манхэттенского проекта. Иными словами, серьёзно рассчитывать, что лучшие умы (пусть даже за очень большие деньги) приедут подымать у нас ИИ-исследования не стоит. В условиях строительства нового «многополярного» мира здесь каждый будет сам за себя.

Соображения по итогам

(заранее оговорюсь, что это короткие и далеко не полные тезисы, которые я надеюсь развернуть в последующих заметках).

1. Очень хорошо, что движение в направлении разработки ИИ началось, пусть и с опозданием (как-никак, а 30 стран уже имеют аналогичные программы). Тема, действительно, исключительно важная. Она определит будущее нашей цивилизации, и не в далёкой перспективе, а на горизонте уже 10-15 лет. То есть, вполне вероятно, что наше поколение будет жить при коммунизме ИИ
2. Несмотря на то, что слова в Стратегии написаны правильные, а шаги по реализации предложены разумные, не покидает ощущение, что для большинства участников это сродни очередному «национальному проекту», «майскому указу», «технологической платформе» и т.п. Отсюда и методы предлагаются вполне традиционные. Нет осознания того, что мы имеем дело с вызовом уровня глобального изменения климата, падения астероида или атомной войны. И вместо обсуждения оптимизации бизнес-процессов на бензоколонках «Газпром нефти» лучше на уровне экспертного сообщества всерьёз обсудить потенциальные угрозы, которые несёт появление сильного ИИ. Как и для чего люди будут его использовать? Либо, как и для чего ИИ станет использовать людей?
3. Для многих, если не большинства, участников представление об ИИ ограничивается уровнем экспертных систем (распознавания образов, голосовых помощников, электронных врачей и юристов и т.п.). Другими словами, они путают проблему ИИ и проблему цифровизации. Действительно, существует АНО «Цифровая экономика» (представители участвовали в совещании), которая реализует толковые программы в области информационной инфраструктуры и информационной безопасности, главным образом, при поддержке и в интересах государства, а также разрабатывает и цифровые технологии (одной из нескольких, указанных на сайте организации, и являются «нейротехнологии и искусственный интеллект»). Это важно и интересно, но это лишь часть проблемы ИИ, так сказать, создание ландшафта или «среды обитания» ИИ. Сильный, а тем более супер-ИИ невозможны без тотальной цифровизации, но сам ИИ к ней вовсе не сводится.
4. Путин, как раз, предлагает строить Стратегию шире и, с подачи своих советников,  ориентирует на «создание принципиально новых фундаментальных заделов, математических методов, принципов работы искусственного интеллекта, в том числе по аналогии с человеческим мозгом». И здесь хотелось бы понять, знает ли он о том, что подобные исследования (“вычислительная нейробиология») уже давно ведутся в США и финансируются DARPA. По этому пути идут с 2008г. исследователи в проекте SyNAPSE (Systems of Neuromorphic Adaptive Plastic Scalable Electronics, по созвучию с синапсом – переходом между нейронами). Цель проекта в разработке электронной нейроморфной машинной технологии, которая позволит построить новый тип когнитивного компьютера по форме, функциям и архитектуре подобной мозгу млекопитающих. Изначально, проект начинали HRL Laboratories (HRL), Hewlett-Packard, и IBM Research. В рамках проекта сотрудничали 16 институтов и организаций. DARPA вложила в этот проект с момента его создания более $100млн. В статье Wiki, посвящённой проекту, есть упоминание о конкретных продуктах и решениях, достигнутых в рамках программы. Однако, где-то с 2016г. информация о работах по программе пропала. Существующие ссылки на проект, что в русской, что в английской версиях Wiki вдруг оказались битыми. Страница проекта исчезла и с сайта DARPA (удалось лишь найти её в архиве). Исчезли соответствующие страницы и с сайтов HRL Laboratories, IBM и Бостонского университета. Всё это наводит на мысль о том, что достигнутые по программе результаты перестали представлять лишь академический интерес и всерьёз заинтересовали Пентагон. А у нас, согласно Стратегии, вновь организуемые международные математические центры начнут создавать «фундаментальные заделы» лишь к концу 2020г...
5. По зрелом размышлении, возникли сомнения в наивности нашего руководства. Вспоминая, какой неожиданностью стало для наших «партнёров» (да и для большинства граждан РФ) появление Калибров, Посейдонов, Авангардов, Кинжалов и т.п., подумал о том, что и совещание, и сама Стратегия если и не хорошо поставленный спектакль, то, как минимум, часть всей правды о состоянии дел по разработке ИИ в РФ. По аналогии с нашими заклятыми «партнёрами», которые засекретили большую часть работ, непосредственно связанных с созданием сильного ИИ, наше руководство, которое никогда нельзя было упрекнуть в излишней открытости, наверняка, организовало соответствующие исследования «за высокими заборами». В РФ с 2013г. существует аналог DARPA – это Фонд перспективных исследований (на главной странице сайта вас встречает FEDOR, первый российский антропоморфный робот)— государственный фонд, целью которого является содействие осуществлению научных исследований и разработок в интересах обороны России и безопасности государства, связанных с высокой степенью риска достижения качественно новых результатов в военно-технической, технологической и социально-экономической сферах, в том числе в интересах модернизации ВС РФ, разработки и создания инновационных технологий и производства высокотехнологичной продукции военного, специального и двойного назначения. Среди направлений деятельности «Информационные исследования»:

• Перспективные системы обработки и передачи информации
• Искусственный интеллект, когнитивные технологии
• Кибербезопасность
• Социальные сети
• Технологии обнаружения

Фонд в разработке Стратегии, похоже, не участвовал и на совещании представлен не был. Хотя, от военных там выступали С.В.Чемезов («Ростех») и Ю.И.Борисов ( зам.Председателя Правительства РФ, курирующий вопросы развития ВПК).

Исходя из изложенного выше, можно сделать вывод о том, что то, что доступно по работам в области ИИ в публичном пространстве, составляет лишь видимую часть айсберга. И это серьёзная проблема. Похоже, прав Дж.Баррат, который утверждает, что исследования по сильному ИИ приостановить не удастся, и точка невозврата пройдена. Вот показательная цитата из книги Вернора Винджа «Приближающаяся технологическая сингулярность» (1993):

Но если технологическая сингулярность может наступить, она наступит. Даже если бы все правительства мира осознали «угрозу» и смертельно ее испугались, прогресс в этом направлении продолжался бы. Более того, конкурентное преимущество — экономическое, военное, даже художественное — каждого нового достижения автоматизации настолько наглядно, что принятие законов или установление традиций, запрещающих подобные вещи, попросту гарантирует, что это сделает кто-то другой.

Именно это мы и наблюдаем сейчас. Все включились в гонку за главный приз, не задумываясь о последствиях. В отличие от ядерной гонки, где цена входа была крайне высока (и ресурсно, и технологически, и интеллектуально), добиться успехов в создании сильного ИИ может сравнительно небольшой коллектив, просто покупая необходимые вычислительные мощности для удалённых расчётов. И отследить такие работы, в отличие от ядерных испытаний, практически невозможно.

Но, как и для чего станет использовать сильный ИИ тот, кто его первым получит и станет, по выражению Путина, «властелином мира»? Как использовалась первая атомная бомба мы все хорошо помним.