Про ChatGPT и замену "живых" работников на ИИ

Написать это эссе меня побудили две статьи камрада Simurg про ИИ. Я с большим уважением отношусь к этому автору и всегда с удовольствием читаю его статьи и комментарии: издалека видны качественное фундаментальное образование и серьезный инженерный опыт. Но в данном случае, на мой взгляд, камрад Simurg серьезно ангажирован. Причем если в первой статье (Ещё раз об ИИ - зачем оно?) автор еще пытается держать себя в руках, то вторая статья(ИИ-бота ChatGPT научили управлять реальными роботами и дронами) как-то больше походит на истерику а-ля “мы все умрем останемся без работы”. На самом деле камрад совершает типичную  «ошибку технаря» - слишком сильно акцентируется на технической стороне вопроса, упуская из виду весь его контекст.

Итак, является ли появление ChatGPT прорывом в области ИИ? С инженерной точки зрения – да, в какой-то степени: люди сумели создать ИИ, который прошел тест Тьюринга (справедливости ради, ChatGPT был не первый). На бытовом уровне это означает, что общающийся с ChatGPT человек не может отличить, человек перед ним или машина. С точки зрения технической науки – прорыва нет. Все технические решения, которые используются, известны давно (некоторым уже 50 лет), просто технический прогресс и инженерное искусство позволили наконец реализовать это в «железе» на таком вот уровне (аналогично феномену Маска и Теслы – вроде Илон ничего нового не придумал, все технологии известны десятки или даже сотни лет, но многие считают это прорывом в автомобилестроении). С моей точки зрения, феномен ChatGPT должен быть гораздо более интересен гуманитарным наукам: ведь по существу, практически доказано, что далеко не все, что выглядит как продукт мышления, таковым на самом деле является :)

Главный вопрос: вытеснит ли ИИ «живых работников»? Мое мнение - нет, не вытеснит. Причина проста – даже с чисто технической точки зрения, то есть как биологическая машина с интеллектом, человек несравнимо, на много порядков более совершенен и энергоэффективен. Поэтому экономически ИИ не может с ним конкурировать, кроме некоторых относительно узких областей. Ситуация изменится только когда прогресс дойдет до создания механизмов, по совокупности характеристик сопоставимых с живыми существами. Когда это произойдет? На текущем техническом уровне – никогда. Нужна на порядки более совершенная элементная база, а текущие электроника и точмаш во многом уперлись в физические пределы развития. Simurg написал, что СhatGPT поместится на смартфоне (ошибся на три порядка, бывает), но на самом деле даже СhatGPT возможен только в облаке ( дата центр с кучей мощного железа, кабелем толщиной в руку и вот это вот все). Ну да, можно организовать доступ к этому облаку миллионов пользователей, но для масштабируемости этой штуки путем клонирования нужна будет прорва ресурсов.

Основная ментальная ошибка Simurg и других адептов «великого ИИ» заключается в том, что они преувеличивают значимость феномена “понимания контекста” СhatGPT и подобных ему сетей. Это понимание – очень узкого, тонкого слоя контекста, представленного языковыми «токенами».  Плотность информационного потока контекста, которым оперирует «реальный» интеллект, на несколько порядков выше. Поэтому, на мой взгляд, утверждения уровня «а давайте прикрутим к автопилоту СhatGPT, которому скормим ПДД и получим конкурентный человеку автопилот» - полный бред, по крайне мере – пока. Страшно подумать, какое количество современного «железа» потребуется для реализации уровня интеллекта, сопоставимого с «реальным», и сколько все это будет потреблять электричества.

Если посмотреть на проблему еще шире, то я согласен с мнением некоторых аналитиков о том, что работы по ИИ скорее всего идут в неправильном направлении: ИИ должен расширять возможности человека, а не заменять его. Капиталисты же (т.е. те кто инвестирует во все это) мечтают избавиться от «живых» работников и заменить их послушными механизмами. В такой постановке задача не может быть решена на текущем и перспективном уровне развития технологий - к счастью, конкурировать с человеком технике сложно и со стороны электроники опасности тут ожидать не стоит. А вот со стороны биоинженерии – на мой взгляд, вполне (в перспективе лет 50). Только скорее всего это не будет иметь вообще никакого отношения к современным реализациям нейронных сетей «в железе».