Нейронные сети ака ИИ

Между прочим, в этом году исполнилось 50 лет защите гарвардским докторантом Полом Вербосом диссертации, в которой был описан метод обучения нейронных сетей с обратным распространением ошибки. На мой взгляд (автора), именно тогда родилось то, что человечество благоговейно называет «искусственным интеллектом».

Метод Вербоса напоминает игру «холодно-горячо», но мне больше нравится другой мысленный эксперимент.

Предположим, что некий слепец хочет забросить мяч в корзину, не имея понятия, где эта корзина находится. Он бросает мяч в произвольном направлении и с произвольной силой, а его зрячий друг сообщает ему расстояние от точки падения мяча до цели (и больше ничего говорить не имеет права). В зависимости от того, уменьшается или увеличивается это расстояние, наш герой корректирует направление и силу броска. Скажем, если после поворота направо расстояние уменьшилось, то он продолжит поворачиваться направо, а если расстояние увеличилось, то он повернётся налево, и т.д. После большого количества бросков и коррекций, мяч попадёт-таки в корзину.

Таким образом, на вход системы подаются два числовых параметра: направление и сила броска. На выходе получаем логическую переменную, имеющую два значения: «true» или «false», т.е. «попал» или «промазал». Подбор комбинации входных параметров, дающих на выходе «true», и есть то самое обучение с обратным распространением ошибки, за которое Полу Вербосу дали докторскую степень.

Кстати, даже на этом простом примере можно увидеть типичную проблему метода: локальные оптимумы. Например, брошенный в неверном направлении мяч может попасть в столб и, отскочив от него, шмякнуться рядом с целью, в результате чего слепец начнёт лупить мячом исключительно по столбу, потому что любое небольшое отклонение от столба (а отклонения всегда небольшие, таковы правила) приведёт к улёту мяча ещё дальше. В итоге наш герой научится рикошетить мяч очень близко к корзине, но в саму корзину так никогда и не попадёт.

С момента публикации в 1974 году, метод Вербоса оброс большим количеством вариаций и усовершенствований. Люди научились обрабатывать графическую и текстовую информацию таким образом, чтобы её стало можно скармливать нейронным сетям, в результате чего последние стали «рисовать» и «разговаривать». Суть метода, однако, не изменилась: у нас есть желаемые параметры выхода (скажем, фраза «белый кот с бантиком лежит в корзине») и мы подбираем набор входных параметров (скажем, фрагментов цифровых картинок), наилучшим образом соответствующих параметрам выхода.

Конечно, считать Пола Вербоса «отцом всех искинов» было бы несправедливо, и дата «1974» довольно условна. Математики занимались нейронными сетями ещё с 1940-х годов, и в СССР эта тема тоже была неплохо разработана. В 1968 году профессор киевского Института кибернетики Алексей Григорьевич Ивахненко предложил «метод группового учёта аргументов», по сути очень похожий на метод Вербоса. В Москве этой проблематикой занимался Александр Иванович Галушкин — как минимум одновременно с Вербосом, если не раньше. Кроме того, даже после диссертации Вербоса нейронные сети ещё лет десять оставались уделом теоретиков, и только начиная с середины 1980-х, после публикации ряда фундаментальных работ, ими вплотную занялись программисты.

Тем не менее я волюнтаристски назначил 1974 год датой зачатия искинов — по той же причине, по которой в 1891 году датой образования Швейцарии назначили 1291 год: просто хочется круглой даты.

Но выпить я бы предложил не за это.

Если напомнить взволнованной аудитории, что современные искины — это просто развитые механизмы выявления информационных паттернов в соответствии с запросами, можно услышать в ответ глубокое возражение: дескать, а не таков ли и человеческий ум, не тем ли самым он занят?

Да… но нет.

У людей есть фича, которой искины напрочь лишены, и которую я бы назвал «способностью прорюхивать контекст». Скажем, если dall-e попросить нарисовать зайца на коленях у девушки, он проворно нарисует. Если попросить нарисовать девушку на коленях у зайца — откажется, сославшись на «политику контента». При этом нарисовать ребёнка на коленях у зайца — зарадибога, девушку на коленях у парня — тоже без особых проблем, а девушку на коленях у зайца — ни за что.

Очевидно, скармливая искину бесконечное количество картинок из сети, владельцы запрограммировали некие фильтры, отбрасывающие порнуху. Плюшевые заячьи уши — распространённый эротический фетиш, да и у коленей, в этом смысле, тоже полно фривольных коннотаций — так что комбинация девушки, коленей и зайца включает в электронных мозгах искина стоп-сигнал. Заставить дурака учесть контекст и намалевать нечто невинное — невозможно, поскольку учитывать контекст он не умеет.

Так что, дорогие кожаные мешки, если в вашей работе нет необходимости учитывать контекст — бойтесь, искин уже примерился к вашему рабочему месту. Если же такая необходимость в вашей работе предполагается — расслабьтесь. Что говорите? Работа без необходимости хоть как-то учитывать контекст — большая редкость? Ну значит, всем коллективом и расслабьтесь.

За это и выпьем.

PS. На вопрос, зачем мне понадобилась девушка на коленях у зайца, промолчу, ухмыльнувшись в усы.

PPS. Пол Вербос жив, и на склоне лет впал в яростнейшее климатобесие.