Разбор статьи Анпилогова о нейросетях

Поскольку мой разбор статьи Анпилогова, на мой взгляд, вылез за разумные рамки количества букв в комменте, вынес это в запись блога. Кому еще не надоело, см. ниже.

превзошли возможности человеческого разума во многих действиях, ещё вчера мыслимых исключительно "творческими" и "интуитивными", могущими быть исполненными только людьми, но никак не компьютерами или программами.

Утверждение того же порядка что "компьютер умножает числа быстрее!!11одинразраз"

Так что же такое нейросети?

Антон БАЛАКИРЕВ. Исторически существовало два подхода к созданию того, что в английском языке получило название artificial intellignce, сокращённо — AI. В английском языке этот термин имеет буквальное значение "искусственное умение рассуждать разумно" и не столь связан с образом человеческого разума, как это происходит при употреблении русского термина "искусственный интеллект". Слово "интеллект" слишком уж привязывает нас к некоей антропоморфной концепции разума как прерогативы нас, людей разумных, заставляя ожидать чего-то подобного и от творений наших рук и разума. Но как показала эволюция искусственного интеллекта, сокращённо — ИИ, в итоге люди создали отнюдь не копию себя, но нечто совершенно иное. И получилось это в результате синтеза двух противоположных подходов к созданию ИИ.

Интервьюируемый не знает что такое нейросети (во всяком случае неспособен объяснить это широкой публике простыми словами) и начинает пускать пыль в глаза.

Первый — так называемый нисходящий подход... бла бла бла


Второй подход — это противоположный, восходящий подход. Со времени открытия нейронов и биологической нейронной сети ... бла бла бла

С другой стороны, тут на помощь приходит первый, нисходящий подход: как оказалось, наши собственные структуры мозга часто чрезвычайно избыточны. В силу чего, например, сегодня достаточно сложная функция распознавания лиц может быть реализована в рамках очень скромной нейросети, которая доступна даже для недорогих любительских фотокамер — математика помогла в этом случае построить эффективную и простую нейросеть, которая заменяет сложные структуры человеческого мозга.

За несколько абзацев текста ни одного определения нейросети. Давайте на всякий случай все же его дадим: нейросеть есть нелинейный классификатор^{(в простом случае, более подробно см. напр. ветвь дискуссии)}, состоящий из организованных в сеть по определенным правилам датчиков-нейронов, каждый из которых определенным нелинейным образом преобразует входы в выход. Нелинейность важна, т.к. в линейном случае все нейроны можно было бы заменить одним - посредством линейной комбинации функций. Соединение нейронов в сети организовано много-ко-многим. Вроде мне одного абзаца хватило?
Зато интервьюеру подкинута тема для обсоса в лице фотоаппаратов.

"ЗАВТРА". Да, способности современных фотоаппаратов, бла бла бла

Антон БАЛАКИРЕВ. Это и есть зримое отражение прогресса, который прошли нейросети в процессе совершенствования. Возьмём для примера две технологии, где применение ИИ уже дало неоспоримые результаты и ещё большие может принести в ближайшем будущем. Это уже упомянутое распознавание образов и распознавание человеческой речи. В тот момент, когда гиганты ИТ-индустрии занялись вопросом распознавания речи, тогдашние нейросети уже могли распознавать около 95% стандартной человеческой речи.

Вранье чистой воды. Для тех кто не читал даже педивикию

Казалось бы, этого уже вполне хватает для речевого общения человека и компьютера, для управления голосом действиями машин и механизмов. 

Если бы это было так, Сири и иже с ними появилось бы куда раньше.
 

Кстати, обычное общение людей и наш уровень распознавания чужой речи находится где-то на похожем уровне. Однако в отличие от компьютеров, которые понимают любую фразу буквально, люди всё-таки используют контекст сказанного, "достраивая" в уме фразу, обращённую к ним и привязывая её к ситуации. А вот машинные системы это делать тогда не умели (да и не могут сегодня), в силу чего их 5% ошибок распознавания речи выглядели печально для собеседника — складывалось впечатление, что система речи "тупит" и ведёт себя "дебильнее некуда". 

Однако за последние несколько лет системы распознавания речи научили синтаскису, ввели в них понятие контекста, да и просто подтянули уровень распознавания слов — в итоге получилось, что нынешняя стандартная нейросеть, которой оборудован уже практически любой смартфон, может распознавать до 99% стандартной устной речи. А это уже открывает совсем другие перспективы общения человека и компьютера — реальностью становится отдача приказов голосом, а клавиатуры или сенсорные экраны становятся лишь вспомогательными способами общения с компьютерами и другими "умными" устройствами.

Такой же прогресс наблюдается и в технологии распознавания образов. Ещё около пяти лет назад, когда на рынок вышли первые системы поиска по изображениям, они давали достаточно серьёзный процент ошибок — 13-15%. На сегодняшний день эти системы радикально улучшились: современная нейросеть анализа изображений устойчиво работает с 3-4% ошибок. Для сравнения: человек в аналогичных задачах может ошибаться в 5% случаев.

Какая-то нейросеть работает с 3-4% каких-то ошибок на каких-то изображениях, а человек 5%. Пусть читатели сделают вывод что средняя нейросеть лучше среднего человека в обработке изображений. Ну да, конечно. У нас, к примеру, нейросетки используются для обработки фотометрии скрининг роботов (исследование лекарств и клеточный анализ). Их точность плавает от 70% до 99.7% и такой разброс требует верификации как другими классификаторами (random forests, регрессионные модели) так и последующей доклассификации пользователем.
 

"ЗАВТРА". А что повлияло на столь впечатляющий прогресс нейросетей? Только ли учёные и их открытия всему виной — или же были другие слагаемые такого рода революционных изменений?

Антон БАЛАКИРЕВ. Конечно, дело не только в прогрессе и в научном поиске.

Во-первых, надо сказать, что составляющей успеха нейросетей было то, что в эту тематику были сделаны в 2000-х годах громадные вложения финансов, инициированные как государственными ведомствами, так и частным бизнесом — в первую очередь, в США. 

Как раз именно после масштабной моды в начале-середине двухтысячных последовала масштабная депрессия по поводу нейросетей на несколько лет, поскольку нейросетки жрали ресурсов столько, что другие, более простые классификаторы, не оставляли им шанса. И только с развитием облачных технологий, когда стало возможно использовать CPU on demand, вернулись обратно к нейросетям (поскольку как ни крути, они предлагают свои услуги в широчайшем классе решаемых задач).

Специфика государственного интереса к нейросетям достаточно понятна, но она часто проходит по категории "секретно" или "совершенно секретно", поэтому тут мы можем лишь предполагать, что ищут государственные нейросети в интернете по ключевым словам и образам, а вот мотивация крупного бизнеса лежит буквально на поверхности. Нейросети позволяют максимально эффективно работать с так называемыми массивами big data ("всеобщие" или "большие" данные), которые возникли благодаря интернету, социальным сетям, современной цифровой фото и видеотехнике, системам автоматического наблюдения и прочим техническим инновациям. 

Да-а, прям без нейросеток никак не искалось. К слову, нейросети к поиску имеют примерно такое же отношение как Гоголь к Конституции - и там и там есть буквы. Что же касается нейросетей, которые "эффективно работают с биг дата", то нейросети как правило не работают без существенного массива данных для обучения, но сами по себе никакого отношения к работе с большими данными они не имеют. Это классификатор, который, надо заметить, еще надо суметь написать так, чтобы он, уже обученный, быстро работал с большими массивами данных.

Сегодня человечество продуцирует всё более возрастающий объём различной информации — и уже только с помощью мощной нейросети можно его как-то охватить и выстроить поиск в нём, обеспечить извлечение какой-то упорядоченной информации из него — будь то данные о конкретном человеке или предпочтения определённой социальной группы. А для любой крупной корпорации знание о своих возможных или существующих покупателях и клиентах — это громадная сила. Ведь, как пример, за "Фейсбуком" не стоит ничего материального, основная его ценность — это именно знание о подписчике, его социальных связях и предпочтениях. Ту же информацию продают своим партнёрам и "Гугл", и "Яндекс" — каждая из таких компаний выстраивает персональные профили для каждого из своих пользователей, а потом использует данные нейросети, например, для показа рекламы, максимально подходящей именно этому человеку. Впрочем, уже давным-давно известно: ровно в тот момент, когда вы нажали галочку "Я согласен" в окошке вашего браузера, — вы попали в "матрицу" и предоставили все данные о себе в чужие руки.

 

Опять вранье. Рекомендационные модели в подавляющем большинстве случае не используют нейросети, потому что они на фиг там не нужны. Более простые варианты вроде многомерной регрессии куда быстрее и дают результат не хуже.

Далее пропустим словесный понос вот до сюда.

Так что можно сказать, что нейросети разумны, но отнюдь не обладают человеческим сознанием.

Чего нельзя сказать об авторе. Как уже заметил выше Алексворд, ничего такого, что в них не было бы заложено изначально, нейросети не делают и технически не способны.

"ЗАВТРА". А чем грозит человечеству повсеместное внедрение нейросетей?

Антон БАЛАКИРЕВ. Скорее всего, бояться нейросетей и последствий от их внедрения надо современному среднему классу. Нейросеть очень легко может заменить несложные интеллектуальные процессы, которые сейчас производятся абстрактно-безликими "менеджерами среднего звена", теми самыми клерками, о которых была написана сатирическая песня "ты не такой как все, ты работаешь в офисе".

Если основная мишень промышленных роботов — это индустриальные рабочие в Китае и в странах Юго-Восточной Азии, то нейросети, судя по всему, смогут достаточно быстро оставить без работы миллионы людей в странах "золотого миллиарда", который сегодня предлагает на рынке большое количество информационных и сервисных процессов для своих граждан, да и для всего мира. В рамках массы таких процессов, которые сегодня мыслятся "творческими" или "интеллектуальными", которые требуют десятилетий для обучения, повышения квалификации и практики в случае человека, для нейросетей это не более чем очередной кусок "больших данных", которые надо переварить, учесть и использовать для своего дальнейшего обучения. Нейросети не стареют, не уходят на пенсию, не пьют и не впадают в депрессию, дома их не пилит жена.

Кроме того, заказ на использование нейросетей формирует и само общество, а не только "людоедский мир чистогана". Так, в конце прошлого года произошло знаменательное событие: нейросеть-диагност обошла профессиональных врачей в деле диагностики сложной формы рака.

Да, мы над этим работаем. Однако чего бы я точно не стал делать, так это доверять любым классификаторам последнее слово в вопросах жизни и смерти. Из этических соображений. Так-то понятно, что, утрируя, в среднем у ученого десять книг с разными факторами диагностики рака в голове (остальные он или не читал или забыл), а у классификатора - все. Но не дай бог ложноположительный результат. Или ложноотрицательный. Человек-то еще потом подумать может, а классификатор - нет.

Её диагноз оказался столь же точным, как взвешенное мнение целого консилиума врачей-онкологов, а по отдельности каждый из медиков даже проиграл нейросети. В реальной жизни такое применение нейросети позволило бы спасти жизнь ракового больного — причём диагноз можно было поставить и удалённо, без сбора консилиума специалистов, по рутинным обследованиям пациента, который, кстати, мог бы в этом случае проживать где угодно — хоть в столице, хоть в глухом селе, куда подведён рабочий терминал такой централизованной медицинской нейросети.

Поэтому я думаю, что в ближайшее время, вдобавок к процессу вымывания рабочих из индустриальной сферы и замены их на промышленных роботов, мы увидим и ещё один процесс — массовую замену офисных "белых" и даже "золотых" воротничков на самообучающиеся нейросети, которые возьмут на себя управление массой информационных процессов в современном обществе.

Да? Вы сначала найдите такое количество людей, чтобы хотя бы умели методом наименьших квадратов прямую провести, а уж потом говорите о замене всего нейросетками, конфигурирование и обучение которых есть такой же state of art, как и то что они классифицируют, если не сложнее.

то, что в США процесс внедрения нейросетей стартовал активнее всего, — это однозначно.

В Соединённых Штатах есть и мощный средний класс, на замену которому были разработаны современные нейросети, и есть целый консорциум транснациональных корпораций, которые вложили миллиарды долларов в разработку этой технологии. Впрочем, Россия тут тоже отнюдь не в арьергарде — достаточно вспомнить, что "Сбербанк" собрался уволить 3000 своих юристов-исковиков и заменить их централизованной компьютерной системой. В общем, "дивный новый мир" постучится и к нам…

Вот, кстати, тупые журналисты не последние в очереди. Давно пора.