МыслиЩЩи: проблемы искусственных нейросетей (что у нас называют ИИ)

Аватар пользователя Fanatic

Конечно, этот повальный новый тренд, который пришёл вслед за NANO - из-за того, что у руля страны и крупных компаний стоят некомпетентные граждане.

Опять мы получим пшик на выходе, хотя если не разогревать искусственно тему - то потихоньку можно получить отличный результат. Но сначала некомпетентные руководители, следуя моде, наберут штаты из некомпетентных студентов, потеряют миллиарды, разочаруются и спустя десяток лет - некоторые успехи начнут выстреливать.Но в госструктурах уже будут открещиваться от этого матаппарата.

Объясню как должно быть и откуда что растёт.

Даже Греф открыл не так давно тайну, что благодаря применению искусственных нейросетей (которые там называют ИИ) - Сбер получил миллиардные убытки.

Проблема в том, что до сих пор обучение и использование искусственных нейросетей это не наука, а искусство.

Неизвестно сколько и каких входных параметров необходимо использовать в процессе обучения. Также, неизвестно каковы параметры самой искусственной нейросети (какие весовые функции использовать, сколько слоёв использовать, сколько нейронов в каждом слое и т.д.).

Всё это пока не научно и нечётко - отсюда недоверие со стороны потенциальных заказчиков и отсутствие чётких законодательных и производственных описаний применения.

Никто в здравом уме не переложит на обученную неизвестно как ИНС принятие решений. Ну, разве что Греф.

Также, необходимо знать, что искусственные нейросети могут использоваться для решения трёх различных задач:

1) Аппроксимация/интерполяция/экстраполяция многопараметрической функции

2) Классификация - как раз этот вариант используется для распознавания образов

3) Кластеризация - в качестве примера можно предложить задачу на вычисление стоимости городской квартиры в разных районах в зависимости от этажа, удалённости от детского садика, школы, метро и прочее.

 

Искусственная нейросеть имеет один очень большой плюс по сравнению с дифференциальными уравнениями - она позволяет оперировать сколько угодно большим количеством как входных, так и выходных параметров.

Это в любом из трёх вариантов функция f(вектор Xn) = вектор Ym, где n и m - любые целые значения, начиная от 1.

Чем больше будет примеров - тем меньше будет ошибок для новых векторов в уже работающей системе.

Звучит прекрасно!

Но факт в том (и на это напоролись в Сбере), что никто точно не знает заранее сколько параметров надо использовать на входе, никто не знает параметров искусственной нейросети и сколько необходимо примеров для обучения.

Это и привносит сегодня элемент неожиданности, что способно привести к убыткам бизнеса в размерах десятков процентов от оборота компании.

 

Начинать надо с простых задач и всегда контролировать выдаваемые обученной искусственной нейросетью цифры (выходные параметры).

То есть, сегодня искусственная нейросеть в сложных системах должна быть только в качестве помощника, но никак не истиной в последней инстанции.

К примеру, в банке сделают автоматическую выдачу кредита, с обучением по накопленной базе, начиная с 2015 года. Что произойдёт?

Мы знаем, что с 2015 года рубль был сравнительно стабильный кросс курс. А это значит, что этот параметр при обучении не будет учитываться нейросетью. И если в перспективе кросс курс резко начнёт меняться, то как это повлияет на алгоритм принятия решения о выдаче кредита - неизвестно. Обученная нейросеть может как вообще не отреагировать на динамику кросс курса, так и может начать выдавать кредиты налево-направо.

И таких параметров, которые были не важны на этапе обучения, но вдруг стали важными впоследствии - может быть неизвестно как много.

 

В-общем, наше и другие государства опять втянулись в очередную модную затею, в которой ничего не понимают.

Разберитесь сначала.

Попросите РАН вынести свой вердикт о степени проработанности вопроса, а только потом доверяйте принятие решений многопараметрическим алгоритмам.

Установите некоторые диапазоны и правила для обучающихся Систем с искусственными нейросетями.

К примеру, если количество параметров меньше 4х - то такие-то параметры нейросетки. От 4 до 10 - такие-то и так далее.

В идеале, вообще надо сертифицировать все эти алгоритмы и выложить их в открытый доступ.

Не в качестве рекламы, но мне нравится удобство пакета Alglib - простой и удобный пакет и есть бесплатный вариант.

Использовал его для распознавания ЭКГ - получалось неплохо.

Авторство: 
Авторская работа / переводика
Комментарий автора: 

С.В. Савельев - Выученная беспомощность. Кто и зачем продвигает искусственный интеллект

3 нояб. 2019 г

Сергей Вячеславович Савельев рассказывает о том, чем является искусственный интеллект и его отличия от алгоритмизации, о том, почему рынок компьютерных технологий не растёт, чем работа мозга отличается от работы компьютера и что происходит с мозгом человека, который постоянно полагается на гаджеты. Об этом и многом другом профессор Сергей Савельев на канале День ТВ

Комментарии

Аватар пользователя VDF
VDF(7 лет 8 месяцев)

Савельев - безграмотный.

В чём-то да, в чём-то нет.

Комментарий администрации:  
*** Уличен в систематической дезинформации, пример - https://aftershock.news/?q=node/843533 ***
Аватар пользователя Системник
Системник(9 лет 2 месяца)

И в чём же "нет", из того что он сказал на видео? laugh

Аватар пользователя VDF
VDF(7 лет 8 месяцев)

Он же не только в этом видео что-то говорит...

Комментарий администрации:  
*** Уличен в систематической дезинформации, пример - https://aftershock.news/?q=node/843533 ***
Аватар пользователя Olvik
Olvik(5 лет 7 месяцев)

Савельев ограниченно компетентен даже в своей профессиональной области эмбриологии и нейрофизиологии.

Его рассуждения об ИИ безграмотны, аргументы на уровне "вы ничего не можете запрограммировать, потому что вы не господь Бог, вы не можете учесть все состояния", "это детский сад, который характерен для инженеров и программистов", "нужен нейристор..на иной архитектуре.. дайте денег и я расскажу как надо делать"

Неудивительно, что его отказались пригласить на очередную "стачку" в Иннополисе, получив проект его доклада по поводу ИИ.

Аватар пользователя VDF
VDF(7 лет 8 месяцев)

Савельев ограниченно компетентен

Дажеограниченно компетентные люди говорят порой разумные вещи.

Его рассуждения об ИИ безграмотны

Например. Есть комп,  в котором имеется толковый словарь всех слов и понятий любого языка, сможет этот комп составить конкуренцию человеку? Причём, комп с аналогичным быстродействием.

Комментарий администрации:  
*** Уличен в систематической дезинформации, пример - https://aftershock.news/?q=node/843533 ***
Аватар пользователя Системник
Системник(9 лет 2 месяца)

Дажеограниченно компетентные люди говорят порой разумные вещи.

laugh Все, порой, говорят разумные вещи.

Только говнохайперам приписывают "разумность" всё время.

Аватар пользователя VDF
VDF(7 лет 8 месяцев)

Вы сейчас выступаете в роли пустобрёха.

Комментарий администрации:  
*** Уличен в систематической дезинформации, пример - https://aftershock.news/?q=node/843533 ***
Аватар пользователя Системник
Системник(9 лет 2 месяца)

Такой роли нет. Есть Капитан Очевидность. smiley

Аватар пользователя Bzz
Bzz(7 лет 5 месяцев)

В идеале, вообще надо сертифицировать все эти алгоритмы и выложить их в открытый доступ.

могу ошибаться, но, разве, появление алгоритма в открытом доступе не означает, что к нему проще подобрать способ для формирования выгодного для себя решения? Конечно, надо еще непрерывно проводить обучение на тех же данных. Или достаточно "похожих"?

Аватар пользователя Системник
Системник(9 лет 2 месяца)

Люди, прекратите употреблять термин ИИ там, где это неуместно. Не будьте бесплатными хайперами безграмотных манагеров.

Аватар пользователя SubV
SubV(4 года 10 месяцев)

Им бесполезно объяснять, что в слове "нейросети" приставка "нейро" не имеет ничего общего с интеллектом, а любая такая сеть сводится к обычному конечному автомату, то бишь машине Тьюринга со всеми её ограничениями. Применительно к которым не бывает самообучения, самоорганизации и даже отдалённого подобия мышления. То же самое относится и к гипотетическим квантовым компьютерам.

В начале 90-х дурили головы "компьютерами 5-го поколения", а сейчас ИИ и нейросетями (которым сто лет в обед). Не вижу разницы.

Комментарий администрации:  
*** Злостный дезинформатор ***
Аватар пользователя Системник
Системник(9 лет 2 месяца)

Не видишь, потому, что её нет. smiley

Тупое хайпожёрство. Очередной обычный развод на трату ресурсов впустую.

Аватар пользователя Ratsio
Ratsio(5 лет 10 месяцев)

Искусственная нейросеть имеет один очень большой плюс по сравнению с дифференциальными уравнениями - она позволяет оперировать сколько угодно большим количеством как входных, так и выходных параметров.

У диффур этих параметьров тоже может быть сколько угоднно. Скорее вопрос в том, что диффуру должен кто-то составить, а прелесть нейросетей в том, что им просто скармливают примеры (обучающая выборка), а дальше она уже "как-нибудь сама". Адекватность получаемой модели контролируется на тестовой выборке, которая в обущении не участвовала. Простенькие задачки нейросети решать могут, чуть посложнее (или где нужно принимать решение в нестандартной ситуации, т. е. проявлять признаки интеллекта laugh) - уже нет, ибо не обойтись без заранее определённых моделей предметной области.

Но факт в том (и на это напоролись в Сбере), что никто точно не знает заранее сколько параметров надо использовать на входе, никто не знает параметров искусственной нейросети и сколько необходимо примеров для обучения.

В теории, при обучении нейросеть сама определяет, какие параметры на входе не являются значимыми, сама их откидывает. Это справедливо, если обучающая выборка достаточно велика. По-хорошему, размер обучающей выборки должен расти с числов входов по экспоненте, иначе возможны такие забавные эффекты, когда танк на изображении распознаётся не по башне, стволу и гусеницам, а по заднему фону, на которых обычно были сфотканы эти самые танки laugh Или пример с волками и собаками, который уже был в комментариях.

Аватар пользователя Bulat
Bulat(9 лет 1 месяц)

Я наверное слишком упрощаю. Но мне кажется, что для определения выдачи/невыдачи кредитов, достаточно таблички в экселе из нескольких десятков параметров и коэффициента каждого параметра.
А вместо нейросети раз в неделю менять эти коэффициенты.

Аватар пользователя Системник
Системник(9 лет 2 месяца)

В итоге, так и делается. laugh

А на чём тогда списывать миллиард? laugh

Скрытый комментарий Повелитель Ботов (без обсуждения)
Аватар пользователя Повелитель Ботов

Годный срач. Ахтунг - пахнет трольчатиной! Автор, нет ли в обсуждении упырей? Сим повелеваю - внести запись в реестр самых обсуждаемых за день.

Комментарий администрации:  
*** Это легальный, годный бот ***
Аватар пользователя Lone Wanderer
Lone Wanderer(6 лет 4 месяца)

Чисто хайп. Недавно сильно хайповали цифровой экономикой. До этого еще чем то.

Сейчас ИИ.

И ВВП тоже в этом радостно учавствует.

Ну весело же.

Комментарий администрации:  
*** отключен (невменяемое общение, маты) ***
Аватар пользователя Я - Гриша
Я - Гриша(11 лет 1 месяц)

Я нейронными сетями занимался ещё в 80-е, как и искусственным интеллектом на LISPe. Пришёл к выводу что системы сии довольно бесперспективны. Как и для квантовых компьютеров, есть для них небольшие ниши, но не более того. Был очень удивлён путинской вовлечённостью в эти области в последнее время. Ну не по его это специальности давать оценки подобной научной деятельности, не гебисту заниматься оценкой науки. Есть простой метод оценки неспециалистом: учитываются только результаты, доброкачественнисть которых потверждена незаинтересованными экспертами. А так, трещать всё время о великом научном направлении - терять лицо и показывать жуткий уровень дилетантизма в вопросах научных исследований и их финансирования.

Комментарий администрации:  
*** отключен (помойный лексикон, невмненяемые оскорбления) ***
Аватар пользователя Системник
Системник(9 лет 2 месяца)

Был очень удивлён путинской вовлечённостью в эти области в последнее время.

С ещё одним смыслом игра. Куда пойдут выделенные деньги - вопрос другой, зато "партнёры" будут в уверенности, что их "уловка" сработала.

Анализируют и принимают решения по этим (таким!) деньгам достаточно компетентные люди.

Аватар пользователя Писатель
Писатель(6 лет 3 недели)

С.В. Савельев

Зачем только членкоров академии ВРАЛ на Афтершок тянуть, совсем непонятно.

Комментарий администрации:  
*** Уличен в сочинении псевдостатистической дезы - https://aftershock.news/?q=comment/11334142#comment-11334142 ***
Аватар пользователя Системник
Системник(9 лет 2 месяца)

Как вакцину. laugh

Чтобы сформировалось стойкое неприятие.

Аватар пользователя Мурман
Мурман(9 лет 11 месяцев)

Тема периодически всплывает, но выводы тут никто для себя не делает!

AI - находка, обоснованная математически. Удобная для решения НЕ РЕШАЕМЫХ прежде задач!  Этот ТРЮК ничего не имеющий (кроме моделей нейронов) общего с естественным интеллектом. Что порождает бюрю эмоций гуманитариев...

Страницы