ИИ. Реплика об одной из причин спорного отношения к ИИ (+ пафосный подытог)

Одна из многих причин почему тяжело воспринять ИИ как интеллект - это представление, что ИИ принципиально "нединамичный" и "неперестраивающийся".
Но он именно перестраивается. И результат перестроения такой, который не заложен изначально программистом модели.
Про что тут будет, кроме холивара? Про массив размером 1 млн.

Тезисы, которые хотелось бы оспорить таковы: "И модель и алгоритм - нет, не могут меняться. Могут меняться параметры, в рамках модели. Определенной программистом.", "строится огромная матрица и обучается, т.е. подгоняются цифры в ее ячейках", "опыт - это наполнение коэффициентами модели, определенной программистом, не более того.", "модель ничего нового в мир не привнесет никогда."

Ввиду моей личной недоумочности и обобщенно-общественной тоже - нельзя не упомянуть такие факты, что у ИИ на самом деле обширная классификация и у этой области уже сильно прокуренная матчасть, что некурящим там находиться очень тяжело. Поэтому истинные спортсмены изобретают велосипеды, что конечно успешно хейтится многоуважаемыми ненедоумками, молюсь за них. Но мы отбросим эти факты, хоть они и такие же полезные, как вредные советы остера.

Из-за того, что ИИ в дискуссиях привязывают к компьютерной реализации и используется терминология из классического программирования (что изначально ошибочно), то буду вести рассуждение в рамках понятий классического программирования (чтобы всё-таки найти точки соприкосновения мнений):

Берем одномерный массив (Массив) размером 1 млн. Пусть каждый элемент Массива хранит номер вида инструкции машинно-программного интерпретатора, где допустим всего 100 видов инструкций.
Данный Массив по своей сути и в первом приближении - является программой.
Сейчас программисты классических программ в ходе своей работы - сами заполняют такой Массив инструкциями посредством Среды Разработки, в которой всё удобно представлено с помощью удобных человеческих понятий (высокого уровня).
И потом эти программы (массивы инструкций) работают строго в рамках заложенного в них алгоритма. Здесь так, да.

Но у классических программ нет кое-кого механизма, который есть у ИИ.
У ИИ есть дополнительный отдельный механизм, который вынесен за рамки самой этой программы-массива, и который отвечает за восприятие опыта и за перестроение этой программы-массива.
Сам этот механизм восприятия опыта не обязательно является каким-то очень интеллектуальным (хотя придется). Просто если механизм восприятия опыта будет очень простым - тогда построение годной программы-массива - будет очень-очень долгим.
Механизм позволяет менять заполнение данного Массива. С каждым новым опытом - изменение по чуть-чуть. И кардинальное изменение - по результатам длительного получения большого объема опыта.
Таким образом перестраивается алгоритм работы программы.
При этом модель допускает любую вариацию набора 1 млн инструкций из 100 видов.
С одной стороны ведь здесь тоже можно также придраться, как это делается в дискуссиях к ИИ - что якобы программа не изменилась, а изменился лишь набор данных, который хранит этот Массив, какбы просто изменились коэффициенты.
Но это некорректно, потому что эти коэффициенты определяют именно алгоритм программы, состоящий из безусловных действий, как и любая программа.
Все классические программы размером меньше 1млн инструкций, которые были написаны программистами раньше, и все которые будут написаны программистами в будущем - у них всех разные алгоритмы - но они все укладываются в эту модель. Т.е. по заданной здесь модели, ИИ может перестроится (технически) в любую из этих программ. Всего таких вариаций программ = 100 в степени 1 млн.

Одно из свойств того, что ИИ перестраивается - это то, что поведение ИИ не поддается точному прогнозу.
Рандомное-случайное заполнение Массива-программы инструкциями - тоже обладает таким свойством - действие такой программы не поддается прогнозу.

Другое свойство перестраиваемой системы ИИ - это то, что оно не поддается отладке в классическом виде.
Потому что для классической отладки программы нужно знать её алгоритм, в этом суть отладки - привести в соответствие к заложенному алгоритму.

Одно из важных отличий построения классических программ и ИИ в том, что:
* у классических программ есть разделение в разработке - сперва построение алгоритма в понятиях близких человеческим (в этом построении первичен результат действия), и затем оформление этого алгоритма в форму конкретной реализации программы, где уже первичен алгоритм (но результат конечно так и остается базовой целью),
* но у ИИ в самом построении программы первичен только результат, и впоследствии часто невозможно понять каким способом программа добивается результата или почему отклоняется от необходимых результатов.

Ещё раз основное: аргумент, что программы принципиально не могут быть "динамичными" и "перестраивающимися" - ошибочен.

Четыре нераскрытых вопроса, из-за которых вам покажется, что реплика неполная (ну понятно что их больше четырех):
1. Вопрос принципов построения механизма восприятия опыта - это смежный вопрос, без которого конечно ИИ невозможен, но всё-таки это другой вопрос.
2. Возможность ИИ изменять свой механизм восприятия опыта. На самом деле это и не нужно, т.к. достаточно того, чтобы ИИ смог создать улучшенную копию самого себя и тут уже с измененным механизмом восприятия опыта.
3. Механизм внесения изменений.
4. Масштабируемость и собственный контроль ИИ за рост системы.

Под конец реплики нужно что-то пафосное, но очень важное. Вот оно:
Как известно, самое главное изобретение человечества - это письменность.
В первую очередь потому что она позволяет накапливать информацию, знание, результаты интеллектуального труда. Ключевая фраза здесь накопление. Без накопления знаний некоторый интеллектуальный труд был бы бессмыслен, а развитие человечества было бы невозможно. Благодаря этому, малая группа людей на протяжении всей истории, такие как Ломоносов, Циолковский, Курчатов, Капица и др., сами вставая на плечи гигантов (с), могут двигать развитие всего человечества во всех следующих поколениях. Накопление. Всё остальное - пыль под ногами.

То было вступление, теперь первая пафосная часть:
В недавнем времени (по историческим меркам) у нашего Простоквашено появился цифровой накопитель информации, который обладает важными отличиями от бумажного - возможность копировать информацию без ограничений, а также использовать её без участия человека. Это другой уровень накопления, который во-первых позволяет обрабатывать всю информацию автоматически без участия человека, а во-вторых позволяет снизить до условного нуля - уровень потерь результатов интеллектуального труда каждого человека\интеллекта для всей цивилизации и всех будущих поколений.

Теперь ключевая пафосная часть:
Создание ИИ позволяет человечеству накапливать интеллект. Накапливать интеллект. Примеров накопления интеллекта у нашей цивилизации - нет. А тут сразу два вида накопления: численное накопление, качественное накопление. Например, системы распознавания лиц, голоса, языковые переводчики, которые до совершенства допилят в этом веке - могут служить человечеству ещё многие тысячи лет без изменений и на это не надо тратить силы - это пример количественного накопления. Пишу трезвым, поэтому пример качественного накопления интеллекта - не напишу.
Накопление интеллекта - это колоссальное изменение для всего человечества. Даже такая перспективная тема как генная инженерия и рядом не стоит по значимости. Освоение космоса - тоже. Всё остальное - пыль под ногами.

Оспаривать необходимость ИИ - это то же самое, что оспаривать необходимость письменности - можно, но вредно.

Конец реплики.
Написано как ответ в дискуссиях в комментариях к теме: https://aftershock.news/?q=node/718819
Аргументированные подзатыльники принимаются 24 ч в сутки.

upd, комменты:

Попробую подобрать пример:
Допустим из всех обучаемых систем ИИ автопилота из ближайших +-20 лет - нам предоставят самый качественный и продвинутый (не будем по этим терминам спорить).
Мы обязуемся не изменять его программыне механизмы обучения и восприятия опыта.
Так вот. Цель создания системы ИИ была - создать автопилот управления легковым автомобилем в городской и пригородной среде - потом его этому обучают.
Мы же можем обучить эту систему следующим задачам:

• давить людей, управляя зомбиавтомобилем (- как пример абсолютно противоположного поведения) (можно даже научить давить только тех людей, кто в спортивном костюме Addidabas),
• определять текущий уровень нагруженности дорог и отдельно прогнозировать это наперед (доп.устройств на светофоре),
• определять текущую нагруженность пешеходного перехода для интеллектуального переключения светофора (доп.устройств на светофоре),
• определять уровень снежных отложений на дорогах в разных точках города для дорожных служб (доп устр на обществ.транспорте),
• автоматическое определение некоторых проблем дорожного полотна (в т.ч. покрытие, проблемы водоотведения, бордюры и пр.)
• автопилот снегоуборочных машин,
• автопилот газонокосильных машин,
• автопилот комбаина сбора зерновых культур,
• определение архитектурных и эстетич нарушений и иных проблем (доп устр на обществ.транспорте),
• слежение за растительностью в городе (доп устр на обществ.транспорте),
• определение активности горожан, слежение за человеч.потоками в городской среде (доп устр в обществ.местах),
• определение человеч. агрессии в обществ. местах,
• и кучу всего другого.

Это навскидку за 15 минут, а профессионалы (к которым я не отношусь) за месяц накидают трехтоммник реальных устройств похлеще любой фантастики.
Я понимаю, что тут много крутых умельцев, которые подскажут как сделать всё то же самое другим способом.
Но мы обсуждем вопрос возможности обучения одной инт.системы для разных задач, не заложенных изначально программистом.

-----

Размышлениям об ИИ мешает (нам простым смертным) слабый или отсутствующий собственный контекст этого понятия.
А человеку тяжело без этого, поэтому сейчас в своих представлениях мы пользуемся другими уже установившимися контекстами: кто-то берет от программного обеспечения, кто-то замещает контекстом человеческого интеллекта, но большинство из нас ещё поверх накаладывает контекст понятия "инструмент". Все эти контексты тянут за собой лишние свойства этих понятий, что нам всем очень мешает объективному обдумыванию. Свой собственный контекст понятия будет меняться со временем и одновременно отношение к нему.