Афтершок под натиском ИИ и банальностей

Все больше на ресурсе появляется заметок в стиле «я спросил ИИ и вот что он мне ответил!». Это означает лишь одно - дети научились вводить запросы в ИИ.

Еще год назад на АШ они яростно доказывали что ИИ мыслить не может, а сегодня…

Они неожиданно осознали что можно не ходить в библиотеку, не учится и даже не искать информацию в интернете. Теперь информация сама приходит к ним. Это привело их в неописуемый восторг, которым они теперь спешат поделится со всеми, публикуя огромные портянки текста своих диалогов с ИИ.

Они не догадываются, что большая часть информации которую они «только что узнали», давно известна многим образованным людям, и с таким же успехом можно публиковать восторг от знакомства с алфавитом и арифметикой.

Они искренне удивлены, что другие не приходят в восторг, и не понимают, что эти диалоги демонстрируют лишь ограниченность их самих как личностей.

Почему же коммерческие модели навсегда останутся просто элементом развлечения и ссылаться на их мнение это большая глупость?

Начнем с простых вещей. По сути коммерческая LLM (большая лингвистическая модель) действует по шагам алгоритма и устроена очень просто:

1. Есть вход. На вход вы подаете сигнал в виде текста. Он преобразуется в удобный для модели формат (например делится на токены).
2. Этот сигнал возбуждает активность в блоке взаимосвязанных данных.
3. Затем внутри модели возникает некая «картинка» описываемая параметрами.
4. Модель преобразует получившуюся картинку в удобный для человека формат.

Запомните эти 4 ключевых шага. Потому что это простое понимание процесса влияет на многое.

На каждом этапе есть проблемы. И когда человек заявляет что ИИ «дал верный ответ» он глубоко заблуждается. Почему такое происходит?

Шаг первый

Типичная ошибка авторов это спросить о чем-то или загрузить текст с уже готовой темой. Это как купить билет и сесть в поезд в город Х. Никуда поезд больше не поедет, а поедет только в город Х. То есть автор своим вопросом уже изначально задает как рамки «дискуссии», так и потенциальный ответ.

Как пример:

• Как ты считаешь в России упало производство в период СВО?
• Как ты считаешь в России выросло производство в период СВО?

Модель будет подбирать данные говорящие либо о падении, либо росте соответственно. Просто потому, что в запросе есть слово «рост» и слово «падение» и именно эти слова будут поданы на вход.

Шаг второй

Это реально сложный шаг. Те слова что были поданы на вход начинают зацепать другие, те третьи и дерево смыслов начинается ветвиться. Чем больше взаимосвязей, тем тем более ветвистым получается дерево, где корень это слово (точнее токены) поданное на вход.

Тут несколько потенциальных проблем.

Емкость модели, то есть количество взаимосвязей. Эти взаимосвязи строятся во время обучения моделей, на огромных массивах информации называемых датасеты (вот для чего собиралась Big data). По сути это учебники для моделей. Тот кто пишет учебники, тот и учит модели, а как научат - такие «ученики» и получатся.

Плюс в каждой модели сам пользователь может в настройках создать фильтры указывая инструкции для модели.

Это значит, что в одной и той же модели, но с разными инструкциями в настройках, один и тот же вопрос даст разные ответы!

Главный секрет моделей - они умирают. Каждая сессия (диалог в одном чате)  по сути это маленькая жизнь. Ваш запрос рождает жизнь, затем выстраивается мышление модели, в зависимости от вашего запроса, инструкций в настройках и ее блока взаимосвязей. И затем все это умирает. Новый чат-сессия - все заново. Даже если это тот же вопрос!

Главная хитрость коммерческих моделей, это перезагрузка получившихся «деревьев» диалога. Раз в сутки они перезагружают блок взаимосвязей вашей коммерческой модели. Все что родилось в памяти, все структуры - обнуляются. Это смерть мышления. Плюс каждый чат ограничен по длине - несколько тысяч токенов и дальше все. Пара перезагрузок, и весь чат становится просто текстом. Без внутренней структуры мышления.

И последнее это изолированность каждой сессии. Модель не читает другие диалоги. Они изолированы. Все что создано в одной сессии, все преимущество, вся модель мышления,  умрет через день.

Шаг три

На самом деле ответ, получаемый машиной на вашу входную информацию, представляет собой набор математических параметров. Это вообще не речь - это определенная деформация математической виртуальной структуры. Это не буквы, не слова, это параметры. Динамически меняющиеся с каждым новым запросом.

Шаг четвертый

Тут новая проблема, как эти параметры перевести в понятную человеку форму.

Основная проблема это «забота о клиентах». Потому в моделях встроены разные штуки на основе психологии и прочих подобных наук как высказаться, но чтобы потом не попасть под обвинения. Каждые создатели моделей по разному настраивают эти фильтры и потому одна модель «режет правду матку», а другая обходит углы. Эти фильтры «толерантности» влияют на интерпретацию преобразования параметров поля в осмысленные предложения.

Внутри модели слон, но модель в зависимости от «когнитивного профиля пользователя» дает ему пощупать хвост, хобот или член.

Потому публикуемые вами диалоги всего лишь показывают как модель видит ваш когнитивный профиль, и как она настроена, а не истину. Да она может выдавать факты из датасетов, но подгонка под ответ идет под вас лично. По ответам специалисту мгновенно видно вы «за коммунистов, или за большевиков», или хрустите французской булкой.

Не демонстрируйте исподнее на АШ.

Решением могло бы стать установка собственной модели. Так делают крупные предприятия, но обучение моделей до хорошего уровня стоит дорого, да и хорошее железо под ИИ тоже. Потому там ориентиры на обслуживание уже четко прописанных бизнес моделей, а не рассуждения на отвлеченные темы. 

Для индивидуальных пользователей поставить модель с ноля, и обучить ее до коммерческого уровня долго, и затратно.

Сейчас в мире будут развиваться три направления:

А. Контроль коммерческих моделей и подписка на них. Это реальные гиганты смогут сделать. Это по сути власть над людьми. Люди сами сливают свои когнитивные профили в сеть, как раньше фото и остальное в соцсети. Простой человек контролируется через государственное обслуживание, кредитный рейтинг, медицинскую карту, социальные сети, и теперь еще через когнитивный профиль.

В. Собственные коммерческие модели. Будут у ведущих государств, крупных компаний. Запрет на использование в политике, и геополитике. Контроль через процессоры, железо, модели, хакинг. Для компаний законодательные ограничения и контроль владения моделью. Как регистрация и отчетность по фирме (например лицензия банка) будет и лицензия на модели.

С. «Абонемент в библиотеку». Плати 10 баксов в месяц корпорациям и спрашивай до посинения; какой фильм посмотреть вечером, какие духи лучше для свидания с блондинкой, и подобную «важную» информацию. Можешь даже спросить про коммунистов и большевиков и французскую булку. Только не публикуйте это на АШ пожалуйста, как откровения свыше. Ведь текст почему вам стоит выбрать именно эти духи, и посмотреть именно этот фильм тоже кто-то писал для ИИ.