Машинное обучение и человеческие ценности

Думаю, что специалисты от Маска, с помощью ИИ уже изучают общественное мнение россиян и используют имеющиеся знания для манипулирования этим мнением. Что в свою очередь, через социологические опросы, влияет на решения властей РФ.

Дело в том, что в больших языковых моделях (LLM) машинного обучения ИИ легко распознаётся, по используемым словам, то, что нравится людям/писателям/гражданам, а что им не нравится и как эти предпочтения меняются после очередного «громкого вброса» (типа «MAGA»).
Манипуляторы, вооружённые этим инструментом, уже потирают руки, считая, что у них есть скрытый механизм (кнута и морковки) для управления стадом образованных людей. (Может они и второе место АДГ на выборах в Германии заранее просчитали?).

Конечно, инструмент в первую очередь опробуют на своей аудитории. (Думаю, что на выборах 2024 года в США его уже использовали).
Тем более, что Трамп ещё на выборах 2016 году испытал "секретное политическое оружие" от лондонской фирмы Cambridge Analytica. Это была персонализированная реклама (от психолога из СПбГУ). В частности, автоматически создавались психологические портреты около 70 млн избирателей (пользователей соцсети Facebook из США), на основе изучения порядка 5 тысяч различных параметров. Учитывались такие аспекты, как политические пристрастия, как человек голосовал на предыдущих выборах, какие передачи он смотрит по телевизору, где и какие товары покупает и т.д. Затем избирателю предлагалось пройти анонимный психологический тест, в ходе которого определялась степень его откровенности, совестливости, законопослушности и склонности к нервным срывам. Это позволяло найти оптимальный индивидуальный подход к потенциальному избирателю и подобрать для него персональные агитационные материалы. (Вот почему у Трампа такая тяга к словам и знакам (в т.ч. денежным), а не к делам 😊).

Но сегодня используется более тонкий инструмент ИИ. Для борьбы с Россией, для дальнейшего обучения и будущих «успехов» американцам ещё понадобятся актуальные русскоязычные тексты из чатов, соцсетей, СМИ, от популярных блогеров, с новостных сайтов и комментариев.

Единственное, чего не понимают эти «маги», что LLM отражает лишь Субъективную языковую реальность (СР), но не Объективную реальность (ОР)!
Хотя их профессора из Стэнфорда и Принстона признают, что  «Общий язык более предвзят, чем можно было бы ожидать, основываясь на внешних, объективных показателях» и «Наш публичный дискурс [язык], похоже, становится более или менее предвзятым: он является предвестником происходящих перемен и дает представление о грядущем мире». (Мы то с вами даже невооружённым глазом наблюдаем, как у них крыша едет 😊).

Могут ли машины действовать в соответствии с человеческими моральными нормами и целями? С чего бы? Зачем? Тем более, что тут есть серьёзные трудности.
Согласование машинного обучения и человеческих ценностей связно с двумя взаимосвязанными задачами:

1. Нормативная задача: Что? Каким ценностям или чьим ценностям должен соответствовать ИИ???
2. Техническая задача: Как? Как закодировать человеческие ценности в искусственном интеллекте (ИИ)?

Для согласования модели машинного обучения с человеческими ценностями используют метод Обучения с подкреплением на основе обратной связи с людьми (Reinforcement Learning from Human Feedback (RLHF)). Это позволяет языковой модели «научиться соответствовать ожиданиям людей». (А нам надо, чтобы машины умели нас обманывать? Когда мы и сами обманываться рады 😪).

Но у создателей ИИ есть уже явные успехи:

·       Специалисты в области компьютерных наук обращаются к социальным наукам, совершенствуя создаваемые ими модели. А социологи обращаются к специалистам по машинному обучению, обнаруживая, что теперь в их распоряжении есть новый мощный микроскоп, для изучения прошлого общества (СР).

·       Предубеждения (когнитивные искажения) и разные коннотации, хотя и кажутся тонкими, идеальными, невыразимыми, на самом деле реальны. Они поддаются детальному и точному измерению.

·       Эти языковые модели следует применять с абсолютной осторожностью, особенно если они используются не для предсказания пропущенных слов 😊.
“Безусловно, необходимо проявлять осторожность при внедрении модулей LLM в системы принятия решений”.

·       Моделирование мира таким, какой он есть, — это одно. Но как только мы начинаем использовать языковые модели (LLM), мы начинаем менять СР. (А сознание, как известно, определяет бытие). Расчёт на то, что ИИ сам по себе не изменит реальность, почти во всех случаях неверен. Неосторожное внедрение ИИ может привести к созданию циклов положительной обратной связи, из-за которых восстановление/возврат к прежнему языку/сознанию становится все более трудным и требует все более масштабных вмешательств. (Тюремная феня, въедается в подсознание. Может русский матерный не подвластен LLM 😊?)
При целенаправленном применении систем, которые способны усиливать и увековечивать скрытые в обществе предубеждения, они могут быть использованы для того, чтобы сделать предубеждения заметными и неоспоримыми. (Русофобию они уже, с помощью языка довели от Киева до ООН).

·       Эти модели (LLM) предлагают нам электронный телескоп, через который видно будущее общества (СР). Благодаря чему мы получаем представление не только о нашей истории, но и о нашем сегодняшнем дне. (Каждый день в Интернете публикуются новые тексты, позволяющие отслеживать динамику, видеть будущее. Через дипфейки? Хотя ещё В.Ленин называл кино важнейшим из искусств 😊).

Люди порой забывают о том, насколько инженерия неразрывно связана с человеческим обществом, человеческими нормами и ценностями.
Пора нам, по мере возможности, перестать обучать западные модели (LLM) тому, что такое Хорошо, а что такое Плохо. Пусть они В.Маяковского читают с😊.

Вывод.

НАМ НАДО СТРОИТЬ НЕ Модель мозга (связи нейронов), НЕ Модель языка (связи слов), А МОДЕЛЬ МИРА (связи/отношений Предметов мышления)!
Напомню, что эти Предметы мышления находятся как минимум на 7 онтогенетических уровнях трёх реальностей, воспринимаемых Человеком. (И это не Явь, Правь, Навь 😊).
Это Тело + Организм в Объективной реальности (ОР), Психика/Душа + Нравственность/Мораль + Разум/Сознание в Субъективной реальности (СР), Дух человеческий + Дух-Бог в Духовной реальности (ДР). См. Сознание определяет бытие́. Новое мировоззрение для построения нового мироздания!

P.S. «Успехи LLM » адаптированы на основе выводов статьи Christian-Alignment-Problem-Intro-and-Ch1.pdf

P.S.S. Не буду тут описывать проблемы «магов» с идентификацией «гендеров», бабушек и дедушек, негров и горилл. Это проблемы американского английского, когда имя "Джон " более типично для инженерных резюме, чем "Мэри". Поэтому американская модель LLM предложит работодателю сначала резюме Джона, а потом уже Мэри. Короче, у них проблемы с «карликовыми трансатлантиками» (с). Их девиз «Здравый смысл» и «Peregruzka»! (Проблема осталась, дырку заткнули тряпкой 😊).
(Для справки. Наш Яндекс тоже может заменить Воскрешение Вознесением (возможно это трудности перевода с английского?) 😊).

Нейросети прямо сейчас меняют не только наш язык, но и «код, дизайн, маркетинг, медиа и другие индустрии». Слава Богу, что язык у нас русский! Этимология крепкая! 😊