Низкофоновый контент через год будет дороже антиквариата

Дегенеративное заражение ноофосферы идет быстрее закона Мура

Низкофоновая сталь (также известная как довоенная или доатомная сталь) — это любая сталь, произведенная до взрыва первых ядерных бомб в 1940 — 50-х годах.

До первых ядерных испытаний никто и не предполагал, что в результате порождаемого ими относительно невысокого радиоактивного заражения, на Земле возникнет дефицит низкофоновой стали (нужной для изготовления детекторов ионизирующих частиц — счётчик Гейгера, приборы для космоса и т.д.).

Но оказалось, что уже после первых ядерных взрывов, чуть ли не единственным источником низкофоновой стали оказался подъем затонувших за последние полвека кораблей. И ничего не оставалось, как начать подъем с морского дна одиночных кораблей и целых эскадр (типа Имперского флота Германии, затопленные в Скапа-Флоу в 1919).

Но и этого способа добычи низкофоновой стали особенно на долго не хватило бы. И ситуацию спасло лишь запрещение атмосферных ядерных испытаний, после чего радиационный фон со временем снизился до уровня, близкого к естественному.  

С началом испытаний генеративного ИИ в 2022 г также никто не заморачивался в плане рисков «дегенеративного заражения» продуктами этих испытаний.  

·       Речь здесь идет о заражении не атмосферы, а ноосферы (что не легче).

·       Перспектива загрязнения последней продуктами творчества генеративного ИИ может иметь весьма пагубные и далеко идущие последствия.

Первые результаты заражения спустя 1.5 года после начала испытаний генеративного ИИ поражают свои масштабом. Похоже, что заражено уже все. И никто не предполагал столь высокой степени заражения.

Ибо не принималось в расчет наличие мультипликатора — заражения от уже зараженного контента (о чем вчера поведал миру Ник Сен-Пьер (креативный директор и неофициальный представитель Midjourney).

Настораживающая статистика Adobe

Данные, опубликованные Ник Сен-Пьером впечатляют [1].

• Более 13% всех изображений в Adobe Stock созданы с помощью генеративного ИИ.

• Большая часть сгенерированного контента поступает от Dalle и Midjourney.

• Медиа с тегом «фэнтези» на 43% создано ИИ. Другие теги еще выше.

• Это большая часть обучающих данных, которые питают генеративный ИИ Adobe Firefly (генератор изображений на базе ИИ от Adobe).

Скорость затопления инфосети контентом, «зараженным ИИ» (контент произведенный с помощью генеративного ИИ, обученного на контенте, произведенном генеративным ИИ) колоссальна.

Получается, что любой контент, произведенный после 2022 (вкл интернет-архивы), почти наверняка «заражен» генеративным ИИ, и уровень этого заражения совсем немал. Что и превращает такой генеративный контент, извините за каламбур, в дегенеративный. 

Комментируя это, Итан Молик (проф. Уортона, изучающий ИИ) придумал  использованную мною выше метафору - низкофоновая сталь.

Продолжая эту метафору, легко представить, что всего через несколько лет «низкофоновый» (догенеративный) контент станет в ноосфере столь же редким и дорогим, как самый изысканный и старинный антиквариат.

Но это еще не все.

В результате роста в обучающих наборах новых моделей генеративного ИИ доли контента, порожденного с помощью предыдущих версий моделей, начнется процесс, названный Россом Андерсоном коллапсом больших языковых моделей (LLM) [2].

Ситуация будет напоминать комедию «Множественность» с Майклом Китоном в главной роли, в которой скромный человек клонирует себя, а затем клонирует клонов, каждое поколение которых ведет к экспоненциальному снижению уровня интеллекта и увеличению глупости клона.

С LLM будет происходить то же самое. Использование для обучения модели контента, сгенерированного моделью, вызывает необратимые дефекты. Хвосты исходного распределения контента исчезают. В течение нескольких поколений текст становится мусором, поскольку распределения Гаусса сходятся и могут даже стать дельта-функциями. Более поздние поколения начнут производить образцы, которые никогда не были бы произведены оригинальной моделью, т.е. они будут неправильно воспринимать реальность, основываясь на ошибках, внесенных их предками.

И речь не только про тексты, но и про изображения, видео, музыку … Если вы обучаете музыкальную модель Моцарту, вы можете ожидать, что результат будет немного похож на Моцарта, но без блеска — назовем его «Сальери». И если потом Сальери обучит следующее поколение и т.д., то как будет звучать пятое или шестое поколение?

Вот это и называется «коллапсом модели», в результате которого:

✔️ Интернет все более будет забиваться чушью;

✔️ а люди, которые, наряду с LLM, будут этой чушью информационно напитываться, будут неумолимо глупеть.

Но и это еще не все.

Потом коллапс моделей приведет к тому, что цунами инфомусора окончательно накроет науку [3].

Т.е. разруха, начавшаяся с дегенеративного заражения Интернета, потом имеет все шансы переходить в новые поколения LLM, а потом и в головы новых поколений людей.

И наконец, в добавок ко всему названному, будет нарастать число мутаций языка и подмена когнитивных микроэлементов на помои снов ИИ [4],

Перспектива вымывания «когнитивных микроэлементов», на смену которым придет синтетический мусор, светит не только разговорным и письменным языкам человечества. Но и языкам наук и изобразительным языкам.

Можно ли все это остановить?

Возможно, да. Если остановить дегенеративное заражение ноофосферы.

Радиоактивное заражение атмосферы человечество смогло остановить, отказавшись от атмосферных испытаний ядерного оружия.

Отказа от генеративного ИИ уже не будет. Этот джин, к счастью или на беду человечества, уже выпущен из бутылки.  И слишком заманчивые перспективы для той же науки и здоровья людей этот джин сулит.

Так значит, нужно срочно искать методы обеззараживания ноосферы от дегенеративного заражения, которое уже началось и вовсю идет.