The Matrix has you …©
Как-то уже некоторое время бродили мысли, вот такое сформировалось. Невеселое и короткое. Возможно, коллеги, являющиеся профильными специалистами, скажут, что не все так плохо. Надеюсь …
Исходное:
- LLM (в просторечье – ИИ) достигли больших высок в генерации различных текстов на заданные темы.
- Боты также достигли больших высот в своем развитии
- Процесс соединения ИИ с ботами уже активно идет.
Гипотеза 1:
Предполагаемое:
- Вариант 1: бот отслеживает новости на лентах информагентств по определенным критериям (тематика, тег и пр.). При необходимости привлекается ИИ для анализа и классификации. Далее генерируется текст, исходя из заданных установок (основной тезис, используемая лексика, объем текста и т.п.) и публикуется на некой площадке (телеграм-канал, АШ и пр.)
- Вариант 2: бот отслеживает комментарии к заметке, скармливает ИИ, тот генерирует ответы (установки те же)
Возможные цели:
- «Просто» блогерство (самое невинное)
- Продвижение заданной повестки (по убеждениям или за деньги)
- «Забивание» некоего ресурса (например – форума) информационным контентом без формального нарушения каких-либо правил.
Результат (непосредственный):
- Основная масса читателей потребляют информацию, создаваемую ИИ
- Меньшая часть, обладающая развитым критическим мышлением, чувствует «искусственность», охладевает к онлайн общению с другими людьми и переходит на общение непосредственно с ИИ
Гипотеза 2:
«Традиционные» поисковики уходят в историю, превращаясь просто в интерфейс для ИИ (с одной стороны) и платформы для поиска предложений товаров/услуг – с другой.
Следствие:
В относительно близком будущем практически весь процесс познания мира и онлайн общения человека будет замкнут на ИИ. В результате:
- Те, кто формирует алгоритмы ИИ, смогут, фактически, формировать мировоззрение подавляющего большинства людей
- С общей тенденцией сокращения офлайнового общения людей, самым главным собеседником человека станет ИИ. Что, в свою очередь, будет порождать дальнейшее обособление (индивидуализацию) человека. Ибо зачем общаться с кем-то (человеком) если ИИ, во-первых, знает гораздо больше любого человека, во-вторых, всегда на связи (никогда не устает, не бывает в плохом настроении и пр.), в-третьих, гибко настраивается под желания вопрошающего.
См. эпиграф. И никакая война не нужна. Что-то грустно.
Интересная и важная тенденция, когда ИИ-системы, с умыслом создателей или нет (если "типа баг"), искажают типично объективную информацию уровня Постановлений правительств. Кто дал им (ИИ, LLM) команду искажать данные, обычно требующие подтверждений?
Комментарии
Страшновато, что ИИ начинают подстраиваться под конкретного пользователя.
Секта для одного - дорога а дурку, имхо.
Именно
Я недавно попросил DeepSeek подготовить одно обоснование с судебной практикой. Обоснование было подготовлена с указанием номеров конкретных судебных дел и решений. Результат проверки был интересный ИИ выдумал судебные дела и решения по ним.
Аналогично, коллега. Только ChatGPT. Было придумано целое Постановление Правительства РФ с номером и датой. После обнаружения обмана теперь в общении с любым ИИ обязательно требую конкретные ссылки ("Где пруфы, Билли?" (с)) Тут главное - как алгоритмы ИИ позволяют ему выдумывать информацию, выдавая ее за истину. Вот это реально пугает.
а какая разница кто фильтрует поступающую тебе инфу - поисковик или ИИ ? без поисковика ты мало чего найдёшь, а что найдёшь - тот ты и без ИИ найдёшь
Просто раньше поисковик мог понижать какие-то приоритеты в выдаче информации или даже просто что-то исключать из результатов, но это были некоторые относительно кустарные вещи. Которые иногда можно было обойти. А сейчас все ложится на солидную промышленную основу.
ну так ИИ не в одной стране и не в одной конторе пашут, конкуренция вынуждает их работать хорошо, иначе все юзеры свалят к конкурентам
Любая конкуренция приводит в конце концов к монополии. Или картельному сговору.
и как запрещённая в России Мета или OpenAI сговорится с российским Сбером (у них ГигаЧат) или с Яндексом (у них Алиса ИИ) ?
да, ИИ - это ещё одна возможность для управления информационным полем в Интернете.
Думается, мир Оруэлла ближе, чем кажется.
Первый этап может произойти буквально в течение пары лет. А потом уже все по накатанной. Люди 40+ еще могут оказаться относительно слабо затронутыми (в силу образования/знаний/привычек, полученных до эпохи ИИ), а вот у детей/подростков/молодежи как-то особых шансов лично я не наблюдаю. Повторю, рад буду ошибиться
Энергетическую стоимость такой одной мусорной транзакции было бы неплохо оценить.
Полагаете, вопросы стоимости кого-то остановят на этом светлом пути? На таки-то ставках? В "Обитаемом Острове" (книге, конечно) есть хорошее описание:
"Те, кто вел эти машины и управлял ими, считали себя, должно быть, в полной безопасности. Впрочем, вряд ли они об этом думали, они просто спешили вперед, подстегивая лучевыми бичами железное стадо, которое катилось сейчас через ад, и они наверняка ничего не знали об этих бичах, как не знали и того, что бичи эти хлещут их самих… " (с)
Да, если конечный результат не будет давать прибыли - никто таким заниматься не станет. А энергетически это очень дорого и будет только дороже со временем, если не изобретут новые дешёвые источники энергии
Засрать (простите мой немецкий), например, АШ - не очень дорогое удовольствие. А если глобально - вместо целой индустрии пропаганды (весьма недешевой) - просто настроенный ИИ.
Сколько этот "просто настроенный" будет жрать энергии? Не говоря уже про "а кто его будет настраивать"?
Я не специалист, но, мне кажется, вполне хватит одного ПК. Настраивать - для нашего форума - несколько часов работы (если заморочиться с индивидуальными особенностями "топикастеров" - то пара дней). Наверно, не буду развивать тему - а то и правда кто-то воспримет как руководство к действию, а мне АШ, в целом, нравится.
Очевидно на много более эффективно чем армия блогеров людей, да и вообще сильно дешевле чем тоже самое реализуемое людьми.
И причем не важно как считать, в долларах или в физической экономике. Человек это 2500 килокалории в сутки при КПД не более 35% и все это высококачественно органическое топливо. А тензорный процессор это универсальное электричество, и потребляется только по требованию, и КПД несравненно выше человеческого. 
Спецификации тут:
https://docs.nvidia.com/dgx/dgxh100-user-guide/introduction-to-dgxh100.html
https://www.nvidia.com/en-us/data-center/h200/
Или иначе: 10,2 киловатт = 8770,421324162 килокалория (межд.) в час
С поправкой на тот факт что одна система DGX H100/H200 это уже целая толпа, и такая система готова выдавать терабайты осмысленных текстов в сутки, на что потребовались бы тысячи людей. Сравнение однозначно не в пользу человека, и "без шансов" для простого обывателя.
И учтите, что сегодня уже проектирую системы на миллион H200, что с объемом резко повышает качество. Другими словами все как всегда - "бога на стороне больших батальонов".
Оценили уже ( в сотни миллионов) в open ai - все эти "спасибо-пожалуйста" чату gpt .
Призывают всех пользователей поменьше бытовухи писать алгоритму , который букву за буквой вычисляет на электроэнергии от сжигания угля.
Останется одно телевидение...
Не-а! В телевидение будут сидеть дипфейковые персонажи и говорить тексты, сгенеренные тем же ИИ. "А Скрипач не нужен, родной". (с)
Не -а!
После недолгой эры дипов опять вернется винтаж - живые морды.
Осталось, как мне представляется, очень недолго до того момента, когда будет практически невозможно (человеческим глазом) распознать, что видишь - реального человека или дипфейк. Разве что "винтаж" будет заключаться в том, что люди будут физически собираться где-то в одном помещении, чтобы послушать Человека.
Не парься.
В конце всех концов - без разницы.
Это да. "Все прахом будет" (с)
И Галактика. ..
И не одна ...
Вы это на че намекаете ?
Ничего личного, не подумайте - Ваша мне всегда нравилась ...
.
Статьи, написанные ИИ будут представлять собой жвачку безо всякой информации либо содержать фантастические факты.
Или содержать "предустановленные нарративы". Типа "доколе терпеть мигрантов" или наподобие. Вопрос в том, что среднестатистический обыватель нипочем не поймет, что это ИИ, а не человек.
Если нет разницы, то всх живых журналистов уволят.
ИИ неспособен в аналитику от слова ваще.
В смысле собрать всё какую то более менее структурированную кучу да, а вот сделать неожиданный вывод - уже нет. Только очевидные.
А зачем ему аналитика? Нужные выводы будут заложены свыше.
С одной стороны, как системный администратор с 25ти летним стажем я искренне считаю 90% клиентов дебилами - это профдеформация.
С другой стороны я видел врачей от Бога вытаскиющих людей с того света, гениальных художников, перед картинами которых замирал, бизнесменов умеющих продать валенки неграм и далее по весьма длинному списку.
Так вот все эти люди ни хрена не понимая в IT - разберутся, что их разводят и спрос на живых журналистов наоборот вырастет.
Как это было с 1с, когда они объявили, что теперь бухгалтеры не нужны. Удивительно, но с тех пор количество бухгалтеров минимум утроилось.
А я об этом ведь тоже написал. Каков процент этих "врачей от Бога", гениальных художников и пр.? Единицы процентов, не так ли? Причем они вполне могут не понять, что их разводит ИИ, это немного другие навыки нужны (как человек, немного общавшийся с врачами, прочувствовал). Но понимающие "просто уйдут с разных форумов и пр.". Потому что разгребать кучу продукции ИИ - такое себе. И станут общаться с ИИ напрямую (по крайней мере - точно знаешь, что это не человек).
Именно так.
На Афтершоке уже публикуются статьи, сгенерированные ИИ, почти каждый день. Полагаю, дальше будет больше.
Наоборот. Возрастёт количество социальных сетей с безусловной авторизацией по паспорту.
Это не поможет. Ну будет паспорт - разве это проблема? Это же не наказуемые вещи.
Тебе ничего не поможет.
Читай ии и наслаждайся.
Тебя он первым делом и заменит.
Ладно. Извини, был не прав вспылил.
Но все почему то ставят плюс где надо минус и наоборот.
Очевидно же, что не взлетает то что называют ИИ ну ровно нигде, кудой его усиленно пихают, наоборот только дополнительные проблемы создаёт, да еще и электричество кушает от души.
Возможно! Возможно когда нибудь найдут толковое решение, но пока на горизонте ничего не видно.
Принято.
Тут разные моменты. С одной стороны, ИИ - это очень "модная" тема, под это дело относительно легко выбиваются хорошие деньги и пр., за которые потом никто не спросит по факту ("ну не смогла я" (с)). Почти "проблема 2000 года" (старики помнят). С другой - а если и правда попробуют передать уровень решения ИИ? Те же какие-нибудь "рои дронов" или ракет? Да даже если финальное решение будет за человеком - уже известно, что ИИ может просто врать, выдумывая информацию.
Это общая ситуация. А я дополнительно писал о конкретной, частной, в которой ИИ уже полноправно участвует и вскоре станет доминирующим (если уже не становится) - генерации текстов. Что может привести к исчезновению человеческого общения вообще, только при физических встречах. Повторю - тем, кому условно 40+ это не очень страшно, а вот новые поколения
Именно! Останутся только самые креативные, буквально несколько процентов. Ну плюс еще немного "выездных", которые будут читать текст на фоне событий.
Стоит перейти на идентификацию собеседника при помощи некоторого трудно взламываемого ИИ пароля или признака - например, наличия чувства юмора или сексуальных предпочтений..
Да, "тест Тьюринга для ИИ" - хорошая мысль. Боюсь только, скоро "взломают".
Строго говоря, ранее точно так же руку на пульсе держали типографии.
Как там у Владимира Ильича? "Взять почту, телеграф, телефон...".
Да. Но Вы забыли еще вокзалы. Чтобы никто не сбежал из рая.
И не упомянул мосты, да ) Думал, поколение и так помнит, не стал цитировать полностью.
По мысли статьи: в эпоху книг выкручивались рукописными копиями запрещёнок, Вы правы. При блокаде телефона шли через мосты ножками. Сейчас тьма народу вкручивает в поисковик впн чтобы послушать вторую точку зрения. При монополии ИИ будет и аналогичная, неудобно выполняемая альтернатива.
Имхо, ничего по сути не изменилось.
Это называется "культурный код". Как опознавание "свой-чужой"
Да, "альтернативный" ИИ - согласен. Но меня больше пугает утрата межличностного общения. Никогда раньше такого не было.
Страницы