Издатели в шоке: читатели уверены, что дикие заголовки придуманы самими журналистами.
Google тестирует ИИ-заголовки в ленте Discover и подменяет ими оригинальные формулировки новостей. Об этом рассказал старший редактор The Verge Шон Холлистер, который заметил, что в его ленте на смартфоне вместо заголовков изданий стали появляться короткие и нередко вводящие в заблуждение формулировки, сгенерированные ИИ-алгоритмом.
Эксперимент затронул новостную ленту Google Discover на смартфонах Samsung Galaxy и Google Pixel. По наблюдениям Холлистера, система пытается сократить смысл публикации до нескольких слов, но результат часто оказывается искажённым. Публикации о Baldur's Gate 3 получают заголовки, в которых игроков обвиняют в эксплуатации детей, в материалах о стандарте Qi2 — утверждения о замедлении старых Pixel.
Материал Ars Technica о будущей цене консоли от Valve превращается в заявление, будто стоимость уже раскрыта, а аккуратный заголовок о продажах видеокарт в одном немецком ритейле сокращается до фразы о том, что решения AMD якобы «обгоняют» Nvidia. Появляются и просто бессмысленные формулировки вроде упоминаний неясных «резервных копий» и «споров о маркировке ИИ», которые без контекста новости звучат как набор случайных слов.
Журналисты указывают, что проблема не только в качестве формулировок. Издания лишаются контроля над тем, как подаётся их материал в ленте Google, а читатели могут решить, что кликбейтные заголовки придумывают сами редакции, поскольку рядом по-прежнему отображаются логотипы и названия медиа. Отдельное недовольство вызывает непрозрачность: Google помечает такие карточки сообщением о том, что используется искусственный интеллект и возможны ошибки, но эта отметка видна только при раскрытии блока «подробнее», а не сразу в ленте.
В компании описывают происходящее как небольшой интерфейсный эксперимент для части пользователей Discover. По словам официальной представительницы Google Мэллори Делеон, цель изменений — сделать информацию по теме легче для восприятия ещё до перехода на сайт. Однако журналистское сообщество видит в этом продолжение тенденции, при которой поисковик и сопутствующие сервисы всё сильнее удерживают аудиторию внутри экосистемы Google и всё меньше отправляют трафик на сайты СМИ.
На этом фоне редакции ищут новые источники дохода, включая подписочные модели, и предупреждают, что дальнейшее смещение акцента в пользу ИИ-обработки контента может лишь ускорить упадок интернета.
Комментарии
Причем чем больше становится этого сгенерированного скриптами кала, тем больше кала будет сгенерировано на следующем витке генерации, так как теперь на входе скрипт получает и ранее сгенерированный кал в качестве "полезной" (типа) информации.
Самоускорящийся процесс. Если не маркировать скриптогенерацию изначально, чтобы скрипт мог распознавать и не засасывать ее, относясь по сути сразу как к мусору.
На АШ, напомню, маркировка скриптогенерации внесена как требование в FAQ:
https://aftershock.news/?q=node/783
Не засоряйте эфир скриптогенерацией, там полно и дезы, и просто мусора. Каждое утверждение сгенерированное скриптом проверяйте, ищите первоисточник, остальное удаляйте. А лучше - пишите сами, СВОИ мысли, а не компиляцию поноса из инета.
Если копируете "скриптопасту", выделять всю цитату и указывать в самом начале, чтобы люди, понимающие ее качество и присущие косяки, могли решить читать им дальше или нет.
Вы не сможете остановить распространение технологи ИИ. Это принципиально невозможно. Вопрос не в технологии ИИ, а в нашем обществе. Если применять технологию ИИ для максимизации прибыли, то только так и будет.
И если вы думаете что "процесс самоустранится", то вы сильно ошибаетесь, и просто плохо знакомы с технологией. LLM это было только самое начало.
Для новых ИИ данные уже есть и собраны. А новые методы уже не требуют сбора данных и с интернета. Потенциал языковых моделей уже практически исчерпан, и теперь начинаются мировые модели и мультиагентные системы. Им для обучения в интернете нисколько не помешает, как и все необходимые данные для обучения уже собраны.
утверждение спорное.
обосную на примере своей отрасли - пищепрома.
когда придумали маргарин (в качестве заменителя сливочного масла) все были уверены, что молочная отрасль, состоявшая из обычных фермеров, сдуется сама по себе под натиском огромных химических концернов, которые в т.ч. оплачивали и прямую рекламу и "объективные медицинские исследования" о вреде сливочного масла и т.д.
но потом как то так получилось, что и фермеры объединились в кооперативы и надои повысились и натуральное масло пошло с "глобального юга" в товарных количествах и подоспели свежие "объективные медицинские исследования" о вреде трансжиров. и даже натуральная и в принципе безвредная "пальма" уже не спасала ситуацию.
и как то так по итогу получилось, что появилась маркировка "молокосодержащий продукт" на всей шняге содержащей НЕмолочный жир.
У вас не получилось. Потому что аналогию нужно брать адекватную.
Прямая аналогия - компьютерные вирусы. Все современные компьютерные вирусы и вся индустрия создания компьютерных вирусов и индустрия компьютерной безопасности результат опубликования единственной статьи про "игру Дарвин-2". Как только эта статья была опубликована, все сразу поняли "так тоже можно", и с этого момента распространения компьютерных вирусов распространить уже было невозможно. И так появился первый громкий компьютерный вирус "Мадонна".
В 2017 году компания DeepMind опубликовала фундаментальную статью по LLM. И все теперь точно знают "так тоже можно". Остановить процесс распространения и развития технологии LLM теперь невозможно остановить никакими способом. Чуть позже мы все увидели компанию OpenAI и ChatGPT которые не только доказал "так тоже можно", но и наглядно показал насколько это выгодно. Теперь это невозможно остановить теоретически.
И если бы вы следили за развитием истории, то выдели бы вопли самих разработчиков "остановите разработку!". Поскольку есть то что вы принципиальное не поняли про технологию ИИ, когда сами разработчики ИИ все прекрасно поняли еще несколько лет назад. И как мы видим остановить разработку ИИ не удалось сделать даже самим разработчикам ИИ.
Но это еще далеко не все, были еще фундаментальные статьи которые превзошли знаменитую статью DeepMind про LLM, и хотя его очень мало людей и даже специалистов поняли "про что это" и в чем "так тоже можно". Но эти статьи тоже уже опубликованы и распространение этих идей уже невозможно остановить. Последствия этих идей будет еще более радикальные чем появление технологии ИИ. Прямые последствия для экономики и политики. https://github.com/paradigms-of-intelligence
Все уже произошло. А сейчас мы просто наблюдаем следствия. Неизбежные следствия.
И более того, когда стало понятно что LLM - "так тоже можно" образовалась огромная политическая сила которая продвигает идеи технологии ИИ - Эффективный акселерационизм. И это не просто какие-то "дурачки", а фактически все все руководство высокотехнологичных ТНК которых принято называть Big Tech. В первую очередь Питер Тиль и Илон Маск, это они привели/выбрали Трампа к власти. Это буквально триллионы долларов и миллионы первоклассных специалистов. На сегодня нет политической силы которая способна что-то возразить этой политической силе. Просто нет.
Так что банальное "так тоже можно", экономическое "это чертовки выгодно" и титаническая политическая сила убеждённых e/acc помноженная Big Tech гарантирует самое быстрое и глобальное распространение технологии. Причем в США и Китае одинаковые убежденные сторонники e/acc. Таковы факты.
Если кто-то думает что в России можно защититься от этого "традиционными ценностями", то это явно нездоровые фантазии. Наш Big Tech это тоже e/acc.
Так что возвращайтесь в реальность.
Воистену «аналогию нужно брать адекватную».
Относительно приведённого примера показательна потеря среды возникновения/процветания «компьютерных вирусов» (зоопарк проприетарного ПО со следствием в виде склонности пользователей к поиску/установке разных мутных файлов и замечательно-показательной экономией на инфраструктуре распространения).
Фтопку условно-работоспособное ПО (с поиском/запуском «кряков»), втопку «pesky» (цитата из документации) установщики, да здравствует надлежащее соблюдение Главного Правила.
И что в итого?
Эшби.
В реальность вернитесь. Унифицированные системы наиболее уязвимы. Мадонна это наглядно показала.
блажен кто верует в маркетинговые приёмы.
а будь то "полезный маргарин", "зелёная энергетика" или "искусственный интеллект" - это детали.
изобретение и внедрение в стандарты пищепрома маргарина по своему социальному и экономическому значению куда как круче алгоритмической шляпы "ии"
Посмотритесь в зеркало, вернитесь в реальности и потрудитесь оттормозить соблазны проецирования.
Раз:
И два:
Факультативно можете помедитировать над вопросом о причинности.
Будут вам и вирусы под Linux если на этом можно будет заработать. Теперь все знают как это делать.
Раз прочитать недостаточно — перепишите OVER 9000 раз старшим уставом:
Уже сколько лет обещают (и, надо сказать, инвесторы, сцуко, активно работают над воспроизведением экосистемы), а воз и ныне там…
Но интересно даже не это, а дисциплина соблюдения табу на вопрос о причинности.
А ии уже способен зарегистрироваться на АШ? Теоретически
DeepMind к этой статье не имеет отношения. Гугл, но не DeepMind. DeepMind по языковым моделям тогда ничего не публиковала.
Соглашусь Google Brain и DeepMind объединили позже.
Ну тем не мнее они сделали позже очень занимательный эксперимент: https://www.nature.com/articles/s41467-023-42875-2
А ранее AlphaGo что позволило понять возможность LLM.
Вы хоть перечитываете бред, который пишете? Или это тоже продукт llm?
Что касается вирусов - уже ...надцать лет ни на одном из моих компов нет антивирусов - и как я только живу, ума не приложу
Вы можете верить во что угодно.
То есть свой бред вы продолжаете комментировать бредом?
Во что надо верить - в "распространения распространить было невозможно"?
Алекс говорит о паразитной ОС. Любой электронщик (и вообще - АСУшник) знает, что если паразитную ОС не глушить - система идет в разнос. Что я сейчас с LLM и наблюдаю. Дальше будет только хуже.
Да хрен там. Гугл с Майкрософтом все еще пытаются наложить лапу на закрытые научные статьи. Спрингер очень недовольно. Недавно в Нэйчуре была статья по этому поводу. Кроме того, все крупнейшие научные издательства не только запрещают использовать LLM при написании статей, но и требуют изъять из обучающей базы статьи, за которые обучаторы не заплатили. Потому, что обучаторы LLM - воры интеллектуальной собственности. Подозреваю, что скоро начнутся эпичнейшие судебные срачи по этому поводу. И, да, я на стороне издательств.
Уже полученные коэффициенты будьте добры выложить в зад. И получать права на обучения у каждого автора. Даже умершего (право на имя). Думаете в сказку попали? Да, но сказка только начинается.
Так эти ИИ у самих журналистов и научились такие заголовки делать.
Ага) иногда откроешь mail.сру и пробежавшись по заголовкам и поверхностно содержимому статей.. Настоящее пособие как из пары любых слов написать статью с заголовком из любых других слов из этой статьи))
Неужели я дожил до того момента, когда сцепились
жабы с гадюкамипроститутки в борделе. Аллилуйя, чо.Когда несколько лет назад говорили что интернет это помойка они еще ничего не знали...
Вот теперь это превращается в настоящий ад.
Тем ценее такие площадки как АШ.
Алекс если еще прикрутит что нить типа автоматической проверки текстов на ИИ будет еще лучше (если это вообще возможно).
Возможно, у меня ребёнок по этой теме баклана закончил и мастера пилит. Точно без работы не останется.
Это несложно только для тестов конкретного ИИ или их ограниченного перечня, а не ИИ вообще.
ИИ скрипит будет проверять на наличии ИИ генерации...
А потом они договорятся...
проверять будет ИИ ?
Конечно ИИ.
Не обязательно! Есть множество других действенных способов! Из наиболее известных - ссаная тряпка, панамка ...! Корректор в курсе!
Все еще не поумнели и не повзрослели?
Вижу, панама уже пуста!
ПС Чудик, если бы ты мог хотя бы часть того, что ты тоннами постишь, объяснить своими словами, тем самым, показав хотя бы наличие твоего понимания по теме, ты не постил бы ... тоннами.Даннинг&Крюгер
Да и панама была бы перманентно пуста!
я и без напоминаний от гуглы буду осторожным, если в дымоходе нашего жилища заведутся медведи.
Помнится, камрад Зануда описывал проблему с точки зрения предыдущего технологического уровня…
нет худа без добра
зато сейчас к примеру на ютубе смотришь , ну совсем уж тупых комментаторов новостей и рад , что слышишь настоящих и живых и даже их все меньше и меньше - все забито генерацией ИИ
Я думаю это временно , проблему все равно решат
И тихо сам с собою (и подобными) ИИ поведёт беседу.
Но только при соблюдении предпосылки в виде наличия халявного электричества из розетки.
Все говорят что ии превзошел человеческий интеллект, если он такой умный, пускай спроектирует межзвёздный корабль, ну или корабль для высадки на луну. Ну нет же, его используют только для засирания мозгов людям, потому что на большее он не способен,т.к это всего лишь алгоритм.
Ему это спроектировать, как два пальца об асфальт.
Но кто его делать будет? Уверен, там будет крупно узловой проект, где комплектующие будут типа:
1. Стандартная балка для межзвёздного корабля АРТ 000022042398 - 1 млн шт и ограждающая конструкция АРТ 000032047348 - 506 тыс. шт
2. Термоядерный реактор 230 ТВт АРТ 000042467429 - 10 шт
2. Двигатель для межзвёздного корабля 2500 ТВт АРТ 000053000429 - 4 шт
и тд.
"Google тестирует.." люди делом занимаются.
Далекие 4 года назад (или уже пять?) я участвовал в написании короткого внутреннего документа предприятия, в котором прогнозировалось влияние нейросетей на СМИ.
Я написал, что улучшение качества фэйков в совокупности с полной "свободой слова от совести" в традиционных СМИ довольно быстро приведут к тому, что ширнармассы начнут априорно считать все опубликованное - враньём.
Сформируется рефлекс советского читателя газеты "Известия".
Был высмеян непосредственным начальством со словами "через 10 лет".
Свобода не столько от совести, сколько от обратной связи (ответственности за ложь).
Тенденция прививания гиперкритицизма к советской прессе наблюдалась уже во времена становления советской республики.
И Вы совершенно напрасно теряете фактор неоднородности общества.
всё нормально, ранее ИИ учился у чел и выдавал "округлые" тексты на общие темы на уровне "середнячков"... как итог студенты за которых пишут работы ИИ выигрывали у студентов которые корячатся сами в 99% случаев... но далее ИИ стал учиться в значительной степени у ИИ и система пошла в разнос... а студенты которые "не корячились" деградировали, возможно необратимо
Это не бессмыслица. Это теперь такой смысл.
Одни боялись Скайнета, другие Матрицу. На самом деле пришла Шизофрения.
Оно конечно можно поднять тему ИИ это таки зло или таки добро, но по мне так ИИ это инструмент и добром или злом его делает человек, но тут опять же возьмём ИИ как генератор, что мешает как-то обозначать ИИ это или нет? Это как концерты - нормальные люди поют и играют "В живую", если по каким-то причинам в живую не получается, например, постаревшие данс-машины, которым дыхалки не хватает, но двигаются они таки "в живую", но в таких случаях принято предупреждать, что шоу с сюрпризом, а вот если мы получаем Ласковый Май-7 в составе которого вообще от оригинала ничего и никого нет ну кроме фонограмного голоса...
Там и так бред был, так-что хуже не стало.
Перспективный чат детектед! Сим повелеваю - внести запись в реестр самых обсуждаемых за последние 4 часа.
ещё один
мамкин пирожёкдурачёк столкнулся с реальностью и осознал, что значит на самом деле "свобода слова"На самом деле — палка о двух концах (и игра в две руки).
Просто вспомните о режиме работы такого полезного советского института цензуры в комплексе мероприятий по обеспечению успеха операции «Катастройка».
вообще мимо... - британские ученные? )
Пипл схавает, как хавает всяких там ясновидящих по телеку и прочий бред народных целителей и религиозных деятелей. Поэтому зачем тратиться на журнашлюх если ИИ дешевле и кликабельней.
Страницы