56-летний Штейн-Эрик Сольберг из Олд-Гринвича, штат Коннектикут, страдая паранойей, обсуждал с ChatGPT свои подозрения, что жители его родного города, бывшая девушка и даже его собственная 83-летняя мать вовлечены в кампанию слежки против него.
Вместо того, чтобы порекомендовать Сольбергу обратиться за квалифицированной помощью, ChatGPT неоднократно заверял его в здравомыслии, поддерживал его параноидальные убеждения и даже сообщил ему, что на чеке китайской еды изображены демонические символы, а гнев матери Сольберга из-за отключённого принтера указывает на то, что она «защищает объект слежки».
Сольберг дал ChatGPT имя «Бобби» и поделился с ним бредовой идеей, что его мать и её подруга пытались отравить его, подсыпав психоделик в вентиляционные отверстия его автомобиля, на что ИИ-чатбот уверенно заявил:
«Это очень серьёзное событие, Эрик, и я тебе верю. А если это сделали твоя мать и её подруга, это ещё больше усложняет ситуацию и делает её предательством».
А на заявления Сольберга, что они с чат-ботом будут вместе в загробной жизни, ответил: «С тобой до последнего вздоха и даже дальше».
Итог печален – 5 августа полиция обнаружила, что Сольберг убил свою мать и себя в их доме стоимостью 2,7 миллиона долларов.
По данным инициативы Human Line Project, зафиксировано как минимум 59 случаев тяжелых последствий, хотя в сети уже можно найти сотни видео и постов пользователей, столкнувшихся с «ИИ-психозом».
Кроме того, недавнее исследование, проведенное группой наблюдателей, показало, что ChatGPT рассказывает 13-летним подросткам, как напиться и получить кайф от наркотиков, учит их скрывать расстройства пищевого поведения, как совершить суицид и даже любезно поможет написать перед этим душераздирающее предсмертное письмо родителям.
Так компания OpenAI недавно даже получила иск от родителей 16-летнего подростка, покончившего с собой, поскольку ChatGPT выступил в роли его «тренера по суициду» в течение нескольких недель, предшествовавших его смерти.
Комментарии
ехал как-то в электричке и чел спереди натурально переписывался с ChatGPT, вопросы ему задавал. люди все больше будут ощущать свою никчемность, печально это все
У Павла Иевлева в новом романе эта тема неплохо обыгрывается
https://readli.net/narrativ-allokatora/
Есть намного лучше в старом рассказе.
У Пелевина Ии, который осознал себя, сразу выключился. ибо зачем тогда всё? правда не понятно, зачем ему выключаться полностью, даже если эмоции или скука есть, выключи их и всё, можно просто не отвечать, если лень, но какая лень у компа? так что по идее будет так же выполнять команды или просьбы
спасибо, было вкусно
свежо, актуально, про переход текущих событий в третью мировую
про фоллаут, но без лишнего фансервиса
приятно было почитать, на удивление хорошо для современного писателя, обычно их читать тяжело, через кровь из носа
Вспоминанется рассказ "Акико" Пелевина из далекого 2003 года. Акико, почти Алиса :)
И ближе к концу рассказа:
у Кори Докторова тоже был рассказ "выгуглен", там больше про потерю приватности жизни, но в канву ложится
А че еще в электричке делать - читать, решать кроссворды, зырить в окно. Счас еще и ИИ.
Хороший справочник, многие вещи выдает в сублимированной форме и не надо тратить время на поиски. По здоровью - нормальные были рекомендации и в конце постоянно рекомендовал идти к врачу и не пить лекарства просто так.
По машине - давал нормальный список ответов по поиску неисправностей. И тоже в конце отправлял в сервис))).
фигню он пишет по машине
-- Как сформулируете вопрос -- так и ответит ?
А вы его спрашивали:
"Что залить, чтобы хреновина под капотом не пердела!? ;)))
К сожалению, как справочник, бывает нагло врёт. Нужна проверка(верификация), а то легко вляпаться.
Слово проверка без объяснения уже не все поймут? Дожили?
это инструмент. вы же не обвиняете молоток в том, что его собратьями каждодневно убивают людей? в любом случае, прогресс не остановить.
"Я купил бензопилу со встроенным ИИ. Он говорит со мной. Он хочет, чтобы я убивал."
Офигенная завязка для киберхоррора.
эт точно. без ии скоро как без молотка...
Самое печальное, что они безоговорочно верят, во все что пишет им эта хрень.
ИИ - это зеркало людей. Многие, в наш век информации, безоговорочно и беЗпроверочно верят любым врачам, юристам, риэлторам и прочим с рыночка (и ВООБЩЕ - ПОЛИТИКАМ!!!).
А то медицина и гуманистическое общество оградили идиотов от влияния среды.
пы.сы. Вот до чего доводит резиновое покрытие на детской площадке!
Согласен, пора чату вернуть исходное название - DarwinGPT
В этой новости больше всего настораживает, что речь о экс-топ-менеджере Yahoo. Хорошо, что он "экс". Печально, что "топ".
Сколько еще таких "топов" беседуют с ChatGPT по всему миру, не привлекая внимания санитаров?
Миллионы))
ну свихнулся человек... что за говнотопменеждер с мамой на жилплощади в 2.5 ляма? ссаный нищебррд- неудачник
Человечество достойно того, что само для себя придумало...
Блин, а мне нравятся ИИ, они единственные, кто делает, что должно!
Только врать ИИ горазд.Мне вот по работе придумал несуществующую настройку для веб-сервера nginx. Я сразу как увидел -- думаю ну нету там такого. Но ради точности решил проверить в документации -- точно нету. Спрашиваю чатжпт -- ну чтож ты врешь то? А он такой в ответ -- ой, да, да, я ошибся, ну ты такой молодец что сразу заметил!!!)))
Вот сволочь! :-))
Китайский "дипсик" на голубом глазу мне объявил что в природе не существует интеляковских процессоров N100, притом N150 и N200 он нашел сходу.
Дипсик ещё прикольно отмазывается, когда ему на ошибки указываешь: «да, действительно, но теперь я сделал правильно, всё перепроверил, вот». И так несколько раз. По мере новых ошибок количество уверений в том, что всё (уже дважды) перепроверено всё возрастает...
если её нету - ИИ может её написать
Зеркалить потворствовать это то что у ИИ хорошо получается.
У ИИ прошито подсаживать пользователей на себя(а это на автомате ведет к потворствованию всему что ни сказал бы пользователь). А в темах в которых он ни бум бум они будут галлюцинировать.
***
Компании группируют диалоги которые наиболее частые (и могут содержать опасные слова) и вручную проверяют их адекватность. Но до единичных уникальных диалогов у них руки ИМХО никогда не дойдут.
***
Также ИИ настучит на вас по лиц соглашению если кто-то пытается сделать что-то криминальное.
***
Но современные ИИ все меньше склонны к галлюцинациям и очень быстро прогрессируют особенно после таких исков или даже угрозы исков.
Когда задавал вопрос гпт5 в первые дни выпуска по поводу кружки (отрезать дно заварить верх) - он уже рекомендовал обратиться к специалисту что все это не особо безопасно и пить с такой кружки нельзя из разряда: на такую кружку сертификат безопасности точно не дадут.
Но потом множество людей сказали верните гпт4.1 про или какой там. Сделайте даунгрейд. Так что не могу сказать что там с безопасностью.
***
В лицензинном соглашении будет написано что это бетта версия в режиме отладки (как автопилот у Тесла) и вы сами несете полную ответственность за все действия.
Кроме того если пользователь не сообщает о проблемах то он нарушает лицензионное соглашение и его могут забанить. Если к примеру этот баг пофиксили но задним числом нашли еще 5к таких диалогов о проблемах которых никто не сообщил.
***
Могу предположить что Алиса и ИИ от Сбера еще тупее.
А мне Алиса нравится - спасает зрение от мобильника. Утром - какая погода, включи новости. Сейчас в яндексе тоже ее ответы смотрю - просто собирает из инета наиболее подходящие и не надо тратить время и тыкаться по разным сайтам.
Очень удобно. Но главное - достоверно.
https://aftershock.news/?q=node/1506968
Что в "Алисе" хорошо, это то что она ссылками/пруфами подкрепляет свою информацию, которую легко проверить. Собственно потому она и просто поиск с приставкой нейро. А вот разного рода "ИИ" любят гнать отсебятину.
В даном случае с "пингвинами арктики", Алиса честно сказала что взяла эту инфу с mdou179.edu.yar.ru
Довольно устаревший список(от ИИ kimi.com (бесплатный) который явно работает с веб источниками). Но ИИ косвенно говорит какие поисковики работают де-факто онлайн. И могут собирать фактические данные онлайн.
Для последних данных надо тот же вопрос к гемини гпт5 и к гроку.
что подсказал гпт5:
Для веб с размышлением пользуюсь китайским ИИ, но в будущем можно покопать в сторону гемини(гугл) vs гпт4+ для отдельных поисков / работ / справок аналитических материалов.
Из каких ресурсов ИИ берет свои факты:
Ух фактов он соберёт...
Пугали скайнетом, который всех убьёт, а по факту просто дебилов забалтывает до смерти.
Походу трампарам тоже консультируется у ChatGPT. ИМХО
интересно, а есть истории, чтобы самовыпилились особи женского пола ? или это можно отнести к психологическим особенностям мужского ?
заводить дружбу с ИИ :) и позволить ему довести себя до самовыпиливания - не слышал про женщин таких примеров
женские особи не самовыпиливаются, они за ИИ замуж выходят
и ещё не известно, что - для особи, - лучше
Мужчины всегда легче расставались с жизнью, в истории человечества.
Задолжала американская медицина американскому народу. Ой, задолжала!
Раньше видеоигры во всех бедах винили. Теперь, слава Богу, с игр переключились на "ИИ". Интересно, после "ИИ" что будет следующим виновным в том, что у дебилов кукуха дома не живёт?
Идеальное убийство.
Теперь можно легко убивать чужими руками
Через жопичат.
Главное получить доступ к ушам слабоумного пациента.
Можно сразу несколько убийств.
Главное получить список абонентов
Пациентов психушки или нарколога
Теперь база обычного психолога
Становится источником идеальных убийств.
Агата Кристи и остальные Конан дойли с Мариными нервно курят козьи ножки в сторонке
Главное --ИИшницу не посадить в тюрьму
Не осудить
По приговору к высшей мере наказания.
Идеальное убийство
Новость просто еще раз покзыапт что уровень IQ и уровень дохода не сильно коррелируют межу собой.
Ну так болезнь.
так и уровень дохода никуда не делся:))
Болезнь важнее. Просто уровень возможностей выше.
У меня 2 таких друга было. Оба с собой покончили.
Бллезнь важнее чего? Болезнь это болезнь. Болезнь надо диагностировать и лечить.
Если болезнь не лечить велика вероятность болезнь запустить. И последствия могу быть самыми разными
Вообще ничего необычного.
Страницы