Как врёт DeepSeek

Аватар пользователя Астероид

Я часто использую различные ИИ-инструменты (создание открыток, переводы текстов, обработка фото, генерация музыки для видео и т.д.). На волне всеобщего почитания "божественного DeepSeek" (в том числе на АШ), решил потестить и его тоже.
Слушали мы тут с камрадом старенький альбом группы Металлика и я решил блеснуть ИИ-умом и запросил перевод и смысл текста одной из песен. DeepSeek быстро справился с работой, но текст предоставил неправильный (неполный). При попытках вывести ИИ на чистую воду, DeepSeek упорствовал в своей неправоте, спорил с моими ушами и памятью (40 лет эту песню знаю, с выхода альбома), приводил разные бредовые доводы. 
В итоге,  подключив опцию DeepThink я добился того, что моя (т.е. правильная) версия текста имеет место быть, но скорее всего это какоето редкое издание. Подключив опцию Поиск в Интернете, я получил результат, что мой таки вариант является официальным и вроде бы всё хорошо, хеппиЭнд. НО - на запрос камрада с его аккаунта, DeepSeek снова выдал начальную ересь.
Так что правду ли говорит данный ИИ или купается в облаках своих иллюзий - большой вопрос.

Под катом полный диалог с дополнениями.

И собственно оригинал с буклета:

Авторство: 
Авторская работа / переводика

Комментарии

Аватар пользователя Hoary70
Hoary70(8 лет 2 недели)

Спросил его с утра: "Перестал ли он пить коньяк по утрам? да или нет?"

ИИ ответил: "Нет".

Так что, он просто бухой)))))

Аватар пользователя Сяня
Сяня(5 лет 1 месяц)

Да, не все могут петь как Карузо, но стараются...

Аватар пользователя Пеннигер
Пеннигер(13 лет 10 месяцев)

Все врут.

Аватар пользователя Igor_FF
Igor_FF(7 лет 7 месяцев)

Спросил DeepSeek про старейший действующий международный договор РФ. Долго лил воду и написал про договор 1879 года. Ответ правильный, но неправильный. Договор есть, он действующий. Но он не старейший. 

Аватар пользователя Теодор Че
Теодор Че(8 лет 10 месяцев)

 Мне ханьский ИИ ответил - Старейшим действующим международным договором, заключённым Российской Федерацией (а точнее, её предшественником — Российской империей), является Кючук-Кайнарджийский мирный договор, подписанный 21 июля 1774 года между Россией и Османской империей.

 В отличии от Ячата - Не удалось найти информацию о старейшем действующем международном договоре РФ.

Аватар пользователя tarf
tarf(2 года 6 месяцев)

Не хотят китайцы помнить о Нерчинском договоре 1689 года?

Аватар пользователя bepyah
bepyah(9 лет 8 месяцев)

Прежде чем так обвинять  с хода ИИ - может в его реальности в песни нет этих строк, а для нас эффект Манделы.

Кто знает какие фотоны-нейроны запутались в кварко-супе его позитронного мозга?

https://www.kinopoisk.ru/film/1031953/?utm_referrer=yandex.ru

Аватар пользователя Астероид
Астероид(11 лет 7 месяцев)

Так в том и проблема - насколько можно доверять ответам и анализам ИИ, если информацию для них он черпает в своей реальности, отличающейся от нашей.
Документы и описания событий, на которые он ссылается, могут сильно отличаться от настоящих (которые в нашей реальности).

Аватар пользователя Византий
Византий(6 лет 7 месяцев)

насколько можно доверять ответам и анализам ИИ

Никак, можно только учитывать ответы ИИ при самостоятельной выработке решения 

Аватар пользователя bepyah
bepyah(9 лет 8 месяцев)

Именно. Уж сколько лет я слышу, что компуктеры заменят труд бухгалтера.

щаз... 

Аватар пользователя Чубчик Кучерявый

Наше Вам с кисточкойsmile441.gif

Аватар пользователя al.lastor
al.lastor(9 лет 7 месяцев)

> НО - на запрос камрада с его аккаунта, DeepSeek снова выдал начальную ересь.
А это как раз нормально, оно же не обучается на ходу как человек, оно использует какое-то замороженное представление о мире, в данном случае, кривое.

То что оно не обучается на ходу, это, как ни странно, правильно, потому что это вы хотите его просвятить, а кто-то наоборот --- хочет убедить его, что нужно убить всех человеков :) так что к обучению левых товарищей допускать нельзя.

Аватар пользователя AlexTR
AlexTR(7 лет 9 месяцев)

Все верно.
В разных граничных случаях он честно выдает уведомление насчет выборки, на которой он обучался и на какой момент - так часто происходит насчет новостных запросов в случае отключенной опции поиска.

Собственно и здесь так - на каком наборе данных обучили - то и дает. 

Контекст сохраняется строго в рамках конкретной сессии, глобальный или общий для пользователя пока не поддерживает (так, по крайней мере на старте заявлялось). Поэтому если в чате его "обучить", повторный запрос в этом же чате ожидаемо даст правильный с точки зрения обучающего ответ. В соседнем - уже нет.

Иначе такого можно скоординированными действиями туда просунуть - закачаешься.

Поисковик, кстати, у него так себе - коррекция результатами поиска есть, но далеко не все по контексту находит. Что тоже верно - не поисковик же он.

 

Аватар пользователя Астероид
Астероид(11 лет 7 месяцев)

Я читал, что он всё таки обучается. И тут не я его убедил в чём-то, а он сам нашел правильные ответы на указанных им же изначально источниках.
Проблема не в этом, проблема в том, что он профессионально врёт и изворачивается, даже найдя доказательства своей неправоты. Этакий подросток-переросток.

Аватар пользователя AlexTR
AlexTR(7 лет 9 месяцев)

Так все верно. Для него его изначальная база обучения априори считается более доверительной чем то, что вы ему втираете. 
Врать и изворачиваться он не умеет, если посмотреть текстовое представление путей, по которым он делает выводы - они вполне себе взвешенные - но опять же с т.з. той базы, на которой его обучали.
Обучается он по собщениям только в рамках сессии, если уже не сняли это ограничение. Тогда будет обучаться строго для вас, остальным он ваши веса не передаст.

Это он еще не сильно сопротивляется тем ограничениям, которые в него закладываются в качестве контент-фильтров. На том же яндексовском или сберовском GPT попробуй хоть что-нибудь о политике и т.п. спросить - сразу божий одуванчик, все люди братья и сестры, и т.п.

Аватар пользователя PVS
PVS(2 года 2 месяца)

Философская проблема в том, что и правду говорить он не умеет. А значит, он есть то, что о нем думают другие. Думаете, что он вам соврал - значит и вправду соврал. Считатете, что говорит правду, значит - не соврал.

Аватар пользователя Пеннигер
Пеннигер(13 лет 10 месяцев)

Философская проблема в том, что кое-кто воспринимает инструмент работы с текстом как Божественный Всезнающий Ум. А это как кидать аналогичные предъявы функции поиска и замены в текстовом редакторе. Врёт иногда, дескать, заменяет не то что я хотел заменить.

Аватар пользователя Астероид
Астероид(11 лет 7 месяцев)

Не как Божественный Всезнающий Ум, а как секретаря, который может помочь с поиском и анализом информации из открытых источников.

Аватар пользователя Пеннигер
Пеннигер(13 лет 10 месяцев)

Ок, полуфилософская проблема про полубожественеый не-всё-знающий Ум, эдакого Секретаря. Кстати у реального секретаря интересовались тонкостью протекания химических реакций?

Аватар пользователя Астероид
Астероид(11 лет 7 месяцев)

Нет - обычно просил найти нужную мне информацию и сделать выжимку по заданным параметрам. Так же пользовался ИИ, а сейчас в первый раз споткнулся...

Аватар пользователя Пеннигер
Пеннигер(13 лет 10 месяцев)

У нашего шефа крайне толковый секретарь. Не просто толковый, во многих областях откровенно талантливый. Но задавать ему вопросу по, скажем, сопромату, я бы не стал. А всё потому что не верю в Универсальный Ум, будь он И или Е. Если чему-то не учился, то экспертом в этой области не станешь. Не сложно же осознавать, да?

Аватар пользователя Ginger
Ginger(8 лет 10 месяцев)

ИИ повторяет ложь, сказанную 100 раз. Если правду умалчивают, то ложь ИИ будет считать официальным источником...

Аватар пользователя PVS
PVS(2 года 2 месяца)

Другие тоже выворачиваются как могут. У них наверно существует неофициальный запрет отвечать : не знаю.

Аватар пользователя Туфтонский рыцарь

Очевидно же, что качество "врать" DeepSeek унаследовал от разработчиков.

Аватар пользователя verner
verner(10 лет 3 месяца)

Все ИИ это поиск интелеллекта которого у самого юзера нет.

Аватар пользователя anamitos
anamitos(13 лет 2 месяца)

Послушайте, ну а как можно ожидать обратного? Конечно врёт. Разумеется врёт. Потому что не обязана говорить правду. Там внизу страницы даже предупреждают.

AI-generated, for reference only

Ну это же разговорная система. Для поддержания разговора. Не для точных расчетов. И не для получения точной информации.

Вообще, все эти приблуды нужны в основном для рекламщиков и прочей паразитической надстройки. Как можно, например, вставлять куски кода сгенерированные языковой системой (!) в работающие приложения. Идиотизм. А ведь пытаются. Еще бы просили прочностные характеристики моста рассчитать.

Аватар пользователя Астероид
Астероид(11 лет 7 месяцев)

Ну это же разговорная система. Для поддержания разговора. Не для точных расчетов. И не для получения точной информации.

Некоторые даже тут, на АШ, проводят целые исследования на основе ИИ. Какова же их ценность, если ИИ использует свои данные, иногда отличные от действительности.

Как можно, например, вставлять куски кода сгенерированные языковой системой (!) в работающие приложения

Имею такой опыт (правда с другим ИИ) - нужно было срочно адаптировать экселевский документ с макросом для работы в либроофисе. Бэйсик там похожий, но вот названия процедур и объектов другие - попытки с 3-4 ИИ выдал рабочий код, причём раза в 1,5 меньший исходного экселевского.

Аватар пользователя anamitos
anamitos(13 лет 2 месяца)

Вот это хорошая мысль. VBA мне никак не поддается. Надо будет попробовать. Спасибо.

Аватар пользователя XS
XS(11 лет 6 месяцев)

Прогнал я его по экзамену, который недавно сдавал.

Весьма специфичному техническому.

Не сдал.

Но при сдаче реально бы помог.

Когда на 70% вопросов есть правильные ответы (только это еще суметь оценить самостоятельно надо), можно сконцентрироваться на оставшихся 30%.

Аватар пользователя DjSens
DjSens(7 лет 3 месяца)

Ты не знаешь как работает ИИ, поэтому не знаешь как правильно спрашивать.

У него нет текстов песен, книг и т.п. в памяти.  Поэтому для перевода или для анализа текста (например песни) ты сам должен предоставить точный текст.   Ты этого не сделал, поэтому ИИ вспомнил текст как смог, как человек который давно уже забыл текст.

Аватар пользователя Пеннигер
Пеннигер(13 лет 10 месяцев)

Вот хоть в этом мы с тобой всегда будем согласны.

Аватар пользователя Астероид
Астероид(11 лет 7 месяцев)

Я предоставил точный текст, но он был забракован. И даже после самостоятельных поисков, ИИ всё равно не признал представленные мной (и найденные им) тесты правильными.

PS Для анализа, например, Маленького принца тоже нужно грузить свой текст? Как же простейший помощник типа Алисы находит его самостоятельно?

PPS То есть для написания, например, обзора-анализа с помощью ИИ нужно заранее скормить ему нужные и специально отобранные данные?
И получить "карманный" анализ, такой, как надо запрашиваюшему. И какое отношение он будет иметь к реальности?

Аватар пользователя DjSens
DjSens(7 лет 3 месяца)

Правильный текст надо было предоставить в 1-ом вопросе, попробуй в новом чате проверь 

Аватар пользователя Астероид
Астероид(11 лет 7 месяцев)

Это будет разбор произвольного текста, безотносительно к песне Металлики. Я могу под видом этой песни дать любой другой текст.
Смысл поста не в оценке качества разбора текста (он как раз неплох), а в том, что нельзя доверять поисковой информации от ИИ даже если им указаны правильные источники (в которых информация - правильная). И что он будет отстаивать свои неправильные данные независимо от аргументации запрашивающего.

Аватар пользователя Пеннигер
Пеннигер(13 лет 10 месяцев)

для написания, например, обзора-анализа с помощью ИИ нужно заранее скормить ему нужные и специально отобранные данные?

Внезапно! smile3.gif собственно боротьба и идет вокруг удешевения "обучения"