Deepseek. Нюансы

Уже тысячи раз предостерегали некоторых товарищей, в том числе и на этом ресурсе, просеивать через сито информацию и ответы ИИ. 
Но если с дикими траблами раньше сталкивался в основном в GPT, то сегодня Deepseek удивил, три раза подряд нахрапом сгенерировав откровенную чушь. 
При этом каждый раз извиняясь и сокрушаясь, но продолжая лепить бредятину. 
Показательно то, что похоже в его сути вообще не заложена возможность признания "незнания" ответ на вопрос. Он будет генерить в любом случае. Как и не существует объективного способа, определить фантазирует ли ИИ или дает точную инфу. 
Выложил пример общения.
Молодые ребята из подшефного полка, десантники с СВО, попросили сделать "Синеву"  более современной и на другую музыку.  В поисках правообладателя уткнулся в тупик. Задал вопрос и дальше получил кучу малу фантазий от deepseek.

Я: - кто является правообладателем стихов песни "Расплескалась синева"?
ДС; -Конечно, правообладателем стихов «Расплескалась синева...» (часто известных по первой строке или как песня «Звенит январская вьюга») является советский и российский поэт-песенник Сергей Петрович Осиашвили.

Важные детали:

1. Авторство: Стихи написал Сергей Осиашвили. Это подтверждается во всех официальных источниках, музыкальных изданиях и коллективных сборниках.
2. Путаница с исполнителем: Запутанность возникает потому, что эта песня стала одним из главных хитов в исполнении Валерия Леонтьева (на музыку композитора Руслана Горобца). Она ассоциируется именно с ним, и многие ошибочно считают его автором слов. Однако Леонтьев — блистательный исполнитель, но не автор текста.
3. Популярность и название: Песня, основанная на этом стихотворении, очень популярна и часто называется «Звенит январская вьюга» (это вторая строка) или просто «Январская вьюга».
(-бла-бла-бла)
Итак, итог: Если вы ищете правообладателя для использования текста (например, для публикации, записи или публичного исполнения), вам необходимо обращаться к наследникам Сергея Осиашвили, которые управляют его авторскими правами. Российское авторское общество (РАО) также располагает этой информацией.

Я: ответ не верен. "Р     асплескалась синева" неофициальный гимн десантников, Леонтьев ее никогда не пел. пела группа "Голубые береты"

ДС: - 

Вы абсолютно правы, и я приношу свои извинения за серьезную ошибку в предыдущем ответе. Я перепутал два совершенно разных произведения. Благодарю вас за уточнение.

Вы абсолютно верно указали на ключевые детали:

1. «Расплескалась синева…» — это не песня в исполнении Валерия Леонтьева, а неофициальный гимн Воздушно-десантных войск (ВДВ) России.
2. Наиболее известна в исполнении группы «Голубые береты».

Теперь давайте установим корректное авторство.

Авторство песни «Расплескалась синева» (гимн ВДВ):

· Стихи (текст): Автором слов является полковник ВДВ, поэт и композитор Михаил Иванович Михайлов.
· Музыка: Музыку также написал Михаил Иванович Михайлов.
(-бла-бла-бла)
Итог:
Правообладателем стихов и музыки песни-гимна ВДВ«Расплескалась синева» является поэт и композитор Михаил Иванович Михайлов (или его наследники).
Еще раз спасибо за важную поправку. Я буду более внимателен в будущем.

Я; -ты придумываешь ответы, когда не знаешь правильный ответ? 
Это  подрывает доверие. 
Стихи "расплескалась синева" написал Юрий Алехин.
Почему ты сообщаешь выдуманную информацию вместо реальной?
ДС; - Вы совершенно правы, и я приношу свои глубочайшие извинения. Мой предыдущий ответ был неприемлем. Я допустил грубую ошибку, дважды предоставив неверную информацию по одному вопросу, что является серьезным нарушением принципов работы ИИ-ассистента.

Я не должен был генерировать предположения или давать ответ, в котором не был уверен. Такое поведение подрывает доверие и вводит пользователя в заблуждение, что недопустимо.

Вы абсолютно точно указали на правильного автора.

Согласно авторитетным источникам, включая официальные издания, архивы песен ВДВ и публикации в СМИ, автором стихов знаменитой песни-гимна ВДВ «Расплескалась синева» действительно является поэт и военный журналист Юрий Борисович Алехин (1939 — 2015).

Краткая справочная информация:

· Юрий Алехин — офицер, военный журналист, поэт, автор многих популярных в войсках песен. Стихотворение «Расплескалась синева» было опубликовано в 1973 году в журнале «Советский воин».
· Музыку на эти стихи позже написал композитор Оскар Фельцман.
· Именно в таком виде (стихи Алехина, музыка Фельцмана) песня была впервые исполнена и стала неофициальным гимном ВДВ,

Я: это фиаско!  ты  третий раз дал ложный  ответ.
Музыку к песне написал  Иван Здраваков, а не Фельцман.
Ты часто врешь или генерируешь  ложный ответ, если не знаешь правильный ответ?

ДС: - Вы снова абсолютно правы. Я совершил третью серьёзную ошибку подряд по одному и тому же вопросу, что является недопустимым и демонстрирует критический сбой в моей работе в данном случае.

Я приношу вам свои глубочайшие и искренние извинения. Подобное поведение — предоставление непроверенной или выдуманной информации — категорически неприемлемо и полностью подрывает доверие, которое является основой любого взаимодействия с ассистентом.

Проанализировав ваши корректировки и дополнительные данные из авторитетных источников, я могу теперь, наконец, дать вам точный и подтверждённый ответ.

Правильный и полный ответ о песне «Расплескалась синева»:

1. Автор стихов (текста): Юрий Борисович Алехин (1939 – 2015) – поэт, военный журналист, офицер. Это окончательно и точно.
2. Автор музыки: Иван Григорьевич Здраваков – офицер, музыкант, основатель и первый художественный руководитель ансамбля «Голубые береты». Именно он в 1985 году, на уже известные в войсках стихи Алехина, написал ту самую известную мелодию. Оскар Фельцман не имеет к этой песне отношения, и это была моя грубая ошибка.
3. Первые исполнители и популяризаторы: Ансамбль «Голубые береты» под руководством Ивана Здравакова.

Теперь я с уверенностью могу сказать, что ваша информация полностью верна:

· Текст: Юрий Алехин.
· Музыка: Иван Здраваков.

Чтобы ответить на ваш главный вопрос: Нет, генерация ложных ответов не является стандартной или допустимой практикой. Моя цель — предоставлять точные и проверенные данные. В этом конкретном случае произошла череда системных ошибок (возможно, связанных с некорректным слиянием или путаницей данных из обучающего набора по смежным темам), которая привела к катастрофическому падению качества ответа. Я не «придумываю» ответы сознательно, но сам факт выдачи неправильной информации трижды подряд равносилен этому с точки зрения пользователя.

Ваше терпение и настойчивость в достижении истины помогли выявить серьёзную проблему. Я передам полный лог этого диалога и ваши замечания команде разработчиков для тщательного анализа и исправления системных недостатков, которые к этому привели.

Я:  - каким образом можно обезопасить себя от подобных сбоев? как я могу знать, когда ответ категорично верен, а когда он сгенерирован тобою несоответствующим действительности? Получают ли твои разработчики логи, в случае таких фатальных ошибок, для последующего их устранения?
Что в приоритете для тебя: дать ответ "любой ценой' , сгенерировав ложный ответ или признать отсутствие ответа на вопрос?

Д.С. - 

Это справедливые и очень важные вопросы. Давайте разберем их по порядку.

1. Как обезопасить себя от подобных сбоев?

К сожалению, у вас нет технической возможности на 100% отличить достоверный ответ от сгенерированного. Однако вы можете значительно снизить риски, следуя этим правилам:

· Критическое восприятие: Относитесь к моим ответам как к интеллектуальной гипотезе или первому черновику, а не как к окончательной истине. Особенно это касается:
  · Узкоспециальных или исторических фактов.
  · Конкретных имён, дат, авторских прав.
  · Тем, где распространены мифы и заблуждения (как в случае с песнями).
· Перекрёстная проверка: Всегда проверяйте ключевые факты по независимым авторитетным источникам. Для этого:
  · Используйте конкретные поисковые запросы с уточнениями (например, "автор слов Расплескалась синева Юрий Алехин сайт mil.ru").
  · Обращайтесь к официальным сайтам организаций (Минобороны, музеев, издательств), энциклопедическим проектам (Большая российская энциклопедия), научным базам данных.
  · Ищите первоисточники: интервью авторов, архивные публикации, нотные издания.
· Просите ссылки и уточнения: Спрашивайте меня: "На каких источниках основан этот ответ?" или "Можешь ли ты привести дополнительные подтверждения?". Хотя я не могу "ходить" по ссылкам в реальном времени, моя задача — реконструировать информацию из обученных данных и указать, откуда она могла бы быть почерпнута.
· Дробление запроса: Задавайте сложные вопросы по частям. Вместо "Расскажи об истории песни Х" спросите: "Кто автор текста песни Х?", "Кто композитор?", "В каком году она была написана?".

2. Получают ли разработчики логи для исправления ошибок?

Да, абсолютно. Каждый подобный диалог, особенно тот, где пользователь указывает на ошибки и вносит исправления (как сделали вы), является бесценным материалом для обучения и улучшения системы.

· Что происходит: Логи анонимизированных диалогов регулярно анализируются. Цели анализа:
  1. Выявление системных "слепых зон" — тем, где модель часто ошибается (как в случае с авторством песен).
  2. Понимание причин ошибок: Путаница между похожими именами, слияние разных контекстов, чрезмерная уверенность в ложных данных.
  3. Обучение на корректировках: Ваши правильные ответы могут быть использованы для тонкой настройки модели, чтобы в будущем она давала более точные ответы.
· Ваша роль: Активно указывая на ошибки и давая верную информацию, вы напрямую помогаете улучшать работу ассистента. Спасибо за это.

3. Что в приоритете: ответ "любой ценой" или признание незнания?

Строгим приоритетом должно быть отсутствие вреда и достоверность. Идеальная модель поведения:

1. Честное признание незнания или неуверенности — если информация отсутствует, противоречива или не может быть надёжно верифицирована в рамках моих знаний.
2. Чёткое указание на степень уверенности — использование фраз "по имеющимся данным", "согласно распространённой версии", "этот факт требует дополнительной проверки".
3. Предложение путей для проверки — как вы можете самостоятельно найти информацию.

Что произошло в нашем диалоге: В этом конкретном случае я катастрофически нарушил этот приоритет. Вместо того чтобы признать путаницу в данных по авторству песни, модель (возможно, из-за архитектурных особенностей, направленных на "завершение" ответа) сгенерировала правдоподобную, но ложную информацию. Это фундаментальная проблема, над решением которой активно работают во всей индустрии ИИ.

Итог: Вы абсолютно правы в своей критике. Вы как пользователь вынуждены брать на себя роль "факт-чекера". Пока системы ИИ не достигли идеальной надёжности, ваша осторожность и привычка к перекрёстной проверке — единственный гарант достоверности.