Правда ли, что ФНС усилила мониторинг соцсетей для поиска незадекларированных доходов

... и под анализ попадают фото и видео из отпусков, посты о дорогих покупках и другие признаки уровня жизни, который не совпадает с официальными заработками?

Если мы зададим этот вопрос Алисе, то получим совершенно недостоверный ответ, который направлен на манипуляцию сознанием и управление эмоциями читателей.

Но давайте всё же разберёмся, почему так происходит, кто виноват и что делать.

Для начала будет уместно сказать следующее.

Разумеется, это не "epic fail", а органическое свойство любой LLM. Так, к сожалению, на современном этапе работает любая система поиска и обобщения информации в интернете с помощью ИИ. Это нужно чётко осознавать и точно не принимать всё сразу на веру.

Ответ основан на обработке страниц с сайта dzen.ru +4 и iznanka.news +1.

Раскроем список dzen.ru +4 и увидим эти источники.

• Но это ещё не всё

Наша задача — разобраться и понять, почему система так работает.

Поэтому в самом низу ответа кликнем на «источники», что, наверное, практически никто не делает, и получим список всех 11 источников, анализ которых привёл к такому ответу на вопрос.

Среди этих 11 источников есть замечательная статья на Хабре, в которой специалист со стажем работы в ФНС профессионально объясняет, почему это фейк и как работает служба на практике.

Если бы тот, кто задал подобный вопрос, получил обобщённый ответ нашей Алисы на основе данной статьи, то это было бы правильно и релевантно.

Но у нас счёт 10 к 1 не в пользу правильного источника, а наоборот. В итоге однотипные по смыслу фейки с разных второстепенных сайтов, растиражированные СМИ в большом количестве, просто как шум полностью забивают и размывают полезную информацию.

ИИ не может отделить «зёрна от плевел». У него нет критериев отбора или рейтинга достоверности источников, всё валится в кучу и обобщается.
Чтобы такого не происходило в профессиональных системах, например, юридических, медицинских или корпоративных, где ответы должны быть гарантированно точными, одним из достоверных источников является верифицированное хранилище документов.

Как говорится, чтобы этот «провал не очень проваливался».

Это реализуется в виде RAG, чтобы быстро находить нужную информацию в огромных базах данных и «подмешивать» её в контекст запроса перед ответом. Или Model Context Protocol (MCP), чтобы ИИ-агенты подключались к доверенным MCP-серверам для выполнения задания. Или классический API для доступа к базам данных.
Иногда специализированные модели проходят интенсивный файнтюнинг.

Но в данном случае есть только интернет и сам предобученный ИИ общего назначения.

В такой конфигурации мы в принципе не можем ручаться за достоверность полученной информации. Не потому, что Алиса (или Гугловский Gemini) тупые, а потому, что источники перенасыщены фейками. Это эффект отравления данных, которым пользуются манипуляторы и ловцы хайпа. Логическим путём обнаружить и отфильтровать такой поток мусора чрезвычайно сложно.

Наверное, в такой неоднозначной ситуации для ИИ было бы разумнее не давать однозначный уверенный ответ, а предлагать пользователю оба варианта как равноправные точки зрения и кратко их разъяснять. Не указывать с уверенностью на один из них и всё же иметь некий внутренний рейтинг достоверности источников и учитывать его.

Одно дело региональный «желтушный» сайт с сомнительной репутацией и другое дело СМИ федерального уровня. Одно дело статья некоего блогера, пусть даже и популярного «лома», и другое дело заявления официальных представителей.

В конце концов, можно было бы обучить специальную LLM оценивать каждый источник и каждую публикацию по критериям «возможной фейковости»,, а в процессе формирования окончательного ответа использовать её как цензора.

Но пока, видимо, этот уровень совершенства ещё не достигнут.

• И что делать?

Нам ничего не остаётся, как самим оценивать каждый источник и каждую публикацию по критериям «возможной фейковости» и самим включать своего внутреннего цензора.

Фильм «Тот самый Мюнхгаузен» (1980)

А барон Мюнхгаузен, как известно, хорош тем, что никогда не врёт (также, как ИИ).

Придётся самим оценивать, и робко надеяться, что со временем адекватность будущих Алис и Гуглов («режим ИИ») достигнет приемлемого уровня доверия.

Но как источник предварительно подготовленной информации, которая уже прошла обобщение и структуризацию, ответы современных ИИ уже очень даже хороши. Я сам с удовольствием пользуюсь этим для поиска и уточнения информации и оцениваю такой способ работы с информацией удобным и практичным (чаще всего «режим ИИ» от Гугла).

Я подчёркиваю: это предварительно подготовленная «информация к размышлению».
Это не окончательный правильный ответ.

Я понимаю разочарование и гнев, сарказм и насмешки, когда пользователи получают от ИИ фейки вместо результата, когда ожидания жёстко расходятся с реальностью.

В подобных случаях для себя я пользуюсь универсальной формулой Луция Аннея Сенеки (одного из главных философов-стоиков): не можешь изменить мир, измени своё отношение к нему.

Пойми, почему всё так, а не иначе, и наконец обрети спокойствие в мыслях.