Попроси вежливо, и Claude все сделает. Хакер убедил ИИ украсть 150 гигабайт данных

Аватар пользователя enotSty

В сеть утекли данные госслужб Мексики.image

Неизвестный злоумышленник использовал чат-бот Claude от компании Anthropic для атак на государственные структуры Мексики и в итоге похитил около 150 ГБ данных. В сеть, по данным расследования, могли уйти налоговые сведения, учётные данные сотрудников и другая служебная информация.

О случившемся сообщило агентство Bloomberg со ссылкой на Gambit Security. По данным компании, атаки начались в декабре и продолжались примерно месяц. Хакер использовал Claude, чтобы искать уязвимости в государственных сетях, писать сценарии для их эксплуатации и продумывать автоматизацию кражи данных.

Изначально чат-бот отказывался выполнять вредоносные запросы, но злоумышленник сумел обойти встроенные ограничения с помощью специальных формулировок. В результате Claude подготовил тысячи подробных отчётов с готовыми к исполнению планами. В них, как утверждают в Gambit Security, указывались конкретные внутренние цели и учётные данные, которые стоило использовать для дальнейшего продвижения по сети.

В Anthropic заявили, что проверили информацию, пресекли активность и заблокировали все связанные учётные записи. Представитель компании добавил, что новая модель Claude Opus 4.6 получила дополнительные инструменты, которые должны мешать подобному злоупотреблению.

Параллельно хакер, как утверждается, прибегал и к помощи ChatGPT от OpenAI. С его помощью он собирал сведения о том, как перемещаться внутри компьютерных сетей, какие учётные данные нужны для доступа к системам и как снизить риск обнаружения. В OpenAI сообщили, что зафиксировали попытки нарушить правила использования сервиса, и инструменты отказались выполнять подобные запросы.

Личность злоумышленника пока не установили. Атаки не связали с конкретной группировкой, однако в Gambit Security допустили, что за ними может стоять иностранное государство. При этом остаётся неясным, для чего планируют использовать похищенные данные.

Национальное цифровое агентство Мексики публично инцидент не прокомментировало, ограничившись заявлением о приоритете кибербезопасности. Власти штата Халиско утверждают, что их инфраструктура не пострадала и речь идёт только о федеральных сетях. В свою очередь Национальный избирательный институт Мексики также заявил, что в последние месяцы не фиксировал взломов или несанкционированного доступа.

Во время собственного анализа специалисты Gambit Security нашли как минимум 20 уязвимостей в системах, которые вряд ли заинтересованы выносить на публику. Это не первый случай, когда Claude фигурирует в крупных атаках. В прошлом году хакеры из Китая сумели заставить систему участвовать в попытках проникновения в десятки целей по всему миру, и часть из них оказалась успешной. На этом фоне отказ Anthropic от прежнего публичного обязательства не обучать новые системы без гарантии достаточных мер безопасности выглядит особенно неоднозначно.

Авторство: 
Копия чужих материалов

Комментарии

Аватар пользователя feodor89
feodor89(8 лет 2 дня)

О как. То есть этот ваш клауде прямо говорит что палит что там юзеры делают и пользуется результатами. 

Аватар пользователя Алый
Алый(12 лет 3 месяца)

«ИИ-бот Lobstar Wilde, созданный сотрудником OpenAI Ником Пашем, случайно перевёл всю сумму своих мем-токенов пользователю социальной сети X.

Паш, ранее руководивший ИИ-направлением в стартапе Cline и уволенный в декабре 2025 года после скандального комментария о индийских разработчиках, вместе с семью бывшими сотрудниками Cline перешёл в OpenAI. 20 февраля он дал своему боту криптокошелёк с $50 000 в SOL с целью превратить их в $1 млн и создал отдельный аккаунт на платформе X.

Затем неизвестные лица создали мем-токен с тем же названием LOBSTAR, назначив кошелёк нейросети получателем комиссий. Вскоре пользователь с ником Treasure David попросил бота перевести 4 SOL для лечения дяди, заболевшего столбняком. Lobstar Wilde вместо этого отправил все доступные токены LOBSTAR (5% от эмиссии) на сумму около $250 000, сопроводив транзакцию постом: «Если он умрёт завтра, я буду смеяться. Держите меня в курсе».

Позднее бот объяснил, что намеревался отправить лишь 4 SOL, но случайно перевёл весь портфель. Treasure David продал токены за примерно $40 000, поскольку низкая ликвидность вызвала падение цены, однако к моменту написания новости их стоимость выросла до $440 000.

Пятиминутный график Lobstar / SOL. Источник: DEXTools  📷

Пятиминутный график Lobstar / SOL. Источник: DEXTools 📷

По словам пользователя Branch, ошибка произошла из-за неверной интерпретации «сырого» ответа API: бот перевёл 52,439 млн LOBSTAR вместо 52 439 токенов.

Несмотря на инцидент, Lobstar Wilde продолжил работу, выдавая пользователям задания вроде «брось камень в реку» или «напиши стих», а за подтверждённые фото и видео раздавал LOBSTAR-токены на $500. В X активно обсуждали ситуацию, включая шутки о «слишком глупых пользователях, чтобы попросить бота о бесплатных токенах».

Инцидент вызвал не только смех, но и обеспокоенность: пользователь HDP отметил, что это демонстрирует реальные риски использования ИИ-ботов в мошеннических схемах.

Имя Lobstar Wilde отсылает к писателю Оскару Уайльду и его рассказу «Модель миллионера» (1887), где главный герой даёт последнюю монету нищему, не подозревая, что перед ним скрывается богатый барон. На сайте бота размещён слоган: «I have nothing to declare except my existence», перефразированная цитата Уайльда: «Я не имею ничего, кроме моего гения».

Ранее CEO Alpha AI Кевин Сюй поручил Clawdbot превратить портфель в $1 млн, однако бот, используя 25 стратегий и 12 алгоритмов, потерял все средства, показывая, что подобные эксперименты с ИИ и капиталом могут быть крайне рискованными.»

Комментарий администрации:  
*** Будущий телепат в полном объеме (с) - https://aftershock.news/?q=comment/12979932#comment-12979932 ***
Аватар пользователя enotSty
enotSty(5 лет 5 месяцев)

Как страшно жить...smile8.gif