В Сети появился сайт OnlyFake, на котором любой желающий может при помощи нейросети создать фотографии поддельных документов, будь то российский паспорт или водительские права. По мнению экспертов, подобные цифровые фейки станут опасным инструментом, позволяющим злоумышленникам отмывать и похищать деньги. Подробности о том, как искусственный интеллект стали применять для генерации фальшивых бумаг и чем это грозит в перспективе, читайте в материале «Известий».
Сайт OnlyFake, создающий фотографии поддельных документов при помощи искусственного интеллекта, успел привлечь внимание специалистов по кибербезопасности со всего мира. Ресурс позволяет генерировать снимки за считаные минуты, а стоит такая услуга всего $15 (примерно 1,4 тыс. рублей) — оплата принимается в криптовалюте.
Нейросеть от анонимных разработчиков научилась выдавать изображения паспортов и водительских прав 26 государств, включая Россию, США, Великобританию, Австралию, Канаду и ряд стран Евросоюза. При этом результат получается столь реалистичным, что позволяет проходить проверку на криптобиржах.
— Для генерации изображения достаточно выбрать шаблон, написать необходимую информацию и загрузить фото, — говорит руководитель компонента R-Vision Endpoint в компании R-Vision Петр Куценко. — Затем ИИ обрабатывает запрос и за короткое время создает документ, который для большей убедительности можно замаскировать под «неудачное» фото.
Корреспондент «Известий» на протяжении нескольких дней пытался зайти на OnlyFake: сайт открывался, но демонстрировал надпись Site is down. Everything will be restored soon («Сайт не работает. Скоро всё будет восстановлено»).
Не исключено, что ресурс, ставший неожиданно популярным, попросту был заблокирован. Однако вполне вероятно, что теперь услуги по созданию фото поддельных документов при помощи ИИ будут оказываться в даркнете, но уже за куда большие деньги. Недаром в описании OnlyFake, еще когда он работал, была одна весьма примечательная фраза: «Эра отредактированных при помощи Photoshop документов заканчивается».
Инструмент для мошенников
Между тем фотографии документов, подделанные с помощью нейросетей, могут стать опасным инструментом в руках злоумышленников. Как говорит в беседе с «Известиями» менеджер продуктов Innostage Евгений Сурков, подобные фальшивки применяются для анонимизации мошеннических действий с аккаунтами и цифровыми активами, а также при подтверждении операций путем предоставления паспортных данных.
— Например, таким образом можно попробовать записать на имя пользователя сайт, распространяющий противоправную информацию, взять небольшой кредит (в случае перехвата контроля над каналами коммуникации жертвы), оформить SIM-карту и даже попробовать зарегистрировать фирму-однодневку, — рассказывает эксперт.
В свою очередь, зампредседателя комиссии Общественной палаты РФ по общественной экспертизе законопроектов и иных нормативных актов Александр Терновцов дополняет, что фейки, полученные посредством технологий ИИ, преступники могут использовать на любых электронных ресурсах, где для регистрации достаточно снимков документов. Это, в частности, криптобиржи, онлайн-казино и сервисы бронирования автомобилей.
Как отмечает специалист, популярная соцсеть VK для восстановления доступа к странице просит загрузить фото с паспортом. А поскольку цифровизация всё больше проникает в жизнь людей, расширяются и варианты применения снимков документов.
— Использование нейросетей и других автоматизированных инструментов для создания подделок — новый вызов для правоохранительных органов и организаций, стремящихся обеспечить безопасность и защиту личных данных, — отмечает Петр Куценко.
Правовой аспект
По словам Александра Терновцова, раньше подобные фотографии создавались вручную с применением Photoshop и других графических редакторов — это требовало немало времени и ресурсов. Теперь же на сайте OnlyFake такие фото за считаные минуты создает нейросеть, что, впрочем, порождает определенные юридические коллизии.
— Как мне кажется, тут возникает правовой пробел, несет ли пользователь, генерирующий запрос на изготовление поддельного документа, какую-либо ответственность, ведь фактически подделку изготавливает нейросеть, — говорит собеседник «Известий».
Александр Терновцов напоминает, что юридически фотография является объектом интеллектуальной собственности и защищается законом от посягательств третьих лиц. При этом в российском законодательстве не предусмотрена ответственность за подделку снимков документов.
Она наступает лишь за фальсификацию самих документов в соответствии со ст. 19.23 КоАП РФ («Подделка документов, штампов, печатей или бланков, их использование, передача либо сбыт») или ст. 327 УК РФ («Подделка, изготовление или оборот поддельных документов, государственных наград, штампов, печатей или бланков»). И хотя сами фейковые изображения удостоверений, сгенерированные при помощи ИИ, не являются чем-то противоправным, наказание может наступить при их эксплуатации в преступных целях.
— Если поддельные фото документа пустят в ход для обмана с целью хищения имущества, то такое деяние будет охватываться в том числе составом ст. 159 УК РФ («Мошенничество»), — отмечает Александр Терновцов. — Однако конкретный состав определяется в зависимости от того, как именно использовался поддельный снимок.
Как говорит Петр Куценко, применение снимков документов, полученных при помощи нейросетей, может повлечь за собой серьезные юридические и этические последствия, а также финансовые потери как физических лиц, так и организаций. Именно поэтому способы выявления подобной имитации становятся особенно важными.
Механизмы защиты
Сегодня технологии на основе ИИ могут генерировать изображения высокой точности, что затрудняет идентификацию поддельных снимков документов. По мнению Петра Куценко, сервисам необходимо внедрять многофакторную аутентификацию, а также запрашивать сразу несколько подтверждений для авторизации пользователя. В свою очередь, Евгений Сурков считает, что шансы на распознавание обмана увеличиваются, если требовать изображения с измененным положением или углом наклона бумаги.
— К примеру, можно попросить пользователя выполнить с документом заранее неизвестную ему манипуляцию: повернуть, приблизить или показать другую страницу, поднести документ с фотографией к лицу, — говорит собеседник «Известий». — В последнем случае проверяющему надо будет решить юридический вопрос с обработкой биометрических данных.
Петр Куценко указывает на то, что распознать поддельные снимки может помочь анализ качества изображения, а также оценка текста на наличие опечаток и разных шрифтов. Так, сигнализировать о фальсификации могут локальные искажения, маскирующиеся под плохое разрешение картинки.
Как отмечает эксперт, еще важно сверять голограммы и водяные знаки — на страницы паспорта нанесены голографические изображения в виде герба России, звезды и надписи РФ/Россия/Russia. Кроме того, на всех листах документа есть водяной знак в виде букв «РФ».
— Помимо визуальной оценки необходимо использовать специализированное программное обеспечение для анализа фотографий и метаданных, — рассуждает Петр Куценко. — Такое ПО помогает выявлять контент, сгенерированный при помощи ИИ.
Наконец, при возникновении сомнений относительно подлинности фотографии можно обратиться за помощью к специалистам или организациям, имеющим опыт в верификации данных, заключает собеседник «Известий».
Комментарии
До чего техника дошла, раньше за дипломом о высшем образовании нужно было спуститься в метро, а теперь всё не вставая с дивана.
Прогрэсс!
Ду уж, жызнь становится всё чудесатее и чудесатее((
Ага. Тока теперь еще в качестве опции - можно выбрать диплом любого вуза мира. А заодно - и весь комплект документов соответствующей страны...
Есть байка про Рудольфа Абеля. Когда он, не совсем легально попав в Пиндостан, стал вполне себе там зарабатывать - чтобы обналичить чек у него в банке в качестве подтверждения личности попросили принести письмо, адресованное ему. Типа - если он его смог получить - значит всё ОК. Тогда он съездил в другой город, и сам себе оттуда отправил письмо. Вернулся, через несколько дней - получил - и пошел в банк: деньги выдали.
А теперь? Где, спрашивается, романтика?
Работодатели обращались в соответствующий вуз и подтверждали факт выдачи диплома конкретному гражданину. Работнику грозило увольнение по статье и штраф. Если требование к образованию прописано в нормативных актах компании или по закону должно быть.
Видимо что то подобное и будет введено с целью предотвращения фальсификаций, выдача предъявлемого документа должна быть подтверждена. А самому предъявляющему - статья.
Хорошо у нас, госуслуги есть, а вот чё там у них будет.
Интересно. а что делать если учебное заведение не внесло диплом?
Например со мной такое было, диплом у меня официальный, а кинулись проверять, нету в базе.
писать запрос в учебное заведение, они должны на основании архивов выполнить соответствующие шаги и внести данные в базу.
Был случай в метро: Милиция задержала продавцов дипломов и тут же отпустила. У нас нет к ним (к продавцам) претензий, сказал доктор экономических наук, профессор, сержант Петров.
Ну, сегодня у нас все же не милиция, а полиция, и там - уже не жалкие доктора, а сразу член-коры разных академий. А так - да, мир особо не меняется.
Как выглядит "член корЫ " ?
Похож на " синтез бЕлка" ?
Да бог их, ученых, знает? КорЫ, или сразу дуба?
Вот про синтез - это хорошо.
ой вей шо делается
уеб...и с криптовалютной "биржи" вместо скана реального паспорта и биометрического ролика получают подделку
усе..нельзя больше личные данные граждан чужого государства собирать.
КЫС от глобалистов под угрозой?
--------------
в целом же статья как новость- ерунда.
Подобные сервисы в прошлом-позапрошлом году ужу точно были.
но тут главное громче пркукарекать про "искусственный интеллект", который вообще-то обычное ПО.
а это вы пропустили?
в вк регистрация по номеру телефона
а не по американскому законодательству
Вы читать умеете? Если доступ потеряли - в ряде случаев они восстанавливают его по фото с паспортом. Причем здесь законодательство?
Надо спросить его, может он умеет разлагать числа на простые множители.
Вдруг умеет? Вот тогда точно будет весело
Ну, пока с этой задачей - не всё так хорошо. Но ведь "под лежачий камень вода не течет"...
Не будет, давно уже разработаны алгоритмы которые и квантовиков для такой работы делают бесполезными, как только случится что-то просто близкое новые алгоритмы сразу выставят на рынок.
Блаженны верующие (с)
Пока что никаких "новых алгоритмов" и не видно пока. Есть только увеличение длины ключа, на чем и держится стойкость.
Если я не прав - покажите пример "нового алгоритма".
Проблему ковыряют более полувека, начиная с BB84 дошли до NTRU, но не моя тема - посматриваю иногда когда новости всплывают.
Зачем ИИ?
https://cdn.idaprikol.ru/videos/d26e894fd0cf3998ac6e72a631a42833a1f3ee0a27e11c0fe671d07da4ffcc7d_1.mp4
Ну, чтобы экраны не мыть, наверное... ХЗ, в общем... Пишите в "Известия"
Терминатор купил поддельный паспорт, и сейчас живёт под Рязанью как Василий Пупкин.
Ну, без пруфа - не катит. А так - да, тоже слышал про этот случай.
Ну Пелевин прекрасно всё уже описал несколько лет назад. Доказательными будут только аналоговые носители, фотопленки и т.п. Никакие цифровые носители не будут иметь фактологический вес. Вот и весь сказ. Бумажные доки опять будут в ходу
Да, я тоже поражаюсь Пелевинскому предвидению. И "Поколение П", и "Айфак", и "СНАФФ" - всё воплотилось. Вот только процесс пока не завершен, а у него завершения всегда, скажем так - специфичные. Ждем-с
Всего-то добавится встречная проверка по базам, что сейчас сделать совсем легко, бумажный али ещё какой документ будут только основанием для её.
В России - да, и легко, и делается.
А в мире?
Пусть завидуют или учатся.
Как написано в "Книге" судить нужно по "делам".ИИ начал с кражи денег,и обмана граждан по телефону теперь вот документы подделывает.Также ИИ крадет интеллектуальную собственность и "кожанные мешки "получают звания и награды за "не написанные книги".По нашему УК ему можно статью вменять.Интеллект есть?-есть,получи срок и обязательно(вдвое больше за группу) соучастникам))). Не явится в суд сначала штраф,а потом и в розыск подельников конечно))). ..лет через надцать ИИ отключат от розетки "за неуплату НДС")))
Ну, тут такое дело: это не ИИ, а всё же люди, кои его используют. Это как предъявлять претензии к дрели за обнесенную квартиру: а что - воры ведь дрелью замок высверлили...
ИИ-интеллект.Интеллект-человек.Временно,до выяснения).Преступление ИИ-преступлением остается.Соучастники (кожаные мешки)-получают реальные сроки.Украли деньги-в турму))).
О, а он может дату на сертификате на продукцию подправить незаметно? Сам то я нынче с проверяющей стороны, постоянно встречаю поправленные, ибо знаю как определять.
Причем делается даже без фотошопа, в Пэйнте. Попиксельно всякие волнистые линии фона подрисовывают. Сам то никогда так не делал, но друг рассказывал, что процесс трудоемкий.
Думаю - может подправить любую картинку. Но чтобы было надежно - желательно на этапе дообучения скормить ему знатный объем таких сертификатов - и он научится делать это (подправлять дату) - весьма красиво.
Сертификаты на партию поменяют на сертификаты на единицу продукции с пометками продаже и времени, сейчас уже можно проверить любую бутылку молока, вроде как.
я когда-то давно, когда только начали массово вводиться штрих-коды всякие, пытался понять - почему изначально так мало информации можно в этот самый ШК завести, всего тринадцать цифр, минус код страны, минус контролька...
ведь в принципе даже простым единым ШК типа код-128 можно замаркировать вообще все вещи на свете, каждую бутылку молока/вина/минералки, каждый свежевыпущенный автомобиль и каждую его запчасть вплоть до транзисторов на плате бортового компьютера. 128 цифр на всё хватит! но потом понял, что это так не сработает. скорее всего, проблема в распределении сфер влияния и отсутствие единого института стандартизации. ну и естественное желание наглосаксов оставить для себя чёрный ход на случай необходимости очередного
нае..."введения в заблуждение" остального мира. и вторая проблема: где хранить базу всех этих кодов и их расшифровку.а ведь как было бы удобно: поломалась у тебя машина, механик берёт сломанную запчасть, идёт с ней к сканеру, считывает ШК, и получает точный, конкретный, однозначный ответ: этот блок управления стеклоподъёмником производства фирмы "электрокопыта", тип такой-то, исполнение такое-то, применяется в том числе на таком-то и таком-то автомобиле, снят с производства в таком-то году, заказываем со склада? да/нет
К сожалению, реализация такого подхода требует каких-то безумных усилий. Особенно в части "применяется в том числе на ...".
Проблема не в организации общего учета, а именно в определении аналогов и ограничений применимости. Там чёрт ногу сломит.
Приходилось сталкиваться с проблемой "совместимые картриджи принтеров". Это когда по учету на складе дофига остатков, но все с разными наименованиями и кодами собственных производителей. Понять что к чему подходит - это ручками по каждому найти документацию производителя картриджа, прочитать с чем он считает оно совместимо, дальше - лезть в документацию производителя принтера - и убеждаться, что оно действительно подходит. А производители и того и другого - каждый день что-то новое делают, меняют буковки в кодах своих поделок ... В общем - проще было забить на эти остатки - чем нормально их почистить. Конечно, это - для очень большой компании проблема, у мелких - человек справится.
1. Криптобиржи требуют видеообращения с оригиналом паспортом в руках на странице фото - расположенном у лица. Личный опыт восстановления доступа к Бинанс. Конечно можно сгенерить и распечатать в бумаге. Но это цена вопроса.
2. Вконтакте - присылает код доступа на телефон. Если протерять доступ к сим телефона - уже не нужно поддельных паспортов. Сейчас через открытую сим вытащат все потроха.
3. Сервис конечно повышает неопределенность, но эксперты явно не в теме даже бытовых деталей доступа.
Ну, комментировать факты - не готов, ибо ни то, ни другое лично не пробовал.
по п.3 - согласен. Просто всем надо иметь в виду, что в текущих условиях бумажные документы могут быть подделаны весьма легко. И в важных случаях необходимо использовать и иные способы подтверждения личности.
ИИ тут вообще ни при чём, мошенники фотошопили паспорта сразу после появления фотошопа, т.е. ещё в 90х.
В ФБ такая же песня
Тут оно вот какое дело: фотошопить - было трудно, время, нужны всё же хотя бы хорошие фото оригиналов, большое количество сильно одинаковых подделок делать бессмысленно.
А теперь - всего за $15 можно заказать любой документ любой страны - и получить его моментально. Конечно, это не ИИ в правильном понимании термина, но делать такое стало возможно только после создания и применения для этих, скажем так - преступных, целей, систем с самообучением, построенных на основании специальных алгоритмов. И в узком смысле - это и есть тот самый ИИ, про который сегодня слышится из всех утюгов.
Ничего там трудного нет, один раз сделал и потом только меняй картинки в слоях и текст. Обленились делать даже это.
Так картинки же разные нужны. Их где-то набрать надо, подготовить...
А тут - уже машина обучена, у нее всё есть. Цена за результат - минимальная. ИМХО