Известия: искусственный интеллект стали применять для подделки документов

Аватар пользователя Mr.Wolf

В Сети появился сайт OnlyFake, на котором любой желающий может при помощи нейросети создать фотографии поддельных документов, будь то российский паспорт или водительские права. По мнению экспертов, подобные цифровые фейки станут опасным инструментом, позволяющим злоумышленникам отмывать и похищать деньги. Подробности о том, как искусственный интеллект стали применять для генерации фальшивых бумаг и чем это грозит в перспективе, читайте в материале «Известий».

Сайт OnlyFake, создающий фотографии поддельных документов при помощи искусственного интеллекта, успел привлечь внимание специалистов по кибербезопасности со всего мира. Ресурс позволяет генерировать снимки за считаные минуты, а стоит такая услуга всего $15 (примерно 1,4 тыс. рублей) — оплата принимается в криптовалюте.

Нейросеть от анонимных разработчиков научилась выдавать изображения паспортов и водительских прав 26 государств, включая Россию, США, Великобританию, Австралию, Канаду и ряд стран Евросоюза. При этом результат получается столь реалистичным, что позволяет проходить проверку на криптобиржах.

— Для генерации изображения достаточно выбрать шаблон, написать необходимую информацию и загрузить фото, — говорит руководитель компонента R-Vision Endpoint в компании R-Vision Петр Куценко. — Затем ИИ обрабатывает запрос и за короткое время создает документ, который для большей убедительности можно замаскировать под «неудачное» фото.

Корреспондент «Известий» на протяжении нескольких дней пытался зайти на OnlyFake: сайт открывался, но демонстрировал надпись Site is down. Everything will be restored soon («Сайт не работает. Скоро всё будет восстановлено»).

Не исключено, что ресурс, ставший неожиданно популярным, попросту был заблокирован. Однако вполне вероятно, что теперь услуги по созданию фото поддельных документов при помощи ИИ будут оказываться в даркнете, но уже за куда большие деньги. Недаром в описании OnlyFake, еще когда он работал, была одна весьма примечательная фраза: «Эра отредактированных при помощи Photoshop документов заканчивается».

Инструмент для мошенников

Между тем фотографии документов, подделанные с помощью нейросетей, могут стать опасным инструментом в руках злоумышленников. Как говорит в беседе с «Известиями» менеджер продуктов Innostage Евгений Сурков, подобные фальшивки применяются для анонимизации мошеннических действий с аккаунтами и цифровыми активами, а также при подтверждении операций путем предоставления паспортных данных.

— Например, таким образом можно попробовать записать на имя пользователя сайт, распространяющий противоправную информацию, взять небольшой кредит (в случае перехвата контроля над каналами коммуникации жертвы), оформить SIM-карту и даже попробовать зарегистрировать фирму-однодневку, — рассказывает эксперт.

В свою очередь, зампредседателя комиссии Общественной палаты РФ по общественной экспертизе законопроектов и иных нормативных актов Александр Терновцов дополняет, что фейки, полученные посредством технологий ИИ, преступники могут использовать на любых электронных ресурсах, где для регистрации достаточно снимков документов. Это, в частности, криптобиржи, онлайн-казино и сервисы бронирования автомобилей.

Как отмечает специалист, популярная соцсеть VK для восстановления доступа к странице просит загрузить фото с паспортом. А поскольку цифровизация всё больше проникает в жизнь людей, расширяются и варианты применения снимков документов.

— Использование нейросетей и других автоматизированных инструментов для создания подделок — новый вызов для правоохранительных органов и организаций, стремящихся обеспечить безопасность и защиту личных данных, — отмечает Петр Куценко.

Правовой аспект

По словам Александра Терновцова, раньше подобные фотографии создавались вручную с применением Photoshop и других графических редакторов — это требовало немало времени и ресурсов. Теперь же на сайте OnlyFake такие фото за считаные минуты создает нейросеть, что, впрочем, порождает определенные юридические коллизии.

— Как мне кажется, тут возникает правовой пробел, несет ли пользователь, генерирующий запрос на изготовление поддельного документа, какую-либо ответственность, ведь фактически подделку изготавливает нейросеть, — говорит собеседник «Известий».

Александр Терновцов напоминает, что юридически фотография является объектом интеллектуальной собственности и защищается законом от посягательств третьих лиц. При этом в российском законодательстве не предусмотрена ответственность за подделку снимков документов.

Она наступает лишь за фальсификацию самих документов в соответствии со ст. 19.23 КоАП РФ («Подделка документов, штампов, печатей или бланков, их использование, передача либо сбыт») или ст. 327 УК РФ («Подделка, изготовление или оборот поддельных документов, государственных наград, штампов, печатей или бланков»). И хотя сами фейковые изображения удостоверений, сгенерированные при помощи ИИ, не являются чем-то противоправным, наказание может наступить при их эксплуатации в преступных целях.

— Если поддельные фото документа пустят в ход для обмана с целью хищения имущества, то такое деяние будет охватываться в том числе составом ст. 159 УК РФ («Мошенничество»), — отмечает Александр Терновцов. — Однако конкретный состав определяется в зависимости от того, как именно использовался поддельный снимок.

Как говорит Петр Куценко, применение снимков документов, полученных при помощи нейросетей, может повлечь за собой серьезные юридические и этические последствия, а также финансовые потери как физических лиц, так и организаций. Именно поэтому способы выявления подобной имитации становятся особенно важными.

Механизмы защиты

Сегодня технологии на основе ИИ могут генерировать изображения высокой точности, что затрудняет идентификацию поддельных снимков документов. По мнению Петра Куценко, сервисам необходимо внедрять многофакторную аутентификацию, а также запрашивать сразу несколько подтверждений для авторизации пользователя. В свою очередь, Евгений Сурков считает, что шансы на распознавание обмана увеличиваются, если требовать изображения с измененным положением или углом наклона бумаги.

— К примеру, можно попросить пользователя выполнить с документом заранее неизвестную ему манипуляцию: повернуть, приблизить или показать другую страницу, поднести документ с фотографией к лицу, — говорит собеседник «Известий». — В последнем случае проверяющему надо будет решить юридический вопрос с обработкой биометрических данных.

Петр Куценко указывает на то, что распознать поддельные снимки может помочь анализ качества изображения, а также оценка текста на наличие опечаток и разных шрифтов. Так, сигнализировать о фальсификации могут локальные искажения, маскирующиеся под плохое разрешение картинки.

Как отмечает эксперт, еще важно сверять голограммы и водяные знаки — на страницы паспорта нанесены голографические изображения в виде герба России, звезды и надписи РФ/Россия/Russia. Кроме того, на всех листах документа есть водяной знак в виде букв «РФ».

— Помимо визуальной оценки необходимо использовать специализированное программное обеспечение для анализа фотографий и метаданных, — рассуждает Петр Куценко. — Такое ПО помогает выявлять контент, сгенерированный при помощи ИИ.

Наконец, при возникновении сомнений относительно подлинности фотографии можно обратиться за помощью к специалистам или организациям, имеющим опыт в верификации данных, заключает собеседник «Известий».

Авторство: 
Копия чужих материалов
Комментарий автора: 

Обращаю внимание разного рода критично настроенных читателей: материал - не мой, это копи-паста из Известий от 10.02.2024г. 

По существу имею сказать следующее: в последнее время очень уж кучно пошло по поводу ИИ. Не далее, как сегодня было весьма интересное мероприятие, где ряд действительно уважаемых и квалифицированных специалистов представили кратко информацию о текущем состоянии регулирования в сфере ИИ, анализируемых рисках, путях к управлению ими. 

Материал "Известий" реальное воплощение одного из рисков. 

Проблема настолько серьезная, что скорее всего в ближайшее время на законодательном уровне будут приняты меры по обязательной маркировке всех поделок так называемого "искусственного интеллекта". Ибо, как оказывается, злоумышленники уже не только курсовые и дипломные работы поручают ГигаЧату ваять (по словам Сбера - факты присутствуют), но и, как пишут "Известия" - используют фейки в намного более опасных для граждан ситуациях.

Призываю всех изложенное в материале учитывать в повседневной деятельности. Касательно рекомендованных "механизмов защиты" - выражу определенный скепсис, но, как говорится, "на безрыбье и рак - рыба".

P.S. Сам на сей сайт заходить не пытался, и вам не рекомендую: следы в сети всяко остаются. Зачем карму портить? 

Комментарии

Аватар пользователя barmalej
barmalej(8 лет 6 месяцев)

До чего техника дошла, раньше за дипломом о высшем образовании нужно было спуститься в метро, а теперь всё не вставая с дивана.

Прогрэсс! 

Аватар пользователя Сандро
Сандро(9 лет 2 недели)

Onion--47.gifДу уж, жызнь становится всё чудесатее и чудесатее((

Аватар пользователя Mr.Wolf
Mr.Wolf(5 лет 1 месяц)

Ага. Тока теперь еще в качестве опции - можно выбрать диплом любого вуза мира. А заодно - и весь комплект документов соответствующей страны...

Есть байка про Рудольфа Абеля. Когда он, не совсем легально попав в Пиндостан, стал вполне себе там зарабатывать - чтобы обналичить чек у него в банке в качестве подтверждения личности попросили принести письмо, адресованное ему. Типа - если он его смог получить - значит всё ОК. Тогда он съездил в другой город, и сам себе оттуда отправил письмо. Вернулся, через несколько дней - получил - и пошел в банк: деньги выдали. 

А теперь? Где, спрашивается, романтика? 

Аватар пользователя Органика
Органика(2 года 3 месяца)

Работодатели обращались в соответствующий вуз и подтверждали факт выдачи диплома конкретному гражданину. Работнику грозило увольнение по статье и штраф. Если требование к образованию прописано в нормативных актах компании или по закону должно быть.

Видимо что то подобное и будет введено с целью предотвращения фальсификаций, выдача предъявлемого документа должна быть подтверждена. А самому предъявляющему - статья.

Хорошо у нас, госуслуги есть, а вот чё там у них будет.

Аватар пользователя Событие
Событие(12 месяцев 2 дня)

Интересно. а что делать если учебное заведение не внесло диплом?

Например со мной такое было, диплом у меня официальный, а кинулись проверять, нету в базе.

Аватар пользователя Mr.Wolf
Mr.Wolf(5 лет 1 месяц)

писать запрос в учебное заведение, они должны на основании архивов выполнить соответствующие шаги и внести данные в базу.

Аватар пользователя Вий
Вий(10 лет 3 месяца)

раньше за дипломом о высшем образовании нужно было спуститься в метро

Был случай в метро: Милиция задержала продавцов дипломов и тут же отпустила. У нас нет к ним (к продавцам) претензий, сказал доктор экономических наук, профессор, сержант Петров.

Аватар пользователя Mr.Wolf
Mr.Wolf(5 лет 1 месяц)

Ну, сегодня у нас все же не милиция, а полиция, и там - уже не жалкие доктора, а сразу член-коры разных академий. А так - да, мир особо не меняется.

Аватар пользователя брат кондрат
брат кондрат(9 лет 6 месяцев)

Как выглядит "член корЫ " ?

Похож на " синтез бЕлка" ?

Аватар пользователя Mr.Wolf
Mr.Wolf(5 лет 1 месяц)

Да бог их, ученых, знает? КорЫ, или сразу дуба?

Вот про синтез - это хорошо.

Аватар пользователя Strim
Strim(11 лет 3 месяца)

ой вей шо делается smile3.gif

уеб...и с криптовалютной "биржи" вместо скана реального паспорта и биометрического ролика получают подделку

усе..нельзя больше личные данные граждан чужого государства собирать.

КЫС от глобалистов под угрозой?

В 2021 году KYC-верификация была представлена в «Патриотическом акте» и закреплена им. Однако приняли закон лишь после террористических атак 11 сентября. Целью KYC стала борьба с незаконной деятельностью и выявление подозрительного поведения на ранних стадиях. С помощью персональных данных криптовалютные биржи отслеживают модели транзакций...

--------------

в целом же статья как новость- ерунда.

Подобные сервисы в прошлом-позапрошлом году ужу точно были.

но тут главное громче пркукарекать про "искусственный интеллект", который вообще-то обычное ПО.

Аватар пользователя Mr.Wolf
Mr.Wolf(5 лет 1 месяц)

популярная соцсеть VK для восстановления доступа к странице просит загрузить фото с паспортом

а это вы пропустили? 

Аватар пользователя Strim
Strim(11 лет 3 месяца)

в вк регистрация по номеру телефона

а не по американскому законодательству

Аватар пользователя Mr.Wolf
Mr.Wolf(5 лет 1 месяц)

Вы читать умеете? Если доступ потеряли - в ряде случаев они восстанавливают его по фото с паспортом. Причем здесь законодательство?

Аватар пользователя otherone
otherone(1 год 11 месяцев)

Надо спросить его, может он умеет разлагать числа на простые множители.

Вдруг умеет? Вот тогда точно будет весело smile1.gif

Аватар пользователя Mr.Wolf
Mr.Wolf(5 лет 1 месяц)

Ну, пока с этой задачей - не всё так хорошо. Но ведь "под лежачий камень вода не течет"...

Аватар пользователя Omni
Omni(11 лет 9 месяцев)

Не будет, давно уже разработаны алгоритмы которые и квантовиков для такой работы делают бесполезными, как только случится что-то просто близкое новые алгоритмы сразу выставят на рынок.

Аватар пользователя Mr.Wolf
Mr.Wolf(5 лет 1 месяц)

Блаженны верующие (с)

Пока что никаких "новых алгоритмов" и не видно пока. Есть только увеличение длины ключа, на чем и держится стойкость.

Если я не прав - покажите пример "нового алгоритма".

Аватар пользователя Omni
Omni(11 лет 9 месяцев)

Проблему ковыряют более полувека, начиная с BB84 дошли до NTRU, но не моя тема - посматриваю иногда когда новости всплывают.

Аватар пользователя Барсук
Аватар пользователя Mr.Wolf
Mr.Wolf(5 лет 1 месяц)

Ну, чтобы экраны не мыть, наверное... ХЗ, в общем... Пишите в "Известия"

Аватар пользователя PIPL
PIPL(10 лет 6 месяцев)

Терминатор купил поддельный паспорт, и сейчас живёт под Рязанью как Василий Пупкин. 

 

Аватар пользователя Mr.Wolf
Mr.Wolf(5 лет 1 месяц)

Ну, без пруфа - не катит. А так - да, тоже слышал про этот случай.

Аватар пользователя igorzh
igorzh(11 лет 9 месяцев)

Ну Пелевин прекрасно всё уже описал несколько лет назад. Доказательными будут только аналоговые носители, фотопленки и т.п. Никакие цифровые носители не будут иметь фактологический вес. Вот и весь сказ. Бумажные доки опять будут в ходу smile13.gif

Аватар пользователя Mr.Wolf
Mr.Wolf(5 лет 1 месяц)

Да, я тоже поражаюсь Пелевинскому предвидению. И "Поколение П", и "Айфак", и "СНАФФ" - всё воплотилось. Вот только процесс пока не завершен, а у него завершения всегда, скажем так - специфичные. Ждем-с

Аватар пользователя Omni
Omni(11 лет 9 месяцев)

Всего-то добавится встречная проверка по базам, что сейчас сделать совсем легко, бумажный али ещё какой документ будут только основанием для её.

Аватар пользователя Mr.Wolf
Mr.Wolf(5 лет 1 месяц)

В России - да, и легко, и делается.

А в мире?

Аватар пользователя Omni
Omni(11 лет 9 месяцев)

Пусть завидуют или учатся.

Аватар пользователя С Правого
С Правого(9 лет 10 месяцев)

Как написано в "Книге" судить нужно по "делам".ИИ начал с кражи денег,и обмана граждан по телефону теперь вот документы подделывает.Также ИИ крадет интеллектуальную собственность и "кожанные мешки "получают звания и награды за "не написанные книги".По нашему УК ему можно статью вменять.Интеллект есть?-есть,получи срок и обязательно(вдвое больше за группу) соучастникам))). Не явится в суд сначала штраф,а потом и в розыск подельников конечно))).   ..лет через надцать ИИ отключат от розетки "за неуплату НДС")))

Аватар пользователя Mr.Wolf
Mr.Wolf(5 лет 1 месяц)

Ну, тут такое дело: это не ИИ, а всё же люди, кои его используют. Это как предъявлять претензии к дрели за обнесенную квартиру: а что - воры ведь дрелью замок высверлили...

Аватар пользователя С Правого
С Правого(9 лет 10 месяцев)

ИИ-интеллект.Интеллект-человек.Временно,до выяснения).Преступление ИИ-преступлением остается.Соучастники (кожаные мешки)-получают реальные сроки.Украли деньги-в турму))).

Аватар пользователя Agat
Agat(10 лет 10 месяцев)

О, а он может дату на сертификате на продукцию подправить незаметно? Сам то я нынче с проверяющей стороны, постоянно встречаю поправленные, ибо знаю как определять.

  Причем делается даже без фотошопа, в Пэйнте. Попиксельно всякие волнистые линии фона подрисовывают. Сам то никогда так не делал, но друг рассказывал, что процесс трудоемкий.

Аватар пользователя Mr.Wolf
Mr.Wolf(5 лет 1 месяц)

Думаю - может подправить любую картинку. Но чтобы было надежно - желательно на этапе дообучения скормить ему знатный объем таких сертификатов - и он научится делать это (подправлять дату) - весьма красиво.

Аватар пользователя Omni
Omni(11 лет 9 месяцев)

Сертификаты на партию поменяют на сертификаты на единицу продукции с пометками продаже и времени, сейчас уже можно проверить любую бутылку молока, вроде как.

Аватар пользователя M@troskin
M@troskin(11 лет 5 месяцев)

я когда-то давно, когда только начали массово вводиться штрих-коды всякие, пытался понять - почему изначально так мало информации можно в этот самый ШК завести, всего тринадцать цифр, минус код страны, минус контролька...

ведь в принципе даже простым единым ШК типа код-128 можно замаркировать вообще все вещи на свете, каждую бутылку молока/вина/минералки, каждый свежевыпущенный автомобиль и каждую его запчасть вплоть до транзисторов на плате бортового компьютера. 128 цифр на всё хватит! но потом понял, что это так не сработает. скорее всего, проблема в распределении сфер влияния и отсутствие единого института стандартизации. ну и естественное желание наглосаксов оставить для себя чёрный ход на случай необходимости очередного нае... "введения в заблуждение" остального мира. и вторая проблема: где хранить базу всех этих кодов и их расшифровку.

а ведь как было бы удобно: поломалась у тебя машина, механик берёт сломанную запчасть, идёт с ней к сканеру, считывает ШК, и получает точный, конкретный, однозначный ответ: этот блок управления стеклоподъёмником производства фирмы "электрокопыта", тип такой-то, исполнение такое-то, применяется в том числе на таком-то и таком-то автомобиле, снят с производства в таком-то году, заказываем со склада? да/нет

Аватар пользователя Mr.Wolf
Mr.Wolf(5 лет 1 месяц)

а ведь как было бы удобно: поломалась у тебя машина, механик берёт сломанную запчасть, идёт с ней к сканеру, считывает ШК, и получает точный, конкретный, однозначный ответ: этот блок управления стеклоподъёмником производства фирмы "электрокопыта", тип такой-то, исполнение такое-то, применяется в том числе на таком-то и таком-то автомобиле, снят с производства в таком-то году, заказываем со склада? да/нет

К сожалению, реализация такого подхода требует каких-то безумных усилий. Особенно в части "применяется в том числе на ...". 

Проблема не в организации общего учета, а именно в определении аналогов и ограничений применимости. Там чёрт ногу сломит. 

Приходилось сталкиваться с проблемой "совместимые картриджи принтеров". Это когда по учету на складе дофига остатков, но все с разными наименованиями и кодами собственных производителей. Понять что к чему подходит - это ручками по каждому найти документацию производителя картриджа, прочитать с чем он считает оно совместимо, дальше - лезть в документацию производителя принтера - и убеждаться, что оно действительно подходит. А производители и того и другого - каждый день что-то новое делают, меняют буковки в кодах своих поделок ... В общем - проще было забить на эти остатки - чем нормально их почистить. Конечно, это - для очень большой компании проблема, у мелких - человек справится.

Аватар пользователя wert
wert(2 года 2 месяца)

1. Криптобиржи  требуют  видеообращения  с  оригиналом паспортом  в руках на странице фото - расположенном  у лица.  Личный опыт  восстановления доступа к Бинанс. Конечно можно сгенерить  и  распечатать в бумаге.  Но   это цена вопроса.  

2. Вконтакте - присылает  код доступа на телефон.  Если  протерять  доступ  к  сим  телефона - уже не нужно поддельных паспортов. Сейчас через открытую сим  вытащат  все потроха. 

3.  Сервис  конечно повышает  неопределенность, но эксперты явно не в теме даже бытовых деталей доступа.  

Аватар пользователя Mr.Wolf
Mr.Wolf(5 лет 1 месяц)

Ну, комментировать факты - не готов, ибо ни то, ни другое лично не пробовал.

по п.3 - согласен. Просто всем надо иметь в виду, что в текущих условиях бумажные документы могут быть подделаны весьма легко. И в важных случаях необходимо использовать и иные способы подтверждения личности.

Аватар пользователя Географ глобус пропил
Географ глобус ...(7 месяцев 1 неделя)

ИИ тут вообще ни при чём, мошенники фотошопили паспорта сразу после появления фотошопа, т.е. ещё в 90х.

VK для восстановления доступа к странице просит загрузить фото с паспортом

В ФБ такая же песня

Аватар пользователя Mr.Wolf
Mr.Wolf(5 лет 1 месяц)

ИИ тут вообще ни при чём, мошенники фотошопили паспорта сразу после появления фотошопа, т.е. ещё в 90х.

Тут оно вот какое дело: фотошопить - было трудно, время, нужны всё же хотя бы хорошие фото оригиналов, большое количество сильно одинаковых подделок делать бессмысленно. 

А теперь - всего за $15 можно заказать любой документ любой страны - и получить его моментально. Конечно, это не ИИ в правильном понимании термина, но делать такое стало возможно только после создания и применения для этих, скажем так - преступных, целей, систем с самообучением, построенных на основании специальных алгоритмов. И в узком смысле - это и есть тот самый ИИ, про который сегодня слышится из всех утюгов.

Аватар пользователя Omni
Omni(11 лет 9 месяцев)

Тут оно вот какое дело: фотошопить - было трудно, время, нужны всё же хотя бы хорошие фото оригиналов

Ничего там трудного нет, один раз сделал и потом только меняй картинки в слоях и текст. Обленились делать даже это.

Аватар пользователя Mr.Wolf
Mr.Wolf(5 лет 1 месяц)

Так картинки же разные нужны. Их где-то набрать надо, подготовить... 

А тут - уже машина обучена, у нее всё есть. Цена за результат - минимальная. ИМХО