Один приятель натолкнул на очень интересный сервис. Бот с искусственным интеллектом в Дискорде, называется MidJorney. Скармливаешь боту команду "представь себе..." и набор ключевых слов, и бот рисует набор картинок, как он себе "представляет".
Довольно хорошо представляет, надо сказать. Я несколько дней развлекался со всякой викингской атрибутикой, и вот сегодня засек этакое замечательное - запрос "Солдаты с украинским флагом". Картинка хороша, а бот к тому же умеет и в фотореалистичность, и в режим "снято на камеру типа Зенит-ЕТ", и в постепенную детализацию.
Я не эксперт по фотомонтажу и анализу изображений, но сдается мне, что такие картинки (с соответствующими сюжетами) скоро могут стать распространенными в инфо-сражениях и весьма активно используемыми разного рода "корреспондентами".
Выводы? Ну, их не будет. Думается мне, что можно, конечно, использовать такого бота и в наших целях, но как-то точат сомнения. В конце концов, у нас что, правды не хватит? И думаю я, что хорошо бы услышать мнение экспертов по части компьютерной графики: нет ли способа достаточно быстро определять, кто источник картинки - настоящая камера или ИИ-бот? Но не надеюсь, что таковые найдутся - хотя в любом случае спасибо за внимание.
UPD. Пробежался по ключевым словам - только в одной чат-комнате около 2000 запросов на сию тему, причем довольно однотипных (ну типа "драматично, девушка, украинский флаг", "эпично флаг Украины, солдаты, освещение" и так далее. Учитывая, что бот не бесплатный и после первых 25 генераций блокирует новые попытки, либо там другой бот шурует через масс-регистрацию мейлов, либо отряд рядовых обученных с платными аккаунтами.
Комментарии
Ну теоретически можно поискать похожие картинки, к Яндекса и гугла есть поиск по картинке. Бот же берет исходники из сети и либо накладывает одно изображение на другое, либо сразу ищет изображение по тегу похожему на описание. Кажется можно даже по фрагменту изображения поиск сделать.
Может какой то более точный способ определения есть. Наверняка уже и сервисы запилили, погуглите.
Принято, благодарю.
Хотя судя по тому, что он там вытворяет, слоев с наложением там может быть очень сильно не один, да и сами отдельные картинки для слоев явно модифицируются.
Эти ребята все ещё живут в 1984..... Железный занавес прокаженных территорий.
Прикольная хреновина, надо что-нибудь попробовать запилить
Пробуйте, это правда очень прикольно. Я вот такое наэкспериментировал.
Вот как нейросети научатся считать до пяти и рисовать правильное количество пальцев на руках, так можно начинать переживать.
Босые ноги от миджонея это вообще обычно крипота адская.
Ну, хорошо. Вот Вам два кадра. Какой из них настоящий и почему?
Слева фейк. Форма касок разная, воротники тоже, шеврон на тыльной стороне предплечья у правого солдата, флаги разные, у правого ближнего точки опоры нет. И вообще хохлы в песочном камуфляже воюют.
К правой тоже вопросы есть. Но в таком микроизображении неясно, то ли фотошопили коряво на отвали, то ли сеть фантазировала, то ли при сжатии попердолило.
Там выглядит реалистичнее потому, что деталей совсем мало. Хотя у центрального бойца, например, ногу по щиколотку отжевало чем-то. И голову с боков сплющило. Но, повторюсь, возможно просто кривой фотошоп.
Слева точно искусственный интеллект. Достаточно вдумчиво глянуть на крепление головы к туловищу. Извини, но шеей я назвать это не смогу, бгг. Это не считая фэнтезийных флагов.
И тени на обеих картинках от балды. То есть нередактированных фоток тут нет в принципе. Часть бойцов вообще теней не отбрасывают, вампиры наверное.
Ну так вот - они обе от ИИ.
Как видите, если первая была довольно уверенна распознана и лично, и "коллективным разумом", то вторую мало кто отметил так же уверенно, и даже Вы в некоторых сомнениях. Твердо заявить "обе сделаны ИИ" не сподобился никто.
Я написал твердо и уверенно, что правая тоже ИИ! Просто в ветке ниже. :)
Ну, разве что Вы один. Но факт разброда и шатаний в наличии, а ведь это навскидку взятые картинки, причем первой генерации.
Зная, как пользователи могут допиливать через тот же бот первоначальную версию - "доделать" до вдвое большей реалистичности у обычного юзера МидДжорнея займет минут час, а у опытного - минут двадцать. Учитывая факт того, что там эти запросы идут тысячами, несколько десятков годных картинок в сутки без привлечения группы фотографов, ретушеров и фотохудожников - отличный результат. Дешево и сердито.
скорее всего факт разброда и шатаний определяется разрешением экрана телефона, с которого рисунки смотрят. Соответственно, этим фактом можно манипулировать сжатием изображений
Больше всего в правой картинке меня повеселили каски - у всех четырех разные по форме. ИИ не понял, что это стандартное обмундирование. Ни у кого нет кистей. И куча левых мусорных артефактов в контурах людей, между ног людей и рядом с людьми.
Точно и познавательно. Спасибо!
А у левого военного правая рука начала дезинтегрироваться прям как в "Мстители. Финал". Уже половина руки испарилась.
Вот интересный сайт - генерит лица несуществующих людей - https://thispersondoesnotexist.com/
У него качество работы ИИ очень высокое, но он тоже иногда грешит нелепыми артефактами.
Да уж, бесспорно. Качество и правда высоченное. Жаль, параметров не задать. И если нужна какая-то условно конкретная морда, ф5 замучишься прожимать.
Был бы такой сервис с хотя бы базовой стилизацией - мог бы круто помочь в некоторых задумках. А если еще и с антуражом - так вообще...
Да есть полно подобных сервисов разной степени качества. Яндекс (Гугель) в помощь - и вперед. :)
Хотел еще дополнить... Обучение нейросети и генерирование картинок - это два разных разнесенных по времени процесса. При этом обучение сети очень дорогой и долгий процесс. Этот телеграм-бот использует уже готовую бесплатную некоммерческую свободную нейросеть.Если нейросеть генерит такие некачественные картинки - то она их и будет такими генерить независимо от запросов - она просто лучше не умеет.
Это оттого, наверное, что я последний раз обработкой фоток занимался, более-менее профессионально, когда работал в пресс-службе родного университета во времена кириенковского дефолта. То есть 25 лет назад.
Поэтому кидаться в раш по теме в которой не алë было бы глупо. Хотя даже мне обе фотки - "крофь-ис-глас". Меня бы с вёрстки студгазеты за такую лажу выгнали.
А на этих фотках нет ни ладоней, ни ступней. О чем, напомню, я и начинал беседу. Погугли продукцию этого робота, где они видны. Это ржака ржачная. Сеть не стесняется по 7 пальцев на руках делать, причём 3 больших по краям и 2 мизинца в середине ладони. Ноги вообще чаще всего на гусиные лапы похожи. И обе левые.
Смешнее всего кто-то электронного порнохудожника не так давно анонсировал. Вот где Дали отдыхает. Разноцветные сиськи на ногах? Пффф. Какие мелочи. Главное, что их 5 и все разные.
Ну "нет ладоней и ступней" обывателю вроде меня вообще неочевидно. Типа, художественная обработка фото такая, боке-шмоке, виньетирование блаблабла. А эмоциональный эффект совершенно очевиден.
Касательно продукции робота - ну, вменяемый юзер после пары таких семипалых результатов начнет дописывать в командной строке что-то типа "пять пальцев обязательно", или там "точно воспроизвести кисть руки", и через некоторое количество итераций добьется вменяемого результата. Я ж не говорю, что ИИ полностью заменит или там может то и это.
Я говорю только о том, что его могут и будут - а вернее, уже - используют как инструмент инфовойны. И с этим стоит считаться. Потому и собираю мнения и рекомендации, как отличать фейки. Пока там руки-ноги "текут" и пальцев семь, ладно, а что будет, когда точность поднимется?
Нафига? Зачем использовать сырой инструмент в важной задаче, когда есть миллион-два хохлов-фотошоперов, многие даже наверняка с профильным образованием?
Выдели грант, рассылай задачи и контролируй результат. Сатанисты вообще не любят инноваций, что сработало один раз будут использовать пока Армагеддон не случится.
ну, насчет пары миллионов - спорно
и потом, научиться прилично фотошопить - время нужно, деньги нужно, фотошоп опять же не в голове пользователя крутится
исходные картинки искать - время нужно, люди нужны
а научиться запросы боту слать - куда легче, чем хотя бы даже пыль в кадре чистить, и вал низкокачественной продукции в данном случае эффективнее, чем на порядок меньшее количество годного контента
в общем, я Вашу точку зрения понимаю, но не разделяю.
И потом. Я постулирую, что уже используют на том факте, что своими глазами видел этот запрос и его результат, потом своими глазами видел результаты поиска подобных запросов.
Вы считаете, что "незачем", а они вполне себе пользуются уже сейчас. И неважно, был это проукраинствующий блоггер ради бложика, или журнашлюх ради статейки, или рядовой ципсо для очередного поста в каком-нибудь телеграммо-военкоре.
Обкатают, соберут в единую методичку, и начнется пулеметная по скорости выдача - только успевай картинки вываливать.
Сюр какой-то на первой картинке.
Слева жёлто-сине-жёлтый флаг, справа какие-то жёлтые обрывки.
Всё эти бредокартинки в одной стилистике, и отличить их от настоящих проще пареной репы.
Перспективный чат детектед! Сим повелеваю - внести запись в реестр самых обсуждаемых за последние 4 часа.
Или слоупок, или в поиск не умеете. Я писал об этом еще 2 месяца назад: https://aftershock.news/?q=node/1139606
Поаккуратней с примерами. Мало ли что люди подумают?
А вообще, левое фото - это ИИ. Миджорни не умеет в реальные флаги. И много чего не умеет. Я давно научился выцеплять его поделия на раз. Любит фрактальность. Не умеет рисовать руки, ноги и верхнюю губу у тиоток.
Действительно, много уже где используется. Даже на каком-то худ. конкурсе ИИ занял первое место среди живых художников.
Эта тема тут не раз уже всплывала.
Запомнились картинки "Победа сборной Казахстана на ЧМ по футболу".
Всплывала Миджорни ровно адын раз. И эта "Победа сборной Казахстана на ЧМ по футболу" была в комментах к моей статье. Там ИИ тоже не сумел в флаги.
И правая тоже ИИ!
Найс, ребёнку покажу
Просто не искал. Спасибо за ссылки.
Насчет верхней губы - я одном из комментов выше три картинки прицепил, одна как раз с портретом.
Там к губе есть претензии? Я не сумел разглядеть.
(к одежде точно можно придраться, но там и картинка фентезийная)
Это всё вопросы эволюции ИИ и попыток его чему-то научить (попыток создать по-человечески обучаемый саморазвивающийся ИИ), к инфойнам это отношения не имеет, поскольку "профессионалы дезинформации" как ранее делали фейки с дипфейками, так и продолжают это делать, и никакой имбецильный псевдоинтеллект, творчески рисующий человеку ухо на пятке, им для этого не требуется.
ИИ в данном случае инструмент, который при некоторой настройке может облегчить жизнь "рядовым", а не профессионалам.
Профессионала ИИ довольно долго еще не заменит. Но "рядовые" работают по таким людям, которые вряд ли могут без подсказок легко раскусить такой фейк, а нарастающая массовость фейков через какое-то время перегрузит и тех, кто может.
Да как-то особо смысла в этом не видится. Чем больше в фейке от правды, тем сложней его распознать, так зачем бы кому-то создавать заведомо несуществующие псевдофотографии с ушами на пятках, если можно просто подобрать реально существующие, глядя на которые ни у кого не возникнет никаких сомнений в их подлинности.
Вот как "тематическая художественная иллюстрация" это всё вполне может сгодиться, поскольку тут генерируется уникальное тематическое изображение, с которым не возникнет никаких проблем с его правообладателем. Пусть там даже ухо на пятке, так Сальвадор Дали и не такое изображал.
Ну вот сколько с этим ботом работал и в канале смотрел работы других - ушей на пятках не видал, кроме прицельных запросов "ухо на пятке".
С тезисом о смешении правды с ложью согласен. А вот вопрос "зачем"...
У настоящего кадра довольно часто есть необходимость в ретуши. Там могут быть малозначимые детали, которые наведут на подозрения. И самое главное - настоящий кадр, однажды выложенный в Сеть с полными данными о нем всегда можно впоследствии обнаружить (ну, почти всегда - пока существует Сеть). И фейк раскусить. Поиск по картинке через поисковик дает неплохие результаты для настоящих, а вот проверка генерированных ИИ - нет.
Откуда вывод: как только ИИ сможет доработать ряд небольших проблем (выше высказывались про число пальцев, тени и неумение про флаги, например) - качество фейков достигнет достаточности, чтобы можно было обманывать основную массу людей "не в теме", а при легком допиливании профессионалами - и тех, кто в теме.
Вопрос-то не в том, что ИИ такое может, а в том, что его для этого используют! Тот, кто об этом знает, уже подготовлен немного лучше.
"Ухо на пятке" не буквально, а фигурально. В наше время глупо верить вообще чему-либо не убедившись в достоверности информации, поэтому это мало что изменит, даже если допустить, что ИИ-генераторы изображений обретут совершенство и будут использованы для генерации всего подряд, что бы выдавать любые фантазии за реальность. В качестве примера манипуляций с видео в режиме реального времени:
Тезис абсолютно верен, да только кто его использует? ты да я да мы с тобой. В разрезе аудитории АШ - примерно процентов десять комментаторов, ну много - пятнадцать. А вне АШ я вот общаюсь с некоторыми людьми, и там такое в головах попадается, что кроме как железобетонными аргументами не вышибешь.
Оттого и изучаю тему в разрезе "как отличить" - чтобы было чем аргументировать. Если текстовый фейк можно, при наличии школьного образования, довольно быстро разобрать (не все, но очень большой процент), то с фото уже сложнее, а Ваш пример про видео - тут я и сам пас уже.
Ребята, всё это - есть.
Большинство генераторов изображений основано на сверточных архитектурах.
И есть характерные "отпечатки" в статистике яркостей пикселов, возникающие вследствие именно архитектуры при апсэмплинге из промежуточных слоев.
Криминалисты это умеют. Не 100%, конечно, но достаточно уверенно.
Обнаружение сгенерированности фото идет рука об руку с генерацией фотою Классическое соревнование брони и снаряда. Другое дело, что "наивный наблюдатель" обычно качественную современную подделку не обнаруживает, поскольку отличие не в видимых деталях. а именно в статистических характеристиках изображения, трактуемого как двумерный случайный процесс. И статей об этом - море. И проектов на Гитхабе - залив от этого моря.
ну вот и я о том же.
Жаль, что на бытовом уровне каких-то надежных признаков маловато.