Будет ли проверка достоверности контента новым быстрорастущим направлением IT индустрии? В эру дезинформации, лжи и дипфейков возникает потребность в технологиях, призванных восстановить доверие к “горячим новостям».
Прежде всего что такое deepfake? Началось это как обычно в индустрии порно. Пару лет назад появился софт, c помощью которого стало возможным заменять лица «актёров” лицами знаменитостей. Со временем софт развился до степени кажущейся реалистичности видеоклипа.
Далее технологии из порно перекочевали в политику. Как обычно, кстати. Это лишний раз подтверждает догадку, что между порно и политикой есть какая-то скрытая связь.
В настоящее время не составляет большого труда взять какое-нибудь видео выступления политика перед избирателями, чуть изменить движение его губ, подправить аудио, “вложив в уста” то что нужно, и получится deepfake. Главное правильно выбрать момент вброса видео в соцсети.
Пострадал даже Обама. Якобы в одном из выступлений он обозвал Трампа “полным говнюком”. Говорят в реальности он этого не делал.
И тут политиканы всполошились. Срочно потребовался софт, который будет в реальном времени обнаруживать и удалять дипфейки из соцсетей. Сможет ли IT индустрия дать адекватный ответ?
Что касается проверки достоверности текстового контента в режиме реального времени, тут всё гораздо хуже. В одной лаборатории проверяли вероятность обнаружения текстовых фейков по «девятистам параметрам». 900, Карл! Это вам не какая-нибудь идентификация по IP, которую даже фейкомёты-любители обходят влёгкую. Эффективность обнаружения фейков оказалась неутешительной. Похоже текстовые фейки так и буду гулять в медиа пространстве.
Как всегда заострю ваше внимание и на положительном моменте. Если “ваша старуха» ненароком обнаружит в сети видео с вашим участием, где вы в компании женщины с низкой социальной ответственностью, теперь вы можете смело отмазаться: - Определённо это deepfake. По другому и быть не могло.
Статья написана “по мотивам” двух статей на Medium. Они там в member preview, так что давать прямые ссылки не имеет смысла. Вот заголовки этих статей:
1. Even the Best AI for Spotting Fake News Is Still Terrible.
2. Is Content Validation the Next Growth Industry?
Попробуйте найти их Гуглом, если есть желание. У меня с одного “устройства”, где я полностью индетифицирован в соцсетях и на гугле получилось их прочитать. С другого устройства, на котором не так просто определить пользователя, не получилось. У вас может получиться. Это значит одно из двух: либо вы никому уже не нужны, либо на вашем компе есть “мусор”, который позволяет вас индетифицировать стороннему наблюдателю. 
Комментарии
Не слишком страшная проблема. Просто интернет потеряет доверие пользователей, и люди станут черпать информацию исключительно из тех источников, которые посчитают надёжными.
Ну и заодно привыкнут не психовать из-за очередной дутой сенсации, а будут спокойно ждать день- два проверки новости.
А то повадились каждые пять минут в обморок от очередной новости падать. Хотя простое перечитывание этой же новости и комментариев по ней уже через три дня, превращает "сенсацию" в шутку.
Куда людям спешить, читая мировые новости? При чтении новостей, ничто кроме угрозы жизни, не требует нашего срочного внимания и нашей мгновенной реакции.
Нельзя долго оставаться надёжным источником в современной журналистике, когда «деньги не пахнут”. Да и “пару дней” избирательной кампании иногда хватает на “убрать политика со сцены”.
Надо быть обладателем очень неустойчивой психики, чтобы после одной скандальной новости, за пару дней разлюбить политика, который известен тебе много лет, и которого ты собираешься выбрать на четыре года вперёд.
Комментарий к статье добавил.
Стросс-Кана это уже вряд ли утешит...
Мир людей, с памятью золотой рыбки и мышлением ребёнка, переварит и через день забудет и сотню стросканов. Для такого мира, фейковые новости и правда становятся вселенской катастрофой.
Но большинство людей в мире, всёже вменяемые здравомыслящие люди. Поэтому произойдёт как я написал выше -гонка фейкоаых новостей, станет уделом деградантов, неспособных ни к какой умственной деятельности. Другое дело, что таких деградантов будет очень много)))
И каждый с правом голоса
, что положительно влияет на стабильность системы, разжевано тут
Изобретатель иприта тоже полагал, что после боевого применения его изобретения, война, как инструмент политики, потеряет доверие пользователей. В реальности, как известно, обладание всё более смертоносным ОМП только воодушевляет означенную социальную группу
И часто после первой мировой, применялся иприт? Сейчас он есть ещё, но применять его всерьёз, никто даже не пытается.
Омайгаденьки... изобретатель вовсе не имел в виду патент на свое изобретение, а ОМП как таковое
Не засерайте русский язык подобным дерьмом. А то развелось тут соррикателей и прочей шелупони. Вы сопляк контактовский что ли, чтобы так писать?
А не подрасти ли вам сначала, прежде чем на предписания замахиваться?
В то то и дело, что подрасти нужно вам, нетоварищ сопляк ;)
Подрасти нужно тому, кто лезет со своими рекомендациями куда не звали. Бабушку свою учи
В том-то и дело, что она таких сопляков как ты воспитывала. Ну не таких. Таких убогих у нее не было.
Ой, не смешите мои тапочки! Как можно проверить достоверность контента, если наша модель мира изначально фальсифицирована? Вы все еще верите в традиционную хронологию и американцев на Луне? А доказательства у вас есть, кроме "ну не могут же все врать"?
Если что и будет новым быстрорастущим направлением IT-индустрии, так это цензурирование контента под предлогом борьбы с фейками. Софт принципиально не может проверить соответствие между моделью и реальностью, но он может помочь устранить явные противоречия в модели, например, найти и заткнуть рты свидетелям.
Здравствуй чудный новый мир Оруэлла!
Ой вэй)
А как же тогда бароцца за наши и ваши свободы?
для относительно объективного восприятия информации нужно пользоваться несколькими источниками информации. и многообразие СМИ, как ни парадоксально, "защищает" аудиторию. разумеется, если потребитель новостей туп, как дерево, и критическое мышление отсутствует напрочь, то... в общем, беспокоится не стоит. это будет всего лишь тестом на адекватность, разумность.
Заметка об американских избирательных технологиях вообще-то. Зачем нам беспокоиться? Прочитать и забыть на время. Эти избирательные технологии придут и в Россию через некоторое количество лет. Всё “говно” с Запада рано или поздно плывёт сюда.
Еще у Пелевина в GP, а это на минуточку - конец 90-х, эта тема была обкатана вовсю - зачем тебе реальные политики, когда все можно заменить 3d рендером. Настоящий заболеть может, или еще чего надумать, 3d-политик гораздо предсказуемее и проще в эксплуатации.
Идея ничего не стоит. Ценность имеет реализация.
Смысл в том, что сегодня вычислительные мощности даже самой заштатной студии уже позволяют делать любую картинку любой сложности, поэтому вопрос о фото- и видеореалистичности 3d-изображения сегодня выглядит буднично, а не с придыханием и налетом фантастики, как в 90-х. Отсюда и вывод - идея просто опередила время. Но хорошая сторона этой медали в том, что на спецэффекты людям становится просто наплевать.
Это да. Я и не читаю новостей. Ни в каком контенте, ни в текстовом, ни в видео. Не смотрю кинофильмы. Документалистика тоже уже «не доставляет». Везде одни фейки.
Только «хардкор» и продолжает радовать. За прошедшее лето хуситы накидали в сеть кучу роликов своих “боестолкновений” c саудитами например.
Об этом тоже писал классик. Когда люди пресытятся обычной игровой картинкой, их фантазии смогут удовлетворить лишь сцены с настоящими убийствами и сексом, называемые снаффом. Причем снимать их полагалось только на настоящую кинопленку без монтажа и редакции.
А про молодых людей в трусах, бегающих по полю с мячом, ваш “классик” ничего не писал? Это тоже «цепляет”.
Ну, упомянул. Что-то про ад бесконечного футбольного чемпионата.
Ну да, вспоминаю). Типа если 2/3 населения Земли одновременно будут смотреть в экран с футболом, что-то такое в ноосфере может произойти, что создаст возможности для реализации такого ада.
Да, там он сочно всё расписал, тем и славен)
А вообще тема фундаментальная, еще у М.Е. Салтыкова(Щедрина) в "Истории одного города" был синтетический градоначальник) Но до чисто-бестелесной реальности тогда, наверное, просто читатель еще не дозрел)
Quis custodiet ipsos custodes?
Бог или AI. “И воздасться каждому по делам его”.
В эпоху фейков особо востребованы камертоны.
Вы “дульный пламягаситель” имеете ввиду?
Фейк это шум. Камертон это инструмент при помощи которого настраиваются инструменты на нужные тональности.
Это мера к которой можно обращаться, социальный эталон.
Ми второй октавы не каждый в старости и услышит.
Перспективный чат детектед! Сим повелеваю - внести запись в реестр самых обсуждаемых за последние 4 часа.
Оруел 1984 - как вариант
В 1984 для того, чтобы вымарать некие куски истории надо было заменять бумажные газеты во всех библиотеках.
Посредством интернета можно переписать всю историю несколькими нажатиями клавиш.
Вы книжку то почитайте("1984") и "451 по Фаренгейту"
Вот мой любимый deepfake:
https://www.youtube.com/watch?v=B1VBv0mSFkE
Да нет, это просто значит, что вы гуглить не умеете, вот, пожалста:
https://www.technologyreview.com/s/612236/even-the-best-ai-for-spotting-...
https://www.fastcompany.com/90236068/is-content-validation-the-next-grow...
(От себя замечу, что уже два года практически открыто, с публикациями-демонстрациями, существует технология face2face, где на рожу актера натягивают, с изменением голоса, лицо другого человека. Причем, даже не сильно затратная по "железу", технология)
> Это значит одно из двух:
Никогда не жаловался.
На иных ресурсах некоторые статьи появляются на неделю раньше, чем на других.
Какое общество, такой и интернет.