В Госдуме уже ведется разработка концепции закона о маркировке контента, созданного при помощи нейросетей, сообщил член комитета ГД по информполитике Антон Немкин.
"Сегодня в Госдуме уже ведется разработка концепции закона о маркировке контента, созданного при помощи нейросетей. В частности, изучается законодательный опыт других стран, идут консультации с экспертами, работа над формулировками базовых дефиниций", - сказал он РИА Новости.
Депутат отметил, что интернет уже переполнен контентом, который создают боты, алгоритмы и так далее и отличить реальное от нереального становится действительно очень сложно.
"А если рассматривать отдаленную перспективу, то развитие ИИ-сервисов без необходимого контроля несет опасность появления огромных массивов не только никем не проверенных текстов, но и даже полностью выдуманных фактов, цифр и данных", - добавил парламентарий.
По словам Немкина, человеку важно иметь представление о том, с чем он имеет дело, отличать реальное от нереального, как и в случае с рекламой, - пользователя очень легко обмануть и завлечь куда-то, а задача государства не позволить это сделать.
"На мой взгляд, маркировка должна осуществляться при помощи графических или водяных знаков. Главное, чтобы такая маркировка была ненавязчивой, но при том четкой и заметной для любого пользователя, чтобы он понимал, какой контент перед ним и мог более тщательно его анализировать", - подчеркнул Немкин.
По мнению депутата, в силу того, что пока не ясно, какая экспертиза позволит распознавать степень участия машины и человека в одном и том же тексте, российские ИИ-сервисы должны автоматически маркировать любые сгенерированные тексты. В первую очередь, задуматься над подобными технологиями цифровой маркировки изображений нужно российским компаниям, развивающим компетенции в области генеративных нейросетей - прежде всего, "Сберу" и "Яндексу", предложил Немкин.
"Тем не менее, учитывая, что часть контента, созданного с использованием искусственного интеллекта, создается в деструктивных целях, нерационально ждать его маркировки от создателей. В связи с этим было бы логично наделить новыми полномочиями, например, Роскомнадзор, специалисты которого могли бы проводить экспертизу для выявления такого контента, если его создатели стараются все же избежать маркировки. После выявления такой контент должен будет принудительно маркироваться на площадках его распространения или же блокироваться в случае, если он распространяется в противоправных целях", - заключил он.
Таки постепенно государство подбирается к формированию законодательных ограничений и для ИИ. Конечно, всё это пока - не быстро и несколько по-детски. Но, будем надеяться - только запрягают медленно, далее - будет побыстрее.
Продолжаем наблюдать.
Комментарии
Надо просто сайты пометить, "достоверные средства массовой информации" и "фуфлыжные".
Все кто достоверные - это должен быть конкретный человек, с паспортом и
недвижимостьюответственностью за содержимое.Кто хочет читать высеры ИИ, заказывать надувных барбей и пиво в таблетках - могет не пользоватсья фильтрами в инете.
Беда в том, что продукция ИИ - она ведь не только на сайтах. Могут, например, детям в школе учебный фильм демонстрировать про Великую отечественную войну. Сделанный ИИ - ну, ведь можно же? И в нем - будет война США и Украины против Гитлера и Сталина. А что? Официальное лицо США такое заявило уже - ну вот ИИ и дорисует в виде картинок, чтобы деткам легче воспринималось.
Всё, к сожалению - намного хуже, чем тексты на сайтах.
Школы сами выбирают учебные материалы?? Это где? Мормонские наверна..
Вынужден вас огорчить - очень даже многие. Ибо дополнительные материалы - могут быть любыми, учитель сам их готовит. В рамках методических требований - это да. Но всё же - сам...
UPD. Ну и не надо циклиться только на одном примере - он ведь просто пример для понимания почему веб-сайтами мир распространения ИИ не ограничивается.
Депутатам не обязательно заморачиваться техническими подробностями маркировки, пусть об этом погромисты думают. Надо срочно принимать такой закон рамочном виде, потом можно уточнить детали
Полностью согласен. Вот только беда в том, что депутат этого не понимает, и пытается что-то изобретать. Правильный подход - да, именно такой: позвать спецов и поставить им задачу выработать варианты маркировки. А не вещать свои идеи по этому поводу.
А кто помешает продвинутому пользователю объявить контент сделанный его нейросетями своим креативом??
Ну, кто-кто? Конь в пальто! (с)
В реальности - такого рода вопросы сейчас многие власти решить пытаются. Был недавно материал, косвенно это тоже затрагивающий.
ГЕНИАЛЬНО!
Сначала мы запускаем ИИ генерировать контент, вместо того что бы заставить ИИ чистить выгребные ямы и вообще делать грязную работу за человека.
А потом мы хватаемся то за голову, то за жопу и СРОЧНО, СРОЧНО начинаем что-то запрещать ИИ. Ну просто гении логики, фуле...
Жидмасонорептилоиды с планеты Нибиру неистово аплодируют убогим абизянкам у руля цивилизации. Ибо как еще назвать убогих человекообразных организмов, просерающих на Искусственного Идиота ресурсы, которые могли бы пойти на действительно прорывные технологии...
Ну, не запрещать - а всего лишь явно помечать. Почувствуйте разницу!
Тут недавно всякие петухи из одного не маленького банка предлагали ВСЕГО ЛИШЬ явно помечать людей чипами. И вот как-то не вызвала эта идея энтузиазма масс, за исключением таких же проткнутых клованов, как и предлагающие "всего лишь" помечание людей... Хотя казалось бы - ачетакова, да?
ЗЫ ой а оказывается этот банк и в ИИ отметился да?
Ну, ЭДПН! :-)
Вы всё же людей к фейк-контенту не приравнивайте. Это, как-бы - реально совсем разные вещи.
а я и не приравниваю - я просто усматриваю очередную аналогию. Сначала будем маркировать фейк-контент ИИ, потом такой же фейк контент бложеров, потом фейк-контент СМИ - вы же понимаете что и бложеры и СМИ фек-контент генерят? А потом вдруг окажется что все в интернетах промаркированы по степени фейковости и без желтого треугольника на робе в интернет не зайдешь. Тетя гера одобряет!
Вот бы кто об этом одному банкиру об этом рассказал, да?
ОК, допустим - вы правы. Тогда какое ваше предложение? Путь ИИ гонит фейки вау-качества бесконтрольно?
Мое предложение - запретить государственным органам и предприятиям с госсобственностью спонсировать разработку ИИ. Исключение - только в спец лабораториях и только под контролем людей в погонах.
Как только будет нечего пилить из госсредств - тут же все ИИ прекратятся.
Есть пара возражений.
Первое. Всем миром запретим? Ну, не верю.... А иначе - тупо в другой юрисдикции всё будет как есть сегодня.
Второе. Не все банки - гос. А с ИИ все играются. Так что не только на гос.средства оно сегодня.
Продолжаем дорабатывать предложение.
весь мир тратить на псевдо ИИресурсы - флаг в руки. А серьезный ИИ во всем мире давно разрабатывается под плотным контролем спецслужб - гуглим историю этих ваших интернетов. И только у нас еще есть несознательные граждане, верующие в "демократические свободы" и "невидимую руку рынка".
как только сберу и прочим "как бы негосударственным" банкам обрубят выдачу денег за просто так для покрытия убытков (не помните такого? а мы помним) - разработчики ИИ стройными рядами пойдут на улицу. Где их должны брать под ручки вежливые люди в штатском.
Но для этого нужна политическая воля...
УПД: или хотя бы заставить вернуть с процентами ставки рефинансирования центробанка ранее взятое у государства "как бы частными" структурами. Там такой гевалт поднимется - не то что косорукие мамкины программисты полетят, там много кто полетит...
Вот только зеленое с квадратным - ну не стоит смешивать, ОК?
Банк Тинькофф - один из активно занимающихся темой. Он когда у государства брал? Напомните, возможно я не в курсе.
Какой такой тинькофф? не знаю такого. Знаю вот этих, которые взращивали Банк Тинькофф:
Goldman Sachs - США
Vostok Nafta Investments - Швеция
Horizon Capital - Украина
Barings Bank - Великобритания (существует с 1762 года)
Кстати: «Baring Vostok» инвестировал в российский поисковик Яндекс на ранней стадии развития проекта. В 2000 году компания приобрела 35,7 % акций поисковика. Благодаря инвестициям «Baring Vostok» удалось заработать приблизительно $ 4 млрд, в итоге первоначальные инвестиции в $ 5 млн окупились в 800 раз. Другие компании, получавшие инвестиции от «Baring Vostok»: «Волга Газ», «Боржоми», Ozon.ru, «Burren Energy», «СТС Медиа», Центр финансовых технологий, «Энфорта», «ЭР-Телеком», 1С, «Новомет», «Kaspi.kz», «Авито», Tinkoff.ru, «Golden Telecom», «ВкусВилл», «Сравни.ру», Familia, «Солофарм», Skyeng, Viasat...
Маленький штришок в суровой действительности банка тинькофф:
Это что бы "частный банк" не очень там себе думал про себя
И вишенкой на торте: 28 апреля группа «Интеррос» Потанина приобрела 35 % акций TCS Group Holding....
И что это доказывает? Сегодня это - российский банк, с российскими бенефициарами. Не государственный. Активно занимается темами ИИ. Он когда получал господдержку - подскажите, пожалуйста?
Только яндекс-нейро пусть не трогают. С него поржать можно.
Ну, там уже плашка с пометкой стоит ... Так что, можно считать - они уже выполняют еще не написанный закон :-)
С неправильного конца заходят. Это примерно как принять закон об обязательной маркировке палёной водки. А маркировать то надо настоящую. Имитаторы Интеллекта потенциально имеют почти безграничную мощность генерации контента. Заманаются маркировать и проверять. А вот генерация обычного контента ограничена по количеству - её и надо маркировать как созданную не ИИ. Допустим, подписывать личным сертификатом создателя.
Логично.
Кстати - да, в этом что-то есть. Но только как быть с уже созданным - и не подписанным?
> как быть с уже созданным
Оно будет по умолчанию "палёным". Как всегда законотворцы опоздали.
Я уже приводил ссылку чуть выше: пока в пиндостане считают иначе - и активно судятся, нарабатывают прецеденты. Ваш вариант - не проходной.
> Ваш вариант - не проходной.
Любой вариант плохой. Потому что опоздали.
А я вот всё же оптимистично смотрю на развитие событий.
Научимся и контент фильтровать, и синтетику помечать. Было бы желание. А оно - вроде как - есть.
так давайте помечать оба контента - ИИшный и обычный.
Кстати - да. Это будет наверняка лучше. Но надо додумать еще - как заставить людей, которые генерят контент не на продажу, а просто так, от души, тратить силы на то, чтобы его помечать. Но, в целом - наверное вы предлагаете более правильный подход.
Вы знаете, не так давно был принят закон о маркировке рекламы в интернете. Если ты хочешь что-то рекламировать сам на своём ресурсе - будь добр, перечисли 5000 в месяц каким нужно людям. Закон никчёмный и бестолковый, и придуман только ради наживы тех самых каких нужно людей.
Поэтому, с одной стороны, идея маркировки авторского контента правильная с технической точки зрения, а вот с финансовой всё будет как с рекламой. Авторы буду отстёгивать бабосы за маркировку, а генераторы - генерить бесплатно.
> а вот с финансовой всё будет как с рекламой. Авторы буду отстёгивать бабосы за маркировку
Хотели кОпетализЪма? Ну вот и кушайте на здоровье.
Дык! без копетализьмов никаких ИИ, генерирующих совокупляющихся демонов, в природе не существовало бы. Замкнутый круг, однако...
Я уже лет двадцать мечтаю, что СМИ обяжут каждый текст или видео сопровождать одной из надписей: "за правдивость данного материала автор готов ответить в суде" либо "автор признаёт, что данный материал может быть его фантазией и не готов ответить в суде за перечисленные факты".
Жалко, что это маниловщина, но так сладко на диване мечтать, что хотя бы части контента можно будет доверять.
А давайте попробуем это сформулировать в виде законодательной инициативы - и направить Хинштейну. А вдруг?
Депутат не понимает предметной области. "Сервисы", блин... Моделька обученная (бесплатная!) ставится на обычный домашний комп за полчаса (ну от скорости выкачивания гигабайт модельки зависит
) и генерит не хуже Кадинского или MidJourney/ Ну и кто их будет "маркировать"? Юзер? Да нахрена это ему? Инициатива сродни переписи всех ксероксов в сове время
А если за отсутствие маркировки будут уголовную статью шить - как тогда себя юзер будет чувствовать?
Так что перспективы всё же имеются. Но - да - пока что депутат явно слабо в теме.
А "швей" (нужной квалификации!) на всех хватит? Я тут писал недавно - прокурор не в состоянии оформить бумажки процессуальные собственные без ошибок, а ей предлагается оперировать понятиями "нейросеть, модель, генеративный", ага
Ну и будет эдак процентов 90 ИТ-шников (которых жуть как не хватает, если верить регулярным завываниям СМИ) и процентов 20 иного населения (молодежи в основном) такой контент генерить (а сейчас его уже и в камере телефона используют вовсю). Проходили уже во времена тотального пиратства софта - под ч. 2 ст. 146 УК РФ ходили поболее половины юзеров ПК (потому как с CD 100 программ для ПК надо ж как минимум половину поставить, не зря же деньги плочены! 
), под ч. 3 все сисадмины/директора контор больше чем на 3 человека. Ну и как, нашили много (я вот только Поносова помню, из-за которого и решил, что буду специализироваться на авторском праве, как раз через 15 лет бр.практики первое дело попалось 
)?
И, опять же, интересант движухи нужен. Кто эти люди? Я пока вижу только некую панику у (забугорной) копирайтной братии. Ну, как пример, всякие патентные тролли с торговыми знаками схожими "до степени смешения" могут пойти по звезде (бо есть позиция ВС РФ, что если будет доказано, что сходство случайное, то это и не нарушении, а в случае нейросети тут как раз проблем нет - метапараметры сохранил, прямо в картинке и при необходимости воспроизвел с 0 ее, начав с них)
Вы путаете божий дар с чем-то ещё.
Проблема не в копирайте. Проблема - в фальсификации. Всего. Вообще всего. И с этой фальсификацией необходимо бороться. Тут двух вариантов быть не может. А вот как бороться - это да, это - вопрос.
А как там с фальсификацией "новостей", "истории" и т.п., не ИИ, а вполне себе людьми? Борются? Успешно? Что принципиально нового привносит использование ИИ для этого?
Да, есть такое. Только вот пока это делают люди своими кривыми ручками - найти следы фальсификации относительно легко. ИИ даже с уже существующими его возможностями - может делать фальшивки очень высокого качества. Такие, что человек уже просто не сможет их идентифицировать. Поэтому нужны технологические средства для такого рода идентификации, ну и соответствующие нормативные акты, определяющие как это делать и обязанности участников.
"Очень высокого качества" - это "на глаз" и то, если действительно профи делал. А так да - будут (есть, скорее всего уже) нейросетки, определяющие (с определенной точностью), сгенерирована ли картинка/текст нейросетью или нет
И способы их отравления. И т.п. и т.д. 
Вот это - интересное и реализуемое направление. Но татупед несет про "водяные знаки" и всеобщее "обилечивание", не понимая, походу, масштаба этого "обилечивания".
Вы видео имени нейронок наблюдали? Только не дешевых, а дорогих? Картинка - вау! Если бы не по 7 пальцев на руках - фиг вообще отличишь от реальности. Шутка.
Но прогресс - уже серьезный. И будет хуже. Уже пенсионерам звонят их "дети" и слезно просят срочно перевести деньги. Да, голос - синтетика, но пенсионеры отличить уже не могут. Деньги отправляют. :-( Проблема? Да. Решать надо? Да. Ваши предложения?
Я в курсе. Уже была новость, где какого-то клерка его "начальник", "общаясь" по видеосвязи, сколько-то лямов баксов. Ну для себя я эту "проблему" решил - собственный запасной канал связи между членами семьи, отличный от публичных мессенджеров. А с пенсами - ну будут такие же "антивирусы" для телефонов, фактически уже есть и широко рекламируются (но пока мало используются ЦА) предложения автоответчиков.
Меня больше интересует проф.область - суды и, например, доказательства в виде "фотографий" и "видео", последним ("своим глазам") судьи пока доверяют безоговорочно (а, например, синхронизация движений губ заданному тексту на видео присутствует уже и в открытом доступе, хотя с русским, пока, похуже). А вот экспертов с современными технологиями пока нет (даже экспертиза голоса на принадлежность лицу делается древнелохматыми методиками до эры ИИ. Была мысль запилить что-то такое, НО я знаю, как судом определяется, кто эксперт, а кто - нет и понятия не имею, как пропихиваются новые метод.рекомендации, но, как работавший в бюджете, предположить могу, чтобы даже не соваться