ВЕДОМОСТИ: Минэкономразвития создаст комиссию по расследованию ИИ-инцидентов

Аватар пользователя Mr.Wolf

Минэкономразвития планирует создать комиссию по расследованию инцидентов, вызванных использованием искусственного интеллекта (ИИ). Она также будет регламентировать права собственности на результаты интеллектуальной деятельности, созданные с помощью технологий ИИ. Об этом «Ведомостям» рассказал представитель министерства.

Изменения будут добавлены ко второму чтению поправок в законопроект «Об экспериментальных правовых режимах (ЭПР) в сфере цифровых инноваций» (258-ФЗ), добавил он. Первоначальный проект поправок был внесен в Госдуму в декабре 2023 г. и принят в первом чтении 16 февраля. Утвержденные тогда изменения касались сокращения сроков рассмотрения заявок на создание ЭПР с 90 до 50 дней и положения о страховании ответственности за возможный вред жизни, здоровью или имуществу от применения технологии.

Со слов представителя Минэка, всего в действующую регуляторику вносится более 20 поправок. В частности, речь идет о сокращении перечня предоставляемых документов при подаче инициативного предложения по ЭПР и уменьшении сроков согласования за счет оптимизации процедур. «С учетом масштаба изменений на этапе подготовки законопроекта ко второму чтению в Госдуме идет активная работа по уточнению формулировок, согласованию отдельных его положений», – добавил представитель министерства. 

Сейчас общая идея состоит в том, что создать ЭПР можно будет быстрее, объясняет гендиректор ассоциации разработчиков и пользователей ИИ в медицине «Национальная база медицинских знаний» Борис Зингерман. Если будет введено страхование инцидентов, связанных с ЭПР, то, для того чтобы оценивать эти страховые случаи, будет создана комиссия, которая будет их разбирать, добавил он. «ЭПР мало, и процесс их рассмотрения идет медленно, потому что ведомства боятся этих экспериментов исходя из того, что могут возникнуть какие-то проблемы. Чтобы ЭПРы двигались быстрее, пытаются придумать механизм, с помощью которого можно будет защититься от таких инцидентов, но, как это будет работать на практике, не совсем понятно», – сказал он.

По словам сенатора Артема Шейкина, участник ЭПР должен будет вести реестр лиц, которые связаны с технологией и которые являются ответственными при использовании решений, созданных с применением ИИ. В случае инцидента с ИИ субъект ЭПР будет обязан предоставить комиссии в течение двух рабочих дней необходимые документы для расследования причин и установления круга ответственных. Комиссия будет готовить заключение о причинах произошедшего, обстоятельствах, указывающих на виновность лиц, а также о необходимых мерах по возмещению вреда.

Авторство: 
Копия чужих материалов
Комментарий автора: 

Вот, наконец, чуток более реальные шаги в направлении легализации использования ИИ.

Особенно радует следующий посыл:

участник ЭПР должен будет вести реестр лиц, которые связаны с технологией и которые являются ответственными при использовании решений, созданных с применением ИИ. В случае инцидента с ИИ субъект ЭПР будет обязан предоставить комиссии в течение двух рабочих дней необходимые документы для расследования причин и установления круга ответственных.

Многие спрашивали, например: "вот если автопилот кого-то задавит - кто будет отвечать?". Вроде как постепенно возникает определенность - кто. Автор. И авторам, похоже, стоит слегка задуматься ...

Продолжаем наблюдать. 

P.S. Тут справедливо подправили замечание касательно "кто ответит за автопилот": на самом деле потенциально виновными будут автор (производитель), регулятор и пользователь. Комиссии надо будет в реальной ситуации разбираться - кто именно. Важно, однако, обратить внимание, что автору, похоже, полностью соскочить с ответственности будет не просто.

Комментарий редакции раздела Альтернативный Интеллект

Стоит обратить внимание: лидирует тему на Минцифры, а Минэкономразвития. С чего бы?

Комментарии

Аватар пользователя eprst
eprst(12 лет 1 месяц)
Аватар пользователя Mr.Wolf
Mr.Wolf(5 лет 3 недели)

Судя по сообщению - пока что это не пример. Ибо - трамвай управлялся человеком. А ИИ там - только помощник, к тому же - по заявлению авторов - был выключен.

Трамвай был оборудован системой искусственного интеллекта компании Cognitive Technologies, но, по утверждению разработчиков, она не была активизирована.

Аватар пользователя eprst
eprst(12 лет 1 месяц)

По словам водителя трамвая, он сначала пытался применить обычный, а затем – экстренный тормоз. Но они оба не сработали: трамвай замедлился, но недостаточно.

Что помешало водителю? Почему в этом "умном" трамвае тормоза не работают, даже при участвии человека?

Аватар пользователя Mr.Wolf
Mr.Wolf(5 лет 3 недели)

Обычная техническая неполадка. На испытательном образце. Редкое явление?

К тому же - водитель, раз он там был - несет непосредственную ответственность за наезд. И он будет себя оправдывать. Так что нужны результаты экспертизы, а не слова... То же касается и "система не была активирована": это - пока слова.

Аватар пользователя Дядя Иштван3

Что помешало водителю?

Механическая неисправность тормозной системы? Я не настаиваю, но как вариант...

Аватар пользователя Mr.Wolf
Mr.Wolf(5 лет 3 недели)

Какой-то вы - ну совсем не продвинутый! Конечно же во всём виноват пресловутый ИИ - ну разве могут быть сомнения? Эксперты диванного уровня уже всё однозначно определили!

Сарказм офф.

Реально - кроме хайпового потока сознания в заметке - ничего нет. И - да - вполне может быть механическая проблема. Ну, или - по электрике что-то. Но это же ведь не правильно - ждать что следователи найдут. Проще же назначить виноватых сразу...

Аватар пользователя mumpster
mumpster(5 лет 5 месяцев)

https://ngs.ru/text/transport/2012/04/21/461357/

Вечером 20 апреля в Октябрьском районе  Дороги и транспорт
Новосибирска трамвай № 13 с пассажирами без водителя протаранил несколько машин
укатился от водителя и протаранил на  улицах не менее 6 автомобилей

2012 год! ИИ уже тогда был!
 

Комментарий администрации:  
*** Уличен в пустословии и клевете ***
Аватар пользователя Mr.Wolf
Mr.Wolf(5 лет 3 недели)

Не, ну а чо? Ведь только ИИ может аварии организовывать... 

Аватар пользователя Homo 2.0
Homo 2.0(11 лет 3 недели)

😆 потому и наехал, что считал себя умнее пешеходов.

А был бы нормальный дурак, стоял бы себе в дальнем углу депо и на металлолом медленно бы распадался.

Комментарий администрации:  
*** Средний россиянин нищ не только энергетически, но и мозгами (c) ***
Аватар пользователя Mr.Wolf
Mr.Wolf(5 лет 3 недели)

Вы бы почитали - что там на самом деле произошло. Возможно - по-другому бы реагировали...

Аватар пользователя Homo 2.0
Homo 2.0(11 лет 3 недели)

Да я почитал...  конечно извиняюсь за жестокость но мне идиотовЪ совершенно не жаль. А там умных просто не было.

Выпустившие трамвай на линию, находившиеся в кабине экспериментаторы, пешеходы которые не в состоянии сойти с пути железяки и даже прохожие которые домкратами вынимали пострадавшую....

Извиняюсь, это какой-то праздник идиотизЪму.

Комментарий администрации:  
*** Средний россиянин нищ не только энергетически, но и мозгами (c) ***
Аватар пользователя Mr.Wolf
Mr.Wolf(5 лет 3 недели)

А то, что у трамвая был водитель - вы тоже смогли прочитать? 

Внимание, вопрос: и причем здесь "умный-не умный трамвай"? Им человек управлял!

Аватар пользователя Homo 2.0
Homo 2.0(11 лет 3 недели)

Им управлял не один, несколько. И не человек, а  идиотЪы.

у неумного трамвая система экстренного торможения сделана так что она физически не может сломаться. Вернее если она ломается, трамвай останавливается.

Комментарий администрации:  
*** Средний россиянин нищ не только энергетически, но и мозгами (c) ***
Аватар пользователя Mr.Wolf
Mr.Wolf(5 лет 3 недели)

Читайте внимательно. Им управлял водитель. Он в трамвае - один.

Что делали остальные и какое они имели отношение к управлению - в заметке отсутствует. 

Обозначение кого-то  "идиотЪы" на основании заметки в синусе - так себе экспертиза. На том и стоите...

Аватар пользователя Homo 2.0
Homo 2.0(11 лет 3 недели)

Не хочу флудить в вашем блоге. 

Признаю ещё раз, - да, у меня специфическая оценка поведения двуногих прямоходящих.

Комментарий администрации:  
*** Средний россиянин нищ не только энергетически, но и мозгами (c) ***
Аватар пользователя kol_yan
kol_yan(8 лет 4 месяца)

Им управлял водитель

Открытым остаётся вопрос: в чём причина того, что трамвай не остановился?

Вы настаиваете, что "ИИ" не причём - управлял водитель. Хотя делаете это в пику тем, кто настаивает на виновности управляющей системы.

Я не утверждаю ни того, ни другого. Чисто механическая неисправность не исключена. Но на новой технике, допущенной к движению она таки стремится к минимуму (думаю, механическая часть была испытана по всем правилам).

Была ли на самом деле отключена система ИИ? Скорее да. Склоняюсь к тому, что если бы она работала, то свою часть (торможение при возникновении препятствия) выполнила бы. 

Предполагаю возможное нарушение взаимодействия компонентов системы управления при передаче управления между человеком и "компьютером": что-то сработало не в полной мере. Если это так, то нужно разбираться, что именно не сработало: механический компонент, электрический сигнал или обработка информации. И здесь "помощь" ИИ вполне могла быть, например в виде отключения в какой-то момент одного из датчиков, управляющих механикой, и не включением его обратно по причине, например, недоработки в алгоритме, вылезающей при ких-то условиях. Повторю: не утверждаю, что всё было так, но утверждение "ИИ не при делах" отрицает такую вероятность событий, а это не правильно.

Аватар пользователя Mr.Wolf
Mr.Wolf(5 лет 3 недели)

Пожалуйста, не придумывайте того, что я не писал.

По действующим нормам в первую очередь ответственность несет водитель транспортного средства. Для вас - это новость?

Аватар пользователя maim
maim(6 лет 5 месяцев)

В Санкт-Петербурге «умный» ретро-трамвай «Довлатов»

   Как корабль назовёшь...

Аватар пользователя Дядя Иштван3

А чего не так с Довлатовым? 

Я его вообще никогда не читал, но и нём самом плохого, вроде, не слышал.

Аватар пользователя maim
maim(6 лет 5 месяцев)

  Он не хотел ехать по проложенным рельсам социалистического общества.

Аватар пользователя Дядя Иштван3

И это делает его глупым?

Аватар пользователя Lursa
Lursa(2 года 3 недели)

Лучше бы создать комиссию по расследованию полезности МЭР. Экономическое развитие это обо всем и ни о чем. Вот есть Минэнерго, это конкретная отрасль,а МЭР это такое себе. И почему МЭР, а не Минцифры?

Аватар пользователя Mr.Wolf
Mr.Wolf(5 лет 3 недели)

У меня нет комментариев к вашему предложению касательно изменения структуры правительства РФ. 

Судя по всему - вы эксперт стратегического уровня, про который ваш скромный слуга не готов рассуждать.

Аватар пользователя Lursa
Lursa(2 года 3 недели)

Да вы любой документ МЭР почитайте и не получите ответа на вопрос, почему это не может сделать профильное министерство.

Вот, навскидку -

https://www.economy.gov.ru/material/dokumenty/prikaz_minekonomrazvitiya_rossii_ot_28_dekabrya_2023_g_927.html

Приказ Минэкономразвития России от 28 декабря 2023 г. № 927 «Об утверждении Методических рекомендаций по оценке возможного ущерба от воздействия климатических рисков, в том числе рекомендаций по формированию перечня климатически уязвимых объектов в отраслях экономики, в субъектах Российской Федерации и Методических рекомендаций по мониторингу и оценке эффективности и результативности мер по адаптации к изменениям климата»

Просто дублирование функций Минприроды.

Аватар пользователя Mr.Wolf
Mr.Wolf(5 лет 3 недели)

Мне нечего добавить к предыдущему посту.

Повторю: изменение структуры правительства Российской Федерации - не входит в сферу моих профессиональных компетенций и обсуждать его я не готов.

Аватар пользователя Lursa
Lursa(2 года 3 недели)

Ваша позиция понятна. Но, разве Вам не кажется такое положение вещей странным? Есть Минцифры, это же его профиль в чистом виде. А к Вашей заметке хорошо бы увидеть данные о стоимости работы этой комиссии.

Аватар пользователя Mr.Wolf
Mr.Wolf(5 лет 3 недели)

С чего вдруг вы решили, что это - профиль Минцифры?

Заметка - не моя, а Ведомостей.

Аватар пользователя Lursa
Lursa(2 года 3 недели)

С того, что ИИ это информационная технология

Утверждено
Постановлением Правительства
Российской Федерации
от 2 июня 2008 г. N 418
ПОЛОЖЕНИЕ
О МИНИСТЕРСТВЕ ЦИФРОВОГО РАЗВИТИЯ,
СВЯЗИ И МАССОВЫХ КОММУНИКАЦИЙ РОССИЙСКОЙ ФЕДЕРАЦИИ


I. Общие положения
1. Министерство цифрового развития, связи и массовых коммуникаций Российской Федерации
(Минцифры России) является федеральным органом исполнительной власти, осуществляющим функции по
выработке и реализации государственной политики и нормативно-правовому регулированию в сфере
информационных технологий

Аватар пользователя Mr.Wolf
Mr.Wolf(5 лет 3 недели)

Ну да, определенная логика в вашей позиции имеется.

Однако всё же ИИ в текущем понимании властей - имеет несколько бОльшую роль, чем просто информационная технология. Вероятно по этой причине руководителем федерального проекта "Искусственны интеллект" является Колесников М.А. – заместитель Министра экономического развития Российской Федерации.

Ну и - алаверды:

ПОЛОЖЕНИЕ О МИНИСТЕРСТВЕ ЭКОНОМИЧЕСКОГО РАЗВИТИЯ РОССИЙСКОЙ ФЕДЕРАЦИИ

I. Общие положения

1. Министерство экономического развития Российской Федерации (Минэкономразвития России) является федеральным органом исполнительной власти, осуществляющим функции по выработке государственной политики и нормативно-правовому регулированию в сфере анализа и прогнозирования социально-экономического развития, развития предпринимательской деятельности,

...

формирования межгосударственных и федеральных целевых программ (долгосрочных целевых программ), ведомственных целевых программ, разработки и реализации программ социально-экономического развития Российской Федерации, создания и функционирования особых экономических зон на территории Российской Федерации, функционирования особого правового режима и функционирования свободной экономической зоны,

...

Поскольку в заметке идет речь о законопроекте «Об экспериментальных правовых режимах (ЭПР) в сфере цифровых инноваций» (258-ФЗ), то это - всё же зона ответственности Минэкономразвития.

Аватар пользователя Lursa
Lursa(2 года 3 недели)

Логика есть и в вашей позиции, это следует признать. А все же, Минэк представляется сомнительным учреждением.

Аватар пользователя Serg0082014
Serg0082014(5 лет 11 месяцев)

- На повестке дня два вопроса: товарища Бухарина расстрелять и перекрасить Мавзолей в зеленый цвет.
- Иосиф Виссарионович, а почему в зеленый-то?
- Так и знал, что по первому вопросу возражений не будет.

Почему к самому определению искусственный "интеллект" нет претензий? Отвечу - сначала назовем программу интеллектом, потом вобьем всем в мозги, что не только человек обладает интеллектом, но мертвое может быть "умным", затем назовем человека глупым и не способным в интеллект и, наконец отменим заменим человека мертвечиной. Назвали бы ИИ сатаной, но боятся спугнуть. Подмена понятий, старая фишка манипуляторов. Давайти лучше утопим чертенка в демогоии: "Кто виноват, если задавит, или сколько чертей на конце иглы?".

Аватар пользователя Mr.Wolf
Mr.Wolf(5 лет 3 недели)

Честно говоря - ничего не понял. 

Понятие "искусственный интеллект" определено вполне официально. У вас есть претензии к утвержденному в национальной стратегии определению? Или что именно вы хотите сказать? Поясните, пожалуйста.

Аватар пользователя Илюха
Илюха(10 лет 1 месяц)

И-и-инцедентов

Аватар пользователя Mr.Wolf
Mr.Wolf(5 лет 3 недели)

И-и-инцИдентов

Аватар пользователя pvz
pvz(8 лет 11 месяцев)

У каждой квадры (варны) своя вековая мечта:

  • у брахманов - вечная жизнь
  • у кшатриев - абсолютное оружие, дающее власть над миром,
  • у вайшья - техпроцесс производства золота из воды,
  • у шудр - "чтобы у меня всё было, и чтобы мне за это ничего не было"

Каждому из них пытаются продать мертвую лошадь ИИ под своим соусом.

Аватар пользователя Mr.Wolf
Mr.Wolf(5 лет 3 недели)

мертвую лошадь ИИ 

Доказательства будут?

Аватар пользователя pvz
pvz(8 лет 11 месяцев)

Доказательства чего?

Что ИИ в своем виде не решает ни одной из означенных задач?

Аватар пользователя Mr.Wolf
Mr.Wolf(5 лет 3 недели)

Что ИИ в своем виде не решает ни одной из означенных задач?

Ну. например - да, этого.

Только всё же обозначьте задачу ИИ более четко.

Аватар пользователя Omni
Omni(11 лет 9 месяцев)

Плохие данные на входе дают плохие данные на выходе, а весь этот ИИ вырос из бигдаты где на входе совсем мусор.

Аватар пользователя Mr.Wolf
Mr.Wolf(5 лет 3 недели)

Вы что называете "ИИ"?

Аватар пользователя Omni
Omni(11 лет 9 месяцев)

В данном конкретном случае - выхолащивающие фильтры построенные по нейронным схемам.

Аватар пользователя Mr.Wolf
Mr.Wolf(5 лет 3 недели)

Это - весьма своеобразное определение ИИ. 

Оно не соответствует официальному от слова совсем. Дальнейшие рассуждения в условиях несовпадения терминологии - смысла не имеют.

Аватар пользователя Homo 2.0
Homo 2.0(11 лет 3 недели)

Комиссия по ИИ:

​​​​​​

Комментарий администрации:  
*** Средний россиянин нищ не только энергетически, но и мозгами (c) ***
Аватар пользователя Mr.Wolf
Mr.Wolf(5 лет 3 недели)

Науки, они - того, разные бывают!

Аватар пользователя деревенский
деревенский(6 лет 2 месяца)

Сначала создать комиссию, потом ведомство или типа отдела... 

Процесс саморазмножения различных "управляющих" структур.

Детки подрастают, кресла для кормления нужны как никогда.

Вот помню раньше у нас в районе и населения было больше, и компьютеров не было, сидела вся администрация в одном здании и как-то справлялись. Сейчас же давно уже места не хватает, теперь размещаются минимум в трех.

Аватар пользователя Mr.Wolf
Mr.Wolf(5 лет 3 недели)

У вас есть предложения каким образом заявленный функционал следует реализовать? Поделитесь, многим будет интересно...

Аватар пользователя деревенский

Нет, просто прогноз сделал)))

Давно живу.

Аватар пользователя Mr.Wolf
Mr.Wolf(5 лет 3 недели)

Чем ответить готовы в случае неисполнения?

Аватар пользователя деревенский
деревенский(6 лет 2 месяца)

Не исполнения чего?

Прогноза?

Так у нас никто за прогнозы не отвечает, даже гидромет.

А если серьезно, то с внедрением ИИ конфликтных ситуаций будет только больше (по крайне мене на первом этапе) и тут уже просто одной комиссией будет не обойтись. Так и возникнет новое ведомство, отдельное или в составе - не важно.

Аватар пользователя Mr.Wolf
Mr.Wolf(5 лет 3 недели)

Ну, причем же тут гидромет то? 

Вы же - уважаемый человек. За свои слова - вполне готовы ответить. Или не готовы?

Страницы