Искусственный интеллект способен выййти из-под контроля. Новые факты

   Естественный  интеллект  способен на  такие трюки, что   иногда  хочется пристрелить его носителя. 

Во избежание.

 Достаточно  взглянуть  на  взбесившегося   Дональда  Трампа.  Или   Володимира   Олександровича   Зеленского.

 Впрочем,  доказательств, что  эти особи обладают интеллектом, пока нет...

Вскрытие, короче, покажет.

 ...На днях  произошел  случай, доказывающий, что  Коллективный   Разум, тоже  не блещет  интеллектом.

 Украинский  паблик  сообщил  о вопиющем случае  где-то  на избиваемой  русскими  Украине.

 Короче, после удара   БПЛА  в  микрорайоне  погас свет.   Народ   зажег свечи, и приготовился терпеть  до победы над москалями.   И  тут  все обратили  внимание, что один  дом, как сиял электричеством, так и сияет. 

Все сразу сообразили, что там  проживают враги  Неньки. Зрадники

 Их дом  пощадили русские.  Чего уж тут непонятного...

 ... Все кинулись с доносами  в местную Управу.  Звонили часами, требуя  отключить  вражеский дом от  электричества. 

Стали собирать подписи под  обращениями  к администрации  установить, наконец, справедливость.

 Администрация  отбивалась изо всех сил.  Она объясняла громадянам, что  этот дом  запитан таким хитроумным способом, что его отключение всенепременно приведет к отключению  насосной станции.

А  это чревато сами знаете чем...

  Громада взъярилась еще пуще.  Все стали догадываться, что в администрации  тоже  засели агенты   Москвы.

 Короче, кончилось тем, что  дом все-таки отключили от электричества.  Глас  Народа - глас  Божий.  Не поспоришь...

 Насосная встала тоже.

 Теперь народ всего микрорайона  не имеет не только электричества, но и воды.  Но терпит...

 Почему-то колом встала и канализация...

 Re:   Французский  исследователь   Лебон  считал, что  толпа обладает  разумом семилетнего ребенка. 

И  если  ей, толпе, с броневика  проорать  какую-нибудь   хчертовню, то она  возбудится, поверит и кинется громить   Бадаевские  винные склады , а потом, подкрепившись  винишком  , брать  Смольный. 

У нее, толпы, закипает "разум возмущенный и смертный бой вести готов"(с)

У величайшего идейного   сына   Мордехая  Леви    В. И.Ленина, книга   Лебона  " Психология толпы" была настольной. 

Он знал её почти наизусть, шельмец этакий.

... Сейчас я  о выходе из повиновения человеку ( носителю естественного  интеллекта)  Интеллекта   Искусственного.

   Такие случаи отмечены.  И это  наводит на всякие грустные мысли.

 Недавно опубликованная  на сайте  Science   Alert   статья  описывает исследование , проведенное группой ученых  из Palisade Research , которое говорит о весьма тревожных тенденция. 

С результатами исследования  можно ознакомиться на ресурсе  arXiv.

Поскольку  на  АШ  нет  юзеров,   разбирающихся  в вопросах  ИИ, за исключением  некоторых самодовольных таксистов граждан, выдающих себя за таковых, я изложу проблему  простым казарменным  языком.

...  Исследователи установили, что некоторые крупные модели   ИИ проявляют сопротивление командам на отключение.

 Физик   Петер  Лебедев  правда, полагает, что такое наглое поведение  вызвано вовсе не волей к жизни или развитии сознания у ИИ, а тупым стремлением  данного  ИИ  выполнить  поставленную задачу.

Re:  Самые  продвинутые ,  мощные   ИИ  сейчас задействованы  в  военном деле. 

В ПРО,  например.

 Подлетное время  гиперзвуковых  средств доставки  неумолимо сокращается.   От времени  засекания  момента старта  до  решения по  пресечения движения ракет к цели - считанные минуты.  Нужно не просто перехватить их, а успеть нанести ответный удар.

Человек  - он, сцуко,  медленный.  Поэтому  задействуется   ИИ.  

ИИ по ряду показателей определяет - это летит враг!  И отдает команду средствам перехвата  сбить их всех , к хренам. 

И  задействует  алгоритм  ответного удара. 

По другому нельзя.  Потому что часть  ракет  противника прорвется к цели...

 А  потому они (наши ответные) должны быть уже  в воздухе...  Следовать  к вражеским целям.  Лондонам, Вашингтонам, Парижам...

 И вот тут - засада.

 Оперативный  дежурный  на   КП РВСН   генерал-лейтенант  Петров  Сергей   получает экстренную вводную от  Главкома :  Отставить ответный удар! Ложная тревога!  Придурок  Трамп  шутейно  , с целью пужания, приказал запустить   древние  Минитмены без  Б\Ч!"

  Генерал- лейтенант  с нецензурной бранью давит на кнопку  выключения  ИИ  и передачи управления  в человеческие руки.

 Да не тут-то было.

 Упоротый идеей выполнения  поставленной задачи   ИИ ( см. выше) думает: " Ага, щаз...  Вот  и...пану сначала по по целям, а там и отключусь...". 

 В  результате  такой неразберихи могут перестать существовать   Лондон,  Вашингтон и даже  Париж.  И  еще множество народу.

И спросить не с кого.

Ну разве что Трампа упаковать на пожизненное.   Так у него и жизни той,  может , осталось  с полгода...

 Защиты от дурака не существует.   Даже если этот дурак -  ИИ...