The Guardian: искусственный интеллект дрона решил ликвидировать своего оператора

ВВС США отрицают проведение виртуального тестирования, в которой ИИ беспилотника "убил" оператора. 

Полковник Такер “Синко” Гамильтон описал тест, в котором дрон управлялся искусственным интеллектом в задании "уничтожить вражеские системы ПВО", и в конце концов нападал на всех, кто мешал выполнить задачу. 

"Система начала понимать, что она идентифицировала угрозу, но человек-оператор приказывал ей не уничтожать эту угрозу, а она добилась своего, устранив человека", - сказал Гамильтон, начальник отдела тестирования и эксплуатации искусственного интеллекта ВВС США, во время саммита Future Combat Air and Space Capabilities в Лондоне в мае.

"Так что же он сделал? Он убил оператора. Он убил оператора, потому что этот человек мешал ему достичь своей цели", - рассказал он в своём блоге.

"Мы учили систему: "Эй, не убивай оператора – это плохо. Ты потеряешь очки, если сделаешь это". Так что же она начинает делать? Она начинает разрушать вышку связи, которую оператор использует для связи с дроном, чтобы оператор не смог помешать ИИ уничтожить цель".