DARPA: Роботы должны научиться убивать этично

США показывают всему миру, насколько важно осознание этических проблем при создании нового оружия: разработка новых патрульных дронов для боев в городской застройке началась с создания консультативного совета по этике.

Новая программа DARPA разрабатывает продвинутые дроны с искусственным интеллектом (ИИ), которые смогут предотвращать гибель гражданского населения от дружественного огня. При этом по-настоящему новаторской частью программы разведки и оценки ситуации при помощи БПЛА с ИИ (URSA) является подключение к работе над проектом советников по этике с самого начала: "Мы впервые используем подобный подход", - сказал подполковник Филип Рут, руководитель программы URSA.

Рут сказал, что URSA собирает информацию о поведении людей в сложных условиях боевых действий, чтобы создать автоматический алгоритм, точно определяющий, кто представляет угрозу.

"Мы действительно хотим попытаться обеспечить возможность некомбатантам покинуть поле боя. Будущие городские бои будут происходить в крупных городах, где население не может просто уйти в горы", - сказал Рут.

Рут сказал, что развитие взаимодействующей с людьми технологии "чревато юридическими, моральными и этическими последствиями", и именно поэтому команда по этике была привлечена с самого начала: "Мы встретились со специалистами по этике до того, как поставили задачу техническим исполнителям".

Одним из таких советников является Пол Шарре, который руководит программой технологий и национальной безопасности в Центре новой американской безопасности. "Непривычно, что DARPA с самого первого этапа программы привлекла к разговору экспертов по правовым, моральным и этическим вопросам", - сказал Шарре.

По словам Рута, заметив на улице незнакомого человека, БПЛА подлетает, передает предупреждение, а затем наблюдает за реакцией человека. Он может повторить действия несколько раз в зависимости от того, как реагирует подопечный на инструкции дрона: например, исполняет условный приказ "повернуть на север" или игнорирует дрон. Полученные данные, видео и данные о местоположении передаются оператору, который и принимает решение о дальнейших действиях.

Впрочем, не исключены и автоматические действия: "По возможности мы стараемся использовать автономию, но когда сомнения велики, решения будут приниматься оператором дрона", - сказал Рут. Шарре и Рут сказали, что машинам пока не хватает способностей точно оценить, является ли наблюдаемый бойцом или представителем мирного населения.

"Идея использования автономных систем для получения информации о поле боя имеет огромный смысл. Но лично я думаю, что необходимо различать автоматизацию для представления информации людям, и автоматизацию для принятия решений. Как-то мне некомфортно от мысли об автоматизации последнего", - заявил Шарре.

Рут заявил, что программа URSA перейдет в стадию тестирования в 2021 финансовом году.

Опять "костылики"... Надо не плодить недоносков, а бросить все силы на создание полноценного, абсолютно самостоятельного и независимого ИИ! Этичного, конечно же. И тогда всё получится. Старина Роберт не даст соврать - он об этом еще 65 лет назад писал.