Вопросы этики: в чем разница между авторитарным и демократическим искусственным интеллектом?

Как уже сообщалось, Пентагон внезапно озаботился созданием этического кодекса для искусственного интеллекта. Потихоньку стали всплывать причины такого неожиданного решения. Во время недавнего круглого стола лидеры Пентагона и Силиконовой долины много говорили о стратегии сдерживания Китая от возможного доминирования в области военных технологий. Участники подчеркнули необходимость продуманной тактики с твердыми этическими границами, чтобы заручиться поддержкой самых передовых умов. Проблемой США пока является невозможность просто приказать этим умам работать на ВПК, а некоторые яйцеголовые совсем распоясались - относятся к военными скептически и презрительно.

"А ведь речь идет не просто о США и Китае, речь идет о мировом порядке. Китай хочет изменить его в соответствии со своим видением, сделать мировой порядок авторитарным", - заявил Хок Карлайл, генеральный директор Национальной оборонно-промышленной ассоциации и бывший генерал ВВС США.

В отличие от США, авторитарный Китай может диктовать своим научно-исследовательским сообществам и промышленности, что надо работать на ВПК. Это гражданско-военное слияние позволило Китаю запустить серию из 16 "китайских манхэттенских проектов", в которых "свои усилия объединили правительство, бизнес и научные круги, чтобы достичь значительного прогресса в конкретной технологии или промышленной области". [ Понятия не имею, какие проекты имел в виду Браун. - мое прим. ] "Китай уже выигрывает от концентрации на долгосрочных инвестициях. Они планируют на 10-20 лет вперед", - сказал руководитель подразделения оборонных инноваций Пентагона Майкл Браун.

Ключевая область современной конкуренции между США и Китаем - искусственный интеллект - является ярким примером того, что поставлено на карту: не будучи ограничен гражданскими свободами и неприкосновенностью частной жизни, Китай может намного быстрее собирать данные для своих исследований.

"Существует авторитарный способ создать ИИ в целях национальной безопасности. Этим воспользуются Китай и Россия, которые начнут экспортировать эти технологии по всему миру, другим режимам, не уважающим права человека и гражданские свободы. Раз  у них есть способ это сделать, значит это наверняка уже делается, что глубоко тревожит Америку", - сказал Джош Маркузе, исполнительный директор Совета по оборонным инновациям Пентагона.

Но подход к этике ИИ еще предстоит четко определить, заявил Маркузе:

"Вопрос в том, что такое "американский способ создания ИИ", и как мы сможем гарантировать, что сделаем его соответствующим нашим глубоко укоренившимся американским ценностям и твердым убеждениям в отношении международного и гуманитарного права, справедливых законов ведения войн и нашей Конституции?

Иначе ученые, способные решить эту техническую проблему, могут отказаться работать с нами, а китайские власти вполне способны заставить таких людей работать на себя, что со временем будет иметь разрушительное влияние на наши возможности распространять в мире свободу и демократию. Мы должны чувствовать, что поступаем этично и правильно – это добродетельный подход, соответствующий нашим ценностям. Только так мы победим!".