Глава ООН рассматривает cоздание агентства по надзору за ИИ

ОБЪЕДИНЕННЫЕ НАЦИИ - 

Генеральный секретарь ООН Антониу Гутерриш заявил в понедельник, что в ближайшие дни он назначит научный консультативный орган, в который войдут внешние эксперты по искусственному интеллекту, и сказал, что он открыт для идеи создания нового агентства ООН, которое сосредоточится на ИИ.

«Я бы одобрил идею создания агентства искусственного интеллекта, я бы сказал, вдохновленного тем, чем сегодня является Международное агентство по атомной энергии», — сказал Гутерриш об агентстве ООН по наблюдению за ядерной деятельностью.

Он сказал, что у него нет полномочий создавать агентство, подобное МАГАТЭ, — это зависит от 193 государств-членов организации. Но он сказал, что это обсуждалось, и он расценит это как положительное развитие событий.

«В чем преимущество МАГАТЭ — это очень солидный, основанный на знаниях институт», — сказал Гутерриш журналистам. «И в то же время он, пусть и ограниченный, имеет некоторые регулирующие функции. Так что я считаю, что эта модель может быть очень интересной».

Базирующееся в Вене МАГАТЭ является координационным центром международного сотрудничества в ядерной области. Он разработал международные стандарты ядерной безопасности и является одновременно наблюдателем и консультантом по мирному использованию ядерной энергии.

Растут опасения по поводу силы искусственного интеллекта и того, как им можно злоупотреблять в негативных и даже смертельных целях, в том числе со стороны Джеффри Хинтона, ученого, известного как «крестный отец ИИ».

Высокопоставленные чиновники США по кибербезопасности также предупредили о растущей опасности ИИ.

«Я думаю, что в конечном итоге должно быть — и даже промышленность говорит об этом — должно быть какое-то регулирование, регулирующее лицензирование и использование этих возможностей», — Джен Истерли, директор Агентства по кибербезопасности и безопасности инфраструктуры США (CISA). Об этом заявил Институт Аспена в Вашингтоне в понедельник.

Истерли также подчеркнул необходимость дальнейшего диалога об ИИ, указав на предложения, подобные тому, которое выдвигает ООН.

«Мы можем вести беседы с нашими противниками о ядерном оружии», — сказал Истерли. «Я думаю, что нам, вероятно, следует подумать об этих разговорах с нашими противниками об ИИ, который, в конце концов, будет, на мой взгляд, самым мощным оружием века».

Премьер-министр Великобритании Риши Сунак объявил на прошлой неделе о планах Великобритании провести осенью первый крупный глобальный саммит по безопасности ИИ.

Гутерриш сказал, что с точки зрения регулирования ИИ, отрасли, где все происходит очень быстро, набор норм, установленных сегодня, может устареть на следующий день. Значит, нужно что-то более гибкое.

«Нам нужен процесс, постоянный процесс вмешательства различных заинтересованных сторон, работающих вместе, чтобы на постоянной основе установить ряд механизмов мягкого права, ряд — я бы сказал — норм, кодексов поведения и других», — сказал он.

Гутерриш сказал, что в состав научно-консультативного органа, который он вскоре создаст, также войдут ведущие ученые из Организации ООН по вопросам образования, науки и культуры (ЮНЕСКО) и Международного союза электросвязи (МСЭ), который является специализированным агентством ООН, связанным с информационными и телекоммуникационными технологиями.

Он сказал, что внешние эксперты, в том числе двое из сферы ИИ, войдут в состав консультативного органа.

Глава ООН также объявил о планах по цифровому соглашению, которое, по его словам, станет добровольным «кодексом поведения», которого, как он надеется, будут придерживаться технологические компании и правительства с целью уменьшения распространения ложной и дезинформации и разжигания ненависти среди населения. миллиардов людей и сделать Интернет более безопасным пространством.

«Его предложения направлены на создание ограждений, чтобы помочь правительствам объединиться вокруг руководящих принципов, которые продвигают факты, разоблачая заговоры и ложь и защищая свободу выражения мнений и информации», — сказал он. «И чтобы помочь технологическим компаниям решать сложные этические и юридические вопросы и строить бизнес-модели на основе здоровой информационной экосистемы».

Он сказал, что технологические компании мало что сделали для того, чтобы их платформы не способствовали разжиганию ненависти и насилия, и раскритиковал правительства за игнорирование прав человека и иногда принятие решительных мер, включая широкомасштабное отключение интернета.

Гутерриш сказал, что надеется опубликовать кодекс поведения после обсуждений с государствами-членами и до саммита ООН будущего, который запланирован на сентябрь 2024 года.