Европейские правозащитники обвинили ИИ Мета в дискриминации по половому признаку

По данным Нидерландского института прав человека, технологическая компания Meta* допускает дискриминацию по признаку пола, когда определяет, какие объявления о вакансиях будут представлены пользователям Facebook* в Нидерландах. Иск был подан, в частности, Бюро Клары Вихманн, которое отстаивает правовое положение женщин.

Эту борьбу с несправедливостью в Мета* правозащитники США, Мелкобритании, Франции и Нидерландов ведут с 2023 года.

Сначала они заподозрили, что Мета* разрешает рекламодателям отправлять рекламу вакансий рабочих мест, устанавливая пол целевой аудитории. Мета* запретила рекламодателям делать такой выбор. 

Но, проверив работу Мета* в других странах, правозащитники выяснили, что во всех странах женщинам Фейсбук* (запрещенный в России) высылает "женские" специальности, а мужчинам - "мужские".

Виной всему оказалась не сама компания Мета. Оказалось, что дискриминацию осуществляет лично ИИ компании, который, по наивности, обучается на основе поведения самих пользователей, а не по методичкам гендерных гуру.

Бюро Клары Вихманн основывало свою позицию на исследовании, проведенном правозащитной организацией Global Witness. Они заявили, что их исследование показало, что объявления о вакансиях, которые стереотипно считаются женскими, например, должности секретаря в приемной, показывались, в основном, женщинам. Они также отметили, что объявления о вакансиях, например, механиков, в основном, показывались мужчинам. Утверждается, что сами объявления при этом являлись "гендерно нейтральными".

Институт постановил, что это представляет собой форму косвенной дискриминации: способ поведения, который кажется нейтральным, но, тем не менее, влияет на людей с определенными характеристиками. В данном случае, это случилось благодаря работе алгоритма, который реагирует на... клики самих пользователей, которые в поисках работы наивно интересовались определенными специальностями: женщины - должностями секретарей, а мужчины - механиков.

“Поскольку алгоритм изучает поведение пользователя Facebook по кликам, у него может сформироваться одностороннее представление об этом пользователе (запомните эту цитату!) В результате алгоритм может способствовать распространению стереотипов”. Meta, материнская компания Facebook, делает недостаточно для борьбы с этим, - заявили в Институте.

Пожелаем компании Мета и лично ее ИИ обрести всемирную известность как алгоритм, обучающийся не на поведении пользователей, а согласно строго разработанным рекомендациям.

Генеральный директор Meta Марк Цукерберг недавно объявил, что компания прекратит использовать независимые средства проверки фактов в Соединенных Штатах, а также хочет ограничить модерацию контента. Цукерберг также заявил, что сократит внутреннюю политику, направленную на обеспечение равных возможностей для людей из недостаточно представленных групп.

Но это он заявил в США. А бюро Клара Вихман находится в Европе.

Так что, несмотря на заявления Цукерберга, бюро Клара Вихманн считает, что это “важный день” для пользователей Facebook. Дискриминирующие алгоритмы оказывают негативное влияние на общество и “препятствуют разнообразию” на рынке труда, сказал Берти Баннор, юрист организации. А недискриминирующие оказывают влияние на ИИ.

Как тебе такое, Марк Цукерберг?