Ев­ро­пей­ские пра­во­за­щит­ни­ки об­ви­ни­ли ИИ Мета в дис­кри­ми­на­ции по по­ло­во­му при­зна­ку

По дан­ным Ни­дер­ланд­ско­го ин­сти­ту­та прав че­ло­ве­ка, тех­но­ло­ги­че­ская ком­па­ния Meta* до­пус­ка­ет дис­кри­ми­на­цию по при­зна­ку пола, когда опре­де­ля­ет, какие объ­яв­ле­ния о ва­кан­си­ях будут пред­став­ле­ны поль­зо­ва­те­лям Facebook* в Ни­дер­лан­дах. Иск был подан, в част­но­сти, Бюро Клары Вих­манн, ко­то­рое от­ста­и­ва­ет пра­во­вое по­ло­же­ние жен­щин.

Эту борь­бу с неспра­вед­ли­во­стью в Мета* пра­во­за­щит­ни­ки США, Мел­ко­бри­та­нии, Фран­ции и Ни­дер­лан­дов ведут с 2023 года.

Сна­ча­ла они за­по­до­зри­ли, что Мета* раз­ре­ша­ет ре­кла­мо­да­те­лям от­прав­лять ре­кла­му ва­кан­сий ра­бо­чих мест, уста­нав­ли­вая пол це­ле­вой ауди­то­рии. Мета* за­пре­ти­ла ре­кла­мо­да­те­лям де­лать такой выбор. 

Но, про­ве­рив ра­бо­ту Мета* в дру­гих стра­нах, пра­во­за­щит­ни­ки вы­яс­ни­ли, что во всех стра­нах жен­щи­нам Фейс­бук* (за­пре­щен­ный в Рос­сии) вы­сы­ла­ет "жен­ские" спе­ци­аль­но­сти, а муж­чи­нам - "муж­ские".

Виной всему ока­за­лась не сама ком­па­ния Мета. Ока­за­лось, что дис­кри­ми­на­цию осу­ществ­ля­ет лично ИИ ком­па­нии, ко­то­рый, по на­ив­но­сти, обу­ча­ет­ся на ос­но­ве по­ве­де­ния самих поль­зо­ва­те­лей, а не по ме­то­дич­кам ген­дер­ных гуру.

Бюро Клары Вих­манн ос­но­вы­ва­ло свою по­зи­цию на ис­сле­до­ва­нии, про­ве­ден­ном пра­во­за­щит­ной ор­га­ни­за­ци­ей Global Witness. Они за­яви­ли, что их ис­сле­до­ва­ние по­ка­за­ло, что объ­яв­ле­ния о ва­кан­си­ях, ко­то­рые сте­рео­тип­но счи­та­ют­ся жен­ски­ми, на­при­мер, долж­но­сти сек­ре­та­ря в при­ем­ной, по­ка­зы­ва­лись, в ос­нов­ном, жен­щи­нам. Они также от­ме­ти­ли, что объ­яв­ле­ния о ва­кан­си­ях, на­при­мер, ме­ха­ни­ков, в ос­нов­ном, по­ка­зы­ва­лись муж­чи­нам. Утвер­жда­ет­ся, что сами объ­яв­ле­ния при этом яв­ля­лись "ген­дер­но ней­траль­ны­ми".

Ин­сти­тут по­ста­но­вил, что это пред­став­ля­ет собой форму кос­вен­ной дис­кри­ми­на­ции: спо­соб по­ве­де­ния, ко­то­рый ка­жет­ся ней­траль­ным, но, тем не менее, вли­я­ет на людей с опре­де­лен­ны­ми ха­рак­те­ри­сти­ка­ми. В дан­ном слу­чае, это слу­чи­лось бла­го­да­ря ра­бо­те ал­го­рит­ма, ко­то­рый ре­а­ги­ру­ет на... клики самих поль­зо­ва­те­лей, ко­то­рые в по­ис­ках ра­бо­ты на­ив­но ин­те­ре­со­ва­лись опре­де­лен­ны­ми спе­ци­аль­но­стя­ми: жен­щи­ны - долж­но­стя­ми сек­ре­та­рей, а муж­чи­ны - ме­ха­ни­ков.

“По­сколь­ку ал­го­ритм изу­ча­ет по­ве­де­ние поль­зо­ва­те­ля Facebook по кли­кам, у него может сфор­ми­ро­вать­ся од­но­сто­рон­нее пред­став­ле­ние об этом поль­зо­ва­те­ле (за­пом­ни­те эту ци­та­ту!) В ре­зуль­та­те ал­го­ритм может спо­соб­ство­вать рас­про­стра­не­нию сте­рео­ти­пов”. Meta, ма­те­рин­ская ком­па­ния Facebook, де­ла­ет недо­ста­точ­но для борь­бы с этим, - за­яви­ли в Ин­сти­ту­те.

По­же­ла­ем ком­па­нии Мета и лично ее ИИ об­ре­сти все­мир­ную из­вест­ность как ал­го­ритм, обу­ча­ю­щий­ся не на по­ве­де­нии поль­зо­ва­те­лей, а со­глас­но стро­го раз­ра­бо­тан­ным ре­ко­мен­да­ци­ям.

Ге­не­раль­ный ди­рек­тор Meta Марк Цу­кер­берг недав­но объ­явил, что ком­па­ния пре­кра­тит ис­поль­зо­вать неза­ви­си­мые сред­ства про­вер­ки фак­тов в Со­еди­нен­ных Шта­тах, а также хочет огра­ни­чить мо­де­ра­цию кон­тен­та. Цу­кер­берг также за­явил, что со­кра­тит внут­рен­нюю по­ли­ти­ку, на­прав­лен­ную на обес­пе­че­ние рав­ных воз­мож­но­стей для людей из недо­ста­точ­но пред­став­лен­ных групп.

Но это он за­явил в США. А бюро Клара Вих­ман на­хо­дит­ся в Ев­ро­пе.

Так что, несмот­ря на за­яв­ле­ния Цу­кер­бер­га, бюро Клара Вих­манн счи­та­ет, что это “важ­ный день” для поль­зо­ва­те­лей Facebook. Дис­кри­ми­ни­ру­ю­щие ал­го­рит­мы ока­зы­ва­ют нега­тив­ное вли­я­ние на об­ще­ство и “пре­пят­ству­ют раз­но­об­ра­зию” на рынке труда, ска­зал Берти Бан­нор, юрист ор­га­ни­за­ции. А недис­кри­ми­ни­ру­ю­щие ока­зы­ва­ют вли­я­ние на ИИ.

Как тебе такое, Марк Цу­кер­берг?