Американские правозащитники пожаловались властям на рекрутинговую фирму HireVue, которая использует искусственный интеллект для сравнения кандидатов на вакансии. Созданного компанией робота-рекрутера подозревают в псевдонаучном походе к подбору персонала.
Систему HireVue в настоящее время применяют более 100 компаний, включая Hilton и Unilever. Робот уже проинтервьюировал более 1 млн человек. Система оснащена технологиями распознавания лиц и голосов людей. Она отслеживает манеру речи, подбор слов, мимику кандидата, движения рук и тела и, наконец, ответы на поставленные роботом вопросы.
В результате робот выдает каждому кандидату оценку «соответствия должности».
В ее в основе — выведенные искусственным интеллектом оценки навыков человека, его способности к обучению, а также стрессоустойчивости.
Самим соискателями эти оценки не раскрываются, зато их видит отдел кадров компании—клиента HireVue и на их основании принимает решение о найме того или иного кандидата.
В минувшую среду в Федеральную торговую комиссию США (FTC) поступила жалоба на HireVue. Правозащитная организация Electronic Privacy Information Center (EPIC) попросила регулятора провести расследование в отношении разработчика, обвинив его в недобросовестной конкуренции и создании технологии, которая несправедливо оценивает кандидатов. FTC пока лишь подтвердила, что получила эту жалобу, не уточнив, приведет ли она к расследованию.
Если это все же случится, то станет первым подобным расследованием в отношении компании, работающей на быстро набирающем популярность рынке роботов-рекрутеров.
В жалобе EPIC говорится, что технология HireVue выдает «предвзятые, недоказуемые и нереплицируемые результаты», которые могут основываться на ошибках, позаимствованных у обычных людей во время обучения ИИ.
Это, например, предвзятое отношение на основании цвета кожи, пола, расы или сексуальной ориентации.
https://www.kommersant.ru/doc/4154263?from=main_6 - цинк
PS.
На 2019-й год фантастика обещали восстание машин во главе с умнейшим искусственным интеллектом.
В реальном 2019-м году получили гомофобного робота-расиста набирающего на работу белых мужчин.
Комментарии
Раскрыли они вам алгоритм, держите карман шире.
Да там индус сидит и говорит кого взять, кого - нет. А компания-разработчик стрижет бабло, дескать ИИ разработали, а на самом деле ИИ - индусский интеллект, но всё жэ по честному.
Мне интересно, если этому ИИ дать две фотки - негра и белого, а ответы на вопросы абсолютно одинаковые, что на выходе будет? Думаю, абсолютно разные выводы по соискателю будут в финале.
Победит друг индуса из соседней деревни.
Тут чуть о другом разговор, НЯП.
Ирония заключается в следующем. Практика обучения самообучающихся алгоритмов сильно отличается от "люберальных ценностей", озвучиваемых в публичных дискурсАх.
Поэтому обсуждаемая заметка созвучна известному анекдоту про детский возглас " Папа, а где козлы?! " с заднего сидения автомобиля при остановке его гаишником.
В этом свете алгоритм ИИ можно объявить, как недоработанный и добавить учитывавшие национальных особенностей реакций соискателей. Возможно даже это действительно так. Но сама тема в духе времени)
это не поможет. Алгоритм разработали такой, который нужен для бизнеса. А бизнесу пофиг - педик или негр перед ним, умеешь работать молотком - вы приняты. И вот результаты собеседований не нравятся "порнозашитникам", ибо становится ясно, что нормальные люди работают молотком лучше, нежели 10499 остальных полов и цветов.
В основном так. Есть правда отличия в реакциях и проявлениях эмоций по нациям, культурам. Вот этот момент по статье естественно не раскрывается, а может быть.
в реакциях на что? на фразу "вы нам не подходите"?
Ага, и сразу групповая реакция
ээх, сразу видно, они очень хотели работать на буровой в Северном море, ворочали бы там мешки. А им отказали, придется им теперь "немешки ворочать"
Бохтымой! Я забыл сказать: индус - слепой и глухой. он просто кнопку жмет.
Именно :)
А как же конкуренция?
Клиента на рынке (компании-наниматели) система устраивает.
Как страшно жЫть!
)) Мда, теперь цифровизацию
экономикиотменят точно. ))Ну тут как всегда - "ученый изнасиловал журналиста" или отличный пример, почему нужно Карузо слушать в оригинале, а не в перепевке Рабиновича, даже если Рабинович социально близкий и очень хочется. аж прям неймется, сказать какую-нибудь гадость про Карузо
Главное обвинение - нарушение конфиденциальности при сборе биометрической информации и отсутствие информации, как собранная биометрическая информация используется в дальнейшем.
С таким обвинениями (незаконный сбор и использование конфиденциальной информации) им будет сложно выкрутится.
АНЕКДОТ №27114
Собеседование при приеме на работу проводит робот. Заходит первый
претендент:
- Здравствуйте.
- Здравствуйте.
- Вы курите?
- Да...
- До свидания!
Парень выходит и говорит другим ожидающим: "Будут спрашивать курите вы
или нет-говорите нет!"
Заходит второй:
- Здравствуйте.
- Здравствуйте.
- Вы курите?
- нет.
- Выпиваете?
- да нет, режко очень....
- До свидания!
Выходит а там сидит колхозник - узбек, он ему говорит: Будут спрашивать
курите, пьете, говори нет!"
Заходит убек:
- Здравствуйте.
- Салеметсизбе!(здравствуйте на узбекском) // Вариации: Исянмесиз!(на башкирском)
- До свидания!