Искусственный интеллект обвинили в расизме

Компания «Майкрософт» заменила журналистов искусственным интеллектом. Через неделю его обвинили в расизме

Это далеко не первый случай, когда роботы нарываются на неприятности из-за "идеологических воззрений"

Провалом закончилась антикризисная инициатива «Майкрософта». Компания в разгар пандемии решила уволить всех людей-журналистов, издающих сайт MSN.com, и заменила их искусственным интеллектом. Через неделю роботы вляпались в расистский скандал. И это далеко не единственный пример, когда на бездушные машины обижались люди разных рас.

Роботы прогневали певицу

Портал MSN.com – это популярный агрегатор новостей, с огромной аудиторией. Искусственный интеллект отбирает достойные на его взгляд статьи из разных источников и создает на их основе публикации. Полученными от трафика рекламными доходами «Майкрософт» делится с первоисточниками. Все шло более-менее неплохо, пока алгоритм не решил написать про британскую группу Little Mix. И подорвался на мине расизма.

MSN.com опубликовали историю, как солистка Little Mix Джейд Фёруолл сталкивалась с расизмом, но нейросети перепутали певицу с другой участницей группы и опубликовали фото Ли-Энн Пиннок. Возмущению Фёруолл было безграничным. «MSN, если вы собираетесь копировать и вставлять статьи из других, заслуживающих доверия СМИ, то должны сначала убедиться, что используете изображение нужного участника группы смешанной расы», - писала она гневные посты в соцсетях. «Меня оскорбляет, что вы не можете различить двух цветных женщин в группе из четырех человек... Старайтесь лучше!», - возмущалась певица, не подозревая, что все ее выпады адресуются искусственному интеллекту.

Ошибку тут же исправили. Перед шоу-дивой извинились. Тем не менее, история совпала с волной протестов против расовой дискриминации, которая прокатилась по всей Америке, и вызвала большой скандал.

«Умный» дозатор: мыло только для белых

Это далеко не первый случай, когда роботы были обвинены в расизме. Ранее под раздачу попал чересчур «умный» дозатор мыла. Он выдавал моющее средство в руки белым людям и игнорировал чернокожих. Во всем оказался виноват датчик света – он, видимо, не обладал нужной чувствительностью, чтобы считывать темные оттенки кожи.

Впрочем, схожие проблемы были, например, у крупных производителей фотоаппаратов. Чересчур предупредительная техника все время напоминала хозяину, что он моргает во время фотографий. А от возмущался – пользователь был азиатом и его разрез глаз фотоаппарат воспринимать отказывался наотрез.

У автопилотов «Теслы» могут быть проблемы

Но самый большие проблемы с расизмом могут возникнуть у роботов-водителей. В прошлом году вышло исследование Технологического института Джорджии, согласно которому искусственный интеллект, управляющий автомобилями без участия человека, с большой вероятностью задавит темнокожего, чем белого. В среднем они обнаружили, что системы были на 5 процентов менее точными при обнаружении людей с более темными оттенками кожи. То есть у автомобилей с роботами-водителями примерно те же проблемы, что и у дозаторов мыла.

Так что «Тесла» с автопилотами еще повезло, что данное исследование вышло в 2019 году. Если бы ученые запоздали со своими выводами и сделали их сейчас, у борцов с расизмом стало бы на одну цель больше.

Системы голосового и текстового распознавания все чаще стали подвергаться критике — последнее исследование ученых Массачусетского университета показало, что голосовая связь, чат-боты и другие технологии на базе искусственного интеллекта часто не способны различить речевые особенности национальных меньшинств. На первый взгляд, проблема не заслуживает внимания, однако ввиду повсеместного внедрения таких систем ее игнорирование усугубляет дискриминацию некоторых групп населения.