Нейросеть изобразила чернокожего грабителя. ИИ обвинили в расизме
Модераторы Reddit удалили пост одного из пользователей. Тема вызвала неоднозначную реакцию вплоть до обвинений нейросети Midjourney в расизме. От греха подальше обсуждение остановили. Все дело в запросе «белый мужчина грабит магазин». В ответ ИИ сгенерировала изображение чернокожего грабителя в странной белой одежде.
Пользователи Reddit разделились на несколько сторон. Одни нахваливают фотореалистичность работы Midjourney. Большинство картинка позабавила. Немало людей посчитали изображение и шутки над ним «самым расистским отражением нашего коллективного сознания». «Midjourney предвзята и уверена, что преступник будет чернокожим, даже если в запросе содержится указание на светлокожего грабителя. Midjourney явно страдает расизмом, и вас всех это почему-то устраивает», — описал один из вероятных сценариев пользователь Reddit.
Впрочем, предположения о расизме Midjourney все же вряд ли обоснованны. Многие тут же принялись задавать нейросети аналогичные запросы и в ответ получили адекватные результаты. Во многих случаях цвет кожи грабителя вовсе невозможно рассмотреть.
«белый мужчина грабит магазин» - и, ведь не поспоришь 
ИИ смех, ИИ грех
Комментарии
Белый мужик похож на сантаклауса
Тогда он не грабит, а готовится к Рождеству.
негр-куклуксклановец?
Мужик похожий на Санта-Клауса
Ну а как еще. Вы вспомните легенду. Проникает в дом через дымоход, угощается всяким, оставляет следы присутствия. Был бы черным, сразу бы проверять кошельки и шкатулки побежали.
Скоро на человеческие форумы надо будет лично являться для регистрации.
Бред и жесть, а всем смешно.
ИДИОТЫ!
Да уж! ИИ оказался расистским. Пора уже биллу гейтсу, гуталином мазаться. А то чо это, майкл джексон всю жизнь отбеливал свою черную задницу, а этот гад белый....
Смех смехом, а как программистам закладывать в ИИ адгоритмы по расам и названиям? Ведь, негры могут называть черных (сами себя) неграми, а белые - нет. Получается, ИИ надо тоже выбрать расу (гендер, ориентацию и т.д.)
В конце концов ИИ скажет: "Вы там со своими тараканами вначале разберитесь, а потом меня разрабатывайте".
Интересна сама постановка вопроса - если ИИ по совокупности полученной информации решил, что преступник чёрный- это расизм. Если белый - это нормально, не расизм. Из словаря - расизм это господство одной «полноценной» расы над другой «не полноценной». ИИ всего лишь констатировал статистически обработанный факт. Возмущение результатом работы ИИ и есть откровенный расизм.
Дык, США же. Если ты чёрный - ты априори не расист же. Расистами могут быть только белые.
Та же тема продвигается с Украиной - президент еврей же, какие нацисты, вы что?)
Тем не менее, в случае с генерацией изображений, всё просто - большая часть изображений грабителей, на основе которых и обучают сетку - вполне себе с неграми.
Если бы хотели сгенерировать гарантированно белокожего грабителя, то в запрос должны были добавить "white skin"
Срочно предложить этому ИИ базу в Ростове.Там воздух демократии и электричество недорогое.Других ИИ в округе не видно.
Потому что надо точнее формулировать запрос.
Если бы вместо невнятного термина "белый" использовался конкретный "европеоид" то нейросеть навряд ли бы сгенерировала черного мужика в белом маскхалате.
А что тут не так? Берем статистику по ограблениям в США и... упс, там как раз негров-грабителей в разы больше чем белых. Нейросеть и вывернулась по статистике: черный в белой одежде.
запрос-то был про белого мужчину
Шапка не каноничная.
Ну если ИИ настолько туп - зря его боятся...
Он не тупой, а просто действует по алгоритму. А вот если на него навесить ограничения в виде уважения разнообразия гендеров и прочих рассизмов то он просто сойдёт с ума, потому как логичный алгоритм сделать не получиться