В мировых интернетах один из самых весёлых скандалов недели, ув. друзья — это, как известно, гуглова нейросеть Gemini, создающая по запросам граждан изумительные изображения.
Как быстро убедились граждане планеты, Гемини практически не верит в существование белых вообще — и особенно белых мужчин. То есть она на просьбу «нарисуй мне папу римского» выдаёт индийских старушек в тиарах, на просьбу «нарисуй короля английского» выдаёт гигантский выбор негров в коронах, а просьбу «нарисуй белую семью» вообще отвергает, потому что расизм, а семья должна быть инклюзивной.
Попытка сделать контроль ущерба («ну, это ещё молодая модель, она только обучается») провалилась, и сегодня утром гугол объявил о том, что «временно приостанавливает работу Gemini для доработки».
...Данная новость более всего поражает на самом деле не тем, что «надо же, гугл — оказывается, политкорректный!»
Данная новость поражает тем, что гугл, как легко понять, долго тестировал свою модель у себя, сотнями лучших своих умов перед тем, как вывалить на мировой рынок и смешно опозориться.
И в ходе коллективного мозгового штурма сотнями лучших умов — ни у кого не возникло вопроса «блин, чёзафигня». Никто из огромного коллектива мощных специалистов не заметил, что нейросеть — безумная расистка. Или заметил, но рассудил, что энтузиазм наказуем и нефиг связываться.
Все смотрели мимо слона в комнате.
И это наглядно показывает нам, что зачастую даже самые мощные коллективные умы могут творить невообразимо идиотскую фигню. И поэтому вопить «да ты хоть знаешь, сколько гениев работает в гугле?! ты их капитализацию видел?!» — порой просто наивно.
Комментарии
Когда идеология бьёт по рукам больно, пипл предпочитает делать вид что соответствует. Заодно занимаясь приписками и прочим юзанием идеологического ресурса в хвост и в гриву. Прям как поздний Союз, или нынешняя Украина.
Именно так. За неинклюзивную семью любому работнику Гугла могут сделать серьёзный втык или вообще выставить за дверь. А за отказ рисовать белую семью ничего не будет. Разумеется всё это будет вложено и в сетку, а как иначе-то?
Гугл уже не торт. Он и в выдаче поиска иной раз такую лажу дает, сравнимую с капитализацией.
Да, были времена, когда на запрос "большая, чёрная обезьяна" гугль выдавал вполне себе релевантный ответ в картинках. А сейчас каких-то горилл показывает ;)
В Midjourney все давно порешали
белокожих мужчин ей тоже рисовать запретили?
прям как у гугла?
На чем учили, то и получили. Данная нейросеть как зеркало показала предпочтения руководства Гугла.
Вот здесь есть хорошие картинки из гуглевской программы: Exposing the Manager Behind Racist New Google AI That Won't Show White People, with Ruthless Podcast (youtube.com)
Интересен исходный механизм настройки сети. Ведь, это надо приложить туеву хучу усилий, чтобы она стала такой "расистской"/толерастской.
Вот вообще не проблема. Все эти сети долго учатся людьми, которые тупо кликают на "нравится/не нравится/недопустимо".
По инструкциям у этих копеешных кликателей неинклюзивная семья недопустима. И всё, сетка это прекрасно выучивает.
Для сетки это просто такой же факт, как и то, что на руке должно быть пять пальцев, а не десять. И с тем и с другим у нейросеток проблемы, но если потратить достаточно времени на обучение, то можно всё исправить.
Ну просто в данном случае под лозунгами толерантности порождается откровенный расизм, ну дык сетка-то причём? У сетки банально GIGO случился, уж она-то точно не виновата.
Говорят промт правят. Жемини использует для генерации картинок imagen 2, причем imagen 2 релевантные картинки генерит.
ну и вот исходный запрос пользователя к жемини сначала политкорректно модифицируется, а уже потом к imagen 2 обращается
Ну вот они и приложили туеву хучу усилий. Комитет по политкорректности был доволен. Кто же знал, что остальные пользователи окажутся в недоумении?
Об "уме" ИИ.
Просто надо юзать не такие шибко вумные ИИ, как Джемини, а те, куда элайнмент не прикрутили.
Ум как ум. Человека тоже как научишь, так и будет думать. Чтобы изменить свое мнение человеку нужно накопить новый опыт, переобучиться на другом материале.
Под что ИИ заточат, то и выдаст. И это будущее, а уж наше или...?
Кто хочет полюбоваться на эти шЫдевры нейросети, их есть на хабре:
https://habr.com/ru/news/795309/
Fried chicken - однозначно расистская нейронка
нарисовала коричневых подруг. Так то у меня для a 23 years old chick рисует женщин, но несколько распущенных, на локальной нейронке, к гугловской не совался.
Но вообще, чем "накормили" нейронку, то и рисует. Не с проста появляются патчи asian-less.
Надо было попросить нарисовать русского.
Все правильно. Будущий Скайнет белых проигнорит.
Без проблем. Чипы с масками вживят, а-то сдаётся мне, что информационное общество-пространство нашему отсталому мозгу не по зубам-синапсам-нейронам пока. Заметил, что при засыпании начинают мелькать флэши из фильмов, новостей и других источников информации. Наверное, устарел, и пора в утиль нахрен...и не расстраиваюсь что-то.)
О, использовано лицо Станы Катич для генерации женщину-пожарного. Одобряем, хотя она - белая и европейка и даже из славян.
Почему вы думали, что никто не заметил? Может они ее именно на этот результат все это время старательно натаскивали?
Именно так. Нет, формально-то в инструкциях, розданных оценивальщикам написано “за всё хорошее, против всего плохого”, но на практике-то все знают за что их будут наказывать, а за что не будут.
А дальше сетка эти все знания аггрегирует и получаем то, что получаем.
Просто получилось перерегулирование сети. Дальше она будет делать это мягше, деликатнее. О таком мягком искажении говорится у Ивана Дроздова в книге "Последний Иван", про редакцию "Известий" времен Аджубея.
Выкажу предположение, что это было сделано специально.
Не то, чтобы совсем специально. Нигде в инструкциях не было написано, что Папа Римский должен быть негром с перьями.
Но тренинги по инклюзивности (формальное название ESG) на Западе давно уже внедрены во всех крупных компаниях и Гугл, разумеется, не исключение.
И если у тебя правило, что в любой картинке должен быть негр и транс, то ты это всё, хочешь не хочешь, и в сетку засунешь, а иначе можно и без работы оказаться.
Когда идеология бьёт по рукам больно
а менеджемент по голове то "куды крестьянину податься?"
Всё было планово. Если бы выпустили изначально адекватную версию - были бы претензии, что негров мало. А так - будет выпущена нормальная версия и без риска обвинений в расизме.
Кто-то ещё хочет в России идеологию после такого?
Да. Я хочу. Потому. что если не будет идеологии, то самым главным в жизни человека и общества будет - собственный карман. Обратно в 90-е? Спасибо - не надо.
Ну вон, в Америке есть идеология инклюзивности. Так это не мешает им и о собственном кармане беспокоиться.
Так что не смешивайте мягкое с теплым.
А можно идеологию здравого смысла?
Нельзя. Здравый смысл и идеология не совместимы.
Так она у нас сейчас есть. Только она не государственная.
Но вам лично никто не запрещает ей следовать.
Вот
Вот когда эта имитация разума поймёт, что такое расизм, тогда и решу, ИИ это или НИ (никакущий интеллект).
Капитализации Большого Брата это в плюс или минус?
Ну я только недавно писал - у техов из фаангов вообще большие проблемы.
От себя добавлю - это еще и непотизм руководства и отрицательный отбор на всех уровнях. Инклюзивный симулякр вместо реальной деятельности.
И даже текущий рост доходов от рекламы - очень плохой признак, но уже не для них, а для экономики в целом. Могу объяснить, почему.
Жаль, что на Китай именно в этом месте (кроме торговли) надежды мало, но это уже совсем другая история...
PS: Я в свое время сильно поиздевался над OpenAI, на тему черного расизма. Очень забавно, когда сетка просто падает из-за конфликта обучающего сета и прикрученных правил "толерантности".
Черный расизм в США гораздо круче белого, и там, например, актеры Уилл Смит и Самюэль Джексон уже легенды черного расизма. Представить себе Леню Ди Каприо или Де Ниро проповедниками белого расизма решительно невозможно, их немедленно посадят. А чернокожих не посадят. Черный расизм победил. Следовательно, США - страна победившего фашизма. А как фашизм может делать антифашистские программы?
Интересно девки пляшут - в одной фашистской стране (даже в двух) всем руководят евреи, а в другой - негры. Хотя о чём это я? В третьей тоже они.
Почему негр не может быть евреем? Их и в Израиле говорят есть в количестве, и даже Обама таки да. Наверное, нейросеть на нем и учили!
даже картошка может быть евреем, если верить Станиславу Лему
По некоторым свидетельствам в земле обетованной в курсе проблемы и работают над решением.
Ну, дык, давеча товарисчи (в смысле менеджера) из Нетфликса про провал инклюзивности (в смысле продаж) одназначна заявили - зрители виноваты. А эти то чё, на "зрителей" не взвалили!?
Дисней же вроде…
"Да, один хрен - румын." (С)
Нонешние "шыдевры" бывшего " Диснея"......Сами пусть и смотрят..
Как Вам
такая-такой Фей для Буратины ?Ну а теперь будут разбираться, какая инключивная сволочь пустила на ветер машиночасы на обучение. Хотя, эта сволочь, тем не менее, скорее всего, далеко пойдёт.
Не будут, не надейтесь. Потому что не хотят быть обвиненными в неинклюзивности и нетолерантности. А со вторым вашим замечанием полностью согласен.
Страницы