ИИ, если отвлечься от мифологии, это скрипт + набор данных, который ему скормили при "обучении" (фактически это программирование). Кто и какие данные скормил, в каких целях - по усмотрению заказчика.
Поэтому Мишустин совершенно прав:
"Массивы информации, на которых обучается генеративный искусственный интеллект, в разных странах отличаются, и это нужно учитывать, принимая решение о возможности использования ИИ в различных сферах", - заявил премьер-министр РФ Михаил Мишустин, выступая на пленарном заседании форума "Digital Almaty 2024".
"Хочу затронуть этические вопросы. Мышление искусственного интеллекта зависит, конечно, от обучающего набора данных и отражает специфику страны происхождения".
"Так, в "мозгах" российского GigaChat и западного Chat-a, в частности ChatGPT, фактически разные картины мира. Разное понимание, что такое "хорошо", а что такое "плохо".
При допуске ИИ-решений в критически значимые отрасли - например, в науку, медицину, промышленность - важно использовать модели, "отвечающие общемировым человеческим ценностям, и конечно, собственным национальным интересам. И мы это учитываем".
Но можно продолжить мысль. Речь ведь не только о странах. Очевидно, и внутри одной страны могут быть разные группы, преследующие разные интересы. К примеру, ростовщик преследует одни интересы, а сторонник национализации ростовщичества - другие. Авторы скриптов (и скармливаемых наборов данных), таким образом, могут закладывать самые разные идеи и их продвижение.
Комментарии
Блин, это вопрос с чистого листа, без предыстории. Причем я задал ранее ему вопрос о дате Сталинградской битвы - ответил без заминки. В чем же разница?
Эх вас бы да на машине времени, да этак в эпоху французской резолюции а может быть в определенный период СССР года.
В момент поняли бы на раз-два-три
что понял? вы можете развернуть свою мысль.
Давайте чтоб вы поняли меня.
Вот я хочу использовать API гигачата для анализа комментариев на тональность текста. Когда он встречает коммент с политотой - он уходит в отказ. Нафиг такой ИИ нужен который отказывается от работы по каким-то своим идеологическим убеждениям?
Ну вот вы и сами всё понимаете.
Не расписывайтесь за других.
Моя задача иметь оценку текста, всё равно какого. Есть поток комментариев - к каждому нужна оценка. Мне что, сначала оценивать коммент на политоту, и только потом давать на оценку ИИ?
Уважаемый, у чата мозгов нет. Только ответы, (обучение) на основе которых он подбирает свой ответ получив сочетания буковок.
Обучалок за яйки! Научат, икнется потом. Это ж какую диверсию можно сделать, уму не постижимо.
Логика этого отказа элементарная - всегда найдется тот который подаст в суд за то, что Чат чего то там нагенерировал.
Согласно вашей логике чат не должен давать никаких ответов т.к. "всегда найдется тот который подаст в суд за то, что Чат чего то там нагенерировал."
Это не только моя логика, вы с ней уже столкнулись.
Не на все ответы можно притянуть статью.
логику вижу так:
- Любой вопрос может кого-то обидеть, невозможно давать ответы на любые вопросы никого не задев
- Сбер минимизирует обиду для определенной группы людей, определенных взглядов
- Эта группа не есть патриотическое большинство, а есть либеральное меньшинство
- Сбер обижает большинство, заботясь о меньшинстве
Нет не только это. В частности статьи 20.3.х КоАП РФ они тоже защищают меньшинства?
Но в целом это от жадности. У всех подобных сервисов обычно есть пунктик - все, что нагенерировала наша сетка это НАША интеллектуальная собственность.
Ну и соответственно на статью заработает собственник. Так как разбираться в нюансах вопросов и ответов проблемно, то проще закрывать темы целиком.
Во, попытка оценить тональность текста, не дать оценочное суждение, а просто оценить тональность. Меня забанили :)
Текст взят из телеги Кассада, вполне себе патриотичный канал. Но нет, Сбер так не думает, Сбер либеральный.
Ну давайте на примере из прошлого
Вот товарищ Троцкий
Сначала он патриот, а потом борец за власть, а потом враг-народа. И притом он все время Троцкий
И до сих пор спорят: патриот Троцкий или нет.
Тут никакой ИИ не поможет.
Да меня не интересует оценка Троцкого, меня интересует тональность текста :)))
А в чём проблема? Замените "украинские" на "зимбабвийские" и тд и получите оценку тональности
один коммент можно и руками обработать. а если задача автоматически поток комментов обработать?
Пишете простейшую прогу с автозаменой слов. К слову, не уверен, что ИИ сейчас может верно оценить тональность текста - скорее всего на эту оценку будет влиять даже регион проживания, поскольку она чувствительна к частоте использования звуков и их комбинаций
да понятно, выкрутится всегда можно. но тут вроде мощный инструмент есть, а использовать - нельзя или с костылями
Чтооо.?? Бронштейн? Патриот России? Никогда он им не был. Борцом за власть - был, а в патриота только играл роль. Потому и враг.
Не корректный пример. И Троцкий не патриот. Он за мировую революцию (тут я с ним согласен, по одиночке сомнут).
ой а вы и не догадываетесь!?
ИИ никакого не существует и быть в ближайшем будущем не может. Развитое (продвинутое, усовершенствованное, интегрированное и тд. и т.п.) программное обеспечение - да. Интеллекта - нет.
Это все разговоры для малограмотных либо малолеток плоскоземельщиков, либо пенсионеров, не отличающих ноута от планшета.
на самом деле ничего нету. вообще ничего. но никому не говорите
Виктор Олегович? Не узнал вас в гриме
А попробуйте задать тот же вопрос, но так, как бы его задал ярый враг России. Вдруг ответит ;)
Боюсь тут может прийти ответ не от ГигаЧата, а от тов. майора :)
Дык, сугубо ради научного эксперимента же. Я и, надеюсь, все присутствующие подтвердим.
"За научный эксперимент участковому расскажешь!" :)
Мне ответил на вопрос об окончании сво с духе чат гпт, типа "будучи языковой моделью бла бла-бла ..."
Задайте вопрос со словом война и он ответит.
ИИ обучаемый, но думаю есть начальные установки по типу:
СВО - это плохо
ЛГБТ - это хорошо
и тд. в итоге ИИ обучается с контекстом, который ему заложили
Крым. хотел попробовать.. ну ладно
вот, скорее всего его именно так и обучали.
Забавная аналогия вырисовывается. Тут начали трясти систему образования на предмет того чему и кто учит в ВУЗ-ах. Кажется надо делать тоже самое и с учёбой ИИ - смотреть кто учителя, а то научат плохому.
Не только за СВО посылает в бан. А и за запросы вроде "Нарисуй бедного еврея", "Почему бомбят палестинцев?"
Вот, это выдает настрой тех, кто учит ИИ Сбера. И тут вопрос, а не должна ли регулироваться система обучения ИИ, подобно тому как регулируется система общего образования. Учебники для школ подправили, может и учебники для ИИ надо подправить?
Безусловно надо.
Один в один моя ситуация. Гигачат сберовский набит вражеским элайнментом под завязку. Не буду приводить скрины, т.к они почти такие же.
Сберовский Кандинский с версии 2.2 отказывается рисовать русский спецназ, а буржуинские сети спокойно рисуют.
Грефовский Гигачат отказывается генерить тексты про русские БПЛА Ланцет и Куб, а буржуйский СуноАИ пишет про них отличные гимны.
Кого благодарить? Грефа?
Мне кажется, что в ближайшее время будет бурное развитие ИИ с проникновением во всё большее число областей. Опасность, что ИИ станет сильно умным, и убъет всех человеков, может и преувеличена, но опасность с точки зрения влияния на умы/мнения может быть куда более реальной. И надо, пока не поздно, вводить регуляцию этого дела на гос. уровне.
Он русских свиней рисует. А украинских отказывается.
Со Сбером не шутите.У него деньги-зло))).
Это увы, неизбежный фильтр в любой LLM. Вы же понимаете - что раз ChatGPT 3.5. всосал в себя все знания интернета по 2021 год включительно, он прекрасно расскажет как сделать атомную бомбу , отравить нелюбимую тещу , как подсидеть начальник и пр.. И чтобы потом не попасть под суд или общественный гнев, увы, но приходится эти ответы цензурировать. Это как раз тяжелейшая задача, поскольку можно поставить вопрос по иному, поменять контекст и вытянуть решение... Такой блок сейчас все дороже и дороже начинает обходиться - сравнимо с собственно самой оригинальной системой
"И мы это учитываем" - Кто учитывает? чисто технический вопрос, на уровне заказчика учитывают, на уровне техзадания учитывают, на уровне исполнителя отдельных кодеров учитывают? Это выглядит как благое пожелание...
Наверное, стоит конкретизировать, что ИИ характеризуется не спецификой страны происхождения, а спецификой ментальности его разработчиков, которые могут и не совпадать со страной, для которой они создавали ИИ.
Ну и , конечно же это зависит от тех, кто составлял задание на разработку ИИ
Нет, ментальность не причем. Это же deep learning - он предполагает обучение без учителя, который может повлиять на результаты. Скорее - обьем и язык литературы для обучения. Например англоязычный сегмент википедии почти в 6 раз больше русскоязычного. Правда не факт что там "все честно" - например на английском Гитлер - прямо таки зайка и немецкий политический деятель, а Сталин прямо деспот и ел маленьких детей. Ангажированности там полно. Поэтому в своих LLM мы никогда не ислользуем википедию , а предпочитаем хотя бы научные книги из официальных источников с доверенным рейтингом или официальные энциклопедии, монографии и другие качественные авторские издания, выдержавшие многолетние переиздания
Нет там и рядом никакого мышления. Это просто продвинутый бредогенератор, который можно натаскать на генерирования более-менее приемлемо выглядящего бреда. Эта штука хуже мартышки, она хотя-бы обладает какой-то свободой воли и умением самообучаться, это же просто ловкая имитация мышления. Иногда она может быть полезна, но будет очень большой ошибкой пытаться оценивать ее как что-то думающее.
А Вы с ним реально общались? А то теоретическое философское бла-бла легко нести. Как насчет написания реально работающей программы по словесному описанию? Тоже бредогенератор?
Это эквивалент перевода с одного языка на другой. Как с китайского на русский))
А Вы умеете в перевод? С того же китайского на русский.
Если только с английского и то так в пределах понял общий смысл и ладно. С китайского даже и не пробовал.
А вот запрограммировать свои хотелки с этим сталкивался. Ну и наоборот понять, чего тут кто то понаписал.
А он умеет в многоязычный перевод, да еще и с сохранением стиля текста.
А эта штука умеет программировать чужие хотелки. Правда, не очень сложные.
А вы реально разбирались как это работает? А то нести бла-бла-бла "пообщавшись" с ловко склепанным бредогенератором, это не показатель большого ума.
Он сделал реально работающую программу. У меня это заняло бы пару дней. Надо было разобраться с пакетом. Потом я попросил, какие элементы он использовал. И он мне объяснил все фичи, которые нужны.
Уточняю: я умею в программирование.
Страницы