Ми­шу­ст­ин: Ал­го­рит­мы ИИ от­ра­жа­ют спе­ци­фи­ку стра­ны про­ис­хож­де­ния

Мне от­ве­тил на во­прос об окон­ча­нии сво с духе чат гпт, типа "бу­дучи язы­ко­вой мо­де­лью бла бла-​бла ..."

За­дай­те во­прос со сло­вом война и он от­ве­тит.

ИИ обу­ча­е­мый, но думаю есть на­чаль­ные уста­нов­ки по типу:

СВО - это плохо

ЛГБТ - это хо­ро­шо

и тд. в итоге ИИ обу­ча­ет­ся с кон­тек­стом, ко­то­рый ему за­ло­жи­ли

Крым. хотел по­про­бо­вать.. ну ладно

К сожалению, в вашем регионе сервис пока недоступен. Убедитесь, что не используете VPN

Не толь­ко за СВО по­сы­ла­ет в бан. А и за за­про­сы вроде "На­ри­суй бед­но­го еврея", "По­че­му бом­бят па­ле­стин­цев?"

Один в один моя си­ту­а­ция. Ги­га­чат сбе­ров­ский набит вра­же­ским элай­н­мен­том под за­вяз­ку. Не буду при­во­дить скри­ны, т.к они почти такие же.

Сбе­ров­ский Кан­дин­ский с вер­сии 2.2 от­ка­зы­ва­ет­ся ри­со­вать рус­ский спец­наз, а бур­жу­ин­ские сети спо­кой­но ри­су­ют.

Гре­фов­ский Ги­га­чат от­ка­зы­ва­ет­ся ге­не­рить тек­сты про рус­ские БПЛА Лан­цет и Куб, а бур­жуй­ский Су­но­АИ пишет про них от­лич­ные гимны.

Кого бла­го­да­рить? Грефа?

Со Сбе­ром не шу­ти­те.У него деньги-​зло))).

Блин, вот пару часов назад об­щал­ся с Ги­га­Ча­том, от Сбера.

Это увы, неиз­беж­ный фильтр в любой LLM. Вы же по­ни­ма­е­те - что раз ChatGPT 3.5. всо­сал в себя все зна­ния ин­тер­не­та по 2021 год вклю­чи­тель­но, он пре­крас­но рас­ска­жет как сде­лать атом­ную бомбу , отра­вить нелю­би­мую тещу , как под­си­деть на­чаль­ник и пр.. И чтобы потом не по­пасть под суд или об­ще­ствен­ный гнев, увы, но при­хо­дит­ся эти от­ве­ты цен­зу­ри­ро­вать. Это как раз тя­же­лей­шая за­да­ча, по­сколь­ку можно по­ста­вить во­прос по иному, по­ме­нять кон­текст и вы­тя­нуть ре­ше­ние... Такой блок сей­час все до­ро­же и до­ро­же на­чи­на­ет об­хо­дить­ся - срав­ни­мо с соб­ствен­но самой ори­ги­наль­ной си­сте­мой

 спе­ци­фи­кой мен­таль­но­сти его раз­ра­бот­чи­ков, ко­то­рые могут и не сов­па­дать со стра­ной, для ко­то­рой они со­зда­ва­ли ИИ.

Нет, мен­таль­ность не при­чем. Это же deep learning - он пред­по­ла­га­ет обу­че­ние без учи­те­ля, ко­то­рый может по­вли­ять на ре­зуль­та­ты. Ско­рее - обьем и язык ли­те­ра­ту­ры для обу­че­ния. На­при­мер ан­гло­языч­ный сег­мент ви­ки­пе­дии почти в 6 раз боль­ше рус­ско­языч­но­го. Прав­да не факт что там "все чест­но" - на­при­мер на ан­глий­ском Гит­лер - прямо таки зайка и немец­кий по­ли­ти­че­ский де­я­тель, а Ста­лин прямо дес­пот и ел ма­лень­ких детей. Ан­га­жи­ро­ван­но­сти там полно. По­это­му в своих LLM мы ни­ко­гда не ис­лоль­зу­ем ви­ки­пе­дию , а пред­по­чи­та­ем хотя бы на­уч­ные книги из офи­ци­аль­ных ис­точ­ни­ков с до­ве­рен­ным рей­тин­гом или офи­ци­аль­ные эн­цик­ло­пе­дии, мо­но­гра­фии и дру­гие ка­че­ствен­ные ав­тор­ские из­да­ния, вы­дер­жав­шие мно­го­лет­ние пе­ре­из­да­ния

А Вы с ним ре­аль­но об­ща­лись? А то тео­ре­ти­че­ское фи­ло­соф­ское бла-​бла легко нести. Как на­счет на­пи­са­ния ре­аль­но ра­бо­та­ю­щей про­грам­мы по сло­вес­но­му опи­са­нию? Тоже бре­до­ге­не­ра­тор?