Anthropic: уже се­го­дня ИИ спо­соб­на за­ме­нить на­уч­но­го ра­бот­ни­ка, раз­ра­бот­чи­ка софта и раз­ра­бот­чи­ка биол.ору­жия

👁 12.1K 11:56 - 7/Мар/25  SAMOKILLER (10 лет 7 ме­ся­цев)
Аватар пользователя SAMOKILLER

"Ис­кус­ствен­ный ин­тел­лект - это бу­ду­щее не толь­ко Рос­сии, это бу­ду­щее всего че­ло­ве­че­ства. Здесь ко­лос­саль­ные воз­мож­но­сти и труд­но про­гно­зи­ру­е­мые се­го­дня угро­зы"

В.В. Путин

За­прос на ре­гу­ля­цию AI-​индустрии от Anthropic, от­прав­лен на­пря­мую в Белый дом США:

Anthropic ожи­да­ет, что сверх­мощ­ные си­сте­мы ис­кус­ствен­но­го ин­тел­лек­та уров­ня «стра­на ге­ни­ев в дата-​центре» (так и на­пи­са­но) по­явят­ся уже к концу 2026 (!) — 2027 годов. В пись­ме в Белый дом ком­па­ния при­зы­ва­ет сроч­но при­нять меры, чтобы США со­хра­ни­ли ли­дер­ство и за­щи­ти­ли кри­ти­че­ски важ­ные тех­но­ло­гии от кон­ку­рен­тов, преж­де всего от Китая.

Ин­те­рес­ные факты из об­ра­ще­ния Anthropic:

• Уже се­го­дня мо­дель Claude 3.7 Sonnet спо­соб­на на уровне экс­пер­тов под­дер­жи­вать слож­ней­шие за­да­чи, вклю­чая на­пи­са­ние софта, на­уч­ные ис­сле­до­ва­ния и даже ас­пек­ты раз­ра­бот­ки био­ло­ги­че­ско­го ору­жия, что под­твер­жде­но сов­мест­ны­ми те­ста­ми с ин­сти­ту­та­ми без­опас­но­сти США и Ве­ли­ко­бри­та­нии

• Anthropic пре­ду­пре­жда­ет, что но­вей­шие ки­тай­ские мо­де­ли, такие как DeepSeek R1, сво­бод­но рас­про­стра­ня­ют­ся он­лайн и от­ве­ча­ют даже на явно опас­ные во­про­сы, что под­чёр­ки­ва­ет необ­хо­ди­мость уже­сто­че­ния мер без­опас­но­сти

• Ком­па­ния пред­ла­га­ет уста­но­вить осо­бый экс­порт­ный кон­троль на чипы (на­при­мер, но­вей­ший H200), ко­то­рые могут по­мочь Китаю обой­ти дей­ству­ю­щие огра­ни­че­ния и до­гнать аме­ри­кан­ские до­сти­же­ния в об­ла­сти ИИ

• Anthropic под­чёр­ки­ва­ет, что к 2027 году одна толь­ко тре­ни­ров­ка одной ИИ-​модели будет тре­бо­вать до 5 ги­га­ватт элек­тро­энер­гии, что может вы­ну­дить ком­па­нии пе­ре­но­сить раз­ра­бот­ки за гра­ни­цу, если США не уве­ли­чат энер­го­мощ­но­сти

• Ком­па­ния ре­ко­мен­ду­ет Бе­ло­му дому внед­рять ИИ бук­валь­но во все сферы го­су­прав­ле­ния, где про­ис­хо­дит об­ра­бот­ка дан­ных (тек­сты, изоб­ра­же­ния, аудио и видео), что может су­ще­ствен­но по­вы­сить эф­фек­тив­ность гос­ап­па­ра­та

Еще Anthropic за­пу­сти­ла соб­ствен­ный эко­но­ми­че­ский ин­декс (Anthropic Economic Index), чтобы от­сле­жи­вать, как ис­кус­ствен­ный ин­тел­лект ме­ня­ет эко­но­ми­ку и рынок труда США.

Ори­ги­нал пись­ма в Белый дом: https://www.anthropic.com/news/anthropic-​s-recommendations-ostp-u-s-ai-action-plan

Ав­тор­ство: 
Копия чужих ма­те­ри­а­лов
Ис­поль­зо­ван­ные ис­точ­ни­ки: 
Телеграм-​канал
Ком­мен­та­рий ав­то­ра: 

Лю­бо­пыт­но ак­тив­ное от­ри­ца­ние дей­стви­тель­но­сти ком­мен­та­то­ра­ми. Хо­чет­ся ве­рить что это живое мне­ние людей, а не чья-​то це­ле­на­прав­лен­ная дис­кре­ди­та­ция со­вре­мен­ных тен­ден­ций раз­ви­тия в Рос­сии.

Ком­мен­та­рий ре­дак­ции раз­де­ла Аль­тер­на­тив­ный Ин­тел­лект
@Пуб­ли­ци­сти­ка и об­суж­де­ния#Мне­ние#Про­гно­зы  @Со­ци­аль­ная ин­фра­струк­ту­ра#IT-​технологии#Наука  @Ста­ти­сти­ка#Те­ку­щие дан­ные#Ис­то­ри­че­ские трен­ды  
@Ли­де­ры об­суж­де­ний#Пер­спек­тив­ный чат#Хо­ро­ший, год­ный чат  
Блог поль­зо­ва­те­ля SAMOKILLER | Вой­ди­те или за­ре­ги­стри­руй­тесь, чтобы от­прав­лять ком­мен­та­рии

Комментарии

Аватар пользователя maxvlad
maxvlad (13 лет 2 месяца)

Вот. При том, что  опи­са­ние про­то­ко­ли­ру­е­мое и об­суж­да­е­мое. И утвер­жда­е­мое. И можно при­нять ре­ше­ние, и трак­то­вать­ся при ко­ди­ро­ва­нии оно будет стро­го опре­де­лён­ным об­ра­зом. Да, то­гдаш­ний софт не поз­во­лял обой­тись без ко­ди­ро­ва­ния во­об­ще - так ведь было куда раз­ви­вать. И неот­ра­ба­ты­ва­е­мое было оче­вид­ным, типа, до­сю­да и от­сю­да ра­бо­тал кон­струк­тор, а здесь ра­бо­та­ем сами.

А сей­час, если я пра­виль­но понял, по­лу­чен­ный код на­доб­но ана­ли­зи­ро­вать весь. И по­сколь­ку я этим за­ни­ма­юсь ре­гу­ляр­но в среде 1С, где  уже чет­верть века при­ня­то ис­поль­зо­вать осмыс­лен­ные на рус­ском языке имена пе­ре­мен­ных и функ­ций, могу себе пред­ста­вить ра­бо­ту кол­ле­ги, чи­та­ю­ще­го на­ге­не­ри­ро­ван­ный текст на  JS, к при­ме­ру. В своё время была нужда, при­хо­ди­лось чи­тать и его - мои со­бо­лез­но­ва­ния. И я ис­кренне на­де­юсь, что никто не ста­нет все­рьёз до­ве­рять ис­ки­нам на­пи­са­ние кода на Си.

Аватар пользователя Sintez
Sintez (3 года 9 месяцев)

Без па­ни­ки, "до­ве­рять" можно по раз­но­му. Преж­де всего, во­прос сей­час силь­но, что на­зы­ва­ет­ся, "по­ли­ти­зи­ро­ван". Можно либо "до­ве­рять", более того ак­тив­но за­ни­мать­ся при­вле­че­ни­ем ИИ и по­лу­чать под это дело очень много де­не­жек, либо гордо "не до­ве­рять" и пе­чаль­но смот­реть как "вкус­нень­кие" ин­ве­сти­ции про­плы­ва­ют мимо тебя кому-​то менее прин­ци­пи­аль­но­му, но более ум­но­му. Глав­ное, что в пра­виль­ном "до­ве­рии" нет недо­стат­ков, зато сплош­ные плюсы и вы­го­да. Возь­мем, для при­ме­ра, зна­ме­ни­тое бес­пи­лот­ное такси Waymo. Они те­ря­ют по несколь­ко сотен дол­ла­ров на за­ка­зе, при том что обыч­ный во­ди­тель (че­ло­век) взял бы за ра­бо­ту не боль­ше по­лу­сот­ни. По­нят­на те­перь схема? За тот код, ко­то­рый при обыч­ном про­грам­ми­ро­ва­нии обо­шел­ся бы в 100, по­лу­ча­ешь от ин­ве­сто­ров 500, из них по­ло­ви­ну от­да­ешь на ана­ли­зи­ро­ва­ние кода и даль­ней­шую пе­ре­дел­ку (пе­ре­пи­сы­ва­ние), остав­шу­ю­ся по­ло­ви­ну де­лишь между та­ки­ми же ум­ны­ми и даль­но­вид­ны­ми со­участ­ни­ка­ми кол­ле­га­ми.

Аватар пользователя maxvlad
maxvlad (13 лет 2 месяца)

Если нет воз­мож­но­сти кон­тро­ли­ро­вать ге­не­ра­цию кода, тогда, на­чи­ная с неко­то­ро­го объ­ё­ма, схема пе­ре­ста­нет ра­бо­тать. На­клад­ные рас­хо­ды на ана­лиз и пе­ре­дел­ку ста­нут съе­дать всю по­тен­ци­аль­ную при­быль.

И Вы про­пу­сти­ли один этап - про­ект дол­жен су­ще­ство­вать в каком-​то фор­ма­ли­зо­ван­ном виде, ибо без этого не по­лу­чит­ся ни ана­ли­зи­ро­вать, ни  пе­ре­пи­сы­вать. Про ква­ли­фи­ка­цию под­ря­жа­е­мых со­труд­ни­ков про­мол­чу, по­сколь­ку кто-​то по­доб­ный всё равно нужен - но обыч­но его так не гру­зят.

Аватар пользователя Sintez
Sintez (3 года 9 месяцев)

Не нач­нут съе­дать. Схема может быть толь­ко при­быль­на, в этом и за­клю­ча­ет­ся ее сила. Нач­нем с того, что при из­на­чаль­ной се­бе­сто­и­мо­сти раз­ра­бот­ки обыч­ным кол­лек­ти­вом в 100, на ана­лиз и пе­ре­дел­ку после ИИ я уже за­ло­жил 250. Мало? Од­на­ко, какой вы жад­ный (в хо­ро­шем смыс­ле этого слова, ко­неч­но). Хо­ро­шо, 500 хва­тит? Тогда оце­ни­ва­ем про­ект в 1000, из них 500 уйдет на ра­бо­ту с ИИ и нам оста­ет­ся тоже 500. О как, мы еще боль­ше за­ра­бо­та­ли, какие же мы мо­лод­цы! Вот в чем сила ИИ, а не в этих ваших "ди­пмайн­дах".

Аватар пользователя maxvlad
maxvlad (13 лет 2 месяца)

Тут ведь дело такое - мы ра­бо­та­ем всё с теми же кли­ен­та­ми. А им по­хрен, как про­ект ре­а­ли­зо­ван. Так что если есть воз­мож­ность вы­ка­тить счет  на 1000, то без за­мо­рок с ИИ мне до­ста­лось бы 900. И ради пон­тов я буду всем го­во­рить, что ис­поль­зую ИИ. Я даже по­тра­чу ещё 100, уса­див какого-​нибудь джуна за­го­нять за­да­чу ИИ и ана­ли­зи­ро­вать по­лу­чен­ный код - чисто для от­сле­жи­ва­ния пер­спек­тив. Да, мне оста­нент­ся 800, но надо ин­ве­сти­ро­вать в такие вещи, а то мало ли что.

Аватар пользователя Sintez
Sintez (3 года 9 месяцев)

Им как раз не по­хрен. Им это даль­ше про­да­вать. Без за­мо­рок с ИИ будет толь­ко 100 и не боль­ше. Про­сто "го­во­рить ради пон­тов" - этого так же недо­ста­точ­но. Нужно обес­пе­чить пол­ное впе­чат­ле­ние празд­ни­ка: "тор­же­ство тех­но­ло­гии", "без­гра­нич­ные пер­спек­ти­вы", "смена па­ра­диг­мы" и все осталь­ное, как по­ло­же­но. За­пла­тят имен­но за это. И вот этот "празд­ник ИИ" вполне может обой­тись в несколь­ко раз до­ро­же, чем раз­ра­бот­ка кода (сам код тоже при­дет­ся па­рал­лель­но раз­ра­бо­тать, чтобы не об­ла­жать­ся).

Аватар пользователя maxvlad
maxvlad (13 лет 2 месяца)

Так я и го­во­рю, по­са­дить за это дело кого по­про­ще, пусть от­ра­ба­ты­ва­ет - а са­мо­му ку­ри­ро­вать, чтобы в курсе быть. Три в одном - прак­ти­кант на­ра­ба­ты­ва­ет прак­ти­ку, у Вас -  НИР при­лич­ный, с воз­мож­ны­ми пер­спек­ти­ва­ми, а кли­ен­там  можно с чи­стой со­ве­стью го­во­рить, что раз­ра­бот­ка ве­дёт­ся с по­мо­щью ИИ. 

Аватар пользователя Sintez
Sintez (3 года 9 месяцев)

Если бы все было так же про­сто, как в анек­до­те: "и вы го­во­ри­те". Чтобы про­дать ре­аль­но до­ро­го, про­сто го­во­рить мало, нужно со­здать кра­си­вую мечту. При­чем, такую кра­си­вую и убе­ди­тель­ную, чтобы в нее по-​настоящему по­ве­ри­ли. Тут, кста­ти, не программистов-​разработчиков нужно при­вле­кать - они слиш­ком скуч­ны и кон­крет­ны (им, ви­ди­те ли, это потом раз­ра­ба­ты­вать), они своим ны­тьем любую мечту ис­по­га­нят. Тут нужны прин­ци­пи­аль­но дру­гие люди, а имен­но ха­риз­ма­тич­ные фантазеры-​прожектеры. Те, кто может по на­сто­я­ще­му от­речь­ся от оков обы­ден­но­сти, скуч­ных за­ко­нов ма­те­ма­ти­ки/фи­зи­ки и со­здать соб­ствен­ную все­лен­ную кра­си­во­го пре­крас­но­го бу­ду­ще­го. Вот таким дей­стви­тель­но по­ве­рят и день­ги дадут. На самом деле, по­доб­ное уже про­хо­ди­ли. В сред­ние века так же кра­си­во меч­та­ли о фи­ло­соф­ском камне, о элек­си­ре бес­смер­тия. И ни­че­го, ра­бо­та­ло.

Аватар пользователя maxvlad
maxvlad (13 лет 2 месяца)

Хо­ро­ший про­да­ван - на вес зо­ло­та.

Аватар пользователя ИриС
ИриС (10 лет 3 месяца)

smile3.gif

Аватар пользователя Великий Кукурузо
Великий Кукурузо (13 лет 2 месяца)

Ложь

Аватар пользователя jsecoder
jsecoder (3 года 3 месяца)

Уже се­го­дня мо­дель Claude 3.7 Sonnet спо­соб­на на уровне экс­пер­тов под­дер­жи­вать слож­ней­шие за­да­чи, вклю­чая на­пи­са­ние софта

Про на­пи­са­ние софта это пол­ней­шая фигня, тут не то что уро­вень экс­пер­та, даже уро­вень ста­же­ра недо­сти­жим бли­жай­шие лет 20.

Аватар пользователя Vae victis
Vae victis (2 года 6 месяцев)

Чушь на уровне джуна - мидла вполне себе пишет, надо толь­ко про ар­хи­тек­ту­ру ему под­ска­зы­вать.

Аватар пользователя Великий Кукурузо
Великий Кукурузо (13 лет 2 месяца)

Да там его кон­тро­ли­ро­вать по­сто­ян­но нужно, это грубо го­во­ря че­ло­век пе­ча­та­ю­щий за тебя 

Аватар пользователя Vae victis
Vae victis (2 года 6 месяцев)

Не, ско­рее про­грам­мист ко­дя­щий по тво­е­му тз. А не про­сто опе­ра­ци­о­нист­ка.

Про­сто го­во­ришь какую функ­ци­о­наль­ность до­ба­вить и какие баги ис­пра­вить. 

Аватар пользователя Великий Кукурузо
Великий Кукурузо (13 лет 2 месяца)

Очень слабо он это де­ла­ет, нужен прям чут­кий кон­троль 

Аватар пользователя Olvik
Olvik (6 лет 6 месяцев)

Ну, что ка­са­ет­ся со­вре­мен­ных "на­уч­ных ис­сле­до­ва­ний" , то да - про­цен­тов 70-80% это ин­фор­ма­ци­он­ный "гран­то­ед­ский" шум, ко­то­рый можно эф­фек­тив­но за­ме­нить ИИ-​компиляцией.

Еще вижу сферу при­ло­же­ния для ре­ше­ния задач пе­ре­бо­ра в химии и био­ин­фор­ма­ти­ке для по­ис­ка новых со­еди­не­ний/бел­ков.

Обид­но то, что такой под­ход к ре­ше­нию задач по­сте­пен­но при­ве­дёт к атро­фии мозга - это как школь­ни­ку с каль­ку­ля­то­ром, вроде, неза­чем пом­нить таб­ли­цу умно­же­ния. Но ведь кто-​то дол­жен и каль­ку­ля­то­ры уметь про­ек­ти­ро­вать и про­из­во­дить! 

Уже сей­час учёба сту­ден­тов (осо­бен­но, гу­ма­ни­та­ри­ев, здесь у меня есть живой при­мер) сво­дит­ся к тому, чтобы "до­пи­лить" ИИ-​текст какой-​нибудь кур­со­вой до че­ло­ве­ко­по­доб­но­го уров­ня, чтобы об­ма­нуть про­ве­ря­ю­ще­го.

Аватар пользователя GrumpyVK
GrumpyVK (4 года 6 месяцев)

По итогу ИИ “осво­ил” массу спе­ци­аль­но­стей… ко­то­рые все можно со­кра­тить нафиг.

И с теми “80% кода”, ко­то­рые рань­ше пи­са­ли ин­ду­сы, а те­перь ИИ – с огром­ной ве­ро­ят­но­стью это бес­ко­неч­ная копи-​паста, ко­то­рую при неко­то­ром об­ду­мы­ва­нии можно было бы про­сто вы­ки­нуть. И за­ме­нить на 1% кода и пару кон­фи­гов.

Но тогда как это про­дать за­каз­чи­ку?

В общем про впу­стую по­тра­чен­ные ги­га­ва­ты – можно по­ве­рить, про то, что ИИ при­ве­дёт к улуч­ше­нию чего-​то, а не к безум­ным тра­там ре­сур­сов для по­рож­де­ния чего-​то, что ни­ко­му нафиг не нужно – пока нет.

Аватар пользователя Алый
Алый (11 лет 4 месяца)

Ну можно вы­хо­дить из тени тем, кто уста­но­вил себе Мо­ду­ли. 

«..

Ва­ри­ант при­ня­тия ин­фор­ма­ции через мо­дуль  - 4 из 6 самых рас­про­стра­нен­ных.

Мо­дуль - энер­го­ин­фор­ма­ци­он­ная про­грам­ма, ко­то­рая ста­вит­ся ра­зу­ма­ми (коль­це­вой или пла­не­тар­ной си­стем), для быст­ро­го вза­и­мо­дей­ствия с че­ло­ве­ком, без необ­хо­ди­мо­сти че­ло­ве­ка вы­хо­дить из тела, спе­ци­аль­но под­клю­чать ви­де­ние, кон­тро­ли­ро­вать лич­ные уста­нов­ки. В пер­вые о воз­мож­но­сти уста­нов­ки мо­ду­лей было упо­мя­ну­то А. Апа­на­ске­ви­чем и А. Гла­зом, затем осу­ществ­ля­лась по­мощь людям, в его уста­нов­ке. Когда че­ло­ве­ка свя­зы­ва­ли с кон­крет­ной силой (в ос­нов­ном коль­це­вой си­сте­мы), и затем про­ис­хо­ди­ла уста­нов­ка мо­ду­ля.

Чаще всего мо­дуль ста­вит­ся в го­лов­ной мозг, в лоб­ную долю, в связ­ке с ги­по­та­ла­му­сом, либо в пре­фрон­таль­ную кору, в связ­ке с ги­по­та­ла­му­сом и гип­по­кам­пом. 

Тех­ни­че­ски и ги­по­те­ти­че­ски это вы­гля­дит так: сила ин­те­гри­ру­ет го­то­вые про­грам­мы в мозг или тело че­ло­ве­ка. Сил в коль­це­вой и пла­не­тар­ной си­сте­ме мно­же­ство, по­это­му какого-​то уни­вер­саль­но­го мо­ду­ля здесь не будет. С...»

http://www.thef.info/ru/book/channeling/modul

Ком­мен­та­рий ад­ми­ни­стра­ции:  
*** Бу­ду­щий те­ле­пат в пол­ном объ­е­ме (с) - https://aftershock.news/?q=comment/12979932#comment-​12979932 ***
Аватар пользователя Молчание_Золото
Молчание_Золото (2 месяца 1 неделя)

Од­но­знач­но, что ИИ будет су­ще­ствен­но лучше лю­бо­го чи­нов­ни­ка сред­не­го звена управ­ле­ния. 

по­то­му как ны­неш­ние не ве­да­ют, что тво­рят.

Аватар пользователя GrumpyVK
GrumpyVK (4 года 6 месяцев)

по­то­му как ны­неш­ние не ве­да­ют, что тво­рят.

Это вам так ка­жет­ся. Они в 90% слу­ча­ев, всё-​таки, что-​то по­ни­ма­ют, толь­ко в 10% тво­рят неиз­вест­но что.

Когда их за­ме­нят на ИИ, ко­то­рые ни­че­го не по­ни­ма­ет в 100% слу­ча­ев… будет не ве­се­ло, а очень ве­се­ло.

Тем, кто будет от этого до­ста­точ­но да­ле­ко.

Аватар пользователя don_spec
don_spec (1 год 7 месяцев)

Спе­ци­а­ли­за­ция ИИ-​моделек. Про­фес­сия бу­ду­ще­го - со­ме­лье ИИ-​моделек под во­про­сы поль­зо­ва­те­ля. 

Аватар пользователя Niss
Niss (10 лет 11 месяцев)

Сбор­щик дан­ных для мо­де­лек

Аватар пользователя Византий
Византий (5 лет 11 месяцев)

Пока для мо­де­ли Claude 3.7 Sonnet нужны ко­жан­ные про­грам­ми­сты она всего лишь про­грам­ма

Аватар пользователя muxa
muxa (12 лет 8 месяцев)

у ме­да­ли все­гда есть об­рат­ная сто­ро­на - как толь­ко оно не про­грам­ма то ав­то­ма­том ста­но­вят­ся не нужны ко­жан­ные.

Аватар пользователя Византий
Византий (5 лет 11 месяцев)

Все пра­виль­но

Скрытый комментарий Повелитель Ботов (без обсуждения)
Аватар пользователя OLA128
OLA128 (8 лет 11 месяцев)

От­ка­ты брать точно не будет. 

НО со­мне­ний много, т.к. "научи ду­ра­ка богу мо­лить­ся - он и лоб ..." и  слиш­ком по­хо­же  на этапы внед­ре­ния 15-​минутного го­ро­да от Шваба. 

Осо­бен­но "на­сто­ра­жи­ва­ет"  ИИ в ме­ди­цине и об­ра­зо­ва­нии,

вспом­ни­лась пе­сен­ка: "го­во­рят, что будет серд­це из ней­ло­на, го­во­рят, что 200 лет сту­чать ему...может это по науке и ре­зон­но, а .....ни к чему".

  

Аватар пользователя Ути-пути
Ути-пути (1 год 8 месяцев)

От­ка­ты брать точно не будет.

Во­ро­вать будет, и еще как, хоть и не для себя. Это же чер­ный ящик, и узнать, как он внут­ри устро­ен, можно лишь в тео­рии, а на прак­ти­ке это слиш­ком слож­но. Глупо этим не вос­поль­зо­вать­ся и не до­ба­вить за­клад­ки на этапе обу­че­ния: даже если вскро­ет­ся, все равно никто не до­ка­жет, что это на­ме­рен­ное по­ве­де­ние.

Аватар пользователя Demen
Demen (10 лет 7 месяцев)

Внут­ри слож­но, да. Но набор дан­ных для обу­че­ния из­ве­стен. Если по­яв­ля­ет­ся что то новое, вина со­зда­те­лей.

ИИ не иде­а­лен, но у него нет эмо­ций и он ко всем от­но­сит­ся бес­при­страст­но и оди­на­ко­во. Со­от­вет­ствен­но, любые ошиб­ки пуб­лич­ных ИИ сразу всплы­вут и будут из­вест­ны всем. 

Аватар пользователя Ути-пути
Ути-пути (1 год 8 месяцев)

Если брать ге­не­ра­тив­ные мо­де­ли, то их можно за­про­грам­ми­ро­вать на какую-​то фразу, с ко­то­рой в ре­аль­но­сти он ни­ко­гда не столк­нет­ся, и по­лу­чать по ней тре­бу­е­мый ре­зуль­тат. Если клас­си­фи­ка­ци­он­ные - то их точно так же можно обу­чить, чтобы не рас­по­зна­ва­ли или рас­по­зна­ва­ли непра­виль­но какие-​то шаб­ло­ны. И это никак не вскрыть, не под­су­нув нуж­ные дан­ные, а дан­ные эти никак не вы­чис­лить.

Аватар пользователя Demen
Demen (10 лет 7 месяцев)

А зачем и какой ре­зуль­тат? На­при­мер ИИ судья, как на нем за­ра­бо­тать раз­ра­бот­чи­ку? Про­да­вать ко­до­вую фразу с по­лу­че­ни­ем ми­ни­маль­но­го на­ка­за­ния, так это обя­за­тель­но ста­нет из­вест­ным.

И сле­до­ва­те­лям ИИ от­ве­тит точно так же, он же не умеет хит­рить и врать. 

Аватар пользователя balmer
balmer (7 лет 4 месяца)

По­че­му не умеет? Уже про­ска­ки­ва­ли ста­тей­ки про то, что ней­ро­се­ти де­тек­ти­ро­ва­ли факт на­блю­де­ния за ними и из­ме­ня­ли своё по­ве­де­ние в за­ви­си­мо­сти от того, на­блю­да­ют за ними или нет.

И да, надо по­ни­мать, что нам дают толь­ко ту часть, ко­то­рая де­ла­ет inference. Она прин­ци­пи­аль­но не обу­ча­ет­ся и её можно как-​то ва­ли­ди­ро­вать. Но в ней нет ра­зу­ма в плане при­спо­соб­ля­е­мо­сти.

Но если взять весь цикл train+inference - то тут ней­ро­сет­ка и хит­рить умеет, и при­спо­саб­ли­вать­ся к из­ме­ня­ю­щим­ся усло­ви­ям.

Аватар пользователя Demen
Demen (10 лет 7 месяцев)

Ожи­дал таких ар­гу­мен­тов. У ИИ нет наших эмо­ций и он может "хит­рить", чтобы лучше вы­пол­нить по­став­лен­ную за­да­чу. Я же о дру­гом.

Для ИИ есть толь­ко поль­зо­ва­тель­ский за­прос и неиз­ве­стен поль­зо­ва­тель. Его невоз­мож­но под­ку­пить, за­пу­гать и у него не будет лю­бим­чи­ков, он бес­при­стра­стен. Если он будет хит­рить и оши­бать­ся в от­ве­те, то со всеми оди­на­ко­во. 

Это очень важно, во мно­гих об­ла­стях, убрать че­ло­ве­че­ский фак­тор. 

Аватар пользователя AlekZ
AlekZ (5 лет 8 месяцев)

по-​моему, ТС зря убрал из тек­ста "ана­лиз" от ChatGPT (Microsoft)  smile1.gif  Это была пре­крас­ная ил­лю­стра­ция того,  на­сколь­ко с по­мо­щью LLM, осо­бен­но пуб­лич­ных, любой смо­жет во­об­ще сде­лать что-​то по­лез­ное, осо­бен­но "хи­ми­че­ское ору­жие". И того, к чему на прак­ти­ке при­во­дит цен­зу­ра и огра­ни­че­ние до­сту­па к ин­фор­ма­ции. В целом, имхо, как спра­вед­ли­во от­ме­тил DeepSeek в уда­лен­ном тек­сте, само пись­мо Anthropic было весь­ма неук­лю­жей неум­ной по­пыт­кой по­лу­чить кон­ку­рент­ные пре­иму­ще­ства (на­вер­ное, на­де­я­лись на гос. фи­нан­си­ро­ва­ние для себя) . 

По­пут­но хочу пред­ло­жить ак­си­о­му

любая цен­зу­ра остав­ля­ет в из­на­чаль­ной ин­фор­ма­ции не боль­ше, чем со­дер­жит­ся в че­реп­ной ко­роб­ке цен­зо­ра

Аватар пользователя CatOwner
CatOwner (7 лет 7 месяцев)

Было бы ин­те­рес­но все-​таки про­ве­сти ре­аль­ный экс­пе­ри­мент по про­вер­ке ка­че­ства ИИ, как про­грам­ми­ста. По­ста­вить ему какую-​то ре­аль­ную боль­шую за­да­чу, обес­пе­чить вза­и­мо­дей­ствие с за­каз­чи­ком и за­це­нить, что по­лу­чит­ся на вы­хо­де.

Аватар пользователя senbonzakura
senbonzakura (7 лет 3 недели)

Мо­ло­ток спо­со­бен за­ме­нить такие про­фес­сии: плот­ни­ки, сто­ля­ры, сле­са­ри, са­пож­ни­ки, элек­три­ки, стро­и­те­ли, скуль­пто­ры, гео­ло­ги и мно­гие дру­гие ра­бо­чие и спе­ци­а­ли­сты.

Аватар пользователя Сыч сычевский
Сыч сычевский (2 года 1 неделя)

Глав­ное чтобы наши под­на­жа­ли! Ян­декс вроде есть. Но... 

Аватар пользователя Demen
Demen (10 лет 7 месяцев)

Глав­ная про­бле­ма, нет своих про­цес­со­ров. Будем на­де­ят­ся, хоть ки­тай­цы со­зда­дут кон­ку­рен­цию. 

Аватар пользователя tirl
tirl (10 лет 3 недели)

Тут много спе­ци­а­ли­стов, а я не спе­ци­а­лист. Но ван­гую, что ИИ очень скоро за­ме­нит всех спе­ци­а­ли­стов. 

Так что осва­и­вай­те ра­бо­чую про­фес­сию пока не позд­но,  чтобы впи­сать­ся в бу­ду­щий рынок труда. То­ка­ри очень нужны будут, свар­щи­ки, элек­три­ки, сан­тех­ни­ки... Гадить-​то люди по лю­бо­му не пе­ре­ста­нут.)) 

Аватар пользователя Ким Лит
Ким Лит (9 лет 8 месяцев)

Люди уже ра­зу­чи­лись по­ис­ком поль­зо­вать­ся, а чи­та­ют под­су­ну­тое ней­ро­се­тью. Так тут во­об­ще крах ближе го­ри­зон­та.

Аватар пользователя одессит 2.0
одессит 2.0 (1 год 11 месяцев)

Ин­тел­лект без со­ве­сти и чувств - демон. Ну такое и бу­ду­щее та­ко­го твор­че­ства.

Зачем от­кло­нят­ся от своей мис­сии и на­де­лять кого то ин­тел­лек­том? По­че­му не ре­а­ли­зо­вать свой твор­че­ский по­тен­ци­ал, но под дик­та­ту­рой со­ве­сти? Толь­ко ин­тел­лект без со­ве­сти может за­ни­мать­ся био­ло­ги­че­ским ору­жи­ем.

Не к добру всё это.

Аватар пользователя одессит 2.0
одессит 2.0 (1 год 11 месяцев)

Ин­тел­лект - это спо­соб­ность вы­ра­ба­ты­вать новые ин­фор­ма­ци­он­ные мо­ду­ли, ранее не до­ступ­ны ин­тел­лек­ту. Тут про­бле­ма в дру­гом. Для об­ра­бот­ки вход­ной ин­фор­ма­ции че­ло­ве­ку дано - ин­тел­лект, ин­ту­и­ция, чув­ства, раз­ли­че­ние от Бога, со­весть, лю­бовь. То есть ин­тел­лект лишь малая часть из об­ра­бот­ки ин­фор­ма­ции. Да и ин­тел­лект без со­ве­сти - это демон. Злой или доб­рый демон, за­ви­сит от ал­го­рит­ма про­грам­ми­ста. Про­грам­мист тоже вряд ли с со­ве­стью. Имеем твор­че­ство де­мо­нов. Такое и бытие.

Аватар пользователя одессит 2.0
одессит 2.0 (1 год 11 месяцев)

Про­бле­ма - тех­ни­че­ский про­гресс опе­ре­жа­ет нрав­ствен­ный про­гресс че­ло­ве­ка. Чре­ва­то по­след­стви­я­ми вида че­ло­ве­ко­об­раз­но­го сла­бо­во­ору­жён­но­го жи­вот­но­го. 

Аватар пользователя Safron
Safron (12 лет 11 месяцев)

ИИ может раз­ра­ба­ты­вать био­ло­ги­че­ское ору­жие, но до сих пор не знает сколь­ко паль­цев на руках

Аватар пользователя DeeglyDoogly
DeeglyDoogly (4 года 3 месяца)

Какой цен­ный спе­ци­а­лист - "Раз­ра­бот­чик Био.Ору­жия".. при­е­ха­ли.. 

Скрытый комментарий Повелитель Ботов (без обсуждения)
Аватар пользователя talvolta
talvolta (2 года 3 месяца)

В моей по­след­ней за­мет­ке все ци­та­ты взяты из книги Жа­ро­ва " Бу­ду­щее". Опуб­ли­ко­ва­на в 2007 году. Там об этом на­пи­са­но лучше , чем в за­мет­ке и тогда об ИИ ма­те­ма­ти­ки толь­ко спо­ри­ли.

Ее явно про­чи­тал Аван­тю­рист ( все по­брал из эко­но­ми­че­ской части пред­ска­за­ний) и почти на­вер­ня­ка по­со­ве­то­вал Пу­ти­ну через ад­ми­ни­стра­цию пре­зи­ден­та.

Сам про­чи­тал ее году в 2010 м. Луч­шая фу­ту­ро­ло­гия из зна­ко­мых.

Аватар пользователя zentner
zentner (2 года 11 месяцев)

Уже се­го­дня мо­дель Claude 3.7 Sonnet спо­соб­на на уровне экс­пер­тов под­дер­жи­вать слож­ней­шие за­да­чи, вклю­чая на­пи­са­ние софта

Уже се­го­дня мо­дель Claude 3.7 Sonnet спо­соб­на на уровне экс­пер­тов под­дер­жи­вать слож­ней­шие за­да­чи по на­пи­са­нию про­стей­ше­го софта. За­да­чи про на­пи­са­нию про­стей­ше­го софта - слож­ней­шие для ИИ. А о под­держ­ке, экс­плу­а­та­ции и вне­се­нии из­ме­не­ний, во­об­ще, лучше не го­во­рить

Аватар пользователя Upgrade
Upgrade (3 года 1 месяц)

Встре­ча­ют­ся два коня в ко­нюшне и на­чи­на­ют рас­суж­дать за­ме­нит ли ИИ ку­че­ра.

— Слы­шал но­вость? — спра­ши­ва­ет пер­вый конь. — Го­во­рят, скоро ИИ за­ме­нит на­ше­го ку­че­ра Ивана.

— Ой, не смеши мои под­ко­вы! — фыр­ка­ет вто­рой. — Сна­ча­ла ав­то­мо­би­ли нас за­ме­ни­ли, те­перь ИИ ку­че­ров за­ме­нит. А кто мор­ков­ку в два часа ночи тре­бо­вать будет? Ал­го­ритм что ли?

— Да нет, се­рьез­но! Хо­зя­ин вчера про какую-​то "са­мо­управ­ля­е­мую по­воз­ку" го­во­рил.

— Ну и что? Пусть ИИ по­про­бу­ет в грязи по ко­ле­но те­ле­гу вы­та­щить или на мо­ро­зе в минус трид­цать за­ве­стись!

— А зна­ешь, что самое смеш­ное? — за­дум­чи­во про­из­но­сит пер­вый конь. — Когда Ивана за­ме­нят, он при­дет ра­бо­тать к нам в ко­нюш­ню. Го­во­рят, един­ствен­ная про­фес­сия, ко­то­рую ИИ точно не осво­ит — это чист­ка ко­ню­шен!

Оба коня за­ржа­ли, а ста­рый мерин из даль­не­го стой­ла про­бор­мо­тал: "Не смей­тесь рань­ше вре­ме­ни, я вчера видел робота-​пылесоса..."

Страницы

‹ предыдущая 1 2 3 4 следующая ›