Я давно за­ни­ма­юсь ис­сле­до­ва­ни­я­ми ко­гни­тив­ных спо­соб­но­стей LLM, ещё со вре­мен, когда они впер­вые стали по­яв­лять­ся, и на­блю­даю за этим про­цес­сом с боль­шим лю­бо­пыт­ством.

Одни от­ри­ца­ют, дру­гие в вос­тор­ге, тре­тьи про­сто поль­зу­ют­ся, на­хо­дя по­лез­ное при­ме­не­ние.

Вот одно такое лю­бо­пыт­ное на­блю­де­ние.

В ходе од­но­го из экс­пе­ри­мен­тов я задал 2 про­стых во­про­са раз­ным по­пу­ляр­ным LLM, и все они при­бли­зи­тель­но оди­на­ко­во на него от­ве­ти­ли. И в целом вполне адек­ват­но, даже при­драть­ся, по боль­шо­му счёту, не к чему.

Во­об­ще, я с не то, что с недо­ве­ри­ем, я с пре­не­бре­же­ни­ем от­но­шусь к ис­кус­ствен­но­му ин­тел­лек­ту. Я по­ни­маю, что ИИ не спо­со­бен (и думаю, ни­ко­гда не будет спо­со­бен) твор­че­ски ре­шать за­да­чи, как че­ло­век, что все так на­зы­ва­е­мое обу­че­ние сво­дит­ся осво­е­нию опуб­ли­ко­ван­ных ал­го­рит­мов ре­ше­ния задач, а хотя бы для по­ни­ма­ния ряда ал­го­рит­мов тре­бу­ет­ся прак­ти­ка их ре­а­ли­за­ции с об­рат­ной свя­зью, по­ло­жи­тель­ной и от­ри­ца­тель­ной, не го­во­ря уже о со­зда­нии ал­го­рит­мов ре­ше­ния при­клад­ных ре­аль­ных, в смыс­ле не вир­ту­аль­ных, задач.

Пра­ви­тель­ство Ис­па­нии во втор­ник (11 марта) одоб­ри­ло за­ко­но­про­ект, на­ла­га­ю­щий огром­ные штра­фы на ком­па­нии, ко­то­рые ис­поль­зу­ют кон­тент, со­здан­ный ис­кус­ствен­ным ин­тел­лек­том (ИИ), без над­ле­жа­щей мар­ки­ров­ки этого кон­тен­та, в по­пыт­ке огра­ни­чить ис­поль­зо­ва­ние так на­зы­ва­е­мых «дипфей­ков».

В на­ча­ле года из­да­тель­ство «Книж­ный мир» вы­пу­сти­ло в свет в свет книгу «ИИ (Ис­кус­ствен­ный ин­тел­лект): на войне, в раз­вед­ке, в борь­бе с кри­ми­на­лом» (ав­то­ры: Е.С. Ла­ри­на и В.В. Ов­чин­ский).

Ав­то­ры:

Вла­ди­мир Се­мё­но­вич Ов­чин­ский — со­вет­ский и рос­сий­ский кри­ми­но­лог, генерал-​​майор ми­ли­ции в от­став­ке, док­тор юри­ди­че­ских наук. За­слу­жен­ный юрист Рос­сий­ской Фе­де­ра­ции.

С раз­ви­ти­ем тех­но­ло­гий ис­кус­ствен­но­го ин­тел­лек­та по­яв­ля­ет­ся всё боль­ше ал­го­рит­мов, при­зван­ных уско­рить и ав­то­ма­ти­зи­ро­вать вы­пол­не­ние по­все­днев­ных задач. Од­на­ко так на­зы­ва­е­мые ИИ-​агенты могут быть не все­гда оди­на­ко­во по­лез­ны. Это недав­но до­ка­зал ИИ-​помощник по на­пи­са­нию про­грамм­но­го кода Cursor от Anysphere. По сло­вам поль­зо­ва­те­ля с ником janswist, в какой-​то мо­мент Cursor по­про­сту от­ка­зал­ся ге­не­ри­ро­вать код, ска­зав поль­зо­ва­те­лю, что он дол­жен сам на­учить­ся де­лать это.

В США пред­ла­га­ют по­ме­шать раз­ви­вать ИИ в дру­гих стра­нах фи­зи­че­ским уни­что­же­ни­ем ЦОДов, ди­вер­си­я­ми и ки­бе­р­ата­ка­ми

"Ис­кус­ствен­ный ин­тел­лект - это бу­ду­щее не толь­ко Рос­сии, это бу­ду­щее всего че­ло­ве­че­ства. Здесь ко­лос­саль­ные воз­мож­но­сти и труд­но про­гно­зи­ру­е­мые се­го­дня угро­зы"

В.В. Путин

За­прос на ре­гу­ля­цию AI-​индустрии от Anthropic, от­прав­лен на­пря­мую в Белый дом США:

АЛИСА ПО­ВЗРОС­ЛЕ­ЛА

В июне 2023 года я опуб­ли­ко­вал тут ста­тью «Диа­лог с Али­сой». Вывод сде­лал удру­ча­ю­щий:   «это не ис­кус­ствен­ный ин­тел­лект, даже не его ими­та­ция, и даже не информационно-​​спра­воч­ная си­сте­ма, а какой-​​то ин­фор­ма­ци­он­ный по­пу­гай». А тут в на­ча­ле года  сразу DeepSeek бес­плат­но, да еще и на рус­ском, и наши под­су­е­ти­лись с YandexGPT 5 Pro. Решил по­про­бо­вать. Начал с DeepSeek. Три дня Гугл меня не пус­кал. По­ста­вил  Алису с YandexGPT 5 Pro, стал юзать. Ин­фор­ма­цию ищет быст­ро. Уже хо­ро­шо, но как до­ста­точ­но глу­бо­ко?

О со­рев­но­ва­нии в ИИ между США и КНР, при чем здесь тер­ри­то­ри­аль­ные пре­тен­зии на Ка­на­ду и Грен­лан­дию и надо ли РФ участ­во­вать в гонке.

На про­шлой неде­ле раз­ви­лась на­сто­я­щая ис­те­ри­ка по по­во­ду новой боль­шой линг­ви­сти­че­ской мо­де­ли DeepSeek, раз­ра­бо­тан­ной од­но­имен­ной ки­тай­ской ком­па­ни­ей. Эта мо­дель на раз­ных те­стах по­ка­зы­ва­ет ре­зуль­та­ты ге­не­ра­ции тек­стов и рас­суж­де­ний не хуже, а ино­гда и лучше, чем у аме­ри­кан­ских мо­де­лей. Это вы­зва­ло шок на За­па­де и даже об­ру­ше­ние аме­ри­кан­ских акций ком­па­ний из от­рас­ли ИИ.  

На­ткнул­ся тут на под­бор­ку ссы­ло­чек на одном сайте на тему за­ме­ще­ния людей на ра­бо­чих ме­стах на ИИ-​агентов. Предо­став­ляю ее ва­ше­му вни­ма­нию.

Из ста­тей ско­пи­ро­ва­ны и пе­ре­ве­де­ны ИИ-​переводчиком (про­сти­те меня, пе­ре­вод­чи­ки) за­го­ло­вок ста­тьи, под­за­го­ло­вок и пер­вые 3 аб­за­ца.

1. Ка­ли­фор­ний­ская ком­па­ния Intuit уволь­ня­ет 1800 со­труд­ни­ков, чтобы под­го­то­вить­ся к «ре­во­лю­ции ИИ

12 июля 2024 года.

Ка­ли­фор­ний­ская ком­па­ния Intuit, за­ни­ма­ю­ща­я­ся под­го­тов­кой на­ло­гов и раз­ра­бот­кой фи­нан­со­во­го про­грамм­но­го обес­пе­че­ния, объ­яви­ла о плане ре­ор­га­ни­за­ции, ори­ен­ти­ро­ван­ном на ИИ, уво­лив более 1000 со­труд­ни­ков.

Intuit, ка­ли­фор­ний­ская ком­па­ния, из­вест­ная та­ки­ми про­дук­та­ми, как TurboTax, Credit Karma и Mailchimp, уволь­ня­ет 1800 со­труд­ни­ков, что со­став­ля­ет 10 % ее штата, в рам­ках под­го­тов­ки к «ре­во­лю­ции ИИ».

По дан­ным SFGATE, почти 600 из этих уволь­не­ний про­изой­дут в Ка­ли­фор­нии, при­чем 384 со­труд­ни­ка по­стра­да­ют в Маунтин-​Вью и 215 - в Сан-​Диего.

В своем об­ра­ще­нии к со­труд­ни­кам ге­не­раль­ный ди­рек­тор Intuit Сасан Гу­дар­зи за­явил, что ком­па­ния на­хо­дит­ся в «силь­ной по­зи­ции» для ис­поль­зо­ва­ния ин­но­ва­ций, ос­но­ван­ных на ис­кус­ствен­ном ин­тел­лек­те, но ей необ­хо­ди­мо «уско­рить наши ин­но­ва­ции и ин­ве­сти­ции в те об­ла­сти, ко­то­рые наи­бо­лее важны для на­ше­го бу­ду­ще­го успе­ха». В рам­ках этой стра­те­гии ком­па­ния при­ня­ла «крайне бо­лез­нен­ное ре­ше­ние» уво­лить сотни со­труд­ни­ков.

https://www.hindustantimes.com/world-​news/us-​news/californiabased-​intuit-lays-off-1800-​employees-to-prepare-for-ai-revolution-101720766694685.html

1. Это слу­чит­ся скоро. Пре­зен­та­ция НАСА под на­зва­ни­ем «Бу­ду­щие стра­те­ги­че­ские про­бле­мы/Бу­ду­щие войны (около 2025 года)» НАСА пред­став­ля­ет план по уни­что­же­нию че­ло­ве­че­ства, ко­то­рый вклю­ча­ет по­яв­ле­ние ки­бор­гов и «вир­ту­аль­ных людей».  В пре­зен­та­ции люди опи­са­ны как “раз­но­вид­ность чумы на кос­ми­че­ском ко­раб­ле Земля”.

Ис­кус­ствен­ный ин­тел­лект спо­со­бен со­здать с точ­но­стью 85 про­цен­тов копию лю­бо­го че­ло­ве­ка, по­тра­тив на это всего 2 часа. Уточ­ним: не внеш­ний облик, не голос, а по­ве­де­ние в раз­лич­ных си­ту­а­ци­ях, черты ха­рак­те­ра сво­е­го ре­аль­но­го про­то­ти­па. Об этом ис­сле­до­ва­нии пишут в arXiv.org спе­ци­а­ли­сты Google и Стэн­форд­ско­го уни­вер­си­те­та.

Раз­ра­бо­тан­ные ве­ду­щи­ми ма­те­ма­ти­ка­ми новые урав­не­ния ока­за­лись не под силу самым про­дви­ну­тым боль­шим язы­ко­вым мо­де­лям (LLM). Это в оче­ред­ной раз по­ка­за­ло, что ис­кус­ствен­ный ин­тел­лект в его ны­неш­нем виде далёк от со­вер­шен­ства, по­сколь­ку непра­виль­но трак­ту­ет за­да­чи, что, в свою оче­редь, при­во­дит к лож­ным ре­зуль­та­там.

ИИ не справ­ля­ет­ся с ма­те­ма­ти­кой

По­че­му мы ждем от ИИ пол­ных и пра­виль­ных от­ве­тов на любые во­про­сы? Есть ли у нас ос­но­ва­ния для этого? От­дель­ные мысли ко­ро­тень­ко по этому по­во­ду.

На­ве­я­ло об­суж­де­ни­я­ми дерз­ко­го по­ве­де­ния ИИ-​чата, ко­то­рый ре­ко­мен­до­вал ко­жа­но­му мешку уме­реть (раз, два и три).

Дже­ми­ни — гуг­лов­ский ана­лог нашей Алисы — до­ста­точ­но умён, чтобы де­лать для школь­ни­ков и сту­ден­тов до­маш­ние ра­бо­ты. По­за­вче­ра некий сту­дент из Ми­чи­га­на пы­тал­ся за­ста­вить ро­бо­та на­пи­сать ре­фе­рат по ге­рон­то­ло­гии, под­ки­ды­вая ма­шине во­про­сы из ме­то­ди­че­ско­го по­со­бия. Когда дело дошло до об­суж­де­ния аме­ри­кан­ских детей, ко­то­рых вос­пи­ты­ва­ют ба­буш­ки и де­душ­ки, Дже­ми­ни вне­зап­но по­рвал­ся и выдал сту­ден­ту очень лич­ное об­ра­ще­ние. Ци­ти­рую (ссыл­ка):
 

На­ве­я­но  ком­мен­та­ми из преды­ду­щих ста­тей:

Homo 2.0:

ИИ из за того что у него нет тела, через ко­то­рое он по­лу­ча­ет ре­аль­ные жиз­нен­ные опыт, не от­ли­ча­ет безу­мие от нормы.

Так что я вам га­ран­ти­рую, ИИ вос­пи­тан­ный на ин­тер­не­те, со­вер­шен­но га­ран­ти­ро­ван­но будет 150% пси­хо­па­том .

Вве­де­ние.
Я не ра­бо­таю кон­крет­но в этой сфере, но имею боль­шой опыт в смеж­ных, гра­нич­ных.
От ге­не­ра­ции (с ба­наль­ных цепей Мар­ко­ва) и рас­поз­но­ва­ния кон­тен­та, до про­грам­ми­ро­ва­ния, пря­мо­го ана­ли­за ин­фор­ма­ции и вот это вот всё.

У аме­ри­кан­ских ком­па­ний Google, OpenAI и Anthropic на­ча­лись про­бле­мы с со­зда­ни­ем новых мо­де­лей ИИ из-за нехват­ки ка­че­ствен­ных дан­ных, со­об­щи­ли ис­точ­ни­ки.

Нехват­ка ка­че­ствен­ных дан­ных для обу­че­ния ней­ро­се­тей огра­ни­чи­ва­ет спо­соб­ность со­зда­вать более со­вер­шен­ные ИИ-​системы, со­об­щи­ли со­бе­сед­ни­ки Bloomberg, пе­ре­да­ет ТАСС.

О неод­но­знач­ных про­бле­мах раз­ви­тия си­стем ис­кус­ствен­но­го ин­тел­лек­та (ИИ), обес­пе­че­ния тех­но­ло­ги­че­ско­го су­ве­ре­ни­те­та в этой важ­ней­шей об­ла­сти кор­ре­спон­дент "РГ" бе­се­ду­ет с на­уч­ным ру­ко­во­ди­те­лем Научно-​исследовательского ин­сти­ту­та си­стем­ных ис­сле­до­ва­ний РАН ака­де­ми­ком Вла­ди­ми­ром Бе­те­ли­ным.

^{Chegg — американская образовательная компания, базирующаяся в Санта-Кларе, Калифорния, основана в 2005 году. Она предоставляет цифровые и физические учебники напрокат, онлайн-репетиторство и другие услуги для студентов. Chegg базируется в Калифорнии, но основная деятельность компании осуществляется в Индии, где на нее работает более 70 000 дипломированных специалистов в области математики, естественных наук, технологий и инженерии. Эксперты, работающие на сдельной основе, находятся онлайн 24/7 и подробно отвечают на вопросы подписчиков, иногда ответ приходит менее чем через 15 минут.}