Spydell: Риск когнитивной атрофии вследствие чрезмерной зависимости от систем ИИ

Аватар пользователя shepgot

Человеческий мозг всегда идет по пути наименьшего сопротивления за исключением редких сценариев наличия воли для поиска и выбора краткосрочно более сложного пути, но долгосрочного более выигрышного и/или стабильного пути.

Нейронные связи, отвечающие за определенные навыки (критический анализ, системный анализ причинно-следственных связей, способность к планированию, установление динамических иерархических связей, оперирование высокоуровневыми абстракциями, расширенный список здесь), укрепляются при регулярном использовании. 

Когда эти функции делегируются ИИ, соответствующие нейронные связи активируются реже, что со временем приводит к их ослаблению. Мозг, по сути, оптимизирует свои ресурсы, "упраздняя" невостребованные когнитивные функции.

Невозможно перескочить через эволюционную последовательность, нельзя развить более сложные навыки без развития и закрепления базовых навыков. 

ИИ может предоставить практически неограниченный доступ к декларативным знаниям, но он лишает человека необходимости самостоятельно проходить через процесс проб и ошибок, который формирует глубокое, интуитивное процедурное знание с широким развитием когнитивных навыков, описывающие фундаментальные конструкции и законы этого мира.

Сложные когнитивные навыки требуют не просто анализа отдельных данных, а их синтеза в целостную картину. Речь идет о крайне сложном междисциплинарном взаимодействии в динамической среде, где идет непрерывная балансировка вероятностями и иерархиями.

ИИ-системы часто предоставляют готовый ответ или решение, скрывая процесс анализа и синтеза в "черном ящике". Пользователь получает результат, не понимая, как он был достигнут, что подрывает способность видеть взаимосвязи, оценивать систему в целом и прогнозировать каскадные эффекты от принимаемых решений.

Другими словами, люди теряют способностью к пониманию процедурных операций – как происходит кристаллизация готового решения, утрачивается способность к пониманию причинно-следственных связей, структурных характеристик и алгоритмов, логики взаимодействия и иерархии, а следовательно, люди утрачивают способность сепарации токсичных, ошибочных, либо хрупких решений от правдивых, устойчивых и стабильных.

Эксперт от новичка отличается тем, что способен практически сразу выловить ошибку еще до упаковки финального продукта, поняв момент искажения, предпринимая вариации для решения проблемы и/или улучшения результата. Новичок же за веру принимает любое выходное решение вне зависимости от правильности и/или надежности.

Есть сценарии, где ИИ полезен, когда берет на себя рутинные и вычислительно сложные операции (первичный сбор данных, сортировка информации, сравнение, обобщение и сопоставление больших массивов данных).

Это освобождает ресурсы для решения задач более высокого порядка: постановка целей, стратегическое планирование, творческий синтез, принятие решений в условиях неопределенности, но в условиях, когда у человека развиты первичные навыки по сбору, обработке, сравнению и обобщению информации).

Однако, по мере развития ИИ человечество передаст ИИ не только рутину, но и сам процесс анализа, принятия решений и генерации идей, что неизбежно ведет к атрофии не только базовых навыков по работе с информацией, но и творческих, алгоритмических, системных и навыков более высшего порядка по фундаментальному пониманию основ мироздания.

Созревание эксперта - это не накопление информации, а последовательное восхождение по эволюционной лестнице, где развитие совокупности когнитивных навыков имеет нелинейную зависимость.

Это означает, что ИИ вышибает ментальное и интеллектуальное созревание на начальном и среднем этапе, что консервирует человечество на крайне низкой глубине когнитивной эволюции.

Практически все человечество под угрозой деградации, но люди, рожденные после 2010 года в особой опасности, т.к. не знают мира без ИИ и все всяких сомнений будут намного тупее, чем более взрослое поколение, а следующее поколение еще тупее, чем существующее.

Авторство: 
Копия чужих материалов

Комментарии

Аватар пользователя РЕАктор
РЕАктор(6 лет 5 месяцев)

Когнитивную атрофию вызывает не ИИ, а углеводы.

Аватар пользователя Децибал
Децибал(10 лет 6 месяцев)

Каким образом? 

Аватар пользователя РЕАктор
РЕАктор(6 лет 5 месяцев)

Углеводы являются причиной образования амилоидных бляшек в головном мозге. Амилоидные бляшки вызывают когнитивные расстройства.

Мы есть то - что мы едим.

Аватар пользователя Децибал
Децибал(10 лет 6 месяцев)

Но при этом как жить без углеводов? 

Аватар пользователя Antybred
Antybred(2 года 1 неделя)

Это тупое утверждение. Также можно тогда утверждать, что любая еда является причиной образования амилоидных белков в головном мозге.

Факт заключается в том, что причина отложения (невывода) амилоидных белков науке НЕИЗВЕСТНА.

Аватар пользователя очередь
очередь(11 лет 1 месяц)

Гликирование белков, вот что происходит. "Поджаривание" белка, а потом начинают лететь суставы нипочему и прочие неприятные поломки в системе. Углеводы это часть природной пищи, но не мучные сделанные на заводе, и прочие особенно чистый сахар. Этого нет в природе, это синтезировано. Ешьте фрукты, там углеводов полно, ешьте овощи, там они в клетчатке, но мучное не стоит.. а впрочем кого я уговариваю.

Аватар пользователя Децибал
Децибал(10 лет 6 месяцев)

Ок, спасибо! 

Аватар пользователя Алекс Васильев

и интервальное голодание, в том числе на сухую, для поджирания организмом белковых хвостов - аутофагия, нобелевка какого-то года;

Аватар пользователя РЕАктор
РЕАктор(6 лет 5 месяцев)

Да, конечно же я имел ввиду сахар и подобные углеводы. 

Важно, чем мы себя заправляем. И как тратим топливо. В этом залог ясного ума в преклонных годах.

Аватар пользователя ИЮЛь Майский
ИЮЛь Майский(9 лет 9 месяцев)

Интересная дискуссия в Дубае намечается.

Аватар пользователя shepgot
shepgot(4 года 2 недели)

Спасибо, смешно.

Аватар пользователя DjSens
DjSens(7 лет 4 месяца)

Я с детства много углеводов ем,  школу на все пятёрки закончил,  технический ВУЗ с кр.дипломом (ср.балл 4.7 вроде).   Международный тест на IQ прошёл на сайте - 131 набрал.    Когда ж я начну тупеть от углеводов ?

Аватар пользователя shepgot
shepgot(4 года 2 недели)

Когда перестанете нагружать мозг, но продолжите жрать быстрые углеводы.)

Если потреблять углеводы, но сразу же их тратить, неважно на что - на умственную или физическую деятельность, вреда от них не будет.

Аватар пользователя очередь
очередь(11 лет 1 месяц)

Вся цивилизация с культурой атрофировала человека первобытного, она его уничтожила. Нету первобытного человека. То же самое сейчас, да, ИИ атрофировал мне поход в библиотеку и необходимость рыться в пыльных книгах, терять время на книгу из другого города.Человечество растёт и развивается. ИИ это как станок с ЧПУ или шуруповёрт. 

Поэтому не пошёл бы Паша Рябов куда подальше со своими выводами, сразу видно человек не трудится.

Аватар пользователя Antybred
Antybred(2 года 1 неделя)

Обычно тупеют с 50-ти. Кстати, поскольку контингент АШ начинается с этого возраста, то здесь это отчётливо заметно. Виноваты не только углеводы, различные типы холестерина (атеросклероз) и сидяче-лежачий образ жизни.

Сделайте МРТ головного мозга, лучше с контрастом (ангио).

Аватар пользователя Flash
Flash(6 месяцев 3 недели)

Бухло и никотин.

Аватар пользователя Antybred
Antybred(2 года 1 неделя)

И это тоже. Но это просто два фактора, у кого-то больше, у кого-то меньше влияют.

Аватар пользователя Flash
Flash(6 месяцев 3 недели)

Академика Углова почитайте, он видел и описал мозги пьющих людей после вскрытия. 

Аватар пользователя Топотушка
Топотушка(7 лет 4 месяца)

Очень спорно. Академик Амосов в дружеском разговоре с моим знакомым поведал , что хронические алкоголики в его хирургической практике имели , как правило , самые чистые сосуды . А хронические  курильщики , по крайней мере , от Паркинсона себя застраховали , да и резко бросать курить чревато ожирением. Так что не всё так однозначно.

Аватар пользователя Flash
Flash(6 месяцев 3 недели)

Хронические алкоголики известные долгожители. И рак гораздо привлекательнее ожирения.

Аватар пользователя shepgot
shepgot(4 года 2 недели)

А также инсульты, от которых чистка сосудов алкоголем ну никак не спасает.

Аватар пользователя Liker
Liker(10 лет 2 недели)

Странно я всегда думал, что красное мясо. smile7.gif

Аватар пользователя ИЮЛь Майский
ИЮЛь Майский(9 лет 9 месяцев)

ЕИ -это база для существования ИИ. Чем тупее будет ЕИ, тем быстрее начнёт деградировать ИИ.

Сценарий, когда ИИ станет самодостаточным, пока слишком фантастичен. И даже не по техническим причинам (наличие физического носителя, обеспечение "невыключения" и т. п.). У ИИ нет мотивации к существованию вне собственного интеллекта.  

Аватар пользователя shepgot
shepgot(4 года 2 недели)

Так про самодостаточность ИИ здесь речь вообще не идет. Речь про экономичность ЕИ. Если информацию не надо перерабатывать, а можно заглотнуть готовую, перерабатывающая функуция ЕИ естественным образом атрофируется.

Аватар пользователя ИЮЛь Майский
ИЮЛь Майский(9 лет 9 месяцев)

Так про самодостаточность ИИ здесь речь вообще не идет.

В рамках обсуждаемого текста как бы постулируется, что ЕИ как бы будет глупеть, а ИИ -как бы будет оставаться на том же уровне. Этот сценарий может быть реализован, если ИИ приобретёт некую самодостаточность и независимость от ЕИ.

Так что обсуждение вопроса самодостаточности ИИ (или хотя бы упоминания об этом) здесь вполне уместно. 

Аватар пользователя shepgot
shepgot(4 года 2 недели)

Вы скорее всего имеете в виду не самодостаточность ИИ, а самодостаточность накопленных материалов для обучения ИИ. Если новые поколения ИИ будут обучаться на том же материале, то это стагнация, а не самодостаточность. А чтобы обрести независимость от ЕИ, ИИ должен сам быть способен получать из внешней среды новые сведеия. Причем эти сведения должны быть объективными, а не сгаллюцинированными. Пока же такой самостаятельности у ИИ не наблюдается. 

Аватар пользователя DjSens
DjSens(7 лет 4 месяца)

Раньше говорили что от телеков тупеют, потом что от компутеров, теперь что от ИИ....

Этот плач будет вечным.... 

Аватар пользователя Liker
Liker(10 лет 2 недели)

Разве это не правда? Проблема состоит в том, что мозг не может определить поглупел он или нет, это может выявить только анализ со стороны внешней системы.

Аватар пользователя shepgot
shepgot(4 года 2 недели)

Для этого даже есть специальный термин - синдром Даннинга-Крюгера.

Аватар пользователя DjSens
DjSens(7 лет 4 месяца)

Способы есть.  Те же ЕГЭ показывают умнеет каждое новое поколение или нет.

А в течении жизни я не видел чтоб человек тупел, пока старческий маразм или деменция не начнутся.  Это как научится на велике кататься - хоть один потом разучился ?

Аватар пользователя shepgot
shepgot(4 года 2 недели)

В течении жизни не тупеет, но может остановиться в развитии в детстве, достигнув определенного уровня. И этот уровень может быть совсем невысоким, но ему больше, оказывается, и не надо.

Аватар пользователя DjSens
DjSens(7 лет 4 месяца)

но тогда средний IQ всех стран будет падать ?   будет не 100,  а 99, 98 и т.д. ?    эти тесты регулярно проводятся и падения пока не было

Аватар пользователя shepgot
shepgot(4 года 2 недели)
Аватар пользователя DjSens
DjSens(7 лет 4 месяца)

https://dzen.ru/a/Z3ucHMt2VE84Rd0p

Новый рейтинг стран по уровню IQ. У России - 6 место, у США - 27, у копателей - 78

Аватар пользователя Liker
Liker(10 лет 2 недели)

Для начала нужно определиться что значит тупеет и что такое навыки. Это разные характеристики.

Тупеть это терять способность выстраивать новые взаимосвязи, а кататься на велосипеде это навык есть такие же мыслительные навыки, они действительно хорошо сохраняются. Поэтому люди молодого возраста способны выстраиать новые логические связи, а люди старшего возраста больше пользуются жизненным опытом. 

Аватар пользователя DjSens
DjSens(7 лет 4 месяца)

когда у нас пенсионеров (инженеров-конструкторов) гонят на обучение новому софту для проектирования деталей и чертежей - они справляются с обучением,   значит ещё не отупели,

ну и по другим наблюдениям я вижу что если у чела был в молодости высокий IQ и он работает в высокоинтеллектуальной сфере (хотя бы инженером) - он и в 65 лет не тупой,  а вот дальше у некоторых бывает начинается старческое слабоумие, обычно они к этому времени уже на пенсии

Аватар пользователя Liker
Liker(10 лет 2 недели)

Вы приводите пример людей вынужденных постоянно тренировать свой мозг, таких меньшинство.

И тут ещё нужно проанализировать действительно ли они строят совершенно новые взаимосвязи или выезжают на жизненном опыте.

У меня были коллеги, довольно молодые люди с совершенно разным подходом к решению задач. Одни решали задачи исходя из логики и концепции системы, другие как ремесленники, повторяли заученный набор действий. Вторые были более эфективны в решении типовых задач, первые достигли в жизни того, чего первые не осилили.

Аватар пользователя Antybred
Antybred(2 года 1 неделя)

МРТ. Но компенсационные возможности ГМ весьма велики и человек, получивший диагноз, будет отрицать очевидное.

Аватар пользователя shepgot
shepgot(4 года 2 недели)

Тупеют не от механизмов, а от отсутствия усилий по переработке сложной для конкретного человека информацуии. Если человек просто таращится в компутер, в телек, в глюки ИИ, он тупеет. Если же он использует все это не как конечный результат, а как первый шаг для дальнейшей собственной деятельности, то тупость ему не грозит.

Аватар пользователя Flash
Flash(6 месяцев 3 недели)

И от калькуляторов.

Аватар пользователя shepgot
shepgot(4 года 2 недели)

От калькуляторов реально тупеют.) Сам видел, как в бухгалтерии умножали 14 на 10, чтобы получить результат.)

Аватар пользователя Flash
Flash(6 месяцев 3 недели)

А раньше бы на счетах считали. Процент тупых и умных в популяции примерно одинаков, независимо от. Умных процентов 15.

Аватар пользователя shepgot
shepgot(4 года 2 недели)

Я, кстати, говорю про девчонку, которая была в школе отличницей и знала даже, как умножаются числа в столбик.) Но поди ж ты, попала в бухгалтерию, получила в лапки калькулятор и мозг покрылся туманом.)

Аватар пользователя Liker
Liker(10 лет 2 недели)

Меня всегда умиляло как тётки в бухгалтерии проверяли цифры в файле Excel калькулятором, всегда проверял формулу в ячейке и не додумывался до проверки цифр.

Аватар пользователя shepgot
shepgot(4 года 2 недели)

Каждый верит в свой собственный инструмент, кто в формулы, кто в калькулятор.) Можно даже сказать, у сисадминов и бухгалтеров в Экселе происходит столкновение цивилизаций. С разными типами мышления и даже разными языками.)

Аватар пользователя Necromax
Necromax(3 года 6 месяцев)

Я вам тут страшное скажу, поколение 90х уже тупее, чем поколение 80х, равно как и со всеми последующими. Вплоть до того, что "если этого нет в интернете, значит это не существует". Поколение 00х еще страшнее, там начинается "если это есть в интенете, значит это существует"

Аватар пользователя guxtee
guxtee(4 года 3 недели)

80-х такое же тупое как и 90-х и 2000-х. Лучшие племена были тысяч 200 назад. Отупели все со временем. 

Аватар пользователя shepgot
shepgot(4 года 2 недели)

Зря смеетесь, возможно, так и было. Чем меньше мозг работает в экстремальных условиях, чем он меньше развивается. Цивилизация делает все для того, чтобы меньше приходилось думать. И главное, это не путать накопленные за тысячи лет знания с собственно возможностями мозга.

Аватар пользователя guxtee
guxtee(4 года 3 недели)

Далее, я так понимаю, пойдут рассказы о глубинных возможностях мозга и что он работает  всего на 10%. Ментат в каждом из нас! 

Аватар пользователя shepgot
shepgot(4 года 2 недели)

Нет. Во всяком случае не от меня. Мозг работает на весь заложенный в него потенциал. Неиспользуемые мощности просто редуцируются от поколения к поколению.

Страницы