Spydell: Риск когнитивной атрофии вследствие чрезмерной зависимости от систем ИИ

Человеческий мозг всегда идет по пути наименьшего сопротивления за исключением редких сценариев наличия воли для поиска и выбора краткосрочно более сложного пути, но долгосрочного более выигрышного и/или стабильного пути.

Нейронные связи, отвечающие за определенные навыки (критический анализ, системный анализ причинно-следственных связей, способность к планированию, установление динамических иерархических связей, оперирование высокоуровневыми абстракциями, расширенный список здесь), укрепляются при регулярном использовании. 

Когда эти функции делегируются ИИ, соответствующие нейронные связи активируются реже, что со временем приводит к их ослаблению. Мозг, по сути, оптимизирует свои ресурсы, "упраздняя" невостребованные когнитивные функции.

Невозможно перескочить через эволюционную последовательность, нельзя развить более сложные навыки без развития и закрепления базовых навыков. 

ИИ может предоставить практически неограниченный доступ к декларативным знаниям, но он лишает человека необходимости самостоятельно проходить через процесс проб и ошибок, который формирует глубокое, интуитивное процедурное знание с широким развитием когнитивных навыков, описывающие фундаментальные конструкции и законы этого мира.

Сложные когнитивные навыки требуют не просто анализа отдельных данных, а их синтеза в целостную картину. Речь идет о крайне сложном междисциплинарном взаимодействии в динамической среде, где идет непрерывная балансировка вероятностями и иерархиями.

ИИ-системы часто предоставляют готовый ответ или решение, скрывая процесс анализа и синтеза в "черном ящике". Пользователь получает результат, не понимая, как он был достигнут, что подрывает способность видеть взаимосвязи, оценивать систему в целом и прогнозировать каскадные эффекты от принимаемых решений.

Другими словами, люди теряют способностью к пониманию процедурных операций – как происходит кристаллизация готового решения, утрачивается способность к пониманию причинно-следственных связей, структурных характеристик и алгоритмов, логики взаимодействия и иерархии, а следовательно, люди утрачивают способность сепарации токсичных, ошибочных, либо хрупких решений от правдивых, устойчивых и стабильных.

Эксперт от новичка отличается тем, что способен практически сразу выловить ошибку еще до упаковки финального продукта, поняв момент искажения, предпринимая вариации для решения проблемы и/или улучшения результата. Новичок же за веру принимает любое выходное решение вне зависимости от правильности и/или надежности.

Есть сценарии, где ИИ полезен, когда берет на себя рутинные и вычислительно сложные операции (первичный сбор данных, сортировка информации, сравнение, обобщение и сопоставление больших массивов данных).

Это освобождает ресурсы для решения задач более высокого порядка: постановка целей, стратегическое планирование, творческий синтез, принятие решений в условиях неопределенности, но в условиях, когда у человека развиты первичные навыки по сбору, обработке, сравнению и обобщению информации).

Однако, по мере развития ИИ человечество передаст ИИ не только рутину, но и сам процесс анализа, принятия решений и генерации идей, что неизбежно ведет к атрофии не только базовых навыков по работе с информацией, но и творческих, алгоритмических, системных и навыков более высшего порядка по фундаментальному пониманию основ мироздания.

Созревание эксперта - это не накопление информации, а последовательное восхождение по эволюционной лестнице, где развитие совокупности когнитивных навыков имеет нелинейную зависимость.

Это означает, что ИИ вышибает ментальное и интеллектуальное созревание на начальном и среднем этапе, что консервирует человечество на крайне низкой глубине когнитивной эволюции.

Практически все человечество под угрозой деградации, но люди, рожденные после 2010 года в особой опасности, т.к. не знают мира без ИИ и все всяких сомнений будут намного тупее, чем более взрослое поколение, а следующее поколение еще тупее, чем существующее.