В качестве предварительного замечания напомню о свойствах систем равновесия.

После чего приведу выдержки из подборки Варракса:

Перевод поста с Reddit:

То, как моя младшая сестра использует ChatGPT для выполнения домашнего задания, — удручает.

Ей 11 лет, и она учится в последнем классе начальной школы. Она использует мой аккаунт ChatGPT, поэтому я могу просматривать прошлые переписки и видеть, что она пишет, и, черт возьми, поколение альфа совсем пропало. Она начинает с того, что просит ChatGPT перевести 3 минуты в секунды. Окей, можно сказать, что это нормально — возможно, ей просто показался сложным именно этот вопрос, верно? (Хотя 11-летний ребенок определенно должен понимать, что в 3 минутах 180 секунд.) НО ДЕЛО В ТОМ, что она продолжает просить ChatGPT решать абсолютно ВСЕ вопросы из своей двухстраничной домашки по математике. Причем это ОЧЕНЬ ПРОСТЫЕ ВОПРОСЫ, например, сколько часов в 1 дне и 7 часах — это буквально просто 24 + 7, и она спросила это у ChatGPT, даже не попытавшись решить сама.

И на этом всё не заканчивается. Затем она просит ChatGPT сделать её задание по чтению. Она говорит ему написать анализ для, кстати, ОЧЕНЬ ПРОСТОГО стихотворения на 150 слов, которое ей нужно разобрать, а потом просто копирует вопросы из задания. При этом она даже не копирует хорошо структурированный длинный ответ, который дает ChatGPT. Она просит сделать его короче, а потом, даже когда ChatGPT сокращает ответ до буквально одного предложения, она снова просит сделать его короче, превращая это в предложение уровня первоклассника из 7 слов, и просто копирует его, не понимая ни ответа, ни стихотворения, и даже не читая его. Она НИКОГДА, даже если не делает сама, не читает, что отвечает ChatGPT. Она просто тупо копирует и вставляет, пока на фоне идет «Игра в кальмара».

Если так делают многие школьники, то будущее выглядит мрачным. Послушайте, поколение Z способно писать и отвечать, но использует ChatGPT из-за лени. А поколению альфа ПРИДЕТСЯ его использовать, потому что они даже не будут способны сделать это сами.

ИМХО показательно и наглядно.

Тут много есть чего сказать на тему, но занят и настроения закапываться нет.

Далее по ссылке, кстати, стандартные глупости на тему образования а ля Фриц Морген: мол, «AI нужно рассматривать не как угрозу, а как мощный инструмент обучения. Стоит учить детей... Критически оценивать полученные ответы».

Знакомый подход: «Идите нафиг, маленькие слабые мыши, я — стратег, а не тактик!» (с)

Вот откуда возьмётся это самое критическое мышление (а также эрудиция, да и вообще умение мыслить) при таком подходе, как описано?

И-23: лично мне тут видится регрессивная тенденция подмена решения задачи посредством ПСС с надстройкой ВСС набором базовых первосигнальных реакций, сопрягаемых не с второсигнальной надстройкой организма, но с *внешним* чёрным ящиком. С полным набором следствий.

…

[И размышлизмы Спайделла в духе заветов князя Кропоткина]

Человеческий мозг всегда идет по пути наименьшего сопротивления за исключением редких сценариев наличия воли для поиска и выбора краткосрочно более сложного пути, но долгосрочного более выигрышного и/или стабильного пути.

Нейронные связи, отвечающие за определенные навыки (критический анализ, системный анализ причинно-следственных связей, способность к планированию, установление динамических иерархических связей, оперирование высокоуровневыми абстракциями, расширенный список здесь), укрепляются при регулярном использовании.

Когда эти функции делегируются ИИ, соответствующие нейронные связи активируются реже, что со временем приводит к их ослаблению. Мозг, по сути, оптимизирует свои ресурсы, "упраздняя" невостребованные когнитивные функции.

Невозможно перескочить через эволюционную последовательность, нельзя развить более сложные навыки без развития и закрепления базовых навыков.

ИИ может предоставить практически неограниченный доступ к декларативным знаниям, но он лишает человека необходимости самостоятельно проходить через процесс проб и ошибок, который формирует глубокое, интуитивное процедурное знание с широким развитием когнитивных навыков, описывающие фундаментальные конструкции и законы этого мира.

Сложные когнитивные навыки требуют не просто анализа отдельных данных, а их синтеза в целостную картину. Речь идет о крайне сложном междисциплинарном взаимодействии в динамической среде, где идет непрерывная балансировка вероятностями и иерархиями.

ИИ-системы часто предоставляют готовый ответ или решение, скрывая процесс анализа и синтеза в "черном ящике". Пользователь получает результат, не понимая, как он был достигнут, что подрывает способность видеть взаимосвязи, оценивать систему в целом и прогнозировать каскадные эффекты от принимаемых решений.

Другими словами, люди теряют способностью к пониманию процедурных операций – как происходит кристаллизация готового решения, утрачивается способность к пониманию причинно-следственных связей, структурных характеристик и алгоритмов, логики взаимодействия и иерархии, а следовательно, люди утрачивают способность сепарации токсичных, ошибочных, либо хрупких решений от правдивых, устойчивых и стабильных.

Эксперт от новичка отличается тем, что способен практически сразу выловить ошибку еще до упаковки финального продукта, поняв момент искажения, предпринимая вариации для решения проблемы и/или улучшения результата. Новичок же за веру принимает любое выходное решение вне зависимости от правильности и/или надежности.

Есть сценарии, где ИИ полезен, когда берет на себя рутинные и вычислительно сложные операции (первичный сбор данных, сортировка информации, сравнение, обобщение и сопоставление больших массивов данных).

Это освобождает ресурсы для решения задач более высокого порядка: постановка целей, стратегическое планирование, творческий синтез, принятие решений в условиях неопределенности, но в условиях, когда у человека развиты первичные навыки по сбору, обработке, сравнению и обобщению информации).

Однако, по мере развития ИИ человечество передаст ИИ не только рутину, но и сам процесс анализа, принятия решений и генерации идей, что неизбежно ведет к атрофии не только базовых навыков по работе с информацией, но и творческих, алгоритмических, системных и навыков более высшего порядка по фундаментальному пониманию основ мироздания.

Созревание эксперта - это не накопление информации, а последовательное восхождение по эволюционной лестнице, где развитие совокупности когнитивных навыков имеет нелинейную зависимость.

Это означает, что ИИ вышибает ментальное и интеллектуальное созревание на начальном и среднем этапе, что консервирует человечество на крайне низкой глубине когнитивной эволюции.

Практически все человечество под угрозой деградации, но люди, рожденные после 2010 года в особой опасности, т.к. не знают мира без ИИ и все всяких сомнений будут намного тупее, чем более взрослое поколение, а следующее поколение еще тупее, чем существующее.

…