«Что происходит с мозгом, когда ChatGPT делает работу за вас «

«Чтобы расти, нужны усилия и паузы без экранов.

Зайдите в лабораторию MIT Media Labв Кембридже — и будущее будто становится ближе. В стеклянных витринах лежат странные и забавные прототипы, от настольных мини-роботов до сюрреалистичной скульптуры, которую нейросеть придумала по просьбе сделать чайный набор из частей тела. В холле стоит помощник по сортировке мусора по имени Oscar, он подсказывает, куда выбросить бумажный стакан. На пятом этаже исследователь Наталия Космина работает над носимыми интерфейсами мозг-компьютер. Она надеется, что однажды они помогут людям с нейродегенеративными заболеваниями, например с БАС, общаться силой мысли.

Часть её времени уходит на то, чтобы читать и анализировать сигналы мозга. В другом проекте она создаёт носимое устройство — один из прототипов похож на очки. Оно пытается понять, когда человек начинает путаться в мыслях или теряет концентрацию. Примерно два года назад Космина начала получать письма от незнакомых людей. Они писали, что стали активно пользоваться крупными языковыми моделями вроде ChatGPTи чувствуют, будто их память изменилась. Она и сама удивлялась, как быстро окружающие привыкли к генеративному ИИ. Коллеги начали использовать ChatGPT в работе, а письма соискателей в её команду стали длиннее и официальнее. На видеособеседованиях некоторые кандидаты делали паузы, отводили взгляд в сторону. Казалось, будто они получают подсказки от ИИ. И если это так, то насколько хорошо они понимают то, что говорят.

Вместе с коллегами из MIT Космина поставила эксперимент. Участникам предлагалось писать эссе без всякой цифровой помощи, с помощью интернет-поиска или с помощью ChatGPT. Во время работы их мозговую активность записывали с помощью ЭЭГ. Результат оказался прост: чем больше внешней поддержки получал человек, тем ниже была связность между участками мозга. У использовавших ChatGPT заметно падала активность сетей, которые связаны с обработкой информации, вниманием и творческим мышлением.

Ощущения людей при этом расходились с картиной на графиках. После сдачи эссе участников сразу просили вспомнить, что именно они написали. Почти никто из группы ChatGPT не мог привести точную цитату. Это насторожило исследователей — только что писал текст, а в памяти почти ничего не осталось.

Космина напоминает, что умение писать эссе опирается на навыки, важные в обычной жизни. Нужно уметь собирать сведения из разных источников, взвешивать аргументы и строить собственную позицию. Те же механизмы работают в повседневных разговорах. Как вести такой разговор, если без телефона не обойтись? Её вывод прост: наш мозг любит короткие пути и экономию усилий. Так устроена природа. Но чтобы учиться, ему нужна небольшая шероховатость. Нужен вызов.

Технологии же много лет обещают обратное. Их идеал называется бесшовный пользовательский опыт. Переход от приложения к приложению, от экрана к экрану не должен встречать сопротивления. Это и ведёт к тому, что мы всё больше отдаём устройствам знания и задачи. Воронки интернета засасывают легко, а выбраться из них трудно. Генеративный ИИбез труда встраивается в повседневность. После привычки к сверхэффективной цифровой среде реальность с её трением даётся тяжелее. Хочется не звонить, а переписываться. Хочется кассу самообслуживания. Хочется решать в телефоне даже простую задачку. Хочется проверить факт в сети вместо того, чтобы достать его из памяти. Навигатор прокладывает путь и везёт на автопилоте. Книга требуетсосредоточения, а сосредоточение кажется лишним трением. Недаром возникает образ общества, где глупеть легко. Писательница и педагог Дейзи Кристодуулу называет такую среду тупогенной по аналогии с обжирогенной средой, где легко набрать лишний вес.

Человеческий интеллект слишком разнообразен, чтобы описывать его словом глупость. Но тревожные признаки видны. В странах ОЭСР результаты PISA у пятнадцатилетних чаще всего достигали пикаоколо 2012 года. В двадцатом веке показатели IQ росли по всему миру, возможно благодаря образованию и питанию, а теперь в ряде развитых стран наблюдают снижение. О причинах идут споры. В чём спорить трудно: с каждой новой удобной функцией мы сильнее зависим от цифровых устройств и всё хуже работаем без них. Космина сердится на то, как упорно ИИ-компании продвигают свои продукты, хотя психологические и когнитивные издержки ещё толком не изучены. Она замечает, что словом user называют людей, как правило, разработчики и наркоторговцы. Смысл понятен: в бескрайнем, гладком онлайне человек в первую очередь пользователь — пассивный и зависимый.

На этом фоне встаёт новый вопрос. Если впереди эпоха поддельных видео и текстови общего потока дезинформации, как сохранять скепсис и интеллектуальную независимость? Если мы однажды признаем, что без цифровой подсказки уже не думаем ясно, останется ли в нас достаточно воли, чтобы возражать? Есть риск показаться старомодным паникёром. Когда-то Сократ опасался, что письмо ослабит память и даст лишь видимость мудрости. Итог вышел другим: письмо, затем печать, массовые СМИ и интернет расширили доступ к знаниям. Больше людей получили возможность создавать идеи и делиться ими. Это сделало нас изобретательнее как по отдельности, так и вместе.

Технологии меняют не только доступ к информации, но и сам процесс мышления. С блокнотом под рукой человек решает более сложные задачи, чем без него. Мало кто в уме разделит 53 683 на 7, но на бумаге с этим можно справиться. Письмо помогает упорядочить и прояснить мысли. Умение разгружать мозг за счёт внешней среды специалисты называют когнитивным оффлоадингом. Календарь, напоминания, поисковые системы облегчают быт и работу. В лучшем сценарии умные люди и умные машины вместе выходят на новый уровень. Уже видно, как ИИ ускоряет поиск лекарств и помогает врачам раньше и точнее находить рак.

Тогда почему мы так часто чувствуем себя глупее? В прошлом году словом года Oxford University Press стало выражение brain rot. Им называют и липкое чувство пустоты после бесконечной прокрутки ерунды, и сам поток агрессивно тупого контента. В кармане будто все знания мира, но мы снова и снова тащим взгляд по мусору.

Причина в устройстве цифровой среды. Гаджеты редко создают ради ясного мышления. Почти всё вокруг разработано ради захвата и монетизации внимания. Каждый раз, когда вы берёте телефон с намерением быстро выполнить полезную задачу, вроде проверить новости, ваш мозг встречается с индустрией, которая будет уводить вас в сторону и держать как можно дольше. Если продолжать метафору про обжирогенную среду, то в интернете полно пустынь информации — там под рукой только мусорная еда для мозга.

Есть ещё привычка делать много дел сразу. В конце девяностых консультант Линда Стоун заметила, что студенты взаимодействуют с технологиями иначе, чем её коллеги в Microsoft. Коллеги работали дисциплинированно на двух экранах, а студенты пытались делать по двадцать задач сразу. Стоун придумала термин «непрерывное частичное внимание». Это напряжённое состояние, когда человек одновременно переключается между несколькими умственно тяжёлыми активностями. Отвечает на письма, сидя на видеозвонке. Смотрит сериал и параллельно оформляет онлайн-заказ. Кажется, что продуктивность растёт, но это чаще иллюзия. Стоун говорит, что возникает ощущение контроля без настоящего завершения дел. К тому же нервная система всё время на взводе. В одном из её исследований 80 процентов людей при проверке почты задерживали дыхание. Это назвали экранным апноэ. Постоянная гипервнимательность делает нас более забывчивыми, ухудшает принятие решений и снижает концентрацию.

Эксперимент Косминой был небольшим — участвовали 54 человека, и он пока не прошёл научное рецензирование. В июне исследователь опубликовала предварительные результаты в сети, чтобы коллеги могли их обсудить. Началась медиасуета, а ей пришло больше четырёх тысяч писем со всего мира. В основном от учителей, которые переживают, что ученики перестали по-настоящему усваивать материал и научились сдавать приемлемые работы без реального понимания. В этом беспокойстве слышна простая мысль: мозгу нужнаразумная доля трения, иначе обучение не работает. Технологии десятилетиями обещают стереть трение. Теперь нам предстоит научиться возвращать его туда, где без него нельзя.

Подробнее: https://www.securitylab.ru/news/564821.php