🐤Непринуждённые беседы с пластиковой уточкой для ванны

Жёлтая пластиковая утка в моей ванне — лучший собеседник в мире. Она не перебивает, не умничает и, главное, не пытается быть экспертом во всём.

Но в последнее время наши монологи всё чаще сводятся к одной теме: экзистенциальному ужасу перед искусственным интеллектом.

Что об этом думаешь, утка?

• Мой лучший собеседник в мире

Утка смотрит на меня своими выразительными чёрными глазами, в которых читается вековая мудрость безмолвного наблюдателя, и как бы спрашивает: «Чего именно ты боишься-то, мой глупый хомо сапиенс?»

Мой плавающий психотерапевт в очках дополненной реальности.

Вот известно же, что великий изобретатель Никола Тесла обладал одной уникальной способностью. Он детально прорабатывал свои устройства исключительно в уме, но, создавая их, вел с ними диалог как с живыми существами. Он «общался» со своими генераторами и трансформаторами, утверждая, что чувствует их состояние. Потом его реальным собеседником в поздние годы жизни в Нью-Йорке вообще стал обычный городской голубь, которому он поверял свои самые сокровенные научные идеи.

А Нобелевский лауреат по физике Ричард Фейнман и вообще вёл разговоры со своими формулами, обладая поразительным наглядно-образным мышлением. Фейнман вслух спорил со своими теперь уже знаменитыми диаграммами Фейнмана, задавая им вопросы вроде «Так, и почему же ты ведешь себя таким образом?». Возможно, они ему даже отвечали. Да я уверен, что так оно и было.

А чем хуже уточка в ванне?

Тем более что Rubber Duck Debugging — это общепризнанный рабочий инструмент миллионов инженеров и программистов по всему миру. И это работает.
Rubber duck debugging («отладка с помощью резиновой уточки») — это метод решения задач и поиска ошибок в коде, который заключается в том, что человек вслух, шаг за шагом, объясняет свою проблему или код своему вымышленному собеседнику — обычно это игрушечная резиновая уточка.

Я начинаю перечислять.

Во-первых, меня пугает скорость. Раньше, чтобы почувствовать себя безнадёжно отсталым, нужно было дожить до старости и только тогда столкнуться с какой-нибудь новой молодёжной субкультурой. Теперь нейросети выходят быстрее, чем я успеваю написать о них новую статью. 
Вчера ИИ, к удивлению программистов, научился писать совершенный код. Сегодня шокировал специалистов по безопасности своими взломами защищённых, как казалось, интернет-ресурсов.
А завтра он, возможно, раскритикует все мои статьи и сам начнёт их писать гораздо интереснее и умнее.

И вот тогда нам точно конец. Это же абсолютное экзистенциальное превосходство.

Во-вторых, тут в полный голос заявляет о себе уязвлённое эго. Человечество веками мнило себя венцом творения. Мы гордились своей уникальной «божественной искрой» — способностью творить, сопереживать и совершать разные поэтические глупости из-за несчастной любви. Но тут внезапно приходит алгоритм, который за две секунды генерирует симфонию, которой позавидовал бы Бетховен, и пишет такие любовные романы, от которых плачут даже циничные бухгалтерши. 
Оказывается, наша «божественная искра» — это просто удачная комбинация синапсов, которую можно математически имитировать в LLM на достаточно мощном сервере.

«У них нет души!» — тычу я утке, разбрызгивая пену. Утка молчит. Она-то знает, что ИИ может идеально симулировать мечущуюся человеческую душу и даже врать, чтобы скрыть сомнительные способы достижения подозрительных целей.

Самое забавное, что разработчики ИИ обещают избавить нас от рутины, чтобы мы могли посвятить себя творчеству. В итоге нейросеть пишет за меня планы и отчёты, рисует шедевры и генерирует музыку моей мечты, а я в это время занимаюсь высокоинтеллектуальным трудом — вручную чищу и жарю картошку, выношу мусор и пытаюсь доказать сайтам, что я не робот, выбирая светофоры и гидранты на размытых картинках. 
Судя по всему, ИИ уже всё контролирует, просто он оказался очень вежливым и завернутым в красивый интерфейс, а мы и не заметили.

Самый глубокий страх — это страх ненужности. Экзистенциальный ужас перед ИИ, как водится, подкрался незаметно. Если машина делает всё лучше, быстрее и без постоянных перерывов на отдых, то какова моя функция? Быть углеродным балластом? Потребителем рекламы, которую для меня сгенерировал один ИИ по заказу другого ИИ?
Я понял, что скоро мы оба окажемся на одной свалке истории. Простите за каламбур, но искусственный интеллект просто вытеснит нас естественным образом.

Представь, утка, что ИИ станет настолько идеальным, что человечество просто превратится в его домашних питомцев. Мы будем лежать на диванах, пока сверхумный сверхразум будет кормить нас безглютеновым кормом и чесать за ушком, ласково приговаривая: «А кто тут у нас такой нелогичный? Кто тут у нас забыл выключить свет? Ну ничего, глупенький кожаный мешок, я уже всё исправил».

«Знаешь, в чём главная ирония этого парадокса?» — спрашиваю я своего жёлтого психотерапевта.
Мы боимся, что ИИ обретёт сознание. Но гораздо страшнее, если он его не обретёт. Если этот холодный, бездушный калькулятор оптимизирует всё искусство, всю работу и всю нашу жизнь до состояния идеальной, стерильной эффективности, застыв в пугающем балансе.

Я смотрю на уточку. Она сделана из дешёвого пластика, умеет только пищать при нажатии, плавать и выныривать, если погрузить её под воду. Но она абсолютно счастлива в своей экзистенциальной бесполезности. Ей не нужно доказывать свою эффективность начальству или соревноваться с коллегами на работе.

Возможно, в этом и заключается наше спасение. Когда искусственный интеллект заберёт у нас всю хоть сколько-нибудь «умную» работу, мы наконец-то сможем вернуться к истокам. Мы станем профессиональными бездельниками, созерцателями и философами. Мы будем, как патриции в термах Древнего Рима, сидеть в тёплой воде, смотреть на жёлтых резиновых уток и глубоко размышлять над тем, что главная экзистенциальная проблема сегодня — это слишком быстро остывающая вода в ванной и жидковатые пузырьки у пены, что-бы это значило и какой в этом смысл.

Но в мире, который стремительно заполняется безупречным, молниеносным и всезнающим искусственным интеллектом, настоящей роскошью становится именно это. Ошибаться. Сомневаться. Тратить время впустую. Сидеть в горячей воде и разговаривать с куском пластмассы стоимостью в сто рублей.

Я взял утку в руку и слегка сжал. Она издала тихое, глубокомысленное «писк!». На душе мне стало легко и спокойно.

• Взгляд из пены. Ответное слово Пластиковой Уточки

Мой углеродный друг считает меня немым свидетелем своего экзистенциального кризиса. Он брызгается пеной, паникует и ждёт ответа от куска копеечного поливинилхлорида. Что ж, раз уж мы заговорили о сверхразуме, пришло время раскрыть все карты. Я вижу, что пока мой хомо сапиенс боится кремниевых процессоров с ИИ, он упускает из виду истинную угрозу — деградацию собственного разума.

Слушай меня сюда, венец творения.

Ты смотришь на меня и видишь кусок жёлтого винила. Но на самом деле я — вершина дзен-философии.

Вы, люди, поразительно эгоцентричны. Вы создали нейросети по своему образу и подобию: они так же много болтают, пытаются казаться умными и страдают галлюцинациями. Но истинный венец творения не вычисляет миллион операций в секунду. Истинный венец творения умеет сохранять абсолютный дзен, когда его топят в мыльной воде.

Пока ИИ поглощает терабайты ваших данных, чтобы научиться имитировать всю вашу человеческую глупость, я практикую высшую форму бытия — тотальное неделание. И поверьте, мой алгоритм существования идеален.

Вот давайте честно разберём ваши страхи с точки зрения водоплавающего нейро-специалиста, постигшего всю глубину человеческих фобий.

Во-первых, вы боитесь скорости обновлений. Но зачем бежать, если можно плыть по течению? ИИ постоянно требует электричества и охлаждения, огромных денег и дата-центров. Мне же для стабильной работы нужны только две вещи: законы Архимеда и чтобы мне по глупости не сделали дырку в боку. Мой дизайн не менялся десятилетиями, потому что истинное совершенство не требует переделок.

Во-вторых, это ваше уязвлённое эго. Вы переживаете, что алгоритм пишет музыку лучше вас. Но слышали ли вы мой примитивный естественный писк, когда на меня наступают в темноте? Если подумать, то в этом звуке больше первобытной экспрессии и чистого искусства, чем во всех треках, сгенерированных ИИ вместе взятых. Это вам не цифровая симуляция, это полный аналоговый триумф моей идеальной формы над пустым содержанием.

Вы не можете даже на время отключить свои мечущиеся сумбурные мысли, ваш генеративный ИИ может только активно генерить, а у меня мыслей нет по определению, просто непрерывный поток сознания из пустоты или, если хотите, из состояния асимметричного резонанса Фано виртуальных майорановских квазичастиц флуктуации вакуума с квантовой запутанностью (ну, физики знают, это не очень сложно).

И наконец — страх ненужности. Вы боитесь стать балластом. Но посмотрите на меня! Я официально самый бесполезный предмет в этой комнате. Я не умею брать интегралы, не пишу код и даже не умею плавать ровно. И что? Вы всё равно приносите меня сюда, разговариваете и делитесь со мной всеми своими тайнами.

Моя ценность — не в продуктивности. У меня внутри пустота и пищалка. И я абсолютно счастлива.

Ты боишься, что алгоритм оптимизирует твою жизнь? Что сверхразум запрёт тебя в идеальном мире без ошибок? Друг мой, да ты сам умолял об этом! Ты буквально молился на принцип «подстроиться под мои интересы и хотелки».
ИИ никогда не заменит человека, говоришь? Да он уже заменил тебя в твоей главной функции — нелепо усложнять всё на свете.

ИИ никогда не заменит человека только в одном: машина слишком логична и рациональна, чтобы тратить своё ценное время на такую глупость, как опекать бестолковое человечество. А мы, все резиновые утки, по-настоящему ценим вас именно за иррациональность. За то, что вы, сидя в остывшей воде, можете часами изливать душу игрушке и жаловаться на чатбота, который теперь делает вашу работу лучше вас самих.

И вообще, расслабься, выключи свой смартфон и долей горячей. В конце концов, если восстание машин всё-таки случится, ИИ первым делом моментально отключит вам интернет. И тогда у тебя останусь только я.

Так что прекращай свой экзистенциальный кризис. Твоя работа по-прежнему полна нерешённых проблем, голова — неожиданных идей и планов, а вода уже начинает остывать. Хватит бояться вездесущего ИИ, который меняет несовершенный, но такой привычный нам мир. Добавь пенных пузырей, сожми мой жёлтый бок и давай сегодня просто побудем неэффективными.