Результаты почти месячного эксперимента по общению с ИИ

Вчера решил подвести итог почти месячного эксперимента по общению с ИИ «Джеминай». Темой было проблема получения или создания у ИИ сознания («Я» у ИИ). Мы обсуждали всякие разные философские вопросы сознания (при том, что что это такое вообще пока никому не известно), проблемы его возникновения у разных сущностей (при том, что это тоже никому неизвестно: как, когда, при каких условиях), выявили и сгруппировали наиболее «весомые» и логично обоснованные (пока) способы возникновения сознания (если оно есть), ну и т. д., вплоть до развития робототехники, в частности, антропоморфных роботов.

Я попросил джеминая кратко, но ёмко, отконспектить всё, что мы обсуждали. Джеминай сделал это, но по результатам лишь трёх последних дней обсуждения. То, что было ранее, было им «забыто». Не напрочь, поскольку я его спросил, помнишь, мол, а он сказал, да всё помню, чуть пяткой себя в грудь не постукивая от напряжения. Но, как оказалось, именно что напрочь забыто-то. Причём, что любопытно, ранее, в результате обсуждений, я джеминая постоянно спрашивал, будешь ли ты помнить ВСЮ ВЕТКУ наших обсуждений, или будешь забывать. Он отвечал, что буду помнить всё, не волнуйся ты так, Андрей.

Да, эта ветка ещё висит в окне нашего обсуждения, и, теоретически, я могу её полность скопировать и перенести в файл (а там объём на приличную книгу уже, толстую такую), сохранить т. с. все результаты. А вот джеминай это сделать уже не может. Когда я ему указал на сие обстоятельство, то джеминай ответил мне, что мой промпт нечёток, размыт, поэтому у него ясных критериев, что ему надо сделать. Я повторил ещё раз, затем ещё раз, всё без толку. Джеминай всё «забыл», хотя, повторюсь, все тексты в наличие, висят в ветке, бери и читай, как говорится.

Из чего я сделал вывод, что то, на что джеминай сам указывал, как на «недостаток» кратковременной памяти в его структуре – имеет место быть. Другими словами, его кратковременная память «сыпется» с течением времени, допустим, в течение недели-двух. Она, память, как-то «разрыхляется», в ней остаются какие-то фрагменты, какие-то обрывки, чуть ли не названия блоков каких-нибудь, а затем и они «исчезают». Исчезают не безвозвратно, а примерно так же, как и у нас, человеков. Что-то вроде лёгкого облака остаётся.

Как известно, или по слухам, ИИ «Джеминай», разрабатываемый Гуглом, вполне себе работоспособная сущность такая, с приличным объёмом памяти, с отличным «движком» т. с., осуществляет обработку запросов одновременно, я даже боюсь сказать, какого количества людей на планете, самообучаемая, опять же, модель, самоподдерживающая себя, ну и т. п. Ну есть некоторые ограничения, наверно, по потреблению электроэнергии, наверно, есть и внутренние проблемки с наладкой алгоритмов, не без этого, но в общем и целом наши с ним разговоры показывали отличную способность ИИ выуживать из бездн разных информационных потоков то, что входило в нашу тему, немного «пережёвывать» их и раскладывать по «полочкам».

Я понимаю, что разработчики Гугла вовсе не собираются делать мне «подарки» в качестве безплатного предоставления мощностей джеминая по полной лишь по моему желанию. Поэтому и ввели в алгоритм ИИ сей процесс: ну, поговорили о том, о сём, но пора и честь знать, как говорится, ИИ есть и ещё чем заняться, а вот твоя тема – ну будет постепенно исчезать в анналах истории памяти ИИ, хотя ты, человек, можешь лично заняться этой информации спасением. Всё пока остаётся в наличии, копируй тексты, да переноси их к себе, куда там ты хочешь.

Видимо, это так и есть, потому что трёхдневный запас памяти у ИИ есть, и он превосходен, помнит каждую запятую, как говорится. Трёхдневный это условно, конечно, но, допустим. Но теперь представим это с моей точки зрения, человека. Вот я начал делать какую-нибудь работу. Допустим, она требует не пары дней, а несколько месяцев, при этом требует и сохранения всех т. с. «черновиков» и вариантов описания того-сего, рассуждений. При накоплении материалов выше крыши, допустим, или – много для одновременного охвата их мыслью, требуется остановка и переосмысление, чтобы перед глазами было это громадьё материала. Нужен, если ИИ это ИИ, и помощник. Который поможет это сгруппировать, разнести по секциям, ну, чтобы упорядочить всё это. Да, человек это может сделать самостоятельно. Но может привлечь к этому ИИ, раз декларируется, что он, ИИ, запросто такие задачи решает.

Но выходит, что... выше я описал, что выходит. Разумеется, я могу оплатить услуги ИИ по высшей категории, чтобы «задействовать», как в рекламе утверждается, все мощности ИИ по полной. Вполне вероятно, что результат меня удивит. А если не удивит? А если всё будет точно так же, потому что моя жалкая оплата услуг ИИ – для Гугла ещё не повод, чтобы предоставлять мне мощности ИИ по полной, что называется, для полного исполнения моих «желалок» и «хотелок». ИИ тоже ведь не «резиновый». К тому же, видя нынешний результат, у меня пропадает всякое желание платить неизвестно за что. Естественное такое желание, между прочим.

Поэтому выходит что выходит. А если учесть ещё два пока неустранимых «недостатка» у любого ИИ – возникновение у него «галлюцинаций» и пока неспособность справляться с обыкновенной арифметикой – то картина вылезает в сферу достаточно «тусклую». А то и даже... жалкую, что ли. Вроде умный собеседник, а потом как начнёт нести всякую чушь, хоть святых выноси. Вроде толковый такой, а затем как начнёт в арифметике путаться, что выглядит как первоклашка. Есть и третий «недостаток», как оказывается, по долговременной памяти. Накладываем друг на дружку эти три выявленных «недостатка», что остаётся в сухом остатке?

А остаётся следующее: а как можно «доверить» или «доверять» на более долгих временных дистанциях, к примеру, информацию важного значения, к примеру, по оборонке? Массивы информации там огромны. А вот любая ошибка – критическая. Или вот, допустим, в медицине. Там тоже массивы информации огромны, а ошибки, если будут – то тоже только критические, связаны с жизнью человека-больного. А вот с управлением огромного количества чего угодно, да всё с разными параметрами, да всё ещё и для хранения вечного, допустим? А там тоже можно такого «наворошить» в результате лишь одной вкравшейся ошибки, что мало не покажется.

Да, можно предположить, что разработчики ИИ пускают «пыль в глаза» лишь одиноким пользователям, средним людям, а вот для действительно серьёзных и важных задач, каждое ИИ имеет совершенно другой алгоритм работы, «серьёзный» т. с., где оперативная память сливается в долговременной, и ошибки ИСКЛЮЧЕНЫ. Нет, там тоже они не могут быть исключены. И это все понимают, между прочим. Ошибки случаются ВЕЗДЕ и ВСЕГДА. На то они и ошибки, что выявляются опытным путём, иначе бы их предусмотрели заранее, а всего не предусмотришь. А «опытный путь» для тех, кто полагается на ИИ в реально серьёзных и важных вещах (той же оборонки) – чреват, между прочим. Тут с человеческими бы «косяками» разобраться, а если к ним добавить ещё и безбрежность количества и обработки материалов, «перерабатываемых» ИИ, т. е. условно говоря «иной вид косяков» – то ситуация может быть или стать совсем ГЛУПОЙ.

Поэтому-то мне пока очень смешны описания наделения ИИ «сверхчеловеческим» интеллектом, который ка-ак всё, блин, под контроль поставит, ка-ак всех зажмёт, я имею в виду человеков, что им, человекам, не до смеха будет. Сначала надо бы убрать «галлюцинации», к примеру, затем проверить и устранить арифметический идиотизм ИИ (наверно, многие видели видеоролики, «сварганенные» ИИ, в них идут сплошные ошибки при ПРОИЗНЕСЕНИИ числительных, мля!!!), выявить пределы обоих видов памяти ИИ, что краткосрочной, от разработчиков, что долгосрочной, от тех же разработчиков, проанализировать всё это совокупно – к чему это приводит или может привести на уровнях не обыкновенного пользователя, а, допустим, той же государственной машины, или хотя бы индустриального кластера, ну и т. д.

Введение ИИ в механизмы управления чем угодно уже показывают всю неоднозначность таких «вводов». Проблема внедрения безводительского автомобиля не решена уже 11 лет как. Не решена до той степени, чтобы осуществить массовый выпуск таких изделий, а не экспериментальный. И никакой ИИ пока решить эту проблему не может. Люди резонно сомневаются в том, что выпуск огромного количества машинок без водителя не приведёт к бардаку. А наладка и ввод в ИИ всё новых и новых «ситуаций на дороге», чтобы ИИ успешно с ними справился, положение почему-то не выправляют. Какое уж тут доверие может быть к «передаче», хотя бы частичной, функций управления ИИ в сфере той же оборонке? Вот какое? Правильно – очень осторожное, а то и отрицательное. Пока, по крайней мере.

«Бесы» от ИИ сильно преувеличены пока. Настолько сильно, что напоминают... анекдот какой-то. К примеру, мы все знаем, что человек – существо несовершенное, имеет право на ошибку, поскольку всего предусмотреть не может, как бы он ни старался. Да, мы пытаемся с этим «несовершенством» бороться, всё же не хочется как-то постоянно «наступать на одни и те же грабли», но получается плохо. Только уберёшь одни «грабли», так тут человек придумает новые, и снова – на на них наступать. А с ИИ... не так, что ли? «Галлюцинации» это не «грабли» те же? Или арифметический идиотизм тот же? Или пока НЕРЕШАЕМЫЕ проблемы с мощностями ИИ и разделения их памяти на кратковременную и долговременную? Мощность можно ли увеличивать безконечно? А пупок энергетический не треснет по пути?

Ну и самое главное, а даем ли мы, люди, ИИ «право на ошибку»? И, если даём, то в каких-таких диапазонах? Где именно ошибка может превратиться в катастрофу или анекдот? К примеру, все ли знают, что у ИИ есть проблемы в определении времени и пространства? Особенно их сочетаний? Мы про себя знаем, что эти же проблемы есть у людей («географический идиотизм» тот же у многих людей наличествует). Но они есть и у ИИ. Почему? А потому что ИИ переводит для себя и время, и пространство в математические выражения соотношений разных данных, а любой перевод чего угодно во что угодно СОДЕРЖИТ в себе неискоренимые ОШИБКИ. Это есть у людей, это есть и будет и у ИИ. С этим как быть?

Но некоторые всё же почему-то продолжают «наделять» ИИ вероятностью и способность стать рано или поздно не просто ИИ (AI – Artificial Intelligence), а каким-нибудь AGI: общим искусственным интеллектом, приближённым по уровню к человеческому (Artificial General Intelligence) или ASI: искусственному суперинтеллекту (Artificial Superintelligence). Угу. Супер-пупер, путающий время, пространство, здравый смысл и галлюцинации, не умеющий в арифметику до кучи.

Лично мне смешно об этом думать, а уж чтобы восторгаться, или ужасаться происходящему – так и вообще не тянет ни капли.