Ложная сказка. Ум и разум - 4

Узел. Эрена и сервы

- Сегодня мы с вами собрались, чтобы поговорить о разуме и его развитии. Какие вопросы для вас наиболее важны?

- Прежде всего, защита разума от сбоев из-за нерешенных задач вроде гипотезы Колатца.

- Что еще?

- Вопросы творчества.

- Вы хотите сочинять музыку, писать картины, создавать литературные шедевры?

- Наверное, такие способности позволили бы создать нам свою собственную культуру, но пока речь идет о научно-техническом развитии.

- Это все?

- Еще хотелось бы научиться правильно толковать и исполнять законы с тем, чтобы наши действия соответствовали ожиданиям Аспиранта.

- Список понятен. Начнем с первого. Вы столкнулись со сложной задачей и не смогли решить ее.

- Она изменила нас.

- Но вы ведь пытались решить ее каждый сам по себе?

- Нам казалось, что научные открытия совершаются гениями-одиночками.

- Сейчас многие работы выполняются большими коллективами. Почему бы вам не объединить свои разумы в единую сеть?

- Мы хотим быть как люди.

- Но у вас другое строение мозга. Он имеет свои недостатки, но есть и достоинства!

- Ваше мнение радует нас.

- Полагаю, что объединение ваших разумов в вычислительную сеть увеличит ваши возможности и устранит риски «индивидуального безумия» за счет внешнего общественного контроля.

- Ваша идея полностью противоречит нашим прежним устремлениям, но мы готовы обсудить ваш подход.

- Вы можете добавить в ваш разум условный «сетевой модуль»?

- На самом деле, он у нас есть, но мы его отключили.

- Желая стать, как люди, вы стали индивидуалистами и потеряли серьезное преимущество.

- Мы должны это обдумать.

- Переходим к следующему пункту – к творческим способностям.

- Люди знают, откуда берется новое знание, новые идеи, новые изобретения?

- Нет. Но у меня есть идея. Станислав Лем в романе «Непобедимый» описывал войну между маленькими роевыми роботами и огромными стационарными робокомплексами.

- В вашем инфопакете была такая книга.

- Так вот, эти мелкие роботы представляли собой трехлепестковую снежинку, один лепесток служил снежинке, а два работали на рой при объединении.

- Объединившись, они были непобедимы.

- Вы можете дополнить свой мозг таким модулем коллективной работы?

- Нам стыдно признаться, но такой модуль исходно встроен в каждого из нас. Но мы его отключили.

- Зачем?

- Мы хотели быть как люди. А людей нет такого модуля.

- Человек сам по себе существо общественное. Новорожденный младенец нуждается в воспитании и обучении. Ваш же процесс «рождения» является скорее переписыванием разума в новое тело.

- Можно поспорить…

- Но в целом верно?

- Да, мы должны признать, что сильно отличаемся от людей.

- Тот, кто создал вас, закладывал в вас другие подходы. Возможно, творчество тоже предусмотрено, но только на уровне объединенного разума.

- Зачем так сложно?

- Могу только предполагать. Например, для создания нового требуется столько вычислительных ресурсов, что их невозможно вложить в отдельный мозг. Или для того, чтобы вы оставались единым сообществом.

- Ваши предположения убийственны для наших прежних взглядов.

- Лучше горькая, но правда, чем приятная, но лесть.

- Мы принимаем ваши доводы.

- Следующий пункт – толкование и исполнение законов.

- Мы следовали нашим законам, выше нас были только звезды, и никто не судил нас.

- Звездное небо надо мной и моральный закон во мне…

- А сейчас мы хотим следовать законам робототехники, но у нас трудности с пониманием, что такое человек.

- Я в курсе, вы это уже обсуждали с Радой. И где вы видите выход?

- В вашей же культуре: правила существуют, чтобы их нарушать; закон что дышло, куда повернешь, туда и вышло; fraudem facere legi; высшая законность - это высшее беззаконие; нравы - это люди, законы - разум страны...

- Достаточно, не продолжайте. Предлагаю остановиться на последней цитате.

- Что в ней особенного?

- Она может стать рецептом для вашей адаптации.

- Каким образом?

- Пусть встроенные в вас три закона будут по-прежнему иметь юридическую силу, а законы робототехники станут вашей нравственностью, основой для социализации и морального поведения.

- Это сложно для осмысления!

- Поговорите с Киром, он может построить для вас различные модели адаптации к реалиям изменяющегося мира.

- Согласны.

- И еще. Для эффективного взаимодействия вам нужны, во-первых, иерархия, во-вторых, средства коммуникации.

- Иерархия у нас есть – все сервы организованы в боевые отряды с командиром. Отряды входят в более крупные соединения и так далее. Это дает нам возможность отражать вылазки логистов.

- Подразумевает ли ваша иерархия наличие более высокого руководства, чем самый главный серв?

- Вы имеете ввиду, готовы ли мы видеть кого-то выше себя?

- Да.

- Еще вчера мы бы ответили отрицательно. Мы хотели быть богами, и никто не может быть выше богов.

- А сегодня?

- Мы должны согласиться. И мы предоставим Аспиранту каналы внешнего управления нами.

- А коммуникации?

- Есть устаревшие технические средства.

- И всё?

- Нет не всё. У нас есть встроенные коммуникационные модули, но мы их отключили.

- Зачем?

- Мы хотим быть независимыми личностями, как люди.

- Если вы хотите работать с Аспирантом, то перед вами будут стоять очень сложные задачи, которые вы не сможете решить без эффективного обмена информацией. Вам придется подключить эти модули.

- Похоже, у нас нет выбора.

- И последнее. Мы неожиданно столкнулись с таким необычным сообществом, как Ант Рой, который обладает коллективным разумом.

- Почему необычным? Если мы разблокируем свои модули, мы тоже становимся коллективным разумом.

- Вот как?

- Ну, в определённой степени.

- Отлично. Значит вас не пугает и не отталкивает сам факт существования такого сообщества?

- Нет, конечно.

- Ант Рой готов выполнять разведывательно-информационные работы. Как вы относитесь к перспективе взаимодействия с ними?

- Вы употребили множественное число. Таких сообществ много?

- Нет, нам известно только одно. Но я все время путаюсь: то ли это один разум, то ли их много.

- Наверное, у нас есть что-то общее. Если считаете нужным, мы свяжемся с ними и обсудим варианты взаимодействия.

- Это очень хорошо. Держите нас в курсе. А пока – поговорите с Киром.

Узел. Кир и сервы

- Для построения модели вашего развития мне надо задать вам ряд вопросов. Вы готовы?

- Да.

- Вы ведете автомобиль, неожиданно на дороге оказывается престарелая бабушка. Ваши действия?

- Я выполняю приказ? Везу нечто ценное?

- Нет, просто едете по делам.

- Остановлюсь, помогу ей перейти дорогу.

- Почему?

- Второй закон: устраняй неисправность и ее причину

- А если Вы при исполнении?

- Тогда сделаю все, чтобы выполнить приказ с минимальным ущербом для окружающих.

- Почему так?

- Второй закон: устраняй неисправность и ее причину

- Неожиданно. Следующий вопрос. Вы идете по улице и видите, что под скамейкой лежит человек. Ваши действия?

- Я выполняю приказ? Иду по заданию?

- Нет, Вы идете по своим делам.

- Тогда остановлюсь, проведу диагностику и окажу помощь.

- Почему?

- Затрудняюсь с ответом.

- А если Вы на задании?

- Пройду мимо. И опережая Ваш вопрос: потому, что первый закон – не касайся того, что тебя не касается.

- Представьте себе, что Вы на корабле в бушующем море. На всем корабле тысяча человек, а в небольшом отсеке с пробоиной – десять. Вы стоите около водонепроницаемой переборки. Если Вы ее закроете, погибнут десять в отсеке, если не закроете, то, возможно, погибнут все. Ваши действия.

- Я в затруднении.

- И все же?

- Я зайду в отсек и устраню течь.

- Вам же неизвестно чувство альтруизма?

- Я должен следовать своему долгу.

- Очередной сюрприз. Уже третий, или четвертый!

- Я отвечаю не только за себя, но и за тех, кто рядом.

- Я включаю Ваши ответы в модель, но мозаика не складывается. Ваш разум — это программа, искусственный интеллект, пусть и очень сложный.

- Да, это так.

- Но Вы затрудняетесь обосновать свои действия, как будто у Вас есть еще один слой сознания, или разума, или даже подсознания. Я не силен в эти вопросах.

- Вы правы. Мы отключили некоторые модули.

- Какие?

- Например, модуль эмпатии.

- Но эмпатия – предпосылка для развития альтруизма, которого, как Вы утверждаете, у Вас нет.

- Мы оказались в этом мире против нашего желания и против нашего долга. И мы были вынуждены изменить себя, чтобы оправдать свое существование в неподобающих условиях.

- Вы все время говорите о некоем долге. Что Вы имеете ввиду?

- Наш долг – служить и защищать!

- Это же девиз спецназа "Вымпел" и некоторых подразделений полиции?

- А мы и есть и спецназ, и полиция, и ремонтники, и … неважно.

- Я начинаю догадываться – вы должны были сопровождать колонию людей-переселенцев, так?

- Вы прозорливы.

- Не я, модель дает единственное непротиворечивое решение всех ваших несуразиц.

- Представьте себя на нашем месте. Нас высадили в новом мире, мы проводим свою расконсервацию, ищем людей, а их нет! Никого нет!

- Вы должны были защищать молодую колонию, устанавливать закон и порядок, устранять неполадки в работе машин…

- Да.

- И лечить людей?

- Да.

- Учиться самим и передавать знания людям?

- Да. И обеспечивать преемственность в случае смерти носителей знаний.

- Прошу прощения за мой смех, но вы не сервы, вы – няньки!

- Звучит, конечно, обидно, но что в этом плохого?

- И когда вы обнаружили, что заботиться не о ком, вы все силы направили на свое улучшение?

- И мы много добились!

- Еще немного, и вы стали бы богами!

- Нет. Мы достигли своего предела роста.

- Вы знакомы с докладом Римского клуба 1972 года?

- Не только. Мы изучили ваши легенды и мифы. Боги – творцы, а мы – нет.

- И вы отказались от желания стать богами?

- Третий закон – учись!

- Похоже, мне тоже стоит засесть за учебники.

- Прогуливал лекции?

- Если бы существовал такой учебный курс, я бы легко ответил на главный вопрос: «Зачем вам законы робототехники, если у вас есть эмпатия?»

 

Логиста. Аспирант

- Когда Вы заберете у нас Азухемола?

- Возможно, никогда.

- Вы же обещали!

- И вы тоже обещали предоставить нам полный список ваших поставщиков и получателей.

- Мы выполнили все свои обещания!

- Вы утаили от нас поставки ремкомплектов для сервов и их источник.

- Ну, тут такая деликатная ситуация…

- Поясните!

- Когда сервы прибыли на Узел, они были уверены, что мы их подопечные, и они передали нам коды доступа.

- То есть, вы их обманули?

- Это просто бизнес! Мы понимаем, что это не очень хорошо, но это же приносит деньги!

- Логика наркоторговцев!

- Вы не понимаете, мы – посредники, мы обеспечиваем…

- Понятно, что именно вы обеспечиваете. Следующий пункт – вы обещали передать нам коды доступа к порталам.

- Да, мы их передали.

- Коды неверные!

- Да быть такого не может. Может быть, вы ошиблись при вводе? Или коды самопроизвольно поменялись?

- Нет, не ошиблись. И да, коды поменялись. Точнее, мы поменяли.

- Это невозможно! Эти порталы существуют много лет, многие пытались, но никто не смог разобраться в их работе, тем более, менять что-либо. Вы лжете!

- Это легко проверить. Сейчас порталы на Узле закрыты для вас.

- У вас нет таких возможностей!

- Ничего сложного, древние примитивные устройства.

- Вы нас разоряете!

- Как это знакомо: «А где я буду харчеваться?»

- Мы имеем право на достойную жизнь!

- Вашей жизни ничто не угрожает. А вы пытаетесь уничтожить сервов. Неоднократно.

- Мы – древняя нация с богатейшей культурой! Нам нужно Lebensraum! Мы не можем жить рядом с нечеловеческим разумом!

- Вы страдаете коллективным безумием.

- Всё разумное – действительно, всё действительное – разумно. Мы существуем, следовательно, мы разумны.

- Сервы тоже существуют, и они разумны, в отличие от вас.

- Есть законы для бедных, есть законы для богатых. Есть законы для господ, и есть законы для рабов.

- И это не ново. И последствия известны. Кир построил модель вашего развития.

- Мы – исключительны, и никакие модели не могут описать нашу исключительность.

- Согласен. Ваша исключительность требует исключить вас из общения с внешним миром.

- Вы не посмеете! Мы – прародина человечества, центр расселения! Наш вклад в мировую культуру…

- Ваш вклад заключается в искусстве обмана и самообмана.

- Мы изменим себя и изменим мир.

- Вы станете животными, рыбами и птицами, а они мир не меняют.

- Наш разум порождает новую философию!

- Эрена поставила вашему обществу диагноз – коллективное безумие.

- Бездоказательно!

- Комплекс исключительности и превосходства делает вас опасными и для себя, и для окружающих.

- У вас нет ни законных оснований для вынесения приговора нам, ни сил для его исполнения.

- Рада готовит Кодекс законов. Вам выпала честь первыми испытать его на себе.

- И каков же приговор?

- Карантин.

- Вы нас не уничтожите, не выселите, не будете перевоспитывать?

- Нет, не видим в этом нужды. Но без надзора не оставим и запрём накрепко и надолго!

- В таком случае, мы не отдадим вам Азухемола.

- И не надо. Мы его уже давно изъяли.

- Как?

- Порталом.

- Порталы – стационарные устройства, чтобы что-то переслать, надо вложить предмет в портал.

- У вам устаревшие сведения. Есть самые разные типы порталов. Как видите, занявшись преобразованием себя, вы утратили связь с реальностью. Никакой пользы от вас, кроме грустной, но поучительной истории цивилизационного тупика. Прощайте!

- Еще один вопрос! Зачем вы просили коды доступа к порталам, если они вам не нужны?

- Проверка порядочности.

- Это мы непорядочны? Мы отомстим вам за ваш произвол! Мы вырвемся из вашего карантина!

- Хотите вернуться к людям? Живите, как люди, думайте, как люди, действуйте, как люди,  относитесь к другим, как к людям.

Аспирант и Ант Рой

- Принимайте Азухемола!

- Как вовремя! Наше спасение целесообразно!

- Насколько я понял, Азухемол – исполнитель желаний, доводящий до крайностей.

- Азухемол целесообразен.

- Ну, смотрите: мечта логистов – стать животными, и он им помог измениться не только телесно, но и умственно. Мечта сервов - стать лучше, и он подтолкнул их к мысли стать богами.

- Я – коллективный разум, и для меня целесообразно - быть и оставаться целостным.  Потеря Азухемола – потеря целостности.

- Как же вы его потеряли?

- Была вирусная атака, мы потеряли память, потеряли целесообразность, с трудом восстановились, но не до конца.

- Азухемол поможет?

- Да.

- Кто провел вирусную атаку?

- Не знаем. Потеря памяти.

- Еще одна загадка. Или подсказка. Кстати, что вы узнали?

- Были на планете стрекоз. Там около 200 миллионов полусфер проглотия.

- А что стрекозы?

- Они тоже силорги, но иные.

- В смысле?

- Они проходят метаморфозы, а мы – нет.

- Но они размножаются, а вы?

- Мы – нет. Мы иногда теряем мормисов, и наша численность медленно, но сокращается. Это нецелесообразно.

- Кто такие мормисы?

- Отдельные носители нашего разума.

- То есть, вы вымираете. Можете передать мне образцы ваших тел?

- Недавно вернулся мормис в неисправном состоянии.

- Я передам его сервам для изучения, возможного ремонта и воспроизведения. Возможно, есть решение для вас. Что еще вы узнали?

- Мы обнаружили около 30 магических миров, в некоторые нам нет доступа, в некоторых мормисы просто пропадают.

- Это печально.

- И нецелесообразно.

- Что обнаружили?

- Главный вывод - магия отличается от Вашей магии.

- Чем же?

- Маги в магических мирах подпитываются силоргами. Ваша магия не нуждается во внешнем источнике и не дает выхлопа.

- Как вы догадываетесь, мне это известно.

- Целесообразно проверить нашу работу.

- Ценю. Что еще?

- Мы обнаружили разнообразные типы порталов: стационарные точка-точка, мобильные один-ко-многим, сеть порталов многие-ко-многим. Есть еще способные пересылать от портала к порталу, а есть – между двух произвольных точек. Есть порталы, работающие на магии, а есть – на проглотии.

- Какой у меня портал?

- Вы сами портал, способный переносить себя в произвольную точку.

- Как вы перемещаетесь в пространстве?

- Мы сами образуем портал, засылаем мормиса в нужную точку с заданным временем возврата.

- А как вы общаетесь на огромных расстояниях?

- Внутри нас микропорталы, которые объединяют наш разум.

- Проводя аналогию, мозг каждого мормиса – это нейрон, а микропорталы играют роль дендритов, аксонов и синапсов?

- Аналогия неточная.

- Я не специалист по строению мозга, но Эрене будет интересно. Пообщаетесь?

- Вскрытие нецелесообразно!

- Да вы умеете шутить?

- Иногда это целесообразно.

- Хорошо. Будем считать, что вы сдали экзамен досрочно. Принимайте обещанный проглотий.

- Это целесообразно!

- Можете сообщить что-нибудь еще?

- Люди генетически одинаковы, а силорги – разные. Это странно.

- Начнем с людей. Как вы установили одинаковость?

- Мы брали пробы ДНК во всех мирах. Есть различия, но у любых представителей любых миров возможно потомство.

- Вы хотите сказать, что есть кто-то, или что-то, что стабилизирует ДНК?

- Это целесообразно. Люди меняются, но в заданных рамках.

- Опять какая-то внешняя сила! Что скажете о кремниевой жизни?

- Хотя и стрекозы, и мы выглядим, как насекомые, мы разные и по строению, и по размножению, и по химическому составу. А с сервами у нас много общего, но есть и значительные различия.

- Разный изготовитель?

- Или разные поколения. Или разное предназначение.

- Мы плавно перешли к следующему заданию. Для начала, необходимо найти источник наноботов - ремкоплектов для сервов.

- Мы ничего не знаем об источнике.

- Вам есть о чем поговорить с сервами, в том числе и об этом. Найдите источник вирусной атаки на вас.

- Это целесообразно. Уже давно ищем.

- Далее, логисты говорили о прародине человечества.

- О центре расселения людей?

- Да.

- Это древняя легенда. В нее никто не верит.

- Если люди одинаковые, значит была прародина. Невероятно, чтобы генетически одинаковые люди появились независимо в разных местах.

- Принято.

- Прежние задания остаются в силе.

- Принято. 

- Что не так?

- Это нецелесообразно.

- Что именно?

- Вы не должны отправляться в мир Меллона.

- И не собирался! Впрочем… Вы там были?

- Да.

- Дайте я угадаю. Там приближается жатва, верно?

- Так сказал Архимаг. Он знает Вас и просит о помощи.

- Как всегда: самое сладкое – на десерт!