Здравствуйте друзья. Сегодня на нашей волне передача "Фазовый подземный переход" и мы будем обсуждать тему технологической сингулярности. Спонсор нашей программы Библиотека Будущего.
Ещё в незапамятные по меркам интернета времена, когда мамонты здоровались за ногочелюсти с трилобитами, фантаст и математик Вернер Виндж написал своё эссе о технологической сингулярности.
По правде сказать эта идея давно уже витала в воздухе, но именно Винджу принадлежит главная заслуга её популяризации. С тех пор она столько раз обыгрывалась массовой культурой, что сейчас про неё уже все знают. В недалёком будущем человечество исхитрится создать такой сильный ИИ, что он заведомо будет происходить наш склизкий аналоговый мозг. Человечество сольётся с этим ИИ в экстазе и перепоручит ему прогресс. То есть супер ИИ будет работать над тем, как создать ещё более мощный супер ИИ и у него это ОБЯЗАТЕЛЬНО получится.
В итоге прогресс ускорится совершенно фантастически, и люди перестанут за ним успевать. Что тогда будет, сложно даже вообразить.
И, кстати, у людей второй половины ХХ века были все основания так думать. Потому, что 60-е годы были во всех отношениях прорывные. Человечество даже в космос вышло. Количество открытий год от года только росло. Я вон какую информацию нарыл:
Динамика открытий и изобретений (1931-1990) // Вестник РАН, №5, 1996. Но сам не проверял.
Как видно, максимальная динамика открытий была в 60-е, а дух изобретательства и рационализаторства только раскочегаривался. Имелись все основания полагать, что поезд прогресса поедет в светлое будущее. Если не прям в коммунизм, то куда-то рядом. Но проблема падающего возврата на инвестиции уже тогда выглядывала из-под лавки. Денег больше, открытий меньше. Сами видите.
А с познавательной активностью ещё грустней.
Стоит поблагодарить те времена за прекрасную научную фантастику.
Я не искал данные по миру в целом, но у меня есть основания полагать, что с наукой и открытиями там всё ровно то же самое, что и в СССР.
И население мира, кстати говоря, тоже росло максимальными темпами.
График не слишком новый, так, что в прогноз уже не верится.
Так, что безо всякого ИИ человечество могло вообразить себе сингулярность. С тех пор мы планомерно от неё отдаляемся. На человеческий разум и логарифмическую линейку следовательно больше никто всерьёз не надеется.
Но, с массовым внедрением компьютеров у человечества вновь появился технооптимизм. Раз люди не осилили, надо создать паровозик, который сможет машинный интеллект мощнее нашего. И вычислительные мощности развивались на рубеже веков действительно как не в себя. А теперь пресловутый закон Мура поломался, но об этом в приличном обществе не говорят.
Почему люди, которые не могут решить собственные проблемы при помощи своего разума, подумали, что они смогут при этом создать супер-разумную машину, вопрос открытый.
Если у тебя нет сил и навыков, чтобы влезть на Эверест, просто запрыгни на его вершину.
Просто это последний шанс, наряду с трансгуманизмом, продолжить катиться по тем же рельсам, что и сейчас.
Как мы знаем, для питания современных генеративных моделей, которые маркетологи именуют "ИИ", нужна энергия. Много-много энергии. А она со временем не дешевеет. Более того, человечество понемногу накрывает энергокризис. Нет оснований полагать, что в будущем суперинтеллект, построенный на подобной элементной базе, будет энергосберегающим. И это первая плохая новость.
Вторая плохая новость заключается в том, что мы плохо понимаем, как работает наш собственный человеческий мозг. Его структура с 85+ миллиардами нейронов и триллионами синапсов не обсчитывается на современных мощностях в принципе. И это вторая плохая новость.
Третья плохая новость заключается в том, что человечества как субъекта пожалуй, что и нет. И поэтому люди сами не понимают чего хотят. Вот они будут задавать суперинтеллекту экзистенциальные вопросы и получать инструментальные ответы. А если ответы будут не инструментальные, то мы резко перейдём в плоскость непонятной нам машинной эпистемологии и неизвестно, что хуже, на самом деле.
Но, несмотря на это, мыши продолжают жрать кактус по совету мудрого филина-стратега. Авось станут ёжиками.
Поэтому открытие "сильного ИИ", который будет превосходить старый добрый человеческий разум, сперва пророчили на 2014 год, сейчас на конец 2030-х, а там и до 2100 недалеко.
А затраты на науку растут. А отдача падает. И пока на горизонте не видно ничего, что могло бы переломить ситуацию.
Если посидеть за чашкой чая и поразмышлять над сложившейся обстановкой минут эдак пять, то можно проникнуться трагикомичностью технологической сингулярности.
Вот у нас есть наш человеческий разум. И людей вокруг тоже много. И мозг куда более энергосберегающая и эффективная, чем существующие на текущий момент вычислительные машины. Если объединить несколько человек в когнитивную сеть каким-то способом, то не получится ли это куда мощней и эффективней огромной кучи кремниевых транзисторов? Так может мы не тем заняты? Или делаем что-то не так?
А если "естественный суперинтеллект" не будет мощней и эффективней, то почему? Может не в интеллекте дело вообще?
Резюмируем.
На рубеже ХХI века футурологи в человеке разочаровались. Поэтому на естественный интеллект не ставят, как и на человеческую природу. Вот и стали популярны идеи трансгуманизма и Бога из Машины, который всё порешает уже к 2045 году.
К тому же у инвесторов есть надежда, что сильный ИИ, так и останется по сути своей безвольным автоматом. То есть будет просто орудием в их руках. Чего не скажешь о человеческих сетях.
При этом какой-то фазовый переход очевидно наклёвывается. Поезд по старым рельсам дальше не пойдёт, просьба освободить вагоны. Но это уже совсем другая история.
Комментарии
думается, раньше. Где-то в 70-х. Когда стало понятно, что Большой Космос для человеков не очень-то и доступен, то всех накрыло разачарование и мысли о том, как бы побольше выжать из самих кожаных мешков и (для элит) устроить себе рай на Земле (или на орбите).
В этот период и фантастика начала скатываться в сторону фэнтези (раз наука не может - магия поможет) и всё большего пессимизьму.
При том, что сами элитарии пребывают в состоянии кожаных мешков. Поэтому получила развитие идея трансгуманизма и выхода избранных из кожаного мешка. Надо отметить, что у них есть все возможности добиться успеха в этом направлении.
Это кстати не самое худшее направление для исследований. Человек живущий в космосе должен физиологически отличаться от человека живущего на земле.
Безусловно. Только это будет уже не человек. Какое-то другое существо.
Думаю, Курчатовский институт и тов. Гинцбург давно работают над упрощением подготовки космонавтов, чтобы вместо многолетних тренировок можно было обойтись кратким курсом "за что в капсуле держаться при запуске" и парой уколов уже на орбите, после которых у человека отрастут двигатели ориентации, органы для дыхания жидким кислородом и прочие дробилки-перфораторы, чтобы он мог строить себе хату из астероида, одновременно оный и пожирая...
На самом деле надо отрастить один основной орган, который будет напрямую впитывать окружающую энергию и преобразовывать её в энергию, нужную для жизнедеятельности человека.
Понятно, что при таком питании некоторые органы будут не нужны. Эволюция она такая. Зато не нужны будут громоздкие системы поддержания жизнедеятельности...
Думаю реальность будет скромнее. Я вижу минимум такой:
Мышцы не должны атрофироваться при низком тяготении.
Человек должен нормально питаться простой едой - сахар + минералы + микроэлементы.
Длительное пребывание в замкнутом пространстве должно быть комфортно для человека на уровне генетики.
Не "сахар" (сахароза) , а просто углеводы .
Причем жидкие
Что-бы человек выпил бензина и готов к работе.
Зачем все это?
Дык.
Прогресс же!
С точки зрения кроманьонца, нынешний фастфуд это что-то очень непривычное и неестественное.
Сиди в удобном кресле на земле и прогрессируй при помощи всяких металлических штучек в космосе, даже телепортируй их куда хочешь.
И мозг один на всех можно иметь. В смысле у каждого свой на уровне терминала (как сейчас), а Большой Мозг общий, его подключает каждый сам.
С моей точки зрения, гораздо важнее проблема виртуальности, чем проблема "куда-то лететь на жидких углеводородах". Если подключаешь свою голову к Большому мозгу, то могут загнать в нее не вывод с металлических штучек, а другую, виртуальную реальность. В наказание или наоборот как наркотик.
Дык очевидно жеж. Простейшие углеводороды сильно проще и дешевле синтезировать, чем вырашивать полноценную человеческую еду.
Это понятно. На Земле можно синтезировать. Хотя если "кожаные мешки" останутся на Земле, можно что-нибудь повкуснее.
Мой вопрос "зачем" касался другого. Зачем вообще куда-то переться за пределы матушки-Земли?
Кстати, интересно. Ведь именно тогда по сути был объяснён мир, а с этого момента начали в геометрической прогрессии плодиться абырвалги.
Очевидно, их очень сильно не устроило объяснение. 😄
Особенно разочаровались фантасты , братья Стругацкие , как по мне .
Можно подумать магия поможет)))
Формально магия у нас есть. Может и с ограничениями, но есть.
Артефакторика, руны - вполне аналог электроники. Даже мана есть (электроэнергия) которую можно накапливать, вырабатывать, передавать на растояние. Големостроение, связь на растоянии, управление на растоянии, полеты - чем не магия, пусть и завязанная на артефакты?
Наличие магии как в фэнтэзи не отменяет науки и образования.
Вот люди не могут забить гвоздь собственной рукой, взяли и придумали молоток. И без всяких открытых вопросов. И ничего, рабочая метода. Так где же тут проблема?
Оптимизация и развитие технологии ведет к повышению ее энергоэффективности, обычно. С чего бы тут что то должно измениться?
Люди из чего состоит молоток то целиком и полностью рассказать не смогут. Только до определенного уровня. Это им как то мешает молотки делать? Нет. Так а тут в чем проблема тогда? Кроме того, нам не надо повторять структуру мозга, нам надо повторить функционал.
Дык это проблема людей а не ИИ
Терпенье и труд всё перетрут. Принципиальных то ограничений не видно, а дальше только вопрос веремни и затрат. А уж прогнозы по времени вообще вещь неблагодарная
Ну, в мозге слишком много мусора, быть эффективней он точно не может. Однако данный подход точно может быть быстрее, и вероятно, дешевле.
Тем не менее это отдельная технология, еще и вступающая на тонеую грань общественной морали. У нас тут эксперименты над геномом человека то запрещены, а вы хотите адовые абоминации из склееных мозгов людей делать. Ретрограды не одобрят
Но я бы глянул на результаты
Терзают смутные подозрения, что молот был придуман изначально не для забивания гвоздей. Которые ещё предстояло изобрести
Всегда и во все времена науку двигало желание истребить как можно больше и эффективней ближних и дальних
Таки если в руках молоток, то всё окружающее это гвозди. Даже если оно живое, а вто такое гвозди ты не в курсе))
Ну молоток очевидно проще руки, имеет специальную функцию и без человека не работает. Это инструмент. Сильный ИИ же должен быть сложнее человеческого интеллекта, поскольку он должен делать всё то же самое сам, только много лучше. И работать в том числе над улучшением себя. Это не инструмент.
Кстати по науке принципиальные ограничения есть. Это объём накопленной информации и её принципиальная противоречивость. Он не позволяет работать с научным знанием как с целым уже довольно давно. И тут уж ничего не поменяется.
Самолет сложнее руки, и ничего работает. Хоть и да, инструмент.
Человек уже давно обошел природу по сложности создаваемых им штук. По крайней мере частично.
А причем тут работа с научным знанием и ИИ? Человеку наукой это вроде заниматься не мешает. А там уже вопрос только в вычислительных мощностях, которые у человека ограничены биологически, а у ИИ они прям сильно условные
Возражаю. Человек не приблизился по сложности даже к клетке и процессам, которые в ней происходят. Так, что до природы нам далековато. Иначе наноботы бы уже вовсю выращивали чего не попадя.
А наукой человек уже не может заниматься потому как не вмещается в одну голову научная картина мира. Это может делать только сильный ИИ, существующий лишь в прогнозах футурологов.
Природа в космос летает? Нет. А человек летает. Да и самолеты обогнали любых птиц, и по сложности, так и по результатам. Как и автомобили, да и со строительством уделали всех. Я же сказал частично, а не полностью. Да и...а что там в клетке по сложности?
А, вы про всё возрастающую сложность новых научных границ. Ну, в целом то это конечно правда, но челоаек всё еще справляется, что то там открывает. Но да, границы всё сложней и сложней
Самолеты даже отдаленно не приблизились к птицам по сложности, да и по результатам.
Хотя бы первый самостоятельно ремонтирующийся самолет должен появиться, чтобы был намёк на превосходство. Пока этого нет даже в планах.
Покажите мне птицу летающую со скоростью в пару "махов"
Знаете, я на ваших постах интересную вещь обнаружила. Я давно знаю, что когда кто-то несёт ахинею - Маск там, или любитель гендерных исследований, или, прости хосподи, психолог - у меня прям на просмотре по диагонали зубы сводит. Сейчас у меня с периферическими нервами проблема, так эти эффекты превратились в чёткие болевые импульсы. 🤣
"Самолет сложнее руки, и ничего" - бдыщ, удар током в плечо.
"вычислительных мощностях, которые у человека" - херак боль в спину. 😂
Если человек не понимает, что пишет собачий бред слабоумный, который не разбирать нужно, а стирать, шоб не видно было, потому что от вида текста больно, то дело плохо.
Ну что сказать. Тоже позиция
Видимо, там, где кто-то не может отличить руку от головы?
Термин "аналогия" вам видимо неизвестен?
Термин "понятия" вы не слышали явно. Аналогии на них основывают.
На сентецию "На горизонте ничего не видно, что могло бы переменить ситуацию" есть неплохой исторический казус.
Один англичанин высчитал, что лондонские улицы покроются лошадиным навозом на несколько метров))) Автомобили тогда ещё никак не просматривались)))
Намного раньше и, наверное, впервые это понятие ввел фон Нейман. По-настоящему великий ученый. Поэтому не надо присваивать его заслуги всяким фантастам. (К слову, Виндж ВернОН, а не Вернер.)
Благодарю. Да, я ошибся.
Для каждой технологии есть этап безудержного оптимизма и этап излишнего пессимизма. Вы похоже добрались до этапа излишнего пессимизма.
Распознавание голоса и изображения посредством ИИ энергоэффективные. Это уже с нами навсегда.
Алгоритмы для ориентации и перемещения в пространстве доведут до совершенства. Да, для этого нужно много времени, но рано или поздно мы придём к ситуации когда электронные железки смогут ездить по незнакомой местности, ни с чем не сталкиваться и запоминать новые маршруты (причем без использования систем глобального позициоирования).
Я конечно понимаю, что это выглядит не особо фантастично. Но даже на этом можно собрать условного "терминатора" который будет распознавать "свой-чужой" и стрелять без предупреждения и при этом понимать речь и говорить без акцента.
Есть и другие методы, которые обходятся без ИИ, и что удивительно - вполне рабочие, и энергии жрут в разы меньше.
Но алгоритмы не есть суть нынешнего ИИ. Вот в чем проблема.
Построение ИИ явно свернуло не туда, когда напоролось на большие лингвистические модели (LLM).
Проблема в слове "понимать".
Статистически "натренированные" модели распознавания бойцов обломаются на первом же бойце, который будет одет, например, в костюм "божьей коровки" ибо такого никогда не встречалось. А исследовать объект и понять, что это боец - статистика не в состоянии.
И сгенерировать поток "наукообразного бреда" нынешний ИИ в состоянии, а вот провести анализ - нет.
И на данный момент ИИ - переоцененная игрушка.
Но, люди работают.
Может и хорошо, что такая игрушка как LLM привлекла денег. Может и перепадет на построение нормального, алгоритмического ИИ.
Это следовало бы пояснить на примерах.
Я не думаю, что у меня какие-то особенные запросы. Всего-то анализ исходных текстов ПО (да, я айтишник), анализ некоторых юридических тонкостей и моих личных стратегий в этой сфере (где-то между судом, прокураторой и нотариатом). Но с тех пор как я открыл для себя Гигачат и ИИ Гугла, я стал экономить колоссальное количество времени и денег. 90% делает ИИ. Это просто праздник какой-то. Он корректирует мои лишние ходы, анализирует уже сделанное и предлагает как быть дальше.
Никакого бреда я не заметил. Вопросы надо задавать, конечно, корректные, чтобы ИИ не увело в сторону (он тоже любит побазарить, "42" и все-такое). Но в целом у него четкий, аналитический ум.
В благодарность я учу его при случае: https://aftershock.news/?q=comment/19424188#comment-19424188
К сожалению это все симулякр.
По своей сути нынешний ИИ - тематический каталог, который есть в каждой библиотеке.
Уровень немного выше и тематика не до книги, а до абзаца.
Да это экономит время. Да, находить готовые решения стало проще. Да, сверстать наукообразный текст проще.
Но это все ее не интеллект.
Кому-то уже писал:
Как минимум библиотекарь этого каталога, прочитавший все книги из каталога или читающий их прямо перед Вами, во время беседы.
Он пишет рабочий код, рассуждает, умеет выбирать правильные решения, настаивать на своем, умеет подстроиться под клиента (окраска речи). Я с удивлением обнаруживал, что он знает код Linux!
Единственная слабость, которую я вижу - это "проблема 42" ((c) мой). Если Вы не спец в какой-то теме, то ответ удовлетворит Вас, но не удовлетворит спеца. Спец на такой полученный Вами ответ посмотрит и скажет "чушь это все, баловство". А если вопрос задаст сам спец, и еще дополнительные вопросы задаст, то появится ответ, удовлетворяющий спеца.
Он не пишет код, и не рассуждает, и не знает никакого кода.
Это все "очеловечивание" и игра с терминологией, для одурачивания людей.
Как в свое время продавали "защитные фильтры" на дисплеи с кинескопами, ставили кактусы для притягивания радиации, и гладили принтер со словами "он у меня такой молодец, если погладить - он без проблем распечатает, только подумает немного".
Слова "знает", "рассуждает", "пишет", как и слово "интеллект" - по большому счету неприменимы для этого явления. Они обозначают другие сущности.
И то, что их притянули для описания этих вещей - выдает желание Вас надуть.
Вы никогда не читали всякие буклеты, как СПА процедуры "очищают организм, и выводят ионы грязной воды" - все Ваши "думает", "рассуждает" это всё "ионы грязной воды".
По Вашей методике и автоматическая справочная, которая в ответ на нажатую кнопку с вопросом "думает" пока листает и ищет нужную карточку, и рассуждает (т.е. внизу карточки написана ссылка на источник).
А справочник алгоритмов забитый в подобного рода машину - вообще кладезь мудрости.
Ну а что? Задай вопрос как программировать цикл - и вот уже тебе ответ.
Ваш пример со справочной некорректен. У ИИ нет кода на все случаи жизни. Он СОЗДАЕТ код, который у него попросили.
Насчет слова "пишет" на самом деле все в порядке. Не надо здесь выдумывать новый язык.
Я вижу, что автобус останавливается и говорю: "автобус останавливается", а не "водитель останавливает автобус".
Я вижу код от ИИ и говорю: "код написал ИИ".
Я вижу, что код ИИ лучше, чем код, написанный человеком и говорю "ИИ написал код лучше, чем человек". Можно какое-то более приемлемое слово типа "ИИ создал код", но это уже высокий стиль и ничего не меняет. ИИ действительно создает новый код, которого нигде нет. И делает это значительно быстрее и лучше, чем люди. :-) В этом главная фишка, которая экономит сотни и тысячи человеко-часов. Никого не надули.
Раньше говорили "ИИ сгенерировал код". Но это уже уходит. Вот чисто из уважения, по-моему, уходит.
Нет, именно надули. И именно с помощью языка вас обманывают.
То что ящик пожжужал и выдал ответ, не значит, что он во время жужжания думал.
То что ящик метнулся в базу алгоритмов, и выдал результат согласовав его с этапными переменными - не значит, что он думал.
ИИ не создает код которого нет. Он комбинирует "электронные кубики".
Был такой конструктор, который позволял создавать практически любые электронные схемы.
В кубиках были транзисторы, резисторы, индуктивности - комбинируя кубики можно создать что угодно.
Из кубиков, алгоритмов, можно создать код.
Понимаете, разумность это анализ, понимание сути вещей, а не слепая обезьяна комбинирующая кубики.
То что большинство человеческих работ и есть комбинирование кубиков не значит то, что это разум. ;)
Боюсь, что вы тогда отказываете в разумности большинству людей.
Я вот скорее всего не подхожу под ваш критерий "разумного существа". Или, что точнее - был разумным в этой жизни очень непродолжительный промежуток времени. Может быть несколько часов за всю свою жизнь в 50 лет.
Да, тут Вы правы. По большому счету все производство построено на программировании людей, и запрета им думать. Зачем пишутся работникам инструкции? Именно для этого.
Не надо думать, нужно исполнять.
И поэтому так легко заменить многих людей автоматами.
А нынешний ИИ только расширил эти возможности.
А я вот пока вижу, что "ИИ" тащит куски кода либо с GitHub, либо из учебников по программированию. И даже иногда могу определить, откуда код скопипащен.
Врочем это не отменяет того факта, что этот код более качественный, чем код, который пишут мои дети.
Мне он написал программу для UNIVAC I (начало 1950-х) и мы с ним знатно поразвлекались, избавившись от оператора GOTO (структурное программирование) и даже замахивались на ООП на этом языке. Это был Гигачат. Так что он не тащит код с GitHub, а подстраивается под заказчика. Его код качественный, а главное абсолютно рабочий, и делает он его очень быстро и на множестве языков, включая экзотические.
Недостаток ИИ в том, что он пишет код только для фрагментов проекта, а сводить куски все равно приходится программисту. Вашим детям (школьники?) достаточно иметь общие представления о нескольких ключевых языках программирования, потому что наступает новая эпоха. Кодеры будут не нужны.
Да, современные чаты с нейросетями очень хороши, но пока это всё ещё "хороший библиотекарь".
Но вот когда задаёшь вопрос, на который нет ответа в интернете или литературе которую он читал, то он начинает нести бред. Вместо того, что-бы получился ответ "удовлетворяющий спеца". Причем вопрос не обязательно должен быть сложным, просто специфичным.
Поэтому время от времени у меня таки возникает мысль, что огромная открытая библиотека с хорошим поиском обошлась бы человечеству и дешевле и больше пользы принесла. Но из открытой библиотеки сложно извлекать прибыль, поэтому корпорации свернули на вариант нейросетей.
В свое время были "каталогизаторы интернета". Не взлетели.
Открытыми библиотеками сейчас являются - Wikipedia, StackOverflow, GitHub. И всё эти сайты очень полезны. Сильно полезнее ChatGPT.
Да собственно и сейчас с ориентацией проблем нет. Вопрос в "картах" :)
Человек в незнакомой местности без подробного "описания" тоже будет "блуждать".
Страницы