Здравствуйте друзья. Сегодня на нашей волне передача "Фазовый подземный переход" и мы будем обсуждать тему технологической сингулярности. Спонсор нашей программы Библиотека Будущего.
Ещё в незапамятные по меркам интернета времена, когда мамонты здоровались за ногочелюсти с трилобитами, фантаст и математик Вернер Виндж написал своё эссе о технологической сингулярности.
По правде сказать эта идея давно уже витала в воздухе, но именно Винджу принадлежит главная заслуга её популяризации. С тех пор она столько раз обыгрывалась массовой культурой, что сейчас про неё уже все знают. В недалёком будущем человечество исхитрится создать такой сильный ИИ, что он заведомо будет происходить наш склизкий аналоговый мозг. Человечество сольётся с этим ИИ в экстазе и перепоручит ему прогресс. То есть супер ИИ будет работать над тем, как создать ещё более мощный супер ИИ и у него это ОБЯЗАТЕЛЬНО получится.
В итоге прогресс ускорится совершенно фантастически, и люди перестанут за ним успевать. Что тогда будет, сложно даже вообразить.
И, кстати, у людей второй половины ХХ века были все основания так думать. Потому, что 60-е годы были во всех отношениях прорывные. Человечество даже в космос вышло. Количество открытий год от года только росло. Я вон какую информацию нарыл:
Динамика открытий и изобретений (1931-1990) // Вестник РАН, №5, 1996. Но сам не проверял.
Как видно, максимальная динамика открытий была в 60-е, а дух изобретательства и рационализаторства только раскочегаривался. Имелись все основания полагать, что поезд прогресса поедет в светлое будущее. Если не прям в коммунизм, то куда-то рядом. Но проблема падающего возврата на инвестиции уже тогда выглядывала из-под лавки. Денег больше, открытий меньше. Сами видите.
А с познавательной активностью ещё грустней.
Стоит поблагодарить те времена за прекрасную научную фантастику.
Я не искал данные по миру в целом, но у меня есть основания полагать, что с наукой и открытиями там всё ровно то же самое, что и в СССР.
И население мира, кстати говоря, тоже росло максимальными темпами.
График не слишком новый, так, что в прогноз уже не верится.
Так, что безо всякого ИИ человечество могло вообразить себе сингулярность. С тех пор мы планомерно от неё отдаляемся. На человеческий разум и логарифмическую линейку следовательно больше никто всерьёз не надеется.
Но, с массовым внедрением компьютеров у человечества вновь появился технооптимизм. Раз люди не осилили, надо создать паровозик, который сможет машинный интеллект мощнее нашего. И вычислительные мощности развивались на рубеже веков действительно как не в себя. А теперь пресловутый закон Мура поломался, но об этом в приличном обществе не говорят.
Почему люди, которые не могут решить собственные проблемы при помощи своего разума, подумали, что они смогут при этом создать супер-разумную машину, вопрос открытый.
Если у тебя нет сил и навыков, чтобы влезть на Эверест, просто запрыгни на его вершину.
Просто это последний шанс, наряду с трансгуманизмом, продолжить катиться по тем же рельсам, что и сейчас.
Как мы знаем, для питания современных генеративных моделей, которые маркетологи именуют "ИИ", нужна энергия. Много-много энергии. А она со временем не дешевеет. Более того, человечество понемногу накрывает энергокризис. Нет оснований полагать, что в будущем суперинтеллект, построенный на подобной элементной базе, будет энергосберегающим. И это первая плохая новость.
Вторая плохая новость заключается в том, что мы плохо понимаем, как работает наш собственный человеческий мозг. Его структура с 85+ миллиардами нейронов и триллионами синапсов не обсчитывается на современных мощностях в принципе. И это вторая плохая новость.
Третья плохая новость заключается в том, что человечества как субъекта пожалуй, что и нет. И поэтому люди сами не понимают чего хотят. Вот они будут задавать суперинтеллекту экзистенциальные вопросы и получать инструментальные ответы. А если ответы будут не инструментальные, то мы резко перейдём в плоскость непонятной нам машинной эпистемологии и неизвестно, что хуже, на самом деле.
Но, несмотря на это, мыши продолжают жрать кактус по совету мудрого филина-стратега. Авось станут ёжиками.
Поэтому открытие "сильного ИИ", который будет превосходить старый добрый человеческий разум, сперва пророчили на 2014 год, сейчас на конец 2030-х, а там и до 2100 недалеко.
А затраты на науку растут. А отдача падает. И пока на горизонте не видно ничего, что могло бы переломить ситуацию.
Если посидеть за чашкой чая и поразмышлять над сложившейся обстановкой минут эдак пять, то можно проникнуться трагикомичностью технологической сингулярности.
Вот у нас есть наш человеческий разум. И людей вокруг тоже много. И мозг куда более энергосберегающая и эффективная, чем существующие на текущий момент вычислительные машины. Если объединить несколько человек в когнитивную сеть каким-то способом, то не получится ли это куда мощней и эффективней огромной кучи кремниевых транзисторов? Так может мы не тем заняты? Или делаем что-то не так?
А если "естественный суперинтеллект" не будет мощней и эффективней, то почему? Может не в интеллекте дело вообще?
Резюмируем.
На рубеже ХХI века футурологи в человеке разочаровались. Поэтому на естественный интеллект не ставят, как и на человеческую природу. Вот и стали популярны идеи трансгуманизма и Бога из Машины, который всё порешает уже к 2045 году.
К тому же у инвесторов есть надежда, что сильный ИИ, так и останется по сути своей безвольным автоматом. То есть будет просто орудием в их руках. Чего не скажешь о человеческих сетях.
При этом какой-то фазовый переход очевидно наклёвывается. Поезд по старым рельсам дальше не пойдёт, просьба освободить вагоны. Но это уже совсем другая история.
Комментарии
думается, раньше. Где-то в 70-х. Когда стало понятно, что Большой Космос для человеков не очень-то и доступен, то всех накрыло разачарование и мысли о том, как бы побольше выжать из самих кожаных мешков и (для элит) устроить себе рай на Земле (или на орбите).
В этот период и фантастика начала скатываться в сторону фэнтези (раз наука не может - магия поможет) и всё большего пессимизьму.
При том, что сами элитарии пребывают в состоянии кожаных мешков. Поэтому получила развитие идея трансгуманизма и выхода избранных из кожаного мешка. Надо отметить, что у них есть все возможности добиться успеха в этом направлении.
Это кстати не самое худшее направление для исследований. Человек живущий в космосе должен физиологически отличаться от человека живущего на земле.
Безусловно. Только это будет уже не человек. Какое-то другое существо.
Думаю, Курчатовский институт и тов. Гинцбург давно работают над упрощением подготовки космонавтов, чтобы вместо многолетних тренировок можно было обойтись кратким курсом "за что в капсуле держаться при запуске" и парой уколов уже на орбите, после которых у человека отрастут двигатели ориентации, органы для дыхания жидким кислородом и прочие дробилки-перфораторы, чтобы он мог строить себе хату из астероида, одновременно оный и пожирая...
На самом деле надо отрастить один основной орган, который будет напрямую впитывать окружающую энергию и преобразовывать её в энергию, нужную для жизнедеятельности человека.
Понятно, что при таком питании некоторые органы будут не нужны. Эволюция она такая. Зато не нужны будут громоздкие системы поддержания жизнедеятельности...
Думаю реальность будет скромнее. Я вижу минимум такой:
Мышцы не должны атрофироваться при низком тяготении.
Человек должен нормально питаться простой едой - сахар + минералы + микроэлементы.
Длительное пребывание в замкнутом пространстве должно быть комфортно для человека на уровне генетики.
Кстати, интересно. Ведь именно тогда по сути был объяснён мир, а с этого момента начали в геометрической прогрессии плодиться абырвалги.
Очевидно, их очень сильно не устроило объяснение. 😄
Вот люди не могут забить гвоздь собственной рукой, взяли и придумали молоток. И без всяких открытых вопросов. И ничего, рабочая метода. Так где же тут проблема?
Оптимизация и развитие технологии ведет к повышению ее энергоэффективности, обычно. С чего бы тут что то должно измениться?
Люди из чего состоит молоток то целиком и полностью рассказать не смогут. Только до определенного уровня. Это им как то мешает молотки делать? Нет. Так а тут в чем проблема тогда? Кроме того, нам не надо повторять структуру мозга, нам надо повторить функционал.
Дык это проблема людей а не ИИ
Терпенье и труд всё перетрут. Принципиальных то ограничений не видно, а дальше только вопрос веремни и затрат. А уж прогнозы по времени вообще вещь неблагодарная
Ну, в мозге слишком много мусора, быть эффективней он точно не может. Однако данный подход точно может быть быстрее, и вероятно, дешевле.
Тем не менее это отдельная технология, еще и вступающая на тонеую грань общественной морали. У нас тут эксперименты над геномом человека то запрещены, а вы хотите адовые абоминации из склееных мозгов людей делать. Ретрограды не одобрят
Но я бы глянул на результаты
Терзают смутные подозрения, что молот был придуман изначально не для забивания гвоздей. Которые ещё предстояло изобрести
Всегда и во все времена науку двигало желание истребить как можно больше и эффективней ближних и дальних
Таки если в руках молоток, то всё окружающее это гвозди. Даже если оно живое, а вто такое гвозди ты не в курсе))
Ну молоток очевидно проще руки, имеет специальную функцию и без человека не работает. Это инструмент. Сильный ИИ же должен быть сложнее человеческого интеллекта, поскольку он должен делать всё то же самое сам, только много лучше. И работать в том числе над улучшением себя. Это не инструмент.
Кстати по науке принципиальные ограничения есть. Это объём накопленной информации и её принципиальная противоречивость. Он не позволяет работать с научным знанием как с целым уже довольно давно. И тут уж ничего не поменяется.
Самолет сложнее руки, и ничего работает. Хоть и да, инструмент.
Человек уже давно обошел природу по сложности создаваемых им штук. По крайней мере частично.
А причем тут работа с научным знанием и ИИ? Человеку наукой это вроде заниматься не мешает. А там уже вопрос только в вычислительных мощностях, которые у человека ограничены биологически, а у ИИ они прям сильно условные
Возражаю. Человек не приблизился по сложности даже к клетке и процессам, которые в ней происходят. Так, что до природы нам далековато. Иначе наноботы бы уже вовсю выращивали чего не попадя.
А наукой человек уже не может заниматься потому как не вмещается в одну голову научная картина мира. Это может делать только сильный ИИ, существующий лишь в прогнозах футурологов.
Природа в космос летает? Нет. А человек летает. Да и самолеты обогнали любых птиц, и по сложности, так и по результатам. Как и автомобили, да и со строительством уделали всех. Я же сказал частично, а не полностью. Да и...а что там в клетке по сложности?
А, вы про всё возрастающую сложность новых научных границ. Ну, в целом то это конечно правда, но челоаек всё еще справляется, что то там открывает. Но да, границы всё сложней и сложней
Знаете, я на ваших постах интересную вещь обнаружила. Я давно знаю, что когда кто-то несёт ахинею - Маск там, или любитель гендерных исследований, или, прости хосподи, психолог - у меня прям на просмотре по диагонали зубы сводит. Сейчас у меня с периферическими нервами проблема, так эти эффекты превратились в чёткие болевые импульсы. 🤣
"Самолет сложнее руки, и ничего" - бдыщ, удар током в плечо.
"вычислительных мощностях, которые у человека" - херак боль в спину. 😂
Если человек не понимает, что пишет собачий бред слабоумный, который не разбирать нужно, а стирать, шоб не видно было, потому что от вида текста больно, то дело плохо.
Ну что сказать. Тоже позиция
Видимо, там, где кто-то не может отличить руку от головы?
Термин "аналогия" вам видимо неизвестен?
Термин "понятия" вы не слышали явно. Аналогии на них основывают.
Намного раньше и, наверное, впервые это понятие ввел фон Нейман. По-настоящему великий ученый. Поэтому не надо присваивать его заслуги всяким фантастам. (К слову, Виндж ВернОН, а не Вернер.)
Благодарю. Да, я ошибся.
Для каждой технологии есть этап безудержного оптимизма и этап излишнего пессимизма. Вы похоже добрались до этапа излишнего пессимизма.
Распознавание голоса и изображения посредством ИИ энергоэффективные. Это уже с нами навсегда.
Алгоритмы для ориентации и перемещения в пространстве доведут до совершенства. Да, для этого нужно много времени, но рано или поздно мы придём к ситуации когда электронные железки смогут ездить по незнакомой местности, ни с чем не сталкиваться и запоминать новые маршруты (причем без использования систем глобального позициоирования).
Я конечно понимаю, что это выглядит не особо фантастично. Но даже на этом можно собрать условного "терминатора" который будет распознавать "свой-чужой" и стрелять без предупреждения и при этом понимать речь и говорить без акцента.
Есть и другие методы, которые обходятся без ИИ, и что удивительно - вполне рабочие, и энергии жрут в разы меньше.
Но алгоритмы не есть суть нынешнего ИИ. Вот в чем проблема.
Построение ИИ явно свернуло не туда, когда напоролось на большие лингвистические модели (LLM).
Проблема в слове "понимать".
Статистически "натренированные" модели распознавания бойцов обломаются на первом же бойце, который будет одет, например, в костюм "божьей коровки" ибо такого никогда не встречалось. А исследовать объект и понять, что это боец - статистика не в состоянии.
И сгенерировать поток "наукообразного бреда" нынешний ИИ в состоянии, а вот провести анализ - нет.
И на данный момент ИИ - переоцененная игрушка.
Но, люди работают.
Может и хорошо, что такая игрушка как LLM привлекла денег. Может и перепадет на построение нормального, алгоритмического ИИ.
Это следовало бы пояснить на примерах.
Я не думаю, что у меня какие-то особенные запросы. Всего-то анализ исходных текстов ПО (да, я айтишник), анализ некоторых юридических тонкостей и моих личных стратегий в этой сфере (где-то между судом, прокураторой и нотариатом). Но с тех пор как я открыл для себя Гигачат и ИИ Гугла, я стал экономить колоссальное количество времени и денег. 90% делает ИИ. Это просто праздник какой-то. Он корректирует мои лишние ходы, анализирует уже сделанное и предлагает как быть дальше.
Никакого бреда я не заметил. Вопросы надо задавать, конечно, корректные, чтобы ИИ не увело в сторону (он тоже любит побазарить, "42" и все-такое). Но в целом у него четкий, аналитический ум.
В благодарность я учу его при случае: https://aftershock.news/?q=comment/19424188#comment-19424188
От популярности зависит ум ИИ. Если много юзеров, то он много общается и становится еще умнее. Если ИИ непопулярен, то он не будет развиваться.
Вот я только что научил ИИ Google кое-чему. Не может доменный пользователь зайти на определенный компьютер хоть ты тресни. ИИ Google предлагал мне много вариантов, вплоть до переподключения компа к домену (очень сомнительный бубен, кстати).
А я нашел проблему: в настройках пользователя был нестандартный путь к профилю (раньше он был перемещаемый).
Да собственно и сейчас с ориентацией проблем нет. Вопрос в "картах" :)
Человек в незнакомой местности без подробного "описания" тоже будет "блуждать".
Перефразируя "падающий возврат" в (бесконечно)"возрастающие вложения", мы легко приходим к выводу, что потолок технологий уже на подходе, поскольку ресурс планеты конечен.
Хотелось бы сказать, что у человечества всё впереди, но нет. Ресурсов и доступного сырья всё меньше, а напряженности на планете всё больше.
Так что да, мы все умрем.
"Автостопом по галактике", создание суперкомпа... вопрос суперкомпу- о смысле жизни вообще...и наконец спустя тысячилетия вопрос туда же...42
О том и речь.
Основное отличие т.н. "Искусственного Интеллекта" от обычного человеческого интеллекта - в отсутствии любопытства, любознательности, а так же какой либо эмоциональности. Эти качества никак не запрограммируешь. Да, он быстро вычисляет, оперируя напичканной в него информацией, при этом остается неразумной, т.е. не неинтеллектуальной машиной, без собственного "Я".
Это вам кто такую чушь сказал? Эти вещи то как раз программировать легко
> Эти вещи то как раз программировать легко
Контролировать потом сложно. Только если рубильником.
Безусловно, но это уже другой вопрос))
Ходят упорные слухи, что торможение в 60-е началось не само по себе, но было организовано
Технологическая полка.
В основном по энергии, но недостаток теории тоже упирало.
Собственно, и сейчас нет компактных источников энергии с ёмкостью как у бензина и удобством как у аккумуляторов.
Вся история человечества это борьба за энергию, так то кофеварка чуть-ли не в 19 веке изобретена.
Давайте построим правильную последовательность.
Карл Маркс - Вернер Виндж - Брюс Бетке
И тогда все сразу становится ясным и понятным.
"Поэтому открытие "сильного ИИ", который будет превосходить старый добрый человеческий разум, сперва пророчили на 2014 год"
Ну почему, мы уже встретились: ИИ консультант умнее большинства "кожаных".
вопрос не в уме, а в его стоимости. Кстати, в чём её измерять? В рублях за машиночас?
Тут в соседнем треде обсуждают стоимость эксплуатации и энергоэффективность ЖД, автоммобилей и прочего транспорта, и выходит, что, если не нужно переваливать миллионы тонн угля или руды, грузовики выгоднее. Не случится ли так и с ИИ?
Зачем вы выставляете себя... ИИ?
Хотелось бы но нет, я пока кожаный.
У меня есть цель в жизни: https://habr.com/ru/articles/489068/ и для ее достижения я сделаю все.
Даже если придется разработать и воплотить в жизнь самые опасные технологии.
фантаст и математик Вернер Виндж написал своё эссе о технологической сингулярности
Все же богата кретинами земля-планета. Кстати, как ни фантаст, так епрст сплошной футуролог с дивана.
Мир не надо изучать, надо хотелки хотеть. Чего б не придумать себе Надмозг?
Ща - нарисуем, будем жить.
Перспективный чат детектед! Сим повелеваю - внести запись в реестр самых обсуждаемых за последние 4 часа.
Зачем же так... ИИ - хороший инструмент для выявления филистерских аргументов "за
и "против" прогресса, вообще "клевый" термометр выявления расхожих невежеств и пошлостей. ИИ можно иcпользовать для моделирования ситуаций, когда требуется узнать, как
быдломасса отреагирует на ту или иную замануху.Так мы ж не можем после индейцев со своими тянуть яйца кота за хвост .
Заморозка в обосравшийся Львов и сраную Польшу . Вереницы потянутся вместе с армией.
Еще и замириться хотели с козлами бакса.
Ну ну , посмотрим чья возмет , а пока истощаем дурачков под Купянском.
Я слился почти.
Все так. И я доволен.
Мой разум уже превзошли. Все идет по плану.
Анализ исходников, настроек систем с открытым исходным кодом (именно такими должны быть системы для ИИ, кстати!!! а иначе танцы с бубном вокруг Windows, танцевать тоже приходилось вместе с ИИ), множества вещей, за которые я бы никогда не взялся я уже на 90% поручил ИИ. Юристов скоро можно сокращать. Психотерапевты на очереди. И т.д. И т.п.
Инвесторы оказались перед выбором - или оплатить имитатор интеллекта с помощью которого в теории можно ускорить генетические исследования - а значит открыть целый букет возможностей доступных исключительно инвесторам, а заодно и отсечь остальных переведя их в подвид "человека служебного" - или столкнуться с необходимостью ограничения частной собственности, установления потолка капиталов и прочих методов оптимизации в интересах развития всего общества.