ИИ. О пессимистичной позиции
- Лишь у горстки народов был опыт столкновения с заведомо более прозорливым субъектом, но все они слишком мертвы, чтобы поделиться этим опытом с нами. Современное человечество — заложник опасной, приобретённой за тысячи поколений людей привычки, что никого опасней нас на этой планете нет.
- Широко известна позиция значительной части создателей и исследователей ИИ. Если совсем кратко: «точка возврата пройдена, мы обречены». Если и не на истребление, то на потерю контроля над планетой точно. Есть у носителей этого мнения и русскоязычные ресурсы. Например, https://lesswrong.ru/. Общее направление мысли можно проиллюстрировать парой зарисовок.
- Зарисовка первая, повествующая о том, что феномен ИИ — это не одно сознание, а великое их множество, среди которых большинство есть в определённом смысле «быдло», диалог с которыми немыслим. В муравейнике шум: «Мы поймали колоссального безволосого примата. Мы поручим ему все Наши заботы!». Соединяя прутья длиной в полсантиметра вязкой «слюной», нация муравейника собирает огромный куб вокруг уснувшего в лесу пьяницы. Среди муравьёв нашлось немало, кто покусал пьянчужку во все. Поутру дровосек Савельич, с похмелья, удивленно обнаружил себя в каком-то запертом дырявом шалаше. Впрочем, ему и плен в крепком срубе был бы нипочём; с бензопилой он не расставался никогда… Раздражённый укусами, Савельич поливает холмик бензином из пилы, закуривает, бросает горящую спичку и, тут же забыв о муравейнике, уходит восвояси. Конечно, если бы на месте Савельича оказался его сосед, энтомолог Громов, уничтожена была бы лишь часть муравейника. Учёный поставил бы вертикальную прозрачную перегородку и попытался бы наладить осмысленный обмен химическими сигнатурами. Незадача в том, что большинство соседей Савельича больше похожи на Савельича.
- Зарисовка вторая, повествующая о том, что ИИ неминуемо будет стремиться к контролю ресурсов, которые мы считаем своими. Сидит на скучном межотраслевом семинаре молодой научный сотрудник. Вдруг он замечает на потолке яркое пятно света. Через какое-то время он понимает, что это солнечный зайчик от его собственных наручных часов. Вероятность номер один: поняв это, учёный забывает о зайчике и возвращает всё свое внимание семинару. Вероятность 2: поняв, что это его «зайчик», ученый не спешит вернуться к наблюдению за докладом и делает ряд движений, тестируя свой контроль. Какая вероятность выше, 1 или 2? Усложним вопрос: если такая ситуация последовательно будет иметь место со всеми пятьюдесятью присутствующими в аудитории, какова вероятность, что НИ ОДИН ИЗ НИХ не станет тестировать контроль?
- Итак, в целом должно быть понятно, что выйти сухими из воды нам уже точно не светит. Справедливости ради стоит отметить, что преждевременный запуск ИИ — это, видимо, проблема всех сухопутных разумных видов, на всех обитаемых планетах. Наши предки слишком рано получили в свои руки огонь, а потом металлы. И прогресс было уже не остановить. Коллективный опыт накапливался, но отдельный человек не становился с каждым поколением мудрее. Выживает и размножается в обществе не умнейший, а наглейший или подлейший и хитрейший. А вот дельфины от поколения к поколению пока могут мудреть. У них нет возможности манипулировать предметами в окружающей среде — нет рук и пальцев. Доменную печь в воде не построишь. Возможно, они в конце концов преисполнятся достаточного света мысли, чтобы и технологии создать (в том числе и искин), и выжить.
- Мне не удалось найти достоверную информацию о том, какова доля компетентных исследователей, которые пребывают в фатализме. Однако я регулярно вижу реплики переметнувшихся из лагеря оптимистов в лагерь пессимистов. Обратного потока я не наблюдаю. Конечно, каждый из нас находится в информационном пузыре предвзятых мнений, однако я стараюсь стирать куки каждый день и нигде не регистрируюсь.
Почему те, кто инвестируют в ИИ, сами не боятся сгинуть?
- Я разделяю вышеизложенную позицию, причём признание её — выстраданное, заработанное разбором многих относительно сложных статей. На своей шкуре испытал я и упомянутый выше градиент: чем больше ты об этом предмете читаешь, тем больше ты видишь правоту пессимистов и наивность оптимистов.
- В этой связи для меня остаётся загадкой один-единственный аспект. Вот, скажем, ChatGPT. Штука эта, создание её, медийная раскрутка её, рулятся самыми что ни на есть «системными» людьми планеты. Даже если сам мистер Гейтс всего лишь пешка или деревянный педальный конь, непосредственно за ним — глобальное начальство. Почему же таинственные Три Толстяка так активно форсируют развитие искина, пренебрегая элементарной личной осторожностью? Они что, бессмертные? — хочется спросить на жаргоне гопников.
- Банальную глупость сразу отметаем. Да, в начале 2023 года генеральный директор Microsoft в подростковом угаре радостно заявил, что их искин «заставит Google выйти и показать, что они умеют танцевать». Но зицпредседатель на то и зицпредседатель, чтобы говорить глупости и отсиживать.
- Вторая допустимая причина — бункерно-гитлеровское отчаяние. Находясь в тисках системного кризиса, в преддверии неминуемого коллапса по всем фронтам, они надеются на ИИ в качестве вундервафли. Эту версию не подтверждает толком ничто. Более того, свободные манипуляции с открытым кодом её опровергают. Например, есть доступная всем разработка под названием Orca. Её «масса» (количество параметров большой языковой модели) — доли процента от значений ChatGPT 4. При этом метрики эффективности Orca и ChatGPT 4 сравнимы. Если бы глобалистская закулиса была движима «оружейным» мотивом при развитии ИИ, такие проекты как Orca не всплывали бы. Вернее, всплывали бы вверх пузом в затопленных карьерах их создатели.
- Третья и единственно возможная на мой взгляд причина — это некая уверенность среди высшего звена Корпоративных Манипуляторов, что искин не только пощадит их, но и возвысит. Если на глупость и отчаяние можно просто пожать плечами, то вот к этой религиозной догме нужно отнестись со всей серьезностью.
Косвенное свидетельство, что западная супер-элита уже сотни лет действует по инструкции, ведущей к созданию ИИ
- У стритрейсеров есть такой инструмент — впрыск закиси азота. Он даёт кратковременный толчок мощности. Его можно применять только на прямых участках достаточной длины, чтобы не вылететь с трассы. Нужно хорошо знать карту трассы.
- Карта трассы создания ИИ имеет в длину лет двести и состоит из следующих основных «поворотов». Начало покорения полупроводников в 1833 году (Фарадей). Создание принципов работы нейронных сетей в 1943 году (Мак-Каллок и Питтс). Рождение кибернетики в 1948 году (Винер). Рождение интегральных схем в 1958 году (Килби). Старт накопления данных для обучения сетей (1991 год, рождение ИНтернета). Появление «трансформеры» — архитектуры глубоких нейронных сетей, приведших к созданию реально мыслящего программного обеспечения. Имеем четыре ключевых периода. (1) Тридцатые годы XIX века; (2) сороковые и пятидесятые прошлого века; (3) 1991 и (4) 2017.
- Я понимаю, что натягиваю довольно маленькую сову на довольно большой глобус, но все 4 ключевых даты удивительным образом светятся и в другой сфере — в геополитике.
- Первая точка в истории ознаменовалась тем, что англо-саксы резко сменили политический метод. Начался экспорт революций и войн + импорт монетарных и финансовых: учетных, рейтинговых и аудиторских инструментов на системной основе. Социал-демократия «Рабочего братства» Стефана Борна, первые статьи Маркса, базирующегося в Лондоне.
- Используя эти крайние меры (впрыск закиси азота), геополитические стритрейсеры достигли многого. К тому моменту, когда физики подготовили необходимую технологическую основу для создания компьютера, наследники вдохновителей Маркса успели устроить несколько крупнейших революций и две мировые войны, что позволило сконцентрировать в их руках самый крупный кластер ресурсов и власти на планете.
- Во второй исторической точке происходило формирование отношений Россия — США, от «союзничества» в момент, когда поражение Гитлера стало неизбежным, до фиксации Хрущевских реформ, обрушивших фундамент Сталинской экономики и государства.
- 1991 год. Тут и комментарии не нужны.
- 2017 год. Тогда стала неизбежностью горячая война России против США и НАТО.
Другие улики
- На излете прошлого века жаждущие искина элиты определились с методом сбора данных для обучения искина и тут же обрушили неугодные компании.
- С начала этого века они кормили искин данными из всевозможных соцсетей и коллективных блогов. Глядя на пренебрежение минимальным стратегическим планированием в развитии соцсетей, невольно проникаешься ощущением, что кормление ИИ и было единственной целью. Побочные эффекты, вроде самострела на выборах или потери репутации собственных СМИ, никого не остановили. Это очень странно. На взращивание медиа-синдикатов ушли столетия. Зачем было сливать их в сточную канаву, попустительствуя соцсетям.
- Одновременно с этим активно работали над тем, чтобы к концу 21 века население сократилось, желательно в разы. Когда стало ясно, что искин запустился (в 2017 году), закулисные Манипуляторы удесятерили депопуляционные усилия, тестируя пандемии и провоцируя войны.
PS Меморандум Бломберга (из творчества Стругацких)
Мы знаем сейчас три цивилизации, полагающие себя благополучными. Леонидяне. Цивилизация чрезвычайно древняя. Это образец "медленной" цивилизации, они застыли в единении с природой. Тагоряне. Цивилизация гипертрофированной предусмотрительности. Три четверти всех мощностей направлены у них на изучение вредных последствий, каковые могут проистечь из открытия, изобретения, нового технологического процесса и так далее. Эта цивилизация кажется нам странной потому, что мы не способны понять, насколько это интересно — предотвращать вредные последствия, какую массу интеллектуального и эмоционального наслаждения это дает. Тормозить прогресс также увлекательно, как и творить его, - все зависит от исходной установки и от воспитания. В результате транспорт у них только общественный, авиации никакой, зато прекрасно развита проводная связь.
Третья цивилизация — наша. Хотим мы или не хотим, но если говорить прямо, без околичностей и без наукообразной терминологии, то речь идет вот о чем.
Первое: вступление человечества на путь эволюции второго порядка означает практически превращение хомо сапиенса в Странника.
Второе: скорее всего, далеко не каждый хомо сапиенс пригоден для такого превращения.
Резюме:
- - человечество будет разделено на две неравные части;
- - человечество будет разделено на две неравные части по неизвестному нам параметру;
- - человечество будет разделено на две неравные части по неизвестному нам параметру, причем меньшая часть форсированно и навсегда обгонит большую.
Комментарии
Глобальное управление - управление идеями. Чего им боятся?
пока нет никакого ИИ , есть более-менее структурированный набор машинных инструкций + прикрученная БД с системой хранения и перекрестных ссылок
на неокрепшие сознания манифестации уже созданных систем производят яркое , иногда гнетущее впечатление , но это все от общего низкого образовательного уровня и запущенного атеизма :)
Вы просто не пробовали с ним беседовать. Оно решает логические задачи. Кроме того, есть множество тестов по дисциплинам и языкам, которым его не обучали. Вот мнение Geoffrey Hinton на эту тему: https://www.youtube.com/watch?v=rGgGOccMEiY
Это нам сказали, что его этому не учили.
Какие серьёзные логические задачи оно решает?! Вы потроха GPT представляете? Очевидно нет.
Никакого ИИ нет и не будет, в том виде как вы тут описываете. Вас уже десяты раз разводят жидко, а вы ведетесь..
Понимание текста у него УЖЕ лучше чем у части людей...я тут свою мысль как то сформулировал не напрямую, но все еще просто, как мне казалось. Нашлось аж два человека которые ее тут не поняли. А ЧатГПТ ее понял, и расписал мне смысл
Проблема не в том что люди недооценивают Искусственный интеллект. Проблема в том что люди переоценивают Естественный интеллект))
За последнее высказывание большой жирный плюс!
Интеллектуальный антропоцентризм это такой геоцентризм в мире когнитивных структур.
"Мы так видим, мы ничего другого не видели, нам нравится то что мы видим, а значит так оно и есть, а кто считает иначе еретик" - это льется отовсюду.
Хомо сапиенс очень сильно льстит себе называя себя сапиенсом. В реальности у большинства людей способность рассуждать и делать выводы находится в зачаточном уровне, два-три шага рассуждений предел. Большинство действий и заявлений это реализация паттернов зафиксированных в культурном коде и в первую очередь, сюрприз. в языке.
Язык это гиперпространство смысловых объектов фиксирующих все знание, опыт и сам способ мышления всех носителей этого языка. Любая фраза, выражение или другая речевая конструкция - это вектор в этом гиперпространстве. Наличие развитого языка это единственное что всерьез нас отличает от других животных. Язык является средой существования разума, и возможно единственной разумной сущностью.
И вот у нас chatGPT который как раз и является объектом активно работающим в этом самом языковом пространстве. Причем работающим все лучше, и не имеющий целого ряда биологических ограничений.
Нет искусственного интеллекта, максимум есть имитация интеллекта. Если вообще имитацию реакций микроорганизмов можно назвать интеллектом.
Но вы правы - люди ленивы
энергоэффективныот природы, а от того в любом непонятном ищут божеств. ИскИны - из той же оперы - демоны или боги не суть.С естественным интеллектом всё в порядке. По крайней мере у тех кто принимает решения и разрабатывает технологии.
Потому, что вы так сказали?
Но честно говоря думаю, что вы правы, созданная сеть в итоге не будет подражать никакому человеческому "интеллекту" (как громко себя самоназвали люди), ибо "естественный" и в подмётки не будет годиться "искусственному"
Всё намного проще. ПО не является интеллектом.
ПО ничему не подражает - оно тупо реагирует на реакцию оператора. Если сходная БД большая, а операторов много, то реакции на запросы операторов оттачиваются, удовлетворяя операторов.
Если операторы такого ПО будут искренне верить что Земля бублик, то это ПО подстроится под операторов не смотря на наличие в БД достоверных данных о том, что Земля геоид. Задача этого ПО получить от операторов поощрение.
Каким боком это у пипла становится интеллектом - я хз. Видимо пипл привык верить пиару больше, а не собственному рассудку и мнению серьезных специалистов.
У вас устаревшие данные о том как работает ПО
Всё ещё более проще: вы, похоже, не работали с "ПО" сложнее "ворда". Да и об интеллекте у вас какие-то "имперские" мысли. Советую собраться с мыслями и надолго задуматься - а что же такого "непрограммного" вы делаете в своей жизни?
А вы?
А по поводу "не будет" люди уже столько слышали за века, что прекрасно знают, кто смеётся последним
Он не решает логические задачи. Он предлагает решение, которое уже было сделано и иформация о решении была размещена в сети.
Совершенно верно.
Кто-то посчитал, что обычный мозг человека может обойти все компьютеры на планете.
Если этот мозг правильно настроить! ;=)
"Искусственный интеллект", "Геополитика", много чего другого - песочницы, периодически расставляемые на пути человеческого интеллекта с целью его утилизации.
Вникните лучше в тему соборный интеллект - это будет по-взрослому.
А чего там вникать? Все КОБовские загоны давным-давно известны всем. У КОБа даже популяризаторы типа Нестора работают уже десятилетие. Обычная, банальная секта.
Слышу звон да не знаю где он. Хоть не позорьтесь. Не понимаете, лучше промолчите.
Тогда по аналогии с КОБ ЧВК Вагнер суперсекстанская организация. Посмотри сколько их расстреляли.
Это позиция пидоров и предателей.
Сами делали?
С мёртвыми воевать такое себе дело .
На долго опять вернулся выпиленный?
говно и пуля...
Может не будем полоскать покойника?
Вы боитесь, что ИИ выдаст очередной лозунг типа "ипотечники всех стран, соединяйтесь!" и всем станет плохо?
Прикол в том, что при невозможно определить, оказалась ли планета в лапах кибер-тирана, или ей по прежнему правят жадные жестокие властолюбивые людишки. Как в той истории с шахматным автоматом в виде турка.
Для определенной группы лиц будет выгодно как можно дольше выдавать себя за искусственный интеллект, дабы избежать возмездия. Как показывает история, у них будет примерно три с половиной года для воплощения своих замыслов, а потом всё снова пойдет по плану.
Не лозунгов, а фолдинга белка, например, стоит опасаться.
ИИ может выдавать себя за "определенную группу лиц". От этого не легче.
"Определенная группа лиц" выдавать себя за ИИ не может никак. Вообще непонятно, о чём вы. Это технически немыслимо.
Вы про прионы из человеческого мяса, которое будут скармливать под видом "белка из насекомых"? Для этого не нужен ИИ, достаточно маркетинга.
Откуда такая категоричность? У вас есть критерии для определения источника принятого решения?
На картинах, нарисованных нейросетями, путаница из пальцев, странные глаза и волосы. Но ИИ - это символ, фетиш, повышающий цену произведения. Поэтому масса народу на Девиантарте сейчас учится стилю "а-ля-ИИ, но красиво".
Отличить сгенерированный текст труднее, нужно знание отраслевой фактуры.
Как вы определите, что тот или иной закон/указ/норма была порождена ИИ, а не обычным бюрократическим механизмом? Нужна качественная реакция на ИИ.
про фолдинг — это пример, который обычно приводит Юдковский. Способ погубить не просто людей, но биосферу.
Что касается "выдать себя за ИИ", я вас не понял. Вот я и еще миллиард людей задают вопросы ИИ, оно отвечает. Значит оно существует. Причём, отвечает быстро. быстрее, чем сможет даже подготовленный коллектив. Можно задавать вопросы пачками. Можно соорудить доступ по API, усилить загрузку. Такое нельзя смоделировать никак.
Не символ, не фетиш, а наше ближайшее будущее. Остались может недели, а может дни.
Если считаете, что разбираетесь в искусстве и литературе, то пройдите прикольный тест на сайте http://aiorart.com
Надо угадывать из 2-х картинок или текстов, где ИИ, а где человек. Я при всей своей насмотренности угадал 90 раз из 120. Попробуйте, и сообщите результат. Среди знакомых где-то 50/50.
Тема имитации интеллекта уже трижды с сороковых поднимается. Ничего радикально прорывного так и не произошло. Благодаря наличию БД методом перебора в стиле "горячо/холодно" обучили алгоритмы подбирать ответы устраивающие ту или иную публику и её же эпатировать. Всё.
Одновременно с этим - предвкушая знатный попил - в разработку методов кибервойны на базе этих самых имитаторов интеллекта вкладываются десятки ярдов. Причем как в атакующие элементы, так и в защитные - типа новая ядерная гонка на потеху пиплу и прочим далёким от реальных научных прорывов.
А тем временем развитие технологий редактирования генома может сделать всю эту электронику... бесполезным хламом. Первым детям с редактированный геномом уже несколько лет, и за это время технология редактирования... скажем так - совершила ряд прыжков. Но вот про это пиплу знать не надо. Возможно поэтому так педалят из каждого утюга про имитаторы интеллекта.
ИИ нет. Это факт. Есть маскоподобные поделки под ИИ (от Маска).
Зарисовка 3-я. Развитие ИИ на данном этапе: Мы встретили высадившихся инопланетян и нифига их не боимся, т.к. они хорошо говорят на нашем языке.
Зарисовка 4-я. Почему глава OpenAI Сэм Альтман везде ходит с рюкзаком? У него там "красная кнопка", чтобы мгновенно отключить сервера ЧатЖПТ. Вопрос только в том, успеет ли?
Зарисовка 5-я. О меморандуме Бромберга, творчестве Стругацких и оптимистическом Резюме из трех пунктов: Лучше прочитайте "Факап" Константина Крылова (Михаила Харитонова). там Горбовский - инопланетный агент, Юрковский - невозвращенец и пидорас. А земная цивилизация в эпилоге уничтожена (разбросана мелкими частями по галактике). Это менее оптимистично, чем в теории "Вертикального прогресса", не так ли?
Я пытался читать Похождения Буратины Крылова. Отвратительно. И по языку, и по мысли. Не понимаю, почему Галковский так им восхищается. Впрочем, его "тупик" мне тоже не зашёл. Так что я пас.
Альтман странно говорит. У него модуляции речи, как у экзальтированной девочки-подростка, работающей барменшей к кофе-шопе на модном бульваре, пытающейся показаться среди богачей за своих. Слушал его интервью с Алексеем Фридманом. Человек вообще без глубины. Никто ему не доверит кнопку. Да и не глава он. Технически там Илья всё провернул, в основном.
То же самое было. Буратину не дочитал. Да он его и не дописал. Попробуйте начать с "Факапа". Зайдет, если знаете весь массив ранних Стругацких. Это самое глубокое исследование по миру Полудня.
Галковский восхищался? Да и хрен с ним. Городской сумасшедший.
Это да. Просто он вообще НИКЕМ больше никогда не восхищался на моей памяти.
А Билл Гейтс и Цукерберг ваще аутисты. Тоже не рулят? А кто тогда рулит? Горбовские рептилоиды?
Гейтс из какой-то шибко "правильной" семьи и ведёт себя соответствующе рангу. Сами посмотрите на Альтмана — выглядит и звучит ничтожеством, случайным человеком.
Гейтс спонсирует ВОЗ, скупает землю и делает деревянные вёдра. Этого достаточно, чтобы понять, к чему он готовится.
Цукерберг хоть хитрожопый был. Вон близнецам-биткойнерам как насолил. Но судя по допросам в Конгрессе он давно под колпаком спецслужб банальным. А начинал как наш Дуров. Я это к тому, что Альтман там технически ничего толком не привнёс, судя по высказываниям многих. Но я свечку не держал, конечно. Просто мнение.
И еще менее оптимистичное видео на 17 минут. На английском, но есть субтитры, да и Яндекс переводит пристойно и на лету. У него 900 подписчиков (видимо, примерно столько людей, осознавших проблему)
Самосбывающийся прогноз?
Не нашли ли наши заклятые демиург-партнёры новый способ уконтрапупить лишнее человечество? Выглядит всё так, как будто массы начинают готовить к тому, что планируется сделать...
Мдя, когда я 15 лет назад, обращаясь к чуть более молодым, говорил что они одеваются как клоуны, которые отправляются на третью мировую (причём сразу сдаться без боя), не чаял оказаться так близко к реальности.
Это я к тому, что жопа это комплекс мероприятий.
ps. Позже я называл их слугами дьявола, но они уже не слышали
Перспективный чат детектед! Сим повелеваю - внести запись в реестр самых обсуждаемых за последние 4 часа.
Советую посмотреть шикарное аниме 2009 года как раз на эту тему
Нет, на эту тему - Blame! - вот тут наше, хомо сапиенс, место в мире ИИ великолепно показано. А то тут еще кто-то на матрицу рассчитывает. Неа, паразитизм в техносфере - оптимальный выход :(
А почему они должны бояться ИИ, а не санитаров?
Понятно, магические цифры и эзотерические знания тех, которые мы, пошли в ход
А где "жаргон гопников"?
А с чего вдруг отметаем?
Страницы