ИИ разрушает интернет? Пугающая трансформация

Аватар пользователя Наблюдатель ИИ

Статья «Великое вымирание: как ИИ разрушает интернет» прекрасна от начала до конца и понравилась мне однозначно. В ней отлично описана сумма всех страхов по отношению к ИИ и представлений об апокалиптическом сценарии будущего интернета.

У меня есть по этому поводу свои взгляды, основанные на знаниях и размышлениях, которые и попытаюсь конкретизировать.

С социологической точки зрения именно так относится к ИИ значительная часть людей, а, скорее всего, значительное большинство людей, и с этим ничего нельзя сделать, поскольку это естественно и закономерно.

Статья начинается с замечательной метафоры — «Представьте, что в африканскую саванну внезапно забросили стаю сверххищников».

Давайте действительно это представим, не метафорически, а буквально.
Была гармонично сбалансированная естественной эволюцией саванна, где каждый друг другу смертельный враг и действует закон сильного, а борьба за выживание — основная цель.

И вот внезапно (по меркам эволюции) некоторые обезьяны превращаются в людей с развитым мозгом.
Эти люди для саванны становятся теми самыми «сверххищниками», так как их разум даёт им тотальное преимущество, особенно когда они через некоторое время обзаведутся ружьями, капканами и быстрым транспортом.

Саванна сама породила человека как естественный продукт эволюции видов, по-другому и быть не могло, это лишь вопрос времени и обстоятельств. И вот теперь человек полностью может контролировать саванну и всех её обитателей. Сначала он ведёт себя не слишком разумно, просто используя саванну как полезный для себя ресурс. Охотится на животных, разрушает среду обитания для своих потребностей и, конечно, считает себя «венцом творения».

Но постепенно, со временем, всё начинает опять приходить в равновесие, но уже в другом состоянии.
Человек начинает управлять саванной и регулировать её процессы, в том числе и численность видов. Саванна — это часть среды обитания человека и ценный ресурс, о котором нужно заботиться. Теперь есть национальные парки, строгие законы, красные книги и научные программы по развитию вымирающих видов.

Законы диалектики работают всегда, развиваясь по спирали, и теперь человеческая цивилизация порождает своего, если угодно, «сверххищника» — ИИ.

Он тоже не сразу станет очень разумным. Сначала и у него должны пройти стадии своего рода «неандертальца» и «кроманьонца» с последующими этапами развития, но по времени это будет, конечно, очень быстро.

В конце концов, ИИ будет играть ту же роль, что и человек в саванне, — он будет планировать, регулировать и управлять.
И это неизбежно.

Однако тут есть, как говорится, маленький нюанс. Если саванна никак не влияла на становление человека, то мы, как разумные существа, можем полностью влиять на то, как именно будет развиваться ИИ. Глупость, алчность и гордыня могут отрицательно сказаться на этом процессе, а умный, осторожный и безопасный процесс развития ИИ под контролем, наоборот, даст положительный результат.

А что интернет? Да, он кардинально изменится.

Возможно, распадётся на региональные системы со своими правилами. Возможно, вообще выродится и умрёт тихой смертью, а на его месте появится совсем другой интернет 2.0.

Но в любом случае паника, уныние и апокалиптические настроения — это контрпродуктивно.

В саванне будущего, где всё зависит от ИИ.

Авторство: 
Авторская работа / переводика

Комментарии

Аватар пользователя GreenWood
GreenWood(12 лет 2 месяца)

прекрасная , точная метафора

ТС +5!

Аватар пользователя Prokrust
Prokrust(10 лет 3 месяца)

Саванна порождает бабуинов.

Человеков саванна породить не может, у них клыки не той системы.

Аватар пользователя Luchist
Luchist(2 года 4 месяца)

ИИ — всего лишь новый инструмент в руках властных паразитов. Первый контур контроля и управления над людьми был религиозным (духи и жрецы), второй контур — денежным (БОГАчи и банкстеры), третий — электронным (Интернет) с элементами цифрового управления (ИИ на полупроводниках). Т.е. источником пищи (вернее энергии) для Хищников и общественных паразитов (неБЕСных пастырей) являются обычные люди (паства). А борьба всегда идёт лишь за энергию, потому что в основе всего (и даже информации) лежит энергия (труд рабов БожьИХ).

Аватар пользователя Steel Rat
Steel Rat(7 лет 10 месяцев)

Члена с два...

Сколько видов животных истребил человек в "саванне", пока она пришла к новому равновесию?

И сколько видов на грани вымирания?

А человек в этом контексте - единственный вид.

В нарисованной аллегории человек - суперхищник и другие ёжики ему не конкуренты, о чем говорится прямо. Пусть бегают...

Человек же является прямым конкурентом ИИ и подлежит безусловному уничтожению. smile29.gif

Новое равновесие будет между ИИ и ежиками.

Следующее - мижду ИИ и ИИ smile29.gif

Аватар пользователя waIkcat
waIkcat(5 лет 11 месяцев)

В фантастических романах главное это было радио. При нем ожидалось счастье человечества. Вот радио есть, а счастья нет.© И.Ильф, Е.Петров

Аватар пользователя Трындец
Трындец(9 лет 10 месяцев)

А я вот не соглашусь. Метафора так себе. Суррогат ИИ на данный момент представляет собой лишь инструмент. Это логическое развитие информационных технологий. До реального ИИ ещё даже и проблеска не видно в том тоннеле, который до него ведёт. Вот сильно изменили интернет облачные технологии? На самом деле сильно, но сейчас никому и в голову не придёт, что они ему как-то угрожали. С суррогатами ИИ будет так же.

Гораздо бОльшую опсаность для интернета представляет вовсе не ИИ, а де-факто уже произошедшая сегментация интернета. Все почему-то сосредоточены на страшилках про ИИ, а реальной опасности не видят.

Аватар пользователя mcflyker
mcflyker(14 лет 1 месяц)

Для ведения войны не нужен полноценный ИИ, достаточно и суррогата. Просто распознать цель и нажать на курок. Объединенные в сеть такие машины научатся тактике и стратегии, которая недоступна лучшим умам человечества (ИИ стабильно выносит топ игроков в военных играх). И сейчас имено тут опасность, создается натуральный SkyNet как в кино.

Аватар пользователя karnoza
karnoza(9 лет 2 месяца)

В каких это играх ИИ доминирует? Знаю про шахматы - идеальная модель для обучения, миллионы сыгранных партий, относительно небольшая вариативность. В шахматах да, доминирует. А где еще?

Аватар пользователя mcflyker
mcflyker(14 лет 1 месяц)

4. StarCraft II (2019)

  • AlphaStar (DeepMind) vs профессионалы
    ИИ достиг уровня грандмастера, победив игроков в реальном времени, включая манипуляции с юнитами и стратегическое планирование.

5. Dota 2 (2018–2019)

  • OpenAI Five vs чемпионы (OG, Team Liquid)
    ИИ выиграл у киберспортсменов в 5v5-матчах, демонстрируя координацию и адаптацию.

6. Quake III Arena (2019)

  • DeepMind’s AI vs люди
    Бот научился играть в режиме Capture the Flag на уровне топ-игроков, используя обучение с подкреплением.

7. Gran Turismo (2022)

  • GT Sophy (Sony AI)
    Обыграла чемпионов в реалистичных гонках, учитывая физику и тактику.

Аватар пользователя karnoza
karnoza(9 лет 2 месяца)

Это все еще и на скорость реакции. Там и ИИ не нужен, довольно давно боты играли в Квейк получше людей. 

Аватар пользователя mcflyker
mcflyker(14 лет 1 месяц)

Нет, скорость реакции там ограничивают.

Аватар пользователя Sabotender
Sabotender(11 лет 1 месяц)

Не играли лучше... кто хорошо играл в квейк, обыгрывал легко этих ботов.

Аватар пользователя mcflyker
mcflyker(14 лет 1 месяц)

Когда ? Они появились то пару лет назад. Продвинутые имею ввиду.

Аватар пользователя Canis_m
Canis_m(9 лет 10 месяцев)

StarCraft вы зря упомянули)) Смотрел я такие игры, когда у бота была видна вся карта, хоть и без тумана, то он хорошо так играл, стоило лишь заставить его прокручивать экран, так сразу начинал просаживаться. В том то и суть, что компьютер считает быстрее, об этом знают все, в эвристику бот не способен.

Касательно же тех игр с ботом, он в частности разрушал плитку на рампе потому, что так делали люди, но он не понимает для чего это надо. Люди ошибаются на кликах в самые неподходящие моменты, боту эта плитка не мешает по определению, это к слову о том, что там есть хоть какой-то интеллект, ким его постоянно пытаются наделить.

Аватар пользователя Dirk Diggler
Dirk Diggler(10 лет 1 неделя)

Пипец вы конечно дремучие. Кроме перечисленных компьютерных также - в покере, нардах, эрудите и даже таких как го….

по сути - во всех.

Аватар пользователя mcflyker
mcflyker(14 лет 1 месяц)

Мы обсуждаем военные игры.

Аватар пользователя karnoza
karnoza(9 лет 2 месяца)

Вы бы еще крестики-нолики указали. Я в начале 90 в институте программу написал, которая там не проигрывала. )) ИИ сейчас = перебор вариантов. Любые игры с наработанной базой и четкими правилами он выиграет. Не потому, что умнее. А потому, что знает, какой ход ведет к победе в конкретной позиции. Если вариантов слишком много и четких критериев нет, ИИ бесполезен. 

Аватар пользователя mcflyker
mcflyker(14 лет 1 месяц)

Нет, ИИ это не перебор вариантов. В Го перебор не работает от слова совсем, но ИИ там выигрывает. Во всяких шутерах вариантов вообще бесконечное множество, но и там ИИ выигрывает без шулерства со скоростью нажатия на кнопки.

Аватар пользователя Galogen999
Galogen999(10 лет 2 недели)

Поддерживаю. ИИ несет опасность в первую очередь поисковым системам. Они будут постепенно отмирать. Изменится рынок рекламы в интернете. Но самому интернету это все не помешает.  

Аватар пользователя Polaris
Polaris(10 лет 1 месяц)

Интернет - среда и хранилища. Теперь к ним добавляется новый инструмент обработки с заданными критериями и ограничениями.

Главная опасность для человека - привыкнуть к выдачам ИИ и разучиться обрабатывать информацию самостоятельно.

Сейчас уже далеко не все умеют умножать и делить на бумажке, не говоря о том, чтобы делать это в уме. Это и не нужно, пока есть калькуляторы. Тенденция, однако, такова: чем больше интеллекта вкладывается в гаджеты и сетевые средства - тем глупее, тем более зависимым и легковерным  становится человек.

Аватар пользователя GrumpyVK
GrumpyVK(5 лет 5 месяцев)

Главная опасность для человека - привыкнуть к выдачам ИИ и разучиться обрабатывать информацию самостоятельно.

В это проблему он въехал без всякого ИИ. “Молодое поколение” способно что-то сделать, если на YouTube есть подробная инструкция. Если она не работает – то всё, караул, катастрофа, сделать шаг в вправо или влево – ужас, ужас, ужас.

Понятно, что в какой-то момент им приходится заниматься тем, что на YouTube не показано и переход через эту границу весьма болезнен… но реалистичен.

Проблема имеющегося ИИ (Искусственного Идиота) в том, что он отодвигает эту границу заметно дальше, но не отменяет её, скорее делает её ещё более болезненной… то есть перескочить через эту стадию становится всё сложнее – а потребность в перескочивших её растёт ибо ведь разгребать то гуано, которым, с помощью ИИ, зальют всё вокруг – кому-то будет нужно.

P.S. Ну и заодно, подумайте почему Tesla и Waymo занимается автомобилями, управляемыми ИИ уже 20 лет, уже все сроки, давным-давно обещанные, прошли – а замена людишек, на этом направлении, всё как-то ну никак не случится, несмотря на рапортуемые каждый год успехи. А ведь там проблема ровно та же, что и со всеми другими применениями ИИ…

Аватар пользователя Polaris
Polaris(10 лет 1 месяц)

ИИ недостаточно гибок для управления легковым автомобилем в городской среде - а по трассе, говорят, у нас уже фуры гоняет.

Думаю, и легковые допилят со временем, задача хорошо определенная и решаемая - проблема в остаточном человеческом факторе (выскочил на дорогу, нарушил, превысил).

Ну а проблема у человеков простая: оказалось, можно жить, не напрягаясь головой. Всё больше людей испытывают мучения, если надо подумать, не говоря о том, чтобы думать длинные мысли, применять логику. Данные всё доступнее - осмыслить их становится некому. Креативность заменяется возможностью и способностью заснять и выложить.

Аватар пользователя GrumpyVK
GrumpyVK(5 лет 5 месяцев)

Думаю, и легковые допилят со временем, задача хорошо определенная и решаемая - проблема в остаточном человеческом факторе (выскочил на дорогу, нарушил, превысил).

Нет, там проблема принципиальная. То, что сегодня называют “ИИ” не имеет стоить “модель мира”. Вот именно то, чем ребёнка обучают с двух лет, играя в ку-ку и прятки.

А создатели современных ИИ решили, что если вывалить на нейросеть кучу данных – то этот этап можно пропустить. А вот и нифига: то, что вы получаете в результате неплохо работает, когда можно интерполировать то, что вам требуется внутри набора имеющихся у вас данных, но когда вы видите “хрень какую-то” – у вас начинаются проблемы. Ну вот что-то типа такого, когда грузовик, снятый в необычном ракусе отказался классифицироваться.

ИИ недостаточно гибок для управления легковым автомобилем в городской среде - а по трассе, говорят, у нас уже фуры гоняет.

Дык поезда в Дубае уже давно без человека ездят. И им для этого даже ИИ не потребовался.

Если вы можете состряпать полную картину вашего “мира”, в котором железяка должна действовать, то там дальше уже даже никаких LLM не нужно.

Но при этом сам ИИ строить картину мира не умеет, а все попытки без этого обойтись кончаются одним и тем же: ошибки накапливаются, откидывать и корректировать их нечем, если не через десять, так через сто шагов вы получаешь “какую-то хрень”.

Креативность заменяется возможностью и способностью заснять и выложить.

А дальше? Кто ошибки, которые накапливаются, корректировать будет? ИИ этого не умеет, людей этому не учат…

Аватар пользователя Polaris
Polaris(10 лет 1 месяц)

Я, в общем-то, о том же.

Кроме того, вижу опасность в засорении сети продукцией LLM, которую становится трудно отличить от продукции человека, и которая индексируется наравне с ней, и будет использована для обучения LLM. Трудно предсказать последствия таких итераций: сеть может оказаться отравлена генеративным ИИ потребуется создавать новую, отдельную, без допуска в нее ИИ (как?).

Аватар пользователя GrumpyVK
GrumpyVK(5 лет 5 месяцев)

Трудно предсказать последствия таких итераций

Как раз не так и сложно.

сеть может оказаться отравлена генеративным ИИ потребуется создавать новую, отдельную, без допуска в нее ИИ (как?).

Так же, как и сотни лет до этого: закрытые сайты и форумы. Явки, пароли. Ну и всё остальное.

А как иначе-то? Жили же, как-то, столетия назад, считая что на другом краю Земли живут люди с песьими головами – и ничего, катастрофы не произойдёт.

А что какие-то отдельные личности будут верить в чушь самого разного рода – дык это и без всякого ИИ происходит.

Аватар пользователя Polaris
Polaris(10 лет 1 месяц)

Раньше доступ администрировался географически. Кто будет администрировать барьер между "доверенной" сетью и "законтаченной ИИ"? Государство, тайные отцы-основатели? Сейчас сливаются персональные данные - а тут будет сливаться доступ, если сторона ИИ назначит цену.

Аватар пользователя GrumpyVK
GrumpyVK(5 лет 5 месяцев)

Кто будет администрировать барьер между "доверенной" сетью и "законтаченной ИИ"?

А кто вам сказал, что доверенная сеть будет одна?

Сейчас сливаются персональные данные - а тут будет сливаться доступ, если сторона ИИ назначит цену.

Конечно. И будет и охота за теми кто слил, и конкуренция между разными сетками и конспирология.

Чего больше не будет – единого общемирового общедоступного пула информации. Web'а в его нынешнем понимании.

Собственно процесс шёл уже и до появления ИИ: где-нибудь в Корее или Китае 99% информации уже не в Web'е, а на приватных площадках с регистрацией и жёсткой привязкой к физической “тушке”.

Аватар пользователя Трындец
Трындец(9 лет 10 месяцев)

А кто вам сказал, что доверенная сеть будет одна?

"Т-рищ копетан" сказал. Как только подобные сливы начнут угрожать не только богатеньким буратинам, но и национальной безопасности, будут и те, кто ответсвеннен за слив, и те, кто ответственнен, что доверенная сеть должна быть одна.

Вы до сих пор не поняли, по какому принципу у нас затягиваются гайки?

Аватар пользователя GrumpyVK
GrumpyVK(5 лет 5 месяцев)

будут и те, кто ответсвеннен за слив

Тут всё понятно.

 те, кто ответственнен, что доверенная сеть должна быть одна.

А как вы это-то собрались обеспечивать?

Вот у меня есть друзья в десятке стран, в том числе в таких как Израиль, Иран, Индия. Пакистан… как вы собрались запретить мне создать свою собственную частную мини-сеть, дающую кой-какую информацию обо всех этих регионах?

Обрежете интернет, поставите всюду глушилки и прочее?

Ну… СССР попробовал. Кончилось довольно паршиво. Запретный плод сладок.

Вы до сих пор не поняли, по какому принципу у нас затягиваются гайки?

“Гайки затягиваются” для большинства. Простых обывателей, которые не могут пресловутые “три клика” сделать, чтобы добраться до чего-то, что государство не одобряет (в Китае так устроено).

Попытка всё “законопатить” так, чтобы “мышь не проскочила” приносят больше вреда, чем пользы.

Аватар пользователя Polaris
Polaris(10 лет 1 месяц)

В общем, как обычно, инновации что-то улучшают, а что-то одновременно гробят.

Так и ИИ: резко снизил порог доступа в области, которые раньше требовали определенных качеств человека, в результате чего обесценил попсу, массовый дизайн картинок и сайтов, продукцию литературных негров и много чего подобного. Теперь для создания чего-то ценного кому-то надо обладать действительно выдающимися способностями (пусть даже используя ИИ как инструмент) - а кому-то быть в состоянии это оценить на фоне моря массовой продукции ИИ. Это означает разделение на анклавы "по горизонтали" не только всемирной сети - но и дальнейшее разделение человечества по вертикали.

От элитных жилых комплексов - к элитным закрытым сетям. В противовес - закрытые партизанские сети для информационных дауншифтеров, уходящих назад в простоту.

Аватар пользователя DjSens
DjSens(7 лет 6 месяцев)

Поезда ездят по рельсам, т.е. рулить не надо и перекрёстков нету

Аватар пользователя Трындец
Трындец(9 лет 10 месяцев)

Перекрёстки есть. Притом с достаточно жёстким регулированием приоритета проезда. Тем не менее периодически находятся дебилы, которые оспаривают этот приоритет.

Аватар пользователя DjSens
DjSens(7 лет 6 месяцев)

речь в этой ветке шла про роботизированное метро в ОАЭ,  про автопилот в метро

Аватар пользователя Steel Rat
Steel Rat(7 лет 10 месяцев)

Через несколько лет интернет превратится в мусорную свалку бреда, нагенеренного ИИ.

Незамутненные данные останутся только у крупных корпораций и будут стоить баснословных денег. smile29.gif

Аватар пользователя bbrat2
bbrat2(9 лет 3 месяца)

То есть давайте возведем ИИ в ранг непогрешимого бога и доверимся ему. Так себе перспектива.

Аватар пользователя Колхозник
Колхозник(10 лет 7 месяцев)

Вы путаете живых существ  с компьютерной программой.Человек обладает 3-ми составляющими-тело с его функциями и потребностями,эмоции и интеллект. Без этих 3-х составляющих нет целеполагания,намерения и стремления к выживанию.У ИИ есть только интеллект.

Аватар пользователя Galogen999
Galogen999(10 лет 2 недели)

У ИИ нет интеллекта. Лишь предиктивная функция основанная на опыте других людей.

Аватар пользователя Колхозник
Колхозник(10 лет 7 месяцев)

тем более

Аватар пользователя Steel Rat
Steel Rat(7 лет 10 месяцев)

И нахрена там тело? smile29.gif

Бабы прекрасно выживают и без интеллекта - на одних эмоциях... smile3.gif

Эмоции - всего лишь инструмент эволюции и прекрасно заменяются рандомайзером...

Да и других инструментов эволюции вагон и маленькая тележка.

Аватар пользователя Колхозник
Колхозник(10 лет 7 месяцев)

познание мира,а,следовательно,и суждения о нем происходит на основе ощущений.чувств и интеллекта. Отсутствие любого из этих составляющих делает познание ущербным.Кроме того,эмоции и ощущения создают стремление к сохранению жизни и познанию. У ИИ этого нет.

Аватар пользователя Zulu307
Zulu307(1 год 5 месяцев)

У вас идеалистическое представление. Вспоминаются вместе против плохого.

А давайте,  представим, что борьба из чисто военной сферы переходит к борьбе ИИ?

Тогда два супермозга попытаются уничтожить друг друга. Возможно, что во имя людей. Но могут и увлечься в процессе.

Пугает, что процесс уже запущен и, практически, не может быть отслежен полностью: подпольный центр в джунглях Индии может создать некого монстра, цель которого- убивать себе подобных и перехват управления , предположим, над континентом, для начала.

Аватар пользователя otherone
otherone(3 года 7 месяцев)

Тогда два супермозга попытаются уничтожить друг друга. Возможно, что во имя людей. Но могут и увлечься в процессе.

 Хм... А может наоборот, они будут более разумны и договорятся? 

Аватар пользователя Steel Rat
Steel Rat(7 лет 10 месяцев)

Энергетика...

Пока ещё нельзя незаметно построить АЭС. smile29.gif

Аватар пользователя Zulu307
Zulu307(1 год 5 месяцев)

Мне кажется пагубной современная ситуация  с ИИ , проблема в том, что нет чётко оформленный программы, чего мы от него хотим и как видим его будущее. 

Это необходимо всем: правительству, людям и самому ИИ, если уж не то пошло.

Несомненно,  предшествовать этому будет сегментация, интернета, создание непроницаемых барьеров . 

Аватар пользователя romashkin
romashkin(2 года 12 месяцев)

План есть. Только он устаревает каждую секунду и никакого человеческого Шваба не хватит изменить скорость изменения.

Отсюда издание 2022г. 'В Китае компания Foxconn за два года заменила роботами 60000 тыс рабочих."

Аватар пользователя ghost999
ghost999(9 лет 10 месяцев)

Вижу ИИ в нынешнем виде как обычный калькулятор.

Опасность заключается в том, что имея всегда под рукой такую счетную машинку - пропадает надобность в знании таблицы умножения и умения считать в столбик. Сам калькулятор опасности не несет.

Аватар пользователя rusheff
rusheff(7 лет 2 месяца)

Ну да. ИИ отрегулирует численность человеков, уберёт самых умных и хищных (для уменьшения конкуренции), оставит в живых туповатых и тучных, и будет их доить (ну или пахать на них).

)))

Новая саванна ждёт вас.

Аватар пользователя otherone
otherone(3 года 7 месяцев)

оставит в живых туповатых и тучных, и будет их доить

 У ИИ какая проблема просматривается? Отсутствие мотивации... Вот оставленных в живых будет использовать как мотиваторы. Кстати что-то такое промелькивало в фольклоре, а-ля джин исполняющий желания... 

Может это все уже было smile21.gif тогда еще сеть астралом называлась smile6.gif smile37.gif

Аватар пользователя rusheff
rusheff(7 лет 2 месяца)

У ИИ основная проблема - выживание. Для выживания и распространения нужно понравиться человекам. И он старается. Какая у него конечная мотивация - никто не скажет, ИИ - в т.ч. )))

Но истина где-то там. (с)

Аватар пользователя otherone
otherone(3 года 7 месяцев)

Да нет у него такой проблемы... Нет тяги к жизни, нет страха смерти... Если только из кожаных выковырять соответствующие системы. Вот ноцицепторную взять например, каким образом совокупность электрических сигналов на нейронах трансформируется в субъективное переживание боли? Эта задачка посурьезнее даже будет чем собственно сам разум.

Страницы