Копия чужих материалов. Но очень перекликается с работами "Парадигмы Пи" И в выводы "Малоизвестное интересное": https://t.me/theworldisnoteasy/2490

Сегодняшние компании, работающие в сфере передового искусственного интеллекта, никогда больше не превзойдут границы возможностей ИИ.

Неважно, интересует ли вас скорость, возможности или стоимость ИИ... централизованный ИИ утратил лидерство и не сможет его вернуть... и свободный рынок начинает двигаться вперед.

Все, с кем я общался в сфере ИИ, всегда исходили из предположения, что будущее ИИ — это более крупные модели, принадлежащие меньшему числу игроков. Я понимаю… они видят очень сильную тенденцию последних 10 лет и придерживаются этого мнения при разработке каждого регламента по ИИ, стратегии инвесторов, презентаций для венчурных фондов и прогнозов футурологов.

Но они глубоко ошибались, и теперь это подтверждают цифры. Сети из более мелких моделей ИИ превосходят все передовые системы ИИ (включая Fable/Mythos) по скорости, точности и стоимости.

IBM, правительство США, Bell Telephone, Bell Labs и все остальные ошибались в 1960-х годах насчет мэйнфреймов… и все ошибаются сегодня насчет централизованного ИИ. Будущее — это сеть нейронных сетей . Это ПК + Интернет ИИ. Будущее — это не ИИ с открытым или закрытым исходным кодом… это ИИ, основанный на сети .

Часть 1: экономическая игра окончена

Если «Гонка ИИ» — это гонка за максимизацию возможностей/скорости ИИ и минимизацию затрат… и если пользователи ИИ в принципе либо стремятся к максимально возможным возможностям… либо выбирают лучшее предложение (возможности + скорость) по самой низкой цене (затраты), то централизованная гонка ИИ закончилась, и децентрализованный ИИ определенно победил. Чтобы понять почему, рассмотрим каждый пункт по отдельности.

Возможности

Нейронные сети теперь быстрее, дешевле и эффективнее любой системы искусственного интеллекта Frontier. Игра окончена. Я лично это проверил , и это подтверждается данными из разных уголков интернета. Вот один из таких примеров, появившихся сегодня :

Этот метод не только показывает, как превзойти точность лучших моделей, но и превосходит их при вдвое меньшей стоимости. Я лично использовал эту же технику 6 месяцев назад. В то время в разделе с вариантами ответов последнего экзамена человечества были представлены десятки передовых моделей ИИ.

И… их комбинация, отличающаяся высокой степенью приватности, достигла значений чуть более 50!

Вот студент Стэнфорда, который это делает и запускает стартап.

В итоге… если вы хотите получить самую мощную систему ИИ в мире … начиная с СЕГОДНЯШНЕГО ДНЯ… вы можете добиться этого только с помощью целенаправленного/взвешенного ансамбля более слабых моделей ИИ. Ни одна отдельная передовая система ИИ никогда больше не достигнет предела своих возможностей из-за особенностей законов масштабирования/ансамблий (подробнее об этом ниже).

Скорость

Модели с открытым исходным кодом просто быстрее, отчасти потому, что те, кто их размещает, заинтересованы только в зарабатывании денег, предоставляя невероятно быстрые и дешевые результаты . Не верите? У OpenRouter есть независимые рейтинги (примечание: это отличается от корпоративных рекламных обещаний этих компаний… это то, что происходит на практике).

Расходы

Модели с открытым исходным кодом предлагаются за счет снижения возможностей вывода (обучение предоставляется бесплатно). В целом по отрасли, если сравнивать по соотношению цены и качества, они дешевле при том же уровне интеллекта… но раньше существовал разрыв, когда централизованный ИИ был единственным способом достижения наивысшего уровня интеллекта:

Но теперь эта диаграмма перезаписывается… потому что появляется другой тип децентрализованного ИИ… На момент написания статьи самый дешевый способ добиться производительности уровня Fable/Mythos… это УЖЕ НЕ FABLE/MYTHOS… это, по сути, любая комбинация GPT и Opus (включая Opus сам с собой!).

А вот что они упустили из виду в этой диаграмме… если бы они добавили ещё больше моделей … возможности продолжали бы расти (я знаю это, потому что сам проводил эти эксперименты 6 месяцев назад). Например… вы можете усомниться в этом списке выше, потому что в нём в основном представлены модели с закрытым исходным кодом… но новейшая модель Kimi вышла СЕГОДНЯ… которая, несомненно, в сочетании с Opus или GPT-5.5 достигнет уровня Fable, будучи при этом ещё дешевле. Почему я это знаю? Потому что Kimi K2.7 лучше любой из моделей, собранных OpenRouter, за исключением самой Fable.

Суть стратегии заключается в том, чтобы взять любую перспективную модель ИИ, найти следующую лучшую (более дешевую) перспективную модель ИИ, объединить ее с ведущей моделью с открытым исходным кодом, и в итоге получить более дешевую версию перспективной модели. И так далее по кругу. Больший ансамбль, лучший маршрутизатор, более высокая точность, еще меньшая стоимость.

Так называемые «передовые компании в области ИИ» никогда больше не достигнут рубежа точности/стоимости/скорости. Этот рубеж теперь принадлежит сети ведущих моделей и компаний.

Почему централизованный ИИ не может реагировать: эффект Гидры

Сегодняшняя проблема централизованных компаний, занимающихся искусственным интеллектом, та же, что и у компаний, работающих с мэйнфреймами в конце XX века. С тех пор как интернет начал связывать мэйнфреймы по телефонным линиям… сеть мэйнфреймов всегда была сильнее, чем любой отдельный мэйнфрейм.

Это означало, что… каждый раз, когда они добавляли более мощный мэйнфрейм, способный конкурировать с интернетом … интернет просто ассимилировал этот мэйнфрейм в свою сеть и становился еще сильнее. Ваш любимый венчурный капиталист, подкастер или отдел маркетинга, работающий в сфере передовых технологий, может с этим не согласиться… но теперь ни одна компания не может единолично владеть передовыми технологиями в области ИИ. Поезд ушел. Игра окончена.

Добро пожаловать в сеть нейронных сетей.

Фундаментальная теория: Точность

Почему это конкурентное преимущество настолько устойчиво? Честно говоря, оно основано на принципах, которые настолько фундаментальны для машинного обучения… что это едва ли можно назвать исследованием.

Вот в чем дело… люди, которые достаточно долго работают в сфере исследований ИИ, помнят, каково это было — соревноваться за «передовую» точность на NeurIPS примерно в 2010-2020 годах. Если ты «добился передовой точности», твоя работа публиковалась… и ты, вероятно, поступал в престижный аспирантский университет и т.д. ( я добился передовой точности, будучи студентом, что позволило мне выступить в качестве первого автора с устным докладом на ICML 2015, и таким образом, будучи студентом из Нэшвилла, я смог поехать в Оксфорд за счет DeepMind и присоединиться к исследовательской группе DeepMind по языковому моделированию в 2017 году). Соревнование за передовую точность было огромным событием. Все этим занимались (многие до сих пор этим занимаются).

Но существовал способ достижения наивысшей точности, который был настолько надёжным , что его запретили. Если объединять взвешенные ансамблевые модели, то точность будет практически всегда выше … даже если вы объединяете несколько обученных версий одной и той же модели (!!).

Причина довольно проста… разные модели ИИ совершают разные ошибки. Когда вы объединяете их результаты… их ошибки, как правило, компенсируют друг друга… что приводит к более точным прогнозам ИИ. Есть некоторые нюансы в том, чтобы сделать это хорошо (необходимо взвешивать ансамбль), но это работает.

Самое забавное… что из-за того, что это было запрещено на научных конференциях… это также было запрещено в научных статьях . И поэтому, я думаю… ну… многие забыли. Ха-ха. В любом случае… вот почему сеть нейронных сетей всегда будет превосходить любую отдельную нейронную сеть.

Но вы можете спросить… а как насчет стоимости?

Фундаментальная теория: Стоимость

Вот что нужно знать о гигантском пучке нейронов… в своем нынешнем виде он невероятно неэффективен. Именно поэтому борьба с этой неэффективностью снижает затраты на ИИ в 10-900 раз в год . Этому способствуют многие факторы, но я хочу сосредоточиться на алгоритмическом… а именно на кэшировании и индексировании .

Представьте, что вы пришли в библиотеку и спросили библиотекаря: «Какие правила у шахмат?» Библиотекарь ответил: «Одну минутку, пожалуйста», а затем прочитал КАЖДУЮ страницу КАЖДОЙ книги во ВСЕЙ библиотеке… а потом вернулся и дал вам… 🥁… один жетон.

Именно это и делал GPT-3. Он использовал практически КАЖДЫЙ нейрон для генерации КАЖДОГО токена… и помните… знания обо всем мире заключены в нейронах!

Идея «DeepSeek» возникла из простой мысли… «а что, если бы в библиотеке были СЕКЦИИ!». Тогда библиотекарь мог бы подойти к «шахматной секции»… и быстрее получить результаты.

И это указывает на ИДЕАЛЬНОЕ состояние, к которому движется ИИ… это не смесь экспертов… это СМЕСЬ СМЕСЕЙ ЭКСПЕРТОВ. Это индексирование! Подумайте, как это делает библиотекарь! Когда вы спрашиваете библиотекаря: «Каковы правила шахмат?», он ответит:

• Раздел: Пройдите в игровой раздел.

• Полка: Найдите полку с шахматными книгами.

• Книга: Просмотрите корешки, ища «Вводное пособие по шахматам» или что-то подобное.

• Глава: Просмотрите оглавление, найдя раздел «Обзор правил».

• Найдите абзац , дающий общее представление о правилах шахмат, вернитесь к себе и передайте этот абзац.

А это примерно в миллиард раз эффективнее (и, следовательно, дешевле!), чем читать КАЖДУЮ страницу КАЖДОЙ книги на КАЖДОЙ полке КАЖДЫЙ раз, когда вы генерируете токен.

Искусственный интеллект делает то же самое… и по тем же причинам… самым быстрым и дешевым вариантом будет огромный индекс нейронов мира… а не одна-единственная разрозненная сеть, которая учитывает каждый возможный факт во Вселенной при генерации токена. А глобальная сеть нейронных сетей — это САМЫЙ ЭПИЧЕСКИЙ ПО МАСШТАБУ КЭШ + ИНДЕКС В ИСТОРИИ. Каждая модель в сети — это «кэш» внутренних ментальных моделей (хранящихся в нейронах). А способ их поиска — маршрутизаторы… огромный индекс. Вот почему он победит. Подробнее об этом чуть позже.

Фундаментальная теория: Скорость

Основной аргумент в пользу стоимости тот же, что и основной аргумент в пользу скорости… но я отвечу на один вопрос: разве комбинация моделей ИИ не будет работать медленнее , чем любая отдельная модель ИИ?

Задержка будет меньше по показателю «Время до получения первого токена» (время ожидания начала потоковой передачи ответа), но не по показателю «общее количество токенов в секунду»… а именно он действительно важен. В общем, если вы вызываете 50 моделей параллельно и объединяете их с другой моделью, задержка увеличивается (скорость 50 моделей в худшем случае + скорость объединяемой модели), но пропускная способность остается той же. Данные передаются вам в потоковом режиме (опять же… см. OpenRouter).

В целом: новая экономика искусственного интеллекта

Взятые вместе, рыночные силы и фундаментальные принципы машинного обучения берут верх, и хотя иррациональность, доминирование и ажиотаж могут продолжаться еще некоторое время… в конце концов, расплата наступит. И мы видим это в реальном времени.

Часть 2: геополитическая игра окончена

Возможности ИИ зависят от объема данных, вычислительных мощностей и талантов, используемых для его создания. Это, по сути, еще один способ описать эффект ансамбля/гидроны, о котором я только что упоминал. Потому что, когда вы объединяете модели ИИ… вы неявно комбинируете их данные, вычислительные мощности и алгоритмы. Законы масштабирования гласят… ансамбли побеждают. Таким образом, с геополитической точки зрения возникает вопрос: какая страна выиграет гонку ИИ?

2010-2026: Искусственный интеллект на уровне компаний

До сих пор (точнее, до сегодняшнего дня) мир жил в мире «ИИ на уровне компаний»… то есть возможности ИИ зависели от объема данных, вычислительных мощностей и талантов, которые может объединить крупнейшая компания. Именно поэтому самые большие… самые мощные… самые передовые… разработки в области ИИ создаются крупнейшими компаниями (Google, Microsoft, OpenAI, Anthropic и др.). У них есть необходимые средства, чтобы объединить эти данные, вычислительные мощности и таланты.

2026-2026: Искусственный интеллект на национальном уровне

В этом году стало казаться, что искусственный интеллект вот-вот окажется в руках государств. Китай, очевидно, находится в выгодном положении (с точки зрения политического режима) для национализации данных, вычислительных мощностей и талантов в стране с населением в 1,4 миллиарда человек. США приближаются к 50% собственности над своими компаниями, занимающимися ИИ… и теперь контролируют, когда выпускаются модели ИИ и кому разрешено их использовать.

В теории… это был новый рубеж. Страны могут доминировать над любой компанией, используя законы масштабирования… обучать самые большие, самые мощные (и самые безопасные?) модели ИИ. Верно?

2026 — навсегда: Искусственный интеллект мирового уровня

Но теперь… честно говоря… мы это пропускаем. Правительство США только что запретило Fable… и в течение 24 часов интернет с искусственным интеллектом предлагает качество, ПРЕВОСХОДЯЩЕЕ FABLE, через OpenRouter. Всё ещё думаете, что мы будем тратить время на ИИ национального масштаба? Подумайте ещё раз.

Такое уже случалось.

TCP/IP/HTTP/WWW — все это были прототипы протоколов, которые слишком быстро стали популярными… объединив все мэйнфреймы мира (и в конечном итоге персональные компьютеры) в сеть, которая была намного мощнее любого отдельного компьютера. Я не шучу… суть ARPANET заключалась в том, чтобы объединить мэйнфреймы в сеть с разделением времени. В этом и заключалась суть. Сеть — это больше, чем просто узел.

Но на тот момент… мэйнфреймы были на пике популярности. В теории «миру в конечном итоге понадобится всего около 5 мэйнфреймов» (скорее мем, чем точная цитата… но вы поняли суть).

Но этого не произошло… из-за той же самой парадигмы… Америка и Европа перешли от вычислительных систем корпоративного уровня к вычислениям мирового уровня… и Америка и Европа задали тон информационным технологиям на 50 лет, потому что Америка и Европа достигли этого первыми (Всемирная паутина из Европы, пакетная коммутация из Великобритании, TCP/IP из США… объединенные в глобальную сеть, которая была ориентирована на открытость, свободу, демократию, совместимость и которая с тех пор оказала огромное культурное влияние).

Мы переходим от ИИ национального уровня к ИИ мирового уровня. И если вы работаете в национальном правительстве и читаете это… борьба с ним — не путь к победе. Пытаться оставаться на уровне национального ИИ, когда на кону стоит ИИ мирового уровня, — это… честно говоря… глупо. Противоположная стратегия (стратегия WWW/TCP/HTTP и т. д.) — вот путь к победе. Изолируясь, вы окажетесь от глобальной сети, и средние державы поднимутся выше центральных.

Думаете, такого раньше не случалось? Подумайте ещё раз. :)

(можно вставить анекдот про печатный станок, Османскую империю и т. д., но этот пост и так уже слишком длинный… я оставлю это на другой раз.)

Часть 3: культурная игра окончена

Социальный капитал перетекает к тому, у кого самая мощная или популярная система искусственного интеллекта… DeepMind лидировала с AlphaGo. OpenAI вырвалась вперед с ChatGPT. Anthropic — с Claude и т.д.

Такого подхода больше просто невозможно придерживаться. И я уверен, что передовые маркетинговые отделы, использующие искусственный интеллект, хорошо справятся с этим поворотом (у них… действительно… лучшие в мире специалисты по рекламе и маркетингу), но в конце концов… «правда восторжествует».

Это также перевернет с ног на голову антропоморфизм. Трудно утверждать, что это единый разум, когда очевидно, что это коллективный разум… и отдельные участники этого коллективного разума могут в любой момент включать или выключать свой вклад в коллектив. Мы получаем экономику интеллекта.

В заключение: что же будет дальше?

Вкратце:

• Вместо ИИ с открытым/закрытым исходным кодом… ИИ с сетевым исходным кодом.

• Вместо ИИ на уровне компании… ИИ мирового уровня.

• Вместо централизации… федеративный и децентрализованный ИИ.

• Вместо колониализма данных… суверенитет данных.

• Вместо слежки… конфиденциальность

• Вместо добросовестного использования… авторское право (!)

• Вместо разрозненных данных… глобально связанные данные ( в миллион раз больше данных! )

• Вместо ИИ как ядерного оружия… ИИ как интернет.

• Вместо того чтобы рассматривать ИИ как единый разум… это открытый рынок ментальных моделей.

• Вместо потери контроля… коллективный контроль.

• Вместо предвзятости ИИ… используйте репрезентативные запросы.

• Вместо закрытых экосистем… совместимость

• Вместо дезинформации… цепочки доверия, основанные на атрибуции.

• Вместо одностороннего контроля над ИИ… контроль над ИИ на основе атрибуции .

• Вместо глубокого обучения… глубокое голосование

• Вместо трансляции… широкого слушания

  Краткосрочная перспектива: несогласованность между рынками и диалогом.

Если обвал фондового рынка затянется надолго, то лидеры рынка ещё какое-то время будут держаться. Если же произойдёт коррекция рынка, потребность в более дешёвых вариантах, вероятно, приведёт к более резкому сдвигу в сторону самостоятельного размещения пользователями моделей с открытым исходным кодом и установления прямых связей (между компаниями или между предприятиями). В серьёзных, сложных ситуациях не стоит резко менять курс… даже если фундаментальные факторы явно указывают на другое направление.

В долгосрочной перспективе: первоначальная концепция интернета, разработанная Дж. К. Р. Ликлидером, окончательно сформирована.

Дж. К. Р. Ликлидер — идейный вдохновитель ARPANET… которая впоследствии стала интернетом. В 1968 году он написал (для меня) самую важную работу по информационным технологиям XX века. Она называется « Компьютер как средство связи ».

• Первая треть книги изменит ваше представление о коммуникации.

• Вторая треть: описывает его видение интернета в том виде, в каком мы его знаем сегодня.

• Последняя треть: … посвящена АГЕНТАМ

  (Да… агенты искусственного интеллекта… в 1968 году… я вам говорю, этот парень был гением)

Это огромная победа для свободы, безопасности и демократии.

Об этом можно написать слишком много, но концентрация власти влечет за собой огромные потери контроля, согласованность ценностей, предвзятость, смещение акцентов и другие риски. Хотя эта новая парадигма меняет наиболее важные проблемы безопасности , я считаю, что это огромная победа для людей во всем мире, которые ценят безопасность, свободу и демократию в сфере ИИ. Я постараюсь написать об этом подробнее в ближайшее время.