НВидиа анонсировала тут недавно выпуск "чипа" (см.прим) для ИИ - Blackwell - он в 30 раз быстрее чем предыдущий H100 и в 25 раз более энергоэффективней ( это уже проблемой кстати становится )
Но в чем прикол
Подробности
Если вспомнить в каком количестве затаривались в 2023ем чипами H100 основные группировки на Теме
500 тыщ проданных A100 и H100 в квартал... по году - гуглоиды отхватили 50к, майкрософт и шмета по 150к.
( сколько стоит сложно сказать но суммарно там речь идет о миллиардах долларов ).
Так вот - получается надо опять обновлять парк и что им не смогли предсказать их супер ИИ мозги о том, что необходимо всего полгодика подождать с "закупками" , бгг?
И у кого тут "интеллект" ? у продаванов из Нвидиа или железяк?
Ладно шутки шутками но датацентры и ИИ уже давно стали аналогами "зеленой энергетики" для банкиров.
На которые можно списывать их чудовищные доходы
У Альфабета ( гугль ) выручка (revenue) перевалила за 300 ярдов в 2023
Прибыль ( profit ) 73 миллиарда долларов
Т.е. он уже давно работает эффективней кучи административных контуров со всеми потрошками ( если брать профициты их торговых балансов )
Остальные из цифровой тусы такие же. Давно обогнали фонды и самых крупных из реального сектора углеводородчиков.
Соответственно есть вопрос куда парковать нули.
и тут у надмозгов блеснула мысля...
Кроме непосредственно Нвидиа
для справки - выручка 70 млрд , 30 тыщ человечков
Хозяева
Есть еще куча владельцев земельки на которых стоят эти датацентры, строители датацентров, сервисные компании и поставщики энергии, поставщики оборудования для поставщиков энергии , перепродавцов номенклатуры железок, интеграторов, консультантов, прессы и академ сектора их обслуживающих ( ну это мелочь но тоже есть ) , а чуть не забыл - legal и фин сектор все это обслуживающий... короче танцуют все.
Так это и работает... кейнсианство с его ямой в химически чистом виде.
P.S.
немного конспиролохии - откуда такой качественный скачок? начали для проектирования использовать собственно то, что напроизводили? хм...
P.S.2
На глазок из практического опыта - одной такой байды хватит, чтобы например мониторить все радиостанции и все теле вещание, и всю Российскую прессу, и все защищаемые диссеры, и всю свежую нормативку ФОИВ, и все публикуемые патенты, и все ... с классификацией понятий, выделением сущностей и отношений между ними ( NER ) и прч.
"Парковка нулей" - вполне зрелое и адекватное описание почти всего происходящего сегодня в сфере ИИ.
Продолжаем наблюдать.
Комментарии
Может методику изменили для оценки? Слишком глобальное превосходство нарисовано.
Да, помню, когда новость увидел, тоже резануло такое соотношение - "в 30 раз быстрее чем предыдущий H100 и в 25 раз более энергоэффективней"
Что за фантастические технологии, практики у инженегров нвидии? Пусть поделятся с миром.
П.С. А если серьёзно - там наверняка циферка или звёздочка есть, поясняющая, в какой момент такое соотношение случается.
Это цифры исключительно для работы с нейросетями и их обучении.
Грубая вычислительная мощь, не может так вырасти за такой короткий срок. Только за счет увеличения транзисторного бюджета это возможно.
Я так думаю самые передовые достижения там в отделе маркетинга, всё же. И там написано «до 30 раз быстрее и до 25 раз эффективнее по цене/потреблению». Обычно в переводе это значит что есть 1-2 варианта где достигается этот пиковый выигрыш, но в целом на всю задачу рост эффективности может быть десятки или даже единицы процентов. Не думаю, что все срочно начнут ломать старые датацентры и набивать их новыми чипами только потому, что нвидия нарисовала такую картинку.
Blackwell уже протестировали и сравнили. Еще как будут брать.
Потому что новый чип содержит 208 млрд транзисторов, сделанных по 4-нм техпроцессу TSMC 4NP
Предыдущие чипы для видеокарт делали по техпроцессу гораздо хуже мобильных чипов.
Реализовали аппаратное ускорение математических операция используемых в нейросетях.
оно и раньше так было. Могли реализовать более эффективные математические алгоритмы (в основном - операции с матрицами)
А на старых чипах это ускорение не работало?
В старых чипах учили в float32. Сейчас научились учить нейросети в весах int8. Соответственно аппаратуру под это заточили. Обратите внимание, что было Tflops, стало Tops.
Осталось найти связь с египетскими....
В какой-то момент вечеринка закончится, и те, кто не успел вовремя пойти домой, сдохнут от передоза, или будут долго и болезненно переживать ломку, чтобы потом начать трезвую жизнь.
Рыночная стоимость Nvidia превысила капитализацию всех компаний, торгующихся на биржах в Германии, следует из торговых данных. А если мерить в Польшах, то 38 попугаев только кончик хвоста.
Получается на 1 работника NVIDIA , выходит 1 млн долларов чистой прибыли.
Вот это да. Круче может быть только в финансовых структурах которые управляют активами.
1 млн конечно круто.
кстати в статье есть небольшая неточность перевода:
«Доходы 73 миллиарда долларов (у Альфабет/Гугл)
@Роман Смирнов: доход это на сколько компания напродавала , revenue типа оборот.
profit это прибыль (доходы минус расходы)
да, исправил.
30 млрд чистая прибыль. 73 это выручка.
неплохо так маржа почти 100%.
С одной стороны, трюли зеленью, эксафлопы, и атомную электростанцию к розетке, с другой стороны для обеспечения желе промеж ушей белками, жирами и углеводами достаточно картошки, кефира и подсолнечного масла. Интересно, кто выиграет эволюционную гонку?
хз, но на практике если не брать что то заумное вроде отслеживания плазмы ( https://aftershock.news/?q=node/1376605 ) - достаточно NER - ( выделение и категоризация сущностей и чпр) ну и все что связано с видео - аудио и прч
все Российские диссеры, все что через право проходит и через СМИ... можно мониторить на лету - вопрос в "моделях" второго и третьего уровня, которые с этой первичкой работают... там уже без Людей не обойтись, но вот это все наверняка сильно облегчает.
Да я не против ИИ в общественно полезных целях, просто есть другие подходы, которые работают и на домашнем ноуте.
Есть такой якобы парадокс Моравека - мол, первичка на входе сжирает больше ресурса, чем высококогнитивные процессы. Правда, не очень понятно, в чём тут парадокс - по той же метеорологии сбор первички "из полей" явно ресурсозатратней, чем рафинированное знание "if дождь then зонт".
А западоиды и наши каргокультисты из Сбера и Яндекса ещё и вероятности впёрлись. Ну вот какие вероятности вычисляет смотрящий на картинку, чтобы отсортировать, где браток с мерином, где кошечка, где собачка, а где "златая цепь на дубе том" до фурункулёза довела? Причем на картинке неполная информация, да ещё в комбинациях различных объектов, для которых в вероятностных терминах зубы вспотеют количество вариантов по формулам из комбинаторики вычислять.
И много ли вычислительных мощностей надо для обработки рафинированного знания в высокоуровневых абстракциях "браток с мерином", "кошечка", "собачка", "златая цепь на дубе том до фурункулёза довела"?
>Есть такой якобы парадокс Моравека - мол, первичка на входе сжирает больше ресурса, чем высококогнитивные процессы.
Парадокс Моравека он всё же не об этом. А о том, что движение и распознавание картинки для человека намного проще, чем работа с числами и формулами, а для компьютера - наоборот. Это в общем-то действительно не логический парадокс, а такое высказывание "фантасты думали роботы будут как человеки, а оказалось нет".
>Ну вот какие вероятности вычисляет смотрящий на картинку, чтобы отсортировать, где браток с мерином, где кошечка, где собачка, а где "златая цепь на дубе том" до фурункулёза довела?
Собственно об этом и парадокс, да. Человек как-то подсознательно распознает "человека в кожаной куртке рядом с машиной", "кусок морды животного", "хвост другого животного" и *какой-то нарыв на коже шеи". А перенести это "подсознательно" в программу для компьютера - сложно.
Причем например лично я в куске морды скорее узнаю кошку, но породу уже не определю (а вы?), то же самое про хвост собаки, от "человека в кожаной куртке рядом с машиной" к "братку" перейти уже не смогу, а понять по нарыву, что это фурункулез и тем более что он от золотой цепи - не смогу тем более.
>И много ли вычислительных мощностей надо для обработки рафинированного знания в высокоуровневых абстракциях "браток с мерином", "кошечка", "собачка", "златая цепь на дубе том до фурункулёза довела"?
Для именно обработки рафинированного знания, типа "поднять тревогу, если камера увидела парня с битой", много мощностей не нужно, да. Много мощностей как раз нужно, чтобы переводить картинку с видеокамеры наблюдения из набора кадров в рафинированное знание "в 5 утра проходил парень с битой".
Или сажать на камеру сторожа, который распознавание осилит легко. Но у сторожа свои проблемы - ему бдить 24 часа в сутки сложно, а машине - без проблем. Ещё одно проявление парадокса Моравека))
Лично с Моравеком не знаком, так что вынужден оперировать тем, что указано в Вики:
"Парадокс Моравека (англ. Moravec's paradox) — принцип в областях искусственного интеллекта и робототехники, согласно которому вопреки распространённому мнению высококогнитивные процессы требуют относительно небольших вычислений, в то время как низкоуровневые сенсомоторные операции требуют огромных вычислительных ресурсов".
А далее речь не о том, как перевести первичку в семантику абстрактного уровня, с которой можно работать на ноуте дома на диване, а о том, что для этого бесшёрстые обезьяны вероятности не вычисляют. В чём каждый может убедиться на своём персональном опыте, поглядев на картинку.
В отличие от вероятностных чат-гопоты и карго-культистов из Сбера и Яндекса, которые, именно что скармливая экономные вербальные абстракции на входе, далее умудрились вляпаться в обсчёт корреляций "всё влияет на всё на всех уровнях всех систем", что требует гигантских вычислительных мощностей и атомной электростанции в розетке - потому что факториальный вычислительный взрыв. И при этом в качестве выхлопа имеют ложные корреляции, отсутствие верификации хотя бы через рафинированное экспертное знание, и подмену того, что перед клиентом в реале, на наиболее частое (в качестве иллюстрации - в медицине кашель плюс температура наиболее частое это ОРВИ, но это не исключает туберкулёза, экинококкоза, и муковисцедоза).
Неверно выбранная математика дорого обходится.
Ну я тоже решил сначала, что шесть, а потом подумал, а может и три.
Ну, а если грить об этой генеративной бигдате - не переживайте, сейчас добавят ответ в хранилище и в следующий раз он с "умным видом" выдаст ответ, чтобы лопухи неумные могли подивиться, какой он умный.
Добавят - за трюли зеленью, миллионы видеокарточек, и атомную электростанцию к розетке.
При отсутствии рынка для отбивки - за бредогенерацию в профессиональных областях засудят-с, а съем бабок с кислотных картинок и безликих текстов ограничен конкурентным предложением от кожно-мясных на почасовой оплате за хавчик из бигмачечной.
Так что я не переживаю - само засохнет, и отвалится.
На слайдах показано рынок не нужен - идет парковка нулей, там другие механизмы
Я про то же - сколько времени инвесторы будут парковать нули в очередной пузырь?
Следующий думаю это биотех, ну или "марс"
Так и живем ))
Если есть AGI можно просто сторнировать нули, и никто ничего не сможет доказать. А большая часть даже не заметит.
На биотехе мамзеля Лиза Холмс сливки уже снимала. Впрочем, могут повторить.
Еще из тем с мутной перспективностью могут понадувать мозго-компьютерный интерфейс, чем Маск уже занялся.
Правда, не понимаю, зачем им именно физический контакт с мозгом, там же как минимум глиальной (соединительной) тканью всё инкапсулирует, а как максимум мозги нагноятся. Электроэнцефалограмму спокойно пишут через кожу и кости черепа.
Чтобы управлять весами сети нейронов мозга. Вдруг вам не нравятся убеждения индивидуума, а тут интерфейс, и все можно изменить. :)))
Дистанционный съём разными методами со всей поверхности и на весь объём мозга интерпретировать не могут - а с милимитрового электрода, инкапсулированного глиальной тканью (хорошо, если не гноем), аж изменят развесовку всей нейросети, закодированную на уровне отдельных синапсов, которых под 10 тысяч на каждом нейроне, да ещё специфически под убеждения индивидума.
Ну чо, несите ваши лишние бапки Маску, они ему очень нужны.
Вопрос не в том чтобы снимать данные, а в том чтобы менять данные. :))) Не всем нравятся текущая версия человека. Все еще нет "человека служебного". А вот будет интерфейс, и вы перестанете жаловаться и писать свое "глупое мнение". Сразу станете рациональным и послушным.
Как только так сразу.
Но очень хочется. И готовы потратить на это триллионы долларов. Это же просто мечта - "человек служебный". :)))
Неконтролируемые мусорные выборки с интернет-помойки им в руки, отсутствие верификации через реал или хотя бы рафинированное экспертное знание на шею, так что за правильное принято наиболее частое, а не то, что перед клиентом в реале, и электричку навстречу с факториальным вычислительным взрывом из комбинаторики для обработки сочетанных явлений.
Позвольте, в данном случае мы говорим о сугубо практических экспериментах. :)))
Я выше вставил картинку с кошечой, собачкой, братком и его шеей.
Сугубо практически поделитесь вашим личным опытом, как вы использовали вероятности для идентификации указанных объектов.
Мы про интерфейс разговаривали. Вы спросили зачем он нужен. Я вам ответил. :)))
Как показала практика лоботомия не позволяет сделать "человека служебного". Теперь вся надежда на интерфейс. Благодаря работам Anthropic, есть перспективы получить из человека Golden Gate Claude. :)))
Я вам ответил "как только так сразу".
А пока им флаг в руки, барабан на шею, и электричку навстречу.
Но обязательно попробуют. :)))
"Кролики думали, что они любят друг друга - а их просто разводили"тм.
Человек вероятности неосознанно использует. Но использует. Каждый из кусков изображения несëт мало информации и она неточная. Но собирая еë вместе мы видим привычный объект.
А как это - подсознательно вычислять вероятности?
Например, таракан уклоняется от тапка - где он тервер изучал? Или новородок распознаёт мамкину сиську - где и когда он он успел наловчиться так вычислять вероятности, что делает это бессознательно?
Скорость отклика и расширение наменклатуры управляемый элементов.
Сигнал гораздо быстрее снять с мозга чем с нажимаемой кнопки, и даже чем с импульса в мышце. К тому же точность несоизмеримо выше чем у ЭЭГ. Попробуй по энцефалограмме считать набираемый текст.
Нам еле хватает сноровки чтоб управлять одновременно одним рулём, одним рычагом и тремя педалями из внешнего интерфейса. А когда встанет задача управлять сотней приводов в экзоскелете? А она встанет. Уже встаёт и интерфейс, один из главных если не главный, тормозов.
В лаборатории обезьяны уже управляют второй парой рук на экране и весело катаются на инвалидных креслах с моторчиком.
Чтоб мозг не гнил используют золотые контакты.
"К тому же точность несоизмеримо выше чем у ЭЭГ. Попробуй по энцефалограмме считать набираемый текст."
А чо, с милиметрового контакта считывают набираемый текст? Не, я в курсе, что ещё в 80-ые прошлого века ребята из питерского Института Мозга микроэлектрдами по разрядам отдельных нейронов с вероятностью около 70% считывали загаданные пациентом числа от 1 до 10 - но это таки не текст.
Курсор по экрану и мотоколяску по улице гонять можно и с ээг. Там проблема не столько в снятии и интерпретации сигнала, сколько в фокусировке внимания. А то на задранную ветром юбку у йуного упругого бапца отвлечёшся, и с мгновенной скоростью реакции непосредственно с мозга, без тормозов, фильтров и прокладок в виде спинного мозга и нервно-мышечной передачи, как раз содержимое юбки по асфальту и размажешь.
Ни золото, ни титан не предотвращают соединительнотканную инкапсуляцию.
Про биотех слышу уже лет 30. Хочется посмотреть )
Кожаным ублюдкам, значит, можно на ошибках учиться, а кремниевым - нет?
Страницы