В комментарии описание с чего всё началось.
Ответ стоит 20 миллиардов долларов и будущего всей индустрии.
Nvidia усиливает позиции на рынке ускорителей для искусственного интеллекта, заключив соглашение с конкурентом Groq — компанию интересуют технологии и команда разработчиков. Сделка оформлена как неисключительная лицензия, а не покупка Groq целиком.
По условиям договорённостей Nvidia получает право использовать разработки Groq и одновременно нанимает основателя стартапа Джонатана Росса, президента Groq Санни Мадру и ряд других сотрудников. На этом фоне CNBC сообщило, что Nvidia якобы выкупает активы Groq на сумму около 20 млрд долларов. Если информация достоверна, это может стать крупнейшей сделкой Nvidia за всю историю, но формально Groq продолжит существовать как отдельный бизнес.
Спрос на вычислительные ресурсы для ИИ растёт, и графические ускорители Nvidia фактически стали стандартом для обучения и запуска моделей. Groq, в свою очередь, продвигает альтернативный подход — чипы класса LPU (language processing unit), ориентированные на обработку языковых моделей.
В компании утверждали, что такие решения способны выполнять задачи для больших языковых моделей примерно в 10 раз быстрее и с расходом энергии в десять раз ниже по сравнению с привычными вариантами. Джонатан Росс известен работой над специализированными ускорителями ещё со времён Google — там он участвовал в создании TPU, собственного ускорителя для ИИ.
Финансовые показатели Groq тоже привлекали внимание рынка. В сентябре компания привлекла 750 млн долларов при оценке 6,9 млрд долларов. Рост аудитории за год оказался резким — по данным самой Groq, её инфраструктуру используют более 2 млн разработчиков, тогда как годом ранее речь шла примерно о 356 тыс.
В 10 раз быстрее, чем у Nvidia: Groq предлагает качественно новый подход к построению аппаратной части ИИ
Беспрецедентная скорость вычислений оставляет всех конкурентов далеко позади.
Компания Groq (не путать с чат-ботом Grok от Илона Маска) занимается разработкой специализированного оборудования для работы с искусственным интеллектом и стремится сделать генерацию ответов ИИ в 75 раз быстрее, чем средняя скорость печати человека. Это особенно важно для мгновенного получения информации при общении с чат-ботами или составлении электронных писем.
Groq сосредоточена на создании высокопроизводительных процессоров и программных решений для приложений искусственного интеллекта, машинного обучения и высокопроизводительных вычислений. Энтузиасты в сфере ИИ уже оценили беспрецедентную скорость работы фирменной платформы компании и на полном серьёзе называют её убийцей ChatGPT.
Хотя Groq не предоставляет собственных языковых моделей, она способна значительно ускорить работу уже существующих LLM за счёт использования высокооптимизированной аппаратной части собственной разработки. Эксперты уже отметили её инновационный дизайн микросхем, высокую масштабируемость и энергоэффективность.
Отличительной чертой Groq является использование специально разработанного оборудования, так называемых линейных процессоров (LPU), предназначенных конкретно для работы с крупными языковыми моделями в отличие от традиционно используемых графических процессоров (GPU), оптимизированных в первую очередь для параллельной обработки графики.
Благодаря своей уникальной архитектуре, LPU-решения от Groq демонстрируют в 10 раз более высокую скорость обработки данных по сравнению с решениями на базе GPU, что делает их идеальными для работы с последовательностями данных, включая ДНК, музыку, код и, разумеется, естественный язык.
Groq утверждает, что её клиенты уже используют фирменные LPU и API компании для работы с языковыми моделями на высоких скоростях. Компания предлагает возможность бесплатного тестирования своей системы без необходимости установки дополнительного программного обеспечения, поддерживая такие модели, как Llama 2 от Meta, Mixtral-8x7b и Mistral 7B.
Том Эллис из Groq подтвердил, что работа над собственной языковой моделью тоже ведётся, однако на данный момент компания сосредоточена на развитии своих предложений в области открытого исходного кода и специализированного оборудования.
Комментарии
скупка технологий, т.к. остальные игроки наступают на пятки, а у самой инвидии новых идей нет, в отличие от конкурентов...
как вариант... но уж больно суммы впечатляющие... ну и опять таки тема хихимонии
так у них пузырь "капитализации" - рынку надо что то предъявить, а предъявить нечего - и тогда падение 20-30% это будет ещё очень-очень повезло...
Зачем тратить время, деньги и ресурсы, если есть возможность купить готовое?
Это называется конкурентное преимущество!
обычная практика капитализма ещё с 19 века - либо скупить, либо убить - "рокфеллер" не даст соврать - ничего нового...
Groq (with a 'q') and Grok (with a 'k') are two entirely separate entities in the AI landscape, despite their similar names.
А у антимонопольщиков к сделке претензий нет?
А должны быть.
как я понимаю то что нельзя купить за деньги то можно купить за большие деньги и тому же кроме антимонопольщиков есть ещё и лоббисты например, а ещё эффективные манагеры...
Какие претензии? Компания действует в интересах США.