Модель искусственного интеллекта Groq бросает вызов ChatGPT и Grok Илона Маска

Появление искусственного интеллекта Groq AI вызвало переполох в сообществе искусственного интеллекта (ИИ), поскольку он стал вирусным и представляет собой грозного соперника ChatGPT, а также бросает вызов собственной модели ИИ Илона Маска, Grok. Благодаря своей молниеносной скорости реакции и инновационным технологиям Groq привлек широкое внимание в социальных сетях, вызывая сравнения со своими конкурентами.

Мощность специализированного ASIC-чипа Groq

Одним из ключевых факторов успеха Groq является разработка специализированной интегральной схемы (ASIC), созданной специально для больших языковых моделей (LLM). Этот уникальный чип позволяет Groq генерировать около 500 лексем в секунду, что значительно превосходит возможности ChatGPT-3.5, который может генерировать только около 40 лексем в секунду. Используя этот чип, компания Groq создала так называемый «блок обработки языка» (LPU) — альтернативу традиционным и дорогостоящим графическим процессорам (GPU), обычно используемым в моделях искусственного интеллекта.

Стремительный рост популярности Groq

Groq Inc, компания, стоящая за моделью искусственного интеллекта Groq, существует с 2016 года, получив торговую марку на название Groq. Однако в ноябре прошлого года, когда модель искусственного интеллекта Илона Маска, Grok, набрала обороты, разработчики Groq сочли необходимым обратить внимание на сходство названий. В своем блоге они призвали Маска выбрать другое название, указав, что их Groq LPU Inference Engine — это самый быстрый способ запуска LLM и генеративных приложений ИИ.
Несмотря на молчание Маска и страницы Grok в социальных сетях по поводу названия, пользователи платформы обратили внимание на возможности Groq. Многие начали сравнивать LPU Groq с моделями на базе GPU и признали потенциал значительного улучшения низких задержек, что делает его переломным для продуктов, требующих быстрого времени отклика.

Перспективная альтернатива моделям на базе GPU

Есть основания полагать, что LPU от Groq могут значительно превзойти GPU в обслуживании приложений искусственного интеллекта в будущем. Некоторые пользователи даже предположили, что технология Groq может стать реальной альтернативой высокопроизводительным аппаратным средствам популярных чипов Nvidia A100 и H100. Это происходит в то время, когда крупные разработчики ИИ активно стремятся к созданию собственных чипов, чтобы снизить зависимость от моделей Nvidia.

Стремление к разработке собственных чипов

OpenAI, еще один известный игрок в области ИИ, по сообщениям, ищет триллионы долларов финансирования от правительств и инвесторов по всему миру для разработки собственного чипа. Цель — преодолеть проблемы масштабируемости и снизить зависимость от внешних поставщиков оборудования, таких как Nvidia. Это стремление совпадает с отраслевой тенденцией, когда компании, занимающиеся разработкой ИИ, стремятся к созданию чипов для оптимизации своих моделей и повышения конкурентоспособности.
В заключение следует отметить, что стремительный рост популярности Groq AI и его способность бросить вызов таким признанным моделям, как ChatGPT и Grok, вызвали большой резонанс в сообществе ИИ. Благодаря собственному чипу ASIC и блоку обработки языка, Groq продемонстрировал поразительную скорость и производительность, привлекая внимание как разработчиков ИИ, так и пользователей. Поскольку стремление к разработке собственных чипов продолжает набирать обороты, будет интересно посмотреть, как Groq и другие ИИ-компании формируют будущее ИИ-технологий.