Системы машинного интеллекта и особенно инференс-системы, чьей задачей является принятие решений в нейросетевых сценариях обработки, требуют особого подхода к реализации аппаратной части для достижения действительно высокой производительности при приемлемом уровне энергопотребления. Стартап Groq, который ещё осенью 2019 года анонсировал свой тензорный процессор Groq TSP, начал поставки систем на базе этого чипа.
#hardware #groq #ии #ускоритель
#servernews
https://servernews.ru/1022060/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Стартап Groq Inc., специализирующийся в области ускорителей вычислений для искусственного интеллекта (AI), машинного обучения (ML) и высокопроизводительных вычислений, объявил о завершении раунда финансирования серии C, который возглавили Tiger Global Management и D1 Capital при участии The Spruce House Partnership и Addition,, а также GCM Grosvenor, Xⁿ, Firebolt Ventures, General Global Capital и Tru Arrow Partners. В результате стартапу удалось привлечь $300 млн, а общая сумма инвестиций в него составила $367 млн.
#groq #инвестиции #ии #hardware #ускоритель
#servernews
https://servernews.ru/1037476/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Стартап Groq, специализирующийся на разработке ИИ-ускорителей, сообщил об адаптации языковой модели M**a LLaMA для своих аппаратных решений. Изначально эта модель ориентирована на работу в системах, оснащённых ускорителями NVIDIA.
#software #groq #ии #ускоритель
#servernews
https://servernews.ru/1083274/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Тензорный процессор TSP, разработанный стартапом Groq, был анонсирован ещё осенью 2019 года и его уже нельзя назвать новым. Тем не менее, как сообщает Groq, TSP всё ещё является достаточно мощным решением для инференса больших языковых моделей (LLM).
#hardware #llm #ии #groq #инференс #ускоритель
#servernews @servernewsru

https://servernews.ru/1093119/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Аргоннская национальная лаборатория Министерства энергетики США сообщила о запуске вычислительного кластера, использующего специализированные ИИ-решения Groq. Ресурсы системы предоставляются исследователям на базе тестовой площадки ALCF (Argonne Leadership Computing Facility).
#hardware #groq #hpc #ии #сша
#servernews @servernewsru

https://servernews.ru/1094794/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Стартап Groq сообщил о значительных достижениях в области инференса с использованием ускорителя LPU, разработанного для запуска больших языковых моделей (LLM), таких как GPT, Llama и Mistral. Groq LPU имеет один массивно-параллельный тензорный процессор TSP, который обеспечивает производительность до 750 TOPS INT8 и до 188 Тфлопс FP16. LPU Groq оснащён локальной SRAM объемом 230 Мбайт с пропускной способностью 80 Тбайт/с.
#groq #hardware #инференс #llm #ии #бенчмарк #ускоритель
#servernews @servernewsru

https://servernews.ru/1100792/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Aramco Digital, подразделение нефтегазового и химического гиганта Aramco, и компания Groq сообщили о намерении сформировать в Саудовской Аравии крупнейший в мире центр по развитию ИИ. Предполагается, что данная инициатива будет способствовать развитию соответствующей сферы на территории Королевства.
#hardware #aramco #groq #саудовскаяаравия #ии #облако
#servernews @servernewsru

https://servernews.ru/1101520/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Стартап Groq, создавший ускоритель LPU на базе собственного массивно-параллельного тензорного процессора TSP, больше не продаёт оборудование, предлагая вместо этого воспользоваться его облачными ИИ-сервисами или стать партнёром в создании ЦОД. Об этом генеральный директор Groq Джонатан Росс (Jonathan Ross) сообщил ресурсу EE Times.
#hardware #llm #ии #инференс #ускоритель #groq
#servernews @servernewsru

https://servernews.ru/1102900/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Стартап Groq, разрабатывающий ускорители и решения для генеративного ИИ, объявил о завершении раунда финансирования, позволившего привлечь $640 млн инвестиций. В результате его рыночная стоимость выросла до $2,8 млрд. В раунде финансирования, который возглавила BlackRock Private Equity Partners, приняли участие как существующие, так и новые инвесторы, включая Neuberger Berman, Type One Ventures, а также стратегические инвесторы, включая Cisco Investments, KDDI Open Innovation Fund III и Samsung Catalyst Fund.
#groq #hardware #финансы #кадры
#servernews @servernewsru

https://servernews.ru/1109028/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Подразделение нефтегазовой саудовской Aramco — Aramco Digital анонсировало серию соглашений с компаниями, действующими в сфере ИИ и беспроводных технологий. По информации Datacenter Dynamics, компания подписала меморандумы о взаимопонимании с Cerebras Systems, развитии передовой ИИ-модели Norous совместно с Groq и сотрудничестве в сфере 5G-технологий совместно с Qualcomm.
#hardware #ии #aramco #саудовскаяаравия #cerebras #groq #qualcomm #5g #iot
#servernews @servernewsru

https://servernews.ru/1111010/?utm_source=nova&utm_medium=tg&utm_campaign=sn