В последние годы сложность ИИ-моделей удваивается в среднем каждые два месяца, и пока что эта тенденция сохраняется. Всего три года назад году Google обучила «скромную» модель BERT с 340 млн параметров за 9 Пфлоп-дней. В 2020 году на обучение модели Micrsofot MSFT-1T с 1 трлн параметров понадобилось уже порядка 25-30 тыс. Пфлоп-дней. Процессорам и GPU общего назначения всё труднее управиться с такими задачами, поэтому разработкой специализированных ускорителей занимается целый ряд компаний: Google, Groq, Graphcore, SambaNova, Enflame и др.
#hardware #cerebras #ии #hpc #ускоритель
#servernews
https://servernews.ru/1047735/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Компании Cerebras и Cirrascale Cloud Services объявили о запуске платформы Cerebras Cloud @ Cirrascale, предоставляющей доступ к системе Cerebras CS-2 Wafer-Scale Engine (WSE) через облачный сервис Cirrascale.
#cerebras #hardware #ии #облако
#servernews
https://servernews.ru/1049289/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Суперкомпьютерный центр Лейбница (Leibniz-Rechenzentrum, LRZ), входящий в тройку крупнейших в Германии, объявил о заключении соглашения с HPE и Cerebras в рамках новой инициативы Future Computing. Целью данной инициативы является оценка использования нестандартных вычислительных технологий для ускорения научных исследований, ведущихся в европейском регионе.
#hardware #hpc #суперкомпьютер #cerebras #hpe #ии #superdome
#servernews
https://servernews.ru/1066906/?utm_source=nova&utm_medium=tg&utm_campaign=sn

За успехами компании Cerebras Systems с её необычными детищами, сверхбольшими процессорами Cerebras, занимающими целую кремниевую подложку, наблюдать как минимум интересно. Её системы необычны, но в деле машинного обучения им, похоже, нет равных — одна-единственная платформа Cerebras CS-2 может заменить при обучении крупной модели едва ли не целый кластер. И это компания доказала делом, установив новый рекорд.
#hardware #cerebras #hpc #ии #рекорд
#servernews
https://servernews.ru/1068800/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Компания Cerebras Systems сообщила о запуске уникального вычислительного комплекса Andromeda для выполнения «тяжёлых» ИИ-нагрузок. В основу Andromeda положен кластер из 16 блоков Cerebras CS-2, объединённых 96,8-Тбит/с фабрикой. Каждый из них содержит чип WSE-2, насчитывающий 850 тыс. ядер. Таким образом, общее число ядер достигает 13,5 млн. Кроме того, непосредственно в состав каждого чипа входят 40 Гбайт сверхбыстрой памяти. Система уже доступна коммерческим заказчикам, а также различным научным организациям.
#hardware #суперкомпьютер #hpc #cerebras #ии
#servernews
https://servernews.ru/1077382/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Американский производитель ИИ-комплексов Cerebras Systems объявил о выходе 7 больших языковых моделей (LLM) на базе технологии Generative Pre-trained Transformer (GPT) для генеративного ИИ. Это первые публичные LLM, которые прошли обучение с помощью систем CS-2 в суперкластере Cerebras Andromeda на базе фирменных ИИ-чипов Cerebras WSE-2. Другими словами, это одни из первых больших языковых моделей, которые были обучены без использования систем на основе ускорителей, в частности, NVIDIA.
#cerebras #ии #hpc #opensource #software #llm
#servernews
https://servernews.ru/1084220/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Компания Cerebras Systems анонсировала суперкомпьютер Condor Galaxy 1 (CG-1), предназначенный для решения ресурсоёмких задач с применением ИИ. Это одна из первых действительно крупных машин на базе уникальных чипов Cerebras. В проекте стоимостью $100 млн приняла участие холдинговая группа G42 из ОАЭ, которая занимается технологиями ИИ и облачными вычислениями. G42 является основным заказчиком комплекса.
#hardware #cerebras #суперкомпьютер #ии #hpc
#servernews
https://servernews.ru/1090321/?utm_source=nova&utm_medium=tg&utm_campaign=sn

На прошедшей недавно конференции Hot Chips 2023 компания Cerebras, создатель самого большого в мире ИИ-процессора WSE-2, рассказала о своём видении будущего ИИ-систем. По мнению Cerebras, сфокусировать внимание стоит не столько на наращивании сложности отдельных чипов, сколько на решениях проблем, связанных с масштабированием кластеров.
#hardware #cerebras #ии #hpc #кластер #ускоритель #интерконнект
#servernews @servernewsru

https://servernews.ru/1092699/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Глава Cerebras Эндрю Фельдман (Andrew Feldman) подверг критике NVIDIA за попытки компании уложиться в нормы, установленные новыми экспортными ограничениями США в отношении Китая, чтобы продолжить поставки ИИ-ускорителей в Поднебесную. Как сообщает The Register, такое поведение Фельдман назвал «неамериканским» и сравнил техногиганта с торговцем ИИ-оружием.
#cerebras #nvidia #сша #китай #санкции #ии #ускоритель #hardware
#servernews @servernewsru

https://servernews.ru/1096243/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Хотя стартап Cerebras, занимающийся разработкой чипов, раскритиковал NVIDIA за попытки обойти санкционные ограничения в отношении Китая и призвал соблюдать не букву, но дух американского закона, у компании, похоже, нашлись свои скелеты в шкафу. Как сообщает The Register, сейчас в США расследуют деятельность клиента Cerebras — группы G42, возможно, помогавшей Поднебесной обходить санкционные ограничения.
#hardware #cerebras #g42 #ии #санкции #китай #оаэ
#servernews @servernewsru

https://servernews.ru/1096627/?utm_source=nova&utm_medium=tg&utm_campaign=sn