Китайский суперкомпьютер по характеристикам обогнал Fugaku
Еще в октябре стало известно, что 2 китайских компьютера преодолели барьер экзафлопс. Разработчики обнародовали данные об одном из них, системе Oceanlite, которая полностью построена из китайских компонентов. «Мозг» Oceanlite — процессоры RISC, созданные Шанхайским центром проектирования ИС, с производительностью до 14 терафлопс на чип, а также ИИ-модель обработки языка на 14,5 трлн параметров. Во время теста LINPACK китайский суперкомпьютер продемонстрировал производительность 1,05 экзафлопс и мог бы потеснить лидера ТОП500 Fugaku, но, похоже, Китай в этом просто не заинтересован.
#вычисления
Научная статья: https://keg.cs.tsinghua.edu.cn/jietang/publications/PPOPP22-Ma%20et%20al.-BaGuaLu%20Targeting%20Brain%20Scale%20Pretrained%20Models%20w.pdf
Еще в октябре стало известно, что 2 китайских компьютера преодолели барьер экзафлопс. Разработчики обнародовали данные об одном из них, системе Oceanlite, которая полностью построена из китайских компонентов. «Мозг» Oceanlite — процессоры RISC, созданные Шанхайским центром проектирования ИС, с производительностью до 14 терафлопс на чип, а также ИИ-модель обработки языка на 14,5 трлн параметров. Во время теста LINPACK китайский суперкомпьютер продемонстрировал производительность 1,05 экзафлопс и мог бы потеснить лидера ТОП500 Fugaku, но, похоже, Китай в этом просто не заинтересован.
#вычисления
Научная статья: https://keg.cs.tsinghua.edu.cn/jietang/publications/PPOPP22-Ma%20et%20al.-BaGuaLu%20Targeting%20Brain%20Scale%20Pretrained%20Models%20w.pdf
Разработчик ПО для суперкомпьютеров получил премию Тьюринга 2021 года
Джек Донгарра (Jack Dongarra), профессор компьютерных наук Университета Теннесси, получил премию Тьюринга 2021 года. Награда исследователю вручена за новаторские концепции и методы, которые способствовали развитию суперкомпьютеров и оказали значительное влияние на многие отрасли вычислительной науки — от ИИ до компьютерной графики. Turing Award — ежегодная премия, присуждаемая Ассоциацией вычислительной техники. Ее часто называют «Нобелевской премией в области компьютерных наук». С 2014 года лауреат премии Тьюринга также получает $1 млн от техгиганта Google.
#вычисления #AI
https://amturing.acm.org/award_winners/dongarra_3406337.cfm
Джек Донгарра (Jack Dongarra), профессор компьютерных наук Университета Теннесси, получил премию Тьюринга 2021 года. Награда исследователю вручена за новаторские концепции и методы, которые способствовали развитию суперкомпьютеров и оказали значительное влияние на многие отрасли вычислительной науки — от ИИ до компьютерной графики. Turing Award — ежегодная премия, присуждаемая Ассоциацией вычислительной техники. Ее часто называют «Нобелевской премией в области компьютерных наук». С 2014 года лауреат премии Тьюринга также получает $1 млн от техгиганта Google.
#вычисления #AI
https://amturing.acm.org/award_winners/dongarra_3406337.cfm
Правительство России выделит более 2,4 млрд руб. на исследования в области ИИ
Свыше 2,4 млрд рублей будет выделено из резервного фонда правительства на продолжение работы по исследованию искусственного интеллекта. Такое распоряжение подписал премьер Михаил Мишустин. Средства пойдут на расширение вычислительного потенциала суперкомпьютера «Ломоносов-1», который функционирует в МГУ и используется для изучения возможностей искусственного интеллекта. Субсидия стала вторым траншем финансирования работ; в декабре 2021 года на эти цели правительство выделило более 1,8 млрд рублей.
#AI #вычисления
https://government.ru/news/45013/
Свыше 2,4 млрд рублей будет выделено из резервного фонда правительства на продолжение работы по исследованию искусственного интеллекта. Такое распоряжение подписал премьер Михаил Мишустин. Средства пойдут на расширение вычислительного потенциала суперкомпьютера «Ломоносов-1», который функционирует в МГУ и используется для изучения возможностей искусственного интеллекта. Субсидия стала вторым траншем финансирования работ; в декабре 2021 года на эти цели правительство выделило более 1,8 млрд рублей.
#AI #вычисления
https://government.ru/news/45013/
Продвижение в сфере нейроморфных вычислений требует комплексного подхода
Нейроморфные технологии могут стать основой для принципиально новых прорывных способов работы с большими объемами информации — полагают исследователи из Университетского колледжа Лондона. В таких системах обеспечивается высокая энергоэффективность, а их применение лежит в сфере обработки и классификации наборов данных, особенно шумных и неструктурированных, в распознавании изображений, в системах обучения. Для продвижения этой технологии требуются смелые инициативы, говорят ученые. Так, нужно обеспечить целевую поддержку совместных исследований с привлечением специалистов из разных направлений, создание центров обмена передовым опытом и привлечение коммерческого финансирования. Необходимо также предусмотреть формирование новых подразделений и стартапов, как уже делается в области квантовых технологий, разработку учебных программ для следующего поколения специалистов по нейроморфным системам и предпринимателей. И, главное, все эти инициативы должны носить масштабный и комплексный характер.
#вычисления #AI
Научная статья: https://www.nature.com/articles/s41586-021-04362-w
Нейроморфные технологии могут стать основой для принципиально новых прорывных способов работы с большими объемами информации — полагают исследователи из Университетского колледжа Лондона. В таких системах обеспечивается высокая энергоэффективность, а их применение лежит в сфере обработки и классификации наборов данных, особенно шумных и неструктурированных, в распознавании изображений, в системах обучения. Для продвижения этой технологии требуются смелые инициативы, говорят ученые. Так, нужно обеспечить целевую поддержку совместных исследований с привлечением специалистов из разных направлений, создание центров обмена передовым опытом и привлечение коммерческого финансирования. Необходимо также предусмотреть формирование новых подразделений и стартапов, как уже делается в области квантовых технологий, разработку учебных программ для следующего поколения специалистов по нейроморфным системам и предпринимателей. И, главное, все эти инициативы должны носить масштабный и комплексный характер.
#вычисления #AI
Научная статья: https://www.nature.com/articles/s41586-021-04362-w
Nature
Brain-inspired computing needs a master plan
Nature - The benefits and future prospects of neuromorphic, or bio-inspired, computing technologies are discussed, as is the need for a global, coordinated approach to funding, research and...
В Южной Корее стартует эксперимент по созданию подводного ЦОД
Корейский институт науки океана объявил о начале проекта по созданию подводного поселения. В составе комплекса, который планируется построить за 5 лет, будут как места для работы и обитания, так и энергоэффективный центр обработки данных. Ученые планируют не только отработать технологии строительства подобных поселений, но и выяснить, насколько работа ЦОД под водой с естественным охлаждением поможет снизить выбросы парниковых газов. Предполагается также проведение тестирования системы раннего предупреждения о морских стихийных бедствиях. Подобные комплексы будущем могут также стать базами для подводного туризма.
#вычисления #экология
https://www.kiost.ac.kr/cop/bbs/BBSMSTR_000000000281/selectBoardArticle.do?nttId=22380
Корейский институт науки океана объявил о начале проекта по созданию подводного поселения. В составе комплекса, который планируется построить за 5 лет, будут как места для работы и обитания, так и энергоэффективный центр обработки данных. Ученые планируют не только отработать технологии строительства подобных поселений, но и выяснить, насколько работа ЦОД под водой с естественным охлаждением поможет снизить выбросы парниковых газов. Предполагается также проведение тестирования системы раннего предупреждения о морских стихийных бедствиях. Подобные комплексы будущем могут также стать базами для подводного туризма.
#вычисления #экология
https://www.kiost.ac.kr/cop/bbs/BBSMSTR_000000000281/selectBoardArticle.do?nttId=22380
www.kiost.ac.kr
Intel планирует запустить массовое производство кремниевых кубитов
Техгигант Intel заявляет, что готов начать производство квантовых процессоров на кремниевых кубитах. Прототип устройства создан совместно со специалистами компании QuTech на базе 300-мм подложки, аналогичной той, что применяется в классических КМОП. Для выпуска кремниевых кубитов Intel собирается использовать те же мощности, которые задействованы в массовом производстве чипов. Партнеры называют свое достижение «решающим шагом» на пути к масштабированию квантовых систем и переходу к практическому применению возможностей квантовых вычислений.
#вычисления #кванты
https://www.theregister.com/2022/04/19/intel_qubit_mass_production/
Техгигант Intel заявляет, что готов начать производство квантовых процессоров на кремниевых кубитах. Прототип устройства создан совместно со специалистами компании QuTech на базе 300-мм подложки, аналогичной той, что применяется в классических КМОП. Для выпуска кремниевых кубитов Intel собирается использовать те же мощности, которые задействованы в массовом производстве чипов. Партнеры называют свое достижение «решающим шагом» на пути к масштабированию квантовых систем и переходу к практическому применению возможностей квантовых вычислений.
#вычисления #кванты
https://www.theregister.com/2022/04/19/intel_qubit_mass_production/
The Register
Intel: Our fabs can mass produce silicon qubit devices
If conventional silicon manufacturing processes can be repurposed, it could help create practical quantum systems
«Свет в окошке» для полупроводниковой отрасли
Еще несколько лет назад о фотонных технологиях говорили только как об исследовательских проектах. Но сегодня, когда закон Мура вот-вот перестанет работать из-за того, что становится все сложнее уменьшать размеры транзисторов, а задачи ИИ требуют все большего быстродействия, полупроводниковая отрасль видит «спасительный маяк» в использовании свойств света. Крупные поставщики микросхем вкладывают средства в разработки в области кремниевой фотоники для ИИ и квантовых вычислений. Например, компания Ayar Labs привлекла $130 млн от нескольких инвесторов, включая гиганта Nvidia, а PsiQuantum собрала около $665 млн. Аналитики PitchBook считают, что фотонные технологии получат распространение, особенно в ЦОД, к 2025 году, а рынок к этому времени будет оцениваться в $3 млрд.
#чипы #вычисления
https://www.reuters.com/technology/chip-startups-using-light-instead-wires-gaining-speed-investments-2022-04-26/
Еще несколько лет назад о фотонных технологиях говорили только как об исследовательских проектах. Но сегодня, когда закон Мура вот-вот перестанет работать из-за того, что становится все сложнее уменьшать размеры транзисторов, а задачи ИИ требуют все большего быстродействия, полупроводниковая отрасль видит «спасительный маяк» в использовании свойств света. Крупные поставщики микросхем вкладывают средства в разработки в области кремниевой фотоники для ИИ и квантовых вычислений. Например, компания Ayar Labs привлекла $130 млн от нескольких инвесторов, включая гиганта Nvidia, а PsiQuantum собрала около $665 млн. Аналитики PitchBook считают, что фотонные технологии получат распространение, особенно в ЦОД, к 2025 году, а рынок к этому времени будет оцениваться в $3 млрд.
#чипы #вычисления
https://www.reuters.com/technology/chip-startups-using-light-instead-wires-gaining-speed-investments-2022-04-26/
Reuters
Chip startups using light instead of wires gaining speed and investments
Computers using light rather than electric currents for processing, only years ago seen as research projects, are gaining traction and startups that have solved the engineering challenge of using photons in chips are getting big funding.
Подборка научных конференций 24.05.pdf
654.5 KB
Вашему вниманию подборка научных конференций с рейтингом А*/А по тематикам машинного обучения, компьютерной лингвистики, вычислений и других смежных технологий, проводимых в относительно нейтральных странах
#AI #вычисления
#AI #вычисления
Язык программирования для аппаратных ускорителей
Учёные из Лаборатории компьютерных наук и искусственного интеллекта при Массачусетском технологическом институте (MIT CSAIL) разработали новый низкоуровневый язык программирования, предназначенный для акселерации и оптимизации аппаратных ускорителей. Язык Exo рассчитан не на программистов, а на инженеров по производительности, и позволяет писать, оптимизировать и настраивать высокопроизводительные вычислительные ядра для новых аппаратных ускорителей, причём единожды написанная программа имеет очень большой потенциал переиспользования — новый код не нужно создавать с нуля.
#вычисления
https://news.mit.edu/2022/programming-language-hardware-accelerators-0711
Научная статья: https://dl.acm.org/doi/abs/10.1145/3519939.3523446
Учёные из Лаборатории компьютерных наук и искусственного интеллекта при Массачусетском технологическом институте (MIT CSAIL) разработали новый низкоуровневый язык программирования, предназначенный для акселерации и оптимизации аппаратных ускорителей. Язык Exo рассчитан не на программистов, а на инженеров по производительности, и позволяет писать, оптимизировать и настраивать высокопроизводительные вычислительные ядра для новых аппаратных ускорителей, причём единожды написанная программа имеет очень большой потенциал переиспользования — новый код не нужно создавать с нуля.
#вычисления
https://news.mit.edu/2022/programming-language-hardware-accelerators-0711
Научная статья: https://dl.acm.org/doi/abs/10.1145/3519939.3523446
MIT News
A programming language for hardware accelerators
Computer scientists created a new programming language called Exo for writing high-performance code on hardware accelerators to help with limitations on hardware innovation.
Tau T2A — первая виртуальная машина от Google Cloud на базе процессоров Arm
AWS и Microsoft Azure уже представили пользователям виртуальные серверы на основе Arm. В то время как AWS разработала свои собственные чипы, Google Cloud, следуя примеру Azure, стала использовать Arm-чипы от стартапа Ampere. Новые виртуальные машины Tau T2A с 48 виртуальными процессорами, каждый из которых имеет до 4 ГБ памяти, будут предлагать пропускную способность до 32Гбит/с и широкий спектр сетевых вариантов хранения данных, что делает их пригодными в использовании для различных рабочих нагрузок, таких как веб-серверы и микросерверы.
#чипы #вычисления
https://cloud.google.com/blog/products/compute/tau-t2a-is-first-compute-engine-vm-on-an-arm-chip
https://amperecomputing.com/blogs/2022-07-13/ampere-altra-based-t2a-vms-now-in-preview-on-google-cloud.html
AWS и Microsoft Azure уже представили пользователям виртуальные серверы на основе Arm. В то время как AWS разработала свои собственные чипы, Google Cloud, следуя примеру Azure, стала использовать Arm-чипы от стартапа Ampere. Новые виртуальные машины Tau T2A с 48 виртуальными процессорами, каждый из которых имеет до 4 ГБ памяти, будут предлагать пропускную способность до 32Гбит/с и широкий спектр сетевых вариантов хранения данных, что делает их пригодными в использовании для различных рабочих нагрузок, таких как веб-серверы и микросерверы.
#чипы #вычисления
https://cloud.google.com/blog/products/compute/tau-t2a-is-first-compute-engine-vm-on-an-arm-chip
https://amperecomputing.com/blogs/2022-07-13/ampere-altra-based-t2a-vms-now-in-preview-on-google-cloud.html
Google Cloud Blog
Tau T2A is first Compute Engine VM to run on Arm | Google Cloud Blog
The Tau T2A is Google Cloud’s first VM family based on the Arm architecture and designed for organizations building cloud-native, scale-out workloads.
Китайские учёные смогли преодолеть квантовое превосходство с помощью обычных компьютеров
В 2019 году исследователи Google заявили, что они первыми смогли добиться квантового превосходства, когда их квантовый компьютер Sycamore выполнил за 200 секунд такие расчёты, на которые обычному суперкомпьютеру понадобилось бы 10 000 лет.
Неожиданно это квантовое превосходство было опровергнуто учеными Института теоретической физики (ITR) Китайской Академии Наук. Используя 512 обычных графических процессоров, учёные выполнили те же самое вычисления за 15 часов и утверждают, что суперкомпьютер сделал бы то же самое за несколько десятков секунд.
Для ускорения расчетов китайские ученые допустили вероятность ошибок на уровне 0,37%, что в 256 раз ускорило расчеты, тогда как Google проводил расчёты с учётом вероятности ошибок 0,2%. Также использовались тензорные матрицы, из-за чего расчёты свелись к простым операциям перемножения, а GPU справляются с этим лучше всего и в режиме параллельной обработки данных.
#вычисления #кванты
https://www.science.org/content/article/ordinary-computers-can-beat-google-s-quantum-computer-after-all?s=31
В 2019 году исследователи Google заявили, что они первыми смогли добиться квантового превосходства, когда их квантовый компьютер Sycamore выполнил за 200 секунд такие расчёты, на которые обычному суперкомпьютеру понадобилось бы 10 000 лет.
Неожиданно это квантовое превосходство было опровергнуто учеными Института теоретической физики (ITR) Китайской Академии Наук. Используя 512 обычных графических процессоров, учёные выполнили те же самое вычисления за 15 часов и утверждают, что суперкомпьютер сделал бы то же самое за несколько десятков секунд.
Для ускорения расчетов китайские ученые допустили вероятность ошибок на уровне 0,37%, что в 256 раз ускорило расчеты, тогда как Google проводил расчёты с учётом вероятности ошибок 0,2%. Также использовались тензорные матрицы, из-за чего расчёты свелись к простым операциям перемножения, а GPU справляются с этим лучше всего и в режиме параллельной обработки данных.
#вычисления #кванты
https://www.science.org/content/article/ordinary-computers-can-beat-google-s-quantum-computer-after-all?s=31
www.science.org
Ordinary computers can beat Google’s quantum computer after all
Superfast algorithm put crimp in 2019 claim that Google’s machine had achieved “quantum supremacy”
Innovation & Research
В Южной Корее стартует эксперимент по созданию подводного ЦОД Корейский институт науки океана объявил о начале проекта по созданию подводного поселения. В составе комплекса, который планируется построить за 5 лет, будут как места для работы и обитания,…
У побережья США появится первый в стране коммерческий подводный дата-центр
Компания Subsea Cloud готова предложить коммерческим пользователям услуги своего первого подводного ЦОД Jules Vern, строительство которого планируется у побережья США. Ожидается, что дата-центр мощностью 1 МВт будет на 90% выгодней, чем наземные центры. Серверы будут помещены в жидкость-диэлектрик, а вся система ориентирована на пассивное рассеивание тепла без использование насосов. Охлаждаться объекты будут окружающей водой, что позволит снизить электропотребление и выбросы углекислого газа на 40%. Ввод в эксплуатацию планируется до конца 2022 года. Далее предполагается строительство ЦОД в Мексиканском заливе (Njord01) и Северном море (Manannan).
#вычисления #экология
https://www.theregister.com/2022/09/01/subsea_cloud_underwater_datacenter/
Компания Subsea Cloud готова предложить коммерческим пользователям услуги своего первого подводного ЦОД Jules Vern, строительство которого планируется у побережья США. Ожидается, что дата-центр мощностью 1 МВт будет на 90% выгодней, чем наземные центры. Серверы будут помещены в жидкость-диэлектрик, а вся система ориентирована на пассивное рассеивание тепла без использование насосов. Охлаждаться объекты будут окружающей водой, что позволит снизить электропотребление и выбросы углекислого газа на 40%. Ввод в эксплуатацию планируется до конца 2022 года. Далее предполагается строительство ЦОД в Мексиканском заливе (Njord01) и Северном море (Manannan).
#вычисления #экология
https://www.theregister.com/2022/09/01/subsea_cloud_underwater_datacenter/
The Register
Underwater datacenter will open for business this year
Subsea Cloud boasts 1MW of capacity for up to 90% lower costs compared to landlubber facilities
Intel, Arm и NVIDIA предложили новый формат обмена данными для ИИ
Компании опубликовали проект спецификации числового формата FP8 для 8-битных чисел с плавающей точкой и предлагают сделать его единым представлением чисел, используемых при решении задач ИИ. Это даст огромные преимущества в производительности и эффективности вычислений. Nvidia и Intel уже внедряют этот подход. При этом общий формат принесет выгоду и конкурентам, в том числе SambaNova, AMD, Groq, IBM, Graphcore и Cerebras. Авторы инициативы отмечают, что наличие общего формата позволит быстро продвигаться вперёд и обеспечивать совместимость как аппаратных, так и программных платформ.
#вычисления
https://techcrunch.com/2022/09/14/intel-amd-and-nvidia-propose-new-standard-to-make-ai-processing-more-efficient
Компании опубликовали проект спецификации числового формата FP8 для 8-битных чисел с плавающей точкой и предлагают сделать его единым представлением чисел, используемых при решении задач ИИ. Это даст огромные преимущества в производительности и эффективности вычислений. Nvidia и Intel уже внедряют этот подход. При этом общий формат принесет выгоду и конкурентам, в том числе SambaNova, AMD, Groq, IBM, Graphcore и Cerebras. Авторы инициативы отмечают, что наличие общего формата позволит быстро продвигаться вперёд и обеспечивать совместимость как аппаратных, так и программных платформ.
#вычисления
https://techcrunch.com/2022/09/14/intel-amd-and-nvidia-propose-new-standard-to-make-ai-processing-more-efficient
TechCrunch
Intel, Arm and Nvidia propose new standard to make AI processing more efficient
In pursuit of faster and more efficient AI system development, Intel, Arm and Nvidia today published a draft specification for what they refer to as a common interchange format for AI. While voluntary, the proposed “8-bit floating point (FP8)” standard, they…
Новые санкции США против сектора вычислений
Сегодня введены санкции против ряда российских компаний, в том числе из космической отрасли и индустрии квантовых вычислений.
В новый санкционный список попали:
- ООО «Международный центр квантовой оптики и квантовых технологий» (МЦКТ, Российский квантовый центр);
- СП «Квантовые технологии» («СП Квант», структура «Росатома»);
- ЗАО «Российские космические системы» (РКС, входит в «Роскосмос»);
- ОАО «Информационные спутниковые системы» (ИСС, входит в «Роскосмос»);
- АО «Центр аддитивных технологий» (ЦАТ, входит в «Ростех»).
Кроме этого, под ограничения попали оборонные предприятия НПП «Сапфир» и НПП «Радиосвязь», а также разработчик процессоров «Эльбрус» — АО «МЦСТ», центр разработки в области микроэлектроники АО «Заслон», Институт теоретической физики им. Л.Д. Ландау (структура РАН) и ряд других технологических предприятий.
#вычисления #чипы #кванты
https://www.rbc.ru/politics/15/09/2022/6323495e9a794708f34b0136
Сегодня введены санкции против ряда российских компаний, в том числе из космической отрасли и индустрии квантовых вычислений.
В новый санкционный список попали:
- ООО «Международный центр квантовой оптики и квантовых технологий» (МЦКТ, Российский квантовый центр);
- СП «Квантовые технологии» («СП Квант», структура «Росатома»);
- ЗАО «Российские космические системы» (РКС, входит в «Роскосмос»);
- ОАО «Информационные спутниковые системы» (ИСС, входит в «Роскосмос»);
- АО «Центр аддитивных технологий» (ЦАТ, входит в «Ростех»).
Кроме этого, под ограничения попали оборонные предприятия НПП «Сапфир» и НПП «Радиосвязь», а также разработчик процессоров «Эльбрус» — АО «МЦСТ», центр разработки в области микроэлектроники АО «Заслон», Институт теоретической физики им. Л.Д. Ландау (структура РАН) и ряд других технологических предприятий.
#вычисления #чипы #кванты
https://www.rbc.ru/politics/15/09/2022/6323495e9a794708f34b0136
РБК
США ввели санкции против российского сектора квантовых вычислений
Под ограничения попали российские технологические компании, занимающиеся исследованиями в области физики, космоса и квантовых вычислений. Также США запретили экспорт в Россию квантовых компьютеров
Разработан новый формат универсальных чисел — posits
FLOAT(8) – простой формат вычислений с плавающей точкой, применяемый в AI-моделях.
«Это то, чего давно ждала AI-индустрия. — говорит Карен Карапетян, директор департамента инфраструктурных решений Сбера. — Быстрый, эффективный, разительно уменьшающий количество вычислений — это именно то, что нужно индустрии для уменьшения сложности расчета AI-моделей. Гигантские модели естественных языков, состоящих из миллиардов и триллионов факторов — GPT-3 и аналоги, — сложнейшие модели работы белков, расчеты новых лекарств — все это будет стоит намного дешевле в разработке и она станет доступна даже средним компаниям. Мы сможем переходить на новые более сложные модели с десятками триллионов параметров, что практически полностью имитируют реальные процессы в мире, и невероятно расширим знания и практические применения в виде новых лекарств, получим ключ к решению проблем рака и других болезней, к которым даже не могли подойти».
#вычисления
https://spectrum.ieee.org/floating-point-numbers-posits-processor
FLOAT(8) – простой формат вычислений с плавающей точкой, применяемый в AI-моделях.
«Это то, чего давно ждала AI-индустрия. — говорит Карен Карапетян, директор департамента инфраструктурных решений Сбера. — Быстрый, эффективный, разительно уменьшающий количество вычислений — это именно то, что нужно индустрии для уменьшения сложности расчета AI-моделей. Гигантские модели естественных языков, состоящих из миллиардов и триллионов факторов — GPT-3 и аналоги, — сложнейшие модели работы белков, расчеты новых лекарств — все это будет стоит намного дешевле в разработке и она станет доступна даже средним компаниям. Мы сможем переходить на новые более сложные модели с десятками триллионов параметров, что практически полностью имитируют реальные процессы в мире, и невероятно расширим знания и практические применения в виде новых лекарств, получим ключ к решению проблем рака и других болезней, к которым даже не могли подойти».
#вычисления
https://spectrum.ieee.org/floating-point-numbers-posits-processor
IEEE Spectrum
Posits, a New Kind of Number, Improves the Math of AI
Training the large neural networks behind many modern AI tools requires real computational might: OpenAI’s most advanced language model GPT-3 required a million billion billions of operations to train, and cost about US $5 million in compute time. Some researchers…
Рады вас видеть на нашем канале про исследования и инновации в мире💡
Рассказываем о новостях и достижениях:
#кванты
#метавселенная
#чипы
#бигтехи
#роботы
#XR
#AI
#блокчейн
#sbernews
#связь
#космос
#вычисления
#нейронаука
#лонгрид
P.S. Для ознакомления с предыдущими публикациями перейдите по интересующему вас тегу.
Хотите предложить другие направления? Смело обращайтесь к @lyubovmatich
Рассказываем о новостях и достижениях:
#кванты
#метавселенная
#чипы
#бигтехи
#роботы
#XR
#AI
#блокчейн
#sbernews
#связь
#космос
#вычисления
#нейронаука
#лонгрид
P.S. Для ознакомления с предыдущими публикациями перейдите по интересующему вас тегу.
Хотите предложить другие направления? Смело обращайтесь к @lyubovmatich
Amazon стремится обойти Nvidia в скорости и стоимости разработки AI-чипов
Бигтех разработал новую модель сервера на собственных чипах в лаборатории Annapurna — компании, поглощённой в 2015 г. и включённой в состав AWS. По оценкам Дэвида Брауна (David Brown), вице-президента по вычислениям и сетям в AWS, вычисления на собственных чипах Amazon в некоторых случаях почти вдвое дешевле, чем на разработках Nvidia.
В линейку Amazon входят процессоры Graviton для вычислений без AI, а также AI-чипы Trainium и Inferentia для обучения моделей и инференса соответственно. По последним данным, AWS задействует 250 тыс. ЦПУ Graviton и 80 тыс. собственных AI-чипов, чтобы справиться с ростом активности на своих платформах.
#AI #чипы #вычисления #news
https://www.reuters.com/technology/artificial-intelligence/amazon-racing-develop-ai-chips-cheaper-faster-than-nvidias-executives-say-2024-07-25/
Бигтех разработал новую модель сервера на собственных чипах в лаборатории Annapurna — компании, поглощённой в 2015 г. и включённой в состав AWS. По оценкам Дэвида Брауна (David Brown), вице-президента по вычислениям и сетям в AWS, вычисления на собственных чипах Amazon в некоторых случаях почти вдвое дешевле, чем на разработках Nvidia.
В линейку Amazon входят процессоры Graviton для вычислений без AI, а также AI-чипы Trainium и Inferentia для обучения моделей и инференса соответственно. По последним данным, AWS задействует 250 тыс. ЦПУ Graviton и 80 тыс. собственных AI-чипов, чтобы справиться с ростом активности на своих платформах.
#AI #чипы #вычисления #news
https://www.reuters.com/technology/artificial-intelligence/amazon-racing-develop-ai-chips-cheaper-faster-than-nvidias-executives-say-2024-07-25/
Reuters
Amazon racing to develop AI chips cheaper, faster than Nvidia's, executives say
Inside Amazon.com's chip lab in Austin, Texas, half a dozen engineers on a Friday afternoon put a closely guarded new server design through its paces.
IBM делает ставку на квантово-классические суперкомпьютеры
Материал подготовлен при содействии Квантовой лаборатории cloud.ru
Лидер в мире квантовых технологий IBM работает над гибридом классического и квантового суперкомпьютеров — чтобы совмещать преимущества обоих. Если технология окажется успешной, IBM удастся создать гибридный квантово-классический суперкомпьютер с процессором собственного производства. Квантовые компьютеры и классические компьютеры будут работать вместе, выполняя вычисления, превосходящие возможности каждого из них по отдельности. Одной из проблем на этом пути остаются методы подавления ошибок.
Вычислительным «сердцем» суперкомпьютера будут квантовые процессоры (quantum processing unit, QPU). QPU включает в себя кубиты, компоненты, усиливающие сигналы, управляющую электронику и применяет классические вычисления для хранения инструкций в памяти, накопления и отделения сигналов от шума, а также создания одиночных двоичных выходных данных.
При этом все компоненты процессора — кубиты, резонаторы для считывания данных, выходные фильтры и квантовые шины — встраиваются в сверхпроводящий слой, нанесенный поверх кремниевого чипа, и представляют из себя единый вычислительный процессор-узел. Такой подход позволит без существенных изменений существующих технологий создания суперкомпьютеров максимально сократить сроки разработки и строительства вычислительных центров.
Чипы строятся при помощи 3D-интеграции — это даёт доступ к кубитам с чипа контроллера, расположенного ниже плоскости кубита, чтобы уменьшить количество проводящих элементов на чипе, которые являются потенциальным источником шума. IBM также внедряет мультиплексирование считывания — оно позволяет снимать информацию с нескольких кубитов по одному проводнику, что резко сокращает объём вычислительного узла. Этот параметр важен потому, что для качественной работы квантовых процессоров их необходимо охлаждать до температуры жидкого гелия (ок. -269 °C) и размещать в специальных «холодильниках».
Для борьбы с «разговорами» — взаимного паразитного влияния соседних кубитов друг на друга — IBM создал настраиваемые преобразователи сигналов (tunable couplers) — своего рода «выключатель» из магнитных полей, который устраняет ошибки перекрестного взаимодействия кубитов. Компания также планирует внедрять алгоритм коррекции ошибок вместо их исправления, чтобы устранять шум непосредственно в процессе работы.
Также идёт работа над интерконнекторами, которые позволят соединять несколько QPU в одном холодильнике, а затем и несколько холодильников в единую систему. Конечная цель компании — добиться такого уровня взаимодействия, чтобы классические и квантовые процессоры могли работать в одной системе, дополняя друг друга.
#news #кванты #вычисления
https://spectrum.ieee.org/ibm-quantum-computer-2668978269
Материал подготовлен при содействии Квантовой лаборатории cloud.ru
Лидер в мире квантовых технологий IBM работает над гибридом классического и квантового суперкомпьютеров — чтобы совмещать преимущества обоих. Если технология окажется успешной, IBM удастся создать гибридный квантово-классический суперкомпьютер с процессором собственного производства. Квантовые компьютеры и классические компьютеры будут работать вместе, выполняя вычисления, превосходящие возможности каждого из них по отдельности. Одной из проблем на этом пути остаются методы подавления ошибок.
Вычислительным «сердцем» суперкомпьютера будут квантовые процессоры (quantum processing unit, QPU). QPU включает в себя кубиты, компоненты, усиливающие сигналы, управляющую электронику и применяет классические вычисления для хранения инструкций в памяти, накопления и отделения сигналов от шума, а также создания одиночных двоичных выходных данных.
При этом все компоненты процессора — кубиты, резонаторы для считывания данных, выходные фильтры и квантовые шины — встраиваются в сверхпроводящий слой, нанесенный поверх кремниевого чипа, и представляют из себя единый вычислительный процессор-узел. Такой подход позволит без существенных изменений существующих технологий создания суперкомпьютеров максимально сократить сроки разработки и строительства вычислительных центров.
Чипы строятся при помощи 3D-интеграции — это даёт доступ к кубитам с чипа контроллера, расположенного ниже плоскости кубита, чтобы уменьшить количество проводящих элементов на чипе, которые являются потенциальным источником шума. IBM также внедряет мультиплексирование считывания — оно позволяет снимать информацию с нескольких кубитов по одному проводнику, что резко сокращает объём вычислительного узла. Этот параметр важен потому, что для качественной работы квантовых процессоров их необходимо охлаждать до температуры жидкого гелия (ок. -269 °C) и размещать в специальных «холодильниках».
Для борьбы с «разговорами» — взаимного паразитного влияния соседних кубитов друг на друга — IBM создал настраиваемые преобразователи сигналов (tunable couplers) — своего рода «выключатель» из магнитных полей, который устраняет ошибки перекрестного взаимодействия кубитов. Компания также планирует внедрять алгоритм коррекции ошибок вместо их исправления, чтобы устранять шум непосредственно в процессе работы.
Также идёт работа над интерконнекторами, которые позволят соединять несколько QPU в одном холодильнике, а затем и несколько холодильников в единую систему. Конечная цель компании — добиться такого уровня взаимодействия, чтобы классические и квантовые процессоры могли работать в одной системе, дополняя друг друга.
#news #кванты #вычисления
https://spectrum.ieee.org/ibm-quantum-computer-2668978269
IEEE Spectrum
IBM Wants to Combine Quantum and Classical for the Best of Both Worlds
For decades, quantum computers have struggled to reach commercial viability. The quantum behaviors that power these computers are extremely sensitive to environmental noise, and difficult to scale to large enough machines to do useful calculations. But several…