#ии #npu
Новые чипы Ambarella привнесут возможности генеративного ИИ в периферийные устройства
Ожидается, что это позволит расширить возможности множества систем и приложений, включая робототехнику и средства видеоаналитики
Отмечается, что по сравнению с ускорителями на базе GPU и другими специализированными решениями, чипы Ambarella представляют собой полноценные «системы на чипе», которые обеспечивают до трёх раз более высокую энергоэффективность на каждый токен.
Изначально Ambarella обеспечит оптимизированные возможности генеративного ИИ на своих SoC среднего и высокого классов. Это, в частности, изделие CV72 для устройств с энергопотреблением до 5 Вт.
Кроме того, функции генеративного ИИ будут поддерживать чипы новой серии N1 с «производительностью серверного уровня» при энергопотреблении до 50 Вт
@imaxairu Подписаться
Новые чипы Ambarella привнесут возможности генеративного ИИ в периферийные устройства
Ожидается, что это позволит расширить возможности множества систем и приложений, включая робототехнику и средства видеоаналитики
Отмечается, что по сравнению с ускорителями на базе GPU и другими специализированными решениями, чипы Ambarella представляют собой полноценные «системы на чипе», которые обеспечивают до трёх раз более высокую энергоэффективность на каждый токен.
Изначально Ambarella обеспечит оптимизированные возможности генеративного ИИ на своих SoC среднего и высокого классов. Это, в частности, изделие CV72 для устройств с энергопотреблением до 5 Вт.
Кроме того, функции генеративного ИИ будут поддерживать чипы новой серии N1 с «производительностью серверного уровня» при энергопотреблении до 50 Вт
@imaxairu Подписаться
#ии #npu
Глава OpenAI Сэм Альтман предложил скинуться всем миром, чтобы построить десятки новых предприятий для TSMC
По информации осведомлённых источников, Альтман сейчас ведёт активные переговоры как с властями США, так и с правящими кругами ОАЭ, а также руководством TSMC
По его замыслу, арабские инвесторы могли бы предоставить внушительную сумму денег, до $5 трлн или $7 трлн, в совокупности с другими источниками финансирования, чтобы в ближайшие несколько лет построить несколько десятков новых предприятий по контрактному выпуску чипов, которые можно было бы передать в управление компании TSMC
На них предполагается наладить выпуск чипов для ускорителей систем искусственного интеллекта в количествах, пропорциональным амбициям Альтмана по развитию функциональных возможностей разрабатываемых OpenAI чат-ботов и больших языковых моделей
Следует отметить, что $7 трлн являются весьма внушительной суммой не только по меркам инвестиционных проектов, но и в масштабах суверенного долга некоторых государств
В конце концов, оборот всего рынка полупроводниковых компонентов достигнет рубежа в $1 трлн лишь к концу десятилетия, а совокупная капитализация двух самых дорогих американских компаний, Microsoft и Apple, приближается к $6 трлн
@imaxairu Подписаться
Глава OpenAI Сэм Альтман предложил скинуться всем миром, чтобы построить десятки новых предприятий для TSMC
По информации осведомлённых источников, Альтман сейчас ведёт активные переговоры как с властями США, так и с правящими кругами ОАЭ, а также руководством TSMC
По его замыслу, арабские инвесторы могли бы предоставить внушительную сумму денег, до $5 трлн или $7 трлн, в совокупности с другими источниками финансирования, чтобы в ближайшие несколько лет построить несколько десятков новых предприятий по контрактному выпуску чипов, которые можно было бы передать в управление компании TSMC
На них предполагается наладить выпуск чипов для ускорителей систем искусственного интеллекта в количествах, пропорциональным амбициям Альтмана по развитию функциональных возможностей разрабатываемых OpenAI чат-ботов и больших языковых моделей
Следует отметить, что $7 трлн являются весьма внушительной суммой не только по меркам инвестиционных проектов, но и в масштабах суверенного долга некоторых государств
В конце концов, оборот всего рынка полупроводниковых компонентов достигнет рубежа в $1 трлн лишь к концу десятилетия, а совокупная капитализация двух самых дорогих американских компаний, Microsoft и Apple, приближается к $6 трлн
@imaxairu Подписаться
#npu #ии
SoftBank бросит вызов NVIDIA с помощью ИИ-ускорителей на Arm
Основатель SoftBank Масаёси Сон (Masayoshi Son), по данным Bloomberg, собирается для реализации собственного проекта в этой сфере привлечь до $100 млрд
По замыслу Сона, как утверждается, при участии дочерней компании Arm может быть создан новый разработчик чипов для систем искусственного интеллекта с одноимённой архитектурой
У этого проекта даже есть собственное кодовое обозначение — Izanagi, в честь японского бога создания жизни
@imaxairu Подписаться
SoftBank бросит вызов NVIDIA с помощью ИИ-ускорителей на Arm
Основатель SoftBank Масаёси Сон (Masayoshi Son), по данным Bloomberg, собирается для реализации собственного проекта в этой сфере привлечь до $100 млрд
По замыслу Сона, как утверждается, при участии дочерней компании Arm может быть создан новый разработчик чипов для систем искусственного интеллекта с одноимённой архитектурой
У этого проекта даже есть собственное кодовое обозначение — Izanagi, в честь японского бога создания жизни
@imaxairu Подписаться
#npu
Президент Владимир Путин обновил Национальную стратегию искусственного интеллекта (ИИ)
Документ учитывает вызовы, связанные с развитием генеративных алгоритмов ИИ и ограничением доступа российских разработчиков к вычислительным мощностям
Документ предполагает создание в России нейроморфных и тензорных процессоров, использование платформы «Гостех» для внедрения ИИ в органах госвласти и запрет на делегирование принятия решений алгоритмами искусственного интеллекта
@imaxairu Подписаться
Президент Владимир Путин обновил Национальную стратегию искусственного интеллекта (ИИ)
Документ учитывает вызовы, связанные с развитием генеративных алгоритмов ИИ и ограничением доступа российских разработчиков к вычислительным мощностям
Документ предполагает создание в России нейроморфных и тензорных процессоров, использование платформы «Гостех» для внедрения ИИ в органах госвласти и запрет на делегирование принятия решений алгоритмами искусственного интеллекта
@imaxairu Подписаться
This media is not supported in your browser
VIEW IN TELEGRAM
#npu
Qualcomm показала, что её компьютерный чип Snapdragon X Elite до 10 раз быстрее Intel Core Ultra в ИИ-задачах
Согласно описанию под видео, Snapdragon X Elite оснащён вспомогательным ИИ-сопроцессором (NPU) с производительностью 45 TOPS (триллионов операций в секунду)
Именно производительность NPU и была продемонстрирована в видео поставщика
Быстродействие Snapdragon X Elite и Intel Core Ultra 7, который, как и все процессоры из серии Meteor Lake, также оснащён собственным NPU, проверяли в программах генерации изображений Stable Diffusion и GIMP
Позже в Qualcomm пояснили, что для тестов Snapdragon X Elite использовались Stable Diffusion и Fast Stable Diffusion версии 1.5
Превосходство Snapdragon X Elite в задачах ИИ вполне ожидаемо, поскольку NPU в составе тех же чипов Intel Core Ultra обеспечивает производительность всего до 34 TOPS
Meteor Lake являются первыми процессорами Intel, оснащёнными NPU
Intel ранее заявила, что процессоры будущего поколения Arrow Lake (настольные) и Lunar Lake (мобильные) предложат в три раза более высокую ИИ-производительность по сравнению с Meteor Lake
@imaxairu Подписаться
Qualcomm показала, что её компьютерный чип Snapdragon X Elite до 10 раз быстрее Intel Core Ultra в ИИ-задачах
Согласно описанию под видео, Snapdragon X Elite оснащён вспомогательным ИИ-сопроцессором (NPU) с производительностью 45 TOPS (триллионов операций в секунду)
Именно производительность NPU и была продемонстрирована в видео поставщика
Быстродействие Snapdragon X Elite и Intel Core Ultra 7, который, как и все процессоры из серии Meteor Lake, также оснащён собственным NPU, проверяли в программах генерации изображений Stable Diffusion и GIMP
Позже в Qualcomm пояснили, что для тестов Snapdragon X Elite использовались Stable Diffusion и Fast Stable Diffusion версии 1.5
Превосходство Snapdragon X Elite в задачах ИИ вполне ожидаемо, поскольку NPU в составе тех же чипов Intel Core Ultra обеспечивает производительность всего до 34 TOPS
Meteor Lake являются первыми процессорами Intel, оснащёнными NPU
Intel ранее заявила, что процессоры будущего поколения Arrow Lake (настольные) и Lunar Lake (мобильные) предложат в три раза более высокую ИИ-производительность по сравнению с Meteor Lake
@imaxairu Подписаться
#npu #cpu #ии
Землетрясение на острове Тайвань вновь показало, насколько технологическая стабильность мира зависит от работы всего нескольких полупроводниковых заводов, производящих чипы в том числе для обучения искусственного интеллекта
Вице-президент по стратегии и инновациям МТС, основатель центра перспективных разработок Future Crew Евгений Черешнев рассуждает о том, почему возможность производить процессоры и микрочипы — это не только ключевое преимущество в глобальной технологической гонке за ИИ следующего поколения, но и вопрос выживания глобальных экономик
@imaxairu Подписаться
Землетрясение на острове Тайвань вновь показало, насколько технологическая стабильность мира зависит от работы всего нескольких полупроводниковых заводов, производящих чипы в том числе для обучения искусственного интеллекта
Вице-президент по стратегии и инновациям МТС, основатель центра перспективных разработок Future Crew Евгений Черешнев рассуждает о том, почему возможность производить процессоры и микрочипы — это не только ключевое преимущество в глобальной технологической гонке за ИИ следующего поколения, но и вопрос выживания глобальных экономик
@imaxairu Подписаться
#cpu #npu
Забудьте об Intel и AMD: для работы новой функции AI Explorer в Windows 24H2 нужна будет только SoC Snapdragon X Elite
Речь о функции AI Explorer, которая объединит поиск внутри ОС и журнал действий пользователя, похожий на то, что предлагала отменённая функция Timeline
AI Explorer опирается на ИИ, и можно было бы подумать, что у неё будут ограничения относительно процессоров
Но в коде ОС обнаружилось указание на то, что для работы AI Explorer нужны исключительно платформы линейки Snapdragon X Elite
Чем это обусловлено, не сказано, но можно предположить, что для работы функции нужен весьма производительный блок NPU или суммарная производительность в задачах ИИ
У новой платформы Qualcomm это около 70 TOPS, тогда как новейшие процессоры AMD и Intel предлагают максимум 10–16 TOPS для NPU
Если дело в этом, то нужно дождаться новых мобильных процессоров AMD и Intel, которые выйдут в течение текущего года
Правда, проблема в том, что именно мобильных, так как для настольных ни о каких NPU мы пока не слышали
Также стоит отметить, что для работы оговариваемой функции ПК должен иметь минимум 16 ГБ ОЗУ и SSD объёмом не менее 256 ГБ
@imaxairu Подписаться
Забудьте об Intel и AMD: для работы новой функции AI Explorer в Windows 24H2 нужна будет только SoC Snapdragon X Elite
Речь о функции AI Explorer, которая объединит поиск внутри ОС и журнал действий пользователя, похожий на то, что предлагала отменённая функция Timeline
AI Explorer опирается на ИИ, и можно было бы подумать, что у неё будут ограничения относительно процессоров
Но в коде ОС обнаружилось указание на то, что для работы AI Explorer нужны исключительно платформы линейки Snapdragon X Elite
Чем это обусловлено, не сказано, но можно предположить, что для работы функции нужен весьма производительный блок NPU или суммарная производительность в задачах ИИ
У новой платформы Qualcomm это около 70 TOPS, тогда как новейшие процессоры AMD и Intel предлагают максимум 10–16 TOPS для NPU
Если дело в этом, то нужно дождаться новых мобильных процессоров AMD и Intel, которые выйдут в течение текущего года
Правда, проблема в том, что именно мобильных, так как для настольных ни о каких NPU мы пока не слышали
Также стоит отметить, что для работы оговариваемой функции ПК должен иметь минимум 16 ГБ ОЗУ и SSD объёмом не менее 256 ГБ
@imaxairu Подписаться
#npu #riscv
Стартап SpacemiT выпустил специализированный процессор, предназначенный для вычислений с использованием искусственного интеллекта, но при этом основан этот процессор на архитектуре RISC-V, что необычно для данного сегмента
SoC Key Stone K1 X60 содержит восемь 64-битных ядер, безымянный GPU с поддержкой OpenCL 3.0, OpenGL ES3.2, Vulkan 1.2, поддерживает PCIe 2.1 и потребляет 3-5 Вт
Сам производитель сравнивает своё решение с Arm-ядрами Cortex-A55, говоря, что RISC-V способна обеспечить на 130% более высокую одноядерную производительность в задачах ИИ при примерно на 60–80% меньшем энергопотреблении
Производительность в задачах ИИ тут, к слову, заявлена равной 2 TOPS, что довольно скромно
Ещё более интересно то, что SpacemiT сразу представила и ноутбук Muse Book, основанный на K1 X60
Он также имеет до 16 ГБ ОЗУ LPDDR4, память eMMC объёмом от 32 до 128 ГБ, 14-дюймовый экран IPS Full HD, Wi-Fi 6, и при этом весит ПК всего 1,36 кг при толщине корпуса 17,8 мм
@imaxairu Подписаться
Стартап SpacemiT выпустил специализированный процессор, предназначенный для вычислений с использованием искусственного интеллекта, но при этом основан этот процессор на архитектуре RISC-V, что необычно для данного сегмента
SoC Key Stone K1 X60 содержит восемь 64-битных ядер, безымянный GPU с поддержкой OpenCL 3.0, OpenGL ES3.2, Vulkan 1.2, поддерживает PCIe 2.1 и потребляет 3-5 Вт
Сам производитель сравнивает своё решение с Arm-ядрами Cortex-A55, говоря, что RISC-V способна обеспечить на 130% более высокую одноядерную производительность в задачах ИИ при примерно на 60–80% меньшем энергопотреблении
Производительность в задачах ИИ тут, к слову, заявлена равной 2 TOPS, что довольно скромно
Ещё более интересно то, что SpacemiT сразу представила и ноутбук Muse Book, основанный на K1 X60
Он также имеет до 16 ГБ ОЗУ LPDDR4, память eMMC объёмом от 32 до 128 ГБ, 14-дюймовый экран IPS Full HD, Wi-Fi 6, и при этом весит ПК всего 1,36 кг при толщине корпуса 17,8 мм
@imaxairu Подписаться
#apple #npu
Apple подтвердила, что использует собственные процессоры в ИИ-серверах для Apple Intelligence
Пока никак не уточняются ни название, ни характеристики процессоров Apple серверного назначения
Компания на страницах корпоративного блога лишь уточняет, что будет использовать в своей среде Private Cloud Compute «построенное на заказ аппаратное обеспечение серверного класса, которое приносит производительность и безопасность чипов Apple в центры обработки данных, сохраняя те же технологии безопасности, которые реализованы в iPhone на аппаратном уровне»
Остаётся лишь предположить, что серверные процессоры Apple будут являться близкими родственниками используемых в iPhone, но это справедливо для всего семейства процессоров M
По традиции, при реализации функций искусственного интеллекта Apple Intelligence компания пытается реализовать достаточно высокий уровень защиты информации, поэтому использование процессоров собственной разработки в этой сфере оказалось логичным
Как с этим уживается интеграция в iOS сервисов OpenAI на базе ChatGPT, предстоит выяснить специалистам в области информационной безопасности
Представители Apple после открытия WWDC 2024 признались, что компания хотела бы предоставить пользователям выбор моделей в сфере ИИ, а потому даже интеграция с Google Gemini не исключается на вероятностном уровне
@imaxairu Подписаться
Apple подтвердила, что использует собственные процессоры в ИИ-серверах для Apple Intelligence
Пока никак не уточняются ни название, ни характеристики процессоров Apple серверного назначения
Компания на страницах корпоративного блога лишь уточняет, что будет использовать в своей среде Private Cloud Compute «построенное на заказ аппаратное обеспечение серверного класса, которое приносит производительность и безопасность чипов Apple в центры обработки данных, сохраняя те же технологии безопасности, которые реализованы в iPhone на аппаратном уровне»
Остаётся лишь предположить, что серверные процессоры Apple будут являться близкими родственниками используемых в iPhone, но это справедливо для всего семейства процессоров M
По традиции, при реализации функций искусственного интеллекта Apple Intelligence компания пытается реализовать достаточно высокий уровень защиты информации, поэтому использование процессоров собственной разработки в этой сфере оказалось логичным
Как с этим уживается интеграция в iOS сервисов OpenAI на базе ChatGPT, предстоит выяснить специалистам в области информационной безопасности
Представители Apple после открытия WWDC 2024 признались, что компания хотела бы предоставить пользователям выбор моделей в сфере ИИ, а потому даже интеграция с Google Gemini не исключается на вероятностном уровне
@imaxairu Подписаться
#npu #ии #поглощения
Amazon купила разработчика ИИ-чипов Perceive за $80 млн для развития LLM на периферии
Такое оборудование обычно обладает ограниченными возможностями в плане вычислительных ресурсов, средств подключения и хранения данных
Чипы Perceive проектируются с учетом особенностей edge-платформ
В частности, Perceive разработала процессор Ergo AI
Утверждается, что он позволяет запускать «нейронные сети ЦОД-класса» даже на устройствах с самыми жёсткими требованиями к энергопотреблению
Это могут быть системы конференц-связи и носимые гаджеты
Отмечается, что Ergo AI может поддерживать самые разные ИИ-нагрузки — от классификации и обнаружения объектов до обработки аудиосигналов и языка
@imaxairu Подписаться
Amazon купила разработчика ИИ-чипов Perceive за $80 млн для развития LLM на периферии
Такое оборудование обычно обладает ограниченными возможностями в плане вычислительных ресурсов, средств подключения и хранения данных
Чипы Perceive проектируются с учетом особенностей edge-платформ
В частности, Perceive разработала процессор Ergo AI
Утверждается, что он позволяет запускать «нейронные сети ЦОД-класса» даже на устройствах с самыми жёсткими требованиями к энергопотреблению
Это могут быть системы конференц-связи и носимые гаджеты
Отмечается, что Ergo AI может поддерживать самые разные ИИ-нагрузки — от классификации и обнаружения объектов до обработки аудиосигналов и языка
@imaxairu Подписаться