Как сделать ИИ быстрее и энергоэффективнее: новые методы от MIT и NVIDIA

🔍 Исследователи из MIT и NVIDIA разработали две методики, которые ускоряют обработку разреженных тензоров, структур данных, используемых для высокопроизводительных вычислений.

🔍 Одна методика позволяет аппаратным средствам эффективно находить ненулевые значения в тензорах с различными шаблонами разреженности, используя «иерархическую структурированную разреженность».

🔍 Другая методика позволяет эффективно «перебронировать» данные для ускорения рабочих нагрузок, используя метод «Swiftiles», который быстро оценивает оптимальный размер блока данных.

#ИИ #тензоры #разреженность #ускорение

@SciTechQuantumAI