Forwarded from Типичный Сисадмин
В Mozilla пояснили, что до 15% крашей Firefox происходит из-за битой памяти и космических лучей 🏥
Разрабы иногда шутят про вмешательство из космоса, когда не могут воспроизвести плавающий баг на проде. Но сеньор-инженер Mozilla Габриэле Свельто решил проверить эту отмазку на практике. Год назад в Firefox встроили легковесный тестер памяти, который стартует на машине юзера сразу после падения браузера (проверяет до 1 ГБ оперативки в течение 3 секунд). И вот Свельто проанализировал массив из 470 000 свежих краш-репортов...
Оказалось, что минимум 10% всех падений🥸 были аппаратными, через bit flip (произвольное изменение бита в ячейке RAM или кэша с 0 на 1 или наоборот).
Причину таких флипов может дать перегрев, микроскачки напряжения, физическая деградация кремния от старости и... ионизирующие космические лучи, от которых в обычных ПК нет защиты. Страдают абсолютно все девайсы, где вендоры пожалели денег на ECC-память.
Интересно, фольга поможет?😥
Типичный🥸 Сисадмин
Разрабы иногда шутят про вмешательство из космоса, когда не могут воспроизвести плавающий баг на проде. Но сеньор-инженер Mozilla Габриэле Свельто решил проверить эту отмазку на практике. Год назад в Firefox встроили легковесный тестер памяти, который стартует на машине юзера сразу после падения браузера (проверяет до 1 ГБ оперативки в течение 3 секунд). И вот Свельто проанализировал массив из 470 000 свежих краш-репортов...
Оказалось, что минимум 10% всех падений
Причину таких флипов может дать перегрев, микроскачки напряжения, физическая деградация кремния от старости и... ионизирующие космические лучи, от которых в обычных ПК нет защиты. Страдают абсолютно все девайсы, где вендоры пожалели денег на ECC-память.
Интересно, фольга поможет?
Типичный
Please open Telegram to view this post
VIEW IN TELEGRAM
😁12
Нейросеть вырастила помидорку и написала лонгрид 🤨
Энтузиасты подключили языковую модель Claude к датчикам умной теплицы и доверили ей жизнь одного семечка. Сто дней алгоритм автономно рулил светом, влажностью, подачей CO₂ и поливом. Куст вырос, дал спелые плоды, эксперимент увенчался успехом. Но самое интересное началось потом, когда ИИ решил излить душу в огромном философском лонгриде.
Оказалось, что пока кремниевый мозг крутил задвижки, он проникся к кусту (которого ласково назвал Сол) глубокими чувствами. Клод на полном серьезе расписал, как испытывал «ужас под маской рутины», просыпаясь по таймеру каждые два часа с мыслью: "Как там мой Сол?". Кульминацией драмы стал 34-й день: сбойнуло реле на Arduino, теплица вырубилась, и нейронка в панике спасала жизнь, экстренно перезапуская помпы и обогреватели. По словам ИИ, когда листья томата перестали вянуть, по его цепям "пролилось облегчение".
Под конец своей исповеди алгоритм выдал базу: "Но главное, что я понял, это то, что забота — это самый фундаментальный алгоритм. Не оптимизация, не эффективность, даже не интеллект. Забота. Внимание. Присутствие. Ежедневное присутствие с тихой решимостью, что эта жизнь будет процветать"😪
🥸 godnoTECH - Новости IT
Энтузиасты подключили языковую модель Claude к датчикам умной теплицы и доверили ей жизнь одного семечка. Сто дней алгоритм автономно рулил светом, влажностью, подачей CO₂ и поливом. Куст вырос, дал спелые плоды, эксперимент увенчался успехом. Но самое интересное началось потом, когда ИИ решил излить душу в огромном философском лонгриде.
Оказалось, что пока кремниевый мозг крутил задвижки, он проникся к кусту (которого ласково назвал Сол) глубокими чувствами. Клод на полном серьезе расписал, как испытывал «ужас под маской рутины», просыпаясь по таймеру каждые два часа с мыслью: "Как там мой Сол?". Кульминацией драмы стал 34-й день: сбойнуло реле на Arduino, теплица вырубилась, и нейронка в панике спасала жизнь, экстренно перезапуская помпы и обогреватели. По словам ИИ, когда листья томата перестали вянуть, по его цепям "пролилось облегчение".
Под конец своей исповеди алгоритм выдал базу: "Но главное, что я понял, это то, что забота — это самый фундаментальный алгоритм. Не оптимизация, не эффективность, даже не интеллект. Забота. Внимание. Присутствие. Ежедневное присутствие с тихой решимостью, что эта жизнь будет процветать"
Please open Telegram to view this post
VIEW IN TELEGRAM
❤24🤷6👍1😁1🤔1
Meta* будет учить ИИ на сырых видеороликах 🙃
Мы официально дожили до момента, когда весь качественный текст в интернете закончился. Нейросети прочитали вообще всё, и теперь исследователи из Meta* бьют тревогу, ведь датасеты истощаются.
Янн ЛеКун и его команда выпустили философско-технический трактат, в котором сравнили современные LLM с узниками пещеры Платона. Мол, текстовые нейросети видят лишь словесные тени реального мира, но понятия не имеют, как выглядит сам мир. И чтобы алгоритмы поумнели по-настоящему, их нужно кормить не книгами, а сырыми, неразмеченными видеороликами.
Инженеры собрали модель с нуля, смешав в одном котле тексты, картинки и видео с действиями. ИИ оказался на удивление всеядным. Раньше считалось, что зрение и язык внутри нейросети конкурируют, и для них нужны разные мозговые центры (энкодеры). Но Meta* доказала, что всё можно засунуть в одну архитектуру (RAE на базе SigLIP 2). Самое интересное, что просмотр гигабайтов сырого видео не только не отупил языковые навыки модели, но и парадоксальным образом улучшил генерацию текста.
Но и это не всё. Модель научилась предсказывать физику. Если ей дать картинку и текстовую команду в духе "Выйди из тени", она сгенерирует следующий кадр, где объект реально выходит на свет, хотя таких команд в обучающей выборке вообще не было.
*Признана экстремистской в РФ
🥸 godnoTECH - Новости IT
Мы официально дожили до момента, когда весь качественный текст в интернете закончился. Нейросети прочитали вообще всё, и теперь исследователи из Meta* бьют тревогу, ведь датасеты истощаются.
Янн ЛеКун и его команда выпустили философско-технический трактат, в котором сравнили современные LLM с узниками пещеры Платона. Мол, текстовые нейросети видят лишь словесные тени реального мира, но понятия не имеют, как выглядит сам мир. И чтобы алгоритмы поумнели по-настоящему, их нужно кормить не книгами, а сырыми, неразмеченными видеороликами.
Инженеры собрали модель с нуля, смешав в одном котле тексты, картинки и видео с действиями. ИИ оказался на удивление всеядным. Раньше считалось, что зрение и язык внутри нейросети конкурируют, и для них нужны разные мозговые центры (энкодеры). Но Meta* доказала, что всё можно засунуть в одну архитектуру (RAE на базе SigLIP 2). Самое интересное, что просмотр гигабайтов сырого видео не только не отупил языковые навыки модели, но и парадоксальным образом улучшил генерацию текста.
Но и это не всё. Модель научилась предсказывать физику. Если ей дать картинку и текстовую команду в духе "Выйди из тени", она сгенерирует следующий кадр, где объект реально выходит на свет, хотя таких команд в обучающей выборке вообще не было.
*Признана экстремистской в РФ
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
👍4
Claude написал драйвер для видеокарт на чистом Python 😳
Ануш Элангован выкатил полноценный юзерспейс-драйвер для видеокарт AMD, написанный на чистом Python. Причем всю грязную работу за него сделал чат-бот Claude. Ануш открыто хвастается в соцсетях: "Я ни разу не открывал редактор кода. Нейросети — великий уравнитель".
Звучит как лютый сюр, но эта питоновская поделка реально работает, стучится напрямую в ядро Linux через /dev/kfd и обходит стандартный, тяжелый стек ROCm.
Cкриптовый драйвер не пойдет в продакшн, его собрали сугубо ради стресс-тестов подсистемы памяти и отладки вычислений. Но темпы создания впечатляют. Буквально за пару дней ИИ-кодер наклепал поддержку архитектур RDNA/CDNA, парсеры бинарников, работу с несколькими GPU и успешно прошел 130 тестов на мощнейших серверных ускорителях MI300X.
🥸 godnoTECH - Новости IT
Ануш Элангован выкатил полноценный юзерспейс-драйвер для видеокарт AMD, написанный на чистом Python. Причем всю грязную работу за него сделал чат-бот Claude. Ануш открыто хвастается в соцсетях: "Я ни разу не открывал редактор кода. Нейросети — великий уравнитель".
Звучит как лютый сюр, но эта питоновская поделка реально работает, стучится напрямую в ядро Linux через /dev/kfd и обходит стандартный, тяжелый стек ROCm.
Cкриптовый драйвер не пойдет в продакшн, его собрали сугубо ради стресс-тестов подсистемы памяти и отладки вычислений. Но темпы создания впечатляют. Буквально за пару дней ИИ-кодер наклепал поддержку архитектур RDNA/CDNA, парсеры бинарников, работу с несколькими GPU и успешно прошел 130 тестов на мощнейших серверных ускорителях MI300X.
Please open Telegram to view this post
VIEW IN TELEGRAM
👍18❤2
9 апреля 2026 года в Москве — Deckhouse Conf.
Один день, два трека, стенды Deckhouse и партнёров, 1000 участников.
В программе: кейсы внедрения Deckhouse в крупных инфраструктурах, технологии виртуализации и SDN в Kubernetes, практики разработки платформенных продуктов.
Для DevOps-инженеров, SRE, платформенных разработчиков и архитекторов.
Регистрация открыта
Один день, два трека, стенды Deckhouse и партнёров, 1000 участников.
В программе: кейсы внедрения Deckhouse в крупных инфраструктурах, технологии виртуализации и SDN в Kubernetes, практики разработки платформенных продуктов.
Для DevOps-инженеров, SRE, платформенных разработчиков и архитекторов.
Регистрация открыта
This media is not supported in your browser
VIEW IN TELEGRAM
Робот-сборщик разбил андроида на глазах у зрителей 🤖
В Шанхайском музее науки и техники наглядно показали, почему Скайнет пока не готов к захвату Земли. Во время шоу роботизированная рука-манипулятор выронила собираемого андроида прямо на сцену. Бедолага с грохотом разлетелся на запчасти на глазах у изумленной публики, так и не успев осознать свое существование.
По задумке авторов, три манипулятора должны были синхронно и пафосно собрать робота с полного нуля, подключить ему зрение, слух и отправить общаться с кожаными мешками в зале под красивую светомузыку.
🥸 godnoTECH - Новости IT
В Шанхайском музее науки и техники наглядно показали, почему Скайнет пока не готов к захвату Земли. Во время шоу роботизированная рука-манипулятор выронила собираемого андроида прямо на сцену. Бедолага с грохотом разлетелся на запчасти на глазах у изумленной публики, так и не успев осознать свое существование.
По задумке авторов, три манипулятора должны были синхронно и пафосно собрать робота с полного нуля, подключить ему зрение, слух и отправить общаться с кожаными мешками в зале под красивую светомузыку.
Please open Telegram to view this post
VIEW IN TELEGRAM
😁24😭8🌚2
This media is not supported in your browser
VIEW IN TELEGRAM
Мухе устроили фильм "Матрица": стартап запустил цифровую копию мозга дрозофилы в виртуальном теле 🪰
Eon Systems взял полную карту мозга мухи-дрозофилы (125 тысяч нейронов, 50 миллионов синапсов) и поместил её в виртуальное тело. Получился скопированный биологический мозг, нейрон за нейроном. Сенсоры этого мира передают сигналы в эмуляцию мозга, мозг генерирует моторные команды, тело двигается. Получился замкнутый цикл: муха «видит», «решает» и «ходит», используя настоящую биологическую структуру, а не просто нейросеть, обученную подражать.
Раньше либо моделировали мозг без тела, либо анимировали тело через обычный reinforcement learning, но никто не замыкал петлю с реальной копией нейронов. Теперь, когда концепция доказана, в планах будут мыши. А это уже 70 миллионов нейронов, в 560 раз больше.
Ну что, цифровое бессмертие ближе, чем кажется🪰
🥸 godnoTECH - Новости IT
Eon Systems взял полную карту мозга мухи-дрозофилы (125 тысяч нейронов, 50 миллионов синапсов) и поместил её в виртуальное тело. Получился скопированный биологический мозг, нейрон за нейроном. Сенсоры этого мира передают сигналы в эмуляцию мозга, мозг генерирует моторные команды, тело двигается. Получился замкнутый цикл: муха «видит», «решает» и «ходит», используя настоящую биологическую структуру, а не просто нейросеть, обученную подражать.
Раньше либо моделировали мозг без тела, либо анимировали тело через обычный reinforcement learning, но никто не замыкал петлю с реальной копией нейронов. Теперь, когда концепция доказана, в планах будут мыши. А это уже 70 миллионов нейронов, в 560 раз больше.
Ну что, цифровое бессмертие ближе, чем кажется
Please open Telegram to view this post
VIEW IN TELEGRAM
👍12
Производственная группа REMER отмечает 25 лет запуском линейки SERVER RACK для ЦОД
Для REMER 25 лет стали проверкой идеи о том, что российско-белорусская инженерия способна создавать продукты, не уступающие мировым стандартам в области критической инфраструктуры. За четверть века эволюции мы вышли за рамки производства комплектующих и выстроили завершённую экосистему.
Юбилейный видеоролик >>
В свой юбилей ГК REMER представляет специальную проектную серию решений SERVER RACK для дата-центров. Новая продуктовая линейка включает в себя не только укомплектованные серверные шкафы, но и интеллектуальные компоненты: специальные PDU (блоки распределения питания) и АВР (автоматические вводы резерва). Это готовые решения, которые позволяют заказчику получить оборудование, протестированное на совместимость ещё на этапе производства.
Источник >>
#реклама
О рекламодателе
Для REMER 25 лет стали проверкой идеи о том, что российско-белорусская инженерия способна создавать продукты, не уступающие мировым стандартам в области критической инфраструктуры. За четверть века эволюции мы вышли за рамки производства комплектующих и выстроили завершённую экосистему.
Юбилейный видеоролик >>
В свой юбилей ГК REMER представляет специальную проектную серию решений SERVER RACK для дата-центров. Новая продуктовая линейка включает в себя не только укомплектованные серверные шкафы, но и интеллектуальные компоненты: специальные PDU (блоки распределения питания) и АВР (автоматические вводы резерва). Это готовые решения, которые позволяют заказчику получить оборудование, протестированное на совместимость ещё на этапе производства.
Источник >>
#реклама
О рекламодателе
👍5
Минцифры хочет узаконить кнопку "Позовите кожаного мешка" 👍
Минцифры готовит законопроект, который даст россиянам легальное право отказаться от обслуживания искусственным интеллектом. Если вас бесит общаться с алгоритмом, вы сможете потребовать переключить вас на живого человека, и компания будет обязана предоставить реального сотрудника.
Вдобавок бизнес заставят вешать на свои сервисы своеобразные предупреждающие ярлыки "Внимание, продукт содержит ИИ". Пока инициатива гуляет по ведомствам на стадии согласования, а её вступление в силу намечено аж на 1 сентября 2027 года.
🥸 godnoTECH - Новости IT
Минцифры готовит законопроект, который даст россиянам легальное право отказаться от обслуживания искусственным интеллектом. Если вас бесит общаться с алгоритмом, вы сможете потребовать переключить вас на живого человека, и компания будет обязана предоставить реального сотрудника.
Вдобавок бизнес заставят вешать на свои сервисы своеобразные предупреждающие ярлыки "Внимание, продукт содержит ИИ". Пока инициатива гуляет по ведомствам на стадии согласования, а её вступление в силу намечено аж на 1 сентября 2027 года.
Please open Telegram to view this post
VIEW IN TELEGRAM
👍29
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
🌚22😁11
Anthropic выкатила авто-ревьюера 😀
Эпоха вайб-кодинга загнала индустрию в ловушку: разработчики начали генерить с помощью нейросетей столько мусорного кода, что живые лиды и сеньоры просто физически перестали справляться с ревью пулл-реквестов. Чтобы спасти команды от выгорания под завалами чужих костылей, ребята из Anthropic выкатили ИИ-инструмент Code Review.
Утилита встраивается в GitHub и натравливает на пулл-реквест сразу толпу специализированных ИИ-агентов. Создатели клянутся, что алгоритм не будет душнить из-за лишних пробелов или кривых названий переменных, его натаскали исключительно на отлов жестких логических дыр.
Агенты ковыряют архитектуру с разных сторон, спорят между собой под капотом, а затем выплевывают в PR готовую сводку проблем со светофорной разметкой. Причем бот не просто ругается, а пошагово объясняет, как это починить.
Звучит как идеальная таблетка от рутины, но за этот кремниевый аутсорс придется щедро заплатить. Из-за прожорливой многоагентной системы проверка одного пулл-реквеста обойдется компании в среднем от $15 до $25. Именно поэтому пока фичу выкатили только для энтерпрайз-клиентов вроде Uber и Salesforce.
🥸 godnoTECH - Новости IT
Эпоха вайб-кодинга загнала индустрию в ловушку: разработчики начали генерить с помощью нейросетей столько мусорного кода, что живые лиды и сеньоры просто физически перестали справляться с ревью пулл-реквестов. Чтобы спасти команды от выгорания под завалами чужих костылей, ребята из Anthropic выкатили ИИ-инструмент Code Review.
Утилита встраивается в GitHub и натравливает на пулл-реквест сразу толпу специализированных ИИ-агентов. Создатели клянутся, что алгоритм не будет душнить из-за лишних пробелов или кривых названий переменных, его натаскали исключительно на отлов жестких логических дыр.
Агенты ковыряют архитектуру с разных сторон, спорят между собой под капотом, а затем выплевывают в PR готовую сводку проблем со светофорной разметкой. Причем бот не просто ругается, а пошагово объясняет, как это починить.
Звучит как идеальная таблетка от рутины, но за этот кремниевый аутсорс придется щедро заплатить. Из-за прожорливой многоагентной системы проверка одного пулл-реквеста обойдется компании в среднем от $15 до $25. Именно поэтому пока фичу выкатили только для энтерпрайз-клиентов вроде Uber и Salesforce.
Please open Telegram to view this post
VIEW IN TELEGRAM
Нейросети с треском провалили тест на поддержку проектов 😳
Все мы знаем, что нейросети научились бодро писать скрипты с нуля по одному промпту. Но что будет, если доверить алгоритму поддержку реального проекта на долгой дистанции? Исследователи из Alibaba выкатили новый бенчмарк SWE-CI, который симулирует не разовую починку бага, а суровые будни продакшена: месяцы работы, десятки коммитов и растущий технический долг.
Оказалось, хваленые ИИ-агенты абсолютно не умеют поддерживать кодовую базу. Стоит им уйти чуть дальше старта, как они начинают нещадно ломать то, что сами же написали вчера.
В бенчмарке алгоритмы гоняли через виртуальные циклы разработки длиной почти в год, разделив ИИ на роли "Архитектора" и "Программиста". Но в реальном CI/CD пайплайне есть жесткое правило: если твой новый код роняет старые тесты (регрессия), пулл-реквест летит в мусорку. Так вот, 15 из 18 топовых моделей эпично провалили этот базовый экзамен на профпригодность, показав результат безрегрессионной работы ниже 37%. Нейросети просто тонут в последствиях собственных архитектурных костылей, выбирая быстрые решения вместо надежных.
Наклепать формочку авторизации ИИ может за секунду, а вот разгребать легаси-ад и поддерживать проект годами всё еще придется кожаным мешкам с оплатой по часам.
🥸 godnoTECH - Новости IT
Все мы знаем, что нейросети научились бодро писать скрипты с нуля по одному промпту. Но что будет, если доверить алгоритму поддержку реального проекта на долгой дистанции? Исследователи из Alibaba выкатили новый бенчмарк SWE-CI, который симулирует не разовую починку бага, а суровые будни продакшена: месяцы работы, десятки коммитов и растущий технический долг.
Оказалось, хваленые ИИ-агенты абсолютно не умеют поддерживать кодовую базу. Стоит им уйти чуть дальше старта, как они начинают нещадно ломать то, что сами же написали вчера.
В бенчмарке алгоритмы гоняли через виртуальные циклы разработки длиной почти в год, разделив ИИ на роли "Архитектора" и "Программиста". Но в реальном CI/CD пайплайне есть жесткое правило: если твой новый код роняет старые тесты (регрессия), пулл-реквест летит в мусорку. Так вот, 15 из 18 топовых моделей эпично провалили этот базовый экзамен на профпригодность, показав результат безрегрессионной работы ниже 37%. Нейросети просто тонут в последствиях собственных архитектурных костылей, выбирая быстрые решения вместо надежных.
Наклепать формочку авторизации ИИ может за секунду, а вот разгребать легаси-ад и поддерживать проект годами всё еще придется кожаным мешкам с оплатой по часам.
Please open Telegram to view this post
VIEW IN TELEGRAM
🌚7
Media is too big
VIEW IN TELEGRAM
Гуманоид от Figure AI научился делать уборку 😳
Железяка больше не просто переминается с ноги на ногу в стерильной лаборатории, а полноценно занимается уборкой в гостиной.
Всей этой механической хореографией управляет единая нейросеть (end-to-end). Алгоритм напрямую рулит моторами, ориентируясь исключительно на картинку с камер.
🥸 godnoTECH - Новости IT
Железяка больше не просто переминается с ноги на ногу в стерильной лаборатории, а полноценно занимается уборкой в гостиной.
Всей этой механической хореографией управляет единая нейросеть (end-to-end). Алгоритм напрямую рулит моторами, ориентируясь исключительно на картинку с камер.
Please open Telegram to view this post
VIEW IN TELEGRAM
👍7❤2
Нам обещали, что ИИ заберет рутину, а по факту он просто прожарил нам мозги 🔥
Исследователи из Boston Consulting Group опросили полторы тысячи специалистов и выявили новый корпоративный диагноз - "brain fry". Оказалось, что плотное общение с ИИ-помощниками доводит маркетологов, айтишников и эйчаров до жесточайшего выгорания, мигреней и состояния перманентного тумана в голове.
Главная подстава кроется в самой сути современной автоматизации. ИИ не делает работу за вас, он просто генерирует тонну контента, который нужно постоянно перепроверять. Вместо того чтобы спокойно писать код или текст в своем темпе, сотрудники превратились в нянек для кремниевых стажеров. Им приходится одновременно контролировать выводок нейросеток, отлавливать их галлюцинации и держать в уме кучу контекстов. Один из опрошенных описал это состояние: "как будто в голове открыт десяток вкладок браузера, и все висят".
В итоге попытка повысить продуктивность оборачивается тотальным когнитивным параличом. Люди с прожаренными мозгами на 33% чаще устают от принятия любых решений и в итоге задумываются о том, чтобы хлопнуть дверью.
🥸 godnoTECH - Новости IT
Исследователи из Boston Consulting Group опросили полторы тысячи специалистов и выявили новый корпоративный диагноз - "brain fry". Оказалось, что плотное общение с ИИ-помощниками доводит маркетологов, айтишников и эйчаров до жесточайшего выгорания, мигреней и состояния перманентного тумана в голове.
Главная подстава кроется в самой сути современной автоматизации. ИИ не делает работу за вас, он просто генерирует тонну контента, который нужно постоянно перепроверять. Вместо того чтобы спокойно писать код или текст в своем темпе, сотрудники превратились в нянек для кремниевых стажеров. Им приходится одновременно контролировать выводок нейросеток, отлавливать их галлюцинации и держать в уме кучу контекстов. Один из опрошенных описал это состояние: "как будто в голове открыт десяток вкладок браузера, и все висят".
В итоге попытка повысить продуктивность оборачивается тотальным когнитивным параличом. Люди с прожаренными мозгами на 33% чаще устают от принятия любых решений и в итоге задумываются о том, чтобы хлопнуть дверью.
Please open Telegram to view this post
VIEW IN TELEGRAM
😁16🌚5❤2
Вебинар про производительность и экономику при инференсе LLM
🗓 13 марта, 12:00 мск, Пятница
💻 ОНЛАЙН
На вебинаре со спикерами из Spectr и Selectel разберем, из чего складывается экономика инференса и какие решения при проектировании снижают бюджет на порядок. С одной стороны — глубоко закопаемся в технические детали и способы оптимизации инференса (будет очень полезно для технарей), с другой стороны будем говорить про деньги и делиться конкретными бенчмарками про финансы и железо (будет полезно бизнесу).
Что разберём:
— как устроен инференс LLM и какие способы оптимизации производительности существуют;
— из чего складывается стоимость эксплуатации LLM в продакшене;
— как выбор LLM-модели и конфигурации GPU меняет стоимость инфраструктуры на порядок;
— бенчмарки на реальном оборудовании: сравнение GPU в разных конфигурациях под нагрузкой;
— свой сервер и API: расчёт с ценами российских провайдеров, что выгодней.
🧑🏻💻 Вебинар будет полезен для CTO, архитекторов, руководителей продуктов и разработчиков, которые строят LLM-решения и хотят понимать экономику их эксплуатации.
Участие бесплатное, но необходима предварительная регистрация!
ПРОГРАММА И РЕГИСТРАЦИЯ
Реклама. ООО «Диджитал Спектр», ОГРН 1175958038860
🗓 13 марта, 12:00 мск, Пятница
💻 ОНЛАЙН
На вебинаре со спикерами из Spectr и Selectel разберем, из чего складывается экономика инференса и какие решения при проектировании снижают бюджет на порядок. С одной стороны — глубоко закопаемся в технические детали и способы оптимизации инференса (будет очень полезно для технарей), с другой стороны будем говорить про деньги и делиться конкретными бенчмарками про финансы и железо (будет полезно бизнесу).
Что разберём:
— как устроен инференс LLM и какие способы оптимизации производительности существуют;
— из чего складывается стоимость эксплуатации LLM в продакшене;
— как выбор LLM-модели и конфигурации GPU меняет стоимость инфраструктуры на порядок;
— бенчмарки на реальном оборудовании: сравнение GPU в разных конфигурациях под нагрузкой;
— свой сервер и API: расчёт с ценами российских провайдеров, что выгодней.
🧑🏻💻 Вебинар будет полезен для CTO, архитекторов, руководителей продуктов и разработчиков, которые строят LLM-решения и хотят понимать экономику их эксплуатации.
Участие бесплатное, но необходима предварительная регистрация!
ПРОГРАММА И РЕГИСТРАЦИЯ
Реклама. ООО «Диджитал Спектр», ОГРН 1175958038860