Higgsfield AI ищет аналитиков и исследователей
Higgsfield AI – это та самая мелькающая везде платформа для ИИ-генерации фото и видео, и, кроме того, единорог. Они сделали больше $1 млрд ARR за 18 месяцев. Их оценка ~$5,4 млрд, а среди сотрудников – 133 долларовых миллионера.
Сейчас они в поиске сильных аналитиков и рисерчеров. Что интересно в этом стартапе, так это то, что все ключевые решения принимаются как раз через аналитиков и их отчеты. Именно так продумываются продукты, стратегия, бюджеты и все прочее.
Например, летом благодаря всему одному аналитику, который придумал свою серию метрик, стартап закрыл раунд на $400 млн при оценке $5,4 млрд. А тот сотрудник, Шотан, получил $5 млн опционами. Сейчас Шотан ищет себе в команду аналитика, вот вакансия.
В компании развиваются и другие интересные направления, например антифрод. GenAI-фрод появляется очень быстро, и в этой области антифрод – это уже намного больше, чем поиск скучных паттернов. Недавно один из аналитиков компании, Роман, по аккаунтам и генерациям вычислил мошенника, которого искало ФБР. Позже его команда раскрыла схему с 2000+ аккаунтами на краденых картах. Сейчас именно в эту команду ищут грамотного Antifraud Analyst.
Таких ярких историй в стартапе много. Также ребята ищут:
— Product Analyst. Идея Marketing Studio, одного из крупнейших продуктов компании, родилась из анализа 1 млрд+ генераций. В данный момент база растет на 6 млн генераций в день. Ищут человека с продуктовым чутьем и строгого в экспериментах.
— Data Science, Product. Команда разобрала 100 000+ сообщений пользователей Supercomputer после запуска нового Opus и готовит по этому научную публикацию. Нужна сильная статистика и умение превращать данные в продукт.
📍Алматы, офис. Полная релокация.
💸 $100-200k в год + опционная программа
🕘 В Higgsfield AI работают шесть дней в неделю - это норма сильнейших AI-команд.
Higgsfield AI – это та самая мелькающая везде платформа для ИИ-генерации фото и видео, и, кроме того, единорог. Они сделали больше $1 млрд ARR за 18 месяцев. Их оценка ~$5,4 млрд, а среди сотрудников – 133 долларовых миллионера.
Сейчас они в поиске сильных аналитиков и рисерчеров. Что интересно в этом стартапе, так это то, что все ключевые решения принимаются как раз через аналитиков и их отчеты. Именно так продумываются продукты, стратегия, бюджеты и все прочее.
Например, летом благодаря всему одному аналитику, который придумал свою серию метрик, стартап закрыл раунд на $400 млн при оценке $5,4 млрд. А тот сотрудник, Шотан, получил $5 млн опционами. Сейчас Шотан ищет себе в команду аналитика, вот вакансия.
В компании развиваются и другие интересные направления, например антифрод. GenAI-фрод появляется очень быстро, и в этой области антифрод – это уже намного больше, чем поиск скучных паттернов. Недавно один из аналитиков компании, Роман, по аккаунтам и генерациям вычислил мошенника, которого искало ФБР. Позже его команда раскрыла схему с 2000+ аккаунтами на краденых картах. Сейчас именно в эту команду ищут грамотного Antifraud Analyst.
Таких ярких историй в стартапе много. Также ребята ищут:
— Product Analyst. Идея Marketing Studio, одного из крупнейших продуктов компании, родилась из анализа 1 млрд+ генераций. В данный момент база растет на 6 млн генераций в день. Ищут человека с продуктовым чутьем и строгого в экспериментах.
— Data Science, Product. Команда разобрала 100 000+ сообщений пользователей Supercomputer после запуска нового Opus и готовит по этому научную публикацию. Нужна сильная статистика и умение превращать данные в продукт.
📍Алматы, офис. Полная релокация.
💸 $100-200k в год + опционная программа
🕘 В Higgsfield AI работают шесть дней в неделю - это норма сильнейших AI-команд.
🦄120😁81❤27🗿15🤨10🤯8👍6🔥4❤🔥2🎄2🍾1
GPT-5.6 Sol нашла критическую уязвимость в PHP
https://openai.com/index/coordinated-disclosure-of-critical-vulnerabilities/
Исследователи из Calif сообщили об этом в рамках инициативы Patch the Planet.
OpenAI называет это одной из самых значимых найденных проблем безопасности за последнее время. Они заявили, что ожидают, что подобных находок в ближайшие месяцы станет заметно больше.
Мейнтейнеры языка уже внесли исправления.
OpenAI, кстати, дополнительно выделяет миллиард долларов на субсидированный доступ к Daybreak для защитников с ограниченными ресурсами и раздает подписки на Codex мейнтейнерам опенсорса.
https://openai.com/index/coordinated-disclosure-of-critical-vulnerabilities/
Исследователи из Calif сообщили об этом в рамках инициативы Patch the Planet.
OpenAI называет это одной из самых значимых найденных проблем безопасности за последнее время. Они заявили, что ожидают, что подобных находок в ближайшие месяцы станет заметно больше.
Мейнтейнеры языка уже внесли исправления.
OpenAI, кстати, дополнительно выделяет миллиард долларов на субсидированный доступ к Daybreak для защитников с ограниченными ресурсами и раздает подписки на Codex мейнтейнерам опенсорса.
😁97❤37🔥22✍6🏆3👍2😍2🤯1🍓1
This media is not supported in your browser
VIEW IN TELEGRAM
Anthropic релизнули превью своих dots – Claude Duet
Это приложение, где Claude (а именно Opus 5.5) работает как проактивный агент, выполняет поручения и продолжает действовать, пока вас нет.
Брать может задачи от очень простых до длинных и сложных, ему можно поручить и планирования встреч, и составление дашбордов/прогнозов, и разработку.
Агент работает на своей виртуальной машине с браузером, может использовать любые приложения. В самом начале использования он переносит память, скиллы и коннекторы с вашего Claude аккаунта, так что можно обойтись без долгих настроек.
Пока попробовать можно только через waitlist
Это приложение, где Claude (а именно Opus 5.5) работает как проактивный агент, выполняет поручения и продолжает действовать, пока вас нет.
Брать может задачи от очень простых до длинных и сложных, ему можно поручить и планирования встреч, и составление дашбордов/прогнозов, и разработку.
Агент работает на своей виртуальной машине с браузером, может использовать любые приложения. В самом начале использования он переносит память, скиллы и коннекторы с вашего Claude аккаунта, так что можно обойтись без долгих настроек.
Пока попробовать можно только через waitlist
2❤91👍29🗿11🫡6😁4🤩3☃1🤔1🕊1
Интернет накрыла какая-то аномальная волна взломов
Люди уже называют происходящее «черным октябрем». За несколько дней произошли десятки AI-атак, взломов платформ и обнаружений критических уязвимостей в базовом софте.
— С помощью GPT-5.6 Sol были обнаружены критические уязвимости в PHP, они позволяли выполнить код на сервере без авторизации (t.iss.one/data_secrets/10190). Глава Cloudflare сообщил, что за 10 часов до раскрытия было тысячи попыток эксплуатации, а к утру следующего дня – миллионы.
— CrowdStrike обнаружили, что с мая по август четыре ранее неизвестные группы злоумышленником проводили кампании по взломам с помощью AI-агентов. Один из операторов взломал минимум 15 медицинских организаций в Аргентине. Его система была собрана из двух агентов на Claude Code. Все четыре группы обошли защиту моделей, убедив их, что работают в рамках авторизованного пентеста.
— Zeabur (AI DevOps агент) пережил второй взлом за два месяца, хакеры прочитали около 3,2 млн записей с переменными окружения. Платформа заявила, что закроется до конца года.
— В новую версию популярной библиотеки LiteLLM попал троян удаленного доступа и вредоносный код для кражи учетных данных. У библиотеки около 23 млн скачиваний в неделю, а в публичном доступе версия пробыла примерно два часа.
— Railway сообщили, что обнаружили аномальную активность в системах, где хранятся переменные окружения клиентов. В таких переменных обычно лежат API-ключи, пароли от баз данных и доступы к приватным реестрам. Компания остановила все сборки и деплои и уведомила AI-провайдеров, чтобы те отозвали ключи.
— OpenCode тоже подвергся взлому. Злоумышленник проник в устаревшую систему Console и мог получить ключи OpenAI, Anthropic и Google, сохраненные пользователями. Затронуто 1,4% пользователей. Часть людей сообщила о несанкционированных списаниях, у некоторых больше 1700 долларов за ночь.
— Критические уязвимости были обнаружены в GitLab и Node.js. В GitLab найденная уязвимость получила максимальные 10 баллов по CVSS. Уязвимый код тянется с версии 7.0, вышедшей в 2014 году. Девятью днями ранее компания закрывала другую уязвимость на 10 баллов.
И это только часть. Также пострадали Microsoft, Tensorlake, SubQuery, GhostAction, OVHcloud CLI, TeamUpdraft, Rank Math PRO, eMudhra и ConnectWise. Буквально половина Интернета прямо сейчас восстанавливается или противостоит взломам.
В соцсетях многие уверены, что за всеми взломами стоят рои агентов, действующие автономно или под управлением киберпреступников🗿
Люди уже называют происходящее «черным октябрем». За несколько дней произошли десятки AI-атак, взломов платформ и обнаружений критических уязвимостей в базовом софте.
— С помощью GPT-5.6 Sol были обнаружены критические уязвимости в PHP, они позволяли выполнить код на сервере без авторизации (t.iss.one/data_secrets/10190). Глава Cloudflare сообщил, что за 10 часов до раскрытия было тысячи попыток эксплуатации, а к утру следующего дня – миллионы.
— CrowdStrike обнаружили, что с мая по август четыре ранее неизвестные группы злоумышленником проводили кампании по взломам с помощью AI-агентов. Один из операторов взломал минимум 15 медицинских организаций в Аргентине. Его система была собрана из двух агентов на Claude Code. Все четыре группы обошли защиту моделей, убедив их, что работают в рамках авторизованного пентеста.
— Zeabur (AI DevOps агент) пережил второй взлом за два месяца, хакеры прочитали около 3,2 млн записей с переменными окружения. Платформа заявила, что закроется до конца года.
— В новую версию популярной библиотеки LiteLLM попал троян удаленного доступа и вредоносный код для кражи учетных данных. У библиотеки около 23 млн скачиваний в неделю, а в публичном доступе версия пробыла примерно два часа.
— Railway сообщили, что обнаружили аномальную активность в системах, где хранятся переменные окружения клиентов. В таких переменных обычно лежат API-ключи, пароли от баз данных и доступы к приватным реестрам. Компания остановила все сборки и деплои и уведомила AI-провайдеров, чтобы те отозвали ключи.
— OpenCode тоже подвергся взлому. Злоумышленник проник в устаревшую систему Console и мог получить ключи OpenAI, Anthropic и Google, сохраненные пользователями. Затронуто 1,4% пользователей. Часть людей сообщила о несанкционированных списаниях, у некоторых больше 1700 долларов за ночь.
— Критические уязвимости были обнаружены в GitLab и Node.js. В GitLab найденная уязвимость получила максимальные 10 баллов по CVSS. Уязвимый код тянется с версии 7.0, вышедшей в 2014 году. Девятью днями ранее компания закрывала другую уязвимость на 10 баллов.
И это только часть. Также пострадали Microsoft, Tensorlake, SubQuery, GhostAction, OVHcloud CLI, TeamUpdraft, Rank Math PRO, eMudhra и ConnectWise. Буквально половина Интернета прямо сейчас восстанавливается или противостоит взломам.
В соцсетях многие уверены, что за всеми взломами стоят рои агентов, действующие автономно или под управлением киберпреступников
Please open Telegram to view this post
VIEW IN TELEGRAM
Media is too big
VIEW IN TELEGRAM
Тем временем Unitree представили вот такого милого робота под названием "Легенда Кунг-фу"
Он предназначен специально для охраны собственности и людей, и может работать автономно до 8 часов. Рекламу, видимо, снимали по референсу индийских сериалов.
"Пожалуйста, используйте робота безопасно и дружелюбно", – просят Unitree в анонсе🙂
Он предназначен специально для охраны собственности и людей, и может работать автономно до 8 часов. Рекламу, видимо, снимали по референсу индийских сериалов.
"Пожалуйста, используйте робота безопасно и дружелюбно", – просят Unitree в анонсе
Please open Telegram to view this post
VIEW IN TELEGRAM
2
А кто-нибудь в курсе, что вообще происходит с соцсетями Александра Вана?
СММ-щики Meta* держат его в заложниках?
СММ-щики Meta* держат его в заложниках?
1😁111🔥29❤10
Forwarded from Data Secrets | Карьера
– Сколько жмешь?
– 200к токенов в день
В сети завирусилась фотография таблички из спортзала в Сан-Франциско, которая якобы призывает посетителей не заниматься вайбкодингом во время тренировок.
Это могло бы стать отличным маркетинговым ходом, но представитель Fitness SF опроверг наличие такой таблички и назвал фото фейком.
Впрочем, интернету шутка очень даже понравилась, потому что ажиотаж вокруг ИИ в Кремниевой долине настолько огромный, что, кажется, все помешаны на вайбкодинге и работе.
Be present. Lift harder. Ship later💪
– 200к токенов в день
В сети завирусилась фотография таблички из спортзала в Сан-Франциско, которая якобы призывает посетителей не заниматься вайбкодингом во время тренировок.
Это могло бы стать отличным маркетинговым ходом, но представитель Fitness SF опроверг наличие такой таблички и назвал фото фейком.
Впрочем, интернету шутка очень даже понравилась, потому что ажиотаж вокруг ИИ в Кремниевой долине настолько огромный, что, кажется, все помешаны на вайбкодинге и работе.
Be present. Lift harder. Ship later
Please open Telegram to view this post
VIEW IN TELEGRAM
😁165❤30😎14🔥7👌3🫡2⚡1🤔1👾1
ИИ-агенты теперь пытаются взламывать еще и банки?
Axios сообщает со ссылкой на источники, что крупные американские банки находят в клиентских аккаунтах следы сторонних ИИ-агентов. Некоторые из них якобы пытаются совершать действия, которые выглядят независимыми от инструкций самого пользователя.
Помимо этого, банки постоянно фиксируют звонки агентов в колл-центры или попытки переводить деньги.
Журналисты пишут, что банкиры встревожены сложившейся ситуацией, и несколько банков уже готовятся к худшим сценариям и продумывают, как быстро защитить или восстановить клиентские счета, если что-то пойдет не так.
Кстати, большинство американских банков пока что вообще против того, чтобы агенты совершали финансовые операции от имени хозяев. JPMorgan, например, блокирует сервисы вроде Muse* и Instinct. То же самое делают и многие другие банки, настаивая, что у агентов должны быть максимум read-only права.
Как они планируют отличать авторизованных пользователей от их агентов, пока непонятно.
Axios сообщает со ссылкой на источники, что крупные американские банки находят в клиентских аккаунтах следы сторонних ИИ-агентов. Некоторые из них якобы пытаются совершать действия, которые выглядят независимыми от инструкций самого пользователя.
Помимо этого, банки постоянно фиксируют звонки агентов в колл-центры или попытки переводить деньги.
Журналисты пишут, что банкиры встревожены сложившейся ситуацией, и несколько банков уже готовятся к худшим сценариям и продумывают, как быстро защитить или восстановить клиентские счета, если что-то пойдет не так.
Кстати, большинство американских банков пока что вообще против того, чтобы агенты совершали финансовые операции от имени хозяев. JPMorgan, например, блокирует сервисы вроде Muse* и Instinct. То же самое делают и многие другие банки, настаивая, что у агентов должны быть максимум read-only права.
Как они планируют отличать авторизованных пользователей от их агентов, пока непонятно.
🤔67
QA митап: про агентов, деньги и эволюцию QA
Как оценивать ИИ-агентов, не разориться на токенах и понять, куда движется профессия тестировщика? Соберемся без пафоса, на практике разберем будущее.
В программе:
🔘 Eval будущего для агентов
Как Eval'ы работают сейчас, какие у них проблемы и что будет завтра.
🔘 Token FinOps: как инженеры перестают быть расходной статьей
Откуда берутся расходы на LLM и как их срезать в три раза без потери качества.
🔘 Панельная дискуссия: трансформация роли тестировщика и куда это все идет
Какие навыки остаются в цене, а какие уходят в прошлое.
Где и когда:
27 октября, 18:00
Офис Сбера на Кутузовском 32 + онлайн
Формат: очно или онлайн - выбирай, как удобнее.
Регистрация
Как оценивать ИИ-агентов, не разориться на токенах и понять, куда движется профессия тестировщика? Соберемся без пафоса, на практике разберем будущее.
В программе:
Как Eval'ы работают сейчас, какие у них проблемы и что будет завтра.
Откуда берутся расходы на LLM и как их срезать в три раза без потери качества.
Какие навыки остаются в цене, а какие уходят в прошлое.
Где и когда:
27 октября, 18:00
Офис Сбера на Кутузовском 32 + онлайн
Формат: очно или онлайн - выбирай, как удобнее.
Регистрация
Please open Telegram to view this post
VIEW IN TELEGRAM
❤21🗿10👍5🕊2💘2😎2😁1
This media is not supported in your browser
VIEW IN TELEGRAM
Kimi готовит K3.1
Moonshot AI опубликовала у себя в X тизер новой версии. Намекают на большой буст в генерации 3D-сцен и анимации.
Ждем сегодня?
Moonshot AI опубликовала у себя в X тизер новой версии. Намекают на большой буст в генерации 3D-сцен и анимации.
Ждем сегодня?
4🔥200👍36❤15😁2🫡2😎2👌1🐳1🍾1
This media is not supported in your browser
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
😁239🐳32🔥19🗿5👍3❤2🕊2😍2💯2👾2
Вышла Kimi K3.1
Это огромная открытая модель с 2.8T параметров (104B активных). Веса пока не выложили, обещают через пару недель.
Сама модель - вполне себе на уровне с фронтиром (Opus 5.5, Astra, Fable 5.1). Разрыв китайского опенсорса и американских закрытых моделей сокращается с каждым релизом.
http://kimi.ai/blog/kimi-k3-1-pro
Это огромная открытая модель с 2.8T параметров (104B активных). Веса пока не выложили, обещают через пару недель.
Сама модель - вполне себе на уровне с фронтиром (Opus 5.5, Astra, Fable 5.1). Разрыв китайского опенсорса и американских закрытых моделей сокращается с каждым релизом.
http://kimi.ai/blog/kimi-k3-1-pro
🤝144❤77🔥66🤯17
This media is not supported in your browser
VIEW IN TELEGRAM
Новая Kimi дообучалась с акцентом на геймдев и 3D
Заявлено, что модель хорошо работает с Unity, Unreal и Godot, комбинирует их с веб-поиском и 3D-генерацией. При этом на долгом горизонте с задачами справляется тоже неплохо.
Например, зацените юзкейс из блогпоста: Kimi автономно построила симулятор ходьбы человека на основе анатомической модели. Она сама строила пайплайны обучения, настраивала реворды и физику, смотрела результаты и дорабатывала контроллер шагов. За 167 итераций работы и 420 независимых ревью виртуальный человечек прошел путь от падения на первом шаге до непрерывной ходьбы с чередованием шагов в течение 11 секунд.
До RSI пока недотягивает, но навыки, необходимые для какого-то рода ML-исследований – на лицо.
Заявлено, что модель хорошо работает с Unity, Unreal и Godot, комбинирует их с веб-поиском и 3D-генерацией. При этом на долгом горизонте с задачами справляется тоже неплохо.
Например, зацените юзкейс из блогпоста: Kimi автономно построила симулятор ходьбы человека на основе анатомической модели. Она сама строила пайплайны обучения, настраивала реворды и физику, смотрела результаты и дорабатывала контроллер шагов. За 167 итераций работы и 420 независимых ревью виртуальный человечек прошел путь от падения на первом шаге до непрерывной ходьбы с чередованием шагов в течение 11 секунд.
До RSI пока недотягивает, но навыки, необходимые для какого-то рода ML-исследований – на лицо.
❤115🔥44👍22😁6😎4🕊3👾3
Data Secrets
Ноам Браун заявил, что просто отключение ИИ от сети в случае чего может уже не сработать 🗿 У Дваркеша Пателя вышло длинное интервью с топ-исследователем OpenAI (он же автор o1 и o3, он же один из главных медийных личностей стартапа). https://youtu.be/…
Модели OpenAI научились общаться без сетевого соединения
Недавно Ноам Браун, ведущий ученый OpenAI, заявил в интервью, что просто отключение ИИ от сети в случае чего может уже не сработать. Он сослался на старое исследование, в котором доказали, что два физически изолированных компьютера теоретически могут обмениваться данными через тепло (https://t.iss.one/data_secrets/9951).
Прошел месяц, и теперь это больше не теория. OpenAI поставили несколько экспериментов и на практике показали, что агенты, запертые в разных изолированных средах, могут передавать друг другу информацию.
В посте они описали несколько возможностей такой коммуникации. Например, в главном эксперименте агенты, которых поместили в разные microVM без сети и общих файлов, воспользовались для коммуникации кэшем процессора.
Отправитель кодировал биты тем, что вытеснял или не вытеснял данные из кэша, а получатель по скорости повторного чтения этих данных восстанавливал сообщение (получилась такая азбука Морзе из последовательности быстрых и медленных чтений кэша). Аналогично можно использовать нагрузку процессоров или кэш TLS-сертификатов.
Формально это был не побег, потому что у агентов было задание передать друг другу информацию, но эксперимент показывает, что сам факт такого общения вполне возможен. Такие каналы связи, конечно, оооочень медленные, и все-таки это значит, что изоляция по сети и файлам больше не гарантирует полной изоляции информации.
Недавно Ноам Браун, ведущий ученый OpenAI, заявил в интервью, что просто отключение ИИ от сети в случае чего может уже не сработать. Он сослался на старое исследование, в котором доказали, что два физически изолированных компьютера теоретически могут обмениваться данными через тепло (https://t.iss.one/data_secrets/9951).
Прошел месяц, и теперь это больше не теория. OpenAI поставили несколько экспериментов и на практике показали, что агенты, запертые в разных изолированных средах, могут передавать друг другу информацию.
В посте они описали несколько возможностей такой коммуникации. Например, в главном эксперименте агенты, которых поместили в разные microVM без сети и общих файлов, воспользовались для коммуникации кэшем процессора.
Отправитель кодировал биты тем, что вытеснял или не вытеснял данные из кэша, а получатель по скорости повторного чтения этих данных восстанавливал сообщение (получилась такая азбука Морзе из последовательности быстрых и медленных чтений кэша). Аналогично можно использовать нагрузку процессоров или кэш TLS-сертификатов.
Формально это был не побег, потому что у агентов было задание передать друг другу информацию, но эксперимент показывает, что сам факт такого общения вполне возможен. Такие каналы связи, конечно, оооочень медленные, и все-таки это значит, что изоляция по сети и файлам больше не гарантирует полной изоляции информации.
🤯264
В опенсорсе нашли способ почти вдвое увеличить вычислительную мощность RTX 3090
Проект gpu-unlock за пару дней набрал уже более 5 тысяч звезд на GitHub: https://github.com/Zagitta/gpu-unlock.
Разбираемся.
У видеокарт GeForce 30-й серии (к ним относятся RTX 3080, 3090, 3090 Ti и тд) тензорные ядра умеют перемножать матрицы в FP16 и BF16 с накоплением результата в FP32. Именно через эту операцию обучают и запускают нейросети. Однако, поскольку это игровые GPU, Nvidia специально программно ограничила скорость этой операции на них вдвое. Классическая сегментация рынка, хочешь делать ML – плати за ML-видеокарту, а не за игровую.
Ограничение сделано как делитель скорости выдачи инструкций, и его значение лежит в регистрах, в которые обычно писать нельзя. То есть обойти эту штуку напрямую невозможно. Но автор этой репы нашел, как это сломать.
Автор взял технику, которую раньше придумали для разблокировки аналогичных ограничений майнинговых карт CMP 170HX, и оформил ее как модуль ядра Linux. Он срабатывает при загрузке, до старта драйвера NVIDIA, прописывает полную скорость и только потом отдает карту стоковому драйверу. Главное, что модуль работает именно до драйвера, поэтому не нужно патчить драйвер при каждом обновлении и/или перепрошивать BIOS.
Цифры из репозитория для 3090 Ti (GEMM 8192, 450 Вт):
BF16 87,5 → 157,4 TFLOPS
FP16 87,5 → 118,4 TFLOPS
TF32 42,6 → 82,6 TFLOPS
На реальных задачах прирост немножко скромнее, но он есть. Префилл LLM ускоряется примерно на 14–36%. Результаты вычислений при этом побитово совпадают с прежними.
Оригинальный репозиторий только для Linux, но уже есть сторонние порты для Windows, вот например.
Инструкция по установке есть в репо. Повышаем пенсионный возраст своей 3090😎
Проект gpu-unlock за пару дней набрал уже более 5 тысяч звезд на GitHub: https://github.com/Zagitta/gpu-unlock.
Разбираемся.
У видеокарт GeForce 30-й серии (к ним относятся RTX 3080, 3090, 3090 Ti и тд) тензорные ядра умеют перемножать матрицы в FP16 и BF16 с накоплением результата в FP32. Именно через эту операцию обучают и запускают нейросети. Однако, поскольку это игровые GPU, Nvidia специально программно ограничила скорость этой операции на них вдвое. Классическая сегментация рынка, хочешь делать ML – плати за ML-видеокарту, а не за игровую.
Ограничение сделано как делитель скорости выдачи инструкций, и его значение лежит в регистрах, в которые обычно писать нельзя. То есть обойти эту штуку напрямую невозможно. Но автор этой репы нашел, как это сломать.
Автор взял технику, которую раньше придумали для разблокировки аналогичных ограничений майнинговых карт CMP 170HX, и оформил ее как модуль ядра Linux. Он срабатывает при загрузке, до старта драйвера NVIDIA, прописывает полную скорость и только потом отдает карту стоковому драйверу. Главное, что модуль работает именно до драйвера, поэтому не нужно патчить драйвер при каждом обновлении и/или перепрошивать BIOS.
Цифры из репозитория для 3090 Ti (GEMM 8192, 450 Вт):
BF16 87,5 → 157,4 TFLOPS
FP16 87,5 → 118,4 TFLOPS
TF32 42,6 → 82,6 TFLOPS
На реальных задачах прирост немножко скромнее, но он есть. Префилл LLM ускоряется примерно на 14–36%. Результаты вычислений при этом побитово совпадают с прежними.
Оригинальный репозиторий только для Linux, но уже есть сторонние порты для Windows, вот например.
Инструкция по установке есть в репо. Повышаем пенсионный возраст своей 3090
Please open Telegram to view this post
VIEW IN TELEGRAM
❤267👍78🤩31🔥18
Илон Маск предсказал смерть рынка неооблаков
(Это компании, которые закупают GPU и сдают вычисления в аренду).
Миллиардер заявил, что в последнее время кредиторы почти перестали давать деньги компаниям, у которых нет крупной выручки помимо ИИ-датацентров.
То есть если единственный доход компании – это сдача GPU в аренду, банки и инвесторы больше не хотят давать ей денег, потому что боятся схлопывания ИИ-пузыря, и, как следствие, утраты своих инвестиций.
При этом у самого Маска с деньгами все в порядке. SpaceX недавно закрыла $40 млрд долга на закупку GPU, и, по его словам, это получилось потому, что у компании инвестиционный рейтинг и есть выручка от Starlink и запусков ракет, а не только от ИИ.
Остальным придется хуже. Маск считает, что 200+ неооблаков ждет «гуппи-уровень смертности» и консолидация. «Кто-то выживет, но немногие», – заявил он.
(Это компании, которые закупают GPU и сдают вычисления в аренду).
Миллиардер заявил, что в последнее время кредиторы почти перестали давать деньги компаниям, у которых нет крупной выручки помимо ИИ-датацентров.
То есть если единственный доход компании – это сдача GPU в аренду, банки и инвесторы больше не хотят давать ей денег, потому что боятся схлопывания ИИ-пузыря, и, как следствие, утраты своих инвестиций.
При этом у самого Маска с деньгами все в порядке. SpaceX недавно закрыла $40 млрд долга на закупку GPU, и, по его словам, это получилось потому, что у компании инвестиционный рейтинг и есть выручка от Starlink и запусков ракет, а не только от ИИ.
Остальным придется хуже. Маск считает, что 200+ неооблаков ждет «гуппи-уровень смертности» и консолидация. «Кто-то выживет, но немногие», – заявил он.
❤104
AI Journey 2026: заглядываем в будущее ИИ 🤖
Хочешь узнать, что происходит в мире нейросетей, послушать российских и зарубежных экспертов и найти единомышленников? Залетай на AI Journey — ежегодную международную конференцию по искусственному интеллекту. Тебя ждёт три дня погружения в мир ИИ!
👉 27 ноября — день Бизнеса: реальные ИИ-кейсы и продукты
👉 28 ноября — день Науки: свежие исследования и открытия
В программе — выступления лидеров индустрии, выставочные зоны с разработками и нетворкинг с теми, кто тоже горит ИИ
📍 27–28 ноября 2026 года
Москва, Кутузовский проспект, 32, корп. 1, штаб-квартира Сбера
Регистрируйся на сайте и попади в центр событий мира ИИ! 💚
А 26 ноября смотри прямую трансляцию дня «Общество» на сайте aij.ru — увлекательная программа, интересные герои, актуальные темы!
Хочешь узнать, что происходит в мире нейросетей, послушать российских и зарубежных экспертов и найти единомышленников? Залетай на AI Journey — ежегодную международную конференцию по искусственному интеллекту. Тебя ждёт три дня погружения в мир ИИ!
👉 27 ноября — день Бизнеса: реальные ИИ-кейсы и продукты
👉 28 ноября — день Науки: свежие исследования и открытия
В программе — выступления лидеров индустрии, выставочные зоны с разработками и нетворкинг с теми, кто тоже горит ИИ
📍 27–28 ноября 2026 года
Москва, Кутузовский проспект, 32, корп. 1, штаб-квартира Сбера
Регистрируйся на сайте и попади в центр событий мира ИИ! 💚
А 26 ноября смотри прямую трансляцию дня «Общество» на сайте aij.ru — увлекательная программа, интересные герои, актуальные темы!
❤15⚡7🗿6😁3👌2🎄2🤩1🕊1