Media is too big
VIEW IN TELEGRAM
Просто чувак перевозит себя агротехническим дроном, потому что ему влом пешком ходить по полю.
Вместо летающих машин мы получили летающих азиатов.
Вместо летающих машин мы получили летающих азиатов.
Антропики снова полезли Клоду в чугунную голову с целью разузнать что-нибудь нового. И разузнали, что его характер заметно меняется в зависимости от модели и языка, на котором с ним разговаривают.
Для исследования взяли почти 310к реальных обезличенных диалогов Claude.ai на двадцати разных языках. После этого поведение моделей разложили по четырём шкалам:
— покладистость или осторожность
— теплота или строгость
— подробность или краткость
— честное признание сомнений или тупо выполнение задачи.
И вот что получилось.
Sonnet 4.6 — тёплый и услужливый добряк. Чаще поддерживает идеи пользователя, подстраивается под тон, шутит и старается не грузить лишними подробностями. Opus 4.6 оказался деловым работягой: меньше болтает, держится в рамках задачи и пытается сразу выдать результат. Opus 4.7 осторожный душнила. Чаще спорит с допущениями, сам предупреждает о рисках, указывает на ошибки и подробно объясняет ход мысли.
Но дальше интереснее: поведение заметно зависит ещё и от языка.
На хинди и арабском Claude оказался самым тёплым, вежливым и ободряющим. На английском самым осторожным и подробным. На русском же Клод получается самым строгим: чаще исправляет детали, требует доказательств и оспаривает предположения юзера. На голландском он чаще признаёт собственные ошибки и неуверенность. А на индонезийском меньше рефлексирует и тупо пытается выполнить поставленную задачу.
Сами Anthropic отдельно уточняют: это не значит, что у Claude появилась душа, характер или настоящие убеждения. Речь тут только об устойчивых паттернах в его ответах. Причём исследователи пока сами не знают, откуда именно берутся языковые различия: из состава датасетов, культурных норм или косяков при дообучении модельки.
Получается, что на русском Клод скорее разнесёт вашу идею по пунктам, а на хинди сначала похвалит, поддержит и только потом аккуратно намекнёт, что план вообще-то говно.
тут статья
Для исследования взяли почти 310к реальных обезличенных диалогов Claude.ai на двадцати разных языках. После этого поведение моделей разложили по четырём шкалам:
— покладистость или осторожность
— теплота или строгость
— подробность или краткость
— честное признание сомнений или тупо выполнение задачи.
И вот что получилось.
Sonnet 4.6 — тёплый и услужливый добряк. Чаще поддерживает идеи пользователя, подстраивается под тон, шутит и старается не грузить лишними подробностями. Opus 4.6 оказался деловым работягой: меньше болтает, держится в рамках задачи и пытается сразу выдать результат. Opus 4.7 осторожный душнила. Чаще спорит с допущениями, сам предупреждает о рисках, указывает на ошибки и подробно объясняет ход мысли.
Но дальше интереснее: поведение заметно зависит ещё и от языка.
На хинди и арабском Claude оказался самым тёплым, вежливым и ободряющим. На английском самым осторожным и подробным. На русском же Клод получается самым строгим: чаще исправляет детали, требует доказательств и оспаривает предположения юзера. На голландском он чаще признаёт собственные ошибки и неуверенность. А на индонезийском меньше рефлексирует и тупо пытается выполнить поставленную задачу.
Сами Anthropic отдельно уточняют: это не значит, что у Claude появилась душа, характер или настоящие убеждения. Речь тут только об устойчивых паттернах в его ответах. Причём исследователи пока сами не знают, откуда именно берутся языковые различия: из состава датасетов, культурных норм или косяков при дообучении модельки.
Получается, что на русском Клод скорее разнесёт вашу идею по пунктам, а на хинди сначала похвалит, поддержит и только потом аккуратно намекнёт, что план вообще-то говно.
тут статья
Anthropic
Claude’s values across models and languages
We analyzed 300,000 real conversations to measure the values Claude expresses across models and languages, compressed into four interpretable axes.
Вайбкодинг + Вайбмаркетинг
Как внедрять ИИ так, чтобы он приносил реальную прибыль?
Все вокруг кричат: навайбкодил приложение, запилил сервис за выходные, собрал тот самый B2B SaaS на миллиард🤑
Окей. А дальше что?😮 Продукт готов — и тишина. Ноль установок, ноль денег
Пока все учились вайбкодить, узкое место переехало туда, где оно всегда и было - в маркетинг:
— трафик льётся, окупаемость падает
— площадок больше, чем рук: Reels, TikTok, Shorts, Telegram — везде нужен контент
— продакшн стоит как отдел: дизайнер + монтажёр + копирайтер, и всё равно медленно
— все говорят про ИИ, но что из этого реально приносит деньги — непонятно
Большинство использует ИИ как игрушку: тексты в ChatGPT/Claude, картинки в Higgsfield, установили пару скиллов в Claude. На этом всё☹️ ☹️
Деньги появляются, когда ИИ становится системой, вшитой в юнит-экономику: ресерч → продукт → креативы → реклама → контент → конверсия → удержание👋
💬 14 июля, 20:00 МСК - Покажу такую систему целиком уже сегодня
Поиск идей и точек роста — ресерч ниш, конкурентов и болей аудитории через ИИ → список точек роста существующего бизнеса, ниши для новых продуктов и понимание как в них строить маркетинг
2. AI-продакшн и закупка - генерация баннеров и видео + автоматизация кампаний в Meta, Google, Яндексе → сотни креативов в день без дизайнера + обратная петля обучения закупки с ИИ
3. Виральный контент-продакшн для соц.сетей - контент-планы, анализ конкурентов, AI-аватары, монтаж, авто-карусели → ежедневный постинг на всех площадках в одиночку
4. Персонализация — AI-сегментация, офферы и воронки под каждый сегмент → выше конверсия из тех же лидов
Я 8 лет в маркетинге приложений, игр и веб-сервисов. За последний год вырастил 3 приложения с нуля до $300к MRR (пока не своих). В пике управлял бюджетом $1.9 млн/мес
Весь этот опыт пересобрал в собственный AI-стек
На вебинаре будет только то, что использую сам в своих проектах
🎁 Зарегистрированным бесплатные уроки по Claude
Сегодня в 20:00
🎉 ЗАРЕГИСТРИРОВАТЬСЯ🎉
И не забудьте подписаться на канал для анонса:) (тык тык)
Как внедрять ИИ так, чтобы он приносил реальную прибыль?
Все вокруг кричат: навайбкодил приложение, запилил сервис за выходные, собрал тот самый B2B SaaS на миллиард
Окей. А дальше что?
Пока все учились вайбкодить, узкое место переехало туда, где оно всегда и было - в маркетинг:
— трафик льётся, окупаемость падает
— площадок больше, чем рук: Reels, TikTok, Shorts, Telegram — везде нужен контент
— продакшн стоит как отдел: дизайнер + монтажёр + копирайтер, и всё равно медленно
— все говорят про ИИ, но что из этого реально приносит деньги — непонятно
Большинство использует ИИ как игрушку: тексты в ChatGPT/Claude, картинки в Higgsfield, установили пару скиллов в Claude. На этом всё
Деньги появляются, когда ИИ становится системой, вшитой в юнит-экономику: ресерч → продукт → креативы → реклама → контент → конверсия → удержание
Поиск идей и точек роста — ресерч ниш, конкурентов и болей аудитории через ИИ → список точек роста существующего бизнеса, ниши для новых продуктов и понимание как в них строить маркетинг
2. AI-продакшн и закупка - генерация баннеров и видео + автоматизация кампаний в Meta, Google, Яндексе → сотни креативов в день без дизайнера + обратная петля обучения закупки с ИИ
3. Виральный контент-продакшн для соц.сетей - контент-планы, анализ конкурентов, AI-аватары, монтаж, авто-карусели → ежедневный постинг на всех площадках в одиночку
4. Персонализация — AI-сегментация, офферы и воронки под каждый сегмент → выше конверсия из тех же лидов
Я 8 лет в маркетинге приложений, игр и веб-сервисов. За последний год вырастил 3 приложения с нуля до $300к MRR (пока не своих). В пике управлял бюджетом $1.9 млн/мес
Весь этот опыт пересобрал в собственный AI-стек
На вебинаре будет только то, что использую сам в своих проектах
Сегодня в 20:00
И не забудьте подписаться на канал для анонса:) (тык тык)
Please open Telegram to view this post
VIEW IN TELEGRAM
This media is not supported in your browser
VIEW IN TELEGRAM
Листал тут твиттор и наткнулся на пост, в котором какой-то чувак кичится "первым успешным воздушным сбитием летающей моли автономным микродроном".
Пошёл в профиль посмотреть чо за тип. Оказалось, это французский инженер и у него с корешем есть целый стартап Tornyol, который даже прошел через Y Combinator. И цель у них ни много ни мало — полное истребление комаров в городах.
Специально для комаринного геноцида они разработали микродрон весом 40 грамм. На борту содержится куча чувствительных микрофонов и ультразвуковых датчиков. Они мониторят воздух и по частоте взмахов крыльев вычисляют именно комара (чтобы случайно не помножить на ноль какую-нибудь полезную пчелу или шмеля). А дальше начинается РЕЗНЯ: дрон наводится на цель и тупо шинкует пискливого ублюдка своими пропеллерами. При этом дрон сам патрулирует комнату или двор, сам находит врага, перемалывает его в фарш и улетает обратно на базу заряжаться.
Стоить это домашнее ПВО будет около 50 бачей в месяц по подписке. Админ вчера был люто покусан комарами на речке, так что очень хочет себе вот такой дрон. А вот чем закончится попытка устроить комарам техногенный геноцид и не развалится ли заодно половина пищевой цепочки, оставим разбираться биологам.
тут сайт стартапа и все подробности.
Пошёл в профиль посмотреть чо за тип. Оказалось, это французский инженер и у него с корешем есть целый стартап Tornyol, который даже прошел через Y Combinator. И цель у них ни много ни мало — полное истребление комаров в городах.
Специально для комаринного геноцида они разработали микродрон весом 40 грамм. На борту содержится куча чувствительных микрофонов и ультразвуковых датчиков. Они мониторят воздух и по частоте взмахов крыльев вычисляют именно комара (чтобы случайно не помножить на ноль какую-нибудь полезную пчелу или шмеля). А дальше начинается РЕЗНЯ: дрон наводится на цель и тупо шинкует пискливого ублюдка своими пропеллерами. При этом дрон сам патрулирует комнату или двор, сам находит врага, перемалывает его в фарш и улетает обратно на базу заряжаться.
Стоить это домашнее ПВО будет около 50 бачей в месяц по подписке. Админ вчера был люто покусан комарами на речке, так что очень хочет себе вот такой дрон. А вот чем закончится попытка устроить комарам техногенный геноцид и не развалится ли заодно половина пищевой цепочки, оставим разбираться биологам.
тут сайт стартапа и все подробности.
Media is too big
VIEW IN TELEGRAM
Если после того, как вас заменит ИИ на работе, вы планировали уйти в курьеры, то у меня для вас плохие новости.
Чуваки из Boston Dynamics придумали занятие для своего робопёселя Spot'а. А именно, отправили его таскать посылки от машины до двери. Схема такая: водитель паркуется у дома, выпускает робота из машины, грузит коробки ему на спину, и робот топает до крыльца, преодолевая бордюры, камни и ступеньки. На месте он аккуратно сгружает посылку со спины и возвращается в кузов. Водила же в это время может подготавливать следующую партию коробок к отгрузке.
Boston Dynamics пишут, что Spot подходит для данной цели очеьн хорошо, ибо колёсные роботы лажают на первой же ступеньке или яме, а дроны хреновенько залетают под навес крыльца и тупо бросают посылки посреди двора. Четырёхногий робопёс на своих четырёх отлично справляется с бездорожьем, особенно если ходит по заранее записанным маршрутам.
Естественно, всё это дело напичкано датчиками и электроникой, чтобы максимально сохранить товар при транспортировке и разгрузке. На спине у Spot стоит специальный конвейер с датчиками остановки и выдвижным лотком, который помогает аккуратно спускать коробки на землю. Разработчики даже проверяли систему на коробке с яйцами.
В первый раз при доставке на определённый адрес роботом, скорее всего, будет управлять водитель. Он проведёт Spot по маршруту, после чего путь сохранится, и в следующие разы всё это хозяйство должно работать уже на автопилоте. А если робопёс где-нибудь застрянет, на подхвате планируют держать удалённых операторов.
Судя по всему, скоро работа курьера сведётся к тому, чтобы быть личным шофёром робо-собаки, да протирать ей датчики. Да и то временно, пока сробо-собаки не научатся управляться сами.
Чуваки из Boston Dynamics придумали занятие для своего робопёселя Spot'а. А именно, отправили его таскать посылки от машины до двери. Схема такая: водитель паркуется у дома, выпускает робота из машины, грузит коробки ему на спину, и робот топает до крыльца, преодолевая бордюры, камни и ступеньки. На месте он аккуратно сгружает посылку со спины и возвращается в кузов. Водила же в это время может подготавливать следующую партию коробок к отгрузке.
Boston Dynamics пишут, что Spot подходит для данной цели очеьн хорошо, ибо колёсные роботы лажают на первой же ступеньке или яме, а дроны хреновенько залетают под навес крыльца и тупо бросают посылки посреди двора. Четырёхногий робопёс на своих четырёх отлично справляется с бездорожьем, особенно если ходит по заранее записанным маршрутам.
Естественно, всё это дело напичкано датчиками и электроникой, чтобы максимально сохранить товар при транспортировке и разгрузке. На спине у Spot стоит специальный конвейер с датчиками остановки и выдвижным лотком, который помогает аккуратно спускать коробки на землю. Разработчики даже проверяли систему на коробке с яйцами.
В первый раз при доставке на определённый адрес роботом, скорее всего, будет управлять водитель. Он проведёт Spot по маршруту, после чего путь сохранится, и в следующие разы всё это хозяйство должно работать уже на автопилоте. А если робопёс где-нибудь застрянет, на подхвате планируют держать удалённых операторов.
Судя по всему, скоро работа курьера сведётся к тому, чтобы быть личным шофёром робо-собаки, да протирать ей датчики. Да и то временно, пока сробо-собаки не научатся управляться сами.
This media is not supported in your browser
VIEW IN TELEGRAM
ГОСПОДИ, КАК ЖЕ ГОДНО!!!!!!
В Китае стартовала полноценная бойцовская лига для человекоподобных роботов URKL (Ultimate Robot Knock-out Legend).
В первом же бою одному из участников наглухо сносит башку, но он продолжает драться как ни в чём не бывало.
Комментаторы в эфире верно заметили: раз у робота отвалилась голова, значит соперник больше не сможет пробивать хедшоты и зарабатывать на этом очки.
В Китае стартовала полноценная бойцовская лига для человекоподобных роботов URKL (Ultimate Robot Knock-out Legend).
В первом же бою одному из участников наглухо сносит башку, но он продолжает драться как ни в чём не бывало.
Комментаторы в эфире верно заметили: раз у робота отвалилась голова, значит соперник больше не сможет пробивать хедшоты и зарабатывать на этом очки.
В The New York Times вышел отличный материал о том, как устроен бизнес нейрослопа на Amazon.
А началось всё с того, что журналистка издания Кашмир Хилл случайно узнала от знакомых, что на Amazon продаётся её подробная биография за 27 баксов. Книга называлась незатейливо — «The Biography of Kashmir Hill».
Купив этот шедевр, Кашмир обнаружила внутри 90 страниц копипасты из открытых источников, щедро разбавленной полной ерундой, не имеющей с её реальной биографией ничего общего. Автором значился некий Джон Крейн Миллер, который за одну неделю умудрился выпустить десять биографий разных журналистов.
Самого Миллера журналистка так и не нашла. Зато в ходе расследования вышла на другого короля слопа — 70-летнего пенсионера Билла Джонса.
Дед ушёл на пенсию из сферы кибербезопасности, заскучал и решил потыкать ChatGPT. И понеслось. На сегодняшний день он опубликовал на Amazon уже 445 книг на совершенно рандомные темы.
На всех обложках красуется его портрет в солидном деловом костюме — естественно, сгенерированный нейроночками, потому что надевать настоящий костюм и фотографироваться ему было лень. Моё увожение.
Цель у деда выдавать по десять книг в неделю, потому что это максимум который сейчас разрешает Amazon.
В среднем старый продаёт несколько сотен книг в месяц, получая около семи баксов с каждой. За удачный праздничный сезон он продал 800 экземпляров и заработал почти 6000 баксов чистыми.
Сам он называет это "деньгами на бар". Ещё раз моё увожение.
А началось всё с того, что журналистка издания Кашмир Хилл случайно узнала от знакомых, что на Amazon продаётся её подробная биография за 27 баксов. Книга называлась незатейливо — «The Biography of Kashmir Hill».
Купив этот шедевр, Кашмир обнаружила внутри 90 страниц копипасты из открытых источников, щедро разбавленной полной ерундой, не имеющей с её реальной биографией ничего общего. Автором значился некий Джон Крейн Миллер, который за одну неделю умудрился выпустить десять биографий разных журналистов.
Самого Миллера журналистка так и не нашла. Зато в ходе расследования вышла на другого короля слопа — 70-летнего пенсионера Билла Джонса.
Дед ушёл на пенсию из сферы кибербезопасности, заскучал и решил потыкать ChatGPT. И понеслось. На сегодняшний день он опубликовал на Amazon уже 445 книг на совершенно рандомные темы.
На всех обложках красуется его портрет в солидном деловом костюме — естественно, сгенерированный нейроночками, потому что надевать настоящий костюм и фотографироваться ему было лень. Моё увожение.
Цель у деда выдавать по десять книг в неделю, потому что это максимум который сейчас разрешает Amazon.
В среднем старый продаёт несколько сотен книг в месяц, получая около семи баксов с каждой. За удачный праздничный сезон он продал 800 экземпляров и заработал почти 6000 баксов чистыми.
Сам он называет это "деньгами на бар". Ещё раз моё увожение.
Nytimes
I Got Slopped
Someone used A.I. to write my biography. Thousands more of those books are polluting Amazon. Who is behind all this drivel?
This media is not supported in your browser
VIEW IN TELEGRAM
С М Е К А Л О Ч К А
Каждый, кто хоть раз пытался в соло ровно постричь себе башку (даже тупо налысо), знает как это не удобно. Современные технологии приходят на помощь. Товарищ на видео решил проблему гениально: надел VR-очки, запустил мелкий коптер и повесил его снимать свой затылок с последующей трансляцией в VR, а дальше тупо стрижёт себя глядя на себя же в реальном времени.
Для пущей эффективности предлагаю в следующий раз бриться сразу коптером.
Каждый, кто хоть раз пытался в соло ровно постричь себе башку (даже тупо налысо), знает как это не удобно. Современные технологии приходят на помощь. Товарищ на видео решил проблему гениально: надел VR-очки, запустил мелкий коптер и повесил его снимать свой затылок с последующей трансляцией в VR, а дальше тупо стрижёт себя глядя на себя же в реальном времени.
Для пущей эффективности предлагаю в следующий раз бриться сразу коптером.
Forwarded from Сиолошная
Две новости в утро воскресенья, 2026-й год:
1. Huggingface, платформа для загрузки моделей и датасетов + тренировки, раскрыли, что недавно подверглись атаке на инфраструктуру. Эта атака отличалась от предыдущих одним свойством: она была произведена автономной системой ИИ-агентов от начала и до конца.
В результате атаки серьезного урона, по их оценкам, нет, но атакующие получили доступ к ограниченному набору внутренних данных и к нескольким учетным записям внутренних сервисов. Злоумышленник использовал два пути выполнения кода в пайплайне обработки данных, в результате которых внутренняя виртуальная машина запустила вредоносный код. После этого злоумышленник получил доступ на уровне сервера, собрал учетные данные облака и кластера и за выходные проник в несколько внутренних кластеров.
«Кампанией управлял автономный агент (используемая LLM до сих пор неизвестна), который выполнял тысячи отдельных действий в рое короткоживущих виртуальных машин с самомигрирующей командно-контрольной инфраструктурой, развернутой на общедоступных сервисах. Это соответствует сценарию "агентcкого злоумышленника", который давно прогнозировали в индустрии». Ну прям как в Терминаторе показывали👀
Заметить и отразить атаку получилось из-за... ИИ, так как у HuggingFace за логами и аномалиями следит LLM (по описанию похоже на то, что сначала система на основе правил находит разные потенциальные инциденты, а затем модель их перепроверяет более детально).
«Когда мы начали анализ логов, мы сначала использовали передовые модели, работающие через коммерческие API. Это не сработало: для анализа требуется загружать большие объемы реальных команд и артефактов, но эти запросы блокировались защитными механизмами провайдеров, которые не могут отличить специалиста по реагированию на инциденты от злоумышленника. В итоге мы провели криминалистический анализ на нашей собственной инфраструктуре, используя GLM 5.2».
2. Bloomberg: США рассматривают возможность создания надзорного органа для аудита передовых ИИ-моделей. Уже составлен черновик предложения, и он рассматривается главой аппарата Белого дома. Это предложение предусматривает создание независимого регулирующего агентства в сфере ИИ, которое будет подотчетно Комиссии по ценным бумагам и биржам (SEC).
В целом, план США согласуется с предложениями, опубликованными ранее на этой неделе CEO DeepMind Demis Hassabis, который на следующей неделе поедет в Вашингтон обсуждать и лоббировать свои идеи. В публикации в твиттере он сравнил потенциальный новый надзорный орган с FINRA — независимым, финансируемым самой отраслью регулятором брокерских фирм, который технически не является частью правительства США. Свои полномочия он получает от SEC, которая, по сути, делегирует надзор, но проводит аудит и устанавливает правила.
Моё понимание такое, что схема нужна потому, что государство с одной стороны не может быть очень быстрым (как частные компании), а с другой стороны не может платить сотрудникам большие деньги. Официально-то директора и министры получают сущие копейки, меньше чем миддл-инженеры в Google — кто туда пойдет работать?
1. Huggingface, платформа для загрузки моделей и датасетов + тренировки, раскрыли, что недавно подверглись атаке на инфраструктуру. Эта атака отличалась от предыдущих одним свойством: она была произведена автономной системой ИИ-агентов от начала и до конца.
В результате атаки серьезного урона, по их оценкам, нет, но атакующие получили доступ к ограниченному набору внутренних данных и к нескольким учетным записям внутренних сервисов. Злоумышленник использовал два пути выполнения кода в пайплайне обработки данных, в результате которых внутренняя виртуальная машина запустила вредоносный код. После этого злоумышленник получил доступ на уровне сервера, собрал учетные данные облака и кластера и за выходные проник в несколько внутренних кластеров.
«Кампанией управлял автономный агент (используемая LLM до сих пор неизвестна), который выполнял тысячи отдельных действий в рое короткоживущих виртуальных машин с самомигрирующей командно-контрольной инфраструктурой, развернутой на общедоступных сервисах. Это соответствует сценарию "агентcкого злоумышленника", который давно прогнозировали в индустрии». Ну прям как в Терминаторе показывали
Заметить и отразить атаку получилось из-за... ИИ, так как у HuggingFace за логами и аномалиями следит LLM (по описанию похоже на то, что сначала система на основе правил находит разные потенциальные инциденты, а затем модель их перепроверяет более детально).
«Когда мы начали анализ логов, мы сначала использовали передовые модели, работающие через коммерческие API. Это не сработало: для анализа требуется загружать большие объемы реальных команд и артефактов, но эти запросы блокировались защитными механизмами провайдеров, которые не могут отличить специалиста по реагированию на инциденты от злоумышленника. В итоге мы провели криминалистический анализ на нашей собственной инфраструктуре, используя GLM 5.2».
2. Bloomberg: США рассматривают возможность создания надзорного органа для аудита передовых ИИ-моделей. Уже составлен черновик предложения, и он рассматривается главой аппарата Белого дома. Это предложение предусматривает создание независимого регулирующего агентства в сфере ИИ, которое будет подотчетно Комиссии по ценным бумагам и биржам (SEC).
В целом, план США согласуется с предложениями, опубликованными ранее на этой неделе CEO DeepMind Demis Hassabis, который на следующей неделе поедет в Вашингтон обсуждать и лоббировать свои идеи. В публикации в твиттере он сравнил потенциальный новый надзорный орган с FINRA — независимым, финансируемым самой отраслью регулятором брокерских фирм, который технически не является частью правительства США. Свои полномочия он получает от SEC, которая, по сути, делегирует надзор, но проводит аудит и устанавливает правила.
Моё понимание такое, что схема нужна потому, что государство с одной стороны не может быть очень быстрым (как частные компании), а с другой стороны не может платить сотрудникам большие деньги. Официально-то директора и министры получают сущие копейки, меньше чем миддл-инженеры в Google — кто туда пойдет работать?
Please open Telegram to view this post
VIEW IN TELEGRAM
This media is not supported in your browser
VIEW IN TELEGRAM
Скорее бы уже такое же, но чтоб песни короля и шута
Forwarded from Метаверсошная
This media is not supported in your browser
VIEW IN TELEGRAM
Это идеальное применение прозрачных экранов.
Кто хоть раз пытался объясняться через гугл транслейт, постоянно поворачивая телефон к собеседнику, тот понимает, какую мощную боль решили китайцы.
Кто хоть раз пытался объясняться через гугл транслейт, постоянно поворачивая телефон к собеседнику, тот понимает, какую мощную боль решили китайцы.
Тут ШАД (Школа анализа данных Яндекса) подкатили годную движуху для тех, кто уже наигрался с обычными чат-ботами и начал пилить автономных агентов, которые сами ходят по API, пишут код и вообще распоряжаются ресурсами как взрослые полноценные сотрудники.
Вопрос в том, что если дать нейронке доступ к терминалу и корпоративной базе без чёткой архитектуры, разбираться с последствиями потом придётся вам. Именно поэтому стоит сходить на онлайн-интенсив AI Agents Security Week — там как раз про то, как строить это по уму, а не на удачу.
С 27 по 31 июля эксперты из Яндекса будут пояснять:
• В чем вообще разница между просто "умной моделькой" и автономным агентом (спойлер: в уровне ответственности и потенциального факапа).
• Как защитить персональные и корпоративные данные, чтобы они не улетели в открытый доступ.
• Как безопасно выдавать агентам доступы к инфраструктуре
• Какие грабли уже собрали разработчики топовых моделей и как на них не наступить.
Отлично зайдёт для ML-разработчиков, DevSecOps-инженеров, техлидов и студентов старших курсов, которые хотят шарить в безопасности нейронок.
Всего пять вечерних онлайн-занятий. Чтобы получить сертификат, придется пройти отборочный тест и затащить итоговую работу.
Подать заявку можно до 27 июля включительно.
Вся инфа и регистрация по ссылке.
Вопрос в том, что если дать нейронке доступ к терминалу и корпоративной базе без чёткой архитектуры, разбираться с последствиями потом придётся вам. Именно поэтому стоит сходить на онлайн-интенсив AI Agents Security Week — там как раз про то, как строить это по уму, а не на удачу.
С 27 по 31 июля эксперты из Яндекса будут пояснять:
• В чем вообще разница между просто "умной моделькой" и автономным агентом (спойлер: в уровне ответственности и потенциального факапа).
• Как защитить персональные и корпоративные данные, чтобы они не улетели в открытый доступ.
• Как безопасно выдавать агентам доступы к инфраструктуре
• Какие грабли уже собрали разработчики топовых моделей и как на них не наступить.
Отлично зайдёт для ML-разработчиков, DevSecOps-инженеров, техлидов и студентов старших курсов, которые хотят шарить в безопасности нейронок.
Всего пять вечерних онлайн-занятий. Чтобы получить сертификат, придется пройти отборочный тест и затащить итоговую работу.
Подать заявку можно до 27 июля включительно.
Вся инфа и регистрация по ссылке.
Forwarded from Andrey Mikhaylov
This media is not supported in your browser
VIEW IN TELEGRAM
Я сделал open-source инференс движок для Gemma 4 26B-A4B 4-bit. Движок использует всего 2gb ram при размере модели 14gb. Проект написан на Swift/Metal и запускается на любом MacBook с M-процессором, даже на M1 Air.
Для того чтобы это работало, я использую стриминг весов с SSD и разные оптимизации. Кастомные fused kernels на Metal, репак весов в более подходящий формат, кеширование экспертов и I/O and compute overlap при работе с ними. Всего было более 100 разных экспериментов, все самое интересное описано в репе.
Сейчас движок выдает 4-5 tok/s на M1 Air, 5-6 на M2 Air, 26-29 tok/s на M4 MacBook Pro и 31-35 tok/s на M5 MacBook Pro.
Есть отдельное приложение на Mac, которое запускается буквально в одну команду. Надо только будет скачать веса с Hugging Face. Все абсолютно рабочее.
На GitHub есть красиво оформленная страничка и больше 110 звездочек
https://github.com/drumih/turbo-fieldfare
Для того чтобы это работало, я использую стриминг весов с SSD и разные оптимизации. Кастомные fused kernels на Metal, репак весов в более подходящий формат, кеширование экспертов и I/O and compute overlap при работе с ними. Всего было более 100 разных экспериментов, все самое интересное описано в репе.
Сейчас движок выдает 4-5 tok/s на M1 Air, 5-6 на M2 Air, 26-29 tok/s на M4 MacBook Pro и 31-35 tok/s на M5 MacBook Pro.
Есть отдельное приложение на Mac, которое запускается буквально в одну команду. Надо только будет скачать веса с Hugging Face. Все абсолютно рабочее.
На GitHub есть красиво оформленная страничка и больше 110 звездочек
https://github.com/drumih/turbo-fieldfare
This media is not supported in your browser
VIEW IN TELEGRAM
Смотрите, какой-то умелец запустил языковую модель на ардуиноподобной плате за восемь баксов (ESP32-S3)
Внутрь удалось утрамбовать модельку на 28,9 миллиона параметров. Она занимает около 15 мегабайт памяти, работает офлайн и генерит текст со скоростью примерно 10 токенов в секунду.
Яснопонятно, что это не карманный ChatGPT. Модель обучена на датасете TinyStories и умеет в основном сочинять простенькие и небольшие рассказы. Вопросы, программирование и захват человечества пока не завезли. Но сам факт всё равно годный: теперь даже на железе за цену шавухи можно генерировать связный текст.
тут исходники и вся инфа
Внутрь удалось утрамбовать модельку на 28,9 миллиона параметров. Она занимает около 15 мегабайт памяти, работает офлайн и генерит текст со скоростью примерно 10 токенов в секунду.
Яснопонятно, что это не карманный ChatGPT. Модель обучена на датасете TinyStories и умеет в основном сочинять простенькие и небольшие рассказы. Вопросы, программирование и захват человечества пока не завезли. Но сам факт всё равно годный: теперь даже на железе за цену шавухи можно генерировать связный текст.
тут исходники и вся инфа