Прикольное - nvidia представила ARM чип для ноутбуков
https://www.nvidia.com/en-us/products/rtx-spark/
https://www.nvidia.com/en-us/products/rtx-spark/
1🔥30
С гитхаба пропал https://github.com/flowseal/zapret-discord-youtube вместе с аккаунтом автора. Здесь два варианта: либо майкрософт стала бороться с проектами по обходам блокировок (непонятно зачем), либо до создателя добрались люди в погонах в лучших китайских традициях. В любом случае пока наблюдаем. В скором времени, наверное, напишу в какую сторону планирую двигать опенсорс для обхода блокировок, а то что-то давно не постил
Upd: https://t.iss.one/telemtrs/599/118313
Upd: https://t.iss.one/telemtrs/599/118313
😢52🔥15🙏9
В общем вроде немного отдохнул, и снова появились силы что-то делать
В последнее время много думал над тем, как можно оптимизировать поиск/добавление новых провайдеров для обходов, и пока ресерчил - слегка приуныл. Я пришел к выводу, что правильным/эффективным решением будет скорее создание определенного dsl для туннелирования трафика поверх существующей сети. Не только через webrtc (потому что чем дольше варюсь в этом, тем больше потенциальных точек отказа и фундаментальных проблем вижу), а через множество нод, пригодных для п2п общения. Вроде таблиц, с3 хранилищ, мессенджеров и прочего. Но я все еще не до конца придумал, как оно должно в итоге выглядеть/взаимодействовать между собой.
Короче говоря, буду дальше экспериментировать и собирать информацию в надежде, что что-то из этого да выйдет. Параллельно подумаю еще над чем-нибудь интересным с инженерной точки зрения, а пока, наверное, надо возвращаться к привычному щитпостингу.
Пока что по просьбе трудящихся раскатил v0.3.8 для байпаса. Добавил возможность прикрепить email/password к диону, чтобы избавиться от проблемы с протухающими куками. Обновил ВК, добавил KCP для vp8 в wbstream (пока только там; флаг reliable в приложениях; должно поправить ssl error и его производные), сделал генерацию qr кода в creator app + qr scanner для андроида, и еще ряд мелких фиксов.
Релиз как всегда здесь [тык]
В последнее время много думал над тем, как можно оптимизировать поиск/добавление новых провайдеров для обходов, и пока ресерчил - слегка приуныл. Я пришел к выводу, что правильным/эффективным решением будет скорее создание определенного dsl для туннелирования трафика поверх существующей сети. Не только через webrtc (потому что чем дольше варюсь в этом, тем больше потенциальных точек отказа и фундаментальных проблем вижу), а через множество нод, пригодных для п2п общения. Вроде таблиц, с3 хранилищ, мессенджеров и прочего. Но я все еще не до конца придумал, как оно должно в итоге выглядеть/взаимодействовать между собой.
Короче говоря, буду дальше экспериментировать и собирать информацию в надежде, что что-то из этого да выйдет. Параллельно подумаю еще над чем-нибудь интересным с инженерной точки зрения, а пока, наверное, надо возвращаться к привычному щитпостингу.
Пока что по просьбе трудящихся раскатил v0.3.8 для байпаса. Добавил возможность прикрепить email/password к диону, чтобы избавиться от проблемы с протухающими куками. Обновил ВК, добавил KCP для vp8 в wbstream (пока только там; флаг reliable в приложениях; должно поправить ssl error и его производные), сделал генерацию qr кода в creator app + qr scanner для андроида, и еще ряд мелких фиксов.
Релиз как всегда здесь [тык]
🔥71🙏9
Нашел скрытый гем в виде папир про механические вычисления в 21-м веке. Здесь автор пытается математически обосновать, что связал полусумматор
https://arxiv.org/pdf/2606.14062v1
https://arxiv.org/pdf/2606.14062v1
😁43👻10🔥7
Несколько часов назад антропики [анонсировали], что будут помечать сгенерированный контент вотермарками из-за очередных регуляций Евросовка
Чисто технически понятно, как можно помечать файлы через метаданные, но как они планируют помечать текст? Пока подробности не раскрыты, но можно предположить, отталкиваясь от существующих решений.
Самый наивный и очевидный вариант - через [unicode homoglyphs]. Claude Code уже использует подобный механизм для того, чтобы помечать китайские лабы через системный промпт [разбор]. Но, опять же, это слишком наивный вариант, который убирается одним вызовом sed на клиенте. Поэтому, скорее всего, они впихнут к себе в пайплайн статистический вотермарк в сэмплере. Существует куча реализаций, но ключевых идей всего две - KGW и Christ.
KGW [ссылка] - делит словарь на “зеленый” и “красный” по
Логиты зеленых токенов повышаются на δ, со временем накапливается статистически значимый перекос, и затем с помощью ключа и токенизатора можно посчитать z-test на долю зеленых. Основная проблема такого подхода - искажение распределения: модель выбирает не то, что выбрала бы без метки (проще говоря - “пишет странно” при большой δ).
Christ - второе семейство, одну из его реализаций (SynthID-Text [ссылка]) используют в Gemini. Работает как турнир на вылет: из исходного распределения берется 2^m кандидатов и разбиваются на пары. Каждый раунд для каждого токена считается бит:
и в паре проходит дальше тот, у кого 1. После m раундов остаётся один победитель - он и становится следующим токеном. Турнир можно настроить так, чтобы распределение сохранялось, но разнообразие между разными ответами на один промпт все равно падает.
Но, как можно догадаться, оба этих варианта ломаются через простой запрос “перефразируй”, обращенный к локальному квену. Плюс ко всему из-за детерминированного ключа можно статистически оценить поведение схемы. И из этого вытекают такие вещи как [watermark stealing], [watermark distilation] и т.п., через которые можно потенциально атаковать токены-вотермарки (в том числе чтобы дистилить модель).
Короче хз, больше похоже на очередной выстрел в ногу конечным пользователям, потому что теперь модели могут начать писать еще менее оптимальный код в угоду этим маркерам
Чисто технически понятно, как можно помечать файлы через метаданные, но как они планируют помечать текст? Пока подробности не раскрыты, но можно предположить, отталкиваясь от существующих решений.
Самый наивный и очевидный вариант - через [unicode homoglyphs]. Claude Code уже использует подобный механизм для того, чтобы помечать китайские лабы через системный промпт [разбор]. Но, опять же, это слишком наивный вариант, который убирается одним вызовом sed на клиенте. Поэтому, скорее всего, они впихнут к себе в пайплайн статистический вотермарк в сэмплере. Существует куча реализаций, но ключевых идей всего две - KGW и Christ.
KGW [ссылка] - делит словарь на “зеленый” и “красный” по
hash(ключ, предыдущие токены)
Логиты зеленых токенов повышаются на δ, со временем накапливается статистически значимый перекос, и затем с помощью ключа и токенизатора можно посчитать z-test на долю зеленых. Основная проблема такого подхода - искажение распределения: модель выбирает не то, что выбрала бы без метки (проще говоря - “пишет странно” при большой δ).
Christ - второе семейство, одну из его реализаций (SynthID-Text [ссылка]) используют в Gemini. Работает как турнир на вылет: из исходного распределения берется 2^m кандидатов и разбиваются на пары. Каждый раунд для каждого токена считается бит:
hash(ключ, предыдущие токены, номер раунда, id токена) -> 0 или 1
и в паре проходит дальше тот, у кого 1. После m раундов остаётся один победитель - он и становится следующим токеном. Турнир можно настроить так, чтобы распределение сохранялось, но разнообразие между разными ответами на один промпт все равно падает.
Но, как можно догадаться, оба этих варианта ломаются через простой запрос “перефразируй”, обращенный к локальному квену. Плюс ко всему из-за детерминированного ключа можно статистически оценить поведение схемы. И из этого вытекают такие вещи как [watermark stealing], [watermark distilation] и т.п., через которые можно потенциально атаковать токены-вотермарки (в том числе чтобы дистилить модель).
Короче хз, больше похоже на очередной выстрел в ногу конечным пользователям, потому что теперь модели могут начать писать еще менее оптимальный код в угоду этим маркерам
1
Media is too big
VIEW IN TELEGRAM
Прикольное, Jane Street опубликовали пазл на реверс асика
https://blog.janestreet.com/can-you-reverse-engineer-an-asic/
https://blog.janestreet.com/can-you-reverse-engineer-an-asic/
This media is not supported in your browser
VIEW IN TELEGRAM
Finally, робот способный передвигаться по Ванкуверу и Филадельфии
😁46