Я не считал точный процент отсева в РЭШ, но в нашем году и на моей программе он около 50%. В бакалавриате процент был поменьше, но тоже огромный. Уходят очень крутые ребята, все по разным причинам: кто-то пересматривает ценности, кому-то перестаёт нравиться экономика, кто-то решает что ему здесь не место. Главное, что надо понимать — если кто-то просто поступил в РЭШ, он либо невероятно талантливый, либо вбухал в это огромное количество сил и времени.

«Hard work pays off,» — кажется, это девиз всей моей жизни. Сначала конкурсы в музыкалке, потом чемпионаты по борьбе, олимпиады, и самое сложное: обучение в ВУЗах.

Когда я попал на Физтех, стало понятно, что до этого я не ботал, а вот сейчас ботать-таки придётся. И ботал со всеми, hard work же. Моя бот-компания с Физтеха, весь мой факультет, да что уж там, все физтехи, ведь каждый из них чем-то крут. Физтех — особенное место, там сложно учиться, но есть лайфхаки, как поботать немножко, получая высокие оценки.

После этого я пошёл работать в Райффайзен, поступил в РЭШ и забросил канал, ведь стало невыносимо сюда что-либо писать: весь мой первый курс я совмещал учёбу с работой и очень хотел выжить. Днём я ставил очередной пайплайн на работе, понимал что не так с данными, писал и тестировал как можно больше кода, а ночью брал фоки, решал уравнения Беллмана-Форда и пытался побольше насрать интуицией. Курсы РЭШ могут показаться простыми, но сложность тут в интенсивности, ведь почти каждый вечер тебе надо сделать и сдать какую-то домашку. В итоге я понял, что мне больше нравится математика, пусть и в приложениях. Хорошо, что не все мои одногрупники так решили, кому-то же надо двигать экономику в России. Каждый прошлый и будущий выпускник РЭШ — невероятный сгусток таланта, энергии и жизненной силы.

Что теперь? Аспирантура по откосу от армии в ИТМО или на Физтехе, и свободное плаванье. Постараюсь не растерять что в меня вложили 2 сильнейших ВУЗа в России, мои научные руководители и преподаватели.


Я благодарен всем, кто верил в меня всё это время. Ежатам на Физтехе, Хулиганам в РЭШ, Физтечему андеграунду, олимпусси, моим родителям и сестре, лучшему другу, девушке, котикам и капибарам. Без вас я бы этого не прошёл, спасибо за поддержку.

👾 Вам точно это надо.
https://github.com/jndean/LossRider

TL;DR: чувак на санках решил прокатиться по лоссу вашей модельки. Пусть рандом решает, сдохнет он сегодня или умрёт.

Теперь у вас есть чем заняться пока GPU делает brrrr.
Выложено в pypi и поддерживает jupyter-like ноутбуки.

⚡️ 10 правил, позволяющих Павлу Дурову сохранять свою молодость

— Избегайте алкоголя. Редкие исключения возможны, но в целом алкоголь ослабляет здоровье и делает людей визуально старше;
— Хранение и распространение порно с несовершеннолетними;
— Приобретение, перевозка, хранение или передача наркотиков;
— Организованное мошенничество;
— Предоставление оборудования/программы/данных для неких атак;
— Администрирование онлайн-платформы, через которую ОПГ осуществляли незаконные транзакции.
— Создание ОПГ с целью совершить преступление или правонарушение;
— Отказ предоставить органам информацию и документы для прослушки, разрешённой законом;
— Предоставление криптографических услуг для обеспечения конфиденциальности без соответствующего декларирования;
— Предоставление и импорт средств криптологии (шифрования) без предварительного заявления.

Спасибо @mrkkrn за золото

👾 Если вы тоже не понимали, нафига называть разные вещи одним и тем же словом "среднее", этот крутейший видос должен помочь.

Нанять скуфов из renaissance capital, а продавать как твинков из renaissance technologies

👾 В связи с баном дискорда вспоминается классика:

РКН: народ, я новый нюк нашел, ща всех поубиваю!!!
РКН: дайте IP какого-нить лоха!!!
Кто-то: 127.0.0.1
РКН: пасиба!
РКН: щас он подохнет
*РКН вышел из чата

👾 Мой вклад в науку за сегодня: смешной мем в фигме (p < 0.05)

Если вы вдруг хотите помочь отечественным ллмкам и понять для себя, какая вам больше заходит, поболтайте пожалуйста с ними

https://llmarena.ru/

Людям надо шоб интервалы сошлись побыстрей 😅

🙏 Торжественно обещаю, что тут будет пост про мой опыт в этой сореве. Она закончится через 8 месяцев, так что...

...через год? 👀


👾 Дорогие читатели, посоветуйте материалы по разному бутстрапу, пожалуйста. Особенно интересно, чем руководствоваться в выборе размера выборки для блочного и других хитрых модификаций. Обещаю, что если разберусь, будет пост и об этом.



Upd: кина не будет, у автора выгорание. Извините.

👾 "Dive into ML conferences" сказали они. Не ну вы видели сколько там вообще статей каждый год генерируют?

Зато вот чё я вам притащил: лонгрид по DL Efficiency от Princeton grad. Лонгрид большой, содержит в себе кучу боли, написан на техническом английском с кучей жаргона. Короче, всё как вы не любите. А что, мне одному страдать?


🙋🏽‍♂️ «Чо такое DL Efficiency?» — спросите вы. А я отвечу: допустим, у вас есть ноут и нет подписки на сервис с топовыми LLM, потому что $20 is $20. Вам очень хочется поиграться с топовой LLM, например, спросить у топовой опен-сурс модели, что она думает про результаты выборов в США. А на вашу 1050 в игровом компутере 3 ядра 3 гига не только не влезет BG3, но и моделька тоже там не поместится. Поэтому умные дяди подумали и придумали кучу шорткатов, как же её всё-таки туда впихнуть. Или ускорить обучение. Или сделать это подешевле.


⁉️ А что если я просто чиловый парень любящий матешу и временные ряды. Зачем мне это?
– Во-первых, чуваки, я читал ваши папиры. Игнорировать последние 3 года резерча в других отраслях — прикольная затея, но не всегда. Познакомитесь хоть.
– Во-вторых, там есть всякое про векторизацию, например, fused kernels в pytorch, чтобы ваши модельки работали побыстрей. Ещё там много про опты и оптимизаторы, я мельком глянул и понял что пока останусь на Adam/AdamW.
– В-третьих, тут куча трюков как заставить вашу огромную модельку переобучаемую раз в год тюниться быстрей, запихивать в неё побольше данных, и ещё разбор нововведений в H100 (зачем).


👀 Итак, вашему вниманию:
– Разделённый на 4 эпохи лонгрид с кучей красивостей и ссылок, больше похожий на field review из диплома, но если бы его писали люди, а не чатгпт
– Описание таймскейла исследований от метоптов и GPU на 3gb до современных кластеров
– Разбор, чего же всё-таки нового в этих ваших хайповых папирах последних лет, например, чё такое FlashAttn, Q-LoRA, ZeRO, Chinchilla и всякие разные квантизации.


❤️‍🔥 Короче, весь контент от @lovedeathtransformers в одном месте. Спешл фор миллениалс.

👾 Как сделать что-то хорошо?

1. Берёш
2. Делаеш


Спасибо @max_hft у нас есть задачки с quantguide. Ну я решил «чё добру пропадать», напарсил их и впервые в жизни написал на стеке для гилф-домохозяек сайтик с задачками: https://yk4r2.github.io/.

👀 Короче, у вас теперь есть сайт со слитыми задачками с собесов в фонды, а ещё фильтрация + поиск по компаниям и по сложности. Ещё там можно клацнуть на «сделал» и сайт сквиртанёт кофетти, меня такое мотивирует, воооооооот. Кстати, оно даже учитывает количество решённых, но т.к. claude.ai не смог мне починить эту штуку, она работает, но некрасиво. Вообще было бы прикольно переписать его на чём-нибудь типа Next.js + tRPC + Prisma или что там у вас фронтендеров модно, обмазаться личными кабинетами, лидербордами и т.д., но я не уверен что это кому-то надо.

Когда-нибудь мы зальём туда своё добро с собесов в XTX и прочие конторы, но не сегодня.


🐳 Развлекайтесь, касатики, не положите pages только))0)00

👾 Привет.
Я прорешал первую главу задачника Севастьянова и решил начать подаваться в хорошие зарубежные конторы. Например, tier-1/2 фонды (на Quantitative Researcher) или что-то рядом с FAANG (на MLE).

Если у вас есть !публичный! рефер, пожалуйста, скиньте контакты в описание. Если рефер непубличный, скиньте пожалуйста в лс: @yk4r2.