Я расчехлил свой монте карло симулятор, чтобы порисовать картинок.

Представим, что менеджер при принятии решений опирается на результат подброса честной монетки. То есть он равновероятно принимает удачное и неудачное решения. Тогда его результаты будут описываться случайным блужданием.

Фан факт: в таком случае результаты менеджера наиболее вероятно будут либо бОльшую часть времени в минусе, либо бОльшую часть времени в плюсе. А средненькие результаты будут встречаться крайне редко. Это называется закон арксинуса.

Я запустил 10к траекторий, для каждой из них посчитал, сколько точек в ней находится в положительной области. На графике гистограмма — доля траекторий с t точек в плюсе.

Если траектория в самом начале убежала вниз, то она скорее всего там и останется (левый пик), а если она уже ушла вверх, то вероятнее всего вниз уже не провалится (правый пик).

Это нам говорит о том, что трек рекорд менеджера не показателен.

Какую стратегию выбирать менеджеру для успеха? 👇👇👇👇👇

Периодически ко мне залетают ребята проконсультироваться по разным вопросам. Я всё это время помогал бесплатно, но что-то как-то туговато стало со временем, поэтому я зарегал себе аккаунт на getmentor'е, лучше за консультациями обращаться через него.

Пятничная рубрика "Пыльный чулан"

Менеджеру в айтишечке нужно следить за трендами айтишечки. ML уже давно хапает всё больше инфо и бизнес пространства в ИТ подразделениях. Поэтому, я считаю, нужно быть в курсе, че там происходит.

Как известно, я считаю, что для понимания какой-то области нужно пройти хотя бы обзорный университетский курс по предмету, а не просто почитать / посмотреть научпоп (шутки про кота Шрёдингера омерзительно тупые).

Поэтому я немного вкатился в LLM, расскажу в понедельничном посте. А из пыльного чулана достаю вам историю своего обучения времен работы квант-разрабом.

В этот раз серия постов со времен, когда я проходил курсы Вити Кантора и ко (на остальных, к сожалению, у меня нет ссылок) — Data Mining in Action. На самом деле, я и в универе к ним пару раз захаживал, но огромные потоковые аудитории были забиты студентами, и я не мог ни увидеть, ни сконцентрироваться на том, что ребята рассказывали.

- Вступительные и хождение по краю
- Первые пару занятий изучали, что есть: knn, линейная регрессия, решающие деревья и бустинг
- Про формат домашки и контест
- Про то, как мы с Лёхой ходили в горы и упали, как я уснул на лекции
- Финал курса, третья домашка, t-SNE и мои провалы
- Выбор продолжения
- Как дошли ручки до ODS и ШАДика

Я обещал написать пост про то, как заботать LLM и GPT, но он получается таким огромным, что пришлось разбить его на несколько кусков и публиковать в телеграфе!

Сразу с головой в омут — плейлист Andrej Karpathy из OpenAI (вроде), где он прям на питончике последовательно прогает игрушечные модельки и доходит до GPT-2.

В видосах и математика разжевывается, и всякие функции pytorch, и про стандартные оптимизации он рассказывает, и про все гиперпараметры ясно, зачем они нужны. Бонусом идёт то, что можно мимоходом разобраться и в модельках для коррекции и переводов текстов.

А я буду кусками публиковать своё саммари - хинты для того, чтобы было проще разобраться с этим материалом.

Первая часть про нейронки, обучение и кодирование текстов уже тут.

UPD: полная версия лонгрида
Пост со ссылками на части

Пятничная рубрика "Пыльный чулан"

В прошлый раз я рассказывал, как решил немного разобраться с машинныйм обучением и проходил курсы DMIA. А сегодня буду вспоминать серию постов об обучении в Центре Математических Финансов (ЦМФ).

Место во всех смыслах приятное и атмосферное. Несомненно многих привлекает трейдинг, какие-то секретные способы быстро заработать на том, что ты родился чуть умнее большинства. Этого не будет. Ни в ЦМФ, ни где-то ещё :)

Но вот почувствать и узнать, чем занимаются все эти финансисты можно. Как раз на курсах ЦМФ.

1. Как поступать
2. Программа курса и спойлер по принятию студентами модулей
3. Алго-трейдинг, моя стратежка и моделирование экстремальных распределений, вне-проектные активности
4. Структурные продукты и даже первые результаты применения в работе! Впоследствии мне даже удалось собрать хорошую структурную ноту, которая продавалась
5. FX Options, моя специализация, но читал гораздо более опытный и погруженный товарищ
6. Stock picking в портфель. Классно проиллюстрировал, как мы нихрена не умеем 😁
7. Зачем задают брейн-тизеры?
8. Зачем нужны структурные ноты?

А потом я начал преподавать в центре уже сам, и со мной записали подкаст. Если слушать лень, то есть цитаты в карточках.

Всем, интересующимся квант-чего-нибудь карьерами, рекомендую сходить поучиться.

Неожиданный подгон вам на выходные!

Я дописал лонгрид про чат ботиков с красивыми картинками. Упущены сотни деталей, которые есть в видосиках по ссылкам из поста, и, наверное, тысячи, о которых я ничего не знаю. Местами упрощено для лучшего понимания, но в целом идейно я старался изложить так, чтобы потом было легко разобраться в видосах Андрея Карпатого.

Кому удобнее читать частями:
Про нейронки и обучение
Про эмбеддинги и word2vec
Про аттеншен и трансформеры

Инжойтес

Про найм (наём, ага)

Увидел недавно вопрос в Вастрик.Справочной "пользуется ли кто-то задачей о разборчивой невесте при найме?".

Идея там простая. Мы не знаем, когда придёт лучший кандидат. Мы не знаем средний уровень кандидатов. Зато знаем число кандидатов. Ага, очередь прям стоит. Мы сразу после собеса говорим да или нет. Надо постараться выбрать лучшего.

Ну и короче там одна из стратегий это посмотреть первых n/e (e=2.71...). Всем отказать, но запомнить лучшего. Дальше взять на работу первого, кто будет сильнее, чем лучший из первых n/e.

Не думаю, что кто-то этим пользуется, особенно на рынке, где конкуренция за кандидата такая, что уже не знаешь, каких еще печенек и массажей предложить, чтобы он выбрал тебя. Да и вероятность выбрать прям лучшего тут всего 37%. Да и очередей из n кандидатов не стоит.

Короче, не пользуемся. Но вот вопрос: как оценить, какой кандидат лучше, остаётся. Давайте хотя бы про него подумаем.

У Канемана в Thinking Fast and Slow в главе "Интуиция против формул" рассказывается, что экспертные оценки работают стабильно хуже даже самых тупых формул. Например, устойчивость брака предсказывается формулой: частота занятий любовью минус частота ссор. Хорошо, если показатель положительный. В эту же копилку идёт шкала Апгар.
При найме срабатывает ещё куча когнитивных искажений типа эффекта ореола. Поэтому выбрать объективно хорошего кандидата может быть сложновато. Даже если вы эксперт. Лучше формулку взять.

Модель
И сам автор предлагает самостоятельно собрать себе скоринг модель для найма.
1. Надо выбрать набор качеств, которые помогут в нужной роли (достаточно шести)
2. Качества не должны пересекаться
3. Их должно быть можно определить по ответам на простые вопросы (вопросы про факты)
4. Оцениваем ответы на каждый вопрос по пятибалльной (или меньше) шкале: сильно выражено, слабо выражено и т.п. Тут надо четко понять, что это значит
5. Дальше (я уже сам додумал) назначаем -2, -1, 0, 1, 2 балла за ответы и суммируем. Сколько надо набрать — на опыте как-то откалибруйтесь, не знаю.

А какие характеристики взять?
Тут обратимся к базированным историям.
Guerrilla guid нам говорит брать:
- умных и
- доводящих дела до конца
Более современные методики предлагают ещё:
- фит к роли
- фит к команде

Можно ли поконкретнее?
- Умные. Могут объяснить, чем занимаются, твоей бабуле. Понимают с первого раза, разговор с ними просто течет, как река.
- Доводящие дела до конца. Сюда входит увлечённость (насколько глаза горят), проактивность (не плывут по течению, имеют мнение, которое высказывают)
- Фит к роли. Вы знаете, в каких условиях человеку работать. Если он вам говорит, что ему трудно работать, когда в комнате нет коллеги, а у вас фул ремоут... Ну вы поняли.
- Фит к команде. Здесь нужно сравнивать ожидания с реальностью. Если человек хочет учиться у коллег, а у вас армия джунов... Мимо

И, конечно, хард скиллз. Нужно как-то проверить, какой сложности человек может решать задачи, и сравнить с тем, какие вам нужно, чтобы он решал. Это сегодня делается отдельными этапи с кодом, систем дизайном и т.п.

В комментах жду разнос схемы в пух и прах и объяснения, почему это не работает и как на самом деле надо!

В комментах много вопросов про то, как вкатиться в HFT и алготрейдинг. Проще всего взять и пойти работать в торговую фирму!

Вот например, дорогой брат, Серёга Мельников, которому я должен Брэндона Грэгга, известный прежде всего по комментам в этом канале, а также, как единственный человек, публично давший оценку Azul JVM, написавший свой профайлер, потому что async-profiler тормозил, и еще немного как ex-CTO в Райфе (и там еще всякие регалии, сами гуглите, если инетерсно), ищет к себе в фирму квант-разработчиков на Java.

Все базворды в описании вакансии, а я просто скажу, что в Райфе мы работали в одной команде и делали все те самые крутые вещи, про которые я иногда люблю написать. На мой взгляд — отличная возможность вкатится в сферу и поучиться у профессионалов с опытом!

Пишите напрямую: @SergeyM12, [email protected]

#нереклама

Пятничная рубрика "Пыльный чулан"

Мне несколько людей приватно говорили, что читают этот канал практически исключительно ради постов о классической литературе. У меня зреет новый пост на эту тему, а потому неплохо бы вспомнить, что там я писал раньше.

1. Как я начал читать великие книги — книга о том, как читать книги. Бонусом про переводы Илиады на русский
2. Миллениалы переоценивают свою начитанность — как миллениал, объясняю на примере Гарри Поттера (и Илиады с Одиссеей)
3. Впечатления от дочитанной, наконец, Илиады. Спойлер: маст рид!
4. Про Шекспира, Розенкранца и Гильденстерна, физику и философию, СПГС
5. Про апологию Сократа и мировые религии (Сократ буддист?), а еще про "легко заметить, что"
6. Зумеры никто не умеет читать, даже Протагор
7. Про технику перечитывания
8. Про то, как я не понимаю стихи, но Маяковский пытается это исправить

Про трилогию Лю Цысиня и прочих Сорокиных с Пелевинымия ничего не пишу, потому что все остальные уже всё написали.

Хочу аудиокнигу Троецарствие, но нашёл только детскую адаптацию. Если у вас есть взрослая версия — поделитесь, пожалуйста. А то придется слушать детскую, читать столько я не вывезу.

Ещё я завёл отдельный канал для всякой фигни, чтобы здесь писать с более серьёзным щщами
https://t.iss.one/quant_valerian_cooking
У меня там первый пост про шкварки, не знаю, любите ли вы такое

Прочитал "К самому себе" Марка Аврелия

ТАКАЯ была реклама у этой книги, что пройти мимо казалось преступлением! В интернете написано, что это книга — руководство римского императора "как жить". И вообще на литресе много отзывов типа "книга изменила мою жизнь" и "очень мудро, напитался, теперь сам, как император".

Если возьмётесь за эту книгу, то выбросьте все подобные ожидания из головы.

Структурно это просто короткие записки. Прям вот афоризмы. Буквально по два-три предложения. Афоризмы эти разбиты на 12 книг, но какого-то смысла в этом делении на самом деле не прослеживается.

По содержанию же книга действительно мудрая. И даже полезно было бы иметь цитаты из неё перед глазами буквально всегда.

Что я лично выцепил из неё?
Во-первых, совершенно необходимо прочитать хотя бы википедию про автора. Марк Аврелий это последний из пяти хороших императоров. Хорошие это те, которые выбирали достойных юношей, усыновляли их и передавали им престол. Хорошие они не поэтому, конечно, а потому что при них жилось хорошо. А сам Марк Аврелий передал престол своему кровному (но это не точно) сыну, который стал неадекватным тираном и был убит заговорщиками.

Ещё из важного. У него был старший брат и соправитель Луций Вер, который проправил всего восемь лет, а потом умер. То есть Марк Аврелий и родился не императором, и по идее был младшим правителем. Но вот судьба распорядилась сделать его единоличным кесарем.

Много лет назад я ходил на командный тренинг от компании, название которой я уже забыл. Тренером был мужчина уже ближе к пятидесяти. Про что был сам тренинг я тоже уже не помню, но вот философию этого мужчины я впитал глубоко. Что бы ни происходило с тобой, ответственность на тебе. Так или иначе события происходят из-за твоих решений. А решения ты принимаешь исходя из того, что тебе важно, а что нет. Зачастую это происходит неосознанно.

Важно регулярно останавливаться и осознавать.

Важно брать ответственность.

Мужчина тот говорил, кажется, что философия у него экзистенциальная, но на мой сегодняшний дилетантский взгляд скорее стоическая.

Как и у Марка Аврелия. В книге император постоянно напоминает себе, что нужно брать ответственность. Что ты сам решаешь — злиться ли тебе. Что ты сам решаешь, что тебе чувствовать и как себя вести.

Очень много про страх смерти, про длину жизни, про мимолетность бытия. Это повторяется и повторяется на протяжении всей книги.

Вообще не нашёл ничего, с чем я был бы категорически не согласен. Были какие-то религиозные рассуждения, были рассуждения, отталкивающиеся от религии (как у Сократа), к ним я отношусь условно (если так, как он думает, то он прав, иначе не понятно).

Но в книге прям много моментов, где я читал и такой: "да, братан, абсолютно согласен, тоже так думаю". Таких моментов к концу книги становится всё меньше. Ближе к концу книги появляются тезисы, которые мне не понятны. Я это связываю с тем, что ещё не дорос чисто возрастом до каких-то вещей. Хотя и не знаю, в каком возрасте какую часть книги он писал.

Цитат из книги я нарезал множество. Отдельно выделил новые для себя мысли. Оставлю одну из них вам прямо тут:

Я не заслуживаю того, чтобы огорчать самого себя, ибо никогда преднамеренно не огорчил кого-либо другого

Пятничная рубрика "Пыльный чулан"

Сегодня небольшой пост из прошлого про работу с лоу перформерами. В последнее время много искал каких-то материалов на эту тему, но ничего нового выудить пока так и не смог.
Тот редкий случай, когда я все ещё согласен с собой из прошлого.

Очередная итерация по повышению точности прогнозирования сроков проектов 🤓

В этой работе нами было показано

В какой-то раз, похоже, придется реально статью уже писать 😁
КОРОЧЕ, опять Канеманн меня вдохновил на идею. В главе «Взгляд извне» он рассказывает, что они с коллегами собрались написать учебник. Попланировали, поприкидывали, написали несколько глав.

❗️ВНИМАНИЕ!❗️Планинг покер!❗️ Канеманн попросил каждого участника независимо оценить срок, в который они закончат книгу. В среднем они оценили срок в два года.

А потом они спросили одного из членов группы, специалиста по спецкурсам, как исторически справлялись другие группы?💡
Он ответил, что в среднем книгу такого объема пишут минимум за семь лет, но не больше, чем за десять. Ещё он сказал, что их группа несколько слабее среднего по уровню подготовки и ресурсов.
Услышав это, они погрустнели.

И забили хер на эту информацию! 😁 В итоге, книгу они писали ещё восемь лет с того эпизода.😱

Что с этим делать?
Я уже рассказывал, что мы пользуемся статистикой. Кратко 🤡 напомню:

1. Собираем диаграмму Гантта (там нарезано на MOVE a la стори, других задач там нет, даже самое мелкое внесено через MOVE) 😋

2. Оцениваем стори маечно (совсем мелочь / что-то невообразимо большое / всё остальное) 📏

3. Смотрим цикл-тайм (на самом деле lead time) диаграммы в разрезе этих размеров (медианы и 85%%)👩‍🔬

4. Выделяем критический путь в Гантте (с учетом ресурсов) ☢️

5. Для критического пути считаем медиану (как сумму медиан задач) и 85%% (как сумму 85%%), вообще говоря, так нельзя делать математически, но нам для примерности сойдет (распределения там логнормальные примерно, я проверял на разных командах из разных частей компании) 🧮

6. Теперь мы знаем, когда закончим с вероятностью 50%, когда с вероятностью 85% — скорее всего где-то между этими значениями и получится 🤞

7*. Не надо закладывать никакие буферы, они учтены в статистике 🤌

Это работает, мы пробовали. Но не так хорошо, как на бумаге. Потому что люди (ну мы) туповаты 🤤 и, например, на старте проекта забывают, не учитывают какой-то кусок работы. Или приходит какой-нибудь аудитор/регулятор/юрист🤵🏼‍♂️ и наваливает вам 💩 еще обязательного в скоуп.

!!!НОВАЯ ИНФОРМАЦИЯ!!! 🎉

Поэтому предлагается ко взгляду извне (метод выше) добавить ещё субъективщины. И важно, что я говорю не о том, что мы ко всем проектам просто будем докидывать какой-то одинаковый (в абсолютах или процентах) запас. А о том, что у нас есть:

1. Чуйка (aka интуиция aka насмотренность) 🐕

2. Осознанное знание, как шли какие-то похожие проекты 👴🏻

И вот тут уже, имея опору в виде объективной априорной оценки, стоит опросить членов команды, что они думают о сроках. И эти данные использовать, как поправку. Конкретную методику я ещё не пробовал, поэтому мне нечего вам посоветовать. 🌝 Пока!

Из этой истории, btw, можно сделать вывод, что не работают не только стори поинты, но и планинг покер. Хотя для взвешивания быка 🐂 вроде работает. Разница в том, что при планировании работы, мы оцениваем себя, а от веса быка нам ни холодно, ни жарко.