#python #courses

Интерактивный хэндбук по Python
https://academy.yandex.ru/handbook/python

Немного об интерпретируемости в медицинском ML - что, как и нужно ли вообще?

#Жека #ML

​🐍 Регулярные выражения в Python. Лучшая статья на русском!

Регулярные выражения супер-полезны, когда вам нужно перелопатить большой объём текстовых данных.
Например, вытащить из наименований товаров граммаж, достать города из адресов и т.д.
При этом на русском материалы по этой теме очень сложно найти.

Вот эта статья на хабре - лучшее что я видел 🙂
Регулярные выражения в Python от простого к сложному. Подробности, примеры, картинки, упражнения

#dl #cv #courses
Из ODS:

Есть отличный курс по CV с домашками и материалами EECS442, который ведет Дж. Джонсон (он же был ассистентом в Стэнфорде на cs231n и сейчас преподает его обновленную версию в Мичигане): https://web.eecs.umich.edu/~justincj/teaching/eecs442/WI2021/
Видео лекций есть у китайцев:
https://www.bilibili.com/video/BV1BV411n7Km/

#rl #courses
С чего начать изучение RL

Можно сделать следующие 5 курсов. Cначала вообще хорошо почитать Саттона и Барто:
https://web.stanford.edu/class/psych209/Readings/SuttonBartoIPRLBook2ndEd.pdf

Параллельно находить какие-то объяснительные сопроводительные материалы, которые помогают в этой книжке разобраться. Первые 4 курса как раз в этом помогают, они построено по главам книги, чтение там входит в домашку. Это специализация на курсере:
https://www.coursera.org/learn/fundamentals-of-reinforcement-learning/home/welcome

Паралелльно с этими 4-мя курсами настоятельно рекомендую смотреть лекции Сильвера. Они также хорошо привязываются к главам книжки. Очень он хорошо все по полочкам раскладывает.
https://www.youtube.com/watch?v=2pWv7GOvuf0&t=10s

Как альтернатива ему, чтобы проверять понимание, можно это:
https://www.youtube.com/playlist?list=PL-myaKI4DslUer7Pwkamk92F4PAFyBTPW

После этого нужен курс, который доводит базу, которую ты освоил до более современных (но уже не очень) методов.
Для этого можно посоветовать очень богатый курс от яндекса/вышки — Practical Reinforcement Learning. На курсере сейчас доступ к нему закрыли, но остались материалы на гитхабе:
https://github.com/yandexdataschool/Practical_RL

Тут как параллельные объясняловки хороши вот эти видео:
https://www.youtube.com/c/pieterabbeel

Запалировать и ознакомиться с использованием фреймворка stable baselines 3 можно как раз по курсу HF, рекомендованному выше.

Далее, как проверку усвоил ли ты материал, советую взять не совсем простую среду в gym-е и попробовать с нуля написать решение.
Такой средой может быть rocket-lander-v0.

#dl #nlp

#interview #behavioral

возможно вот эта?
https://m.youtube.com/watch?v=qGKBvm4zm48

Вау, streamlit от питонистов 🤩

Вышел новый фреймворк (в альфе сейчас) под названием Pynecone. Выглядит он как pytorch vs tensorflow и как FastAPI vs Flask, то есть очень удобный.

1) ООП (например, нужно наследоваться от pc.State, чтобы поддерживать стейт в приложении, а не st.session_state["my_key"] 🤮)
2) pydantic для валидации типов объектов
3) SQLAlchemy под капотом для баз данных!
4) Можно легко вставлять react компоненты

Есть галлерея с демками, го тестить

https://pynecone.io/docs/gallery

На что я смотрю во время собесов #собесы

Выше немного написал про то, как бы я готовился к собесу по алгоритмам. В этом посте хочу описать, на что я обычно смотрю, как собеседующий. Кажется, что к текущему моменту, в общей сложности, я провел около 50 собесов. Не так много, но и не так мало. В основном, это были собесы с джунами/мидлами по аналитике и ML. Иногда дополнением в рамках этих секций шёл код.

Все мои тейки применимы именно к обсуждению кейсов. Про задачи с кодом напишу отдельно.

1. Любая задача — это приглашение к разговору. Ценен сам разговор и ход мыслей, а не правильное решение задачи. Мы должны понять, как человек думает и как он будет проявлять себея в работе, а не сколько брейнтизеров он вызубрил.

Брейнтизеры — это плохое приглашение к разговору. Кандидат либо вызубрил брейнтизер либо нет. Никогда не спрашивайте брейнтизеры

Куда лучше вкинуть какой-то кейс. Это может быть игрушечный кейс вроде детсадовской аналитики:

Двадцати детям в детском садике задали вопрос: живут ли их родители вместе? Два ребёнка ответили, что не живут. На следующий день в местной газете выходит статья с заголовком: "10% семей в нашем городе в разводе". Почему данное утверждение неверно?

Хороший кандидат моментально накидает проблем, а дальше из каждой из них можно будет уйти в технические детали, и поговорить, как правильно собирать выборки, как проверять гипотезы, как посчитать сколько наблюдений надо для АБ и так далее.

Это может быть какой-то реальный кейс про то, что вы делаете с коллегами на работе, но очень поверхностный:

У нас есть комментарии. Мы хотим очистить их от спама. Хотим использовать ML и модераторов. Выборок пока что нет. Как бы ты это делал? 

Ну а дальше начинается разговор про регулярки, сбор выборок, разметки, обучение модели, подбор порогов для ручной модерации. С каждой точки можно свернуть в технические детали, а можно по-быстрому её проскочить, если кандидат говорит уверенно, либо наоборот лажает я на какой-то части. Все детали уточняются в разговоре.

Если важно не решение задачи, то что важно? Важно то, как чувак будет впоследствии работать. По собесу ты должен это понять.

Поэтому первым делом мы должны прикинуть, что чувак будет делать в команде. Он будет анализорвать АБ? Он будет обучать модели в рамках уже существующих ML-ных библиотек? Он будет писать трансформеры в торче?

От ответа на этот вопрос зависит то, насколько глубоко и в какую сторону надо закапываться в технические детали.

2. Технические детали.

Чувак будет заниматься АБ? Окей, говорим про АБ, но не упарываемся. Плевать как выглядят конкретные формулы, не надо заставлять кандидата их выводить. Надо выяснить, понимает ли он смысл, лежащий за АБ и сможет ли применить формулу с википедии.

Например, если ты спросил у кандидата, как найти число наблюдений для проведения АБ для долей, а он с ходу сказал число наблюдений зависит от ошибки первого рода, второго рода и MDE, на этом можно остановиться. Можно спросить, где зависмость прямая, а где обратная либо уйти в смысл ошибок и откуда брать MDE. Заставлять выводить формулу абсолютно бессмысленно.

По аналогии, с ML. Если вы работаете с готовыми библиотеками, не надо в подробностях спрашивать как устроен бустинг, просить выписывать формулы и выводить на доске для нейронок производные для бэкпропа. Это кринж уровня брейнтизеров.

Лучше попросите кандидата подобрать пороги для классификатора так, чтобы модераторов не завалило потоком фолсов. Либо поговорите про то, как будете собирать пул для обучения модели и оценивать её качество, надо ли тест по таймстемпу отделять, на каких фичах учиться, где в пайплайне обучения могут быть лики, что делать если эвристики работают нормально, а модель не хочет учиться от слова совсем. Где искать проблемы? Как дебажить, при условии что с кишками библиотеки для обучения всё впорядке и тп.