С Днем Знаний! 🔔

Под праздник как раз есть классная новость: университет Карнеги-Меллона открывает набор на бесплатный онлайн-курс Deep Learning Systems для всех желающих!
#learning

О чем курс:
Сейчас большая часть кода глубокого обучения пишется c помощью фреймворков: PyTorch, Tensorflow, etc. И на популярных курсах по DL учат, как этими фреймворками пользоваться: как с помощью них реализовать нейросеть, обучить ее, ставить эксперименты. Но глубже не идут: не рассказывают, как реализован код оптимизаторов/слоев внутри PyTorch, как реализован градиентный спуск, какие нюансы есть в работе с CPU/GPU и т.п. Тем не менее, понимание того, как это все работает, бывает очень полезно в работе: чтобы реализовывать кастомные фичи, писать эффективный код и на полную использовать функционалы библиотек.

Курс Deep Learning Systems как раз посвящен более глубокому погружению в то, как работают фреймворки глубоко обучения. В течение курса студенты с нуля напишут свой фреймворк наподобие PyTorch или Tensorflow. В частности, реализуют:
- модуль автоматического дифференцирования;
- бекенд для линейной алгебры на CPU/GPU;
- несколько стандартных моделей (CNN, RNN, Transformer, etc).

Более подробная информация — на странице курса. Курс стартует 13 сентября. Записаться можно, заполнив эту форму.
Также посмотрите это короткое видео: тут можно познакомиться с преподавателями, лучше понять, о чем курс и кому он подойдет.

Подвожу итоги за лето:
✅0) ЕГЭ подтвердил
☑️1) слил фиола
❌2) не решал каггл
❌3) ничего не ботал
✅4) успешно завершил стажку и теперь Джун
✅5) я решил что мой гитхаб и так хорош

UPD: сегодня ещё будет просто итогах вступительных тестов и в каких группах я оказался, а ещё сегодня у меня первые пары

На первой лекции по алгебре узнал, что ничего не знаю об алгебре....

Что я могу сказать по поводу распределительных контестов в вышке (только сейчас пришли итоговые резы):
1) 1я группа по матеше (из 6, самая жесткая)
2) 1я группа по алгосам (из 6, самая жесткая)
3) 2я группа по проге (из 6, предсамая жёсткая)

Каков вердикт?
Мне конец, так как ещё работаю на фуллтайме 🤡🤡🤡

Довольно давно на этом канале не менялась аватарка, поэтому жду предложений в комментах, потом устроим голосование какая лучше

UPD: можно также предлагать еще и новые названия, но по нему голосования уже не будет, решать буду я

Официально заявляю:
Начинаю подготовку к грейдированию с помощью https://ml-handbook.ru/
(Вспомнить математику, лежащую в основе мл лишним уж точно не будет)

Пошел на лекцию по hft:

Ожидание > узнаю основы высокочастотного трейдинга, начну пробовать новую для себя область

Реальность > послушал 1.5 часа какую то воду и покушал пиццы с пирогами

Начал делать дз

Ожидание:
за день сделаю всю матешу, алгосы, затехаю и отправлю

Реальность:

Какое крутое у меня расписание:
понедельник - 3 пары
вторник - 3 пары, первые 2 из которых онлайн
среди - 3 пары
четверг - 3 пары с окном в 1 час
пятница - 1 онлайн пара 🤡

Что я могу сказать по поводу первых 2 недель учебы?

⌛️ Время

В целом я пока не умер и успеваю все делать, в этом несколько помогает определенное планирование (очень примерное):

утро + вечер по будням - работа
пятница и суббота с утра до ночи - домашки
воскресенье - доделываю что не успел по домашкам или по работе

⏰ Почему планирование и выполнение домашек заранее играет важную роль?

Всегда могут возникнуть какие-то непредвиденные ситуации, форс-мажоры или что-то еще, что может мне помешать либо сделать какую-нибудь домашку перед дедлайном, либо допилить что-либо на работе. Как раз чтобы не допускать такого я и стараюсь следовать хотя бы примерно своему плану

💻 Немного о работе

Несмотря на то, что ближайшее время нагрузка скорее всего будет расти, я все-таки решился записаться на грейдирование, оно пройдет 27 сентября, очень надеюсь что все-таки не переоцениваю свои навыки и способности и смогу официально стать миддлом (даже понемногу успеваю готовиться и вспоминать некоторые давно забытые вещи из основ)

🖥 Учеба в целом

Наконец-то начинает приходить понимание того, что происходит на алгебре и матанализе (дискретная математика пока понятная и я бы даже сказал приятная), пока без проблем закрываю контесты по алгосам, но начинают появляться домашки по плюсам, так что кажется теперь будет еще чуть тяжелее

P.S. скорее всего подобные посты будут выходить каждую 1-2 недели, так как я пока особо нигде не хакатоню и немного подзабил на свой проект - а значит тем для интересных постов будет не так много, по крайней мере ближайшее время

#шитпостинг
✅ Написал пост о том, что все под контролем и на следующий день проспал первую пару

ML System Design ODS Course

Уже сегодня - 19 сентября - открывается курс по ML System Design для начинающих. Автор курса - Дмитрий Колодезев, директор Promsoft.

Первая лекция уже доступна на странице курса! Группа для участников в тг тут.

Что входит в курс:

- ML-системы в реальной жизни с точки зрения софта, железа и бизнеса.
- Итеративный процесс построения ML-систем

Что не рассматривается:

- Алгоритмы машинного обучения
- Дата-инженерия
- Дизайн пользовательского интерфейса
- Как работать с докером и k8s

Курс состоит из видео, статей, докладов студентов, работы над проектом.

#шитпостинг
Шла третья неделя учебы....
✅ Наконец-то получил студак и пропуск в вуз

#шитпостинг
> отправляю лабу по плюсам на проверку автотестами в 4 часа ночи
> статус: в очереди 👍

#шитпостинг
⚡️⚡️⚡️Спидран по закрытию всех пробелов по теории мл'я объявляется открытым.

Дедлайн через 2 суток

#шитпостинг
> кернел падает сразу после 6-часового обучения модели
> 2 дня пытаюсь фиксить
> *смотрю использование озу во время обучения и понимаю что он падает тупо из-за нехватки оперативки*
> *понимаю что впустую потратил целых 2 дня своей жизни на полную фигню*

✅ Спидран завершён успешно, пост про грейдирование будет чуть позже

⚡️ Итоги грейдирования

Всего оно длилось 2 часа и 40 минут, небыстро конечно, но жить можно.

- проект
С начала я рассказывал про свой самый крупный (на мой взгляд) проект в точке - зачем он нужен, как я его делал, какой вклад внес, каковы результаты и тд. В целом получилось неплохо (но хуже чем я думал)

- базовые скиллы
Были простые вопросы по питону - закрыл его на миддла, с гитом и башем было сложнее, но на них особо и не смотрят, также слабовато ответил про sql - не умею в оконные функции

- мл навыки
Тут было все гораздо приятнее, без проблем ответил почти на все вопросы по numpy, pandas, бустингам, визуализации, кластеризации, дл, тестированию, основам мл, метрикам и тд - довольно уверенно закрыл все на миддла (кроме АБ тестирования)

- специализация
Тут все прошло прекрасно - рассказал что делал в НЛП, ответил на пару простых вопросов, уверенно закрыл на миддла (один из грейдирующих поставил даже миддл+/сеньор)

- итоги
Миддла не дали, по причине того, что слабоват SQL и проект недостаточно полный (не выводил в прод и не делал АБ тестов уже в проде), но сказали что очень хорошо закрыл хардскиллы (мл как раз полностью на миддла, а если забыть про sql то и базу тоже) и в целом все прошло хорошо, но вот проект недотянул

P.S. если вдруг у кого-то есть вопросы могу ли я реферить - могу, но учитывайте, что на данный момент свободных дс позиций кажется нет