#ФКН #ШАД На гитхабе курса появились материалы этой недели, а также домашнее задание по тестированию кода и управлению экспериментами (можно получить 2 бонусных балла, если выполните целиком). Дедлайн — 10.02 08:00MSK, страницы для сдачи появятся в ближайшее время

файл эффективности 11

#ФКН Если вы хотите получить доступ к Яндекс.Облаку для выполнения домашних заданий, пожалуйста, заполните эту форму: https://forms.gle/fMNaaTSDNieThDBb6
Дедлайн заполнения: 12 февраля 12:00MSK

#ФКН #ШАД На гитхабе курса появились материалы этой недели, а также домашнее задание по эффективному обучению и профайлингу кода. За задание можно получить больше 10 баллов, чтобы увеличить свою оценку за блок по пайплайнам обучения. Дедлайн — 17.02 08:00MSK, страницы для сдачи появятся в ближайшее время

#ФКН У кого проблемы с лмс шада, напишите в лс @ipomeya31 (имя + фамилию).

файл эффективности 12

#ФКН #ШАД На гитхабе курса появились материалы этой недели, а также домашнее задание по data-parallel training. В задании есть бонус, решив который, можно получить до 3 бонусных баллов в блоке по распределенному обучению.

Дедлайн — 24.02 08:00MSK, страница в LMS появится в ближайшее время

#ШАД #ФКН Сегодняшнее занятие переместили в аудиторию Сорбонна, встречаемся там и в Zoom в 18:00. Поговорим про различные схемы model-parallel training, а также про техники обучения больших моделей в целом

файл эффективности 13

#ФКН #ШАД На гитхабе курса появились материалы прошлой недели, а также домашнее задание по обучению больших нейросетей. Оно будет состоять из двух частей, вторую выложим в ближайшие пару дней.

Дедлайн — 04.03 08:00MSK, страница в LMS появится, как всегда, в ближайшее время

файл эффективности 14

#ФКН Мы создали GPU-сервер и отправили на корпоративную почту письмо с его адресом тем, кто запрашивал доступ, а также инструкциями по подключению

#ФКН #ШАД появилась вторая половина задания week05_large_models

./week05_large_models/practice_part2.ipynb (open in colab)

В этом задании все нужные вычисления в довольно короткие, но там нужно порядочно покодить и немного позапускать код на 2+ GPU. Настоятельно советуем начинать не в последний день, иначе есть риск что все GPU будут заняты. Если вы всё-таки продолбались до последнего дня, или если у вас нет multi-gpu - можно запустить на одной карте или даже на CPU, но вместо заданий про бенчмарки нужно будет делать альтернативные задания, а они немного сложнее. Подробности в описании заданий. Удачной охоты!

файл эффективности 15

#ФКН #ШАД На гитхабе курса появились материалы этой недели, а также домашнее задание по деплою. 10 баллов, дёшево и сердито.

Дедлайн — 10.03 08:00MSK, страница в LMS появится в ближайшее время

#ФКН #ШАД Сегодняшнее занятие сдвигается на полчаса. Начало в 17.30MSK. Подключение всё так же по ссылке

файл эффективности 16

#ФКН #ШАД На гитхабе курса появились материалы семинара недели по FSDP (лекцию тоже скоро выложим), а также домашнее задание по этой же теме. В задании есть бонус, решив который, можно получить до 2 бонусных баллов в блоке по распределенному обучению.

Дедлайн — 21.03 08:00MSK, страница в LMS появится в ближайшее время

файл эффективности 17 (admin face reveal)

#ФКН #ШАД
Сегодня в 18.00 начало лекции, затем - семинар. Подключение по ссылке
👀

#ФКН #ШАД Наш курс формально подходит к концу, и на следующей неделе пройдет последняя лекция от приглашенного спикера — Михаила Хрущева, руководителя группы претрейна YandexGPT. Начало в 18:00мск, а после лекции будет бонусная активность!

Abstract: Расскажу про особенности инфраструктуры предобучения DeepSeek v3: FP8, экспертный параллелизм и хитрую схему пайплайнинга