DeepPavlov notifications
1.06K subscribers
5 photos
4 files
163 links
Канал текущей информации проекта DeepPavlov.
Download Telegram
Чтобы радость от начала курса не потускнела, надо сразу сделать первый квиз: https://forms.gle/2Gjgq1ot1dFhQsNZ7 Ответы принимаются до 9:00 понедельника. Обращаю внимание, что в эту же форму можно и нужно писать вопросы к лекции.
Ссылки на видеолекции:
Word Vector Representations (word2vec) https://youtu.be/8rXD5-xhemo
Word Vectors and Word Senses https://youtu.be/kEMJRjEdNzM (0:00-38:40, 58:00-1:20:00)
Итак пришло время для первого практического задания. Цель задания — получить начальное знакомство с нейронными сетями или освежить свои знания о них, написав на PyTorch сеть для классификации картинок. Задание выполняется в jupyter-ноутбуках, где вам нужно дополнить отдельные ячейки (большая часть кода уже написана). Срок сдачи задания: 18 февраля 00:00 (MST). После сдачи вам будет отправлено задание нескольких других студентов курса для проверки.
https://classroom.github.com/a/lU_lW_7H
Добрый день всем! Напоминаем, что завтра пройдёт первая очная лекция курса, которая состоится по адресу Дмитровское шоссе, д.9 (корпус 1С), аудитория 9235 (2 этаж), в 19-00.

Когда вы вошли в здание, нужно пройти через калитку мимо охраны, предъявив паспорт (если Вы не из МФТИ) или пропуск МФТИ, пройти направо до конца, подняться по лестнице на 2 этаж и повернуть в правое крыло (сразу налево от лестницы), там будет лекционная аудитория. В списки на проход внесены все, кто указал в регистрации, что собирается ходить очно и нуждается в пропуске, а также сделал первый квиз. Поскольку количество зарегистрировавшихся превысило наши ожидания и вместимость аудитории, огромная просьба не приходить в последний момент или с опозданием, чтобы не создавать сложности на лекции и при проходе в здание.
Приглашения.txt
6.2 KB
Списки на вход (не МФТИ)
Внимание, если вас нет в списках, но вы делали первый квиз и регистрировались на курс, то пришлите ваши ФИО сегодня до 15:00 Дарье Мороз @moryshka
Уже 13 февраля в 19:00 в Школе анализа данных пройдет первая лекция курса «Продвинутые темы в обучении с подкреплением». Полное описание курса на https://deeppavlov.ai/rl_course_2020
Для обучения на курсе требуется общее понимание основных алгоритмов Deep Reinforcement Learning (DQN, DDPG, PPO, A3C) и умение использовать современные фреймворки глубокого обучения tensorflow/pytorch. Для сдачи курса необходимо выполнить курсовой проект – реализовать один из алгоритмов, разобранных на лекции.
Где: занятия пройдут в Яндексе (ул. Тимура Фрунзе, 11к2)
Когда: каждый четверг в 19:00
Регистрация: https://forms.gle/jpxWUSxfdCmqoGdY8
Присоединяйтесь, кому интересно!)
Всем привет! Второй квиз курса: https://forms.gle/1kUsvhcmNt7hXsRh7
Ответы принимаются до 9:00 понедельника. Обращаю внимание, что в эту же форму можно и нужно писать вопросы к лекции.

Материалы ко второму квизу:
статья по фасттексту https://www.mitpressjournals.org/doi/pdfplus/10.1162/tacl_a_00051,
статья по GloVe https://www.aclweb.org/anthology/D14-1162.pdf
CS224n: GloVe: https://youtu.be/ASn7ExxLZws
FastText: https://youtu.be/CHcExDsDeHU
лекция из курса CS231n: https://youtu.be/i94OvYb6noo

Наше второе практическое задание посвящено векторным представлениям слов. Цель задания — познакомиться со способами получения векторных представлений слов, изучить их свойства. Имплементировать один из вариантов word2vec. Задание выполняется в jupyter-ноутбуках.
Срок сдачи задания: 24 февраля 23:59 (MST). После сдачи вам будет отправлено задание нескольких других студентов курса для проверки.
https://classroom.github.com/a/SvJ6u-QK
Всем привет! Открыта запись на курс Deep Learning (https://www.dlschool.org) от МФТИ
Цель курса -- познакомить слушателей с теорией и практикой глубокого обучения (нейронных сетей) в интерактивном формате. Будет два потока: базовый и продвинутый. Всю информацмю можно найти по ссылке: https://mipt.ru/news/otkryt_nabor_na_vesenniy_kurs_shkoly_glubokogo_obucheniya_ot_fpmi. Регистрация до 29 февраля.
Списки_очно.pdf
73.4 KB
Привет всем! Напоминаем, что сегодня пройдёт вторая очная лекция курса, которая состоится по адресу Дмитровское шоссе, д.9 (корпус 1С), аудитория 9235 (2 этаж), в 19-00.
Список всех, кто заявил ходить очно, приложен ниже. В дальнейшем мы не будем публиковать списки и напоминать о лекциях, т.к. это правило будет действовать априори. Мы также не будем проводить стримы лекций, а только ближе к пятнице-субботе выкладывать записи.
Всем привет! Пока вторая лекция монтируется, немного материалов для тех, кто хочет почитать чуть побольше про векторные представления слов и их свойства:
Статьи про математические свойства эмбеддингов в идеальном мире:
1. https://papers.nips.cc/paper/5477-neural-word-embedding-as-implicit-matrix-factorization.pdf
2. https://arxiv.org/pdf/1810.04882.pdf и пост к ней https://kawine.github.io/blog/nlp/2019/06/21/word-analogies.html
Статьи про то, что на самом деле с аналогиями всё не настолько хорошо, как обещано (но и не так плохо, как некоторые говорят):
1. https://www.aclweb.org/anthology/N16-2002.pdf
2. https://www.aclweb.org/anthology/S17-1017.pdf
3. https://arxiv.org/pdf/1905.09866
DeepPavlov отмечает 2 года!
Уже 28 февраля в 18:30 в ФизтехПарке пройдет встреча пользователей и разработчиков открытой библиотеки DeepPavlov. В этот день мы вместе с вами отметим 2 года с момента первого релиза.
С докладами выступят:
- Михаил Бурцев, руководитель проекта DeepPavlov,
Лоран Акопян, руководитель проекта iPavlov,
- Константин Воронцов, руководитель лаборатории машинного интеллекта МФТИ,
- Роман Доронин, руководитель компании EORA,
- Татьяна Шаврина, руководитель направления Центра исследования данных, «Сбербанк»,

Мы расскажем о том:
• как мы делаем открытую библиотеку DeepPavlov;
• как ее применять в коммерческих решениях. 
Кроме того запланировано неформальное общение всех участников мероприятия. Подробное описание программы здесь.
Участие в мероприятии бесплатное, но обязательна регистрация.
Если вы заинтересованы в работе и в проектах в сфере NLP, то на встрече вы сможете пообщаться с предствителями и узнать больше про возможности.
Всем привет! На нашей третьей лекции мы продолжим разбирать основы нейронных сетей. На этот раз мы пройдемся по основным функциям активации, разберем их плюсы и минусы, затронем нормализацию и регуляризацию.

Третий квиз курса: https://forms.gle/zyxKGxpwLi3FANE16
Ответы принимаются до 9:00 понедельника. Обращаю внимание, что в эту же форму можно и нужно писать вопросы к лекции.

Материалы к третьему квизу:
лекция из курса CS231n: https://www.youtube.com/watch?v=gYpoJMlgyXA
заметки из лекции: https://cs231n.github.io/neural-networks-1/
заметки из лекции: https://cs231n.github.io/neural-networks-2/
В очередной раз привет! "я ждал это время и вот это время пришло", время проверки домашних заданий. Очень скоро на ваш почтовый ящик (который зарегистрирован в GitHub) придет приглашение для присоединения к репозиториям других участников курса. Мы просим вас принять приглашение и оценить другие работы в соответствии с баллами указанными в тетрадках. Такая проверка позволит вам улучшить свои кодерские навыки, а нам быстро оценить работы. Просьба максимально лояльно отнестись к проверке. В спорных случаях всегда принимайте решение в пользу студента. Итоговый бал следует прописать в заголовок Issues, а в тело Issue указать причины снижения оценки. Для оценки идут работы, где есть хотя быть один коммит от участника.
Всем привет! Стала доступна вторая лекция курса: https://youtu.be/vLrDmtm--a0
Обращаем внимание, что если у вас остались вопросы, то задавайте их на форуме https://forum.deeppavlov.ai/t/about-the-deep-learning-in-nlp-2020-spring-category/319
А если есть проблемы с проверкой заданий, то прочтите этот документ https://docs.google.com/document/d/15GhxWhmzXx1HZt7-8jUPvOq68nHma7vU7__HGgpUxWk/edit?usp=sharing
Всем привет! По многочисленным просьбам дедлайн по второму практическому заданию переносится на 26.02 (23:59).
Всем привет! К сожалению, я немного приболел, поэтому семинар сегодня (25.02) не состоится. Немного погодя вышлю новый материал и квиз. Доступен в чате.
Выкладываю материал на следующий семинар. Заключительная лекция от cs231n по введению в NN
https://www.youtube.com/watch?v=hd_KFJ5ktUc

и заметки к лекции
https://cs231n.github.io/neural-networks-3/

квиз будет немного позднее
Всем привет! Квиз на следующий семинар
https://forms.gle/8LTj7KZ3dZpxVF718
Всем привет! Если ваши инвайты на проверку задания Task-0 более не работают и новых вы не получали, прошу написать на @letmypeoplego ваш гитхаб аккаунт.
Всех приветствую! Итак мы переходим к новой теме: Языковые модели и RNN.

Лекция по теме от неподражаемой Abigail See
https://youtu.be/iWea12EAu6U

и заметки к лекции
https://web.stanford.edu/class/cs224n/readings/cs224n-2019-notes05-LM_RNN.pdf

Квиз будет немного позднее.