Всем привет!

5-9 октября состоится онлайн-конференция NVIDIA GPU Technology Conference (GTC). На ней сотрудники DeepPavlov, Михаил Бурцев и Даниил Корнев, выступят с докладом Multiskill Conversational AI. Мы подготовили короткое превью выступления: youtu.be/g35C07NTCGQ. Подключайтесь к докладу 8 октября в 12.00 и 17.00 по мск 📅

-------
Прошедшая весной первая GTC в онлайн-формате собрала более 60 тысяч участников. В этот раз мероприятие обещает быть еще более масштабным - доклады будут транслироваться в течение 5 дней с учетом всех часовых поясов, что даст возможность участникам из любой точки мира присоединиться к конференции в удобное время.
 
Как всегда на GTC вы сможете узнать о самых инновационных разработках в области AI, HPC и профессиональной графики, пообщаться с экспертами и пройти обучение от NVIDIA Deep Learning Institute (DLI). Полный список тем конференции можно посмотреть здесь. Каталог сессий доступен здесь, он активно пополняется.
 
Студенты и сотрудники ВУЗов могут зарегистрироваться на конференцию бесплатно. Для этого необходимо при регистрации использовать корпоративный имейл. Если у вас возникнут какие-либо затруднения при регистрации – пожалуйста, сообщите на имейл [email protected].

We are hiring! ⭐️

Всем привет, у нас в лаборатории МФТИ открыта вакансия для решения задач в области поиска нейросетевых архитектур.

 Требования:
Знание теории вероятности, статистики, линейной алгебры и основ Deep Learning;
Уверенное программирование на Python, работа в многофайловых проектах, использование GitHub;
Хорошее знание PyTorch;
Ответственный подход, инициативность, желание погружаться в область деятельности.
Чем предстоит заниматься:
Участие в генерации и имплементации идей, проверка гипотез, визуализация и анализ результатов экспериментов;
Чтение статей, по необходимости имплементация;
Запуск воспроизводимых вычислительных экспериментов.
Условия:
Удаленная работа, part-time от 20 часов в неделю;
Официальное трудоустройство в Лабораторию нейронных систем и глубокого обучения МФТИ.

Резюме отправлять на почту 👉 [email protected]
P.s. со всеми вопросами тоже на почту.

Всем привет!

Сегодня в 18.00 пройдет DeepPavlov Community Call 📞

На нем будем общаться про продукты, roadmap и науку 🎅 Ждем всех, присоединяйтесь 👉
Добавляйте в свой календарь звонок (. ics): https://bit.ly/FirstDPCommunityCall

Всем привет 😃
Сегодня, 23 октября, в 18:00 состоится открытый научный семинар по теме «Бесконечно широкие сети», на котором выступит Евгений Голиков. Семинар пройдет на английском языке.

Название: Infinitely Wide Nets
Описание: Many problems in theoretical understanding of neural nets come from the fact that it is hard to reason about their training dynamics. In particular, one cannot generally guarantee global convergence of gradient descent —- a fact typically observed for realistic networks and data. Moreover, all generalization bounds that do not take the training dynamics into account turn out to be vacuous.
Fortunately, the training dynamics of neural nets substantially simplifies in the limit of infinite width. One of the limit, the NTK limit, is driven by a constant kernel which can be estimated via Monte-Carlo. We shall discuss how this limit can be used to obtain optimization and generalization guarantees for sufficiently wide networks. Another limit, the mean-field limit, leads to a quantitatively different limit model.
The reason why we have two different limits is the difference in hyperparameter scaling with width. We shall show how different hyperparameter scalings result in different limit models, and discuss which limit model should be a better proxy for realistic finite-width nets.

⚡️Подключайтесь в 18:00 в Zoom: https://zoom.us/j/94513132913

Всем привет 😃

Завтра в 18.00 пройдет DeepPavlov Community Call #2📞

На нем будем общаться про науку, отвечать на вопросы и проводем туториал 🎅 Ждем всех, присоединяйтесь 👉
Добавляйте в свой календарь звонок (. ics): https://bit.ly/MonthlyDPCommunityCall

А свои комментарии можно оставить здесь: https://github.com/deepmipt/DeepPavlov/issues/1335

Всем привет!
У нас отличные новости 🎉 наша команда DREAM второй год подряд участвует в конкурсе Alexa Prize Socialbot Grand Challenge 4 от Amazon.
Подробнее о конкурсе и команде: https://habr.com/ru/company/mipt/blog/526564/

Если вы студент или аспирант МФТИ и всегда мечтали поучаствовать в конкурсе такого масштаба, тогда у вас есть шанс присоединиться к команде и воплотить DREAM в реальность! Ну а если у вас есть просто идеи по улучшению Socialbot, то ждем вашей обратной связи 🙏

Всем привет 😃

Сегодня делимся лекцией по одной из наиболее прикладных областей в Deep Learning: Диалоговые системы. Михаил Бурцев расскажет, как же сегодня устроены современные диалоговые агенты, на что они способны, а на что ещё нет, и какова роль экосистемы DeepPavlov 🎅 во всём этом.

👉 Смотрите полную лекцию на youtube.

Всем привет 😃

В нашей дружественной «Лаборатории анализа данных и разработки рекомендательных систем» в МФТИ от Россельхозбанка открыта вакансия ML Engineer ⭐️

Ребята ищут ML-инженеров. Лаборатория - индустриальная: решают задачи продуктовых подразделений "Россельхозбанка".

Результатом твоей работы в лаборатории будут прототипы или фичи в продуктах на основе ML. Можно научиться быстро прототипировать и доставлять реальную ценность в бизнес-процессах в короткие сроки. Команда работает над решениями для нескольких сельскохозяйственных маркетплейс-платформ:
- Модерация текстовой и визуальной информации;
- Рекомендательные системы на основе поведения пользователей сервиса, семантических описаний товаров и экспертных знаний для сельскохозяйственной отрасли;
- Текстовые ассистенты для автоматизации взаимодействия с платформой в текстовых каналах;

Зарплатная вилка: от 160 до 200 т.р.

За подробностями переходи 👉 по ссылке

Всем привет 😃

У нас отличные новости для всех, кто хочет или всегда хотел заниматься наукой! Недавно на Физтехе возникла инициатива Science Club — это объединение студентов, которые стремятся к научной карьере, и опытных менторов-исследователей в области Data Science. Вместе мы проводим исследования, пишем статьи и выступаем на конференциях 🤓. Короче двигаем науку вперед 💪

Наша лаборатория подключается к этой прекрасной инициативе! Приглашаем студентов и начинающих специалистов вливаться в исследования, которые мы ведем в области разговорного ИИ 🤖

Подробнее о программе можно узнать в статье ⭐️. Ну а если возникнут вопросы, то пишите @moryshka

Всем привет 😃

В прошлый четверг состоялся открытый семинар нашей лаборатории, на котором Анна Роджерс представила бертологический доклад: “When BERT plays the lottery, all tickets are winning!” 

The lottery ticket hypothesis was originally developed for randomly initialized models, but might it also apply to pre-trained Transformers? If the “good” subnetworks exist, can they tell us anything about how BERT achieves its performance?
The original paper can be found here  https://arxiv.org/pdf/2005.00561

Всем привет 😃

Global AI Community и Лига искусственного интеллекта Microsoft Learn Student Ambassadors в эту субботу, 12 декабря проводят глобальную студенческую ИИ-конференцию! Будет непрерывная трансляция, с 12:00 до 20:00 по Москве! 

В промежуток с 15:30-16:00 пройдет круглый стол про настоящее и будущее искусственного интеллекта при участии Михаила Бурцева. За полчаса обсудят самое главное, что нужно знать про ИИ в 2020 году.

Полная программа и регистрация - на сайте.

Всем привет 😃

На следующей неделе в четверг, 24 декабря пройдет DeepPavlov Community Call 🎅

Это последний звонок в этом году, и первый - при участии внешних спикеров. Давид Дале, бывший инженер-программист Яндекса, поделится опытом работы в команде Алисы, а также расскажет о том, как она объединяет различные компоненты. А наша команда, как обычно, про обновления и фичи в DeepPavlov.

Call будет проводится в Zoom на английском языке.
📅Дата: четверг 24 декабря в 19-00 по Москве

Повестка, спикеры и ссылка на call 👉 https://bit.ly/2KiDSlj

Уже сейчас 😃
Подключайтесь 👉 https://us02web.zoom.us/j/82879341724?pwd=UUtFRHIzbVYxbGliLzJEc0VJL3hxZz09

Всем привет 😃 И с прошедшими праздниками! ✨

Надеемся, что за выходные вы прекрасно отдохнули 💪Теперь пора включаться в работу 👩‍💻 А мы предлагаем вам посмотреть #DeepPavlov #Community #Call #4, который провели впервые с участием внешних спикеров в конце декабря 🎅

⭐️ Специальный гость - Давид Дале, бывший инженер-программист Яндекса - рассказал про опыт работы в команде Алисы, а также о том, как она объединяет различные компоненты.

Приятного просмотра 📺 И ждем всех на следующих DeepPavlov Community Calls 🤗

Всем привет 😃

Это сообщение для всех, кто использует DeepPavlov 🎅

На следующей неделе, 28 января, мы проведем DeepPavlov Community Call 5! Это первый звонок в 2021 году, который будет посвящен нашим планам по рефакторингу библиотеки DeepPavlov 🔥

Мы начнем преобразование нашей библиотеки 🎅 на пути к версии 1.0. Этот процесс потребует значительной реструктуризации и рефакторинга, которые, в свою очередь, приведут к значительным изменениям. Вот некоторые из ожидаемых обновлений 🛠:
*Переход на PyTorch
*Изменение документации
*Прекращение поддержки старых моделей и кода
*Контроль версий моделей
*Обновления конфигураций
Это некоторые из основных областей, на которых мы сосредоточимся в ближайшие месяцы.

Мы приглашаем вас присоединиться к нам, чтобы сообщить, что вы думаете об этих изменениях, поделиться своими ожиданиями от 1 версии библиотеки и рассказать, как DeepPavlov помогает вам в ваших проектах!

📌Мероприятие пройдет 28 января 2021 года в 19:00 по московскому времени.
Добавьте напоминание в свой календарь: https://bit.ly/MonthlyDPCommunityCall2021

P.s. Оставьте отзыв о библиотеке DeepPavlov 🙏
Мы хотим услышать вас. Вы можете заполнить эту форму, чтобы сообщить нам, как вы используете DeepPavlov Library, что вы хотите, чтобы мы добавили или улучшили!

Подробнее о мероприятии 👉 по ссылке.

Всем привет😃

Завтра, во вторник 26-го января 📆, в 16:30 пройдет научный семинар. Евгений Голиков, исследователь проекта #DeepPavlov 😎, расскажет про серию статей, объединённых темой "Тензорные программы".

"Тензорная программа - это последовательность действий в некотором языке, позволяющем описать прямой и обратный проходы для широкого класса архитектур нейронных сетей. Польза от формализма тензорных программ заключается в "главной теореме" (Master theorem), говорящей о том, как ведут себя величины, встречающиеся в программе, в пределе бесконечной ширины сети. Ряд известных свойств бесконечно-широких сетей оказываются следствиями главной теоремы. Доклад будет разбит на части, каждая из которых посвящена одному из таких свойств. Мы начнём с более простых, для которых достаточно редуцированного формализма, и будем расширять его по необходимости."

Список литературы:
Сходимость к гауссовским процессам: https://arxiv.org/abs/1910.12478
Существование предельного касательного ядра: https://arxiv.org/abs/2006.14548
Принцип свободной независимости: https://arxiv.org/abs/2009.10685

Ссылка на семинар 👉 https://bit.ly/WeeklyDPSeminar

Подключайтесь и задавайте вопросы 🤗

Всем привет😃

Напоминаем, что наш ежемесячный DeepPavlov Community Call состоится сегодня в 7 вечера по Москве 📆. Пройдет на английском языке, но вопросы на русском можно будет написать/задать в чате. Мы будем рассказывать о наших планах по улучшению библиотеки, и это - ваша отличная возможность поделиться своими соображениями, что хотелось бы улучшить! 💪

https://bit.ly/MonthlyDPCommunityCall2021

Всем привет 😃

Начиная с версии 0.12.0 #DeepPavlov 🎅 поддерживает и #TensorFlow и #PyTorch. В дополнение к этому DeepPavlov Library поддерживает Transformers и Datasets от Hugging Face 🤗

⭐️Наша новая статья описывает, как использовать новые модели DeepPavlov для классификации текста, основанные на архитектуре Transformer 👇
https://bit.ly/DPTextClassificationWithPyTorch

Комментарии и предложения приветствуются 🙏

Всем привет 😃

В этот четверг, 4-го февраля 📆, в 14:00 пройдет вторая часть научного семинара "Тензорные программы" от исследователя #DeepPavlov 😎 Евгения Голикова.

Подключаться можно по ссылке 👉 https://bit.ly/WeeklyDPSeminar

Если вы пропустили первую часть, то она доступна по ссылке 👉 https://bit.ly/DPSeminarTensorsPartI

Напоминаем, что сейчас состоится вторая часть доклада про тензорные программы. Вспомним, что было на первой части и разберём ещё два применения предлагаемого формализма:
- Вычисление предельного спектра якобиана выхода по входу (хороший спектр => возможность тренировать очень глубокие сети).
- Описание самого процесса обучения сети (а не только величин в инициализации).
Подключаться можно по ссылке 👉 https://bit.ly/WeeklyDPSeminar