DeepPavlov notifications
1.06K subscribers
5 photos
4 files
163 links
Канал текущей информации проекта DeepPavlov.
Download Telegram
Всем привет!

Сегодня в 18.00 пройдет DeepPavlov Community Call 📞

На нем будем общаться про продукты, roadmap и науку 🎅 Ждем всех, присоединяйтесь 👉
Добавляйте в свой календарь звонок (. ics): https://bit.ly/FirstDPCommunityCall
Всем привет 😃
Сегодня, 23 октября, в 18:00 состоится открытый научный семинар по теме «Бесконечно широкие сети», на котором выступит Евгений Голиков. Семинар пройдет на английском языке.

Название: Infinitely Wide Nets
Описание: Many problems in theoretical understanding of neural nets come from the fact that it is hard to reason about their training dynamics. In particular, one cannot generally guarantee global convergence of gradient descent —- a fact typically observed for realistic networks and data. Moreover, all generalization bounds that do not take the training dynamics into account turn out to be vacuous.
Fortunately, the training dynamics of neural nets substantially simplifies in the limit of infinite width. One of the limit, the NTK limit, is driven by a constant kernel which can be estimated via Monte-Carlo. We shall discuss how this limit can be used to obtain optimization and generalization guarantees for sufficiently wide networks. Another limit, the mean-field limit, leads to a quantitatively different limit model.
The reason why we have two different limits is the difference in hyperparameter scaling with width. We shall show how different hyperparameter scalings result in different limit models, and discuss which limit model should be a better proxy for realistic finite-width nets.

⚡️Подключайтесь в 18:00 в Zoom: https://zoom.us/j/94513132913
Всем привет 😃

Завтра в 18.00 пройдет DeepPavlov Community Call #2📞

На нем будем общаться про науку, отвечать на вопросы и проводем туториал 🎅 Ждем всех, присоединяйтесь 👉
Добавляйте в свой календарь звонок (. ics): https://bit.ly/MonthlyDPCommunityCall

А свои комментарии можно оставить здесь: https://github.com/deepmipt/DeepPavlov/issues/1335
Channel name was changed to «DL in NLP 2020»
Всем привет!
У нас отличные новости 🎉 наша команда DREAM второй год подряд участвует в конкурсе Alexa Prize Socialbot Grand Challenge 4 от Amazon.
Подробнее о конкурсе и команде: https://habr.com/ru/company/mipt/blog/526564/

Если вы студент или аспирант МФТИ и всегда мечтали поучаствовать в конкурсе такого масштаба, тогда у вас есть шанс присоединиться к команде и воплотить DREAM в реальность! Ну а если у вас есть просто идеи по улучшению Socialbot, то ждем вашей обратной связи 🙏
Всем привет 😃

Сегодня делимся лекцией по одной из наиболее прикладных областей в Deep Learning: Диалоговые системы. Михаил Бурцев расскажет, как же сегодня устроены современные диалоговые агенты, на что они способны, а на что ещё нет, и какова роль экосистемы DeepPavlov 🎅 во всём этом.

👉 Смотрите полную лекцию на youtube.
Всем привет 😃

В нашей дружественной «Лаборатории анализа данных и разработки рекомендательных систем» в МФТИ от Россельхозбанка открыта вакансия ML Engineer ⭐️

Ребята ищут ML-инженеров. Лаборатория - индустриальная: решают задачи продуктовых подразделений "Россельхозбанка".

Результатом твоей работы в лаборатории будут прототипы или фичи в продуктах на основе ML. Можно научиться быстро прототипировать и доставлять реальную ценность в бизнес-процессах в короткие сроки. Команда работает над решениями для нескольких сельскохозяйственных маркетплейс-платформ:
- Модерация текстовой и визуальной информации;
- Рекомендательные системы на основе поведения пользователей сервиса, семантических описаний товаров и экспертных знаний для сельскохозяйственной отрасли;
- Текстовые ассистенты для автоматизации взаимодействия с платформой в текстовых каналах;

Зарплатная вилка: от 160 до 200 т.р.

За подробностями переходи 👉 по ссылке
Всем привет 😃

У нас отличные новости для всех, кто хочет или всегда хотел заниматься наукой! Недавно на Физтехе возникла инициатива Science Club — это объединение студентов, которые стремятся к научной карьере, и опытных менторов-исследователей в области Data Science. Вместе мы проводим исследования, пишем статьи и выступаем на конференциях 🤓. Короче двигаем науку вперед 💪

Наша лаборатория подключается к этой прекрасной инициативе! Приглашаем студентов и начинающих специалистов вливаться в исследования, которые мы ведем в области разговорного ИИ 🤖

Подробнее о программе можно узнать в статье ⭐️. Ну а если возникнут вопросы, то пишите @moryshka
Всем привет 😃

В прошлый четверг состоялся открытый семинар нашей лаборатории, на котором Анна Роджерс представила бертологический доклад: “When BERT plays the lottery, all tickets are winning!” 

The lottery ticket hypothesis was originally developed for randomly initialized models, but might it also apply to pre-trained Transformers? If the “good” subnetworks exist, can they tell us anything about how BERT achieves its performance?
The original paper can be found here  https://arxiv.org/pdf/2005.00561
Всем привет 😃

Global AI Community и Лига искусственного интеллекта Microsoft Learn Student Ambassadors в эту субботу, 12 декабря проводят глобальную студенческую ИИ-конференцию! Будет непрерывная трансляция, с 12:00 до 20:00 по Москве! 

В промежуток с 15:30-16:00 пройдет круглый стол про настоящее и будущее искусственного интеллекта при участии Михаила Бурцева. За полчаса обсудят самое главное, что нужно знать про ИИ в 2020 году.

Полная программа и регистрация - на сайте.
Всем привет 😃

На следующей неделе в четверг, 24 декабря пройдет DeepPavlov Community Call 🎅

Это последний звонок в этом году, и первый - при участии внешних спикеров. Давид Дале, бывший инженер-программист Яндекса, поделится опытом работы в команде Алисы, а также расскажет о том, как она объединяет различные компоненты. А наша команда, как обычно, про обновления и фичи в DeepPavlov.

Call будет проводится в Zoom на английском языке.
📅Дата: четверг 24 декабря в 19-00 по Москве

Повестка, спикеры и ссылка на call 👉 https://bit.ly/2KiDSlj
Всем привет 😃 И с прошедшими праздниками!

Надеемся, что за выходные вы прекрасно отдохнули 💪Теперь пора включаться в работу 👩‍💻 А мы предлагаем вам посмотреть #DeepPavlov #Community #Call #4, который провели впервые с участием внешних спикеров в конце декабря 🎅

⭐️ Специальный гость - Давид Дале, бывший инженер-программист Яндекса - рассказал про опыт работы в команде Алисы, а также о том, как она объединяет различные компоненты.

Приятного просмотра 📺 И ждем всех на следующих DeepPavlov Community Calls 🤗
Всем привет 😃

Это сообщение для всех, кто использует DeepPavlov 🎅

На следующей неделе, 28 января, мы проведем DeepPavlov Community Call 5! Это первый звонок в 2021 году, который будет посвящен нашим планам по рефакторингу библиотеки DeepPavlov 🔥

Мы начнем преобразование нашей библиотеки 🎅 на пути к версии 1.0. Этот процесс потребует значительной реструктуризации и рефакторинга, которые, в свою очередь, приведут к значительным изменениям. Вот некоторые из ожидаемых обновлений 🛠:
*Переход на PyTorch
*Изменение документации
*Прекращение поддержки старых моделей и кода
*Контроль версий моделей
*Обновления конфигураций
Это некоторые из основных областей, на которых мы сосредоточимся в ближайшие месяцы.

Мы приглашаем вас присоединиться к нам, чтобы сообщить, что вы думаете об этих изменениях, поделиться своими ожиданиями от 1 версии библиотеки и рассказать, как DeepPavlov помогает вам в ваших проектах!

📌Мероприятие пройдет 28 января 2021 года в 19:00 по московскому времени.
Добавьте напоминание в свой календарь: https://bit.ly/MonthlyDPCommunityCall2021

P.s. Оставьте отзыв о библиотеке DeepPavlov 🙏
Мы хотим услышать вас. Вы можете заполнить эту форму, чтобы сообщить нам, как вы используете DeepPavlov Library, что вы хотите, чтобы мы добавили или улучшили!

Подробнее о мероприятии 👉 по ссылке.
Всем привет😃

Завтра, во вторник 26-го января 📆, в 16:30 пройдет научный семинар. Евгений Голиков, исследователь проекта #DeepPavlov 😎, расскажет про серию статей, объединённых темой "Тензорные программы".

"Тензорная программа - это последовательность действий в некотором языке, позволяющем описать прямой и обратный проходы для широкого класса архитектур нейронных сетей. Польза от формализма тензорных программ заключается в "главной теореме" (Master theorem), говорящей о том, как ведут себя величины, встречающиеся в программе, в пределе бесконечной ширины сети. Ряд известных свойств бесконечно-широких сетей оказываются следствиями главной теоремы. Доклад будет разбит на части, каждая из которых посвящена одному из таких свойств. Мы начнём с более простых, для которых достаточно редуцированного формализма, и будем расширять его по необходимости."

Список литературы:
Сходимость к гауссовским процессам: https://arxiv.org/abs/1910.12478
Существование предельного касательного ядра: https://arxiv.org/abs/2006.14548
Принцип свободной независимости: https://arxiv.org/abs/2009.10685

Ссылка на семинар 👉 https://bit.ly/WeeklyDPSeminar

Подключайтесь и задавайте вопросы 🤗
Всем привет😃

Напоминаем, что наш ежемесячный DeepPavlov Community Call состоится сегодня в 7 вечера по Москве 📆. Пройдет на английском языке, но вопросы на русском можно будет написать/задать в чате. Мы будем рассказывать о наших планах по улучшению библиотеки, и это - ваша отличная возможность поделиться своими соображениями, что хотелось бы улучшить! 💪

https://bit.ly/MonthlyDPCommunityCall2021
Всем привет 😃

Начиная с версии 0.12.0 #DeepPavlov 🎅 поддерживает и #TensorFlow и #PyTorch. В дополнение к этому DeepPavlov Library поддерживает Transformers и Datasets от Hugging Face 🤗

⭐️Наша новая статья описывает, как использовать новые модели DeepPavlov для классификации текста, основанные на архитектуре Transformer 👇
https://bit.ly/DPTextClassificationWithPyTorch

Комментарии и предложения приветствуются 🙏
DeepPavlov notifications
Всем привет 😃 В этот четверг, 4-го февраля 📆, в 14:00 пройдет вторая часть научного семинара "Тензорные программы" от исследователя #DeepPavlov 😎 Евгения Голикова. Подключаться можно по ссылке 👉 https://bit.ly/WeeklyDPSeminar Если вы пропустили первую часть…
Напоминаем, что сейчас состоится вторая часть доклада про тензорные программы. Вспомним, что было на первой части и разберём ещё два применения предлагаемого формализма:
- Вычисление предельного спектра якобиана выхода по входу (хороший спектр => возможность тренировать очень глубокие сети).
- Описание самого процесса обучения сети (а не только величин в инициализации).
Подключаться можно по ссылке 👉 https://bit.ly/WeeklyDPSeminar
Всем привет 😃

#DeepPavlov 🎅 Chief Product Officer, Данила Корнев, стал Победителем в номинации "Лучший спикер потока Technology" 🏆 на конференции Conversations AI 2020 с докладом: Как трансформировать исследовательский проект с конкурса Amazon #AlexaPrize в Open-Source дистрибутив ИИ-ассистента 🤩

Советуем к просмотру 👉 https://www.youtube.com/watch?v=NlE_53gQwi4
Всем привет 😃
Друзья, что ж, у нас новость, которую ждали😎

В этом году мы снова планируем отпраздновать день рождения #DeepPavlov 🎅, а именно отметить 3️⃣ года и провести встречу для пользователей и разработчиков 🔥 Будут крутые доклады по разговорному #AI 😎

Мы приглашаем поучаствовать в качестве спикера всех, кто хочет рассказать о своих кейсах использования библиотеки и технологий DeepPavlov 🤩

Что важно знать про мероприятие уже сейчас?

- Мы заботимся о здоровье и безопасности нашего комьюнити! Поэтому мероприятие пройдет в онлайн формате 🙅
- Мы приглашаем вас выступить с 10 минутным докладом про использование библиотеки и рассказать про вашу работу
- Мы планируем провести мероприятие 5 марта. Так что просим не затягивать с подачей заявки 📆

Заполнить заявку можно тут 👉 https://forms.gle/QK9apdVSN5Ai2saV7
Дедлайн подачи - 21 февраля.

Подробнее о мероприятии и первых хедлайнерах вы скоро узнаете! Следите за новостями 👀