Small Data Science for Russian Adventurers
11.3K subscribers
307 photos
3 videos
13 files
708 links
БЕЗ ЧУЖОЙ РЕКЛАМЫ Авторский канал Александра Дьяконова (dyakonov.org)
машинное (machine learning) и
глубокое обучение (deep learning)
анализ данных (data mining)
наука о данных (data science)
ИИ (artificial intelligence)
математика (math)
и др.
ЕСТЬ ЧАТ;)
Download Telegram
#обзор
Перечень интересных (по мнению автора) докладов KDD2020,
в основном по графам, рекомендациям и поиску:
https://raw.githubusercontent.com/ishugaepov/kdd_2020/master/kdd_2020.pdf
#обзор
Неплохой обзор по DL с интригующим названием "A Survey of Deep Learning for Scientific Discovery":
https://arxiv.org/pdf/2003.11755.pdf
#обзор
Интересно, что по рекуррентным сетям (RNN) почти нет свежих обзоров, видимо, Трансформеры всё заасфальтировали... последний "универсальный" обзор (про всё-всё-всё в RNN), который я нашёл датирован началом 2018 года:
Recent Advances in Recurrent Neural Networks
https://arxiv.org/abs/1801.01078
#обзор
Для тех, кто в чатике интересовался обзорами по Ганам. В принципе, их много хороших. Но для провокационности контента канала, скажу -
Посмотрите на Хуи Джонатана:
https://jonathan-hui.medium.com/gan-gan-series-2d279f906e7b
#обзор
Поискал какое-нибудь свежее независимое и более-менее приличное сравнение разных реализация градиентного бустинга. Нашёл только за 2019 год...
Выгоднее смотрится CatBoost, но автор контактировал с его создателями, как показывает практика, это действительно улучшает качество в экспериментах (имеется в виду, что создатели подсказывают, что в данном случае надо ещё подкрутить). Жалко, что у xgb и lgb нет такой помощи онлайн (у catboost-a есть, кстати, свой телеграм-канал).
https://medium.com/riskified-technology/xgboost-lightgbm-or-catboost-which-boosting-algorithm-should-i-use-e7fda7bb36bc
#обзор
Список предобученных языковых моделей (вроде его до сих пор поддерживают, судя по наличию некоторых новинок):
https://github.com/thunlp/PLMpapers
#обзор
Тренды на ближайшие годы... лучше не будет;) Полный обзор по ссылке:
https://www.dni.gov/files/ODNI/documents/assessments/GlobalTrends_2040.pdf
#обзор
Вроде уже не пополняемый сборник ссылок, но есть ссылки на интересные старые материалы
https://mlpapers.org/
#обзор
Разные виды dropout-a по годам появления. Картинка из обзорной статьи https://arxiv.org/pdf/1904.13310.pdf
ChatGPT Cheat Sheet-1.pdf
721.6 KB
#обзор
Подборка затравок и ответов ChatGPT. Удобна для ответа на вопрос "а что она вообще может?"
👍24🔥141😱1