Small Data Science for Russian Adventurers
11.3K subscribers
307 photos
3 videos
13 files
708 links
БЕЗ ЧУЖОЙ РЕКЛАМЫ Авторский канал Александра Дьяконова (dyakonov.org)
машинное (machine learning) и
глубокое обучение (deep learning)
анализ данных (data mining)
наука о данных (data science)
ИИ (artificial intelligence)
математика (math)
и др.
ЕСТЬ ЧАТ;)
Download Telegram
#статья
Работа «старая», но всё время забываю на неё сослаться, когда рассказываю студентам об Adam - это метод оптимизации используется наиболее интенсивно при обучении нейронных сетей, но он может не сходиться. Пример приведён в этой работе, метод «исправили», он стал теоретически обоснован, но практически показывает себя хуже и Adam-ом продолжают пользоваться;)
https://arxiv.org/abs/1904.09237
#статья
Скаченные со sci-hub статьи цитируются в 1.72 раз чаще:
https://arxiv.org/abs/2006.14979
#статья
Ещё на тему функций ошибки. Интересное обобщение нескольких известных функций - alpha-loss:
https://arxiv.org/pdf/1906.02314v5.pdf
#статья
На рис. кто откуда хантит профессоров. Из статьи Michael Gofman et al. Artificial Intelligence, Education, and Entrepreneurship // https://gofman.info/AI/AI_GofmanJin.pdf
#статья
Формальная систематизация рекуррентных сетей.
https://arxiv.org/pdf/2004.08500v4.pdf
#статья
Довольно интересный сборник теории:
https://arxiv.org/abs/2105.04026
#статья
По поводу последнего вопроса. Есть даже статьи, в которых изучаются такие "неправильные" генерации. Одна из свежих, например:
Terence Broad, Sebastian Berns, Simon Colton, Mick Grierson "Active Divergence with Generative Deep Learning -- A Survey and Taxonomy" // https://arxiv.org/abs/2107.05599v1
(рис. из неё)
#статья
Мой коллега Дмитрий Ватолин написал лонгрид по мотивам работы своей лаборатории, посвящённый году науки! Если не можете комментировать на хабре - напишите здесь, что думаете по поднятым вопросам. Мне кажется, что мнения будут полярными;)
https://habr.com/ru/post/598305/
1👍1
#статья
На тему, а можно ли использовать открытые датасеты...
https://arxiv.org/abs/2111.02374v1
#статья
Неплохой пример современной диссертации (их раньше меньше выкладывали на arxiv) про нейронные дифференциальные уравнения (именно диссертаций по этой теме я раньше не видел):
https://arxiv.org/abs/2202.02435
👍11🔥3
#статья
Вчера я изучал статьи про прогнозирование фондового рынка. Интересно, что почти все написаны людьми, которые довольно слабо разбираются в практическом ML. Вот беру случайную статью:
Stock market prediction using machine learning classifiers and social media, news
Больше 100 цитирований, в журнале из Q1 Scopus раздела General Computer Science, между прочим. Привожу табличку с оптимальными параметрами исследуемых алгоритмов, которая сразу вызовет кучу вопросов у профессионала;)
(в следующем посте могу кратко описать почему)
🤔38😁24👍20🥴63