Бейдж получен. Конференция стартует завтра 🎉

Скоро будет отчёт за первый день ICLR 2024

А пока сэлфи с Русланом Салахутдиновым 🤗

Совершенно biased и полностью incomplete список интересных статей первого дня ICLR 2024 (1/2)

🔸ASID: Active Exploration for System Identification in Robotic Manipulation
Что делать если модель среды для робота в симуляторе не совпадает с реальной средой? Обучаем стратегию, которая позволяет узнать больше об отличие реальной среды от симулятора. Прогоняем обученную стратегию в реальной среде один раз, полученные данные используем чтобы подправить модель в симуляторе. Обучаемся в подправленном симуляторе и – ПРОФИТ! Можно запускать на реальном роботе

🔸Learning Interactive Real-World Simulators
Симулятор робототехнических задач на основе диффузии для видео. Сделали за шесть месяцев до Sora

🔸Task Planning for Visual Room Rearrangement under Partial Observability
Метод для мобильной перестановки с учетом предпочтений пользователя

🔸Learning with Language-Guided State Abstractions
Обобщают состояние среды с помощью LLM: сначала картинку сегментируют SAM’ом и передают описание сцены в виде списка объектов и их свойств в LLM, LLM по языковой инструкции определяет, какие объекты важны (по сути, фильтрует список) для решения задачи, на основе этой информации исходной изображение маскируется и дальше используется для обучения стратегии. Решают манипуляционные задачи

🔸Learning Planning Abstractions from Language
Концептуально похожа на предыдущую работу, но на этот раз LLM используется для вычленения необходимых действие и объектов, для обучения низкоуровневой стратегии. Для планирования на высоком уровне используется BFS

🔸Conformal Risk Control
Применения conformal prediction для контролирования ожидаемого значения монотонных функций потерь

🔸Towards Principled Representation Learning from Videos for Reinforcement Learning
Как правильно учить представления для RL по видео

Совершенно biased и полностью incomplete список интересных статей первого дня ICLR 2024 (2/2)

🔸Neurosymbolic Grounding for Compositional World Models
Модификация Neural Production Systems с использованием CLIP для получения свойств объектов и запихиванием этого в эмбеддинг слота

🔸AgentBench: Evaluating LLMs as Agents
Из названия всё понятно

🔸Grounding Multimodal Large Language Models to the World
Уже давно известная статья про Kosmos-2: как граундить LLM на картинки

🔸RT-Trajectory: Robotic Task Generalization via Hindsight Trajectory Sketches
Больше RT разных и прекрасных! Опять в названии всё чётко

🔸Habitat 3.0: A Co-Habitat for Humans, Avatars, and Robots
Добавили в Habitat людей и коллаборативные задачи

🔸Large Language Models Cannot Self-Correct Reasoning Yet
Интересная работа про то, насколько хорошо LLMки могут исправить свой ответ без дополнительной обратной связи

🔸Unleashing the Power of Pre-trained Language Models for Offline Reinforcement Learning
Возьмем для Decision Transformer в качестве бэкбона LLM (GPT-2), заморозим, и обучим с LORA для RL задач – получим LaMo. Да, ещё надо добавить языковой лосс и обучать одновременно на language prediction tasks, чтобы GPT-2 не забыла свои основные обязанности

🔸CivRealm: A Learning and Reasoning Odyssey in Civilization for Decision-Making Agents
Просто 🔥! Среда на основе Цивилизации и RL и LLM агенты в качестве бейзлайна

🔸Learning to Jointly Understand Visual and Tactile Signals
Важная задача для робототехники

🔸Object centric architectures enable efficient causal representation learning
Объединение slot attention и causal representation learning

Очень полезная статья "How we write rebuttals"

Советы от Devi Parikh, Dhruv Batra и Stefan Lee как отвечать рецензентам 🤜🤛

Подключайтесь послушать 🤗

🎓 — Семинар 34. Обзор конференции ICLR | Александр Панов, Алексей Ковалёв, Алексей Скрынник, Леонид Угадяров

С 7 по 11 мая в Вене (Австрия) прошла конференция ICLR, которая является одной из ключевых конференций в области глубокого обучения и искусственного интеллекта в целом.

В этом году на конференции были представлены две работы, авторами которых являются сотрудники Центра: первая про эффективные объектно-центричные модели SMM, а также работа про активное обучения для поиска конформаций молекул GOLF.

Доклад на семинаре будет посвящён обзору конференции, а также обсуждению статей, вызвавших интерес у докладчиков.

📹 Трансляция Youtube

Подключайтесь к живому обсуждению и задавайте вопросы в прямом эфире!
Ждем всех!

#семинары #конференции #RL #DL

💫 — Начинаем семинар, присоединяйтесь к трансляции!

Рецензировать статьи стало намного проще!

Спасибо @ai_panov

🎓 — Семинар 35. Object-Centric Dreamer | Леонид Угадяров

В докладе будет рассмотрен разработанный алгоритм обучения с подкреплением Object-Centric Dreamer, где модель среды реализована с помощью новой объектно-центрированной модели пространства состояний Object-Centric RSSM на основе графового варианта рекуррентного блока GRU.

📹 Трансляция Youtube

Подключайтесь к живому обсуждению и задавайте вопросы в прямом эфире! Ждем всех!

#семинары #RL

💫 — Начинаем семинар, присоединяйтесь к трансляции!

Внимание! Внимание!

Сейчас мы в AIRI активно ищем новых исследователей в научную группу Александра Панова для разработки мультимодальных RL-алгоритмов для робототехники классных специалистов-универсалов 💪

Требуемые навыки:
💫 опыт запуска и самостоятельно обучения базовых RL алгоритмов;
💫 понимание специфики работы с робототехническими симуляторами (MuJoCo, DMC);
💫 понимание принципов работы языковых моделей и умение их дообучать, быть знакомым с современными мультимодальными моделями.

Интерес к реальной (не симуляционной) робототехнике приветстуется!

Научная группа Александра участвует в ведущих робототехнических конференциях, нацелена на публикацию статей A*, Q1 и работает над одним из самых амбициозных проектов мирового уровня (по результатам можно посетить много крутых стран и интересных мест).
Ребята тут, кстати, сгоняли с докладами на топ конфу в Японию в мае, о чем написали на Хабре!
Еще у Саши есть свой канал в Telegram — там пишет о поездках, исследованиях

⚡Подключайся к нам
⚡Пополняй ряды топовых исследовательских команд

Если заинтересовало, пиши скорее сюда — @GraffT

или сюда

#offtop
🙌🙌🙌🙌 Разыскиваются ML-based стартапы!

Прием заявок: до 21 июля
Дата проведения программы: август – октябрь
Формат: онлайн
Организаторы: Центр "Пуск" МФТИ в сотрудничестве с Минэкономразвития РФ на базе Центров «Мой бизнес»
Участие: бесплатно

Подавайте заявку на участие в полной программе, если ваш стартап:
➡️ Основан на технологиях машинного обучения и искусственного интеллекта
➡️Находится на станции работающего прототипа или продукта с доказанным рыночным спросом

Только 30 стартапов из всех получат возможность поработать с опытными менторами из индустрии ИИ и машинного обучения.

Подать заявку на участие в отборе можно на странице программы.

26 июля в Telegram-канале программы опубликуем результаты отбора стартапов, там же будут опубликованы анонсы открытых образовательных мероприятий, доступных для всех.

Успеха!

Сейчас многие ребатлятся на NeurIPS и строят теории пройдет статья или нет. Вот интересная статистика по accept/reject за последние три года

Из нее можно сделать два вывода (на примере 2023 года):

😄Хороший — принимают статьи даже со средней оценкой 3.7
😒Плохой — отклоняют статьи даже со средней оценкой 6.5

Так что, всем удачи! 🙃

Можно, кстати, ещё и третий сделать. Как думаете какой?🤔

Техническое замечание: статистика по reject считается только по открытым рецензиям, а их мало (~1.5%)

Занимательный факт

По ссылке выше в списке статей, первой стоит статья от группы Евгения Бурнаева (AIRI, Сколтех) со средней оценкой 8.25 — наивысшей среди всех 🔥