Совершенно biased и полностью incomplete список интересных статей первого дня ICLR 2024 (2/2)

🔸Neurosymbolic Grounding for Compositional World Models
Модификация Neural Production Systems с использованием CLIP для получения свойств объектов и запихиванием этого в эмбеддинг слота

🔸AgentBench: Evaluating LLMs as Agents
Из названия всё понятно

🔸Grounding Multimodal Large Language Models to the World
Уже давно известная статья про Kosmos-2: как граундить LLM на картинки

🔸RT-Trajectory: Robotic Task Generalization via Hindsight Trajectory Sketches
Больше RT разных и прекрасных! Опять в названии всё чётко

🔸Habitat 3.0: A Co-Habitat for Humans, Avatars, and Robots
Добавили в Habitat людей и коллаборативные задачи

🔸Large Language Models Cannot Self-Correct Reasoning Yet
Интересная работа про то, насколько хорошо LLMки могут исправить свой ответ без дополнительной обратной связи

🔸Unleashing the Power of Pre-trained Language Models for Offline Reinforcement Learning
Возьмем для Decision Transformer в качестве бэкбона LLM (GPT-2), заморозим, и обучим с LORA для RL задач – получим LaMo. Да, ещё надо добавить языковой лосс и обучать одновременно на language prediction tasks, чтобы GPT-2 не забыла свои основные обязанности

🔸CivRealm: A Learning and Reasoning Odyssey in Civilization for Decision-Making Agents
Просто 🔥! Среда на основе Цивилизации и RL и LLM агенты в качестве бейзлайна

🔸Learning to Jointly Understand Visual and Tactile Signals
Важная задача для робототехники

🔸Object centric architectures enable efficient causal representation learning
Объединение slot attention и causal representation learning

Очень полезная статья "How we write rebuttals"

Советы от Devi Parikh, Dhruv Batra и Stefan Lee как отвечать рецензентам 🤜🤛

Подключайтесь послушать 🤗

🎓 — Семинар 34. Обзор конференции ICLR | Александр Панов, Алексей Ковалёв, Алексей Скрынник, Леонид Угадяров

С 7 по 11 мая в Вене (Австрия) прошла конференция ICLR, которая является одной из ключевых конференций в области глубокого обучения и искусственного интеллекта в целом.

В этом году на конференции были представлены две работы, авторами которых являются сотрудники Центра: первая про эффективные объектно-центричные модели SMM, а также работа про активное обучения для поиска конформаций молекул GOLF.

Доклад на семинаре будет посвящён обзору конференции, а также обсуждению статей, вызвавших интерес у докладчиков.

📹 Трансляция Youtube

Подключайтесь к живому обсуждению и задавайте вопросы в прямом эфире!
Ждем всех!

#семинары #конференции #RL #DL

💫 — Начинаем семинар, присоединяйтесь к трансляции!

Рецензировать статьи стало намного проще!

Спасибо @ai_panov

🎓 — Семинар 35. Object-Centric Dreamer | Леонид Угадяров

В докладе будет рассмотрен разработанный алгоритм обучения с подкреплением Object-Centric Dreamer, где модель среды реализована с помощью новой объектно-центрированной модели пространства состояний Object-Centric RSSM на основе графового варианта рекуррентного блока GRU.

📹 Трансляция Youtube

Подключайтесь к живому обсуждению и задавайте вопросы в прямом эфире! Ждем всех!

#семинары #RL

💫 — Начинаем семинар, присоединяйтесь к трансляции!

Внимание! Внимание!

Сейчас мы в AIRI активно ищем новых исследователей в научную группу Александра Панова для разработки мультимодальных RL-алгоритмов для робототехники классных специалистов-универсалов 💪

Требуемые навыки:
💫 опыт запуска и самостоятельно обучения базовых RL алгоритмов;
💫 понимание специфики работы с робототехническими симуляторами (MuJoCo, DMC);
💫 понимание принципов работы языковых моделей и умение их дообучать, быть знакомым с современными мультимодальными моделями.

Интерес к реальной (не симуляционной) робототехнике приветстуется!

Научная группа Александра участвует в ведущих робототехнических конференциях, нацелена на публикацию статей A*, Q1 и работает над одним из самых амбициозных проектов мирового уровня (по результатам можно посетить много крутых стран и интересных мест).
Ребята тут, кстати, сгоняли с докладами на топ конфу в Японию в мае, о чем написали на Хабре!
Еще у Саши есть свой канал в Telegram — там пишет о поездках, исследованиях

⚡Подключайся к нам
⚡Пополняй ряды топовых исследовательских команд

Если заинтересовало, пиши скорее сюда — @GraffT

или сюда

#offtop
🙌🙌🙌🙌 Разыскиваются ML-based стартапы!

Прием заявок: до 21 июля
Дата проведения программы: август – октябрь
Формат: онлайн
Организаторы: Центр "Пуск" МФТИ в сотрудничестве с Минэкономразвития РФ на базе Центров «Мой бизнес»
Участие: бесплатно

Подавайте заявку на участие в полной программе, если ваш стартап:
➡️ Основан на технологиях машинного обучения и искусственного интеллекта
➡️Находится на станции работающего прототипа или продукта с доказанным рыночным спросом

Только 30 стартапов из всех получат возможность поработать с опытными менторами из индустрии ИИ и машинного обучения.

Подать заявку на участие в отборе можно на странице программы.

26 июля в Telegram-канале программы опубликуем результаты отбора стартапов, там же будут опубликованы анонсы открытых образовательных мероприятий, доступных для всех.

Успеха!

Сейчас многие ребатлятся на NeurIPS и строят теории пройдет статья или нет. Вот интересная статистика по accept/reject за последние три года

Из нее можно сделать два вывода (на примере 2023 года):

😄Хороший — принимают статьи даже со средней оценкой 3.7
😒Плохой — отклоняют статьи даже со средней оценкой 6.5

Так что, всем удачи! 🙃

Можно, кстати, ещё и третий сделать. Как думаете какой?🤔

Техническое замечание: статистика по reject считается только по открытым рецензиям, а их мало (~1.5%)

Занимательный факт

По ссылке выше в списке статей, первой стоит статья от группы Евгения Бурнаева (AIRI, Сколтех) со средней оценкой 8.25 — наивысшей среди всех 🔥

Жизненное

Взято у Labrats и цензурировано 🤬

Защита кандидатской. Настаёт пора вопросов от комиссии. Самый уважаемый член комиссии начинает, с упреком:
— Вот на 5 странице своей работы вы используете слово пайплайн. Почему нельзя заменить русским аналогом?? К чему эти англицизмы???
Защищающийся:
— Виноват, пропустил, конечно же в следующих работах буду избегать
Уважаемый член продолжает:
— А вот на 23 странице вашей работы вы утверждаете, что данная тема в науке освещена мало. Однако мы с Владимиром Александровичем (кивает головой другому члену комиссии) писали об этом обзор в Вестнике Рязани еще в 1997г.
Защищающийся:
— Прошу прощения, упустили при подготовке работы. Обязательно ознакомлюсь и буду упоминать в введении статей
Член комиссии продолжает:
— И вот на 73 странице ваши результаты не соответствуют тому, что мы получали с Андреем Викторовичем (кивает еще одному члену комиссии) в нашей работе в 2001 году. Проверяли мы это на матмоделях, а не реальных данных, но сути вопроса это не меняет.
Защищающийся:
— Возможно, проблема в разных версиях используемых пакетов, из-за чего в моих расчётах могут быть неточности. Конечно же я подробно изучу данный вопрос в дальнейших работах.
Уважаемый член комиссии:
- А почему вы даже не пытаетесь со мной спорить? У вас что, за столько лет работы на благо науки так и не появилось своего виденья проблемы, которой вы занимаетесь?
– Виденье есть. А вот степени еще нет. А то бы я вас на *** послал еще на пайплайне

Уже вторую неделю в ИТМО проходит летняя школа AIRI ☀️

На которой вчера читал лекцию про Langauge-based Robotics 👅 🤖

На защите одного из проектов в рамках летней школы упомянули IceNet — модель для предсказания ледовой обстановки 🧊🚢

Не могу не привести фронт пейдж проекта в контексте прошлого поста