📌 Анонс семинара Лаборатории 11 ноября (16.20 в 5234):

🗒 От промтов к векторным представлениям: как современные подходы меняют хранение и понимание текста

Задумывались ли вы когда-нибудь, что векторные представления документов можно «промтить» при кодировке? Генеративные модели настолько прочно вошли в нашу повседневность, что почти любое текстовое взаимодействие теперь проходит через фильтр ChatGPT или подобных инструментов. Однако в основном эти модели применяются для генерации текстов или изображений, а мы в своем исследовании фокусируемся на другом — на хранении данных и возможности учитывать контекст. Ведь именно контекст часто становится ключом к пониманию и точному сравнению предложений (sentence similarity). Это особенно важно для узкоспециализированных областей, где одно слово может радикально изменить смысл. В докладе мы погрузимся в историю развития кодировки текстовых данных, обсудим сегодняшние SOTA (state-of-the-art) подходы и узнаем о признанных бенчмарках и кейсах применения. А также Александр расскажет нам о своей исследовательской теме в аспирантуре, где как раз изучает, как эффективнее использовать эти подходы для сохранения контекста и повышения точности анализа текстов.

Докладчик: Александр Тарасов

🗒 Автоматизация обновления толковых словарей с помощью больших языковых моделей

Как сохранить актуальность и доступность толковых словарей в условиях быстрого изменения языка? В своём докладе Тимур расскажет, как их команда использовали LLM для автоматизации генерации и упрощения определений в русском языке, исследовали различные источники и подходы, сравнивая методы генерации толкований. Полученные результаты показывают, что предложенный подход помогает повысить доступность информации и обеспечивает высокое качество определений, делая их язык понятнее для широкой аудитории.

Докладчик: Тимур Гарипов

📌 Анонс семинара Лаборатории 18 ноября (16.20 в 4117):

🗒 Преобразование табличных данных для few-shot классификации с помощью LLM

Мы привыкли к тому, что нейросети на табличных данных уступают в точности классическим ML-моделям. Но что, если у нас нет достаточно большого датасета для обучения бустинга? На помощь приходят LLM, которые уже содержат знания о мире и специфических предметных областях, а значит их можно дообучать в режиме few-shot learning под конкретные табличные задачи. Последние исследования подтверждают эффективность этого метода. Но в каком виде передавать таблицу в модель? Этому будет посвящено исследование, план и задачи которого будут представлены в ходе доклада.

Докладчик: Шульгин Егор

🗒 GOT: Архитектура для высокопроизводительного оптического распознавания символов [разбор статьи]

Оптическое распознавание символов (OCR) — это широко используемая технология, которая извлекает символы с изображения в редактируемый формат. Традиционные системы OCR все чаще не могут удовлетворить потребности людей из-за растущего спроса на интеллектуальную обработку символов. В работе рассматривается общая теория OCR (OCR 2.0): понятие символа обобщается на большинство оптических сигналов (текст, формулы, ноты, диаграммы, таблицы и геометрические фигуры) и предлагается эффективная, относительно простая модель GOT, состоящая из кодировщика с высокой степенью сжатия и декодера длинных контекстов, которая может обрабатывать все вышеперечисленные «символы» в различных задачах OCR и выдавать простой или форматированный результат.

Докладчик: Иванков Павел

🗒 Генерация данных для пост-OCR-коррекции рукописного кириллического текста [разбор статьи]

Распознавание рукописного кириллического текста (HTR) является актуальной и непростой задачей из-за отсутствия больших, качественно аннотированных наборов данных об ошибках OCR. В данной работе авторы предлагают новый, основанный на генерации искусственных данных, подход к пост-коррекции результатов OCR. Для создания реалистичных образцов, которые затем используются для увеличения текстовых наборов данных, предлагается использовать генератор рукописного текста на основе кривых Безье. Уже на новом расширенном датасете обучается модель коррекции seq2seq, основанная на архитектуре T5. В ходе экспериментов на общедоступных датасетах HWR200 и School_notebooks_RU продемонстрирована эффективность предложенного метода, тем самым удалось повысить точность распознавания как отдельных символов, так и слов.

Докладчик: Мищенко Александр

🗒 Улучшение качества оптического распознавания исторических документов XIX века. Использование комбинированного подхода на основе машинного обучения [разбор статьи]

Статья предлагает улучшенный подход к распознаванию текста в исторических документах XIX века, сочетая традиционные методы OCR и современные нейронные сети. Цель исследования — минимизировать ошибки при распознавании старинных шрифтов и типографских особенностей. В статье разработан метод, который позволяет повысить точность распознавания и анализировать ошибки OCR, что способствует более эффективной обработке оцифрованных архивных данных.

Докладчик: Денисов Семен

📌 Анонс семинара Лаборатории 25 ноября (16.20 в 5234):

🗒 Методы генеративного дизайна в проектировании

Генеративный дизайн — технология, в которой часть процессов при создании какого-либо продукта, будь то физический объект или цифровая модель, делегируется цифровым технологиям. Инструментов для генеративного дизайна существует множество, а способов их применения — ещë больше! В докладе будут обсуждаться различные подхожы к генеративному дизайну, их плюсы и минусы, а также способы применения. Особое же внимание будет уделено моделированию цифровых двойников физических объектов в CAD-системах и топологической оптимизации, с чем и связана работа докладчика.

Докладчик: Данил Тищенко

🗒 E-com assistant AIJ24

Доклад посвящён участию и победе Антона в соревновании AIJ в этом году по задаче E-com Assistant. Цель соревнования заключалась в создании рекомендательной диалоговой системы, которая выявляет требования пользователя к товару и предоставляет оптимальную подборку. Особый интерес в работе представляет оригинальный подход к созданию синтетического набора данных и обучению кросс-энкодера, оценивающего соответствие между характеристиками товара и запросом пользователя, сформулированным на естественном языке в ходе диалога.

Докладчик: Антон Легченко

📌 Анонс семинара Лаборатории 2 декабря (16.20 в 4117):

🗒 Оценка эффективности применения лингвистических характеристик при оценке сложности текста [по материалам кандидатской диссертации]

Сложность текста — величина, не имеющая строгого определения, но весьма востребованная с прикладной точки зрения. Использовать для её измерения экспертов — долго и дорого, поэтому попытки автоматизировать вычисление возникли на самых ранних этапах развития вычислительной лингвистики. За прошедшие с тех пор 70 лет алгоритмы оценки значительно развились. Часто в качестве признакового описания в этих алгоритмах используются предвычисленные лингвистические характеристики, ассоциированные со сложностью текста. При этом из-за различий в датасетах и постановках задачи сравнивать полученные разными авторами результаты сложно. В частности, неясно, какие характеристики следует включать в признаковое описание вне зависимости от конкретного датасета. В своём докладе Дмитрий расскажет о разработке алгоритма для оценки эффективности использования различных групп лингвистических характеристик и его применении на материале русского языка.

Докладчик: Дмитрий Морозов

🗒 Иерархический подход в анализе text-to-img моделей

В настоящее время text2img модели для генерации изображений имеют большую популярность во всем мире и применяются в самых различных областях. Однако до конца не изучен вопрос понимания модели запросов (промтов). Часто даже самые лучшие на данный момент генеративные модели могут выдавать некорректные ответы и для нужного результата людям часто приходится конкретизировать промпт, что вызывает неудобства и трудности в эксплуатации моделей. Решением проблемы может стать иерархический подход в анализе и обучении генеративных моделей. Данный подход поможет более подробно изучить работу существующих text2img моделей и обучить их генерировать разнообразные и точные изображения для простых промптов. В данном докладе будут представлены результаты иерархического анализа существующих text2img моделей,таких как Шедеврум, Кадинский, DALLE-3, Stable Diffusion v21 и Midjourney. Более того будут продемонстрированы первые результаты иерархического обучения генерации изображений моделью Stable Diffusion v21.

Докладчик: Владислав Калини

🗒 Сегментация аневризмы брюшной аорты

Эндоваскулярное лечение аневризмы брюшной аорты — это безопасный метод, который заменяет сложные открытые операции. Успех зависит от формы и размеров аорты. Если анатомия сложная, могут быть осложнения: смещение устройства, утечки или тромбы. Чтобы этого избежать, врачи оценивают форму, угол и размеры аорты. Сегментация аневризмы поможет врачам точнее планировать лечение и выбирать наилучшие устройства для каждого пациента.

Докладчик: Роман Козырев

📌 Анонс семинара Лаборатории 9 декабря (16.20 в 4117):

🗒 Компенсация оптических искажений на астрофотографиях

В докладе будут рассмотрены современные вычислительные методы обработки астроснимков планет, полученных в любительских условиях, где качество изображения ограничено атмосферными искажениями. На примере фотографий Юпитера будет продемонстрирован пайплайн, включающий автоматический отбор кадров по метрикам качества (таким как NIQE и BRISQUE), их последующее выравнивание, а также мультикадровую слепую деконволюцию для восстановления мелких деталей. Предложенный подход не требует дорогостоящего профессионального оборудования или адаптивной оптики и позволяет отказаться от ручного подбора параметров, обеспечивая более точное восстановление структуры изображения и снижение шума по сравнению с традиционными любительскими методами.

Докладчик: Константин Москаленко

🗒 Эффективные подходы к регуляризации в физически-информированных нейронных сетях

Физически-информированные нейронные сети (ФИНС) — это подход в машинном обучении, который позволяет интегрировать законы физики в архитектуру нейросетей. Это значительно улучшает качество моделирования нейросетями сложных физических процессов, таких как динамика жидкостей, теплопередача и другие задачи, связанные с дифференциальными уравнениями. При решении дифференциальных уравнений очень важно правильно согласовывать внутренние и граничные условия уравнения, в ФИНС для этого были придуманы различные методы регуляризации. В своем докладе Тимур расскажет что такое регуляризация в ФИНС, какие они бывают, какие существуют проблемы, а также на что будет направлено его исследование в рамках дипломной работы.

Докладчик: Тимур Еникеев

🗒 Учет времени пребывания в реологических моделях крови: действительно ли нам нужно неньютоновское моделирование кровотока в крупных артериях? [разбор статьи]

Вычислительная гидродинамика (CFD) является многообещающим инструментом, который предоставляет информацию о гемодинамике с высоким разрешением. Выбор реологии крови является предположением в моделях CFD и служит предметом обширных дебатов. В этом исследовании предлагается новая гибридная модель ньютоновской и неньютоновской реологии, в которой в областях с высоким временем пребывания активируется процесс разжижения при сдвиге, основанный на экспериментальных данных. Рассматриваются модели брюшной аорты и аневризмы головного мозга на основе изображений, и выполняется CFD-моделирование с высоким разрешением с использованием минимально диссипативного решателя.

Докладчица: Алена Козюрина

📌 Анонс семинара Лаборатории 16 декабря (16.20 в 4117):

🗒 Диаризация по спикер-эмбеддингам

Задача диаризации состоит в разделении речевого аудиосигнала на сегменты в соответствии с принадлежностью фрагментов сигнала тому или иному говорящему. Методы и алгоритмы диаризации широко используются на практике при протоколировании онлайн-обсуждений, в устройствах «умного» дома и как подготовительный шаг для идентификации спикера. В своем докладе Данил представит обзор существующих алгоритмов диаризации и общие проблемы, влияющие на качество работы алгоритмов для решения этой задачи. Также в докладе будут предложены идеи по реализации метода разделения спикеров на основе системы распознавания речи.

Докладчик: Гребенкин Данил

🗒 Байесовские нейронные сети

Байесовские нейронные сети (БНС) являются мощным инструментом для моделирования неопределенности принятия решений на основе вероятностных предположений. В отличие от классических нейронных сетей, которые оперируют только с точечными оценками, БНС моделируют распределения параметров, что позволяет учитывать различные возможности исходов, а также степень уверенности в предсказаниях модели. Это помогает снизить риски при принятии решений. В данном докладе будут рассмотрены элементы теории БНС, такие как, например, вариационный байесовский вывод и локальная репараметризация при обучении БНС.

Докладчик: Яшунин Кирилл

🗒 Влияние Invariant Risk Minimization на распределение весов нейронной сети в сравнении с Empirical Risk Minimization

В своем докладе Мирон расскажет о метод минимизации инвариантного риска (Invariant Risk Minimization, IRM) как альтернативу традиционному подходу минимизации эмпирического риска (Empirical Risk Minimization, ERM). IRM направлен на выявление инвариантных признаков, которые остаются стабильными при различных условиях, что позволяет моделям лучше обобщать данные и справляться с изменчивыми средами. В отличие от ERM, который ориентирован на минимизацию ошибки на обучающем наборе данных, IRM акцентирует внимание на том, как обеспечить устойчивость к изменениям в данных, стремясь находить решения, не зависящие от факторов, влияющих на конкретные условия. В ходе исследования Мирон провел экспериментальный анализ воздействия IRM на распределение весов нейронной сети в зависимости от представленных сред. Будет приведен сравнительные результаты применения IRM и ERM, как каждая методика влияет на обучение и адаптацию модели к различным средам. Полученные результаты показали, что IRM не только способствует улучшению обобщающей способности моделей, но и формирует более устойчивое распределение весов, обеспечивая меньшую чувствительность к шумовым факторам.

Докладчик: Братенков Мирон

📌 Анонс семинара Лаборатории 23 декабря (16.20 в 4117):

🗒 Обзор применения ML в промышленности

Чаще всего, когда речь заходит о машинном обучении, говорят о языковых помощниках, автономных транспортных средствах, генерации изображений и быстром переводе. Однако машинное обучение позволяет решать гораздо более широкий круг задач. В докладе обсудим, очень обзорно, как современные технологии машинного обучения начали применяться в промышленности. Рассмотрим основные тренды, типологию задач и стандартный арсенал алгоритмов, обсудим драйверы и проблемы применения машинного обучения в отрасли.

Докладчик: Чигишев Александр

Уважаемые коллеги и друзья!

С радостью сообщаем, что уже в этот четверг начинает работу семинар лаборатории ПЦТ. В новом семестре формат мероприятия претерпел некоторые изменения: в частности, чтобы обеспечить более продуктивную и интерактивную среду для общения, организаторы приняли решение сократить общее количество мест. В связи с этим, в первую очередь на семинар приглашаются студенты лаборатории ПЦТ и участники проектов, непосредственно связанных с её деятельностью.

Ближайший семинар состоится 13 февраля, в 16.20, ауд. 5239.

📌 Анонс семинара Лаборатории 20 февраля (16.20 в 5239):

🗒 Применение ML при верификации личности. Как определить что перед тобой человек?

На сегодняшний день существует множество онлайн-сервисов, которые требуют прохождения верификации личности (KYC) для доступа к ним. Пользовательские фотографии в таком случае подходят через ряд проверок — от простого позиционирования головы в кадре до детекции фотошопа. В докладе будет рассмотрен пайплайн таких проверок и то, с какими проблемами со стороны обучения и инференса моделей приходится сталкиваться.

Докладчик: Михаил Тютюльников

Всем привет 👋🏼
Спешим сообщить, что Научно-исследовательский семинар ЛабПЦТ (далее НИС ПЦТ) начинает свою работу 24.09, в ср в 10.50, ауд. 5251.

В этом году семинар будут вести я, @Yana_Fedotova и Игорь Тагильцев, @Gannitgl. На первом семинаре обсудим оргвопросы и немного поговорим про проекты в ЛабПЦТ)

Просьба всем, кто собирается посещать семинар, заполнить табличку. Вход на семинар по спискам😎 Прошу заполнить до пн:)

📌Анонс семинара Лаборатории 1 октября (10.50 в 407 КПА):

Уравнения в частных производных являются основой моделирования многих физических процессов, однако их численное решение часто требует значительных вычислительных ресурсов. В последние годы для решения подобных уравнений активно применяются физически-информированные нейронные сети (ФИНС), интегрирующие физические законы в процесс обучения. Несмотря на эффективность, ФИНС имеют ряд ограничений, связанных с обучением на сложных геометриях и ограниченной способностью к обобщению.


📝 Трансформерные модели PINTO для неожиданных геометрий

В работе рассматривается использование архитектуры трансформеров в составе физически-информированных моделей для решения задачи обобщения геометрии. В ходе работы для достижения этого был модифицирован Physics-Informed Transformer Neural Operator (PINTO). В отличие от классических подходов, PINTO способен обобщать решения УЧП на новые начальные и граничные условия, отсутствовавшие на этапе обучения. Использование трансформерной модели для предсказания решений уравнений в частных производных на ранее не наблюдаемых геометриях – направление, особенно актуальное для задач суррогатного моделирования и аэродинамического проектирования, где требуется быстрый прогноз характеристик потока при изменении формы препятствий без необходимости повторного переобучения модели.

📣 Виктория Святкина


📝 Исследование применимости архитектур Колмогорова-Арнольда для решения дифференциальных уравнений в рамках технологии ФИНС

Данная работа посвящена исследованию применения новой архитектуры нейронных сетей — сети Колмогорова-Арнольда (KAN) — для решения дифференциальных уравнений в частных производных в рамках технологии ФИНС. В отличие от традиционно используемых в ФИНС многослойных перцептронов (MLP), архитектура KAN потенциально предлагает преимущества в виде лучшей интерпретируемости, меньшего количества параметров и более высокой скорости сходимости. В рамках исследования проводится сравнительный анализ эффективности KAN и MLP на ряде тестовых задач, оценивая такие ключевые показатели, как точность решения, скорость достижения решения, вычислительная стоимость обучения и сложность моделей.

📣 Михаил Матушкин

📝 Решение задач газодинамики с помощью ФИНС

Классические подходы к решению задач газодинамики, несмотря на свою мощь, сталкиваются с фундаментальными вызовами: «проклятие размерности», трудоемкость построения расчетных сеток и сложность интеграции экспериментальных данных. В качестве альтернативы мы исследуем метод ФИНС. Были проведены эксперименты на тестовой задаче Прандтля - Мейера для проверки применимости ФИНС в задачах газовой динамики.

📣 Дарья Пенкина


📝 Моделирование кровотока в аорте с использованием физически-информированных нейронных сетей

Физически-информированные нейронные сети представляют собой перспективный метод для решения сложных гидродинамических задач, однако их эффективность в моделировании кровотока в аорте со сложной геометрией остаётся малоизученной. В данной работе предпринята попытка применить ФИНС для моделирования потока крови в реалистичной геометрии аорты. Для моделирования используются различные архитектуры, обучаемые на основе уравнений Навье-Стокса.

📣 Илья Верхотуров

📌Анонс семинара Лаборатории 8 октября (10.50 в 407 КПА):

📝 Решение спектральных задач с применением ФИНС

Задачи нахождения собственных значений и соответствующих собственных функций дифференциальных операторов широко распространены в различных прикладных областях. На сегодняшний день разработан ряд численных методов, способных эффективно решать подобные задачи. Однако остаётся актуальной потребность в более ресурсоэффективных подходах к вычислению собственных значений. В работе рассматривается возможность применения физически-информированных нейронных сетей (ФИНС) для решения спектральных задач. Предложен новый метод, основанный на возможностях параметризации ФИНС, для построения решений. Проведена предварительная проверка работоспособности данного метода, в ходе которой продемонстрирована способность локализовывать собственные значения в заданном интервале, а также аппроксимировать соответствующие собственные функции.

📣 Данил Касьянов



📝 Методы компьютерного зрения и персонализированного CFD моделирования в сердечно-сосудистой хирургии

Начнем цикл докладов про исследования в ЛабПЦТ, связанные с биомедициной💊

📣 Яна Федотова