Pre-Train Your Loss

Глубокое обучение все больше пользуется парадигмой transfer learning, при которой большие базовые (или как у нас их тут в Стенфорде называют - фундаментальные) модели дообучаются на последующих задачах.

Впечатляющий коллектив авторов, под руководством Вилсона (со-автор таких проектов как loss landscape и SWA) и ЛеКуна, показывает, что можно изучить высокоинформативный posterior исходной задачи с помощью supervised или self-supervised learning, которые затем служат основой для priors, изменяющих всю поверхность потерь в последующей задаче.

Этот простой модульный подход обеспечивает значительный прирост производительности и более эффективное обучение на различных последующих задачах классификации и сегментации, выступая в качестве замены стандартных стратегий предварительного обучения.

📖 статья 🤖 код

Из жизни

Решил начать изучать что-то новое, выбор пал на uplift моделирование, покопался на платформе ODS, перешёл на курс, посмотрел 2-3 урока, понял что темп медленный - дропнул.

На следующий день решил поискать инфу в гугле, вспомнил про scikit-uplift, нашел доку, почитал описание, перешёл к туториалам.

Начал с азов, читал, вникал и думал.

Под вечер вышел в магазин и понял к какому типу клиентов могу себя отнести. Так сказать, подкрепил теорию практикой.

*uplift - персонализация, на кого потратить деньги, чтобы получить ещё больше денег.

scikit-uplift

Stability CLIP, новые возможности

Все ещё помните модели, что текст и картинку сравнивают?

Их теперь обучили на 2х миллиардах изображений LAION-2B, в отличие от прошлых 400от миллионов Open AI.

Встречайте, ViT-g/14 224x224 (5.5гб) и ViT-H/14 224x224 (4гб)

github
paper
colab
benchmark
csv табличка с результатами на датасетах

ML System Design ODS Course

Уже сегодня - 19 сентября - открывается курс по ML System Design для начинающих. Автор курса - Дмитрий Колодезев, директор Promsoft.

Первая лекция уже доступна на странице курса! Группа для участников в тг тут.

Что входит в курс:

- ML-системы в реальной жизни с точки зрения софта, железа и бизнеса.
- Итеративный процесс построения ML-систем

Что не рассматривается:

- Алгоритмы машинного обучения
- Дата-инженерия
- Дизайн пользовательского интерфейса
- Как работать с докером и k8s

Курс состоит из видео, статей, докладов студентов, работы над проектом.

#о_себе

Меня зовут Арсений. Везде в интернете у меня ник cene655. Мне 17 лет, я из Челябинска, учусь в 11 классе в Челябинске. Работаю в Сбере. Начинал с nlp 2 года назад. Потом получилось выиграть в олимпиаде по ии для школьников ии нто. Затем начал интересоваться генеративными моделями и сейчас ими в основном и занимаюсь.

Про случайные встречи и локальные комьюнити

Я уже давненько подметил, что зачастую вижу знакомых людей на мероприятиях. Кого-то знаю лично, кого-то по чатам, кого-то детектирую по общим группам.

Удивляет то, что несмотря на расстояние, мы все равно можем общаться и создавать локальные группы, постоянно пересекаясь на профильных событиях.

В контексте таких локальных групп, я решил попробовать формат random coffee, как раз админ соседнего сообщества @natural_language_processing сделал бота @neludim_bot для этого.

Использовал я его 2 недели, каждую неделю случайно (точно не скажу) предлагался один собеседник.

Что же могу сказать? Мне однозначно понравилось. Пообщаться с людьми из своей сферы, но с совершенно разным бэкграундом и историей развития - опыт который до этого я мог получить только на событиях по интересам, в частности офлайновым. (работа, учеба - немного другое)

Важно отметить, что люди которые принимают участие сами ищут общения, это позволяет обойти некоторый психологический барьер и быстрее влиться в беседу.

Подключаясь к трансляции/конференции я знаю о человеке совсем немного, лишь то что он указал в анкете, но этого достаточно чтобы начать диалог на общие темы.

Я приобрел тот опыт который не получить на лекции или митапе, это концентрация тех знаний, что люди собирали на протяжении многих лет. (ух как загнул)

Я конечно распинаюсь про субъективные вещи, но вы же понимаете, что помимо бесед можно, например, предложить сыграть в шахматы) Все зависит от ваших целей на встречу.

Попробуйте, приятно проведите время и откройте для себя что-то новое, может и на меня попадете.

Zakupki.Hack 2.0

😎 За 2 дня заняли 1️⃣ место из 18 команд.

И знаете, наверное это был один из лучших хаков в которых принимал участие, даже учитывая что я был удаленно. И тут дело не сколько в организации, сколько в самой задаче, а главное - в навыках которые я смог применить.

Вкратце задачу можно описать как: сделать озон на коленке, но на специфическом датасете с поиском как товаров, так и услуг.

Мы потратили около 6 часов на metric learning, который нормально не запустился и ещё некоторое время на обычные подходы. В итоге к ночи было 2 модели и куча кода которую нужно ещё внедрить в приложение на streamlit.

Презентацию надо было сдавать в 15 следующего дня, фронта и бэка как такого не было, пришлось делать всё ночью, а также решать проблемы в виде запуска некоторых вещей на M1.

Итог - успели сделать рабочий прототип, поспав за два дня не более 2-х часов, но зная результат - оно того стояло. Нам нравится свое решение, но оно не идеально и организаторы дали фидбек по этому поводу, за что спасибо.

AI Journey 2022

👉 Сегодня запустился AIJ - ежегодное соревнование по искусственному интеллекту проводимое Сбером.

🔥 На выбор есть несколько интересных задач:

1️⃣ FusionBrain - в рамках данной задачи предлагается построить единую multitask-модель, которая бы успешно решала подзадачи в двух модальностях (визуальной и текстовой). Есть скрытые задачи, которые помогут оценить модель более комплексно.

2️⃣ AI4Talk - требуется разработать алгоритм, выдающий текстовую запись соответствующую речи.

3️⃣ AI4Biology - соревнование алгоритмов классификации бактерий до штамма и определения новых штаммов на основе данных масс-спектрометрии.

4️⃣ AI4Sea - соревнование алгоритмов, позволяющих восстановить реальные объемы вылова рыбы с целью оптимизации рисков избыточной эксплуатации водно-биологических ресурсов России.

✅ FusionBrain baseline

Tender Hack: Нижний Новгород

😎 За 3 дня заняли 1️⃣ место

👉 Проходил в оффлайн формате, кормили вкусно, в самом начале вручили мерч. Отмечу, что этот хак был не про то как "сделать презентацию и выиграть", а про то как сделать действительно рабочее решение. Только топ 5 команд по тех части проходили на финальную защиту.

Задача была такой же как и на Zakupki.Hack, но в этот раз мы хотели рассмотреть более стабильные подходы, больше углубиться в детали.

Наш аналог озон'а для поставщиков умеет:
1) Семантический поиск
2) Частичная мультиязычность (ru-en)
3) Лексический поиск (лемматизация)
4) Поиск с учетом характеристик
5) Поиск сопутствующих товаров
6) Автодополнение
7) Автокоррекция
8) Транслитерация
9) Анализ рынка

Как решали?
Взяли LABSE (дистиллированную на ru-en) из-за того, что она лучше чем rubert-tiny v1/2 работает с токенами на английском, а это зачастую названия продуктов. В ходе тестирования заметили, что модель все ещё помнит что tea-чай, laptop-ноутбук, т.е. получили адаптацию под английский без тренировки под него.

К выдачи нейронки добавляли BM25, поиск который применяют в системах Lucene, Sphinx, помогло исправлять краевые случаи когда модель плохо работала.

Выдачу алгоритмов ранжировали, для этого применяли:
1) Схожесть строк jaro-winkler
2) Максимальная последовательная схожесть КПГЗ кодов.
3) Количество общих характеристик

Для сопутствующих товаров учитывали, что при применении нейронок у нас получится ситуация, когда для "ноутбук asus" в рекомендации попадет "ноутбук hp", а это не то что нам надо.

Починили тем, что выводили все результаты != кпгз товара, для которого искались сопутки. Вдобавок к этому у нас была история закупок на портале поставщиков, смогли вытащить информацию что, с чем покупают. Это значительно улучшило качество выдачи.

Презентация
Репозиторий

System Design

Как инструмент повышения квалификации.

Проектирование систем устойчивых к сбоям, высокой нагрузке, способных масштабироваться на новые мощности.
К нам пришли ребята из Karpov.Courses с предложением пройти обучение в течение месяца, мы решили не отказываться.

Курс состоит из 4-х основных тем: сбор требований, модульный дизайн, повышение отзывчивости, хранение данных. В каждой присутствуют лекции, временами вставки из практики Бабушкина и конспекты с заданиями.

Авторы рекомендуют курс для middle, senior, team lead. Сложность в течение курса растет, с каждым уроком прибавляются термины вплоть до дизайна полноценного сервиса. Схемы, таблички, всё по фэншую.

Могу выделить:
1) Ёмкие конспекты, удобно когда нет времени.
2) Разделение знаний для интервью и практики.
3) Два типа заданий: тестовые и с развернутым ответом.
4) Поэтапный разбор популярных сервисов: такси, мессенджеров, облачных хранилищ.

Для себя я открыл новые алгоритмы по типу quadtree, geohash, wildcard matching (неточный поиск). Узнал про CAP и PACELC теоремы распределенных систем и главное, наконец-то понял зачем (в каких случаях) использовать ту или иную БД.

Если вы хотите расширить свои знания в области высоконагруженных систем и структурировать существующие, то стоит обратить внимание на этот курс: новый поток стартует 7 ноября.