1. A yellow book and a red vase.
2. Hovering cow abducting aliens.
3. One cat and one dog sitting on the grass.
4. A black apple and a green backpack.
5. A banana on the left of an apple.
6. A sign that says 'Deep Learning'.
7. A wine glass on top of a dog.
8. A small blue book sitting on a large red book.
9. A brown bird and blue bear.
10. A panda making latte art.
Новая top1 text2image модель не может сгенерировать большую часть drawbench
2. Hovering cow abducting aliens.
3. One cat and one dog sitting on the grass.
4. A black apple and a green backpack.
5. A banana on the left of an apple.
6. A sign that says 'Deep Learning'.
7. A wine glass on top of a dog.
8. A small blue book sitting on a large red book.
9. A brown bird and blue bear.
10. A panda making latte art.
Новая top1 text2image модель не может сгенерировать большую часть drawbench
😁15👍4😢4🔥2🎉2👎1
Forwarded from Love. Death. Transformers.
Тут друзья просят заполнить формочку сравниения генеративных моделей.
https://forms.gle/5dvcCPtdemzfVuoz9
for science propouses как всегда.
https://forms.gle/5dvcCPtdemzfVuoz9
for science propouses как всегда.
Google Docs
Сравним генерации
👍10👎1
Forwarded from Градиент обреченный
#nlp #colab
⭐️ Сделал простой colab с визуализацией мультиязычного пословного выравнивания.
Выравнивание происходит при помощи mBERT эмбеддингов. Авторы статьи дообучили его на дополнительных задачах (objectives), чтобы улучшить качество (parallel sentence identification, consistency optimization, etc.).
В GitHub'е есть скрипты для дообучения на своем параллельном корпусе, так что можно расширить под ваш язык (в изначальном mBERT'е было 100+ языков).
Визуализацию сделал на graphviz.
👉 Colab | GitHub | Huggingface
⭐️ Сделал простой colab с визуализацией мультиязычного пословного выравнивания.
Выравнивание происходит при помощи mBERT эмбеддингов. Авторы статьи дообучили его на дополнительных задачах (objectives), чтобы улучшить качество (parallel sentence identification, consistency optimization, etc.).
В GitHub'е есть скрипты для дообучения на своем параллельном корпусе, так что можно расширить под ваш язык (в изначальном mBERT'е было 100+ языков).
Визуализацию сделал на graphviz.
👉 Colab | GitHub | Huggingface
👍22❤2
Forwarded from Борис опять
Немного негодования про ключевые слова.
Я очень любил собирать навыки когда начинал. Каждый как засечка. Выкатил контейнеры в прод и все, круто, теперь я владею Docker. Прям чувствуешь как зарплата растет с 299кк/сек до 300кк/сек.
Теперь это ощущается как цирк. "Какими навыками вы владеете?",- спрашивает форма отклика. Я впадаю в ступор. Представьте себе: столяр заполняет форму отклика. "Опыт работы с молотком пять лет, с пилой четыре года, со стамеской пять лет..." Чушь какая-то. Но в IT почему-то так принято: владею Python, SQL, HTML. Что мне писать? Я могу и фронт на JS сделать, и плагины для NGINX на LUA, могу даже C вспомнить, могу на контекстно-независимых грамматиках парсер SQL замутить. Если все базворды перечислять за сотню перевалит. Я инженер, блин, я не "владею технологиями", я решаю проблемы. Разберусь в COBOL, если надо будет. Буквально часть моей работы в том, чтобы выбирать подходящий инструмент для решения задачи и часто он будет не из тех, с которыми я работал раньше. Зачем оценивать инженера по инструментам? И с позициями так же: разве бывает "Python программист"? Звучит как как "молотком работник". Работа бить молотком, а гвозди это задача другой команды.
Но это так, ворчание, а по факту лучше ничего не придумали, надо с этим жить. Приходится так: с точки зрения резюме я владею теми навыками, которые нужны в интересных вакансиях, а всеми остальными не владею.
Я очень любил собирать навыки когда начинал. Каждый как засечка. Выкатил контейнеры в прод и все, круто, теперь я владею Docker. Прям чувствуешь как зарплата растет с 299кк/сек до 300кк/сек.
Теперь это ощущается как цирк. "Какими навыками вы владеете?",- спрашивает форма отклика. Я впадаю в ступор. Представьте себе: столяр заполняет форму отклика. "Опыт работы с молотком пять лет, с пилой четыре года, со стамеской пять лет..." Чушь какая-то. Но в IT почему-то так принято: владею Python, SQL, HTML. Что мне писать? Я могу и фронт на JS сделать, и плагины для NGINX на LUA, могу даже C вспомнить, могу на контекстно-независимых грамматиках парсер SQL замутить. Если все базворды перечислять за сотню перевалит. Я инженер, блин, я не "владею технологиями", я решаю проблемы. Разберусь в COBOL, если надо будет. Буквально часть моей работы в том, чтобы выбирать подходящий инструмент для решения задачи и часто он будет не из тех, с которыми я работал раньше. Зачем оценивать инженера по инструментам? И с позициями так же: разве бывает "Python программист"? Звучит как как "молотком работник". Работа бить молотком, а гвозди это задача другой команды.
Но это так, ворчание, а по факту лучше ничего не придумали, надо с этим жить. Приходится так: с точки зрения резюме я владею теми навыками, которые нужны в интересных вакансиях, а всеми остальными не владею.
🔥47👍9❤5❤🔥3👎3
Forwarded from AI для Всех
Pre-Train Your Loss
Глубокое обучение все больше пользуется парадигмой transfer learning, при которой большие базовые (или как у нас их тут в Стенфорде называют - фундаментальные) модели дообучаются на последующих задачах.
Впечатляющий коллектив авторов, под руководством Вилсона (со-автор таких проектов как loss landscape и SWA) и ЛеКуна, показывает, что можно изучить высокоинформативный posterior исходной задачи с помощью supervised или self-supervised learning, которые затем служат основой для priors, изменяющих всю поверхность потерь в последующей задаче.
Этот простой модульный подход обеспечивает значительный прирост производительности и более эффективное обучение на различных последующих задачах классификации и сегментации, выступая в качестве замены стандартных стратегий предварительного обучения.
📖 статья 🤖 код
Глубокое обучение все больше пользуется парадигмой transfer learning, при которой большие базовые (или как у нас их тут в Стенфорде называют - фундаментальные) модели дообучаются на последующих задачах.
Впечатляющий коллектив авторов, под руководством Вилсона (со-автор таких проектов как loss landscape и SWA) и ЛеКуна, показывает, что можно изучить высокоинформативный posterior исходной задачи с помощью supervised или self-supervised learning, которые затем служат основой для priors, изменяющих всю поверхность потерь в последующей задаче.
Этот простой модульный подход обеспечивает значительный прирост производительности и более эффективное обучение на различных последующих задачах классификации и сегментации, выступая в качестве замены стандартных стратегий предварительного обучения.
📖 статья 🤖 код
👍23🔥4
Из жизни
Решил начать изучать что-то новое, выбор пал на uplift моделирование, покопался на платформе ODS, перешёл на курс, посмотрел 2-3 урока, понял что темп медленный - дропнул.
На следующий день решил поискать инфу в гугле, вспомнил про scikit-uplift, нашел доку, почитал описание, перешёл к туториалам.
Начал с азов, читал, вникал и думал.
Под вечер вышел в магазин и понял к какому типу клиентов могу себя отнести. Так сказать, подкрепил теорию практикой.
*uplift - персонализация, на кого потратить деньги, чтобы получить ещё больше денег.
scikit-uplift
Решил начать изучать что-то новое, выбор пал на uplift моделирование, покопался на платформе ODS, перешёл на курс, посмотрел 2-3 урока, понял что темп медленный - дропнул.
На следующий день решил поискать инфу в гугле, вспомнил про scikit-uplift, нашел доку, почитал описание, перешёл к туториалам.
Начал с азов, читал, вникал и думал.
Под вечер вышел в магазин и понял к какому типу клиентов могу себя отнести. Так сказать, подкрепил теорию практикой.
*uplift - персонализация, на кого потратить деньги, чтобы получить ещё больше денег.
scikit-uplift
👍17🔥5
Stability CLIP, новые возможности
Все ещё помните модели, что текст и картинку сравнивают?
Их теперь обучили на 2х миллиардах изображений LAION-2B, в отличие от прошлых 400от миллионов Open AI.
Встречайте, ViT-g/14 224x224 (5.5гб) и ViT-H/14 224x224 (4гб)
github
paper
colab
benchmark
csv табличка с результатами на датасетах
Все ещё помните модели, что текст и картинку сравнивают?
Их теперь обучили на 2х миллиардах изображений LAION-2B, в отличие от прошлых 400от миллионов Open AI.
Встречайте, ViT-g/14 224x224 (5.5гб) и ViT-H/14 224x224 (4гб)
github
paper
colab
benchmark
csv табличка с результатами на датасетах
🔥22👍5
Forwarded from Reliable ML
ML System Design ODS Course
Уже сегодня - 19 сентября - открывается курс по ML System Design для начинающих. Автор курса - Дмитрий Колодезев, директор Promsoft.
Первая лекция уже доступна на странице курса! Группа для участников в тг тут.
Что входит в курс:
- ML-системы в реальной жизни с точки зрения софта, железа и бизнеса.
- Итеративный процесс построения ML-систем
Что не рассматривается:
- Алгоритмы машинного обучения
- Дата-инженерия
- Дизайн пользовательского интерфейса
- Как работать с докером и k8s
Курс состоит из видео, статей, докладов студентов, работы над проектом.
Уже сегодня - 19 сентября - открывается курс по ML System Design для начинающих. Автор курса - Дмитрий Колодезев, директор Promsoft.
Первая лекция уже доступна на странице курса! Группа для участников в тг тут.
Что входит в курс:
- ML-системы в реальной жизни с точки зрения софта, железа и бизнеса.
- Итеративный процесс построения ML-систем
Что не рассматривается:
- Алгоритмы машинного обучения
- Дата-инженерия
- Дизайн пользовательского интерфейса
- Как работать с докером и k8s
Курс состоит из видео, статей, докладов студентов, работы над проектом.
🔥13👍4
Forwarded from Data Science изнутри (cene655)
#о_себе
Меня зовут Арсений. Везде в интернете у меня ник cene655. Мне 17 лет, я из Челябинска, учусь в 11 классе в Челябинске. Работаю в Сбере. Начинал с nlp 2 года назад. Потом получилось выиграть в олимпиаде по ии для школьников ии нто. Затем начал интересоваться генеративными моделями и сейчас ими в основном и занимаюсь.
Меня зовут Арсений. Везде в интернете у меня ник cene655. Мне 17 лет, я из Челябинска, учусь в 11 классе в Челябинске. Работаю в Сбере. Начинал с nlp 2 года назад. Потом получилось выиграть в олимпиаде по ии для школьников ии нто. Затем начал интересоваться генеративными моделями и сейчас ими в основном и занимаюсь.
👍40🔥7🤡5
Про случайные встречи и локальные комьюнити
Я уже давненько подметил, что зачастую вижу знакомых людей на мероприятиях. Кого-то знаю лично, кого-то по чатам, кого-то детектирую по общим группам.
Удивляет то, что несмотря на расстояние, мы все равно можем общаться и создавать локальные группы, постоянно пересекаясь на профильных событиях.
В контексте таких локальных групп, я решил попробовать формат random coffee, как раз админ соседнего сообщества @natural_language_processing сделал бота @neludim_bot для этого.
Использовал я его 2 недели, каждую неделю случайно (точно не скажу) предлагался один собеседник.
Что же могу сказать? Мне однозначно понравилось. Пообщаться с людьми из своей сферы, но с совершенно разным бэкграундом и историей развития - опыт который до этого я мог получить только на событиях по интересам, в частности офлайновым. (работа, учеба - немного другое)
Важно отметить, что люди которые принимают участие сами ищут общения, это позволяет обойти некоторый психологический барьер и быстрее влиться в беседу.
Подключаясь к трансляции/конференции я знаю о человеке совсем немного, лишь то что он указал в анкете, но этого достаточно чтобы начать диалог на общие темы.
Я приобрел тот опыт который не получить на лекции или митапе, это концентрация тех знаний, что люди собирали на протяжении многих лет. (ух как загнул)
Я конечно распинаюсь про субъективные вещи, но вы же понимаете, что помимо бесед можно, например, предложить сыграть в шахматы) Все зависит от ваших целей на встречу.
Попробуйте, приятно проведите время и откройте для себя что-то новое, может и на меня попадете.
Я уже давненько подметил, что зачастую вижу знакомых людей на мероприятиях. Кого-то знаю лично, кого-то по чатам, кого-то детектирую по общим группам.
Удивляет то, что несмотря на расстояние, мы все равно можем общаться и создавать локальные группы, постоянно пересекаясь на профильных событиях.
В контексте таких локальных групп, я решил попробовать формат random coffee, как раз админ соседнего сообщества @natural_language_processing сделал бота @neludim_bot для этого.
Использовал я его 2 недели, каждую неделю случайно (точно не скажу) предлагался один собеседник.
Что же могу сказать? Мне однозначно понравилось. Пообщаться с людьми из своей сферы, но с совершенно разным бэкграундом и историей развития - опыт который до этого я мог получить только на событиях по интересам, в частности офлайновым. (работа, учеба - немного другое)
Важно отметить, что люди которые принимают участие сами ищут общения, это позволяет обойти некоторый психологический барьер и быстрее влиться в беседу.
Подключаясь к трансляции/конференции я знаю о человеке совсем немного, лишь то что он указал в анкете, но этого достаточно чтобы начать диалог на общие темы.
Я приобрел тот опыт который не получить на лекции или митапе, это концентрация тех знаний, что люди собирали на протяжении многих лет. (ух как загнул)
Я конечно распинаюсь про субъективные вещи, но вы же понимаете, что помимо бесед можно, например, предложить сыграть в шахматы) Все зависит от ваших целей на встречу.
Попробуйте, приятно проведите время и откройте для себя что-то новое, может и на меня попадете.
👍17🥱2
Zakupki.Hack 2.0
😎 За 2 дня заняли 1️⃣ место из 18 команд.
И знаете, наверное это был один из лучших хаков в которых принимал участие, даже учитывая что я был удаленно. И тут дело не сколько в организации, сколько в самой задаче, а главное - в навыках которые я смог применить.
Вкратце задачу можно описать как: сделать озон на коленке, но на специфическом датасете с поиском как товаров, так и услуг.
Мы потратили около 6 часов на metric learning, который нормально не запустился и ещё некоторое время на обычные подходы. В итоге к ночи было 2 модели и куча кода которую нужно ещё внедрить в приложение на streamlit.
Презентацию надо было сдавать в 15 следующего дня, фронта и бэка как такого не было, пришлось делать всё ночью, а также решать проблемы в виде запуска некоторых вещей на M1.
Итог - успели сделать рабочий прототип, поспав за два дня не более 2-х часов, но зная результат - оно того стояло. Нам нравится свое решение, но оно не идеально и организаторы дали фидбек по этому поводу, за что спасибо.
😎 За 2 дня заняли 1️⃣ место из 18 команд.
И знаете, наверное это был один из лучших хаков в которых принимал участие, даже учитывая что я был удаленно. И тут дело не сколько в организации, сколько в самой задаче, а главное - в навыках которые я смог применить.
Вкратце задачу можно описать как: сделать озон на коленке, но на специфическом датасете с поиском как товаров, так и услуг.
Мы потратили около 6 часов на metric learning, который нормально не запустился и ещё некоторое время на обычные подходы. В итоге к ночи было 2 модели и куча кода которую нужно ещё внедрить в приложение на streamlit.
Презентацию надо было сдавать в 15 следующего дня, фронта и бэка как такого не было, пришлось делать всё ночью, а также решать проблемы в виде запуска некоторых вещей на M1.
Итог - успели сделать рабочий прототип, поспав за два дня не более 2-х часов, но зная результат - оно того стояло. Нам нравится свое решение, но оно не идеально и организаторы дали фидбек по этому поводу, за что спасибо.
🔥44👍6
AI Journey 2022
👉 Сегодня запустился AIJ - ежегодное соревнование по искусственному интеллекту проводимое Сбером.
🔥 На выбор есть несколько интересных задач:
1️⃣ FusionBrain - в рамках данной задачи предлагается построить единую multitask-модель, которая бы успешно решала подзадачи в двух модальностях (визуальной и текстовой). Есть скрытые задачи, которые помогут оценить модель более комплексно.
2️⃣ AI4Talk - требуется разработать алгоритм, выдающий текстовую запись соответствующую речи.
3️⃣ AI4Biology - соревнование алгоритмов классификации бактерий до штамма и определения новых штаммов на основе данных масс-спектрометрии.
4️⃣ AI4Sea - соревнование алгоритмов, позволяющих восстановить реальные объемы вылова рыбы с целью оптимизации рисков избыточной эксплуатации водно-биологических ресурсов России.
✅ FusionBrain baseline
👉 Сегодня запустился AIJ - ежегодное соревнование по искусственному интеллекту проводимое Сбером.
🔥 На выбор есть несколько интересных задач:
1️⃣ FusionBrain - в рамках данной задачи предлагается построить единую multitask-модель, которая бы успешно решала подзадачи в двух модальностях (визуальной и текстовой). Есть скрытые задачи, которые помогут оценить модель более комплексно.
2️⃣ AI4Talk - требуется разработать алгоритм, выдающий текстовую запись соответствующую речи.
3️⃣ AI4Biology - соревнование алгоритмов классификации бактерий до штамма и определения новых штаммов на основе данных масс-спектрометрии.
4️⃣ AI4Sea - соревнование алгоритмов, позволяющих восстановить реальные объемы вылова рыбы с целью оптимизации рисков избыточной эксплуатации водно-биологических ресурсов России.
✅ FusionBrain baseline
🔥17⚡3👍1👎1