Solving (Some) Formal Math Olympiad Problems
OpenAI выпустили статью о языковой модели с 774М параметров, которая может решать (некоторые) задачи с международных математических олимпиад для школьников (AIME, AMC, IMO).
Это не первый метод, который доказывает математические теоремы. Но он обгоняет предыдущий метод (тоже от OpenAI) на 12%. На бенчмарке из 448 задач (теорем) сетка успешно решает 41.2% из них. На картинках выше показана одна из простых задач и формальное ее доказательство в виде псевдо-языка программирования, которым и оперирует нейронная сеть.
Заявлено, что одно доказательство занимает около 6 минут на A100, если все правильно распрараллелить.
Говорить о том, что это очердной прорыв, я бы не стал. Ведь многие школьники, выступающие на мат. олимпиадах, всё еще могут побить нейронную сеть. Но начало положено, будем следить за развитием. Мб года через два сетка сможет дать фору чемпионам IMO 🤔
Блогпост >> Статья (ICML22)
OpenAI выпустили статью о языковой модели с 774М параметров, которая может решать (некоторые) задачи с международных математических олимпиад для школьников (AIME, AMC, IMO).
Это не первый метод, который доказывает математические теоремы. Но он обгоняет предыдущий метод (тоже от OpenAI) на 12%. На бенчмарке из 448 задач (теорем) сетка успешно решает 41.2% из них. На картинках выше показана одна из простых задач и формальное ее доказательство в виде псевдо-языка программирования, которым и оперирует нейронная сеть.
Заявлено, что одно доказательство занимает около 6 минут на A100, если все правильно распрараллелить.
Говорить о том, что это очердной прорыв, я бы не стал. Ведь многие школьники, выступающие на мат. олимпиадах, всё еще могут побить нейронную сеть. Но начало положено, будем следить за развитием. Мб года через два сетка сможет дать фору чемпионам IMO 🤔
Блогпост >> Статья (ICML22)
😱11👍7🔥7❤2
Я давний член ODS, и некоторые из читателей знают меня ещё из слака ODS.ai.
Хочу поделиться, что на этой неделе самоорганизовался хакатон ODS Pet Projects 🦜🐈 по Data Science. Если у вас было желание разобраться в какой-нибудь технологии или забавный проект в планах, то можно это воплотить на этом мероприятии:)
Хакатон идет две недели с 5 до 20 февраля
- Командам помогают менторы, и для каждой команды будет создан чат с ментором в Telegram
- Если у вас нет команды, то её можно будет собрать на хакатоне.
- Победители в нескольких номинациях получают мерч! Толстовки, тельняшки, футболки достанутся командам за самые крутые проекты!
Подробности и регистрация здесь:
https://ods.ai/competitions/pet_projects_wh2022
Хочу поделиться, что на этой неделе самоорганизовался хакатон ODS Pet Projects 🦜🐈 по Data Science. Если у вас было желание разобраться в какой-нибудь технологии или забавный проект в планах, то можно это воплотить на этом мероприятии:)
Хакатон идет две недели с 5 до 20 февраля
- Командам помогают менторы, и для каждой команды будет создан чат с ментором в Telegram
- Если у вас нет команды, то её можно будет собрать на хакатоне.
- Победители в нескольких номинациях получают мерч! Толстовки, тельняшки, футболки достанутся командам за самые крутые проекты!
Подробности и регистрация здесь:
https://ods.ai/competitions/pet_projects_wh2022
👍17🔥4❤1
Хочу провести опрос, чтобы лучше понять свою аудиторию. Выберите то, что больше похоже на ваш профиль
Anonymous Poll
4%
PhD студент по AI/ML
3%
Имею профильное PhD, работаю в сфере AI/ML
21%
Нет PhD, работаю в AI/ML сфере
26%
Работаю в IT
14%
Студент
5%
Работаю не в IT, но изучаю AI/ML
25%
Просто интересно следить за развитием в сфере AI (не обязательно глубоко понимаю)
3%
Я шмидхубер
👍25😁1🙏1
Поясню про вариант "студент" в опросе. Я имел в виду студентов-технарей (физика, математика, информатика).
Пишите в комментах, если вы какой-то очень необычный студент. Самому необычному студенту пришлю пак наклеек от Meta (возможно) ⬆️
Пишите в комментах, если вы какой-то очень необычный студент. Самому необычному студенту пришлю пак наклеек от Meta (возможно) ⬆️
👍3
эйай ньюз
Хочу провести опрос, чтобы лучше понять свою аудиторию. Выберите то, что больше похоже на ваш профиль
Подведу итоги опроса, как проголосует побольше людей. Но уже меня радует, что есть около 7% процентов читателей с профильным PhD. Это 1500 человек если выборка окажется репрезентативной. Для вас, друзья, сейчас будет небольшое объявление.
Так же приятно увидеть 3% Шмидхуберов 🤡 и 20% людей, которые просто интересуются и хотят быть в курсе трендов в AI. Не буду забывать и об этой группе в будущих постах.
Так же приятно увидеть 3% Шмидхуберов 🤡 и 20% людей, которые просто интересуются и хотят быть в курсе трендов в AI. Не буду забывать и об этой группе в будущих постах.
👍42👎3👏1
Forwarded from Neural Shit
This media is not supported in your browser
VIEW IN TELEGRAM
VQGAN + Clip = годнейший симулятор спайсового наркомана
👍33🤩12🔥7😁7❤2
эйай ньюз
Хочу провести опрос, чтобы лучше понять свою аудиторию. Выберите то, что больше похоже на ваш профиль
Друзья, кто не голосовал ещё – проголосуйте в опросе. Мне важно понять, кто меня читает.
👍18😢3🎉3
Как IBM Watson Health не пришел к успеху
IBM запустила Watson Health в 2015 году. Проект планировался как дорога в будущее для здравоохранения. Перцы из IBM хотели использовать свои наработки в сфере AI для помощи медикам в анализе крупных массивов данных и, в итоге, произвести революцию в лечении рака (!). Но, после 7 лет попыток что-то у них, видать, не заладилось. Рак так и не вылечили, а отдел Watson Health продали с потрохами частной инвестиционной компании Francisco Partners.
По слухам сделка была оценена в > $1 млрд. А все разладилось в этом проекте благодаря закостенелости топ-менеджмента IBM и их желанию контролировать ученых и инженеров из Watson Health так же как и в других отделах IBM. В итоге стартаперский дух был задушен, а проект продан. Мораль, друзья, выведите сами.
IBM запустила Watson Health в 2015 году. Проект планировался как дорога в будущее для здравоохранения. Перцы из IBM хотели использовать свои наработки в сфере AI для помощи медикам в анализе крупных массивов данных и, в итоге, произвести революцию в лечении рака (!). Но, после 7 лет попыток что-то у них, видать, не заладилось. Рак так и не вылечили, а отдел Watson Health продали с потрохами частной инвестиционной компании Francisco Partners.
По слухам сделка была оценена в > $1 млрд. А все разладилось в этом проекте благодаря закостенелости топ-менеджмента IBM и их желанию контролировать ученых и инженеров из Watson Health так же как и в других отделах IBM. В итоге стартаперский дух был задушен, а проект продан. Мораль, друзья, выведите сами.
Bloomberg
IBM Sells Some Watson Health Assets for More Than $1 Billion
International Business Machines Corp. agreed to sell part of its IBM Watson Health business to private equity firm Francisco Partners, scaling back the technology company’s once-lofty ambitions in health care.
👍19😢11🔥3👎2
Apple прикупил небольшой Лондонский стартап AImusic, который специализируется на генерации музыки. Криэйторы могут использовали его для создания уникальных инструменталов, которые не попадают ни под какие авторские права (интересно, действительно ли он так хорошо работает).
Зачем это Яблоку? Как гипотеза, например, это может помочь Apple создавать бесплатную музыку для занятий спортом, которая контекстуально меняется в зависимости от интенсивности тренировки, или использовать частоту сердцебиения с Apple watch для создания подходящего плейлиста.
Зачем это Яблоку? Как гипотеза, например, это может помочь Apple создавать бесплатную музыку для занятий спортом, которая контекстуально меняется в зависимости от интенсивности тренировки, или использовать частоту сердцебиения с Apple watch для создания подходящего плейлиста.
MusicTech
Apple just bought an AI music startup that specialises in “adaptive music” that matches your heartbeat
The company claims their artificial intelligence program can shape music based on a user's heartbeat, which surely interested Apple.
👍31🔥1
Делюсь с вами полезными советами от ресерчера из Snap о том, как попасть на интерншип в индустрии и на что стоит обратить внимание.
>> Ссылка
>> Ссылка
Linkedin
Looking for an internship in an industrial research lab? | Sergey Tulyakov
Looking for an internship in an industrial research lab? Here are some tips for you!
TLDR; version in my twitter: https://lnkd.in/gN6sjDpW
Our team receives a lot of intern applications each year. We hosted many interns over the last couple of years, we…
TLDR; version in my twitter: https://lnkd.in/gN6sjDpW
Our team receives a lot of intern applications each year. We hosted many interns over the last couple of years, we…
👍15
Forwarded from Мишин Лернинг 🇺🇦🇮🇱
🚀 OpenAI выкатил в открытый доступ веса самого топового CLIP
Прошло и года (13 месяцев) и OpenAI выложил веса RN50x64 и ViT-L/14
Загрузить самый топовый ViT-L14 можно, заменив ваш ViT-B/16 в одной строке:
Всем хороших выходных, и да здравствует Zero-Shot!
👉 https://github.com/openai/CLIP
Прошло и года (13 месяцев) и OpenAI выложил веса RN50x64 и ViT-L/14
Загрузить самый топовый ViT-L14 можно, заменив ваш ViT-B/16 в одной строке:
model, preprocess = clip.load('ViT-L/14', device)p.s.: Наткнулся случайно, когда ставил очередной эксперимент выходного дня, и после того как написал
clip.load('RN-50', device)
вместо 'RN50'
в ошибке увидел в списке доступных моделей 'ViT-L/14'
. Полезная ошибка вышла.Всем хороших выходных, и да здравствует Zero-Shot!
👉 https://github.com/openai/CLIP
👍26❤2🔥2
Ускорение диффузионных моделей 🔥
Еее! Вышла статья, которая ускоряет генерацию картинок с помощью диффузионных моделей моделей в 20 раз!
Ускорение достигается за счёт нового взгляда на диффузионные модели – предлагается смотреть на них как на дифференциальные уравнения, а диффуры мы умеем довольно быстро решать численными методами!
Дисклеймер: в статья красивая, но сложная математика!
Уже есть колаб с ускоренной диффузией. 16 примеров выше я сгенерил на Nvidia T4 за 5 минут (100 итерации). Запрос "Doggy, oil on canvas".
Еее! Вышла статья, которая ускоряет генерацию картинок с помощью диффузионных моделей моделей в 20 раз!
Ускорение достигается за счёт нового взгляда на диффузионные модели – предлагается смотреть на них как на дифференциальные уравнения, а диффуры мы умеем довольно быстро решать численными методами!
Дисклеймер: в статья красивая, но сложная математика!
Уже есть колаб с ускоренной диффузией. 16 примеров выше я сгенерил на Nvidia T4 за 5 минут (100 итерации). Запрос "Doggy, oil on canvas".
👍18❤1🤩1
Forwarded from Метаверсище и ИИще (Sergey Tsyptsyn)
This media is not supported in your browser
VIEW IN TELEGRAM
Ох ничего себе, посмотрите какой класс!
Motion designer Денис Кочегаров использует Disco Diffusion для вот такой вот анимации.
Смотрится просто ошеломительно.
Тот случай, когда хочется выпить за художника-постановщика и концептера вместе взятых.
Кожаные никогда так не нарисуют.
Я залипаю все утро.
Ссылки на автора:
https://www.instagram.com/stokerdemien/
https://www.behance.net/vjdemien
Motion designer Денис Кочегаров использует Disco Diffusion для вот такой вот анимации.
Смотрится просто ошеломительно.
Тот случай, когда хочется выпить за художника-постановщика и концептера вместе взятых.
Кожаные никогда так не нарисуют.
Я залипаю все утро.
Ссылки на автора:
https://www.instagram.com/stokerdemien/
https://www.behance.net/vjdemien
👍51🔥24❤7👏4👎1🥰1
This media is not supported in your browser
VIEW IN TELEGRAM
CLIPasso: AI Создает скетчи по картинкам
В этой статье комбинируется дифференциальный рендеринг и CLIP. И, конечно, никакой это не настоящий AI 😅
Вот как это работает:
По картинке предсказываются приблизительные параметры линий, составляющих карандашный набросок. Затем параметрическое представление линий растеризуется и кормится в CLIP для вычисления похожести наброска с оригинальным изображением. Ошибка пропихивается назад до параметров линий и они итеративно обновляются, увеличивая совпадение со входной картинкой.
>> Папира >> Страница проекта
В этой статье комбинируется дифференциальный рендеринг и CLIP. И, конечно, никакой это не настоящий AI 😅
Вот как это работает:
По картинке предсказываются приблизительные параметры линий, составляющих карандашный набросок. Затем параметрическое представление линий растеризуется и кормится в CLIP для вычисления похожести наброска с оригинальным изображением. Ошибка пропихивается назад до параметров линий и они итеративно обновляются, увеличивая совпадение со входной картинкой.
>> Папира >> Страница проекта
👍28🤔6🔥5❤2