Тема, которую не ожидаешь увидеть в comp science новостях или на техкранче — перевал Дятлова.
Не ожидешь, но видишь.
А все потому, что ребята из EPFL и ETH сделали симуляцию движения снега, которая могла бы объяснить, что произошло с группой студентов.

Не растягивая резину, по их версии, все дело в сошедшем блоке ледянистого снега, которого не нужно много, чтобы разворотить все, что под ним. Больше можно прочитать тут.

transformers теперь можно использовать с аудио. В новую версию Hugging Face добавили фейсбучную Wav2Vec, которую теперь можно брать и применять, и даже комбинировать с другими моделями, чтобы делать, например, транскрибацию. Вот пример как это работает прямо в браузере.

Deep Learning Recommendation Models на которых стоят и ФБ и Нетфликс обычно состоят из мультислойного перцептрона и таблиц с эмбедингами, где первый отвечает за числительные признаки, а ля, возраст, а вторые за категорические — жанр, тип данных, и тд, которые они эмбедят в числительные вектора, чтобы дальше с ними можно было работать.

Так вот эти таблицы эмбедингов в промышленных задачах достигают уже даже не гигабайты, а террабайты в объеме. Они могут содержать миллионы строк, и это количество растет экспоненциально в новых рекомендационных моделях.

Очевидно, что это проблема, и рисерчеры из Georgia Tech и FB AI это заметили, и предложили новый способ сжатия таких моделей через представление этих огромных таблиц в виде матричных произведений. В итоге у них получилось сократить размер модели в 112 раз увеличив время тренировки всего на 13% (время инференса не сообщается).

Финансовый отел который выделяет бюджет на датацентры сегодня пьет шампанское.

Что случается, когда люди быстро вырастают в своих должностях непропорционально своему опыту. Один из фаундеров DeepMind Мустафа Сулейман сначала резко ушел из компании в 2019, а теперь в 2021 разбирается с юристами, которые предъявляют ему жалобы на его менеджерскую деятельность. По описанию, в дипмайнде он переходил рамки и булил своих же сотрудников.

Автономное оружие получило зеленый свет от Национальной Комиссии по Безопасности в США. Более того, в черновике отчета этой группы экспертов во главе с бывшим СЕО Гугла Эриком Шмидтом поощряется усиление интересов Америки в военном AI. Как будто они могли сказать что-то другое.

При этом аргументация против бана, там, скажем так, довольно шаткая, если учесть всю опасность такого оружия: "...an international ban would be both difficult to enforce and antithetical to America’s interest. Commission member and former deputy defense secretary Robert Work told Reuters that autonomous weapons would make fewer mistakes than humans, resulting in fewer battlefield casualties." Интересно как для них это норма использовать противоречие интересам Америке в виде аргумента для международного соглашения. Буквально "мы считаем должно быть так, потому что Америке так хочется".

Ну а нам с вами тем временем реально пора тiкать з села.

Компания Rebag, которая занимается продажей б/у лакшери аксессуаров, представила Clair AI — алгоритм компьютерного зрения, который распознает модель и бренд вещи на фотографии (предлагая на выбор 1-5 вариантов), и подсказывает ценовой диапазон учитывая внешнее состояние этой вещи. Это все действует как подсказки, после которых все-равно надо вручную заполнить полноценную авитовскую объяву.

Как по мне, польза у таких применений AI маржинальная, только на случай, когда дома валяется какая-то сумка за две штуки баксов и вы чешите репу откуда она взялась, и кто такой этот Луис Виттон.

В плане оценки состояния я тоже очень скептичен, потому что зная как работают классификаторы изображений, одна и та же вещь сфотканная с хорошим светом и плохим светом, или помятая и выглаженная, будут иметь совсем разную оценку, что, конечно же, тупо.

Гугл заопенсорсил свой AutoML алгоритм 🤯
Мне нечего к этому добавить.

https://github.com/google/model_search
Enjoy

В продолжение нейробреда, очередная модель для урока. На этот раз НЕЙРО-БУГУРТ. Генерировал, кстати, с помощью сберовской ((((GPT-3)))). Получился юмор уровня Б, на любителя.

СЛУШАЕШЬ МУЗЫКУ С ДРУЗЬЯМИ
@
ОТ НЕОЖИДАННОСТИ УЗНАЕШЬ, ЧТО В КОМНАТЕ ПОЖАР И ВИДНО, ЧТО ОНИ ВЕРНУЛИСЬ С РАБОТЫ

***

РЕШИЛ ПОСМОТРЕТЬ ФИЛЬМ "ПЕРВЫЙ РАЗ В ЖИЗНИ"
@
ПОЧУВСТВОВАЛ ПРИВКУС ХУЙЦА ВО РТУ

***

ПОЗНАКОМИЛСЯ С ЛАМПОВОЙ ТЯН, ОЧЕНЬ ХОРОШО ОБЩАЕТЕСЬ
@
ВЛЮБИЛАСЬ В ЕРОХИНА

***

ВСЕ ТЯН ТЕКУТ, КАК ПОДЛИВА

***

ТЫ - ОМЕГИН СЫЧЕВ
@
ПОЛУЧИЛ ПОЧЕТНУЮ ДЕНЕГУ НА НОВУЮ КОМПЛЮКТЕРНУЮ ИГРУ
@
В КОНЦЕ КОНЦОВ УЗНАЕШЬ, ЧТО ТВОЙ КОМПЛЮКТЕР НЕ РАБОТАЕТ
@
ВЗРЫВ ТВОЕЙ ЖОПЫ ЗАСТАВИЛ ВСЕХ НАЗЫВАТЬ ТЕБЯ АМЕРИКАНЦЕМ

***

ПРИХОДИШЬ ДОМОЙ
@
ПЛАЧЕШЬ, СМЕЕШЬСЯ, ПОНИМАЕШЬ, ЧТО ОНА ПРОСТО ТЯН
@
ПОНИМАЕШЬ, ЧТО ОНА ТЕБЕ НЕ НУЖНА
@
ПЛАЧЕШЬ, СМЕЕШЬСЯ
@
ПОНИМАЕШЬ, ЧТО ОНА ТЕБЕ НУЖНА

***

РЕШИЛ ПОСМОТРЕТЬ ФИЛЬМ
@
ПОСМОТРЕЛ ФИЛЬМ
@
ВСЁ КАК У ЛЮДЕЙ

Резюмирование текста (text summarization) — широкоизвестная задача в NLP для которой есть бенчмарки, датасеты, и проч. В том числе, с ней неплохо справляется GPT-3. Я видел попытки найти этому осмысленное применение, например, резюмирование длинных имейлов, но, как-то, большой популярности это все не набирает (как и любое такое высосанное из пальца применение AI, лол).

Но тут некий хипстерский интернет-магазин BuyForLife внес свою лепту, и добавил у себя на сайте AI-обзорщика, который резюмирует покупательские отзывы о товарах в легко-перевариваемый список булетпоинтов. Ну а че, хайпово? Хайпово. Возможно даже полезно. Рынок решит.

Ну наконец-то, разработчик Modbox реализовал очевидную идею, лежащую на поверхности.

Соединить вместе Windows speech recognition, GPT-3 AI и сервис Replica, который делает обратную конвертацию из текста в речь.

Таким образом, можно общаться с нпс как с осмысленными персонажами. Т.к. все работает через облако, есть небольшой лаг.

Я, честно говоря, на заре сервисов Гугл и Амазон думал, что это будет реализовано через них, но так тоже неплохо. Ждём официальной интеграции от гигантов, и вот тогда начнется всеобщее воспитание ИИ, а к чему это обычно приводит, мы все знаем))

DeepMind представили NFNets, семейство классификаторов изображений, которые:

* SOTA на ImageNet (86.5% top-1 без дополнительных данных)
* Тренируются в 8.7 раз быстрее чем EfficientNets той же точности
* Не требуют нормирования (никакого BatchNorm!)

Статья: https://dpmd.ai/06171
Код: https://dpmd.ai/nfnets

Cruise, селф-драйвинг компания General Motors, подняла новый раунд инвестиций, в котором существенную роль взял на себя Microsoft. Тем самым они объявили о "долгом стратегическом сотрудничестве", где Круз поможет МС войти в сферу транспорта, а МС поможет Крузу инфраструктурой на Ажуре.

Спасибо за эту маленькую радость @NeuroLands

Дисрапта не будет, можно расходиться. Успешные Миннеаполиссовцы наконец дали пососать энтому вашему эйай.

Потому что для алгоритма, если человек преступник, то он заслуживает наказания, а для типичного американца — ну, it depends...

И самое веселое:
> The technology has been found to have racial, age, and ethnic biases
Вы че несете, блять, facial recognition буквально сопоставляет лицо человека с лицами в базе, и говорит кто это, а не принимает решение плохой или хороший.

Очередное творение nuderobot.

Вам кажется, что вы видите одежду, "а король-то голый!"

Инженеры гугла в целях рекламы AutoML натренировали троичный классификатор торт/печенье/хлеб на рецептах и их ингредиентах. Типичный такой школьный проект, но вот пару забавных находок:

— Измерив важность фичей, оказалось, что масло играет определяющую роль, а за ним идут сахар и дрожжи;
— Найдя рецепты, которые алгоритм предсказывал с одинаковой уверенностью как что-то между двумя классами, они их спекли, и, внезапно, тортопеченье оказалось не очень, а хлебопеченье — вполне. О хлеботорте инженеры гугла умолчали.

Я сразу не заострял внимание, но раз уж это опять на слуху...

Вы могли заметить, что Лебедев в последних выпусках не настоящий. Да да. Пока кто-то не знает куда ещё притулить AI, маэстро нашел самое разумное, как по мне, применение дипфейкам.

Дело в том, что он сейчас в путешествии, и не может снимать выпуски новостей, но благо нехитрая композиция, где движется только лицо, позволяет этот контент искусственно сгенерировать.

Я уверен, что там используется сетка Wav2Lip, которая синтезирует движения губ чисто по аудио (спасибо @bomze). И как я сказал, это реально работает и даёт картинку, которую ты перестаешь воспринимать как искусственную уже через 5 минут.

Это вам не бессмысленная анимация своим лицом мемов или ретро-фоток (зачем?)

Как флексят математики. Не хватает только взрыва за спиной.