На фоне неутихающих страстей журналистов и внешних экспертов по поводу опасностей ИИ для человечества интересно взглянуть на статистику мнений (а не громкие отдельные высказывания) тех, кто реально в этом поле работает. Вот как раз опубликованы методически вполне корректные результаты такого опроса среди 4271 исследователя, чьи работы были приняты конференциями NeurIPS или ICML в 2021.
Их мнения относительно HLMI разнятся (да, используется не расхожий и смутный термин Общий ИИ, а более внятный прагматичный HLMI - подразумевающий, что unaided machines can accomplish every task better and more cheaply than human workers и не обсуждающий вопросы самосознания).
Выводы в целом довольно спокойные: агрегированный прогноз наступления такого машинного интеллекта указывает на примерно 2060 год; медиана ответов про катастрофические результаты достижения HLMI составляет около 10%. Цифра внешне не кажется пугающей, но желающих играть в русскую рулетку с револьвером, у которого барабан на 10 патронов, довольно мало, поэтому неудивительно, что 69% респондентов считают, что надо поднять приоритет исследований на тему безопасности разработки ИИ, благо время вполне есть.
https://aiimpacts.org/what-do-ml-researchers-think-about-ai-in-2022/
(Полный материал - https://aiimpacts.org/2022-expert-survey-on-progress-in-ai/ ) Спасибо Лёше Тихонову за интересную ссылочку

🎥 Смотрите что CompVis творит с Text Video Editing

Как я уже показывал, Stability Diffusion готовит Inpainting версию своей модели.

Теперь Patrick Esser поделился интересным прогрессом. Посмотрите, я реально залип..

🤖 Мишин Лернинг

Самообучающийся искусственный интеллект демонстрирует сходство с работой мозга

Животные - в том числе и люди - не используют наборы маркированных данных для обучения. По большей части они самостоятельно исследуют окружающую среду и при этом получают богатое и глубокое понимание мира.

Некоторые специалисты по вычислительной неврологии начали изучать нейронные сети, которые были обучены на небольшом количестве данных, помеченных человеком, или вообще без них. Эти алгоритмы self-supervised (#SSL) оказались чрезвычайно успешными для моделирования человеческого языка и, совсем недавно, распознавания образов. В последних работах вычислительные модели зрительной и слуховой систем млекопитающих, построенные с использованием моделей SSL, показали более близкое соответствие функциям мозга, чем их аналоги с контролируемым обучением.

Некоторые нейробиологи считают, что искусственные сети начинают раскрывать некоторые из реальных методов, используемых нашим мозгом для обучения.

Подробнее

Кто стоит за StableDiffusion?

Посмотрите интервью с @EMostaque, основателем Stability AI. Яник поговорил с ним об открытых моделях, создании гигантского вычислительного кластера с нуля и о том, как он представляет себе настоящую демократизацию ИИ.

Интервью

За последние 7 лет я довольно много переезжал, видимо для того что бы добраться до Калифорнии.

Пробыв тут чуть меньше недели могу сказать, что тут очень очень круто. С одной стороны это такая большая деревня, с другой, это очень лухари деревня и в ней есть все те услуги и сервисы к которым мы привыкли в больших городах.

Еще немножко адаптируюсь и буду писать в канал чаще. А пока, о чем вам было бы инетерсно прочитать про мой опыт в Долине?

(промпт !dream [description], Clean Cel shaded vector art. Shutterstock. behance hd by lois van baarle, artgerm, Helen huang, by makoto shinkai and ilya kuvshinov, rossdraws, illustration)

Ну и раз уж мы про диффузионные модели: все же знают, что они используются не только для генерации картинок?

Вот, например, свежая статья о диффузии для speech enhancement. Подобные задачи, где нужно избавиться от шума, вообще просто идеально подходят для решения диффузией: идея работы диффузионных моделей как раз состоит в том, чтобы взять объект, последовательно добавлять к объекту шум, а затем обучить нейросеть восстанавливать изначальный объект из этого шума. Ну ребята из IEEE и применили диффузию к speech enhancement, причем архитектура их нейросети заимствована прямо из работ по генерации картинок =) Работает это хорошо, сравнимо с SOTA моделями. Более того, авторы утверждают, что их метод достигает лучшей генерализации, чем предыдущие подходы.

Ссылки:
Статья
Код на Github

Ну и пара ссылок для тех, кто хочет лучше вникнуть в то, как работают диффузионные модели и кто как зачем их сейчас применяет:
✔️ Статья-введение в diffusion models
✔️ Гитхаб-репо со ссылками на статьи/видео/лекции о diffusion models и score-matching models (это нашла в эйай ньюз)

Андрей Карпати (ex Tesla AI) выложил новую лекцию

«!!!! Итак, я записал (новую!) 2h25m лекцию "The spelled-out intro to neural networks and backpropagation: building micrograd".
Это кульминация примерно 8 лет навязчивых мыслей о том, как лучше объяснить нейронные сети и обратное распространение.

Если вы знаете Python, смутно помните, как проходили производные в средней школе, посмотрите это видео и к концу не поймете обратное распространение и суть нейронных сетей, тогда я съем ботинок :D»

Смотреть

Считается за ИИ контент? 😂

Deep-learning seismology

Сейсмология - наука о сейсмических волнах, которая ставит перед собой цель понять их происхождение. Наиболее очевидными источниками сейсмических волн являются землетрясения, но такие волны возникают также в следствие взрывов, извержения вулканов и тп.

Сейсмические волны регистрируются непрерывно, с типичной частотой дискретизации 100 точек в секунду.

Развитие технологии сейсмических датчиков, таких как оптоволоконный кабель и акселерометры в интеллектуальных устройствах, предвещает дальнейшее увеличение объемов сейсмологических данных.

Способность глубокого обучения к последовательному моделированию данных и снижению размерности - все это выгодно для обработки сейсмических данных. Глубокое обучение для научных открытий и прямого извлечения информации о сейсмологических процессах, очевидно, только начинается.

Мой профессор Greg Beroza написал большую обзорную статью в Science про будущее DL в Сейсмологии, которую я очень рекомендую к прочтению.

Сижу тут на PhD защите автора канала @earth_climate_tech, хоть канал и называется climate, защита на удивление про нефтяночку (причём норвежскую, которой я занимался в Лукойле в Осло).

Толик (вы его кстати видели в фильме у Дудя) молодец! Удачи будущий Dr. Aseev.

Генерация фотореалистичных картинок — это прекрасно. Но мне иногда по старинке хочется запечатлеть на память те места физического мира, где я побывал телесно. Потому и люблю фото, и не только на телефон. И страдаю от проблем в условиях малой освещенности; сегодняшние ухищрения цифровой фотографии типа очень длинной экспозиции при цифровой стабилизации спасают далеко не всегда: шумы на изображении оказываются неустранимы и портят картинку безобразно.
И вот выясняется, что гугловая технология NeRF, применяемая для рендеринга 3D сцен по набору плоских фоток, замечательно подходит для восстановления зашумленных картинок, полученных в условиях очень слабого освещения. Ждём следующего прорыва в фоторедакторах и в мобильной вычислительной фотографии
https://petapixel.com/2022/08/23/google-researchers-add-powerful-denoise-tool-to-nerf-ai-program/