Forwarded from AI для Всех
Изучаем графовые нейросети
Ох, как бы я хотел что бы этот ресурс появился неделю назад. Но лучше поздно, чем никогда. Отличное занятие на этот томный воскресный день.
Учимся
#gnn #graphs
Ох, как бы я хотел что бы этот ресурс появился неделю назад. Но лучше поздно, чем никогда. Отличное занятие на этот томный воскресный день.
Учимся
#gnn #graphs
❤20👍1
Forwarded from Love. Death. Transformers.
Мы наконец выкатили пример супер прикольного файнтюна Рудольфа на любопытную задачу предсказания калорийности еды по фото
Хабр
GitHub
Хабр
GitHub
🔥10😁6👍4
This media is not supported in your browser
VIEW IN TELEGRAM
Привет, это Миша. Автор блога Мишин Лернинг.
Обращаюсь ко всем подписчикам из России.
С 24 февраля мы все живем в другом мире. И мы, и вы, и весь свет.
Моя бабушка в 1941 девочкой была в Киеве под бомбами. Я оказался под бомбежкой в Киеве в 2022. Вы верите, что это точечная спецоперация? Вы не знаете, что люди сутками прячутся в метро, города по всей Украине обстреливают и бомбят?
Вы верите, что кого-то здесь спасаете от «бендеровцев» и наркоманов? Я — еврей, я свободно себя чувствую в Украине, как и люди всех национальностей.
«Бойтесь людей равнодушных — именно с их молчаливого согласия происходят все самые ужасные преступления на свете», — сказал Юлиус Фучик. Не надо говорить, что от вас ничего не зависит. Сказать «нет войне» может каждый вменяемый человек.
И пусть сейчас малыши рождаются в убежищах, они будут жить в свободной стране, и в мире со всем миром, наслаждаясь научными достижениями и культурой. А вы?
Мы не можем остановить войну, мы можем ее только выиграть. А вы можете войну остановить.
Обращаюсь ко всем подписчикам из России.
С 24 февраля мы все живем в другом мире. И мы, и вы, и весь свет.
Моя бабушка в 1941 девочкой была в Киеве под бомбами. Я оказался под бомбежкой в Киеве в 2022. Вы верите, что это точечная спецоперация? Вы не знаете, что люди сутками прячутся в метро, города по всей Украине обстреливают и бомбят?
Вы верите, что кого-то здесь спасаете от «бендеровцев» и наркоманов? Я — еврей, я свободно себя чувствую в Украине, как и люди всех национальностей.
«Бойтесь людей равнодушных — именно с их молчаливого согласия происходят все самые ужасные преступления на свете», — сказал Юлиус Фучик. Не надо говорить, что от вас ничего не зависит. Сказать «нет войне» может каждый вменяемый человек.
И пусть сейчас малыши рождаются в убежищах, они будут жить в свободной стране, и в мире со всем миром, наслаждаясь научными достижениями и культурой. А вы?
Мы не можем остановить войну, мы можем ее только выиграть. А вы можете войну остановить.
❤467👍33🔥12👎9😁6
🧮 Экспонента и Экспоненциальный Рост
Экспонента — показательная функция f = exp(x) или e**x, где e≈2,71 — число Эйлера.
Экспоненциальный рост — возрастание величины, когда точечна скорость роста пропорциональна точечному значению самой величины.
Примером экспоненциального роста может быть рост числа бактерий в колонии до наступления ограничения ресурсов. Другим примером экспоненциального роста являются сложные проценты.
Экспонента является очень важной функцией и в машинном обучении, например для обучения нейронных сетей необходима нелинейность между слоями. Это нужно для того, чтобы многослойная нейронная сеть не превратилась в однослойную линейную модель из-за ассоциативности операции матричного умножения. Для этого используют функции активации.
Примеры популярных функций активации, которые базируются на функции exp(x):
- Sigmoid
- ELU
- Swish
- GELU
Экспонента — показательная функция f = exp(x) или e**x, где e≈2,71 — число Эйлера.
Экспоненциальный рост — возрастание величины, когда точечна скорость роста пропорциональна точечному значению самой величины.
Примером экспоненциального роста может быть рост числа бактерий в колонии до наступления ограничения ресурсов. Другим примером экспоненциального роста являются сложные проценты.
Экспонента является очень важной функцией и в машинном обучении, например для обучения нейронных сетей необходима нелинейность между слоями. Это нужно для того, чтобы многослойная нейронная сеть не превратилась в однослойную линейную модель из-за ассоциативности операции матричного умножения. Для этого используют функции активации.
Примеры популярных функций активации, которые базируются на функции exp(x):
- Sigmoid
- ELU
- Swish
- GELU
😁73👍28🔥6👎2
Forwarded from Denis Sexy IT 🤖
Это тоже не фейк, кажется мы все попали в эпизод Южного Парка по тупости происходящего
😁50👍9👎2
НадZoр заблокировал facebook и twitter. Будет ли заблокирован YouTube?
Anonymous Poll
79%
Да
21%
Нет
👍25🔥3👎1😁1
Forwarded from Denis Sexy IT 🤖
Собрал новый научный дайджест, он местами позитивный, и это именно то, что многим нужно в военное время:
🐈 Наконец-то исследователи занялись важными вопросами – изучили почему кошки так любят коробки. Эта любовь имеет эволюционный смысл, давление с боков успокаивает и коты меньше стрессуют. Эксперимент проводили даже в 2D коробках, коты любят визуальный границы и сидели в вымышленном пространстве (Eng / Rus)
🔭 Марсоход Curiosity сфотографировал минеральное отложение, похожее на коралл или губку. Но это не марсианская живность, а результат химической реакции минералов и древней воды на Марсе, так что пока без сенсаций (Rus / Eng)
🗡 «Звездные Врата» в реальности — одни ученые сказали, что кинжал Тутанхамона, найденный в его гробнице, выкован из метеоритного железа. Другие ученые утверждают, что это был зарубежный дар, в общем, весьма интересное чтиво для конспирологов-уфологов (Rus / Eng)
🐍 Если вы всегда задавались вопросом, как шипят змеи, ведь у них нет передних зубов, то учёные подготовили ответ: змеи произносят шипение немного глубже в дыхательной системе, чем люди, в голосовой щели, через которую змея дышит (Rus / Eng)
🐒 В Китае обнаружили остатки культуры древнего каменного века, то есть то, чем Homo sapiens жили 40 000 лет назад — разные мелкие инструменты из камня, похожие на лезвия (Rus / Eng)
💥 Было бы феерично, если бы не было так далеко — ученые опубликовали информацию, что две сверхмассивные черные дыры на 99% столкнутся друг с другом примерно в 9 миллиардах световых лет от нас (вносите в календарик), а гравитационная волновая рябь распространится по Вселенной (Rus / Eng)
Всем мира,
нет войне.
🐈 Наконец-то исследователи занялись важными вопросами – изучили почему кошки так любят коробки. Эта любовь имеет эволюционный смысл, давление с боков успокаивает и коты меньше стрессуют. Эксперимент проводили даже в 2D коробках, коты любят визуальный границы и сидели в вымышленном пространстве (Eng / Rus)
🔭 Марсоход Curiosity сфотографировал минеральное отложение, похожее на коралл или губку. Но это не марсианская живность, а результат химической реакции минералов и древней воды на Марсе, так что пока без сенсаций (Rus / Eng)
🗡 «Звездные Врата» в реальности — одни ученые сказали, что кинжал Тутанхамона, найденный в его гробнице, выкован из метеоритного железа. Другие ученые утверждают, что это был зарубежный дар, в общем, весьма интересное чтиво для конспирологов-уфологов (Rus / Eng)
🐍 Если вы всегда задавались вопросом, как шипят змеи, ведь у них нет передних зубов, то учёные подготовили ответ: змеи произносят шипение немного глубже в дыхательной системе, чем люди, в голосовой щели, через которую змея дышит (Rus / Eng)
🐒 В Китае обнаружили остатки культуры древнего каменного века, то есть то, чем Homo sapiens жили 40 000 лет назад — разные мелкие инструменты из камня, похожие на лезвия (Rus / Eng)
💥 Было бы феерично, если бы не было так далеко — ученые опубликовали информацию, что две сверхмассивные черные дыры на 99% столкнутся друг с другом примерно в 9 миллиардах световых лет от нас (вносите в календарик), а гравитационная волновая рябь распространится по Вселенной (Rus / Eng)
Всем мира,
нет войне.
👍30
🤖🎓 Nvidia объявила, что приостанавливает продажу всей своей продукции на территории России!
Это начало конца не столько гейминга, сколько ИИ в России. На имеющихся ресурсах все ещё можно будет тренировать серьезные модели, но:
1. Современные огромные трансформеры будут требовать все большего количества карт для обучения, достать которые если и можно будет, то только через Китай.
2. Если из строя выходит 1 карточка A100 из 8ми таковых в DGX, то обычно его обменивают / чинят по гарантии целиком. А выходят из строя они на удивление достаточно часто.
p.s.: Но унывать не стоит, так как для face recognition, трекинга и ReID имеющихся ресурсов хватит на десятилетия.
Это начало конца не столько гейминга, сколько ИИ в России. На имеющихся ресурсах все ещё можно будет тренировать серьезные модели, но:
1. Современные огромные трансформеры будут требовать все большего количества карт для обучения, достать которые если и можно будет, то только через Китай.
2. Если из строя выходит 1 карточка A100 из 8ми таковых в DGX, то обычно его обменивают / чинят по гарантии целиком. А выходят из строя они на удивление достаточно часто.
p.s.: Но унывать не стоит, так как для face recognition, трекинга и ReID имеющихся ресурсов хватит на десятилетия.
❤38👎31👍16🔥15😁11🤔1
🔥 Как выглядит главная страница PyTorch
На главной странице самого популярного Deep Learning фреймворка PYTORCH https://pytorch.org/ размещена ссылка для помощи Украине — Support Ukraine 🇺🇦
На главной странице самого популярного Deep Learning фреймворка PYTORCH https://pytorch.org/ размещена ссылка для помощи Украине — Support Ukraine 🇺🇦
🔥123❤40👎26🤔4👍3😁1
Forwarded from ГЛУХОВСКИЙ
Как и было обещано, выкладываю полную версию романа «ПОСТ». Можно читать и делиться с друзьями. Всем мира и правды!
👍4
Forwarded from Denis Sexy IT 🤖
Помните я писал пару месяцев назад про первого пациента которому удалось пересадить генно-модифицированное сердце свиньи?
К сожалению он сегодня скончался:
>Точная причина смерти, как и диагноз, который потребовал пересадки, не называется. По словам врачей, состояние мужчины начало ухудшаться за несколько дней до этого. После операции сердце быстро прижилось и стало нормально функционировать. Но хирурги отмечали, что «пока не знают, что ждёт их завтра», так как подобных случаев ещё не наблюдали.
Тут подробнее. На всякий случай упомяну, что это был эксперимент, а не лечение – у пациента не было шанса получить сердце на замену по программе донорства.
Думаю, этот научный опыт позволит в будущем спасать жизни людей – у ученых теперь полно данных.
К сожалению он сегодня скончался:
>Точная причина смерти, как и диагноз, который потребовал пересадки, не называется. По словам врачей, состояние мужчины начало ухудшаться за несколько дней до этого. После операции сердце быстро прижилось и стало нормально функционировать. Но хирурги отмечали, что «пока не знают, что ждёт их завтра», так как подобных случаев ещё не наблюдали.
Тут подробнее. На всякий случай упомяну, что это был эксперимент, а не лечение – у пациента не было шанса получить сердце на замену по программе донорства.
Думаю, этот научный опыт позволит в будущем спасать жизни людей – у ученых теперь полно данных.
❤36👍9🤔5👎1
Forwarded from БлоGнот
Washington Post описывает, какому давлению подвергались западные компании еще до начала войны со стороны российского режима - чтобы добиться удаления приложения фонда Навального из Google Play, силовики нанесли визит руководителю московского офиса Google домой и предупредили, что она будет арестована в течение суток, если приложение не будет удалено. Когда компания каким-то образом поселила ее под вымышленным именем в отель, сотрудники ФСБ навестили ее в отеле и сообщили, что время продолжает идти. В итоге приложение было удалено и аналогично поступила и Apple.
Я не просто не сомневаюсь, а достоверно знаю, что все остальные, и не только западные, компании в этой сфере подвергаются аналогичному по методам давлению. Просто в случае с тем же Яндексом все происходило очень постепенно, еще с 2008-го, например, года, когда достаточно было поинтересоваться в соответствующем кабинете, как именно крупнейший картографический сервис страны собирается отразить границу между Грузией и Южной Осетией. Да, сохранялась некоторая вольность, до некоторой степени, но температура продолжала повышаться и лягушки это понимали.
Впрочем, ладно, перспективы стремительно сокращающегося сектора примерно понятны и без детальных воспоминаний.
https://www.washingtonpost.com/world/2022/03/12/russia-putin-google-apple-navalny/
Я не просто не сомневаюсь, а достоверно знаю, что все остальные, и не только западные, компании в этой сфере подвергаются аналогичному по методам давлению. Просто в случае с тем же Яндексом все происходило очень постепенно, еще с 2008-го, например, года, когда достаточно было поинтересоваться в соответствующем кабинете, как именно крупнейший картографический сервис страны собирается отразить границу между Грузией и Южной Осетией. Да, сохранялась некоторая вольность, до некоторой степени, но температура продолжала повышаться и лягушки это понимали.
Впрочем, ладно, перспективы стремительно сокращающегося сектора примерно понятны и без детальных воспоминаний.
https://www.washingtonpost.com/world/2022/03/12/russia-putin-google-apple-navalny/
👍37👎13
🚮 Искусственный Интеллект и Военное вторжение России в Украину
По сообщению от reuters: Украина начала использовать систему распознавание лиц от Clearview AI
Clearview — компания, которая в основном предоставляет свои технологии распознавания лиц правоохранительным органам США, борется с судебными исками в Соединенных Штатах. Тем не менее, несколько стран, включая Великобританию и Австралию, признали технологию незаконной. Но это было в мирное время.
По словам исполнительного директор Clearview Хоан Тон-Тхата, в его стартапе есть более 2 миллиардов изображений из российской социальной сети «ВКонтакте» из базы данных, насчитывающей более 10 миллиардов фотографий.
Подобные методы используют Deep Metric Learning. Для фотографий лиц одного человека нейросеть выдает близкие к друг другу вектора.
🎥 Рекомендую YouTube лекцию про работу подобных поисковиковых систем
По сообщению от reuters: Украина начала использовать систему распознавание лиц от Clearview AI
Clearview — компания, которая в основном предоставляет свои технологии распознавания лиц правоохранительным органам США, борется с судебными исками в Соединенных Штатах. Тем не менее, несколько стран, включая Великобританию и Австралию, признали технологию незаконной. Но это было в мирное время.
По словам исполнительного директор Clearview Хоан Тон-Тхата, в его стартапе есть более 2 миллиардов изображений из российской социальной сети «ВКонтакте» из базы данных, насчитывающей более 10 миллиардов фотографий.
Подобные методы используют Deep Metric Learning. Для фотографий лиц одного человека нейросеть выдает близкие к друг другу вектора.
🎥 Рекомендую YouTube лекцию про работу подобных поисковиковых систем
❤44👍28👎25
🤖🎓 Новая эра в ИИ: NVIDIA представила карту H100 и супер компьютер DGX H100 | Спойлер: все будет в 3-6 раз быстрее !
Новая карточка H100 базируется на 4-нм техпроцессе c 80GB памяти оказывается в 3х шустрее A100 на fp16 и fp32 и 6x в fp8:
▪️FP8 4,000 TFLOPS (6x A100)
▪️FP16 2,000 TFLOPS (3x A100)
▪️FP32 1,000 TFLOPS (3x A100)
▪️HBM3 3 TB/S (1.5x A100)
Новый суперкомпьютер DGX H100 содержит в себе:
▪️8 H100 GPU
▪️32 PFLOPS of AI Performance
▪️640 GB of HBM3 memory
▪️24 TB/s memory Bandwidth
Cамое интересное то, что NVIDIA уделили внимание трансформерам и представили в H100 Transformer Engine, который сочетает новую версию Tensor Core и software для fp8 и fp16 вычислений.
По заявлениям обучение гигантских трансформеров должно сократиться с недель до дней.
Напоминаю, что Nvidia объявила, что остановила продажу всей своей продукции на территории России.
🎥 p.s.: запись трансляции GTC 2022 Keynote with NVIDIA CEO Jensen Huang. (забавно, но пока всего 5К просмотров)
Новая карточка H100 базируется на 4-нм техпроцессе c 80GB памяти оказывается в 3х шустрее A100 на fp16 и fp32 и 6x в fp8:
▪️FP8 4,000 TFLOPS (6x A100)
▪️FP16 2,000 TFLOPS (3x A100)
▪️FP32 1,000 TFLOPS (3x A100)
▪️HBM3 3 TB/S (1.5x A100)
Новый суперкомпьютер DGX H100 содержит в себе:
▪️8 H100 GPU
▪️32 PFLOPS of AI Performance
▪️640 GB of HBM3 memory
▪️24 TB/s memory Bandwidth
Cамое интересное то, что NVIDIA уделили внимание трансформерам и представили в H100 Transformer Engine, который сочетает новую версию Tensor Core и software для fp8 и fp16 вычислений.
По заявлениям обучение гигантских трансформеров должно сократиться с недель до дней.
Напоминаю, что Nvidia объявила, что остановила продажу всей своей продукции на территории России.
🎥 p.s.: запись трансляции GTC 2022 Keynote with NVIDIA CEO Jensen Huang. (забавно, но пока всего 5К просмотров)
👍48❤13👎1
Мишин Лернинг 🇺🇦🇮🇱
🤖🎓 Новая эра в ИИ: NVIDIA представила карту H100 и супер компьютер DGX H100 | Спойлер: все будет в 3-6 раз быстрее ! Новая карточка H100 базируется на 4-нм техпроцессе c 80GB памяти оказывается в 3х шустрее A100 на fp16 и fp32 и 6x в fp8: ▪️FP8 4,000…
🚀 upd: ничего себе, у трансляции NVIDIA уже не 5K, а 10M просмотров!!
YouTube
GTC 2022 Spring Keynote with NVIDIA CEO Jensen Huang
NVIDIA CEO Jensen Huang kicks off #GTC22 with a keynote that presents the latest breakthroughs in #AI, data science, high performance computing, graphics, edge computing, networking, and autonomous machines.
Deep dive into announcements and discover more…
Deep dive into announcements and discover more…
❤14