Forwarded from Математическая эссенция
15 апреля 1707 г. родился Леонард Эйлер. Один из величайших математиков в истории. Имя Эйлера упоминается во всех разделах современной математики: теории чисел, топологии, алгебраической геометрии, комбинаторике, теории графов, анализе, теории обыкновенных дифференциальных уравнений и динамических систем, гидродинамике, механике, теории упругости и проч. Он автор многих понятий, которые по тем или иным причинам связывают с именами других учёных; вот лишь два примера: дзета-функция Римана, гипергеометрический ряд Гаусса — это изобретения Эйлера.
С именем Эйлера связано первое использование обозначения f(x) для функции, буквы i для выражения мнимой единицы, греческой буквы Σ для записи суммы, греческой буквы Δ для обозначения конечных разностей, строчных букв для обозначения сторон треугольника при представлении углов заглавными буквами. Он дал текущее определение константы e, основания натурального логарифма, ныне известного как число Эйлера. Благодаря ему стало общеупотребимым обозначение числа π.
Эйлер считается едва ли не самым плодовитым математиком. По различным оценкам ему принадлежит более 800 названий научных работ, статей, книг, при этом прижизненных публикаций около 500; издание и переиздание его опубликованных и неопубликованных работ растянулось на столетия и далеко до своего завершения; полное собрание сочинений рассчитано более чем на 70 томов. Его рукописи хранятся в Библиотеке РАН в Санкт-Петербурге.
Покоится учёный в Лазаревском некрополе Александро-Невской Лавры СПб.
С именем Эйлера связано первое использование обозначения f(x) для функции, буквы i для выражения мнимой единицы, греческой буквы Σ для записи суммы, греческой буквы Δ для обозначения конечных разностей, строчных букв для обозначения сторон треугольника при представлении углов заглавными буквами. Он дал текущее определение константы e, основания натурального логарифма, ныне известного как число Эйлера. Благодаря ему стало общеупотребимым обозначение числа π.
Эйлер считается едва ли не самым плодовитым математиком. По различным оценкам ему принадлежит более 800 названий научных работ, статей, книг, при этом прижизненных публикаций около 500; издание и переиздание его опубликованных и неопубликованных работ растянулось на столетия и далеко до своего завершения; полное собрание сочинений рассчитано более чем на 70 томов. Его рукописи хранятся в Библиотеке РАН в Санкт-Петербурге.
Покоится учёный в Лазаревском некрополе Александро-Невской Лавры СПб.
👍1
Media is too big
VIEW IN TELEGRAM
📜Интересная статья от Григория Сапунова про интерпретируемость языковых моделей/нейросетей.
Содержит ссылки на другие интересные работы и идеи/подходы/примеры.
И Colab Notebook к статье.
Сохраню здесь чтобы не потерять.
Пока у меня не получилось механистически объяснить/интерпретировать, что делают отдельные головы внимания на различных слоях в сравнительно маленьких моделях BERT. Попробую теперь еще подходы из developmental interpretability - в отличии от mechanistic interpretability здесь фокус на том, как меняются структуры в модели по мере ее обучения.
P.S. А на анимации к посту просто 96 разноцветных нитей прикреплены снаружи к неподвижной раме, а внутри — к шару. Шар постоянно вращается в одном направлении, но нити никогда не запутываются. Они возвращаются к исходной конфигурации, когда шар поворачивается на 720 градусов.
#Interpretability #MechInterp #DevInterp #PureMath
Содержит ссылки на другие интересные работы и идеи/подходы/примеры.
И Colab Notebook к статье.
Сохраню здесь чтобы не потерять.
Пока у меня не получилось механистически объяснить/интерпретировать, что делают отдельные головы внимания на различных слоях в сравнительно маленьких моделях BERT. Попробую теперь еще подходы из developmental interpretability - в отличии от mechanistic interpretability здесь фокус на том, как меняются структуры в модели по мере ее обучения.
P.S. А на анимации к посту просто 96 разноцветных нитей прикреплены снаружи к неподвижной раме, а внутри — к шару. Шар постоянно вращается в одном направлении, но нити никогда не запутываются. Они возвращаются к исходной конфигурации, когда шар поворачивается на 720 градусов.
#Interpretability #MechInterp #DevInterp #PureMath
🔥2
Forwarded from Anastasia.ai – Tech Entrepreneur in🇨🇭
Как связан рынок ИИ с Трампом, пошлинами и торговой войной с Китаем - часть 1.
Если вы в последние дни хоть краем уха следили за экономикой и листали новости, вы точно слышали что-то про «Трампа, пошлины» и что рынок рухнул. Сегодня поговорим о том, как эта история связана с рынком ИИ и чего стоит ожидать.
📌 TL;DR:
2 апреля Трамп объявил о новом пакете пошлин — как части стратегии по изменению мировых торговых правил. После протестов со стороны BigTech пошлины на техпродукты, такие как смартфоны и чипы, временно отложили. Но Трамп подчеркнул, что это лишь пауза — исключений не будет.
Что это значит для ИИ:
— Серверы и AI-сервисы могут подорожать
— Нехватка серверов для обучения моделей никуда не денется
— Рынок станет ещё более волатильным, особенно акции техкомпаний
📥 📥 📥
Давайте копнем поглубже и начнем с базы: что такое пошлины и как они работают?
Пошлины — это допналоги, которые государство взимает с импортных товаров. Кто платит? Сначала импортёры ещё в порту платят денежку государству, а потом перекладывают расходы уже на потребителя - не особо всё-таки хочется уменьшать свои маржи.
В теории пошлины защищают локальных производителей: импорт становится дороже, и люди чаще покупают местные товары. Логично, звучит даже неплохо.
Но на практике всё часто наоборот: из-за снижения конкуренции растут и цены на местные товары. Пошлины подталкивают инфляцию, душат бизнес и могут усугубить экономический кризис — сокращая торговлю и увеличивая издержки.
Что произошло на рынке:
Фондовый рынок США упал на 9% всего за два дня после первых новостей о пошлинах и ответных мерах.
Apple, Microsoft, Amazon, Alphabet, Meta, Nvidia и Tesla — та самая «Великолепная семёрка» — потеряли более $1 трлн на Уолл-стрит всего за день.
Особенно больно это потенциально бьёт по Apple, учитывая её огромную зависимость от производства в Китае. Айфон так может подорожать в 2–3 раза.
Если пошлины такие вредные, зачем Трамп за них топит?
Вопрос по делу. Большинство экономистов уже трубят тревогу как перед Армагеддоном. Ларри Саммерс, бывший министр финансов, назвал пошлинную политику «худшей экономической ошибкой со времён Второй мировой». Тогда, увы, нахрена это всё?
Если вкратце, цель Трампа:
— вернуть рабочие места в промышленности,
— сократить зависимость от Китая, особенно в сфере чипов и полупроводников.
Пошлины — это попытка остановить рост Китая и его (цитата) «нечестные торговые трюки»: демпинг, кража технологий, принудительные трансферы. Китай за 20 лет стал главным экспортером мира, и США решили – хватит. Пошлины должны защитить американские заводы, сократить зависимость от Китая и вернуть контроль над мировой торговлей.
Отсрочка пошлин на тех продукты, как подчеркивает Трамп, всего лишь отсрочка. Трамп требует развивать промышленность, включая робототехнику и физический ИИ.
А вот тут США пока отстают по всем направлениям: энергия, ресурсы, экспертиза, строительство заводов, само производство.
Короче, план — to bring it home, но сказать, что это непросто — ничего не сказать.
Фабрики – это до хрена времени и до хрена денег. Завод Apple в Китае в 2010 стоил $1,5 млрд. Сейчас — в два-три раза дороже.
А автоматизация ещё и добавляет затрат.
А теперь вернёмся к ИИ…
Продолжение в следующем посте…▶️
#анализ #AIрынок
@ainastia
Если вы в последние дни хоть краем уха следили за экономикой и листали новости, вы точно слышали что-то про «Трампа, пошлины» и что рынок рухнул. Сегодня поговорим о том, как эта история связана с рынком ИИ и чего стоит ожидать.
2 апреля Трамп объявил о новом пакете пошлин — как части стратегии по изменению мировых торговых правил. После протестов со стороны BigTech пошлины на техпродукты, такие как смартфоны и чипы, временно отложили. Но Трамп подчеркнул, что это лишь пауза — исключений не будет.
Что это значит для ИИ:
— Серверы и AI-сервисы могут подорожать
— Нехватка серверов для обучения моделей никуда не денется
— Рынок станет ещё более волатильным, особенно акции техкомпаний
Давайте копнем поглубже и начнем с базы: что такое пошлины и как они работают?
Пошлины — это допналоги, которые государство взимает с импортных товаров. Кто платит? Сначала импортёры ещё в порту платят денежку государству, а потом перекладывают расходы уже на потребителя - не особо всё-таки хочется уменьшать свои маржи.
В теории пошлины защищают локальных производителей: импорт становится дороже, и люди чаще покупают местные товары. Логично, звучит даже неплохо.
Но на практике всё часто наоборот: из-за снижения конкуренции растут и цены на местные товары. Пошлины подталкивают инфляцию, душат бизнес и могут усугубить экономический кризис — сокращая торговлю и увеличивая издержки.
Что произошло на рынке:
Фондовый рынок США упал на 9% всего за два дня после первых новостей о пошлинах и ответных мерах.
Apple, Microsoft, Amazon, Alphabet, Meta, Nvidia и Tesla — та самая «Великолепная семёрка» — потеряли более $1 трлн на Уолл-стрит всего за день.
Особенно больно это потенциально бьёт по Apple, учитывая её огромную зависимость от производства в Китае. Айфон так может подорожать в 2–3 раза.
Если пошлины такие вредные, зачем Трамп за них топит?
Вопрос по делу. Большинство экономистов уже трубят тревогу как перед Армагеддоном. Ларри Саммерс, бывший министр финансов, назвал пошлинную политику «худшей экономической ошибкой со времён Второй мировой». Тогда, увы, нахрена это всё?
Если вкратце, цель Трампа:
— вернуть рабочие места в промышленности,
— сократить зависимость от Китая, особенно в сфере чипов и полупроводников.
Пошлины — это попытка остановить рост Китая и его (цитата) «нечестные торговые трюки»: демпинг, кража технологий, принудительные трансферы. Китай за 20 лет стал главным экспортером мира, и США решили – хватит. Пошлины должны защитить американские заводы, сократить зависимость от Китая и вернуть контроль над мировой торговлей.
Отсрочка пошлин на тех продукты, как подчеркивает Трамп, всего лишь отсрочка. Трамп требует развивать промышленность, включая робототехнику и физический ИИ.
А вот тут США пока отстают по всем направлениям: энергия, ресурсы, экспертиза, строительство заводов, само производство.
Короче, план — to bring it home, но сказать, что это непросто — ничего не сказать.
Фабрики – это до хрена времени и до хрена денег. Завод Apple в Китае в 2010 стоил $1,5 млрд. Сейчас — в два-три раза дороже.
А автоматизация ещё и добавляет затрат.
А теперь вернёмся к ИИ…
Продолжение в следующем посте…
#анализ #AIрынок
@ainastia
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
👍2
Forwarded from Anastasia.ai – Tech Entrepreneur in🇨🇭
Как связан рынок ИИ с Трампом, пошлинами и торговой войной с Китаем - часть 2.
▶️ [первую часть читайте тут]
Чем пошлины грозят AI индустрии:
Пока Microsoft, Amazon и Google тратят миллиарды на AI, Трамп подкладывает им свинку: Новые пошлины — 145% на Китай, 32% на Тайвань, 25% на Южную Корею.
А это как раз те страны, откуда везут чипы, серверы, и прочее железо для дата-центров. Видимо, достаточно людей жаловались, и Трамп поставил все доп пошлины на 90-дневную паузу - для всех, кроме Китая. 🥸
Тарифы Трампа, задуманные как "защита Америки", по факту могут стать шикарным подарком для Китая. Пока США пугают инвесторов, рушат рынки и отталкивают союзников, Китай осматривается вокруг. В ЕС уже звучит: "А давайте может позвоним Китаю".
Huawei активно предлагает своё телеком-оборудование на продажу, а в придачу — AI-модели, которые раздают бесплатно. Но не всё так радужно: вместе с китайскими девайсами может прийти и "бонус" — встроенная слежка и цензура. И например ЕС это прекрасно понимает.
Китай тоже не остался в долгу перед Америкой — пошлины на американские товары подняли до 125%. Бизнес в США затаился: инвесторы осторожничают, компании тормозят планы, а ходит страх рецессии. Экспорт США в Китай ($150 млрд) может почти исчезнуть, а китайский экспорт в США ($440 млрд) — упасть на 75% за 18 месяцев.
Для США это грозит рецессией уже летом, а для Китая — серьёзным ударом по экономике, где экспорт дал половину роста ВВП в 2024. В условиях кризиса недвижимости и долгов, Пекин не может себе позволить ещё один удар. Но затронет это не только их — мир может столкнуться с ростом цен, нестабильностью и новыми вызовами для технологий, AI и бизнеса.
⚡️ Прогнозы, если такие пошлины вступят в силу:
— AI-инфра → дороже
— Облако → дороже
— Цены AI-сервисов для клиентов → выше
— Развитие AI в США → замедлится
А я напомню: крупнейшие и мощнейшие дата-центры мира находятся именно в США — здесь сконцентрированы мощности Google, Amazon, Microsoft, Meta и Nvidia. Но даже Microsoft уже пересматривает планы по строительству новых дата-центров.
Пока новости меняются чуть ли не каждый день. Короче, полный хаос, а рынок такое не любит. Что будет через полгода — непонятно. Да и через шесть дней — тоже.
И напоследок — важный факт:
Поговорка «Нет ничего более постоянного, чем временное» отлично работает с пошлинами.
Пошлины, которые Трамп ввёл в свой первый срок, до сих пор в силе (Байден даже усилил некоторые). А пошлина в 25% на траки VW, введённая в 1964 году в разгар «куриной войны» (тут уже сами погуглите)), действует до сих пор — в 2025 году.
Так что, если решение принято — скорее всего, как поётся в немецкой песне:
„Gekommen, um zu bleiben“ — «Пришли, чтобы остаться».
#анализ #AIрынок
@ainastia
Чем пошлины грозят AI индустрии:
Пока Microsoft, Amazon и Google тратят миллиарды на AI, Трамп подкладывает им свинку: Новые пошлины — 145% на Китай, 32% на Тайвань, 25% на Южную Корею.
А это как раз те страны, откуда везут чипы, серверы, и прочее железо для дата-центров. Видимо, достаточно людей жаловались, и Трамп поставил все доп пошлины на 90-дневную паузу - для всех, кроме Китая. 🥸
Тарифы Трампа, задуманные как "защита Америки", по факту могут стать шикарным подарком для Китая. Пока США пугают инвесторов, рушат рынки и отталкивают союзников, Китай осматривается вокруг. В ЕС уже звучит: "А давайте может позвоним Китаю".
Huawei активно предлагает своё телеком-оборудование на продажу, а в придачу — AI-модели, которые раздают бесплатно. Но не всё так радужно: вместе с китайскими девайсами может прийти и "бонус" — встроенная слежка и цензура. И например ЕС это прекрасно понимает.
Китай тоже не остался в долгу перед Америкой — пошлины на американские товары подняли до 125%. Бизнес в США затаился: инвесторы осторожничают, компании тормозят планы, а ходит страх рецессии. Экспорт США в Китай ($150 млрд) может почти исчезнуть, а китайский экспорт в США ($440 млрд) — упасть на 75% за 18 месяцев.
Для США это грозит рецессией уже летом, а для Китая — серьёзным ударом по экономике, где экспорт дал половину роста ВВП в 2024. В условиях кризиса недвижимости и долгов, Пекин не может себе позволить ещё один удар. Но затронет это не только их — мир может столкнуться с ростом цен, нестабильностью и новыми вызовами для технологий, AI и бизнеса.
— AI-инфра → дороже
— Облако → дороже
— Цены AI-сервисов для клиентов → выше
— Развитие AI в США → замедлится
А я напомню: крупнейшие и мощнейшие дата-центры мира находятся именно в США — здесь сконцентрированы мощности Google, Amazon, Microsoft, Meta и Nvidia. Но даже Microsoft уже пересматривает планы по строительству новых дата-центров.
Пока новости меняются чуть ли не каждый день. Короче, полный хаос, а рынок такое не любит. Что будет через полгода — непонятно. Да и через шесть дней — тоже.
И напоследок — важный факт:
Поговорка «Нет ничего более постоянного, чем временное» отлично работает с пошлинами.
Пошлины, которые Трамп ввёл в свой первый срок, до сих пор в силе (Байден даже усилил некоторые). А пошлина в 25% на траки VW, введённая в 1964 году в разгар «куриной войны» (тут уже сами погуглите)), действует до сих пор — в 2025 году.
Так что, если решение принято — скорее всего, как поётся в немецкой песне:
„Gekommen, um zu bleiben“ — «Пришли, чтобы остаться».
#анализ #AIрынок
@ainastia
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
👍2
А как вы проводите пасхальные праздники?
Пользуясь тем, что у нас аж целых четыре выходных, решил не терять время зря и начал проходить курс по интерпретируемости трансформеров:
👉 https://arena-chapter1-transformer-interp.streamlit.app/
Если вы, как и я, ещё не слишком глубоко погружались в тему трансформеров и больших языковых моделей — очень советую. Курс стартует прям с самых основ, так что подойдёт даже тем, кто про трансформеры только слышал.
Формат удобный: всё разбито на колаб-ноутбуки с понятными объяснениями, примерами кода и задачками для закрепления. Проходится легко, но при этом реально помогает лучше понять, что там вообще происходит под капотом у этих моделей.
🚀 Если давно хотели «разобраться в трансформерах», но не знали с чего начать — это прям отличный вариант. Курс с нуля - даже не нужно знать про трансформеры, надо лишь немного уметьшкодить! 🔥
#Interpretability #Course #DevInterp #MechInterp
Пользуясь тем, что у нас аж целых четыре выходных, решил не терять время зря и начал проходить курс по интерпретируемости трансформеров:
👉 https://arena-chapter1-transformer-interp.streamlit.app/
Если вы, как и я, ещё не слишком глубоко погружались в тему трансформеров и больших языковых моделей — очень советую. Курс стартует прям с самых основ, так что подойдёт даже тем, кто про трансформеры только слышал.
Формат удобный: всё разбито на колаб-ноутбуки с понятными объяснениями, примерами кода и задачками для закрепления. Проходится легко, но при этом реально помогает лучше понять, что там вообще происходит под капотом у этих моделей.
🚀 Если давно хотели «разобраться в трансформерах», но не знали с чего начать — это прям отличный вариант. Курс с нуля - даже не нужно знать про трансформеры, надо лишь немного уметь
#Interpretability #Course #DevInterp #MechInterp
👍3
Давно хотел написать про логику, теорему Гёделя, невычислимость... и даже уже начал тут и тут.
Но сегодня решил рассказать о одном любопытном логическом парадоксе, который когда-то сильно наделал шума среди логиков и философов. 🤔
Представьте: человек приговорён к казни. Судья выносит приговор: «Ваша казнь состоится в один из дней на следующей неделе, но до этого дня вы не будете знать, что вас казнят именно в этот день». На первый взгляд, всё ясно: вас казнят в какой-то из дней от понедельника до воскресенья, но когда именно — неизвестно. ⚖️
Но его адвокат вдруг начинает радоваться, потирая руки, и говорит: «Не переживайте, вас не могут казнить! Ведь судья сказал, что казнь будет, но вы не будете знать о ней заранее. Это значит, что казни не может быть в воскресенье, потому что тогда вы бы точно знали об этом в субботу. А раз воскресенье исключено, значит, и суббота тоже отпадает!
Но сегодня решил рассказать о одном любопытном логическом парадоксе, который когда-то сильно наделал шума среди логиков и философов. 🤔
Представьте: человек приговорён к казни. Судья выносит приговор: «Ваша казнь состоится в один из дней на следующей неделе, но до этого дня вы не будете знать, что вас казнят именно в этот день». На первый взгляд, всё ясно: вас казнят в какой-то из дней от понедельника до воскресенья, но когда именно — неизвестно. ⚖️
Но его адвокат вдруг начинает радоваться, потирая руки, и говорит: «Не переживайте, вас не могут казнить! Ведь судья сказал, что казнь будет, но вы не будете знать о ней заранее. Это значит, что казни не может быть в воскресенье, потому что тогда вы бы точно знали об этом в субботу. А раз воскресенье исключено, значит, и суббота тоже отпадает!
Продолжение. Начало тут.
Ведь если бы казнь была в субботу, вы бы уже знали об этом в пятницу! Дальше! Пятница? Нет, если бы казнь была в пятницу, вы бы уже знали об этом в четверг!»
Адвокат продолжает, выстраивая логику, день за днём, исключая каждый возможный день недели. «Понедельник? Тоже нет. Если бы казнь была в понедельник, то вы бы узнали об этом в воскресенье!» 😅
Но вот вопрос: что же не так в этой логике? 🤨
Парадокс не в том, что адвокат ошибается, а в том, что само условие казни и способ её определения создают замкнутую, противоречивую ситуацию. И в какой-то момент вы вдруг понимаете, что казнь всё-таки может состояться — и произойдёт в любой день, когда заключённый не будет об этом знать заранее. 😱
Продолжение и связь с пределами вычислимости, теоремой Гёделя следует…
#Logic #Decidability #Computability #Philosophy
@easy_about_complex
Ведь если бы казнь была в субботу, вы бы уже знали об этом в пятницу! Дальше! Пятница? Нет, если бы казнь была в пятницу, вы бы уже знали об этом в четверг!»
Адвокат продолжает, выстраивая логику, день за днём, исключая каждый возможный день недели. «Понедельник? Тоже нет. Если бы казнь была в понедельник, то вы бы узнали об этом в воскресенье!» 😅
Но вот вопрос: что же не так в этой логике? 🤨
Парадокс не в том, что адвокат ошибается, а в том, что само условие казни и способ её определения создают замкнутую, противоречивую ситуацию. И в какой-то момент вы вдруг понимаете, что казнь всё-таки может состояться — и произойдёт в любой день, когда заключённый не будет об этом знать заранее. 😱
Продолжение и связь с пределами вычислимости, теоремой Гёделя следует…
#Logic #Decidability #Computability #Philosophy
@easy_about_complex
Telegram
Истории (не)успеха (ИИ)ЕИ
Давно хотел написать про логику, теорему Гёделя, невычислимость... и даже уже начал тут и тут.
Но сегодня решил рассказать о одном любопытном логическом парадоксе, который когда-то сильно наделал шума среди логиков и философов. 🤔
Представьте: человек приговорён…
Но сегодня решил рассказать о одном любопытном логическом парадоксе, который когда-то сильно наделал шума среди логиков и философов. 🤔
Представьте: человек приговорён…
Ну и я был бы не я, если бы не сказал пару слов о прощальном бое Сергея Ковалева, который прошёл позавчера в Челябинске.
По бою — говорить особо нечего. Победа есть, но это уже не тот «Крушитель», каким он был в лучшие годы. Всё по делу — прощальный выход, для своих, на родной земле.
Но нельзя забывать, Ковалёв — это человек, который в своё время реально перевернул профи-бокс в США. Парень из Копейска стал неоспоримым чемпионом мира в полутяжах, прошёл всех сильнейших и на какое-то время стал лицом дивизиона.
И не только кулаками — языком тоже. Сергей первым из русских боксёров по-настоящему врубился в трэш-ток. Он не просто дрался, он троллил, выводил из равновесия, морально разносил. Чего только один Адонис Стивенсон стоил — сколько он от Ковалева натерпелся ещё до того, как они вообще встретились, смотрите сами - https://www.youtube.com/watch?v=ATStn4kQQNM
По бою — говорить особо нечего. Победа есть, но это уже не тот «Крушитель», каким он был в лучшие годы. Всё по делу — прощальный выход, для своих, на родной земле.
Но нельзя забывать, Ковалёв — это человек, который в своё время реально перевернул профи-бокс в США. Парень из Копейска стал неоспоримым чемпионом мира в полутяжах, прошёл всех сильнейших и на какое-то время стал лицом дивизиона.
И не только кулаками — языком тоже. Сергей первым из русских боксёров по-настоящему врубился в трэш-ток. Он не просто дрался, он троллил, выводил из равновесия, морально разносил. Чего только один Адонис Стивенсон стоил — сколько он от Ковалева натерпелся ещё до того, как они вообще встретились, смотрите сами - https://www.youtube.com/watch?v=ATStn4kQQNM
YouTube
Sergey Kovalev Post-Fight with Max Kellerman and Adonis Stevenson (HBO Boxing)
Subscribe to HBO Boxing YouTube channel: https://www.youtube.com/hboboxing
Following his TKO victory over Jean Pascal, Sergey Kovalev was questioned by Max Kellerman about his next fight and approached in the ring by fellow light heavyweight title-holder…
Following his TKO victory over Jean Pascal, Sergey Kovalev was questioned by Max Kellerman about his next fight and approached in the ring by fellow light heavyweight title-holder…
🔬 Нобелевский лауреат Джефри Хинтон (тот самый крёстный отец ИИ) видимо, посмотрел наш прошлый лайв-стрим и решил не отставать — читает лекцию на ту же тему, что мы разбирали на прошлом стриме: "Биологические и цифровые нейросети".
🎓 Лекцию можно будет посмотреть онлайн 30.05: 👉 https://www.rigb.org/whats-on/discourse-digital-intelligence-vs-biological-intelligence
Не благодарите 😄
#AI #Hinton #Brain #DeepLearning #LiveStream
🎓 Лекцию можно будет посмотреть онлайн 30.05: 👉 https://www.rigb.org/whats-on/discourse-digital-intelligence-vs-biological-intelligence
Не благодарите 😄
#AI #Hinton #Brain #DeepLearning #LiveStream
Royal Institution
SOLD OUT IN PERSON Discourse: Digital intelligence vs biological intelligence | Royal Institution
2024 Nobel winner Geoffrey Hinton explains what AI has learned, and is still learning, from biological intelligence.
🔥1
1/2
И снова про (не)вычислимость.
Ранее обсуждали тут и тут: может ли мозг быть сверхтьюринговым вычислителем?
А теперь — обратная сторона: а что с самой физикой? Она — вычислима вообще?
Интуитивно кажется, что если всё подчиняется уравнениям, то всё можно и посчитать. Но...
Существует куча математических задач, которые в принципе неразрешимы — т.е. никакой алгоритм не сможет ответить на них корректно для всех случаев. Таких задач намного больше, чем разрешимых. Но вот интересный момент: в физике я пока не нашёл убедительных примеров, где бы эта невычислимость проявлялась естественно.
🔹 Есть исключения, но они всегда искусственные:
– Волновые уравнения с экзотическими граничными условиями, которые никто никогда не создаст.
– Конструкции из идеальных зеркал, где луч света должен вести себя как Тьюринговая машина — но механически это нереализуемо.
– Квантовые решётки со специально подобранными Гамильтонианами, которые кодируют проблему остановки.
Продолжение тут 👇
И снова про (не)вычислимость.
Ранее обсуждали тут и тут: может ли мозг быть сверхтьюринговым вычислителем?
А теперь — обратная сторона: а что с самой физикой? Она — вычислима вообще?
Интуитивно кажется, что если всё подчиняется уравнениям, то всё можно и посчитать. Но...
Существует куча математических задач, которые в принципе неразрешимы — т.е. никакой алгоритм не сможет ответить на них корректно для всех случаев. Таких задач намного больше, чем разрешимых. Но вот интересный момент: в физике я пока не нашёл убедительных примеров, где бы эта невычислимость проявлялась естественно.
🔹 Есть исключения, но они всегда искусственные:
– Волновые уравнения с экзотическими граничными условиями, которые никто никогда не создаст.
– Конструкции из идеальных зеркал, где луч света должен вести себя как Тьюринговая машина — но механически это нереализуемо.
– Квантовые решётки со специально подобранными Гамильтонианами, которые кодируют проблему остановки.
Продолжение тут 👇
👍2❤1
2/2. Продолжение. Начало тут
🧠 А что насчёт мозга и нейросетей?
Тут как раз интересно. В 90-х Сигельманн с коллегами показали, что:
Любая Тьюринговая машина — это частный случай рекуррентной нейросети.
Сеть с рациональными весами (всего 886 нейронов!) может вычислить все частично-рекурсивные функции 👉 ссылки на публикации тут
А если веса вещественные — вычислительная мощность может выйти за пределы Тьюринга (и при этом в модели не требуется бесконечная точность, достаточно линейной. Hо тут есть нюанс! Mожет быть обсудим на одном из следующих стримов).
📐 Ключевая идея:
📊 Исследования даже показали, что между рациональными и вещественными весами в нейросетях лежит целая иерархия вычислительных классов. Суть в информационной сложности чисел, которая измеряется через ресурсно-ограниченную колмогоровскую сложность.
📌 Вывод: Мы не знаем, вычислима ли физика. Возможно, вся Вселенная — гигантский алгоритм. А может, где-то в её глубинах живёт настоящая невычислимость, просто мы её ещё не нашли.
Так что, по состоянию на сейчас:
Физический мир может быть вполне вычислим. А может и нет. ¯\_(ツ)_/¯
Если найдут настоящий физический феномен, где вычисление результата принципиально невозможно — это будет просто бомба. А пока… можно только моделировать невычислимость внутри математики, но не в лаборатории.
#Decidability #Computability #Turing #Physics #Brain #Philosophy
🧠 А что насчёт мозга и нейросетей?
Тут как раз интересно. В 90-х Сигельманн с коллегами показали, что:
Любая Тьюринговая машина — это частный случай рекуррентной нейросети.
Сеть с рациональными весами (всего 886 нейронов!) может вычислить все частично-рекурсивные функции 👉 ссылки на публикации тут
А если веса вещественные — вычислительная мощность может выйти за пределы Тьюринга (и при этом в модели не требуется бесконечная точность, достаточно линейной. Hо тут есть нюанс! Mожет быть обсудим на одном из следующих стримов).
📐 Ключевая идея:
непрерывность (вещественные числа и аналоговые процессы) может не просто приближать реальность, а давать качественно новые вычислительные возможности. Хотя на практике мы не можем задать числа с бесконечной точностью, сама природа, как кажется, оперирует реальными значениями (π, G, массы планет и т.д.) независимо от нашей способности их измерить.
📊 Исследования даже показали, что между рациональными и вещественными весами в нейросетях лежит целая иерархия вычислительных классов. Суть в информационной сложности чисел, которая измеряется через ресурсно-ограниченную колмогоровскую сложность.
📌 Вывод: Мы не знаем, вычислима ли физика. Возможно, вся Вселенная — гигантский алгоритм. А может, где-то в её глубинах живёт настоящая невычислимость, просто мы её ещё не нашли.
Так что, по состоянию на сейчас:
Физический мир может быть вполне вычислим. А может и нет. ¯\_(ツ)_/¯
Если найдут настоящий физический феномен, где вычисление результата принципиально невозможно — это будет просто бомба. А пока… можно только моделировать невычислимость внутри математики, но не в лаборатории.
#Decidability #Computability #Turing #Physics #Brain #Philosophy
Telegram
Истории (не)успеха (ИИ)ЕИ
1/2
И снова про (не)вычислимость.
Ранее обсуждали тут и тут: может ли мозг быть сверхтьюринговым вычислителем?
А теперь — обратная сторона: а что с самой физикой? Она — вычислима вообще?
Интуитивно кажется, что если всё подчиняется уравнениям, то всё…
И снова про (не)вычислимость.
Ранее обсуждали тут и тут: может ли мозг быть сверхтьюринговым вычислителем?
А теперь — обратная сторона: а что с самой физикой? Она — вычислима вообще?
Интуитивно кажется, что если всё подчиняется уравнениям, то всё…
👍2
1/2
Как доказывается невычислимость в физике?
Важно понимать: мы никогда не доказываем, что сама природа невычислима. Мы доказываем, что математическая модель, которая её описывает, может вести себя как Тьюринг-машина. Всё.
📌 Как это делается?
– Берётся дифференциальное уравнение (оно может быть вполне классическим — типа волнового или гамильтонова).
– В правую часть уравнения аккуратно вписывается "логика", как в программе.
– Подбираются крайне искусственные граничные или начальные условия — часто совсем не физические.
– В результате получается: система ведёт себя в точности как Тьюринг-машина.
– Следовательно, задаваясь вопросами о будущем её состояния, ты фактически решаешь проблему остановки — а она неразрешима.
То есть, строго говоря, мы не обнаруживаем невычислимость в природе — мы встраиваем её в модель.
📌 Пример: классическая работа Кристофера Мура (1990), "Unpredictability and Undecidability in Dynamical Systems", опубликована в Physical Review Letters.
Продолжение тут 👇
Как доказывается невычислимость в физике?
Важно понимать: мы никогда не доказываем, что сама природа невычислима. Мы доказываем, что математическая модель, которая её описывает, может вести себя как Тьюринг-машина. Всё.
📌 Как это делается?
– Берётся дифференциальное уравнение (оно может быть вполне классическим — типа волнового или гамильтонова).
– В правую часть уравнения аккуратно вписывается "логика", как в программе.
– Подбираются крайне искусственные граничные или начальные условия — часто совсем не физические.
– В результате получается: система ведёт себя в точности как Тьюринг-машина.
– Следовательно, задаваясь вопросами о будущем её состояния, ты фактически решаешь проблему остановки — а она неразрешима.
То есть, строго говоря, мы не обнаруживаем невычислимость в природе — мы встраиваем её в модель.
📌 Пример: классическая работа Кристофера Мура (1990), "Unpredictability and Undecidability in Dynamical Systems", опубликована в Physical Review Letters.
Продолжение тут 👇
продолжение. начало тут.
Что показал Кристофер Мур:
— Система с тремя степенями свободы (например, частица в 3D-потенциале) может эмулировать Тьюринг-машину.
— Даже если начальные условия известны точно, всё равно невозможно ответить на многие вопросы о будущем поведения системы.
— Это не просто хаос (чувствительность к начальным данным), а глубинная невычислимость — фундаментальное ограничение, заложенное в математике.
🤯 Другими словами: можно построить закон движения, в котором "спрятана" неразрешимая задача, т.е. проблема остановки.
Формально — это уже физика, но физика, искусственно усложнённая до машины Тьюринга.
🌀 Теперь главный философский вопрос:
С практической точки зрения — это почти то же самое, что невозможность вообще. Модель может быть "вычислимой", но если тебе надо 10⁸⁰ шагов, чтобы узнать будет ли частица тут или там — на что тебе это знание?
То есть граница вычислимости — это не только "можно/нельзя", но и "успеть/не успеть".
📎 Вывод:
Физическая невычислимость пока строго доказана только в моделях, соответствие которых с физической реальностью очень спорно. Но даже если всё в природе формально вычислимо, это не значит, что мы когда-либо узнаем её будущее.
Возможно, законы Вселенной написаны на языке, который мы теоретически понимаем — но читать на нём практически невозможно.
#Decidability #Computability #Turing #Physics #Brain #Philosophy
Что показал Кристофер Мур:
— Система с тремя степенями свободы (например, частица в 3D-потенциале) может эмулировать Тьюринг-машину.
— Даже если начальные условия известны точно, всё равно невозможно ответить на многие вопросы о будущем поведения системы.
— Это не просто хаос (чувствительность к начальным данным), а глубинная невычислимость — фундаментальное ограничение, заложенное в математике.
🤯 Другими словами: можно построить закон движения, в котором "спрятана" неразрешимая задача, т.е. проблема остановки.
Формально — это уже физика, но физика, искусственно усложнённая до машины Тьюринга.
🌀 Теперь главный философский вопрос:
А если физика и вычислима, но вычисления займут больше времени, чем возраст Вселенной?
С практической точки зрения — это почти то же самое, что невозможность вообще. Модель может быть "вычислимой", но если тебе надо 10⁸⁰ шагов, чтобы узнать будет ли частица тут или там — на что тебе это знание?
То есть граница вычислимости — это не только "можно/нельзя", но и "успеть/не успеть".
📎 Вывод:
Физическая невычислимость пока строго доказана только в моделях, соответствие которых с физической реальностью очень спорно. Но даже если всё в природе формально вычислимо, это не значит, что мы когда-либо узнаем её будущее.
Возможно, законы Вселенной написаны на языке, который мы теоретически понимаем — но читать на нём практически невозможно.
#Decidability #Computability #Turing #Physics #Brain #Philosophy
Telegram
Истории (не)успеха (ИИ)ЕИ
1/2
Как доказывается невычислимость в физике?
Важно понимать: мы никогда не доказываем, что сама природа невычислима. Мы доказываем, что математическая модель, которая её описывает, может вести себя как Тьюринг-машина. Всё.
📌 Как это делается?
– Берётся…
Как доказывается невычислимость в физике?
Важно понимать: мы никогда не доказываем, что сама природа невычислима. Мы доказываем, что математическая модель, которая её описывает, может вести себя как Тьюринг-машина. Всё.
📌 Как это делается?
– Берётся…
This media is not supported in your browser
VIEW IN TELEGRAM
Используете ли вы математику в повседневной жизни?
Ну, кто-то считает сдачу в магазине, а Роджер Пенроуз — определяет гомотопический класс своей прогулки.
Да-да, сэр Роджер не просто гуляет, а делает это топологически разнообразно.
Если на пути дерево — он каждый раз обходит его с другой стороны, чтобы маршрут был математически уникальным.
Вот такой вот спонтанный GPS для физиков-теоретиков: "Поверните направо, чтобы не повториться в топологическом пространстве".
К сожалению, после десятого дерева даже гению сложно вспомнить, с какой стороны он обходил эти деревья, ибо 2¹⁰ = 1024 путей...
#Complexity
Ну, кто-то считает сдачу в магазине, а Роджер Пенроуз — определяет гомотопический класс своей прогулки.
Да-да, сэр Роджер не просто гуляет, а делает это топологически разнообразно.
Если на пути дерево — он каждый раз обходит его с другой стороны, чтобы маршрут был математически уникальным.
Вот такой вот спонтанный GPS для физиков-теоретиков: "Поверните направо, чтобы не повториться в топологическом пространстве".
К сожалению, после десятого дерева даже гению сложно вспомнить, с какой стороны он обходил эти деревья, ибо 2¹⁰ = 1024 путей...
#Complexity
😁5