Малоизвестное интересное
66.9K subscribers
121 photos
1 video
11 files
1.83K links
Авторский взгляд через призму новейших исследований на наше понимание реальности, человеческой сущности и того, как ИИ меняет их.




Рекламы, ВП и т.п. в канале нет.
Пишите на @karelovs
Download Telegram
Представления о мире скоро кардинально изменятся.
Шквал прорывов в «термодинамике вычислений» несет новое видение законов возникновения и эволюции жизни в мире, который все же оказывается компьютером.

Ускорение прогресса науки и технологий огромно. Предпринятые в начале ХХ в. попытки представить мир через 100 лет, сегодня трогательны и смешны.
Сегодня же, пытаясь предсказать мир всего на 10 лет вперед, мы не менее смешны в своей наивной простоте экстраполяции видимых нами трендов и темпов.

Причина даже не в жутком ускорении темпов развития отдельных наук (в 5, 10, 100 раз). Причина в том, что прогнозы не учитывают характер ускорения междисциплинарных областей, где рост скорости развития области определяется умножением скоростей входящих в нее наук (в 5х5х5х5, 10х10х10х10 и т.п.)

Одной из таких самых фантастических областей стала «термодинамика вычислений», в которую входят элементы статистической физики, информатики, клеточной биологии и, возможно, даже нейробиологии.

«Термодинамика вычислений», в свое основе, отталкивается от работ моего великого коллеги по IBM Рольфа Ландауэра, еще в 1961 предположившего физическую суть информации, требующую потерь тепловой энергии при стирании всего одного бита (FYI мало кто знает, что Ландауэр также предсказал тупик в построении квантовых компьютеров, к которому нам еще только предстоит прийти).
Потом последовало открытие уравнения Ярзинского, описывающего преобразование информации в энергию. А затем и его экспериментальная проверка, показавшая, что при комнатной температуре, в полном соответствии с теорией, один бит превращается в 3 х 10 -21 джоулей …

И вот снова теоретико-экспериментальный прорыв, умножающий скорости междисциплинарной «термодинамики вычислений».
Только что опубликованная работа Вольперта и Грохова доказывает, что помимо интенсивности стирания битов (зависящей от точности/разрядности вычислений), термодинамическая эффективность (изменение энтропии системы из-за потерь тепловой энергии) зависит также от объема памяти и времени вычислений.

А теперь держитесь за стул, а кто стоит, лучше сядьте.
Это открытие, помимо очевидных кардинальных изменений для компьютерных наук и практик – изменение парадигмы охлаждения компов и, в целом, их архитектуры (от exascale до роёв крошечных роботов) – может поменять все наши представления о жизни и о мире!
Желающие могут дочитать мой новый пост здесь
https://goo.gl/jR3w68

#ТермодинамикаВычислений #Физика #Биология #ВозникновениеЖизни
«Но что страннее, что непонятнее всего, это то как авторы могут брать подобные сюжеты. Признаюсь, это уже совсем непостижимо, это точно… нет, нет совсем не понимаю».
Н.В.Гоголь
Такой эпиграф к повести Стругацких “Понедельник начинается в субботу” вполне объясним, т.к. сюжет повести невообразимо-феерически фантастичен.
Но вот теперь этот эпиграф вполне применим к новой научной гипотезе математического физика с мировым именем Дэвида Волперта. Он взглянул на SARS-CoV-2, как бы в перекрестье двух известных научных концепций: принципа Ландауэра и расширенного фенотипа Докинза. И результат этого взгляда оказался не менее феерически фантастичным, чем у Стругацких.

Продолжить чтение (еще на 4 мин.)

- на Medium https://bit.ly/35FxqLS
- на Яндекс Дзен https://clck.ru/NMPyf
#ТермодинамикаВычислений #Коронавирус #Физика #Биология #Эволюция
​​Новая физика несет новое понимание вычислительных возможностей жизни и нежити
Два года назад, в посте о новом открытии проф. Волперта я обещал, что «Представления о мире скоро кардинально изменятся. Шквал прорывов в «термодинамике вычислений» несет новое видение законов возникновения и эволюции жизни в мире, который все же оказывается компьютером». А всего пару месяцев назад, резюмируя новую и странно-страшную гипотезу, предложенную Волпертом в развитие его работ по «термодинамике вычислений», я назвал пост «Нежить делает из нас живой суперкомпьютер».

Оба эти поста посвящены одной фантастически интересной теме – созданию «Новой физики», потенциально способной позволить человечеству:
✔️ превзойти термодинамические ограничения компьютеров (и тогда да здравствует закон Мура – ничто уже не остановит создание все более мощных компьютеров);
✔️ кардинально пересмотреть основы жизни, эволюции, да и вообще мироздания (и тогда прощай современные фундаментальные отношения между физическими правилами реальности и обработкой информации, ибо весь мир – это всего лишь очень большой компьютер).


Фишка в том, что устройства, называемые нами компьютеры – не только устройства для вычислений. Это еще и физические системы, состоящие из физических элементов. Из последнего следует, что работа компьютеров должна выполняться не только в соответствии с вычислительными законами, но и с законами физики.
А тут грандиозная засада – а какой конкретно физики (равновесных или неравновесных состояний вещества)?

Дело в том, что компьютеры (как и живые системы) находятся в неравновесном состоянии. Кто не верит, может просто разрядить в ноль свой ноутбук. Тогда ноут достигнет равновесия и просто перестанет работать. С людьми, увы, аналогично.

Революция в статистической физике (связанная с именами Ландауэра и Беннетта – см. мои упомянутые посты) предоставила нам понимание физики неравновесия. Ну а следом стал вопрос о необходимости пересмотра физики вычислений на основе достижений в области неравновесной физики.

Год назад группа Волперта опубликовала одно из своих первых успешных приложений «Новой физики», описав на основе неравновесных методов скрытую сложность, казалось бы, простейшего процесса физического превращения бита из 1 в 0. Это был прорыв. Но от понимания физики работы одного бита информации до понимания работы компьютера, как до Альфа-Центавра.

Новый прорыв произошел только что. Это статья Волперта и Колчинского «Термодинамика вычислений со схемами». В статье описан процесс масштабирования применения неравновесной физики от битов до схем.

Удастся ли на практике применить это открытие для снижения энергозатрат компьютеров пока не известно. Сам Волперт в этом сомневается (архитектура у наших компьютеров, как говорится «не той системы»).

Ну и черт с ними, с этими кремниевыми гаджетами. Зато понимание неравновесной физики на вычислениях большого масштаба могут открыть тайну тайн – невообразимую для современной техники энергоэффективность вычислений мозга и клеток. Ведь их вычислительная мощность никак не вписывается в привычные законы физики. Значит будем менять законы, как предложил Волперт.
#ТермодинамикаВычислений #Физика #Эволюция
«Закон существования Бога» для квантовых компьютеров.
Только что опубликована новая прорывная работа проф. Дэвида Волперта «Work, Entropy Production, and Thermodynamics of Information under Protocol Constraints» (1).
Год назад Волперт доказал 2-й закон термодинамики взаимодействующих систем.
Из него следовало, что классический 2-й закон термодинамики, для многих являющийся чем-то типа «закона существования Бога», оказался частным случаем более сложного закона природы - подробней см. (2).
Новая работа Волперта и его соавтора Кольчинского еще более усиливает 2-й закон термодинамики, доказывая, что этот «закон существования Бога» распространяется и на квантовые компьютеры.

Авторы работы обнаружили фундаментальную взаимосвязь между термодинамической необратимостью увеличения энтропии и логической необратимостью вычислений, при которых теряется исходное состояние.

Дело в том, что любые вычислительные системы в процессе вычислений теряют информацию о своем прошлом. Если человек вводит в калькулятор «2 + 2», а затем нажимает «ввод», компьютер выводит ответ - 4. Но при этом машина теряет информацию о вводе, поскольку не только 2 + 2, но и 3 + 1. (и другие пары чисел) могут дать такой же результат. На основании одного только ответа машина не может сообщить, какая пара чисел была введена.
В 1961 году физик IBM Рольф Ландауэр обнаружил, что при стирании информации, например, во время таких вычислений, энтропия калькулятора уменьшается (из-за потери информации), что означает - энтропия окружающей среды должна увеличиваться.

Вольперт и Колчинский продемонстрировали, что два компьютера могут выполнять одни и те же вычисления, но различаться производством энтропии из-за их ожиданий в отношении входных данных. Исследователи называют это «ценой несоответствия» или ценой ошибки.

В своих прошлых работах Вольперт и Колчинский доказали, что «цена несоответствия» является общим явлением, которое можно исследовать в различных системах, не только в теории информации, но также в физике и биологии.

В своей последней работу исследователи показывают, что это фундаментальное соотношение распространяется даже в более широком смысле, чем они думали раньше, и в том числе, на термодинамику квантовых компьютеров.

Из новой работы следует, что между физикой и теорией информации существует глубокая взаимосвязь, для описания которой еще только предстоит открыть «новую физику».

Три года назад, в посте об открытии проф. Волперта, озаглавленном «Представления о мире скоро кардинально изменятся», я написал:
«Шквал прорывов в «термодинамике вычислений» несет новое видение законов возникновения и эволюции жизни в мире, который все же оказывается компьютером» (3).
Спустя 3 года это предположение еще более укрепляется.

Не менее интригующим следствием новой работы является то, что единственный способ добиться минимальных потерь энергии Ландауэра - разработка компьютера с учетом конкретной задачи, которую он должен решать.
Если это так, то век универсальных компьютеров подходит к концу.

Первые отзывы читателей показали, что тема термодинамики вычислений сложна для понимания. И это правда.
Желающим все же разобраться рекомендую часовую лекцию на эту тему, прочитанную Волпертом пару недель назад (4)

Ссылки:
1 2 3 4
#ТермодинамикаВычислений #Физика
Новый фундаментальный закон мироздания.
Что следует из эквивалентности массы-энергии-информации.

Инфоцунами, поднятое новой работой Мелвина Вопсона «Второй закон инфодинамики и его следствия для гипотезы моделируемой Вселенной» [1] теперь докатилось до Euronews [2] и Reuters[3].
Это ожидаемый взрыв интереса.
• Ибо эра фундаментальных открытий в физике (Томсон, Эйнштейн, Резерфорд, Шрёдингер …) закончилась почти полвека назад – еще в 1980м, после чего импульс фундаментальных прорывов как будто иссяк [4].
• А это - реальная заявка на новый прорыв уровня Эйнштейна.

В её основе лежит предложенный Мелвином Вопсоном принцип эквивалентности массы-энергии-информации (M/E/I).
Его суть проста, как все гениальное.
Принцип эквивалентности массы и энергии (E=mc^2), сформулированный Эйнштейном в 1905 году в рамках специальной теории относительности (был экспериментально подтвержден лишь спустя 20 лет).
• Сформулированный в 1961 году Рольфом Ландауэром и менее известный неспециалистам принцип Ландауэра, устанавливающий связь между потребляемой энергией и количеством информации при вычислениях (был экспериментально подтвержден лишь спустя 30 лет) [5].
• Объединив эквивалентность массы и энергии Эйнштейна и принцип Ландауэра, увязывающий информацию и энергию, Вопсон выдвинул революционную идею: масса, энергия и информация фундаментально эквивалентны.
Особенно важно то, что принцип M/E/I не только органично согласуется с существующими законами физики, но и предлагает новое объяснение таким явлениям, как темная материя, потенциально переосмысливая ее как информацию.

Развитием принципа M/E/I стал сформулированный Вопсоном второй закон инфодинамики - аналог традиционного второго закона термодинамики, утверждающий, что системы и процессы стремятся к наименьшей информационной энтропии в состоянии равновесия. Это понятие контрастирует со вторым законом термодинамики, который утверждает, что энтропия или беспорядок (хаос) в изолированной системе имеет тенденцию увеличиваться с течением времени.
Т.о. получается, что степень термодинамического хаоса в изолированной системе будет лишь расти, а степень информационного хаоса, наоборот, - будет лишь снижаться.
Иными словами, все системы, включая биологическую жизнь, развиваются таким образом, чтобы их информационная энтропия сжималась и сводилась к наиболее оптимальному возможному значению в состоянии равновесия.

Десятки научно-популярных публикаций про второй закон инфодинамики фокусируют внимание читателей на два ее, действительно, сенсационных следствия.
1) Второй закон инфодинамики хорошо согласуется с гипотезой о том, что наша Вселенная представляет собой колоссального размера компьютер, и все мы живём, по сути, внутри компьютерной симуляции.
2) Лежащий в основе второго закона инфодинамики принцип M/E/I:
- во-первых, предлагает новое объяснение таким явлениям, как темная материя, потенциально переосмысливая ее как информацию;
- во-вторых, дает новое объяснение парадокса Ферми: накопление цивилизацией колоссального объема информации ведет к тому, что под ее весом (каждый бит эквивалентен хоть и очень малой, но массе) цивилизация накрывается медным тазом из-за исчерпания энергии для оперирования информацией (следствие формулы Эйнштейна).

Однако мне, самым сенсационным видится иное.
То, что Вопсон разработал метод экспериментальной проверки своей теории [6].
И это значит, что для ее проверки не потребуется, как раньше, 20-30 лет. И мы довольно скоро узнаем:
• живем ли мы в симуляции;
• что скрывает в себе темная материя;
• накроется ли наш мир медным тазом под спудом накопленной информации через рассчитанные Вопсоном 300 лет.
1 https://pubs.aip.org/aip/adv/article/13/10/105308/2915332/The-second-law-of-infodynamics-and-its
2 https://www.youtube.com/watch?v=d6bLqajyxb8
3 https://www.youtube.com/watch?v=K03arHw-gEM
4 https://youtu.be/Pu8jkCqKHpY?t=982
5 https://t.iss.one/theworldisnoteasy/360
6 https://phys.org/news/2022-03-state-universe.html
#Физика #ТермодинамикаВычислений
Открыт способ установить нижнюю границу энергозатрат произвольных вычислительных процессов.
Это новая глава для новой физики, без которой не появится СуперИИ.

• Рост интеллектуальных способностей генеративного ИИ на основе больших языковых моделей определяется их масштабированием.
• А рост масштаба моделей требует роста вычислительной мощности оборудования, на котором модели работают.
• Однако, с ростом вычислительной мощности существует фундаментальная термодинамическая засада – принцип Ландауэра (предельно упрощая, этот принцип утверждает, что для выполнения вычислений необходимо расходовать энергию; и чем больше произвести вычислений, тем больше будет произведено тепла).
• Если преодолеть это термодинамическое ограничение компьютеров, станет возможным создание все более мощных вычислительных систем для все более мощных моделей генеративного ИИ.
• Более того. Преодоление этого термодинамического ограничения может открыть путь к построению оборудования, столь же энергоэффективного, как биологические вычислительные системы (напр. мозг), чья энергоэффективность в 100 000 выше компьютеров.


Но чтобы преодолеть термодинамическое ограничение компьютеров, нужна «Новая физика», пересматривающая физику вычислений на кроссдисциплинарном стыке неравновесной физики и теории вычислений.
Этим и занимается уже 10 лет проф. Дэвид Волперт.
✔️ В 2018 группа Волперта опубликовала одно из первых успешных приложений «Новой физики», описав на основе неравновесных методов скрытую сложность, казалось бы, простейшего процесса физического превращения бита из 1 в 0 (см. [1]). Это был прорыв. Но от понимания физики работы одного бита информации до понимания работы компьютера, как до Альфа-Центавра.
✔️ Новый прорыв произошел в 2020. Волперт и Колчинский опубликовали работу «Термодинамика вычислений со схемами», в которой был описан процесс масштабирования применения неравновесной физики от битов до схем (см. [2]). Это был второй прорыв. Но и он не позволял полноценно применить «Новую физику» к компьютерным вычислениям из-за их непредсказуемости.

Новый 3й прорыв произошел только что.
Волперт и трое его соавторов (физики и компьютерщики) расширили современную теорию термодинамики вычислений. Объединив подходы статистической физики и информатики, они представили математические уравнения, которые показывают минимальные и максимальные прогнозируемые энергетические затраты вычислительных процессов, зависящих от случайности, которая является мощным инструментом в современных компьютерах.

Такого рода вычислительных процессов в компьютерах сколько угодно. Например, - процессы с непредсказуемым завершением.
Представьте мой любимы пример - симулятор игры в “Монету Питерса” (см. [3] или [4]). И допустим, при подбрасывании монеты дано указание прекратить подбрасывание, как только выпадут 100 орлов. Нетрудно понять, что момент останова симулятора случаен, и потому он будет непредсказуем для разных попыток.

Новый прорыв оказался возможным в результате объединения теоретических выводов предыдущих работ Волперта с теорией мартингалов (случайных последовательностей или процессов, которые в будущем остаются постоянными в среднем).

Работа «Термодинамика вычислений с абсолютной необратимостью, однонаправленными переходами и стохастическим временем вычислений» опубликована в Physical Review X (апрель-июнь 2024) [5]

Картинка поста https://telegra.ph/file/547a48d32be26802d8aa2.jpg
1 https://t.iss.one/theworldisnoteasy/511
2 https://t.iss.one/theworldisnoteasy/1087
3 https://www.patreon.com/posts/lovushka-tselei-100101870
4 https://boosty.to/theworldisnoteasy/posts/9b90b927-dea0-4e3f-b010-e7570ae1d9c1
5 https://journals.aps.org/prx/abstract/10.1103/PhysRevX.14.021026
#ТермодинамикаВычислений #Физика