Кванты в ИИ
Сейчас слушаю "Уравнение Бога" про теорию струн и как ученые пришли к столь “очевидной” гипотезе, что мир состоит из 10 измерений (если их будет другое число, то математика не сойдется). В самом начале высказывается мысль: открытия теоретической физики кардинально меняют мир вокруг. Уравнения Ньютона подтолкнули развитие паровых двигателей и начало промышленной революции. Фарадей и Максвелл (и др) описали электромагетизм и у нас есть электричество. Теория относительности позволила совладать с энергией атома.
Без новых открытий в этой области не происходит качественного скачка, позволяющего перейти на другой уровень. Насколько бы не был эффективным паровой двигатель, улететь на марс на нем не получится. В книге Лю Цысиня "Тёмный лес" человечество было заблокировано в новых фундаментальных теоретических открытиях физики. Человек 21 века попадает в мир 23 и ему кажется, что прогресс очень сильно продвинулся, хотя все новые технологии были основаны на тех же принципах, что и в 21 веке. То есть просто улучшали имеющийся паровой двигатель.
Вступление затянулось. Книга меня наталкнула вспомнить о моей магистерской работе в области квантовых вычислений. Если точнее, то написать, как и почему квантовые вычисления могут помочь в областии ИИ в том числе.
Квантовые компьютеры основаны на, как ни странно, квантовых принципах. Я не буду рассказывать о всех, лишь о части.
Интерференция
Вместо привычных компьютерных битов 0 – 1 (есть сигнал / нет сигнала) у нас есть кубиты – они принимают суперпозицию 0 и 1. То есть находятся в двух состояниях одновременно с определенными вероятностям. Этими вероятностями можно манипулировать – уменьшать или увеличивать. Когда мы измеряем наш кубит, то его состояние коллапсирует либо в 1, либо в 0 и он уже не находится в суперпозиции.
Чем хороша суперпозиция? Для вектора из n кубитов возможно 2^n состояний всего, так же как и у битов. Разница в том, что благодаря суперпозиции мы применяем операции одновременно к n битам и ко всему пространству кубитов, то есть 2^n. То есть это массовая параллельная операция на всевозможные состояния вектора из n 0 и 1. К примеру, сложность алгритма поиска элемента в несортированном массиве – O(N), у квантового компьютера – O(√N). Для базы данных из 1 млрд векторов вместо 1 млрд операций потребуется всего лишь 32 тысячи.
Туннелирование
Эффект туннелирования позволяет перебираться через высокие и узкие барьеры, на которое у частицы не хватает энергии. В некоторых задачах оптимизации это позволяет избежать остановки в локальных минимумах. Остается проблема с широкими участками.
Машинное обучение
Все обучение сейчас произвоидится на GPU вместо CPU – именно из-за возможностей первого в параллельные вычислениях для решения матриц. Каждый год процессоры улучшаются и дают 50-100% мощности, но нужно понимать, что это все еще "улучшение парового двигателя". Квантовые технологии позволят в теории использовать физические принципы для параллельных вычислений, что ускорит их на порядок.
С другой стороны, для эффективного использования квантовых принципов необходимо придумывать новые алгоритмы. Не факт, что имеющиеся архитектуры нейронных сетей, типа трансформеров будут действительно эффективны на них. Возможно, придется прийти к чему-то совершенно новому.
Сейчас слушаю "Уравнение Бога" про теорию струн и как ученые пришли к столь “очевидной” гипотезе, что мир состоит из 10 измерений (если их будет другое число, то математика не сойдется). В самом начале высказывается мысль: открытия теоретической физики кардинально меняют мир вокруг. Уравнения Ньютона подтолкнули развитие паровых двигателей и начало промышленной революции. Фарадей и Максвелл (и др) описали электромагетизм и у нас есть электричество. Теория относительности позволила совладать с энергией атома.
Без новых открытий в этой области не происходит качественного скачка, позволяющего перейти на другой уровень. Насколько бы не был эффективным паровой двигатель, улететь на марс на нем не получится. В книге Лю Цысиня "Тёмный лес" человечество было заблокировано в новых фундаментальных теоретических открытиях физики. Человек 21 века попадает в мир 23 и ему кажется, что прогресс очень сильно продвинулся, хотя все новые технологии были основаны на тех же принципах, что и в 21 веке. То есть просто улучшали имеющийся паровой двигатель.
Вступление затянулось. Книга меня наталкнула вспомнить о моей магистерской работе в области квантовых вычислений. Если точнее, то написать, как и почему квантовые вычисления могут помочь в областии ИИ в том числе.
Квантовые компьютеры основаны на, как ни странно, квантовых принципах. Я не буду рассказывать о всех, лишь о части.
Интерференция
Вместо привычных компьютерных битов 0 – 1 (есть сигнал / нет сигнала) у нас есть кубиты – они принимают суперпозицию 0 и 1. То есть находятся в двух состояниях одновременно с определенными вероятностям. Этими вероятностями можно манипулировать – уменьшать или увеличивать. Когда мы измеряем наш кубит, то его состояние коллапсирует либо в 1, либо в 0 и он уже не находится в суперпозиции.
Чем хороша суперпозиция? Для вектора из n кубитов возможно 2^n состояний всего, так же как и у битов. Разница в том, что благодаря суперпозиции мы применяем операции одновременно к n битам и ко всему пространству кубитов, то есть 2^n. То есть это массовая параллельная операция на всевозможные состояния вектора из n 0 и 1. К примеру, сложность алгритма поиска элемента в несортированном массиве – O(N), у квантового компьютера – O(√N). Для базы данных из 1 млрд векторов вместо 1 млрд операций потребуется всего лишь 32 тысячи.
Туннелирование
Эффект туннелирования позволяет перебираться через высокие и узкие барьеры, на которое у частицы не хватает энергии. В некоторых задачах оптимизации это позволяет избежать остановки в локальных минимумах. Остается проблема с широкими участками.
Машинное обучение
Все обучение сейчас произвоидится на GPU вместо CPU – именно из-за возможностей первого в параллельные вычислениях для решения матриц. Каждый год процессоры улучшаются и дают 50-100% мощности, но нужно понимать, что это все еще "улучшение парового двигателя". Квантовые технологии позволят в теории использовать физические принципы для параллельных вычислений, что ускорит их на порядок.
С другой стороны, для эффективного использования квантовых принципов необходимо придумывать новые алгоритмы. Не факт, что имеющиеся архитектуры нейронных сетей, типа трансформеров будут действительно эффективны на них. Возможно, придется прийти к чему-то совершенно новому.
❤2👍1🗿1
Кстати, участвовал еще года 3 назад в олимпиаде по квантовым вычислениям. Решил 3 задачи из 7. Олимпиаду вряд ли найду, но если хотите сами попробовать накидать квантовые алгоритмы, то есть библиотека на питоне.
https://www.ibm.com/quantum/qiskit
https://www.ibm.com/quantum/qiskit
Ibm
IBM Quantum Computing | Qiskit
Advance your quantum computing research and development with Qiskit, the open-source SDK that provides tools for building, optimizing, and executing quantum workloads at scale.
Если ты хотел поработать со мной, то выдается отличная возможность.
Ищу копирайтера / seo специалиста в проект для написания статей в блог / Хабр, медиум – куда только сможем дотянуться. Будем работать над АИ агентами и продвигать их в массы. Контент будет обучающий, обзорный и туториалы - тут жестких рамок нет, всегда можно что-то придумать.
От тебя:
-Умение писать на Английском и есть статьи на ресурсах которые я перечислил с хорошим количеством просмотров
-Есть какой-то бекграунд в ИИ или программировании (необязательно быть гением, но хотя бы пару строк кода накидать нужно уметь)
-Понимание что и когда нужно пользователем разных журналов
-Умение работать автономно
По объему и оплате договоримся. Жду в личке @monsetrum
За репост знакомым с релевантным бекграундом или в свой канал отдельный респект
Ищу копирайтера / seo специалиста в проект для написания статей в блог / Хабр, медиум – куда только сможем дотянуться. Будем работать над АИ агентами и продвигать их в массы. Контент будет обучающий, обзорный и туториалы - тут жестких рамок нет, всегда можно что-то придумать.
От тебя:
-Умение писать на Английском и есть статьи на ресурсах которые я перечислил с хорошим количеством просмотров
-Есть какой-то бекграунд в ИИ или программировании (необязательно быть гением, но хотя бы пару строк кода накидать нужно уметь)
-Понимание что и когда нужно пользователем разных журналов
-Умение работать автономно
По объему и оплате договоримся. Жду в личке @monsetrum
За репост знакомым с релевантным бекграундом или в свой канал отдельный респект