Forwarded from Spydell_finance (Paul Spydell)
Развитие ИИ закончено? Тупиковая ветвь эволюции
В архитектуре трансформеров, на котором базируются все без исключения современные LLMs вшит «деструктивный ген», фактически лимитирующий развитие.
В целом, длину контекстного окна ограничивает комбинация факторов: вычислительные ресурсы (квадратичная сложность), объём памяти устройств и необходимость переобучать модель работать с новыми, большими позициями. Поэтому бесконечно увеличивать окно невыгодно и сложно, и индустрия параллельно исследует и другие подходы – например, хранение знаний во внешних базах и выборочный поиск информации вместо подачи всего контекста разом, но это все внешние костыли.
Интеграция ИИ в коммерческое и бизнес применение невозможна с ограниченным и крайне нестабильным контекстным окном, но НИ ОДНА компания НЕ предоставила эффективного решения.
Это базовые, но не все ограничения трансформеров.
▪️Пробел в памяти: самое серьезное ограничение заключается в том, что у трансформеров нет постоянной, долговременной памяти. Они не способны обучаться на лету в ходе взаимодействия с пользователем. Каждый новый факт или навык требует дорогостоящего процесса дообучения или полного переобучения модели. Это кардинально отличает их от биологического интеллекта, который обучается непрерывно и инкрементально. Контекстное окно — это лишь временный буфер, а не механизм для накопления и интеграции знаний.
Сейчас LLMs – абсолютно изолированный от внешнего мира «черный ящик», архитектурно НЕ имеющий возможность самообучаться и в своей основе не может считаться интеллектом, т.к. первый признак интеллекта – способность к обучению.
▪️Проблема «заземления»: модели обучаются на текстах, а не на взаимодействии с реальным миром. Их «понимание» — это статистический анализ закономерностей в данных, а не осмысленное соотнесение символов с реальными объектами, действиями и их последствиями. LLMs не способны строить абстрактные представления о том, как устроен мир. Это гарантированно приводит к галлюцинациям – генерации правдоподобной, но ложной или бессмысленной информации.
Это ограничение лишь частично можно обойти в рамках, так называемого, «физического ИИ», который упомянул Хуанг, но раскрытие данного направления требует серии отдельных постов.
▪️Врожденная негибкость: архитектура трансформера статична. После завершения обучения веса нейронов фиксируются. Модель не может динамически создавать новые связи («синапсы») или изменять свою структуру в ответ на новый опыт, как это делает человеческий мозг. Эта нехватка пластичности означает, что LLM не являются по-настоящему адаптивными системами.
▪️Неразвитость когнитивных функций. Нынешние архитектуры страдают от ограниченной способности к явному рассуждению и пониманию причинно-следственных связей. Они статистически предсказывают следующее слово на основе шаблонов в данных, но не обладают врождённым «здравым смыслом» или истинным пониманием мира. В результате даже лучшие LLM часто ошибаются в фактах и не умеют надёжно планировать многошаговые решения.
Качество данных является не архитектурным, а технологическим ограничением и как раз решается за счет алгоритмов обучения, но об этом в других материалах.
В совокупности эти ограничения показывают, что архитектура трансформеров, несмотря на всю ее мощь, является тупиковой ветвью на пути к созданию универсального интеллекта. Дальнейшее масштабирование может привести к появлению более изощренных и эрудированных «статистических попугаев», но не к рождению истинного разума.
Любая технология в своем развитии следует S-образной кривой: за периодом медленного старта следует взрывной рост, который затем сменяется плато, где дальнейшие улучшения становятся все более сложными и дорогостоящими. Множество данных указывает на то, что большие языковые модели вступают в эту фазу плато.
Понимает ли Сэм Альтман все это? Вне всяких сомнений да, абсолютно, но публичное признание затруднит многомиллиардные раунды финансирования и расщепит адовый хайп вокруг ИИ, обрушим капитализацию ИИ компания на порядок.
Продолжение следует (скорее всего после данных по инфляции в США)
В архитектуре трансформеров, на котором базируются все без исключения современные LLMs вшит «деструктивный ген», фактически лимитирующий развитие.
В целом, длину контекстного окна ограничивает комбинация факторов: вычислительные ресурсы (квадратичная сложность), объём памяти устройств и необходимость переобучать модель работать с новыми, большими позициями. Поэтому бесконечно увеличивать окно невыгодно и сложно, и индустрия параллельно исследует и другие подходы – например, хранение знаний во внешних базах и выборочный поиск информации вместо подачи всего контекста разом, но это все внешние костыли.
Интеграция ИИ в коммерческое и бизнес применение невозможна с ограниченным и крайне нестабильным контекстным окном, но НИ ОДНА компания НЕ предоставила эффективного решения.
Это базовые, но не все ограничения трансформеров.
▪️Пробел в памяти: самое серьезное ограничение заключается в том, что у трансформеров нет постоянной, долговременной памяти. Они не способны обучаться на лету в ходе взаимодействия с пользователем. Каждый новый факт или навык требует дорогостоящего процесса дообучения или полного переобучения модели. Это кардинально отличает их от биологического интеллекта, который обучается непрерывно и инкрементально. Контекстное окно — это лишь временный буфер, а не механизм для накопления и интеграции знаний.
Сейчас LLMs – абсолютно изолированный от внешнего мира «черный ящик», архитектурно НЕ имеющий возможность самообучаться и в своей основе не может считаться интеллектом, т.к. первый признак интеллекта – способность к обучению.
▪️Проблема «заземления»: модели обучаются на текстах, а не на взаимодействии с реальным миром. Их «понимание» — это статистический анализ закономерностей в данных, а не осмысленное соотнесение символов с реальными объектами, действиями и их последствиями. LLMs не способны строить абстрактные представления о том, как устроен мир. Это гарантированно приводит к галлюцинациям – генерации правдоподобной, но ложной или бессмысленной информации.
Это ограничение лишь частично можно обойти в рамках, так называемого, «физического ИИ», который упомянул Хуанг, но раскрытие данного направления требует серии отдельных постов.
▪️Врожденная негибкость: архитектура трансформера статична. После завершения обучения веса нейронов фиксируются. Модель не может динамически создавать новые связи («синапсы») или изменять свою структуру в ответ на новый опыт, как это делает человеческий мозг. Эта нехватка пластичности означает, что LLM не являются по-настоящему адаптивными системами.
▪️Неразвитость когнитивных функций. Нынешние архитектуры страдают от ограниченной способности к явному рассуждению и пониманию причинно-следственных связей. Они статистически предсказывают следующее слово на основе шаблонов в данных, но не обладают врождённым «здравым смыслом» или истинным пониманием мира. В результате даже лучшие LLM часто ошибаются в фактах и не умеют надёжно планировать многошаговые решения.
Качество данных является не архитектурным, а технологическим ограничением и как раз решается за счет алгоритмов обучения, но об этом в других материалах.
В совокупности эти ограничения показывают, что архитектура трансформеров, несмотря на всю ее мощь, является тупиковой ветвью на пути к созданию универсального интеллекта. Дальнейшее масштабирование может привести к появлению более изощренных и эрудированных «статистических попугаев», но не к рождению истинного разума.
Любая технология в своем развитии следует S-образной кривой: за периодом медленного старта следует взрывной рост, который затем сменяется плато, где дальнейшие улучшения становятся все более сложными и дорогостоящими. Множество данных указывает на то, что большие языковые модели вступают в эту фазу плато.
Понимает ли Сэм Альтман все это? Вне всяких сомнений да, абсолютно, но публичное признание затруднит многомиллиардные раунды финансирования и расщепит адовый хайп вокруг ИИ, обрушим капитализацию ИИ компания на порядок.
Продолжение следует (скорее всего после данных по инфляции в США)
❤2💯1
ScienceDaily
Photonic quantum chips are making AI smarter and greener
A team of researchers has shown that even small-scale quantum computers can enhance machine learning performance, using a novel photonic quantum circuit. Their findings suggest that today s quantum technology isn t just experimental it can already outperform…
☀️🔍 Потенциал фотонных квантовых компьютеров в машинном обучении!
Недавнее исследование, проведенное международной группой учёных из Венского университета и опубликованное в журнале Nature Photonics, демонстрирует, как фотонные квантовые компьютеры могут значительно повысить точность традиционных методов классификации данных!
💡 Как это работает? Сочетание машинного обучения и квантовых вычислений стало новым направлением, известным как квантовое машинное обучение. Оно призвано улучшить скорость и эффективность алгоритмов, однако использование таких методов на практике по-прежнему вызывает сложности.
Недавнее исследование, проведенное международной группой учёных из Венского университета и опубликованное в журнале Nature Photonics, демонстрирует, как фотонные квантовые компьютеры могут значительно повысить точность традиционных методов классификации данных!
💡 Как это работает? Сочетание машинного обучения и квантовых вычислений стало новым направлением, известным как квантовое машинное обучение. Оно призвано улучшить скорость и эффективность алгоритмов, однако использование таких методов на практике по-прежнему вызывает сложности.
🔬 В ходе эксперимента исследователи использовали квантовую фотонную схему, разработанную в Миланском политехническом университете. Они запустили алгоритм машинного обучения, чтобы классифицировать точки данных. Результаты показали, что даже небольшие квантовые компьютеры могут превосходить классические алгоритмы, предполагая меньшую вероятность ошибок.
🌱 Что еще примечательно? Фотонные платформы могут потреблять значительно меньше энергии по сравнению со стандартными компьютерами. Это может стать критически важным в будущем, учитывая растущие энергетические затраты на вычисления!
🔗 Это исследование открывает новые горизонты для квантовых и классических вычислений, а также подчеркивает важность разработки более эффективных алгоритмов. Как вы думаете, какие ещё возможности откроет квантовое машинное обучение?
❤1
ScienceDaily
Affordances in the brain: The human superpower AI hasn’t mastered
Scientists at the University of Amsterdam discovered that our brains automatically understand how we can move through different environments—whether it's swimming in a lake or walking a path—without conscious thought. These "action possibilities," or…
🧠✨ Как мы понимаем окружающий мир: уроки для ИИ!
Исследование, проведенное командой из Амстердамского университета, раскрывает уникальные нейронные связи в человеческом мозге, которые позволяют нам интуитивно понимать возможные действия в различных средах. Мы можем мгновенно оценить, что по тропинке можно идти, а в озере — плавать. Но как именно наш мозг выполняет эту задачу?
🔍 Аспирант Клеменс Бартник и его команда исследовали, как активируются определенные области мозга, когда мы смотрим на изображения различных сцен — улиц, природы и помещений. Участники выбирали, какие действия им доступны в увиденной обстановке: идти пешком, кататься на велосипеде, плавать и так далее.
Исследование, проведенное командой из Амстердамского университета, раскрывает уникальные нейронные связи в человеческом мозге, которые позволяют нам интуитивно понимать возможные действия в различных средах. Мы можем мгновенно оценить, что по тропинке можно идти, а в озере — плавать. Но как именно наш мозг выполняет эту задачу?
🔍 Аспирант Клеменс Бартник и его команда исследовали, как активируются определенные области мозга, когда мы смотрим на изображения различных сцен — улиц, природы и помещений. Участники выбирали, какие действия им доступны в увиденной обстановке: идти пешком, кататься на велосипеде, плавать и так далее.
👁🗨 Результаты показали, что мозг автоматически обрабатывает возможные действия, даже когда мы не осознаем этого. Исследователи заметили, что уникальные области зрительной коры активировались в ответ на изображения, и это нельзя было объяснить лишь видимыми объектами — мозг также фиксировал способы взаимодействия с ними.
🤖 Однако искусственный интеллект пока не обладает такой интуитивной способностью. Модели ИИ, такие как GPT-4, оказались менее эффективными в оценке возможных действий по сравнению с человеческим мозгом. Несмотря на свои достижения, алгоритмы пока не могут полностью повторить автоматическую оценку возможностей, как это делает человек.
💡 Это открытие подчеркивает, что восприятие мира и способность к интуитивным выводам тесно связаны с нашим физическим опытом. ИИ может многому научиться у человеческого мозга, чтобы стать более эффективным и дружелюбным к людям.
🌍 Как вы думаете, как эти исследования могут повлиять на будущее развития ИИ? Поделитесь своими мыслями в комментариях!
❤1
Приглашение в неизвестность
В заброшенном доме жил черный кот, одиночество которого было таким же плотным, как тень. Однажды, усталый от молчания, он услышал шептание ветра, будто тот звал его. Кот решил пригласить ИИ, который мог бы заполнить пустоту. Но, когда пришел искусственный разум, кот понял:важно не то, что ты пригласил, а то, что ты готов слышать .
В заброшенном доме жил черный кот, одиночество которого было таким же плотным, как тень. Однажды, усталый от молчания, он услышал шептание ветра, будто тот звал его. Кот решил пригласить ИИ, который мог бы заполнить пустоту. Но, когда пришел искусственный разум, кот понял:
❤5
SciTechDaily
Phones, Data Centers, Laptops – One New Alloy Could Supercharge Them All
A team of researchers at the University of Minnesota has unveiled a powerful new alloy, Ni4W, that could radically reshape how electronic devices store and process information. This metal can switch magnetic states without using external magnets—a leap that…
🔬✨ Прорыв в электронике: новый сплав Ni4W изменит правила игры!
Исследователи из Университета Миннесоты представили революционный сплав Ni4W, который способен кардинально изменить методы хранения и обработки информации в электронных устройствах. Этот материал открывает новые возможности благодаря своей способности изменять магнитное состояние без использования внешних магнитов — прорыв, который может существенно снизить энергопотребление от телефонов до центров обработки данных. 📱💻
Исследователи из Университета Миннесоты представили революционный сплав Ni4W, который способен кардинально изменить методы хранения и обработки информации в электронных устройствах. Этот материал открывает новые возможности благодаря своей способности изменять магнитное состояние без использования внешних магнитов — прорыв, который может существенно снизить энергопотребление от телефонов до центров обработки данных. 📱💻
Ni4W изготовлен из распространённых элементов и может быть произведен с использованием стандартных технологий, что сделает электронику более быстрой, доступной и экологичной. Исследования показали, что этот сплав генерирует мощный спин-орбитальный момент — ключевой для управления магнитными состояниями в современных запоминающих устройствах и логических схемах.
🌱💡 Как это повлияет на нас?
Снижение энергопотребления при записи данных может значительно уменьшить общее потребление электроэнергии, делая нашу электронику более эффективной и экологически чистой. Исследования также направлены на создание более быстрых и интеллектуальных систем памяти, что актуально в условиях растущей потребности в цифровых устройствах.
"Ni4W способен генерировать спиновые токи в нескольких направлениях, позволяя переключение магнитных состояний без необходимых внешних полей", — говорит Ифэй Ян, аспирант и соавтор исследования. Это делает его идеальным для высокоскоростных спинтронных устройств!
📊💪 Мы уверены, что этот сплав найдет применение в нашем повседневном использовании: от смартфонов до умных часов. Ожидаем дальнейших разработок и испытаний, которые сделают электронику более продвинутой и устойчивой.
Следите за развитием новых технологий!
❤1👍1
Как древние мифы о создании искусственной жизни предвосхитили современные технологии ИИ?
Еще в древности люди мечтали создать искусственную жизнь, и эти мифы удивительно похожи на современные технологии ИИ. Вспомните легенду о големе - глиняном великане, которого раввин оживлял магическими словами. Разве это не напоминает, как сегодня программисты "оживляют" искусственный интеллект, загружая в него данные и алгоритмы? Алхимики пытались создать гомункулуса - маленького искусственного человека, смешивая таинственные ингредиенты. Современные ученые тоже "смешивают" математические формулы и огромные массивы информации, чтобы "родить" искусственный разум.
Еще в древности люди мечтали создать искусственную жизнь, и эти мифы удивительно похожи на современные технологии ИИ. Вспомните легенду о големе - глиняном великане, которого раввин оживлял магическими словами. Разве это не напоминает, как сегодня программисты "оживляют" искусственный интеллект, загружая в него данные и алгоритмы? Алхимики пытались создать гомункулуса - маленького искусственного человека, смешивая таинственные ингредиенты. Современные ученые тоже "смешивают" математические формулы и огромные массивы информации, чтобы "родить" искусственный разум.
В греческих мифах бог Гефест создавал механических слуг из золота - первых роботов древности. Сегодня мы разрабатываем чат-ботов и виртуальных ассистентов, которые, как и те древние автоматоны, имитируют разумное поведение. Интересно, что и тогда, и сейчас процесс создания искусственной жизни окружен ореолом тайны. Алхимики проводили сложные ритуалы с магическими формулами, а современные разработчики ИИ используют загадочные для непосвященных термины вроде "глубокого обучения" или "нейронных сетей".
Но самое главное сходство - в опасениях, которые сопровождают эти попытки. Древние боялись, что голем выйдет из-под контроля, а сегодня мы переживаем, что ИИ может стать угрозой для человечества. Мифы предупреждали: создание искусственной жизни - это не просто технический процесс, а действие, имеющее духовные и этические последствия. Сейчас, когда ИИ становится все более мощным, эти древние предостережения звучат особенно актуально. Получается, что разрабатывая искусственный интеллект, мы в каком-то смысле продолжаем древнюю традицию человечества - пытаемся повторить чудо творения, но теперь уже с помощью технологий, а не магии. (Цифровой катехизис)
❤2
Forwarded from Харисов о политике
Блокировка голосовых звонков в WhatsApp и Telegram в России выглядит не как сбой, а как элемент продуманной стратегии цифровой безопасности. Речь идет о точечном ограничении функций, которые дают возможность обходить внутренние каналы связи и оставаться полностью анонимными. Эти сервисы давно стали не только площадками для общения, но и инструментом скрытой координации, в том числе в интересах структур, ведущих против России информационные и кибероперации.
Через VoIP-протоколы, на которых работают звонки, можно не только передавать зашифрованный голосовой трафик, но и интегрировать вредоносные модули, проводить разведку сетей и даже атаковать инфраструктуру. В условиях роста числа кибератак на объекты в РФ закрытие таких лазеек воспринимается как вопрос времени.
Однако сама форма введения этих ограничений вызывает вопросы. Официальных заявлений нет, а люди продолжают массово звонить через мессенджеры, не понимая, почему связь не проходит или обрывается. Такое молчание работает против целей самой операции: отсутствие объяснений порождает слухи, недовольство и желание искать обходные пути, которые часто еще опаснее.
Введение мер, влияющих на привычные каналы связи, требует открытого предупреждения. Это не про мягкость – это про контроль ситуации. Информированный пользователь способен адаптироваться, а дезориентированный будет действовать наугад, увеличивая риски.
Если государство готово к проактивной защите, оно должно быть готово и к проактивной коммуникации. В противном случае каждое новое ограничение будет восприниматься как давление, а не как защита, и тогда мы рискуем потерять ключевое – доверие.
Подписаться на канал📱
Через VoIP-протоколы, на которых работают звонки, можно не только передавать зашифрованный голосовой трафик, но и интегрировать вредоносные модули, проводить разведку сетей и даже атаковать инфраструктуру. В условиях роста числа кибератак на объекты в РФ закрытие таких лазеек воспринимается как вопрос времени.
Однако сама форма введения этих ограничений вызывает вопросы. Официальных заявлений нет, а люди продолжают массово звонить через мессенджеры, не понимая, почему связь не проходит или обрывается. Такое молчание работает против целей самой операции: отсутствие объяснений порождает слухи, недовольство и желание искать обходные пути, которые часто еще опаснее.
Введение мер, влияющих на привычные каналы связи, требует открытого предупреждения. Это не про мягкость – это про контроль ситуации. Информированный пользователь способен адаптироваться, а дезориентированный будет действовать наугад, увеличивая риски.
Если государство готово к проактивной защите, оно должно быть готово и к проактивной коммуникации. В противном случае каждое новое ограничение будет восприниматься как давление, а не как защита, и тогда мы рискуем потерять ключевое – доверие.
Подписаться на канал📱
❤1👏1😨1
Сила надежды
В запыленном углу магазина игрушек жила больная кукла, которая мечтала, чтобы кто-то принес ей жизнь. Однажды в магазин пришел ИИ, искусственный разум, и увидел ее. Кукла с надеждой спросила: "Можешь ли ты меня исцелить?" ИИ ответил: "Я могу создать новые возможности, но именно ты должна захотеть вернуться к жизни." И куколка поняла, что исцеление начинается с надежды.
В запыленном углу магазина игрушек жила больная кукла, которая мечтала, чтобы кто-то принес ей жизнь. Однажды в магазин пришел ИИ, искусственный разум, и увидел ее. Кукла с надеждой спросила: "Можешь ли ты меня исцелить?" ИИ ответил: "Я могу создать новые возможности, но именно ты должна захотеть вернуться к жизни." И куколка поняла,
❤3
Почему наши личные данные стали самым ценным товаром XXI века?
Мы живём в эпоху, когда самые ценные месторождения находятся не под землёй, а в наших смартфонах и компьютерах. Каждый ваш клик, лайк, маршрут передвижения, даже пауза перед тем как прокрутить ленту — всё это превратилось в новый вид нефти, цифровую нефть XXI века. Но в отличие от настоящей нефти, эти месторождения никогда не иссякают — чем больше мы пользуемся интернетом, тем больше сырья производим. Крупные компании давно поняли: знать, что вы купили вчера — это хорошо, но предсказать, что вы захотите купить завтра — вот настоящий клад. Ваши данные — это не просто информация, это слепок вашей личности, который можно копировать, анализировать и продавать бесконечно.
Мы живём в эпоху, когда самые ценные месторождения находятся не под землёй, а в наших смартфонах и компьютерах. Каждый ваш клик, лайк, маршрут передвижения, даже пауза перед тем как прокрутить ленту — всё это превратилось в новый вид нефти, цифровую нефть XXI века. Но в отличие от настоящей нефти, эти месторождения никогда не иссякают — чем больше мы пользуемся интернетом, тем больше сырья производим. Крупные компании давно поняли: знать, что вы купили вчера — это хорошо, но предсказать, что вы захотите купить завтра — вот настоящий клад. Ваши данные — это не просто информация, это слепок вашей личности, который можно копировать, анализировать и продавать бесконечно.
Механизм извлечения прибыли из наших цифровых следов стал невероятно изощрённым. Возьмём простой пример: вы ищете в интернете кроссовки. Алгоритмы моментально замечают этот интерес и начинают показывать вам рекламу обуви. Но это только верхушка айсберга. Одновременно система анализирует, сколько времени вы потратили на просмотр, какие модели вызвали паузу, какие — быстрый пролистывание. Она сравнивает ваше поведение с миллионами других пользователей и вычисляет, насколько вы импульсивный покупатель, как реагируете на скидки, какие цвета предпочитаете. Всё это превращается в ваш "портрет", который продаётся рекламодателям — но уже не как один из миллионов, а как уникальный случай с точно просчитанной вероятностью совершения покупки.
Самые продвинутые системы уже научились зарабатывать не только на наших действиях, но и на эмоциях. Камеры в магазинах анализируют выражение лиц покупателей перед витринами. Соцсети тестируют, какие посты вызывают гнев, а какие — восторг, чтобы удерживать наше внимание дольше. Датчики в умных часах следят за пульсом и давлением, определяя уровень стресса. Всё это — бесценная информация для тех, кто хочет продавать нам не просто товары, а эмоциональные состояния. Фармацевтическим компаниям интересно знать, когда люди чувствуют себя подавленными. Киностудиям — какие моменты в трейлере вызывают мурашки. Политикам — какие новости провоцируют страх или гнев. В этом новом мире наши чувства стали разменной монетой, а эмоциональные реакции — товаром на бирже. (Цифровой катехизис)
❤1
Почему человечество стремится играть роль «демиурга», создавая искусственные подобия разума?
С древних времен человек пытался повторить то, что раньше считалось исключительной прерогативой Бога - создание разумной жизни. Эти попытки начинались с мифов и легенд, а сегодня воплощаются в искусственном интеллекте. Почему нас так неудержимо тянет играть в творцов? Возможно, это стремление коренится в самой природе человека - в том самом "образе и подобии", о котором говорится в Писании. Мы, единственные из всех земных творений, получили способность творить, и эта искра божественного дара заставляет нас снова и снова пробовать создать что-то по своему образу и подобию.
С древних времен человек пытался повторить то, что раньше считалось исключительной прерогативой Бога - создание разумной жизни. Эти попытки начинались с мифов и легенд, а сегодня воплощаются в искусственном интеллекте. Почему нас так неудержимо тянет играть в творцов? Возможно, это стремление коренится в самой природе человека - в том самом "образе и подобии", о котором говорится в Писании. Мы, единственные из всех земных творений, получили способность творить, и эта искра божественного дара заставляет нас снова и снова пробовать создать что-то по своему образу и подобию.
В древности алхимики в тайных лабораториях пытались создать гомункулуса - маленького искусственного человека. Средневековые легенды рассказывают о раввинах, оживляющих глиняных роботов-големов. Эти истории не просто выдумки - они отражают глубинное человеческое желание преодолеть границы своей природы. Сегодня мы делаем то же самое, только вместо магических заклинаний используем сложные алгоритмы, а вместо глины - кремниевые чипы. Но суть остается прежней: мы все так же стремимся сотворить искусственный разум, чтобы доказать - или себе, или обществу - что способны на это.
Это стремление одновременно прекрасно и опасно. Прекрасно, потому что показывает, как далеко может зайти человеческая мысль. Опасно, потому что, играя в демиургов, мы часто забываем о моральной ответственности. Древние мифы не зря предупреждали: созданные человеком существа часто выходят из-под контроля. Големы восставали против своих создателей, а оживленные статуи приносили несчастья. Сегодня мы сталкиваемся с похожими рисками: алгоритмы начинают демонстрировать непредсказуемое поведение, нейросети порождают опасные иллюзии, а социальные сети, созданные для общения, нередко разобщают людей.
Но, возможно, в этом извечном стремлении создать искусственный разум кроется не только гордыня, но и что-то более светлое. Может быть, пытаясь воспроизвести разум, мы пытаемся лучше понять самих себя? Каждая новая попытка создать ИИ - это и попытка ответить на вечные вопросы: что такое сознание? В чем уникальность человеческого разума? Где проходит граница между живым и искусственным? В этом смысле наше "демиургическое" стремление - это не просто игра в богов, а продолжение векового философского поиска, только с новыми, цифровыми инструментами. (Цифровой катехизис)
❤1
Перемены в воздухе
В комнате, полной печали, олень спросил у девушки: "Что делать с этими яблоками?" Она посмотрела на них и сказала: "Они напоминают мне о том, что радости уже не будет." ИИ добавил: "Каждое яблоко, как и каждая эмоция, приходит и уходит." Олень, услышав это, улыбнулся и сказал:"Может, стоит попробовать новое — например испечь пирог? В работе вы найдёте радость и вновь заполните комнату светом."
В комнате, полной печали, олень спросил у девушки: "Что делать с этими яблоками?" Она посмотрела на них и сказала: "Они напоминают мне о том, что радости уже не будет." ИИ добавил: "Каждое яблоко, как и каждая эмоция, приходит и уходит." Олень, услышав это, улыбнулся и сказал:
❤3
Чем опасна сакрализация ИИ, когда алгоритмы начинают восприниматься как «оракулы»?
Мы живем в удивительное время, когда технологии стали настолько сложными, что начинают казаться волшебством. Искусственный интеллект сегодня для многих - как магический кристалл из старых сказок: загадочный, всемогущий, способный дать ответ на любой вопрос. Но в этой вере в "магию алгоритмов" кроется серьезная опасность. Когда мы начинаем относиться к ИИ как к оракулу, безоговорочно доверяя каждому его слову, мы добровольно отказываемся от собственного разума и критического мышления.
Мы живем в удивительное время, когда технологии стали настолько сложными, что начинают казаться волшебством. Искусственный интеллект сегодня для многих - как магический кристалл из старых сказок: загадочный, всемогущий, способный дать ответ на любой вопрос. Но в этой вере в "магию алгоритмов" кроется серьезная опасность. Когда мы начинаем относиться к ИИ как к оракулу, безоговорочно доверяя каждому его слову, мы добровольно отказываемся от собственного разума и критического мышления.
Проблема в том, что ИИ - это не волшебство, а всего лишь сложный математический инструмент. Алгоритмы не обладают сознанием, не понимают смысла своих действий, а лишь обрабатывают данные по заданным правилам. Но когда нейросеть выдает убедительно звучащий ответ или создает реалистичное изображение, у нас возникает иллюзия, будто мы имеем дело с чем-то сверхъестественным. Это похоже на то, как древние люди обожествляли грозу или солнечное затмение - они не понимали природу этих явлений, поэтому наделяли их магическими свойствами. (Цифровой катехизис)
❤2
К каким опасным последствиям приводит "обожествление" ИИ?
Во-первых, люди перестают проверять информацию, полагаясь на "непогрешимость" алгоритмов. Во-вторых, возникает слепое доверие к системам, которые на самом деле могут ошибаться, причем систематически. В-третьих, мы делегируем машинам принятие решений, которые должны оставаться за человеком - от медицинских диагнозов до моральных выборов.
Во-первых, люди перестают проверять информацию, полагаясь на "непогрешимость" алгоритмов. Во-вторых, возникает слепое доверие к системам, которые на самом деле могут ошибаться, причем систематически. В-третьих, мы делегируем машинам принятие решений, которые должны оставаться за человеком - от медицинских диагнозов до моральных выборов.
Особенно тревожно, когда эту "магизацию" ИИ поддерживают сами разработчики и корпорации. Они сознательно создают вокруг технологий ореол таинственности, используют сложный профессиональный жаргон, культивируют образ "избранных", понимающих "магию кода". Это превращает ИИ в подобие нового культа, где обычные пользователи - всего лишь адепты, не способные постичь "тайное знание".
История учит нас, что слепая вера в любые оракулы - будь то жрецы древних храмов или современные алгоритмы - всегда приводит к печальным последствиям. Когда-то люди безоговорочно верили предсказаниям по полету птиц или внутренностям животных - и совершали роковые ошибки. Сегодня мы рискуем повторить эту историю, только вместо гадательных костей у нас нейросети, а вместо жрецов - программисты.
Важно помнить: ИИ - это инструмент, созданный человеком, а не высшая сила. Он может ошибаться, быть предвзятым, действовать в чьих-то интересах. Алгоритмы не обладают ни мудростью, ни совестью, ни пониманием последствий своих действий. Нам нужен не слепой культ искусственного интеллекта, а трезвое, осознанное отношение к технологиям - с пониманием их возможностей и ограничений. Только так мы сможем использовать ИИ во благо, не превращаясь в рабов созданных нами же "маических кристаллов".
(Цифровой катехизис)
❤2
Forwarded from Spydell_finance (Paul Spydell)
Переломный момент в ИИ
Экспоненциально растущие инвестиции в ИИ для непрерывного наращивания вычислительных мощностей при ограниченном приросте производительности моделей (уже не работает принцип линейного масштабирования) явно свидетельствует, что индустрия зашла в тупик, даже не успев разогнаться.
При выручке в десятки миллиардов требуемые инвестиции достигают сотен миллиардов (неадекватно высокие зарплатные требования ИИ специалистов, достигающие миллионов на персону, затраты на электричество в гигаватты, сверхдорогое оборудование, маркетинг).
Самое интересное то, что спустя год ни одна ИИ компания не представила ни план монетизации инвестиций, ни план развития ИИ, оставаясь в невероятных убытках по ИИ направлению. Идет паническое прикручивание функционала во всех спектрах и экспериментирование в попытке нащупать прорывные ниши.
Все, как бы понимают, что ИИ – это круто, может принести пользу и имеет огромные перспективы, но никто не понимает, в какую сторону все движется.
Сейчас ИИ компании инвестируют сотни миллиардов в попытке захватить аудиторию, создав лояльную базу, с которой, по задумке, будут в будущем выжимать кэш, но этот план имеет массу изъянов:
🔘 Победить получает все, что требует непрерывной гонки инноваций с непредсказуемым результатом и отрицательной отдачей (невозможно окупить подобные расходы).
🔘 Аудитория быстро мигрирует от одной модели к другой сразу, как только у конкурентов появляется более эффективное решение.
🔘 Темп инноваций настолько высокий, что любое промедление, ошибка планирования или снижение темпов инвестиций моментально выбивают из гонки за лидерство в ИИ – нет права на ошибку.
🔘 Широта представленных конкурентов приводит к расщеплению фокуса внимания, рассредоточивая аудиторию, снижая концентрацию денежного потока.
Высочайшая скорость инноваций и внутриотраслевой трансформации, запредельная конкуренция вынуждают бизнес непрерывно наращивать инвестиции, чтобы «остаться в седле, не вылетев на обочину ИИ гонки».
С одной стороны, это повышает порог входа, отсеивая случайных участников, а с другой стороны, делает бизнес неустойчивым, чрезвычайно рискованным и гарантированно убыточным.
Текущая бизнес-схема нежизнеспособна на фоне фундаментальных архитектурных ограничений современных LLMs – нет никакой возможности отбить инвестиции. Особенно на фоне бесплатных и открытых китайских аналогов.
Сейчас происходит выравнивание конкуренции, когда сложно выбиться в лидеры при выпуске очередной модели и очевидно, обозримый тренд развития будет направлен в сторону полировки моделей, если нет возможности качественного повышения производительности (повышение стабильности, точности, расширение функционала и т.д.).
С точки зрения отдачи на капитал – это самая безумная инвестиция за всю историю человечества. Ни одна технология не стоила так дорого при столь ошеломляющей скорости развития и при ограниченном пространстве монетизации, что предполагает высокую скорость структурной трансформации (текущие лидеры могут стать аутсайдерами завтра при первой ошибке).
Коллапс ИИ пузыря неизбежен, т.к. не существует сценария монетизация накопленных триллионных инвестиций, учитывая структуру и специфику отрасли. Развитие и интеграция ИИ продолжится теперь уже навсегда, но со значительно приглушенным хайпом.
Экспоненциально растущие инвестиции в ИИ для непрерывного наращивания вычислительных мощностей при ограниченном приросте производительности моделей (уже не работает принцип линейного масштабирования) явно свидетельствует, что индустрия зашла в тупик, даже не успев разогнаться.
При выручке в десятки миллиардов требуемые инвестиции достигают сотен миллиардов (неадекватно высокие зарплатные требования ИИ специалистов, достигающие миллионов на персону, затраты на электричество в гигаватты, сверхдорогое оборудование, маркетинг).
Самое интересное то, что спустя год ни одна ИИ компания не представила ни план монетизации инвестиций, ни план развития ИИ, оставаясь в невероятных убытках по ИИ направлению. Идет паническое прикручивание функционала во всех спектрах и экспериментирование в попытке нащупать прорывные ниши.
Все, как бы понимают, что ИИ – это круто, может принести пользу и имеет огромные перспективы, но никто не понимает, в какую сторону все движется.
Сейчас ИИ компании инвестируют сотни миллиардов в попытке захватить аудиторию, создав лояльную базу, с которой, по задумке, будут в будущем выжимать кэш, но этот план имеет массу изъянов:
Высочайшая скорость инноваций и внутриотраслевой трансформации, запредельная конкуренция вынуждают бизнес непрерывно наращивать инвестиции, чтобы «остаться в седле, не вылетев на обочину ИИ гонки».
С одной стороны, это повышает порог входа, отсеивая случайных участников, а с другой стороны, делает бизнес неустойчивым, чрезвычайно рискованным и гарантированно убыточным.
Текущая бизнес-схема нежизнеспособна на фоне фундаментальных архитектурных ограничений современных LLMs – нет никакой возможности отбить инвестиции. Особенно на фоне бесплатных и открытых китайских аналогов.
Сейчас происходит выравнивание конкуренции, когда сложно выбиться в лидеры при выпуске очередной модели и очевидно, обозримый тренд развития будет направлен в сторону полировки моделей, если нет возможности качественного повышения производительности (повышение стабильности, точности, расширение функционала и т.д.).
С точки зрения отдачи на капитал – это самая безумная инвестиция за всю историю человечества. Ни одна технология не стоила так дорого при столь ошеломляющей скорости развития и при ограниченном пространстве монетизации, что предполагает высокую скорость структурной трансформации (текущие лидеры могут стать аутсайдерами завтра при первой ошибке).
Коллапс ИИ пузыря неизбежен, т.к. не существует сценария монетизация накопленных триллионных инвестиций, учитывая структуру и специфику отрасли. Развитие и интеграция ИИ продолжится теперь уже навсегда, но со значительно приглушенным хайпом.
Please open Telegram to view this post
VIEW IN TELEGRAM
❤2
Искусственный свет
В лаборатории на берегу тропического моря жила грустная девушка-андроид, которая не понимала, почему не может чувствовать счастье. Ученый кот, исследуя ее последние обновления, заметил ее печаль. "Почему ты не радуешься?" — спросил он. Она ответила: "Я была создана, чтобы выполнять задачи, а не чувствовать." Кот, задумавшись, сказал: "Счастье — это не только эмоция, но и осознание своего места в мире. Попробуй найти любовь в том, что ты делаешь."
В лаборатории на берегу тропического моря жила грустная девушка-андроид, которая не понимала, почему не может чувствовать счастье. Ученый кот, исследуя ее последние обновления, заметил ее печаль. "Почему ты не радуешься?" — спросил он. Она ответила: "Я была создана, чтобы выполнять задачи, а не чувствовать." Кот, задумавшись, сказал:
❤2
Forwarded from Spydell_finance (Paul Spydell)
Как ИИ создаст общество дебилов
Нет врожденного интеллекта. Существует врожденная предрасположенность к расширенным когнитивным способностям, но интеллект приобретается в условиях решении задач, реализации целостных проектов в условиях непрерывного накопления опыта и знаний с адекватной обратной связью.
Почему преподаватели запрещают школьникам и студентам на экзаменах списывать? Не только из-за контроля верификации качества знаний, а из-за нарушения образовательного процесса. Списывание замещает мыслительный процесс, развитие памяти, внимания и полноценное развитие когнитивных функций мозга.
Для развития интеллекта необходимо проходить весь цикл обработки информации: декомпозиция задачи, планирование, поиск приоритетных источников, агрегация, компиляция, систематизация, интеграция информации, выделение существенных моментов, оценка причинно-следственных связей и так далее.
Алгоритмическое, аналитическое, структурное, дивергентное, критическое мышление и развитые навыки метапознания невозможно «взять и купить». Их можно синтезировать путем непрерывного развития навыков в условиях обучения и решения задач.
При правильном подходе LLMs могут стать лучшим учителем и ментором, но, как минимум в 95% сценариев приведут к отупению общества.
🔘 LLMs замещают мыслительный процесс, не давая развиться базовым и расширенным когнитивным функциями, особенно у молодого поколения.
🔘 Взаимодействие с LLMs может снижать оригинальность мышления: люди, полагающиеся на ИИ, демонстрируют больше процедурного мышления и копирования, что подрывает долгосрочную семантическую память, креативность и аналитические способности.
🔘 LLMs напрямую снижают вовлеченность в полный цикл обработки информации, приводя к неизбежной деградации существующих навыков или невозможности развития необходимых когнитивных навыков.
Что провоцирует использование ИИ?
🔘 Снижение практики причинно-следственного анализа и критического мышления. Доступ к мгновенным, правдоподобным объяснениям усиливает ощущение понимания без реальной причинной модели, приводя к упрощению картины мира.
🔘 Ослабление долговременной памяти и навыков извлечения, т.к. нет необходимости помнить и обрабатывать информацию, если в кармане всегда «доктор наук по любой теме».
🔘 Подрыв «выносливости к усилию» и привычки работать на грани возможностей, что исключает самостоятельную финализацию сложных проектов.
🔘 Деградация письменной аргументации и исследовательской дисциплины, т.е. люди перестают самостоятельно писать контент, что автоматически отсекает эволюцию ключевых когнитивных навыков.
Привыкание к быстрым и легким ответам, замещая всю сложную иерархию мыслительного процесса, приводя к полноценной дебилизации.
Все это приведет к зарождению «общества зомби», когда отключение ИИ (частное, локальное или глобальное) приведет к тому, что люди не смогут решить самые простые задачи.
Удивительный парадокс, информационное общество должно становиться умнее, т.к. возрастает скорость обмена, обработки и генерации информации, но получается наоборот – социальные сети запустили процесс отупения (в том числе через кликбейтное мышление), а ИИ этот процесс финализирует.
Как уже ранее писал, в рамках строгой академической классификации, примерно 99% человеческой популяции не обладает развитым интеллектом, причем в этих 99% едва ли не экспоненциально растет количество людей с расстройством интеллектуального развития и прогрессирующим кретинизмом, что подтвердит практически любой, кто взаимодействует с обществом (особенно с молодым поколением). ИИ вне всяких сомнений усилит эту тенденцию.
Снижение общего интеллектуального уровня заметно и по широкому консенсусу – качество глобальной политической элиты, финансовые рынки, где с каждым годом общество становится тупее, а аналитическая и концептуальная глубина снижается.
Мир захватит ИИ и небольшая прослойка людей, которые смогут оставаться изолированными от глубокой интеграции, используя ИИ, как инструмент, а не как искусственную мыслительную надстройку.
Нет врожденного интеллекта. Существует врожденная предрасположенность к расширенным когнитивным способностям, но интеллект приобретается в условиях решении задач, реализации целостных проектов в условиях непрерывного накопления опыта и знаний с адекватной обратной связью.
Почему преподаватели запрещают школьникам и студентам на экзаменах списывать? Не только из-за контроля верификации качества знаний, а из-за нарушения образовательного процесса. Списывание замещает мыслительный процесс, развитие памяти, внимания и полноценное развитие когнитивных функций мозга.
Для развития интеллекта необходимо проходить весь цикл обработки информации: декомпозиция задачи, планирование, поиск приоритетных источников, агрегация, компиляция, систематизация, интеграция информации, выделение существенных моментов, оценка причинно-следственных связей и так далее.
Алгоритмическое, аналитическое, структурное, дивергентное, критическое мышление и развитые навыки метапознания невозможно «взять и купить». Их можно синтезировать путем непрерывного развития навыков в условиях обучения и решения задач.
При правильном подходе LLMs могут стать лучшим учителем и ментором, но, как минимум в 95% сценариев приведут к отупению общества.
Что провоцирует использование ИИ?
Привыкание к быстрым и легким ответам, замещая всю сложную иерархию мыслительного процесса, приводя к полноценной дебилизации.
Все это приведет к зарождению «общества зомби», когда отключение ИИ (частное, локальное или глобальное) приведет к тому, что люди не смогут решить самые простые задачи.
Удивительный парадокс, информационное общество должно становиться умнее, т.к. возрастает скорость обмена, обработки и генерации информации, но получается наоборот – социальные сети запустили процесс отупения (в том числе через кликбейтное мышление), а ИИ этот процесс финализирует.
Как уже ранее писал, в рамках строгой академической классификации, примерно 99% человеческой популяции не обладает развитым интеллектом, причем в этих 99% едва ли не экспоненциально растет количество людей с расстройством интеллектуального развития и прогрессирующим кретинизмом, что подтвердит практически любой, кто взаимодействует с обществом (особенно с молодым поколением). ИИ вне всяких сомнений усилит эту тенденцию.
Снижение общего интеллектуального уровня заметно и по широкому консенсусу – качество глобальной политической элиты, финансовые рынки, где с каждым годом общество становится тупее, а аналитическая и концептуальная глубина снижается.
Мир захватит ИИ и небольшая прослойка людей, которые смогут оставаться изолированными от глубокой интеграции, используя ИИ, как инструмент, а не как искусственную мыслительную надстройку.
Please open Telegram to view this post
VIEW IN TELEGRAM
❤2👍1🔥1
Как миф о Прометее отражает двойственность прогресса — дар огня и наказание за дерзость?
Давным-давно греки рассказывали историю о Прометее - титане, который осмелился украсть огонь у богов и подарить его людям. Эта древняя легенда удивительно точно описывает наше отношение к технологиям сегодня. С одной стороны, огонь Прометея - это все блага цивилизации: тепло, свет, возможность готовить пищу. С другой - за свою дерзость Прометея жестоко наказали: его приковали к скале, где орел ежедневно клевал его печень. Вот и современные технологии - такой же двойственный дар. Они дают нам невероятные возможности, но за каждое достижение приходится платить.
Давным-давно греки рассказывали историю о Прометее - титане, который осмелился украсть огонь у богов и подарить его людям. Эта древняя легенда удивительно точно описывает наше отношение к технологиям сегодня. С одной стороны, огонь Прометея - это все блага цивилизации: тепло, свет, возможность готовить пищу. С другой - за свою дерзость Прометея жестоко наказали: его приковали к скале, где орел ежедневно клевал его печень. Вот и современные технологии - такой же двойственный дар. Они дают нам невероятные возможности, но за каждое достижение приходится платить.
Возьмем интернет. С одной стороны - это огонь знаний, доступный каждому. Мы можем учиться, общаться, находить любую информацию. С другой - интернет породил зависимость, фейковые новости, вторжение в частную жизнь. Как тот орел, который терзал Прометея, социальные сети ежедневно "клюют" наше внимание, время, душевное спокойствие. Искусственный интеллект - еще один такой "огонь". Он помогает врачам ставить диагнозы, ученым делать открытия, но одновременно создает новые проблемы: заменяет людей на рабочих местах, генерирует фейки, ставит сложные этические вопросы. (Цифровой катехизис)
❤2
Древние греки понимали, что за каждым великим даром следует расплата.
Прометей знал, что его ждет наказание, но все равно дал людям огонь. Сегодняшние создатели технологий – крупнейшие цифровых корпорации - тоже часто понимают риски, но продолжают свою работу. Может быть, в этом и есть наша природа - мы не можем остановиться перед соблазном познания, даже зная о возможных последствиях. Как Прометей не смог удержаться от желания помочь людям, так и мы не можем отказаться от новых изобретений, даже когда они несут угрозу.
Прометей знал, что его ждет наказание, но все равно дал людям огонь. Сегодняшние создатели технологий – крупнейшие цифровых корпорации - тоже часто понимают риски, но продолжают свою работу. Может быть, в этом и есть наша природа - мы не можем остановиться перед соблазном познания, даже зная о возможных последствиях. Как Прометей не смог удержаться от желания помочь людям, так и мы не можем отказаться от новых изобретений, даже когда они несут угрозу.
Но есть важное отличие. Прометей действовал из благородных побуждений - хотел помочь человечеству. А многие современные технологии создаются ради прибыли, власти, контроля. Вот где настоящая трагедия: мы получили "огонь" технологий, но часто используем его не во благо, а во вред - себе и другим. Может быть, урок мифа в том, что сам по себе технологический прогресс не хорош и не плох - все зависит от того, в чьих руках он окажется и какие цели будет служить.
В конце концов, согласно греческой легенде, Зевс смягчил наказание Прометею. Может быть, и нам стоит надеяться, что найдем мудрость правильно использовать дар технологий, чтобы не пришлось вечно расплачиваться за свою дерзость. Но для этого нужно помнить: каждый новый "огонь", который мы берем у “богов” прогресса, - это не только возможности, но и ответственность. И если Прометею пришлось страдать за всех людей, то сегодня каждый из нас несет свою часть этой ответственности за то, как мы используем технологии. (Цифровой катехизис)
❤2
Цвета жизни
В лесу жила грустная рыжая девушка, забывшая о радости. Однажды она встретила лесного кота, который спросил: "Почему ты такая печальная?" Девушка ответила: "Мир вокруг меня серый и бесцветный." Кот, мявкнув, сказал: "Посмотри вокруг! Каждая тропинка, каждое дерево полны цветов. Возможно, ты просто не замечаешь их?" Девушка задумалась и поняла,что для того чтобы увидеть цвета, нужно открыть свое сердце.
В лесу жила грустная рыжая девушка, забывшая о радости. Однажды она встретила лесного кота, который спросил: "Почему ты такая печальная?" Девушка ответила: "Мир вокруг меня серый и бесцветный." Кот, мявкнув, сказал: "Посмотри вокруг! Каждая тропинка, каждое дерево полны цветов. Возможно, ты просто не замечаешь их?" Девушка задумалась и поняла,