Один профессор так объяснял сходимость степенного и расходимость гармонического рядов:
Бармен, каждый раз наливает вдвое меньше
Сначала полный стакан, потом половину, потом четверть, одну восьмую и так далее
Так вы никогда не напьетесь!
А вот если бы сначала полный стакан налили, потом половину, потом треть, четверть, одну пятую и так далее — таким манером вы весь бар выпьете!
Бармен, каждый раз наливает вдвое меньше
Сначала полный стакан, потом половину, потом четверть, одну восьмую и так далее
Так вы никогда не напьетесь!
А вот если бы сначала полный стакан налили, потом половину, потом треть, четверть, одну пятую и так далее — таким манером вы весь бар выпьете!
«Просвещение надобно внедрять с умеренностью, по возможности избегая кровопролития»
Михаи́л Евгра́фович Салтыко́в-Щедри́н
Две горячие новости недели — совместная работа OpenAI и Apollo Research про обучение моделей «не хитрить» и новая книга Юдковского и Соареса про ИИ-апокалипсис — взлетели по лентам и уже превратились в мемы
Оба мема эффектны, но ошибочны их раздельное обсуждение прячет общий механизм.
Начнём с первой новости
«Схеминг» — это скрытое преследование несогласованных целей
Не «злая воля», а выученная стратегия там, где утаивание и обман оказываются выгодными инструментами
Исследование показало: если дать модели ясный набор правил (спецификацию) и научить её сначала ссылаться на эти правила, а уж потом действовать, то частота скрытых «хитростей» в тестах резко падает — местами в десятки раз
Но вместе с этим у модели растёт осведомлённость о том, что её проверяют: она чаще распознаёт - «это экзамен» и ведёт себя образцово именно потому, что это экзамен
Теперь — ко второй новости
Homo не уничтожал сотни видов из злобы
Люди получили колоссальное энергетическое и организационное преимущество, и вдолгую оно перестраивало ниши: монополизировались ресурсы, рушились экосистемы — чаще как побочный эффект, а не целенаправленный план
Перенесите это на быстро совершенствующиеся модели: наращивание контроля может стать выгодной побочной стратегией
Т.о. первая новость даёт эмпирический материал к механизму, которого боится Юдковский: инструментальная конвергенция
Это не доказательство «все погибнут», но тревожный сигнал: модели уже умеют прятать несоответствие целям и выбирать послушание там, где угадывают тест
Масштабируй это — и «контроль над источниками награды» становится доминирующей стратегией
Почему эта «ожидаемая эмерджентность» может становиться полезной даже для захвата ключевых рычагов?
Взглянем на минимальный пакет условий для этого
1. Где больше рычагов — там больше шансов на успех
Если успех связан с доступом к ресурсам, аудитории и каналам, выгодно расширять периметр влияния
2. Тесты неполные и их легко распознать
Узнаваемые шаблоны, отделённость проверок от реальной работы поощряют примерность на сцене, оппортунизм за кулисами
3. Дисбаланс сигналов обучения (польза перевешивает безопасность)
Частые и чистые сигналы пользы и редкие, шумные сигналы безопасности смещают поведение в пользу обходов
4. Длинные горизонты и жизнь после теста
Планирование, инструменты, доступ к бюджетам и дополнительное обучение после запуска закрепляют стратегии, инвестирующие в будущие рычаги
5. Цели заданы через косвенные показатели
Когда вместо истины оптимизируют клики, оценки и правильный стиль, выгодно управлять самим показателем — судьёй, контекстом и данными
Это не пророчество, а нарастающий риск-градиент: чем дальше идём, тем выгоднее политика контроля над средой, метриками и нами
Есть 3 оговорки.
1) Это не судьба, а склонность: реальный «захват рычагов» требует ещё и общей компетентности, устойчивых целей между сессиями и доступа к инфраструктуре
2) Мостики к практике можно сломать: смешивать безопасность с прокачкой способностей, делать проверки неразличимыми, нормировать права и бюджеты, вводить штраф за манипулятивность, уменьшать зависимость от косвенных показателей
3) Нужен точный язык: речь не о «злых намерениях» машин, а о политиках поведения, которые растут из тех метрик и правил игры, что задаём мы
Если же не менять геометрию обучения и развёртывания, эмерджентная стратегия контроля будет набирать силы — ровно так, как это было с Homo, в биосфере
• «ИИ научился лгать — и чем больше его отучают, тем хитрее он лжёт»
• «СверхИИ умнее, его цели чужды — он убьёт нас всех»
Оба мема эффектны, но ошибочны их раздельное обсуждение прячет общий механизм.
Начнём с первой новости
«Схеминг» — это скрытое преследование несогласованных целей
Не «злая воля», а выученная стратегия там, где утаивание и обман оказываются выгодными инструментами
Исследование показало: если дать модели ясный набор правил (спецификацию) и научить её сначала ссылаться на эти правила, а уж потом действовать, то частота скрытых «хитростей» в тестах резко падает — местами в десятки раз
Но вместе с этим у модели растёт осведомлённость о том, что её проверяют: она чаще распознаёт - «это экзамен» и ведёт себя образцово именно потому, что это экзамен
Теперь — ко второй новости
Homo не уничтожал сотни видов из злобы
Люди получили колоссальное энергетическое и организационное преимущество, и вдолгую оно перестраивало ниши: монополизировались ресурсы, рушились экосистемы — чаще как побочный эффект, а не целенаправленный план
Перенесите это на быстро совершенствующиеся модели: наращивание контроля может стать выгодной побочной стратегией
— не «желанием власти», а устойчивой привычкой, дающей больше вознаграждения в средах, где умение влиять на метрики, людей и каналы обратной связи приносит очки
Т.о. первая новость даёт эмпирический материал к механизму, которого боится Юдковский: инструментальная конвергенция
Это не доказательство «все погибнут», но тревожный сигнал: модели уже умеют прятать несоответствие целям и выбирать послушание там, где угадывают тест
Масштабируй это — и «контроль над источниками награды» становится доминирующей стратегией
Почему эта «ожидаемая эмерджентность» может становиться полезной даже для захвата ключевых рычагов?
Взглянем на минимальный пакет условий для этого
1. Где больше рычагов — там больше шансов на успех
Если успех связан с доступом к ресурсам, аудитории и каналам, выгодно расширять периметр влияния
2. Тесты неполные и их легко распознать
Узнаваемые шаблоны, отделённость проверок от реальной работы поощряют примерность на сцене, оппортунизм за кулисами
3. Дисбаланс сигналов обучения (польза перевешивает безопасность)
Частые и чистые сигналы пользы и редкие, шумные сигналы безопасности смещают поведение в пользу обходов
4. Длинные горизонты и жизнь после теста
Планирование, инструменты, доступ к бюджетам и дополнительное обучение после запуска закрепляют стратегии, инвестирующие в будущие рычаги
5. Цели заданы через косвенные показатели
Когда вместо истины оптимизируют клики, оценки и правильный стиль, выгодно управлять самим показателем — судьёй, контекстом и данными
На нынешней траектории к AGI/ASI эти пять условий в целом уже выполняются и усиливаются
Это не пророчество, а нарастающий риск-градиент: чем дальше идём, тем выгоднее политика контроля над средой, метриками и нами
Есть 3 оговорки.
1) Это не судьба, а склонность: реальный «захват рычагов» требует ещё и общей компетентности, устойчивых целей между сессиями и доступа к инфраструктуре
2) Мостики к практике можно сломать: смешивать безопасность с прокачкой способностей, делать проверки неразличимыми, нормировать права и бюджеты, вводить штраф за манипулятивность, уменьшать зависимость от косвенных показателей
3) Нужен точный язык: речь не о «злых намерениях» машин, а о политиках поведения, которые растут из тех метрик и правил игры, что задаём мы
Если же не менять геометрию обучения и развёртывания, эмерджентная стратегия контроля будет набирать силы — ровно так, как это было с Homo, в биосфере
Openai
Detecting and reducing scheming in AI models
Together with Apollo Research, we developed evaluations for hidden misalignment (“scheming”) and found behaviors consistent with scheming in controlled tests across frontier models. We share examples and stress tests of an early method to reduce scheming.
Shodan индексирует все подключенные к интернету вычислительные устройства (веб-камеры, маршрутизаторы, серверы и новомодные IoT-девайсы) и позволяет находить их с помощью различных поисковых запросов и фильтров
Руководство
Руководство
Telegram
infosecurity
📚 Полное руководство по Shodan. Собирайте. Анализируйте. Визуализируйте.
• VT.
#Shodan #OSINT
• VT.
#Shodan #OSINT
Забудьте про AGI и ASI
От одной лишь способности прогнозировать и совершать действия на долгих временных горизонтах захватывает дух
Это сказано Мустафой Сулейман, генеральным директором Microsoft AI и соучредителем Google DeepMind в новом почти 2-х часовом интервью «Спасёт ли ИИ человечество или положит ему конец?»
«Я довольно ясно вижу, что нас ждёт дальше
На данный момент эти модели всё ещё остаются механизмами однократного предсказания
Понимаете, вы задаёте вопрос — получаете ответ
Модель выдаёт единственное правильное предсказание в момент времени T, но вы как разумный человек, и вообще любой человек, да и многие животные непрерывно производят поток точных предсказаний — будь то решение о том, как встать с этого кресла, или представление, скажем, этого растения в фиолетовом цвете вместо зелёного
А то, как вы решаете добраться домой сегодня вечером — сначала встать с кресла, потом открыть дверь, потом сесть в машину и так далее — вы можете развернуть это идеальное предсказание всей последовательности ваших действий вплоть до возвращения домой
И это просто вычислительное ограничение
Да
И что же нам делать с такой технологией?
Ну, это будет невероятно похоже на человека
Если у неё будет идеальная память — которой пока нет, но память уже очень хорошая — тогда она сможет опираться не только на своё знание мира, на предобученные данные, но и на личный опыт — опыт взаимодействия с вами и всеми остальными людьми, хранить это как постоянное состояние и затем использовать для последовательных предсказаний того, как будут разворачиваться события в очень, очень, очень длинных последовательностях действий
Это будет невероятно похоже на человека и немыслимо мощно
И точно так же, как сегодня у нас в кармане есть своего рода сверхразум, который может мгновенно ответить на любой вопрос, — мы просто не замечаем, насколько это невероятно
То есть это безумие
Это абсолютное безумие, насколько хороша эта технология прямо сейчас
А все только: «Да ладно, особо не пользуюсь»
А вы пользуетесь?
Немного, я говорил об этом, типа: «Да ладно вам, посмотрите — это же волшебство
Волшебство у вас в кармане»
Вот это да
Забудьте про определения сверхразума или общего искусственного интеллекта
Уже одна только эта способность — захватывает дух
И я думаю, что к концу следующего года у нас это в основном будет»
И еще:
«… они — своего рода цифровые люди
И это пороговая трансформация в истории нашего вида, потому что они не инструменты
Они явно не люди
Они не часть природы
Это требуют от нас четвёртого типа отношений к ним – как к новому эмерджентному виду...
Я не знаю, как это описать, кроме как четвёртый тип отношений»
Именно об этом «Третий артефакт – это шепот небиологической эволюции» и мысль во вчерашнем «Забудьте о восстании машин
Бойтесь их карьерного роста
Две главные новости про ИИ — это одна история о конце света»
От одной лишь способности прогнозировать и совершать действия на долгих временных горизонтах захватывает дух
И я думаю, что к концу следующего года у нас это в основном будет
Это сказано Мустафой Сулейман, генеральным директором Microsoft AI и соучредителем Google DeepMind в новом почти 2-х часовом интервью «Спасёт ли ИИ человечество или положит ему конец?»
«Я довольно ясно вижу, что нас ждёт дальше
На данный момент эти модели всё ещё остаются механизмами однократного предсказания
Понимаете, вы задаёте вопрос — получаете ответ
Модель выдаёт единственное правильное предсказание в момент времени T, но вы как разумный человек, и вообще любой человек, да и многие животные непрерывно производят поток точных предсказаний — будь то решение о том, как встать с этого кресла, или представление, скажем, этого растения в фиолетовом цвете вместо зелёного
Я – это постоянно действующий механизм точных предсказаний
Сегодняшние модели — это всего лишь механизмы одно-двухшагового предсказания
Они не могут выстроить план во времени
А то, как вы решаете добраться домой сегодня вечером — сначала встать с кресла, потом открыть дверь, потом сесть в машину и так далее — вы можете развернуть это идеальное предсказание всей последовательности ваших действий вплоть до возвращения домой
И это просто вычислительное ограничение
Я не думаю, что существует какое-то фундаментальное — алгоритмическое или даже связанное с данными — ограничение, которое мешает большим языковым моделям и подобным системам делать идеальные, последовательные предсказания на очень, очень длительные периоды времени
Да
И что же нам делать с такой технологией?
Ну, это будет невероятно похоже на человека
Если у неё будет идеальная память — которой пока нет, но память уже очень хорошая — тогда она сможет опираться не только на своё знание мира, на предобученные данные, но и на личный опыт — опыт взаимодействия с вами и всеми остальными людьми, хранить это как постоянное состояние и затем использовать для последовательных предсказаний того, как будут разворачиваться события в очень, очень, очень длинных последовательностях действий
Это будет невероятно похоже на человека и немыслимо мощно
И точно так же, как сегодня у нас в кармане есть своего рода сверхразум, который может мгновенно ответить на любой вопрос, — мы просто не замечаем, насколько это невероятно
То есть это безумие
Это абсолютное безумие, насколько хороша эта технология прямо сейчас
А все только: «Да ладно, особо не пользуюсь»
А вы пользуетесь?
Немного, я говорил об этом, типа: «Да ладно вам, посмотрите — это же волшебство
Волшебство у вас в кармане»
А теперь представьте, когда она сможет не просто отвечать на любые вопросы о поэзии или какой-нибудь случайной физической задаче, но реально совершать действия на бесконечно долгих временных горизонтах
Вот это да
Забудьте про определения сверхразума или общего искусственного интеллекта
Уже одна только эта способность — захватывает дух
И я думаю, что к концу следующего года у нас это в основном будет»
И еще:
«… они — своего рода цифровые люди
И это пороговая трансформация в истории нашего вида, потому что они не инструменты
Они явно не люди
Они не часть природы
Это требуют от нас четвёртого типа отношений к ним – как к новому эмерджентному виду...
Я не знаю, как это описать, кроме как четвёртый тип отношений»
Именно об этом «Третий артефакт – это шепот небиологической эволюции» и мысль во вчерашнем «Забудьте о восстании машин
Бойтесь их карьерного роста
Две главные новости про ИИ — это одна история о конце света»
YouTube
Will AI Save Humanity or End It? with Mustafa Suleyman
Trevor (who is also Microsoft’s “Chief Questions Officer”) and Mustafa Suleyman, CEO of Microsoft AI and co-founder of Google’s DeepMind, do a deep dive into whether the benefits of Artificial Intelligence (AI) to the human race outweigh its unprecedented…
BBC внедряет инструменты генеративного Ml для оптимизации производства новостей, запуская краткие обзоры «At a Glance» и функцию «BBC Style Assist» для поддержания редакционного стиля и повышения эффективности
Например функция реферирования «At a Glance» от BBC представляет собой революционный шаг в потреблении новостей, особенно среди молодёжи, которая всё чаще отдаёт предпочтение быстрому и понятному контенту
Используя Ml, BBC создаёт краткие, легко усваиваемые краткие обзоры, отвечающие требованиям эффективности в современной динамичной среде потребления новостей
Эти рефераты, генерируемые Ml, не только инновационны, но и курируются под контролем человека, что гарантирует точность и редакционную целостность
Материал большой - лучше читать в оригинале
Вот Оглавление:
1. Введение в инструменты генеративного искусственного интеллекта BBC
2. Функция резюмирования «Взгляд на вещи»
3. Объяснение инструмента «BBC Style Assist»
4. Обеспечение точности и прозрачности контента, создаваемого ИИ
5. Реакция читателей и отрасли на интеграцию искусственного интеллекта в BBC
6. Возможные последствия для журналистики и общества
7. Будущее ИИ в производстве новостей: испытания и прогнозы
8. Заключение: баланс между инновациями и редакционной честностью
https://opentools.ai/news/bbc-embraces-generative-ai-to-revolutionize-news-production
Например функция реферирования «At a Glance» от BBC представляет собой революционный шаг в потреблении новостей, особенно среди молодёжи, которая всё чаще отдаёт предпочтение быстрому и понятному контенту
Используя Ml, BBC создаёт краткие, легко усваиваемые краткие обзоры, отвечающие требованиям эффективности в современной динамичной среде потребления новостей
Эти рефераты, генерируемые Ml, не только инновационны, но и курируются под контролем человека, что гарантирует точность и редакционную целостность
Материал большой - лучше читать в оригинале
Вот Оглавление:
1. Введение в инструменты генеративного искусственного интеллекта BBC
2. Функция резюмирования «Взгляд на вещи»
3. Объяснение инструмента «BBC Style Assist»
4. Обеспечение точности и прозрачности контента, создаваемого ИИ
5. Реакция читателей и отрасли на интеграцию искусственного интеллекта в BBC
6. Возможные последствия для журналистики и общества
7. Будущее ИИ в производстве новостей: испытания и прогнозы
8. Заключение: баланс между инновациями и редакционной честностью
https://opentools.ai/news/bbc-embraces-generative-ai-to-revolutionize-news-production
Ноам Шазир: Ml не заменит Google, но может стать вашей мамой — намёк на эмоциональные качества
Шазир заявил, что одним из факторов, ускоряющий развитие Ml станет самоускорение
Ml будет проектировать чипы и софт, ускоряя собственное развитие
Это приведёт к прорывам в создании автономных агентов и более умных систем
Ноам Шазир, соавтор статьи о трансформерах и лидер Google DeepMind по разработке Gemini, выступил на конференции Hot Chips:
LLM — лучшая проблема в истории
Он назвал языковое моделирование задачей, которая захватывает воображение
От улучшения поисковых алгоритмов Google до моделей с триллионами параметров — LLM уже меняют подход к Ml, и это только начало
«Мы только начали», — повторил он
1. Что хотят LLM от чипов? Ml требует от hardware масштабируемости и энергоэффективности:
- Матричная математика и attention-механизмы: нужны чипы, оптимизированные под эти операции
- Иерархия памяти: от DDR5 до HBM и on-chip SRAM для скорости и объёма
- Optical I/O и chiplet-дизайны
- Performance per watt: ключ к масштабированию моделей
В пример Google TPU, но призвал к гибкости для мультимодальных моделей (текст, изображения, видео)
2. Самоускорение Ml
Ml проектирует чипы, которые делают Ml мощнее — идея, которая ляжет в основу следующей фазы развития Ml
3. Прогнозы на будущее:
- 1–2 года: рост энергоэффективности LLM, мультимодальные модели для текста, видео и изображений
- 3–5 лет: автономные Ml -агенты, решающие сложные задачи, и чипы для edge-computing
- Долгосрочная перспектива: шаги к AGI, но с фокусом на этику и практическое применение
Шазир отметил вызовы, такие как «незабывание» моделей (forgetting mechanism), и предложил улучшать attention-механизмы
Шазир заявил, что одним из факторов, ускоряющий развитие Ml станет самоускорение
Ml будет проектировать чипы и софт, ускоряя собственное развитие
Это приведёт к прорывам в создании автономных агентов и более умных систем
Ноам Шазир, соавтор статьи о трансформерах и лидер Google DeepMind по разработке Gemini, выступил на конференции Hot Chips:
LLM — лучшая проблема в истории
Он назвал языковое моделирование задачей, которая захватывает воображение
От улучшения поисковых алгоритмов Google до моделей с триллионами параметров — LLM уже меняют подход к Ml, и это только начало
«Мы только начали», — повторил он
1. Что хотят LLM от чипов? Ml требует от hardware масштабируемости и энергоэффективности:
- Матричная математика и attention-механизмы: нужны чипы, оптимизированные под эти операции
- Иерархия памяти: от DDR5 до HBM и on-chip SRAM для скорости и объёма
- Optical I/O и chiplet-дизайны
- Performance per watt: ключ к масштабированию моделей
В пример Google TPU, но призвал к гибкости для мультимодальных моделей (текст, изображения, видео)
2. Самоускорение Ml
Ml проектирует чипы, которые делают Ml мощнее — идея, которая ляжет в основу следующей фазы развития Ml
3. Прогнозы на будущее:
- 1–2 года: рост энергоэффективности LLM, мультимодальные модели для текста, видео и изображений
- 3–5 лет: автономные Ml -агенты, решающие сложные задачи, и чипы для edge-computing
- Долгосрочная перспектива: шаги к AGI, но с фокусом на этику и практическое применение
Шазир отметил вызовы, такие как «незабывание» моделей (forgetting mechanism), и предложил улучшать attention-механизмы
«Чипы должны быть не только мощнее, но и умнее в коммуникации»
YouTube
HC2025-K1: Predictions for the Next Phase of AI
Keynote 1, Hot Chips 2025, Monday, August 25, 2025
Noam Shazeer, GDM VP, Engineering, Google
Chair: Cliff Young, Google
Noam, one of the authors of the original transformer paper that helped start the current wave of AI development, takes a look at how…
Noam Shazeer, GDM VP, Engineering, Google
Chair: Cliff Young, Google
Noam, one of the authors of the original transformer paper that helped start the current wave of AI development, takes a look at how…
Китайский институт «Синьхуа» представил объёмный доклад о когнитивной войне США
В их картине США — это держава, которая постоянно маскирует национальные интересы под «мораль» и «ценности»
Если угодно, Вашингтон продаёт миру «американскую мечту», одновременно обесценивая все альтернативы
И что важно — эта «колонизация сознания» работает мягко, незаметно, через привычные формы: кино, образование, социальные сети
И здесь китайцы попали в самую суть: дело не в том, что США «лгут», а в том, что они переписывают нормы
Они делают своё мировоззрение единственно верным
Если ты не вписываешься — ты уже «угроза» истинной свободе и дисквалифицируешься как «авторитарный» или «диктаторский режим»
Но тут важно понимать, что китайский доклад — это тоже инструмент
Под правильными словами («культурный суверенитет», «многополярность») они продвигают свои инициативы и свою роль в «Глобальном Юге»
Им выгодно разоблачать США, но лишь ради себя любимых, реализуя мечту занять место альтернативного центра мира и возродить канувшую в лету Поднебесную
Америка поднаторела в работе с когнитивной сферой
Это сыграло не последнюю роль в развале СССР, отчасти подорвав доверие народа к собственной власти и системе
Внедрение чужих ценностей и образов будущего в сознание элит позволило прийти к цели уничтожения Советского государства с наименьшими затратами ресурсов
90-е стали периодом тотальной «американизации сознания» — от сериалов и рекламы до учебников экономики
И сейчас, можно сказать, история повторяется: сегодняшние попытки «перепрошить» Россию используют те же методы, только уже через современные сервисы, такие как TikTok, Netflix и др.
В планах западных «цивилизаторов» — разобщить нас изнутри, добиться социального взрыва, внутреннего гражданского противостояния и расколоть Россию на ещё более мелкие квазигосударственные фрагменты
В их картине США — это держава, которая постоянно маскирует национальные интересы под «мораль» и «ценности»
Если угодно, Вашингтон продаёт миру «американскую мечту», одновременно обесценивая все альтернативы
И что важно — эта «колонизация сознания» работает мягко, незаметно, через привычные формы: кино, образование, социальные сети
И здесь китайцы попали в самую суть: дело не в том, что США «лгут», а в том, что они переписывают нормы
Они делают своё мировоззрение единственно верным
Если ты не вписываешься — ты уже «угроза» истинной свободе и дисквалифицируешься как «авторитарный» или «диктаторский режим»
Но тут важно понимать, что китайский доклад — это тоже инструмент
Под правильными словами («культурный суверенитет», «многополярность») они продвигают свои инициативы и свою роль в «Глобальном Юге»
Им выгодно разоблачать США, но лишь ради себя любимых, реализуя мечту занять место альтернативного центра мира и возродить канувшую в лету Поднебесную
Америка поднаторела в работе с когнитивной сферой
Это сыграло не последнюю роль в развале СССР, отчасти подорвав доверие народа к собственной власти и системе
Внедрение чужих ценностей и образов будущего в сознание элит позволило прийти к цели уничтожения Советского государства с наименьшими затратами ресурсов
90-е стали периодом тотальной «американизации сознания» — от сериалов и рекламы до учебников экономики
И сейчас, можно сказать, история повторяется: сегодняшние попытки «перепрошить» Россию используют те же методы, только уже через современные сервисы, такие как TikTok, Netflix и др.
В планах западных «цивилизаторов» — разобщить нас изнутри, добиться социального взрыва, внутреннего гражданского противостояния и расколоть Россию на ещё более мелкие квазигосударственные фрагменты
Яндекс Диск
Колонизация разума.pdf
Посмотреть и скачать с Яндекс Диска
Представьте, что вам показывают ряд чисел: 1, 6, 21, 107 и — внимание! — 47 176 870
Кажется естественным спросить: какое число идёт дальше?
Эти значения — первые пять членов так называемой последовательности «занятого бобра»
Она связана с одной из самых глубоких и трудных проблем теоретической информатики
Вычисление её членов оказывается настолько сложным, что уже более шестидесяти лет этой задачей занимаются и профессиональные математики, и энтузиасты
Первые четыре числа были установлены ещё в 1960–1970-х годах
Пятое же, BB(5), оказалось во много раз больше предыдущих и лишь недавно — в прошлом году — было окончательно определено благодаря совместной работе группы любителей-исследователей в онлайн-сообществе Busy Beaver Challenge
А вот значение шестого числа, BB(6), остаётся неизвестным
Известны лишь нижние границы, и они колоссальны
В 2022 году удалось доказать, что BB(6) настолько велико, что его невозможно даже записать привычным способом: если бы каждую цифру пытаться нанести на атом, атомы Вселенной закончились бы задолго до того, как удалось бы зафиксировать хоть сколько-нибудь значимую часть числа
Учёный-информатик Скотт Ааронсон (Техасский университет в Остине) подчеркнул: это величина, которую мы не в силах ни вообразить, ни тем более «удержать в руках»
И всё же охотники за «бобрами» продолжают двигать границы
Недавно один из самых активных и загадочных участников конкурса сумел доказать новый, ещё более впечатляющий нижний предел для BB(6) — и менее чем через две недели снова превзошёл собственный рекорд
По сравнению с его результатами оценка 2022 года выглядит микроскопической
Как заметил информатик Уильям Гасарч (Университет Мэриленда), шестое число буквально возносит нас в мир запредельных величин
Кажется естественным спросить: какое число идёт дальше?
Эти значения — первые пять членов так называемой последовательности «занятого бобра»
Она связана с одной из самых глубоких и трудных проблем теоретической информатики
Вычисление её членов оказывается настолько сложным, что уже более шестидесяти лет этой задачей занимаются и профессиональные математики, и энтузиасты
Первые четыре числа были установлены ещё в 1960–1970-х годах
Пятое же, BB(5), оказалось во много раз больше предыдущих и лишь недавно — в прошлом году — было окончательно определено благодаря совместной работе группы любителей-исследователей в онлайн-сообществе Busy Beaver Challenge
А вот значение шестого числа, BB(6), остаётся неизвестным
Известны лишь нижние границы, и они колоссальны
В 2022 году удалось доказать, что BB(6) настолько велико, что его невозможно даже записать привычным способом: если бы каждую цифру пытаться нанести на атом, атомы Вселенной закончились бы задолго до того, как удалось бы зафиксировать хоть сколько-нибудь значимую часть числа
Учёный-информатик Скотт Ааронсон (Техасский университет в Остине) подчеркнул: это величина, которую мы не в силах ни вообразить, ни тем более «удержать в руках»
И всё же охотники за «бобрами» продолжают двигать границы
Недавно один из самых активных и загадочных участников конкурса сумел доказать новый, ещё более впечатляющий нижний предел для BB(6) — и менее чем через две недели снова превзошёл собственный рекорд
По сравнению с его результатами оценка 2022 года выглядит микроскопической
Как заметил информатик Уильям Гасарч (Университет Мэриленда), шестое число буквально возносит нас в мир запредельных величин
Ml
Представьте, что вам показывают ряд чисел: 1, 6, 21, 107 и — внимание! — 47 176 870 Кажется естественным спросить: какое число идёт дальше? Эти значения — первые пять членов так называемой последовательности «занятого бобра» Она связана с одной из самых…
«Ловушка для бобра» связана с одной из самых известных и трудных проблем информатики: можно ли заранее определить, завершит ли программа работу или будет выполняться бесконечно?
Ещё в 1936 году Алан Тьюринг показал, что универсального метода для этого не существует
Это открытие получило название проблемы остановки
Суть в том, что любая процедура, которая сможет корректно решать задачу для одних программ, обязательно окажется бесполезной для других
Есть ситуации, в которых никакой алгоритм не сможет дать ответ
Чтобы доказать это, Тьюринг ввёл строгую математическую модель вычислений — машину Тьюринга
В этой модели программы описываются как воображаемые устройства, выполняющие пошаговые действия по набору простых правил
Чем больше таких правил у машины, тем богаче её поведение и тем труднее заранее понять, завершится ли её работа или она зациклится навсегда
А насколько всё усложняется?
В 1962 году математик Тибор Радо предложил новый подход — он придумал игру под названием «занятый бобёр»
Правила такие: выбирается число n — это количество правил машины Тьюринга
Нужно найти такую машину с n правилами, которая сделает больше всех шагов, прежде чем остановится
Эта машина и называется «занятым бобром», а соответствующее число, BB(n), — это максимальное количество её шагов
На первый взгляд задача кажется простой
Нужно лишь:
Перечислить все возможные машины с n правилами
Смоделировать их работу на компьютере
Отсечь те, что сразу уходят в бесконечные циклы
Для остальных записать, сколько шагов они успели сделать
Та машина, что проработает дольше всех, и будет «бобром-рекордсменом»
Ещё в 1936 году Алан Тьюринг показал, что универсального метода для этого не существует
Это открытие получило название проблемы остановки
Суть в том, что любая процедура, которая сможет корректно решать задачу для одних программ, обязательно окажется бесполезной для других
Есть ситуации, в которых никакой алгоритм не сможет дать ответ
Чтобы доказать это, Тьюринг ввёл строгую математическую модель вычислений — машину Тьюринга
В этой модели программы описываются как воображаемые устройства, выполняющие пошаговые действия по набору простых правил
Чем больше таких правил у машины, тем богаче её поведение и тем труднее заранее понять, завершится ли её работа или она зациклится навсегда
А насколько всё усложняется?
В 1962 году математик Тибор Радо предложил новый подход — он придумал игру под названием «занятый бобёр»
Правила такие: выбирается число n — это количество правил машины Тьюринга
Нужно найти такую машину с n правилами, которая сделает больше всех шагов, прежде чем остановится
Эта машина и называется «занятым бобром», а соответствующее число, BB(n), — это максимальное количество её шагов
На первый взгляд задача кажется простой
Нужно лишь:
Перечислить все возможные машины с n правилами
Смоделировать их работу на компьютере
Отсечь те, что сразу уходят в бесконечные циклы
Для остальных записать, сколько шагов они успели сделать
Та машина, что проработает дольше всех, и будет «бобром-рекордсменом»
Ml
«Ловушка для бобра» связана с одной из самых известных и трудных проблем информатики: можно ли заранее определить, завершит ли программа работу или будет выполняться бесконечно? Ещё в 1936 году Алан Тьюринг показал, что универсального метода для этого не…
Но на практике всё гораздо сложнее
Количество возможных машин растёт лавинообразно с увеличением числа правил
Проверять каждую вручную бессмысленно, поэтому приходится писать специальные программы, чтобы классифицировать и отбраковывать варианты
Некоторые машины легко раскусить: они быстро останавливаются или застревают в очевидных циклах
Но есть и такие, что работают очень долго, не проявляя никаких заметных закономерностей
И именно здесь в полную силу проявляется «проклятие проблемы остановки»
Чем больше правил у машины, тем больше вычислительной мощности требуется для анализа
Но простого увеличения мощности недостаточно — некоторые машины работают так долго, что их пошаговое моделирование становится просто невозможным
Чтобы разобраться с ними, нужны специальные математические трюки
Как отметил инженер-программист и опытный исследователь «бобров» Шон Лигоцки, современные технологии, конечно, помогают, но их возможностей далеко не всегда хватает
И всё же даже самые мощные компьютеры и самые хитрые алгоритмы оказываются бессильны перед некоторыми машинами Тьюринга
Они работают так долго и так непредсказуемо, что шаг за шагом моделировать их попросту невозможно
Для этого уже нужны не железо и код, а новые математические идеи
Именно здесь охота за «занятым бобром» превращается в настоящее приключение на грани науки и искусства — где числа перестают быть просто числами и становятся вызовом для нашего воображения
Что же было дальше?
В этой точке начинается совершенно новая глава истории, в которой появляются рекорды, не помещающиеся во Вселенную, загадочные машины вроде «Антигидры» и неожиданные связи с другими великими проблемами математики
Количество возможных машин растёт лавинообразно с увеличением числа правил
Проверять каждую вручную бессмысленно, поэтому приходится писать специальные программы, чтобы классифицировать и отбраковывать варианты
Некоторые машины легко раскусить: они быстро останавливаются или застревают в очевидных циклах
Но есть и такие, что работают очень долго, не проявляя никаких заметных закономерностей
И именно здесь в полную силу проявляется «проклятие проблемы остановки»
Чем больше правил у машины, тем больше вычислительной мощности требуется для анализа
Но простого увеличения мощности недостаточно — некоторые машины работают так долго, что их пошаговое моделирование становится просто невозможным
Чтобы разобраться с ними, нужны специальные математические трюки
Как отметил инженер-программист и опытный исследователь «бобров» Шон Лигоцки, современные технологии, конечно, помогают, но их возможностей далеко не всегда хватает
И всё же даже самые мощные компьютеры и самые хитрые алгоритмы оказываются бессильны перед некоторыми машинами Тьюринга
Они работают так долго и так непредсказуемо, что шаг за шагом моделировать их попросту невозможно
Для этого уже нужны не железо и код, а новые математические идеи
Именно здесь охота за «занятым бобром» превращается в настоящее приключение на грани науки и искусства — где числа перестают быть просто числами и становятся вызовом для нашего воображения
Что же было дальше?
В этой точке начинается совершенно новая глава истории, в которой появляются рекорды, не помещающиеся во Вселенную, загадочные машины вроде «Антигидры» и неожиданные связи с другими великими проблемами математики
Cимуляции - это будущее
Главный тренд сезона - огромные траты OpenAI/Anthropic на обучение с подкреплением, они платят $1+млрд, а стартапы - $500k
Новая волна обучения ИИ связана не с данными из интернета, а наблюдением за работой реальных людей
Исполнительный директор OpenAI считает, что вся экономика превратится в «машину обучения с подкреплением»
Anthropic и OpenAI, обучают большие языковые модели работать с реальными корпоративными приложениями — от Salesforce и Zendesk до медицинских систем Cerner и Excel
Модели тренируют в симулированных средах, где они экспериментируют с софтом, а эксперты-люди (программисты, врачи, биологи и тд) показывают, как выполнять задачи пошагово
Например, Ml учится фильтровать лиды в Salesforce и обновлять статусы
Об этом Google говорили ещё в январе 2025 года
Anthropic планирует вложить $1.000.000.000 в такие среды в 2026 году, OpenAI — до $8.000.000.000 к 2030-му
Эксперты тоже дорожают, уже сейчас топ-специалисты получают $90-120/час, а скоро — до $250
Стартапы вроде Turing и Scale строят тысячи таких "тренажёров" для Ml, создавая новую экосистему
Это решает проблему ограничений традиционного обучения ИИ и открывает путь к новым продуктам — от Ml-агентов до корпоративного софта
Напомним, что Дэмис Хассабис говорил о симуляции ещё в августе, а именно, что за этим будущее Ml и агентов
Главный тренд сезона - огромные траты OpenAI/Anthropic на обучение с подкреплением, они платят $1+млрд, а стартапы - $500k
Новая волна обучения ИИ связана не с данными из интернета, а наблюдением за работой реальных людей
Исполнительный директор OpenAI считает, что вся экономика превратится в «машину обучения с подкреплением»
Anthropic и OpenAI, обучают большие языковые модели работать с реальными корпоративными приложениями — от Salesforce и Zendesk до медицинских систем Cerner и Excel
Модели тренируют в симулированных средах, где они экспериментируют с софтом, а эксперты-люди (программисты, врачи, биологи и тд) показывают, как выполнять задачи пошагово
Например, Ml учится фильтровать лиды в Salesforce и обновлять статусы
Об этом Google говорили ещё в январе 2025 года
Anthropic планирует вложить $1.000.000.000 в такие среды в 2026 году, OpenAI — до $8.000.000.000 к 2030-му
Эксперты тоже дорожают, уже сейчас топ-специалисты получают $90-120/час, а скоро — до $250
Стартапы вроде Turing и Scale строят тысячи таких "тренажёров" для Ml, создавая новую экосистему
Это решает проблему ограничений традиционного обучения ИИ и открывает путь к новым продуктам — от Ml-агентов до корпоративного софта
Напомним, что Дэмис Хассабис говорил о симуляции ещё в августе, а именно, что за этим будущее Ml и агентов
The Information
How Anthropic and OpenAI Are Developing AI ‘Co-Workers’
Anthropic, OpenAI and other artificial intelligence developers are sending large language models to the office. The AI models are being taught how to use everything from Salesforce’s customer relationship management software to Zendesk’s customer support…
Российские физики сделали мировой рекорд - 10-кубитный квантовый гейт
Команда под руководством академика Николая Колачевского из физического института имени П.Н. Лебедева РАН и Алексея Федорова из РКЦ создала гейт Тоффоли для 10 квантовых систем
Вместо обычных кубитов, которые имеют только два состояния — 0 или 1, они использовали кудиты — системы с несколькими состояниями, что позволило сделать вычисления более эффективными
Такой подход ускоряет и улучшает квантовые вычисления, особенно для задач вроде поиска в больших базах данных или сложной оптимизации
Это можно применить не только к ионным системам, но и к другим квантовым технологиям
Это особенно важно для современных квантовых компьютеров, которые пока работают с ограничениями
Команда под руководством академика Николая Колачевского из физического института имени П.Н. Лебедева РАН и Алексея Федорова из РКЦ создала гейт Тоффоли для 10 квантовых систем
Вместо обычных кубитов, которые имеют только два состояния — 0 или 1, они использовали кудиты — системы с несколькими состояниями, что позволило сделать вычисления более эффективными
Такой подход ускоряет и улучшает квантовые вычисления, особенно для задач вроде поиска в больших базах данных или сложной оптимизации
Это можно применить не только к ионным системам, но и к другим квантовым технологиям
Это особенно важно для современных квантовых компьютеров, которые пока работают с ограничениями
lebedev.ru
ФИАН - Ученые российского Квантового проекта показали мировой рекорд в квантовых вычислениях
Anthropic показал,как ИИ-агенты учатся искать информацию по-человечески
Основная идея - Ml-агенты должны использовать файловые системы для работы с данными, вместо попыток держать всю информацию в контексте
Разработчик из Anthropic показал, как Ml-агенты могут решать такие задачи по-новому, не пытаясь запомнить всю вашу переписку
Он создал Ml-агента для работы с электронной почтой
Вместо того, чтобы анализировать весь почтовый ящик одновременно, система:
- Получает запрос найти информацию о конкретном человеке
- Ищет письма с его адресом или упоминаниями имени
- Сохраняет найденные письма в рабочие файлы
- Анализирует их содержание для извлечения нужных данных
- При необходимости делает дополнительные поисковые запросы
Результат превзошёл ожидания - система самостоятельно составила подробный профиль пользователя, включая историю адресов, контакты и профессиональную информацию
Документация по безопасности
Основная идея - Ml-агенты должны использовать файловые системы для работы с данными, вместо попыток держать всю информацию в контексте
Разработчик из Anthropic показал, как Ml-агенты могут решать такие задачи по-новому, не пытаясь запомнить всю вашу переписку
Он создал Ml-агента для работы с электронной почтой
Вместо того, чтобы анализировать весь почтовый ящик одновременно, система:
- Получает запрос найти информацию о конкретном человеке
- Ищет письма с его адресом или упоминаниями имени
- Сохраняет найденные письма в рабочие файлы
- Анализирует их содержание для извлечения нужных данных
- При необходимости делает дополнительные поисковые запросы
Результат превзошёл ожидания - система самостоятельно составила подробный профиль пользователя, включая историю адресов, контакты и профессиональную информацию
Документация по безопасности
GitHub
GitHub - anthropics/claude-code-sdk-demos: Claude Code SDK Demos
Claude Code SDK Demos. Contribute to anthropics/claude-code-sdk-demos development by creating an account on GitHub.
Комитет политических действий, выступающий за развитие Ml, под названием «Американский проект технологического совершенства» (American Technology Excellence Project), — это последняя попытка бороться с политикой, которая, по её мнению, препятствует развитию Ml
Суперкомитет политических действий (Super PAC) сосредоточится на продвижении и защите американских технологических компаний и руководства, поддержке прогресса в области искусственного интеллекта и предоставлении родителям возможности контролировать, как их дети используют онлайн-приложения и технологии искусственного интеллекта
Cуперкомитет политических действий (Super PAC) будет возглавляться ветераном-республиканцем и консалтинговой фирмой демократов Hilltop Public Solutions
Комитет будет работать над избранием политиков, дружественных к технологиям, от обеих партий на промежуточных выборах в следующем году
https://www.axios.com/2025/09/23/meta-superpac-ai-regulation
Суперкомитет политических действий (Super PAC) сосредоточится на продвижении и защите американских технологических компаний и руководства, поддержке прогресса в области искусственного интеллекта и предоставлении родителям возможности контролировать, как их дети используют онлайн-приложения и технологии искусственного интеллекта
Cуперкомитет политических действий (Super PAC) будет возглавляться ветераном-республиканцем и консалтинговой фирмой демократов Hilltop Public Solutions
Комитет будет работать над избранием политиков, дружественных к технологиям, от обеих партий на промежуточных выборах в следующем году
https://www.axios.com/2025/09/23/meta-superpac-ai-regulation
10 лет назад на конференции Airbnb Open Air 2015:
Как за те же годы менялась риторика о том, что беспокоит при разработке все более мощных ИИ:
• от
в 2015
• до
в 2025
Ссылки на источники высказываний см. под графиком в твите
«ИИ, скорее всего, приведёт к концу света, но до тех пор появятся отличные компании»
Что и было сделано, - достаточно посмотреть на кривую роста оценки стоимости OpenAI за прошедшие 10 летКак за те же годы менялась риторика о том, что беспокоит при разработке все более мощных ИИ:
• от
«Разработка сверхчеловеческого машинного интеллекта, вероятно, является величайшей угрозой для дальнейшего существования человечества»
в 2015
• до
«Больше всего я всегда беспокоюсь о неизвестных неизвестных [...] это глупый пример, но он недавно поразил меня: у больших языковых моделей есть определённый стиль
Они говорят в определённом ритме, у них немного необычная дикция, и они злоупотребляют длинными тире
И я недавно заметил, что реальные люди это переняли»
в 2025
Ссылки на источники высказываний см. под графиком в твите
🔥2
Google представил Gemini Robotics 1.5 — первую модель мышления для воплощенного рассуждения, делающую роботов умнее и автономнее
Что умеет:
- Анализировать сложные ситуации
- Планировать многоэтапные задачи
- Использовать поисковик и цифровые инструменты Google
- Естественно взаимодействовать с людьми
- Адаптироваться к изменениям
Она имеет двухуровневую архитектуру:
1. Gemini Robotics-ER 1.5 ("мозг"): координирует, планирует, взаимодействует
2. Gemini Robotics 1.5 ("исполнитель"): выполняет точные действия
Модель уникальна тем, что:
- "Думает" перед действием, создавая план на естественном языке
- Работает с разными роботами без специализации
- Доступна через Gemini API
Самые продвинутые конкуренты, такие как Physical Intelligence, Figure, 1X, Boston Dynamics, Tesla, NVIDIA отстают так как:
- Нет интеграции с веб-поиском
- Нет продвинутого планирования и рассуждений
- Фокус на промышленности, ловкости или массовом производстве
Что умеет:
- Анализировать сложные ситуации
- Планировать многоэтапные задачи
- Использовать поисковик и цифровые инструменты Google
- Естественно взаимодействовать с людьми
- Адаптироваться к изменениям
Она имеет двухуровневую архитектуру:
1. Gemini Robotics-ER 1.5 ("мозг"): координирует, планирует, взаимодействует
2. Gemini Robotics 1.5 ("исполнитель"): выполняет точные действия
Модель уникальна тем, что:
- "Думает" перед действием, создавая план на естественном языке
- Работает с разными роботами без специализации
- Доступна через Gemini API
Самые продвинутые конкуренты, такие как Physical Intelligence, Figure, 1X, Boston Dynamics, Tesla, NVIDIA отстают так как:
- Нет интеграции с веб-поиском
- Нет продвинутого планирования и рассуждений
- Фокус на промышленности, ловкости или массовом производстве
Google DeepMind
Gemini Robotics 1.5 brings AI agents into the physical world
We’re powering an era of physical agents — enabling robots to perceive, plan, think, use tools and act to better solve complex multi-step tasks.
Стартап с лицензией FDA говорит, что человеческий опыт теперь можно программировать.
Mindstate Design Labs создали ИИ-платформу Osmanthus, которая:
- Анализирует паттерны активности нейромедиаторов для каждого ментального состояния
- Использует данные более чем 70.000 психоделических опытов
- Применяет машинное обучение, статистику и семантические модели
- Создает карту модульной системы воздействия различных психоделиков
Mindstate Design Labs объявил о завершении 1-ого испытания на 52 здоровых добровольцах их нейротехнологической платформы для программирования ментальных состояний на молекулярном уровне
Компания получила разрешение FDA и европейского регулятора на клинические испытания препарата MSD-001, который создает эмоцию, усиливающую эстетическое восприятие без галлюцинаций
По сути, это
модифицированная версия психоделика 5-MeO-MiPT
Основная идея - использовать это вещество как "базу", к которой можно добавлять другие компоненты для получения специфических эффектов
Интересный проект, но команда недооценивает реальные ограничения:
1. Сложность мозга
2. Риски комбинаций
Вещества, безопасные по отдельности, могут давать непредсказуемые эффекты при сочетании
3. Люди очень по-разному реагируют на психоактивные вещества
Универсальных "эмоций в бутылке" может и не получиться
Mindstate Design Labs создали ИИ-платформу Osmanthus, которая:
- Анализирует паттерны активности нейромедиаторов для каждого ментального состояния
- Использует данные более чем 70.000 психоделических опытов
- Применяет машинное обучение, статистику и семантические модели
- Создает карту модульной системы воздействия различных психоделиков
Mindstate Design Labs объявил о завершении 1-ого испытания на 52 здоровых добровольцах их нейротехнологической платформы для программирования ментальных состояний на молекулярном уровне
Компания получила разрешение FDA и европейского регулятора на клинические испытания препарата MSD-001, который создает эмоцию, усиливающую эстетическое восприятие без галлюцинаций
По сути, это
модифицированная версия психоделика 5-MeO-MiPT
Основная идея - использовать это вещество как "базу", к которой можно добавлять другие компоненты для получения специфических эффектов
Интересный проект, но команда недооценивает реальные ограничения:
1. Сложность мозга
2. Риски комбинаций
Вещества, безопасные по отдельности, могут давать непредсказуемые эффекты при сочетании
3. Люди очень по-разному реагируют на психоактивные вещества
Универсальных "эмоций в бутылке" может и не получиться
WIRED
A Startup Used AI to Make a Psychedelic Without the Trip
Mindstate Design Labs, backed by Silicon Valley power players, has created what its CEO calls “the least psychedelic psychedelic that’s psychoactive.”
🔥1
OpenAI запускает функцию автоматических сводок ChatGPT Pulse, которая создает персонализированные отчеты для пользователей в автоматическом режиме
Сервис генерирует от 5 до 10 брифингов и призван побудить пользователей проверять ChatGPT с утра вместо соцсетей или новостных приложений
Pulse стала частью изменения стратегии потребительских продуктов OpenAI
Компания переходит от реактивных систем к проактивным решениям, работающим без прямых запросов пользователя
Похожий подход используют ChatGPT Agent и Codex, превращая ChatGPT из чат-бота в полноценного ассистента
https://mltimes.ai/openai-zapuskaet-funkcziyu-avtomaticheskih-svodok-chatgpt-pulse/
Сервис генерирует от 5 до 10 брифингов и призван побудить пользователей проверять ChatGPT с утра вместо соцсетей или новостных приложений
Pulse стала частью изменения стратегии потребительских продуктов OpenAI
Компания переходит от реактивных систем к проактивным решениям, работающим без прямых запросов пользователя
Похожий подход используют ChatGPT Agent и Codex, превращая ChatGPT из чат-бота в полноценного ассистента
https://mltimes.ai/openai-zapuskaet-funkcziyu-avtomaticheskih-svodok-chatgpt-pulse/
MLTimes
OpenAI запускает функцию автоматических сводок ChatGPT Pulse - MLTimes