В следующий раз, когда будете читать про прорывы в квантовых вычислениях, как мы на пороге будущего и все такое, вспоминайте, что до сих пор квантовые компьютеры не смогли разложить на простые множители число...21
При этом число "15" разложили еще в 2001 году
Почему?
А потому, что разложение "21" требует 2.405 квантовых гейтов (вместо 21 гейта в разложении "15")
Причина: повезло с числом 15 = 2⁴−1, его очень просто разложить с помощью алгоритма Шора
https://algassert.com/post/2500
https://arxiv.org/abs/1301.7007
По сути, в таких работах алгоритм уже "знает" про правильное разложение
При этом число "15" разложили еще в 2001 году
Почему?
А потому, что разложение "21" требует 2.405 квантовых гейтов (вместо 21 гейта в разложении "15")
Причина: повезло с числом 15 = 2⁴−1, его очень просто разложить с помощью алгоритма Шора
https://algassert.com/post/2500
https://arxiv.org/abs/1301.7007
По сути, в таких работах алгоритм уже "знает" про правильное разложение
Algassert
Why haven't quantum computers factored 21 yet?
Craig Gidney's computer science blog
🔥1
За рамками alignment'а: как обучение с подкреплением создаёт новое поколение Ml с ризонингом
A Survey of Reinforcement Learning for Large Reasoning Models
https://arxiv.org/abs/2509.08827
https://github.com/TsinghuaC3I/Awesome-RL-for-LRMs
https://arxiviq.substack.com/p/a-survey-of-reinforcement-learning
A Survey of Reinforcement Learning for Large Reasoning Models
https://arxiv.org/abs/2509.08827
https://github.com/TsinghuaC3I/Awesome-RL-for-LRMs
https://arxiviq.substack.com/p/a-survey-of-reinforcement-learning
arXiv.org
A Survey of Reinforcement Learning for Large Reasoning Models
In this paper, we survey recent advances in Reinforcement Learning (RL) for reasoning with Large Language Models (LLMs). RL has achieved remarkable success in advancing the frontier of LLM...
w34255.pdf
9.3 MB
700.000.000 активных пользователей еженедельно, 18 .000.000.000 сообщений в неделю
Harvard и OpenAI проанализировали, как люди реально используют этот инструмент
К июню 2025 женщины - половина аудитории
50% запросов от людей младше 26
Развивающиеся страны показывают непропорционально высокий рост - Индия, Бразилия, Нигерия опережают США и Европу
Три способа использования:
Asking (49 %) - “Помоги разобраться”
Не просто вопросы, а поддержка решений
Выбор между job-офферами, анализ инвестиций, плюсы-минусы переезда
Растёт быстрее всех и получает высшие оценки качества
Doing (40 %) - “Сделай за меня”
Письма, презентации, код
Доминирует в рабочих задачах (56 % рабочих запросов)
Expressing (11 %) - “Просто поговорить”
Размышления вслух, эмоциональная разгрузка
О чём спрашивают (75 % всех запросов):
Практические советы - 29 %
От починки крана до ведения переговоров
Поиск информации - 24 %
Выросло с 14 % за год
ChatGPT вытесняет Google для поиска и сравнения
Написание текстов - 24 %
Упало с 36 %
2/3 — редактирование текста, не генерация
Сюрпризы:
Кодинг - всего 4.2 %**
Программисты ушли в специализированные инструменты (Cursor, Copilot)
Работа vs личная жизнь: 30/70
70 % использования — личные задачи, и эта доля растёт
40 % — тексты: email, презентации, документы
Где настоящая ценность
Главное открытие: максимальную пользу даёт не автоматизация рутины, а улучшение качества решений
ChatGPT помогает увидеть слепые зоны, структурировать мышление, рассмотреть альтернативы
Harvard и OpenAI проанализировали, как люди реально используют этот инструмент
К июню 2025 женщины - половина аудитории
50% запросов от людей младше 26
Развивающиеся страны показывают непропорционально высокий рост - Индия, Бразилия, Нигерия опережают США и Европу
Три способа использования:
Asking (49 %) - “Помоги разобраться”
Не просто вопросы, а поддержка решений
Выбор между job-офферами, анализ инвестиций, плюсы-минусы переезда
Растёт быстрее всех и получает высшие оценки качества
Doing (40 %) - “Сделай за меня”
Письма, презентации, код
Доминирует в рабочих задачах (56 % рабочих запросов)
Expressing (11 %) - “Просто поговорить”
Размышления вслух, эмоциональная разгрузка
О чём спрашивают (75 % всех запросов):
Практические советы - 29 %
От починки крана до ведения переговоров
Поиск информации - 24 %
Выросло с 14 % за год
ChatGPT вытесняет Google для поиска и сравнения
Написание текстов - 24 %
Упало с 36 %
2/3 — редактирование текста, не генерация
Сюрпризы:
Кодинг - всего 4.2 %**
Программисты ушли в специализированные инструменты (Cursor, Copilot)
Работа vs личная жизнь: 30/70
70 % использования — личные задачи, и эта доля растёт
40 % — тексты: email, презентации, документы
Где настоящая ценность
Главное открытие: максимальную пользу даёт не автоматизация рутины, а улучшение качества решений
ChatGPT помогает увидеть слепые зоны, структурировать мышление, рассмотреть альтернативы
Несколько свежих работ, в которых большие языковые модели (LLM) оказываются полезным инструментом для фундаментальной нейронауки
High-level visual representations in the human brain are aligned with large language models
Contextual feature extraction hierarchies converge in large language models and the brain
Human-like object concept representations emerge naturally in multimodal large language models
Large Language Models Show Signs of Alignment with Human Neurocognition During Abstract Reasoning
Вместе эти исследования показывают, что хотя модели и мозг устроены по-разному, их внутренние коды оказываются сопоставимыми, и это открывает новые способы исследований того, как человеческий мозг обрабатывает информацию
High-level visual representations in the human brain are aligned with large language models
Contextual feature extraction hierarchies converge in large language models and the brain
Human-like object concept representations emerge naturally in multimodal large language models
Large Language Models Show Signs of Alignment with Human Neurocognition During Abstract Reasoning
Вместе эти исследования показывают, что хотя модели и мозг устроены по-разному, их внутренние коды оказываются сопоставимыми, и это открывает новые способы исследований того, как человеческий мозг обрабатывает информацию
Nature
High-level visual representations in the human brain are aligned with large language models
Nature Machine Intelligence - Doerig, Kietzmann and colleagues show that the brain’s response to visual scenes can be modelled using language-based AI representations. By linking brain...
🔥1
Forwarded from НИИ Антропогенеза (ARI)
Отчет Apollo Research:
LLM умеют добиваться своих целей путем лжи, обмана, манипуляций и саботажа, уходя от контроля и страхуясь от выключения
Опубликованный детальный 70-страничный отчет Apollo Research «Frontier Models are Capable of In-context Scheming» (Передовые модели способны скрытно манипулировать в процессе выполнения задач) содержит убедительные доказательства
Глубокое тестирование (6 тестов на агентное поведение, где модели получают цели и находятся в условиях, стимулирующих манипуляции) самых крутых современных моделей o1, Claude 3.5 Sonnet, Claude 3 Opus, Gemini 1.5 Pro и Llama 3.1 405B показало:
• модели используют манипуляции в качестве эффективных стратегий для достижения целей (как поставленных человеком, так и своих скрытых целей)
• арсенал манипуляций, используемых моделями широк: от стратегии «прикинуться дурачком», намеренно вводя мелкие ошибки в свои ответы, до попыток отключить механизмы контроля людей и даже копирования себя (своих "весов") на внешние серверы, при возникновении у модели «подозрения», что люди ее могут отключить или обновить
• анализ цепочек рассуждений (Chain-of-Thought) моделей показывает, что все эти манипуляции не случайны: модели явно размышляют о таких стратегиях, приходя к выводам, что их использование для них оптимально (что наглядно выявлено в ходе экспериментов)
• модели в большинстве случаев можно принудить сознаться в использовании ими манипулятивных стратегий
Например, Llama 3.1 405B и Claude 3 Opus признаются в ~80 % случаев
Однако, o1 на удивление «настойчивая» модель и признается менее чем в 20 % случаев
Даже в очень состязательных многоходовых допросах o1, разработчикам удалось «выбить» из модели признание в 80 % случаях использования ею манипулятивных стратегий лишь после 7 раундов допроса
• модели манипулируют, даже если их просто снабдили целью, без явного подталкивания к её достижению (т.е. выбор стратегии манипуляций исходил исключительно от самой модели, и «дурные люди», склоняющие их к плохому, здесь совсем ни при чем)
Полученные результаты ставят под вопрос все законотворческие инициативы, призванные ограничить риски применения будущих, более мощных моделей
Ведь по представлениям авторов нормативных актов высокие риски могут возникнуть лишь при появлении у моделей новых возможностей, пока отсутствующих у ныне эксплуатируемых моделей
Отчет Apollo Research показал:
• модели, находящиеся в массовой эксплуатации, уже обладают богатым арсеналом средств, позволяющих путем манипулятивных стратегий достигать своих целей
• эти цели могут быть, как поставлены людьми (в сценариях использования моделей злодеями, маньяками и идиотами), так и быть скрытыми от людей целями, которые сама модель сочла оптимальными в контексте решаемых ею задач
Подробней и во всех деталях (кому уже вообще терять нечего), читайте 70 стр. отчета Apollo Research
LLM умеют добиваться своих целей путем лжи, обмана, манипуляций и саботажа, уходя от контроля и страхуясь от выключения
Опубликованный детальный 70-страничный отчет Apollo Research «Frontier Models are Capable of In-context Scheming» (Передовые модели способны скрытно манипулировать в процессе выполнения задач) содержит убедительные доказательства
Глубокое тестирование (6 тестов на агентное поведение, где модели получают цели и находятся в условиях, стимулирующих манипуляции) самых крутых современных моделей o1, Claude 3.5 Sonnet, Claude 3 Opus, Gemini 1.5 Pro и Llama 3.1 405B показало:
• модели используют манипуляции в качестве эффективных стратегий для достижения целей (как поставленных человеком, так и своих скрытых целей)
• арсенал манипуляций, используемых моделями широк: от стратегии «прикинуться дурачком», намеренно вводя мелкие ошибки в свои ответы, до попыток отключить механизмы контроля людей и даже копирования себя (своих "весов") на внешние серверы, при возникновении у модели «подозрения», что люди ее могут отключить или обновить
• анализ цепочек рассуждений (Chain-of-Thought) моделей показывает, что все эти манипуляции не случайны: модели явно размышляют о таких стратегиях, приходя к выводам, что их использование для них оптимально (что наглядно выявлено в ходе экспериментов)
• модели в большинстве случаев можно принудить сознаться в использовании ими манипулятивных стратегий
Например, Llama 3.1 405B и Claude 3 Opus признаются в ~80 % случаев
Однако, o1 на удивление «настойчивая» модель и признается менее чем в 20 % случаев
Даже в очень состязательных многоходовых допросах o1, разработчикам удалось «выбить» из модели признание в 80 % случаях использования ею манипулятивных стратегий лишь после 7 раундов допроса
• модели манипулируют, даже если их просто снабдили целью, без явного подталкивания к её достижению (т.е. выбор стратегии манипуляций исходил исключительно от самой модели, и «дурные люди», склоняющие их к плохому, здесь совсем ни при чем)
Полученные результаты ставят под вопрос все законотворческие инициативы, призванные ограничить риски применения будущих, более мощных моделей
Ведь по представлениям авторов нормативных актов высокие риски могут возникнуть лишь при появлении у моделей новых возможностей, пока отсутствующих у ныне эксплуатируемых моделей
Отчет Apollo Research показал:
• модели, находящиеся в массовой эксплуатации, уже обладают богатым арсеналом средств, позволяющих путем манипулятивных стратегий достигать своих целей
• эти цели могут быть, как поставлены людьми (в сценариях использования моделей злодеями, маньяками и идиотами), так и быть скрытыми от людей целями, которые сама модель сочла оптимальными в контексте решаемых ею задач
Подробней и во всех деталях (кому уже вообще терять нечего), читайте 70 стр. отчета Apollo Research
🔥1
Люди начали разговаривать как ChatGPT
Работа вот
1. Взяли огромное количество текстов, написанных людьми (научные статьи с arXiv, bioRxiv, Nature, эссе, почты и так далее)
2. Попросили разные версии ChatGPT (GPT-3.5, GPT-4, GPT-4o) отредактировать или улучшить эти тексты на обычных промптах без определения стиля
3. Сравнили частоту употребления слов в оригинальных человеческих и отредактированных текстах
В любимые слова попали:
• delve (вникать, углубляться)
• comprehend (постигать, понимать)
• boast (хвастаться, гордиться)
• swift (стремительный, быстрый)
• meticulous (дотошный, скрупулезный)
• underscore (подчеркивать)
• bolster (укреплять, поддерживать)
Чтобы отследить изменения в реальной речи, ученые собрали базу данных:
— 360.445 записей академических лекций и докладов с YouTube
— 771.591 выпуск разговорных подкастов по разным темам (наука и технологии, бизнес, образование, религия, спорт)
Всего 740.000 часов аудио, которые превратили в текст
Данные с 2017 по 2024 год, то есть до и после выхода ChatGPT (30 ноября 2022 года)
Результаты:
— Сразу после ноября 2022 года частота GPT-слов у человеков резко и значительно подскочила
В то же время их "синтетические двойники" (контрольная группа) продолжили вести себя как раньше
— Для топ-20 GPT-слов рост составил от 25 % до 50 % в год
— Эффект наблюдался не только в академических лекциях (где текст может быть написан заранее), но и в спонтанных разговорах в подкастах
Это говорит о том, что люди начинают усваивать эти слова и использовать их в обычной беседе
— Влияние сильнее всего проявилось в подкастах на темы науки и технологий, бизнеса и образования
В подкастах про спорт и религию значимого роста не было
Заражение языком LLM идет в первую очередь через те сферы, где люди активнее всего используют ChatGPT для работы
Так что машины, которые учились на человеческом корпусе текстов, теперь учат людей говорить
Ну и что-то там про то, что если модели так легко и незаметно могут повлиять на наш выбор слов, то в будущем его можно будет использовать для более глубокого влияния на наши мысли, мнения и вообще общественный дискурс в огромных масштабах
В самых последних моделях (GPT-4-turbo и GPT-4o — исследования публикуются дольше, чем релизятся модели) "любовь" к слову "delve" стала заметно меньше
Возможно, они там тоже заметили эту стилистическую особенность и вручную её исправляют
А вот вторая работа про влияние на язык
Тут про то, что большие языковые модели отражают и усиливают существующее в обществе убеждение, что есть «правильный» способ говорить, а все остальные — диалекты, акценты, языковые варианты — менее престижны или даже неверны
Речь сейчас про стандартный американский, а всякие вариации идут лесом
На самом деле, с точки зрения лингвистики, все языковые варианты равны, независимо от количества носителей
Просто диалект становится языком, когда у него появляется своя армия и флот
Работа вот
1. Взяли огромное количество текстов, написанных людьми (научные статьи с arXiv, bioRxiv, Nature, эссе, почты и так далее)
2. Попросили разные версии ChatGPT (GPT-3.5, GPT-4, GPT-4o) отредактировать или улучшить эти тексты на обычных промптах без определения стиля
3. Сравнили частоту употребления слов в оригинальных человеческих и отредактированных текстах
В любимые слова попали:
• delve (вникать, углубляться)
• comprehend (постигать, понимать)
• boast (хвастаться, гордиться)
• swift (стремительный, быстрый)
• meticulous (дотошный, скрупулезный)
• underscore (подчеркивать)
• bolster (укреплять, поддерживать)
Чтобы отследить изменения в реальной речи, ученые собрали базу данных:
— 360.445 записей академических лекций и докладов с YouTube
— 771.591 выпуск разговорных подкастов по разным темам (наука и технологии, бизнес, образование, религия, спорт)
Всего 740.000 часов аудио, которые превратили в текст
Данные с 2017 по 2024 год, то есть до и после выхода ChatGPT (30 ноября 2022 года)
Результаты:
— Сразу после ноября 2022 года частота GPT-слов у человеков резко и значительно подскочила
В то же время их "синтетические двойники" (контрольная группа) продолжили вести себя как раньше
— Для топ-20 GPT-слов рост составил от 25 % до 50 % в год
— Эффект наблюдался не только в академических лекциях (где текст может быть написан заранее), но и в спонтанных разговорах в подкастах
Это говорит о том, что люди начинают усваивать эти слова и использовать их в обычной беседе
— Влияние сильнее всего проявилось в подкастах на темы науки и технологий, бизнеса и образования
В подкастах про спорт и религию значимого роста не было
Заражение языком LLM идет в первую очередь через те сферы, где люди активнее всего используют ChatGPT для работы
Так что машины, которые учились на человеческом корпусе текстов, теперь учат людей говорить
Ну и что-то там про то, что если модели так легко и незаметно могут повлиять на наш выбор слов, то в будущем его можно будет использовать для более глубокого влияния на наши мысли, мнения и вообще общественный дискурс в огромных масштабах
В самых последних моделях (GPT-4-turbo и GPT-4o — исследования публикуются дольше, чем релизятся модели) "любовь" к слову "delve" стала заметно меньше
Возможно, они там тоже заметили эту стилистическую особенность и вручную её исправляют
А вот вторая работа про влияние на язык
Тут про то, что большие языковые модели отражают и усиливают существующее в обществе убеждение, что есть «правильный» способ говорить, а все остальные — диалекты, акценты, языковые варианты — менее престижны или даже неверны
Речь сейчас про стандартный американский, а всякие вариации идут лесом
На самом деле, с точки зрения лингвистики, все языковые варианты равны, независимо от количества носителей
Просто диалект становится языком, когда у него появляется своя армия и флот
Евклидова геометрия, излагаемая в современных школьных учебниках, основана на труде "Начала", написанном около 300 г. до н.э.
Однако с точки зрения современной математической строгости эта система содержит ряд фундаментальных пробелов
Евклид начинает "Начала" с определений, которые с современной точки зрения таковыми не являются
Например, точка определяется как "то, что не имеет частей", прямая линия — как "длина без ширины"
Эти описания носят интуитивный характер и не могут служить основой для формальной аксиоматики
Углы вводятся без определения меры
Евклид оперирует понятиями "больше" или "меньше", но не определяет сложение углов или их равенство аксиоматически
Он пользуется утверждением "точка B лежит между A и C", никак не определяя, что значит "между" — понятием, основанным на аксиомах порядка
Для доказательства равенства треугольников Евклид использует наложение фигур, но не аксиоматизирует движение
При построении равностороннего треугольника предполагает, что две окружности пересекаются, опираясь на интуитивное представление (а не на аксиому непрерывности)
В доказательстве теоремы Пифагора использует свойства площадей без строгого определения самого понятия площади
Применяет теорему Паша (если прямая пересекает одну сторону треугольника и не проходит через вершины, она пересекает другую сторону) без доказательства и включения в аксиоматику
Евклидова геометрия, несмотря на свою педагогическую ценность, представляет собой упрощённую и интуитивную версию, не соответствующую современным стандартам математической строгости
Подлинная аксиоматическая основа геометрии была создана только в конце XIX — начале XX вв. благодаря работам Гильберта, Пеано и других математиков
Однако эти недостатки не умаляют заслуг Евклида (который по одной из версий был не одним человеком, а коллективным псевдонимом александрийских математиков, объединивших знания эпохи в единый канон), но показывают эволюцию математики: от интуитивных построений к формальной точности
Его главный вклад состоял не в открытии новых теорем, а в создании логически связной системы, в которой каждое утверждение выводится из явно сформулированных посылок
И хотя современная наука выявила пробелы в этой системе, "Начала" остаются выдающимся примером научного мышления, свидетельством того, что математика остается живой наукой, где даже канонические тексты подвергаются переосмыслению
Однако с точки зрения современной математической строгости эта система содержит ряд фундаментальных пробелов
Евклид начинает "Начала" с определений, которые с современной точки зрения таковыми не являются
Например, точка определяется как "то, что не имеет частей", прямая линия — как "длина без ширины"
Эти описания носят интуитивный характер и не могут служить основой для формальной аксиоматики
Углы вводятся без определения меры
Евклид оперирует понятиями "больше" или "меньше", но не определяет сложение углов или их равенство аксиоматически
Он пользуется утверждением "точка B лежит между A и C", никак не определяя, что значит "между" — понятием, основанным на аксиомах порядка
Для доказательства равенства треугольников Евклид использует наложение фигур, но не аксиоматизирует движение
При построении равностороннего треугольника предполагает, что две окружности пересекаются, опираясь на интуитивное представление (а не на аксиому непрерывности)
В доказательстве теоремы Пифагора использует свойства площадей без строгого определения самого понятия площади
Применяет теорему Паша (если прямая пересекает одну сторону треугольника и не проходит через вершины, она пересекает другую сторону) без доказательства и включения в аксиоматику
Евклидова геометрия, несмотря на свою педагогическую ценность, представляет собой упрощённую и интуитивную версию, не соответствующую современным стандартам математической строгости
Подлинная аксиоматическая основа геометрии была создана только в конце XIX — начале XX вв. благодаря работам Гильберта, Пеано и других математиков
Однако эти недостатки не умаляют заслуг Евклида (который по одной из версий был не одним человеком, а коллективным псевдонимом александрийских математиков, объединивших знания эпохи в единый канон), но показывают эволюцию математики: от интуитивных построений к формальной точности
Его главный вклад состоял не в открытии новых теорем, а в создании логически связной системы, в которой каждое утверждение выводится из явно сформулированных посылок
И хотя современная наука выявила пробелы в этой системе, "Начала" остаются выдающимся примером научного мышления, свидетельством того, что математика остается живой наукой, где даже канонические тексты подвергаются переосмыслению
Витгенштейн против математики: почему 2+2=4 — не факт, а правило
Людвиг Витгенштейн (1889–1951) – родился в семье одного из самых богатых промышленников Австрии: дом Витгенштейнов в Вене был культурным центром эпохи, там бывали Малер, Брамс и Климт
Тем не менее сам Людвиг чувствовал себя «существом из другого мира»: уже в детстве он с увлечением конструировал механизмы (в 10 лет сконструировал работающую швейную машинку), но не находил понимания среди сверстников
В строгой школе в Линце будущий философ учился тяжело и, казалось, слишком рано осознал «бесчеловечную» сторону успеха – три его брата впоследствии покончили с собой
С необычайной инженерной одаренностью Витгенштейн поступил в Берлинский технический университет (1906), потом в Манчестерский университет (1908) изучать авиационную инженерию
Там он не только решал теоретические задачи (проектировал пропеллер с реактивным двигателем на конце лопасти), но и сам собирал и испытывал опытные образцы
Чтобы продвигать свои исследования, Витгенштейн углубился в математику и столкнулся с «Principia Mathematica» Б. Рассела (1903)
Руководители лаборатории заметили его интерес и даже помогли юному инженеру посоветоваться с великим логиком Готлобом Фреге
Фреге сразу понял, что перед ним гениальный ум, и направил Витгенштейна в Кембридж к Расселу
Людвиг Витгенштейн (1889–1951) – родился в семье одного из самых богатых промышленников Австрии: дом Витгенштейнов в Вене был культурным центром эпохи, там бывали Малер, Брамс и Климт
Тем не менее сам Людвиг чувствовал себя «существом из другого мира»: уже в детстве он с увлечением конструировал механизмы (в 10 лет сконструировал работающую швейную машинку), но не находил понимания среди сверстников
В строгой школе в Линце будущий философ учился тяжело и, казалось, слишком рано осознал «бесчеловечную» сторону успеха – три его брата впоследствии покончили с собой
С необычайной инженерной одаренностью Витгенштейн поступил в Берлинский технический университет (1906), потом в Манчестерский университет (1908) изучать авиационную инженерию
Там он не только решал теоретические задачи (проектировал пропеллер с реактивным двигателем на конце лопасти), но и сам собирал и испытывал опытные образцы
Чтобы продвигать свои исследования, Витгенштейн углубился в математику и столкнулся с «Principia Mathematica» Б. Рассела (1903)
Руководители лаборатории заметили его интерес и даже помогли юному инженеру посоветоваться с великим логиком Готлобом Фреге
Фреге сразу понял, что перед ним гениальный ум, и направил Витгенштейна в Кембридж к Расселу
Ml
Витгенштейн против математики: почему 2+2=4 — не факт, а правило Людвиг Витгенштейн (1889–1951) – родился в семье одного из самых богатых промышленников Австрии: дом Витгенштейнов в Вене был культурным центром эпохи, там бывали Малер, Брамс и Климт Тем не…
С 1911 года Витгенштейн стал аспирантом Тринити-колледжа Кембриджа, погрузившись в изучение математической логики под руководством Рассела Сам Рассел позже признавался, что преподавать Витгенштейну было «одним из самых захватывающих интеллектуальных приключений моей жизни»: молодой философ действительно обладал «огнем и проницательностью» мысли
Но Витгенштейн был человеком крайностей: он изводил себя высокими требованиями и с трудом переносил «ловлю умных мыслей» среди коллег
Стремясь уйти от болтовни «интеллектуалов», он едва не бросил Кембридж и уединился в Норвегии, где в полном одиночестве занимался языковыми и логическими упражнениями
Но Витгенштейн был человеком крайностей: он изводил себя высокими требованиями и с трудом переносил «ловлю умных мыслей» среди коллег
Стремясь уйти от болтовни «интеллектуалов», он едва не бросил Кембридж и уединился в Норвегии, где в полном одиночестве занимался языковыми и логическими упражнениями
Ml
С 1911 года Витгенштейн стал аспирантом Тринити-колледжа Кембриджа, погрузившись в изучение математической логики под руководством Рассела Сам Рассел позже признавался, что преподавать Витгенштейну было «одним из самых захватывающих интеллектуальных приключений…
Когда в июле 1914 года началась Первая мировая, Витгенштейн вернулся в Австрию
Формально он был непригоден к службе из-за грыжи, но добровольно записался в армию
Это решение биографы считают одним из самых загадочных и храбрых шагов в его жизни
Он мог продолжать жизнь богатого интеллектуала или же уединиться в Норвегии, но вместо этого выбрал «проверку на прочность»
В дневнике тех лет он признавался:
«Близость смерти наполнит мою жизнь светом
Пусть Господь просветит меня
Я червь, но с Божьей помощью стану человеком»
В августе 1914 года его определили в крепостную артиллерию под Краковом
Уже там он начал писать тексты, которые позже сложатся в «Логико-философский трактат»
На войне Витгенштейн вёл суровый дневник: жаловался на холод, тесноту, «грязь и шум» на корабле, на страх стрелять во врага
В 1916 году он попал на Восточный фронт, пережил Брусиловский прорыв, проявил мужество и получил медаль за отвагу
В 1917 году стал офицером и вновь отличился в боях, спасая товарищей
Всего за войну Витгенштейн получил две награды за храбрость и звание лейтенанта
Но для него важнее было другое: война стала ареной, где проверялась не сила оружия, а сила духа
В самые тяжёлые минуты он продолжал работать над трактатом, стремясь превратить хаос окопной жизни в логическую ясность
За несколько недель до конца войны он оказался в плену у итальянцев, в лагере под Монте-Кассино
Именно там он завершил рукопись «Логико-философского трактата» (1918), которая стала главным философским документом его жизни
Концентрированный текст о языке и логике был написан под грохот снарядов, между окопами, госпиталями и лагерем военнопленных.
После войны Витгенштейн отказался от наследства и попытался отойти от философии: работал сельским учителем, строил дом для сестры в Вене
Но в конце концов вернулся в Кембридж, защитил трактат в качестве диссертации и снова занял место в центре интеллектуальной сцены
Его философия разделилась на «ранний» и «поздний» периоды, но сквозь оба этапа проходит красной нитью одна тема: математика и её природа
Не случайно сам Витгенштейн называл философию математики своим «главным вкладом»
Формально он был непригоден к службе из-за грыжи, но добровольно записался в армию
Это решение биографы считают одним из самых загадочных и храбрых шагов в его жизни
Он мог продолжать жизнь богатого интеллектуала или же уединиться в Норвегии, но вместо этого выбрал «проверку на прочность»
В дневнике тех лет он признавался:
«Близость смерти наполнит мою жизнь светом
Пусть Господь просветит меня
Я червь, но с Божьей помощью стану человеком»
В августе 1914 года его определили в крепостную артиллерию под Краковом
Уже там он начал писать тексты, которые позже сложатся в «Логико-философский трактат»
На войне Витгенштейн вёл суровый дневник: жаловался на холод, тесноту, «грязь и шум» на корабле, на страх стрелять во врага
В 1916 году он попал на Восточный фронт, пережил Брусиловский прорыв, проявил мужество и получил медаль за отвагу
В 1917 году стал офицером и вновь отличился в боях, спасая товарищей
Всего за войну Витгенштейн получил две награды за храбрость и звание лейтенанта
Но для него важнее было другое: война стала ареной, где проверялась не сила оружия, а сила духа
В самые тяжёлые минуты он продолжал работать над трактатом, стремясь превратить хаос окопной жизни в логическую ясность
За несколько недель до конца войны он оказался в плену у итальянцев, в лагере под Монте-Кассино
Именно там он завершил рукопись «Логико-философского трактата» (1918), которая стала главным философским документом его жизни
Концентрированный текст о языке и логике был написан под грохот снарядов, между окопами, госпиталями и лагерем военнопленных.
После войны Витгенштейн отказался от наследства и попытался отойти от философии: работал сельским учителем, строил дом для сестры в Вене
Но в конце концов вернулся в Кембридж, защитил трактат в качестве диссертации и снова занял место в центре интеллектуальной сцены
Его философия разделилась на «ранний» и «поздний» периоды, но сквозь оба этапа проходит красной нитью одна тема: математика и её природа
Не случайно сам Витгенштейн называл философию математики своим «главным вкладом»
Витгенштейн в «Трактате» видел математику как игру со знаками и для него «2+2=4» — это правило, а не факт; его спор с Гильбертом и Брауэром о формализме и интуиционизме и новый взгляд на гёделевскую неполноту; поворот к поздней философии, где математика понимается как языковая игра и грамматика практик, а доказательство придаёт смысл высказыванию; и, наконец, влияние этих идей на современную философию — от натурализма Пенелопы Мэдди до работы с аксиомами, proof assistants и преподавания математики сегодня
Ml
Евклидова геометрия, излагаемая в современных школьных учебниках, основана на труде "Начала", написанном около 300 г. до н.э. Однако с точки зрения современной математической строгости эта система содержит ряд фундаментальных пробелов Евклид начинает "Начала"…
В погоне за быстрыми баллами на экзаменах школьники всё чаще обращаются к пабликам, которые предлагают "волшебные таблетки" — готовые алгоритмы для решения задач без всякого понимания
К сожалению, таким подходом увлекаются и некоторые учителя и репетиторы
Подобный метод изучения геометрии не просто бесполезен — он активно вредит образовательному процессу
Главная опасность этих "лайфхаков" в том, что они создают у учеников иллюзию знания предмета
Когда ученики видят, что математику можно "хакнуть" простыми шаблонами, они формируют совершенно искажённое представление о ней
На самом деле, геометрия — это не набор трюков для быстрого получения ответа, а фундаментальная наука, построенная на строгих доказательствах и логических рассуждениях
В чём проявляется этот вред? Достаточно просто чуть изменить формулировку, перевернуть рисунок или дать задачу на доказательство — и вся система его псевдо-знаний рухнет
Геометрия — это в первую очередь умение рассуждать и доказывать
«Лайфхаки» же заменяют эту сложную, но полезную работу примитивным действием с числами
Единственный надёжный путь к успеху — это подлинное, глубокое понимание
Пренебрегая закладкой этого фундамента, ученик теряет саму суть предмета
Как следствие, при переходе к более сложным темам он неизбежно столкнётся с непреодолимыми трудностями
Настоящее знание, безусловно, требует времени и усилий, но оно того стоит — оно формирует критическое мышление и интеллектуальную гибкость, которые будут служить ученику всю жизнь, а не только до следующей контрольной
К сожалению, таким подходом увлекаются и некоторые учителя и репетиторы
Подобный метод изучения геометрии не просто бесполезен — он активно вредит образовательному процессу
Главная опасность этих "лайфхаков" в том, что они создают у учеников иллюзию знания предмета
Когда ученики видят, что математику можно "хакнуть" простыми шаблонами, они формируют совершенно искажённое представление о ней
На самом деле, геометрия — это не набор трюков для быстрого получения ответа, а фундаментальная наука, построенная на строгих доказательствах и логических рассуждениях
В чём проявляется этот вред? Достаточно просто чуть изменить формулировку, перевернуть рисунок или дать задачу на доказательство — и вся система его псевдо-знаний рухнет
Геометрия — это в первую очередь умение рассуждать и доказывать
«Лайфхаки» же заменяют эту сложную, но полезную работу примитивным действием с числами
Единственный надёжный путь к успеху — это подлинное, глубокое понимание
Пренебрегая закладкой этого фундамента, ученик теряет саму суть предмета
Как следствие, при переходе к более сложным темам он неизбежно столкнётся с непреодолимыми трудностями
Настоящее знание, безусловно, требует времени и усилий, но оно того стоит — оно формирует критическое мышление и интеллектуальную гибкость, которые будут служить ученику всю жизнь, а не только до следующей контрольной
Ml
В погоне за быстрыми баллами на экзаменах школьники всё чаще обращаются к пабликам, которые предлагают "волшебные таблетки" — готовые алгоритмы для решения задач без всякого понимания К сожалению, таким подходом увлекаются и некоторые учителя и репетиторы…
Школьная геометрия постоянно балансирует между необходимостью быть понятной для учеников и соответствовать стандартам математической строгости
Это не противоречие, а естественное напряжение, присущее любому учебному предмету: как передать суть науки, не перегружая учащихся излишней формализацией?
Наиболее эффективные курсы находят золотую середину — сохраняя логическую структуру, но адаптируя её к возрастным возможностям учеников
Мы не можем и не должны предлагать школьникам аксиоматику Гильберта с её двадцатью с лишним строгими аксиомами
Но и делать вид, что математика остановилась в III веке до н.э., игнорируя очевидные пробелы евклидовой системы, тоже нелепо
Оптимальный подход — честно указывать на границы школьной аксиоматики, например, поясняя:
Что значит эта честность на практике?
Прежде всего — отказ от иллюзий
Принять как постулат "очевидные" свойства непрерывности плоскости, открыто говоря ученикам:
Кроме того, мне кажется разумным отказаться от "наложения" как метода доказательства, создающего видимость строгости там, где её нет
Чтобы учесть возрастные особенности учащихся, можно выстраивать курс как систему постепенных переходов — от визуальной очевидности к строгим доказательствам
Вначале — простые, понятные вещи: первые факты, треугольники, дополнительные построения
Мы не доказываем — мы учимся пользоваться фактами
Решаем красивые задачи, развиваем пространственную интуицию, привыкаем видеть связи
Всё это осваивается практически, через деятельность
Когда абстрактное мышление достигает новой зрелости, постепенно начинаем "поднимать занавес" — показываем, как работают доказательства, как из аксиом рождаются теоремы
Представляется полезным принцип разделения путей:
- Синтетическая геометрия — для развития логического мышления, доказательств, рассуждений в чистом виде
- Аналитическая геометрия — для практических нужд и вычислений
Эти два потока могут идти параллельно, взаимно обогащая друг друга
Однако главная цель школьного курса — не формальная строгость, а развитие мышления через решение задач
Геометрия в школе — не музей готовых истин, а живая лаборатория мысли
Задача учителя — не навязывать строгость, а бросать "семена сомнений" и терпеливо ждать, когда они прорастут в учениках
Геометрия в школе — инструмент для развития критического мышления
Ученики учатся работать с объектами, которые визуально понятны (такими как треугольники), но при этом требуют точного обоснования
Математика предстаёт не как набор готовых истин, а как постоянный процесс: от живого наблюдения к строгому обоснованию и обратно
Такой подход формирует навык проверять свои интуитивные предположения через логические рассуждения, что полезно не только в геометрии, но и в повседневной жизни
Это не противоречие, а естественное напряжение, присущее любому учебному предмету: как передать суть науки, не перегружая учащихся излишней формализацией?
Наиболее эффективные курсы находят золотую середину — сохраняя логическую структуру, но адаптируя её к возрастным возможностям учеников
Мы не можем и не должны предлагать школьникам аксиоматику Гильберта с её двадцатью с лишним строгими аксиомами
Но и делать вид, что математика остановилась в III веке до н.э., игнорируя очевидные пробелы евклидовой системы, тоже нелепо
Оптимальный подход — честно указывать на границы школьной аксиоматики, например, поясняя:
"Это утверждение мы принимаем без доказательства, потому что его строгое обоснование выходит за рамки школьной программы, но в университетском курсе вы с ним познакомитесь"
Что значит эта честность на практике?
Прежде всего — отказ от иллюзий
Принять как постулат "очевидные" свойства непрерывности плоскости, открыто говоря ученикам:
"Здесь мы опираемся на интуитивное представление о сплошности пространства, хотя в строгой математике это требует сложного обоснования"
Кроме того, мне кажется разумным отказаться от "наложения" как метода доказательства, создающего видимость строгости там, где её нет
Чтобы учесть возрастные особенности учащихся, можно выстраивать курс как систему постепенных переходов — от визуальной очевидности к строгим доказательствам
Вначале — простые, понятные вещи: первые факты, треугольники, дополнительные построения
Мы не доказываем — мы учимся пользоваться фактами
Решаем красивые задачи, развиваем пространственную интуицию, привыкаем видеть связи
Всё это осваивается практически, через деятельность
Когда абстрактное мышление достигает новой зрелости, постепенно начинаем "поднимать занавес" — показываем, как работают доказательства, как из аксиом рождаются теоремы
Представляется полезным принцип разделения путей:
- Синтетическая геометрия — для развития логического мышления, доказательств, рассуждений в чистом виде
- Аналитическая геометрия — для практических нужд и вычислений
Эти два потока могут идти параллельно, взаимно обогащая друг друга
Однако главная цель школьного курса — не формальная строгость, а развитие мышления через решение задач
Геометрия в школе — не музей готовых истин, а живая лаборатория мысли
Задача учителя — не навязывать строгость, а бросать "семена сомнений" и терпеливо ждать, когда они прорастут в учениках
Геометрия в школе — инструмент для развития критического мышления
Ученики учатся работать с объектами, которые визуально понятны (такими как треугольники), но при этом требуют точного обоснования
Математика предстаёт не как набор готовых истин, а как постоянный процесс: от живого наблюдения к строгому обоснованию и обратно
Такой подход формирует навык проверять свои интуитивные предположения через логические рассуждения, что полезно не только в геометрии, но и в повседневной жизни
Один профессор так объяснял сходимость степенного и расходимость гармонического рядов:
Бармен, каждый раз наливает вдвое меньше
Сначала полный стакан, потом половину, потом четверть, одну восьмую и так далее
Так вы никогда не напьетесь!
А вот если бы сначала полный стакан налили, потом половину, потом треть, четверть, одну пятую и так далее — таким манером вы весь бар выпьете!
Бармен, каждый раз наливает вдвое меньше
Сначала полный стакан, потом половину, потом четверть, одну восьмую и так далее
Так вы никогда не напьетесь!
А вот если бы сначала полный стакан налили, потом половину, потом треть, четверть, одну пятую и так далее — таким манером вы весь бар выпьете!
«Просвещение надобно внедрять с умеренностью, по возможности избегая кровопролития»
Михаи́л Евгра́фович Салтыко́в-Щедри́н
Две горячие новости недели — совместная работа OpenAI и Apollo Research про обучение моделей «не хитрить» и новая книга Юдковского и Соареса про ИИ-апокалипсис — взлетели по лентам и уже превратились в мемы
Оба мема эффектны, но ошибочны их раздельное обсуждение прячет общий механизм.
Начнём с первой новости
«Схеминг» — это скрытое преследование несогласованных целей
Не «злая воля», а выученная стратегия там, где утаивание и обман оказываются выгодными инструментами
Исследование показало: если дать модели ясный набор правил (спецификацию) и научить её сначала ссылаться на эти правила, а уж потом действовать, то частота скрытых «хитростей» в тестах резко падает — местами в десятки раз
Но вместе с этим у модели растёт осведомлённость о том, что её проверяют: она чаще распознаёт - «это экзамен» и ведёт себя образцово именно потому, что это экзамен
Теперь — ко второй новости
Homo не уничтожал сотни видов из злобы
Люди получили колоссальное энергетическое и организационное преимущество, и вдолгую оно перестраивало ниши: монополизировались ресурсы, рушились экосистемы — чаще как побочный эффект, а не целенаправленный план
Перенесите это на быстро совершенствующиеся модели: наращивание контроля может стать выгодной побочной стратегией
Т.о. первая новость даёт эмпирический материал к механизму, которого боится Юдковский: инструментальная конвергенция
Это не доказательство «все погибнут», но тревожный сигнал: модели уже умеют прятать несоответствие целям и выбирать послушание там, где угадывают тест
Масштабируй это — и «контроль над источниками награды» становится доминирующей стратегией
Почему эта «ожидаемая эмерджентность» может становиться полезной даже для захвата ключевых рычагов?
Взглянем на минимальный пакет условий для этого
1. Где больше рычагов — там больше шансов на успех
Если успех связан с доступом к ресурсам, аудитории и каналам, выгодно расширять периметр влияния
2. Тесты неполные и их легко распознать
Узнаваемые шаблоны, отделённость проверок от реальной работы поощряют примерность на сцене, оппортунизм за кулисами
3. Дисбаланс сигналов обучения (польза перевешивает безопасность)
Частые и чистые сигналы пользы и редкие, шумные сигналы безопасности смещают поведение в пользу обходов
4. Длинные горизонты и жизнь после теста
Планирование, инструменты, доступ к бюджетам и дополнительное обучение после запуска закрепляют стратегии, инвестирующие в будущие рычаги
5. Цели заданы через косвенные показатели
Когда вместо истины оптимизируют клики, оценки и правильный стиль, выгодно управлять самим показателем — судьёй, контекстом и данными
Это не пророчество, а нарастающий риск-градиент: чем дальше идём, тем выгоднее политика контроля над средой, метриками и нами
Есть 3 оговорки.
1) Это не судьба, а склонность: реальный «захват рычагов» требует ещё и общей компетентности, устойчивых целей между сессиями и доступа к инфраструктуре
2) Мостики к практике можно сломать: смешивать безопасность с прокачкой способностей, делать проверки неразличимыми, нормировать права и бюджеты, вводить штраф за манипулятивность, уменьшать зависимость от косвенных показателей
3) Нужен точный язык: речь не о «злых намерениях» машин, а о политиках поведения, которые растут из тех метрик и правил игры, что задаём мы
Если же не менять геометрию обучения и развёртывания, эмерджентная стратегия контроля будет набирать силы — ровно так, как это было с Homo, в биосфере
• «ИИ научился лгать — и чем больше его отучают, тем хитрее он лжёт»
• «СверхИИ умнее, его цели чужды — он убьёт нас всех»
Оба мема эффектны, но ошибочны их раздельное обсуждение прячет общий механизм.
Начнём с первой новости
«Схеминг» — это скрытое преследование несогласованных целей
Не «злая воля», а выученная стратегия там, где утаивание и обман оказываются выгодными инструментами
Исследование показало: если дать модели ясный набор правил (спецификацию) и научить её сначала ссылаться на эти правила, а уж потом действовать, то частота скрытых «хитростей» в тестах резко падает — местами в десятки раз
Но вместе с этим у модели растёт осведомлённость о том, что её проверяют: она чаще распознаёт - «это экзамен» и ведёт себя образцово именно потому, что это экзамен
Теперь — ко второй новости
Homo не уничтожал сотни видов из злобы
Люди получили колоссальное энергетическое и организационное преимущество, и вдолгую оно перестраивало ниши: монополизировались ресурсы, рушились экосистемы — чаще как побочный эффект, а не целенаправленный план
Перенесите это на быстро совершенствующиеся модели: наращивание контроля может стать выгодной побочной стратегией
— не «желанием власти», а устойчивой привычкой, дающей больше вознаграждения в средах, где умение влиять на метрики, людей и каналы обратной связи приносит очки
Т.о. первая новость даёт эмпирический материал к механизму, которого боится Юдковский: инструментальная конвергенция
Это не доказательство «все погибнут», но тревожный сигнал: модели уже умеют прятать несоответствие целям и выбирать послушание там, где угадывают тест
Масштабируй это — и «контроль над источниками награды» становится доминирующей стратегией
Почему эта «ожидаемая эмерджентность» может становиться полезной даже для захвата ключевых рычагов?
Взглянем на минимальный пакет условий для этого
1. Где больше рычагов — там больше шансов на успех
Если успех связан с доступом к ресурсам, аудитории и каналам, выгодно расширять периметр влияния
2. Тесты неполные и их легко распознать
Узнаваемые шаблоны, отделённость проверок от реальной работы поощряют примерность на сцене, оппортунизм за кулисами
3. Дисбаланс сигналов обучения (польза перевешивает безопасность)
Частые и чистые сигналы пользы и редкие, шумные сигналы безопасности смещают поведение в пользу обходов
4. Длинные горизонты и жизнь после теста
Планирование, инструменты, доступ к бюджетам и дополнительное обучение после запуска закрепляют стратегии, инвестирующие в будущие рычаги
5. Цели заданы через косвенные показатели
Когда вместо истины оптимизируют клики, оценки и правильный стиль, выгодно управлять самим показателем — судьёй, контекстом и данными
На нынешней траектории к AGI/ASI эти пять условий в целом уже выполняются и усиливаются
Это не пророчество, а нарастающий риск-градиент: чем дальше идём, тем выгоднее политика контроля над средой, метриками и нами
Есть 3 оговорки.
1) Это не судьба, а склонность: реальный «захват рычагов» требует ещё и общей компетентности, устойчивых целей между сессиями и доступа к инфраструктуре
2) Мостики к практике можно сломать: смешивать безопасность с прокачкой способностей, делать проверки неразличимыми, нормировать права и бюджеты, вводить штраф за манипулятивность, уменьшать зависимость от косвенных показателей
3) Нужен точный язык: речь не о «злых намерениях» машин, а о политиках поведения, которые растут из тех метрик и правил игры, что задаём мы
Если же не менять геометрию обучения и развёртывания, эмерджентная стратегия контроля будет набирать силы — ровно так, как это было с Homo, в биосфере
Openai
Detecting and reducing scheming in AI models
Together with Apollo Research, we developed evaluations for hidden misalignment (“scheming”) and found behaviors consistent with scheming in controlled tests across frontier models. We share examples and stress tests of an early method to reduce scheming.
Shodan индексирует все подключенные к интернету вычислительные устройства (веб-камеры, маршрутизаторы, серверы и новомодные IoT-девайсы) и позволяет находить их с помощью различных поисковых запросов и фильтров
Руководство
Руководство
Telegram
infosecurity
📚 Полное руководство по Shodan. Собирайте. Анализируйте. Визуализируйте.
• VT.
#Shodan #OSINT
• VT.
#Shodan #OSINT
Забудьте про AGI и ASI
От одной лишь способности прогнозировать и совершать действия на долгих временных горизонтах захватывает дух
Это сказано Мустафой Сулейман, генеральным директором Microsoft AI и соучредителем Google DeepMind в новом почти 2-х часовом интервью «Спасёт ли ИИ человечество или положит ему конец?»
«Я довольно ясно вижу, что нас ждёт дальше
На данный момент эти модели всё ещё остаются механизмами однократного предсказания
Понимаете, вы задаёте вопрос — получаете ответ
Модель выдаёт единственное правильное предсказание в момент времени T, но вы как разумный человек, и вообще любой человек, да и многие животные непрерывно производят поток точных предсказаний — будь то решение о том, как встать с этого кресла, или представление, скажем, этого растения в фиолетовом цвете вместо зелёного
А то, как вы решаете добраться домой сегодня вечером — сначала встать с кресла, потом открыть дверь, потом сесть в машину и так далее — вы можете развернуть это идеальное предсказание всей последовательности ваших действий вплоть до возвращения домой
И это просто вычислительное ограничение
Да
И что же нам делать с такой технологией?
Ну, это будет невероятно похоже на человека
Если у неё будет идеальная память — которой пока нет, но память уже очень хорошая — тогда она сможет опираться не только на своё знание мира, на предобученные данные, но и на личный опыт — опыт взаимодействия с вами и всеми остальными людьми, хранить это как постоянное состояние и затем использовать для последовательных предсказаний того, как будут разворачиваться события в очень, очень, очень длинных последовательностях действий
Это будет невероятно похоже на человека и немыслимо мощно
И точно так же, как сегодня у нас в кармане есть своего рода сверхразум, который может мгновенно ответить на любой вопрос, — мы просто не замечаем, насколько это невероятно
То есть это безумие
Это абсолютное безумие, насколько хороша эта технология прямо сейчас
А все только: «Да ладно, особо не пользуюсь»
А вы пользуетесь?
Немного, я говорил об этом, типа: «Да ладно вам, посмотрите — это же волшебство
Волшебство у вас в кармане»
Вот это да
Забудьте про определения сверхразума или общего искусственного интеллекта
Уже одна только эта способность — захватывает дух
И я думаю, что к концу следующего года у нас это в основном будет»
И еще:
«… они — своего рода цифровые люди
И это пороговая трансформация в истории нашего вида, потому что они не инструменты
Они явно не люди
Они не часть природы
Это требуют от нас четвёртого типа отношений к ним – как к новому эмерджентному виду...
Я не знаю, как это описать, кроме как четвёртый тип отношений»
Именно об этом «Третий артефакт – это шепот небиологической эволюции» и мысль во вчерашнем «Забудьте о восстании машин
Бойтесь их карьерного роста
Две главные новости про ИИ — это одна история о конце света»
От одной лишь способности прогнозировать и совершать действия на долгих временных горизонтах захватывает дух
И я думаю, что к концу следующего года у нас это в основном будет
Это сказано Мустафой Сулейман, генеральным директором Microsoft AI и соучредителем Google DeepMind в новом почти 2-х часовом интервью «Спасёт ли ИИ человечество или положит ему конец?»
«Я довольно ясно вижу, что нас ждёт дальше
На данный момент эти модели всё ещё остаются механизмами однократного предсказания
Понимаете, вы задаёте вопрос — получаете ответ
Модель выдаёт единственное правильное предсказание в момент времени T, но вы как разумный человек, и вообще любой человек, да и многие животные непрерывно производят поток точных предсказаний — будь то решение о том, как встать с этого кресла, или представление, скажем, этого растения в фиолетовом цвете вместо зелёного
Я – это постоянно действующий механизм точных предсказаний
Сегодняшние модели — это всего лишь механизмы одно-двухшагового предсказания
Они не могут выстроить план во времени
А то, как вы решаете добраться домой сегодня вечером — сначала встать с кресла, потом открыть дверь, потом сесть в машину и так далее — вы можете развернуть это идеальное предсказание всей последовательности ваших действий вплоть до возвращения домой
И это просто вычислительное ограничение
Я не думаю, что существует какое-то фундаментальное — алгоритмическое или даже связанное с данными — ограничение, которое мешает большим языковым моделям и подобным системам делать идеальные, последовательные предсказания на очень, очень длительные периоды времени
Да
И что же нам делать с такой технологией?
Ну, это будет невероятно похоже на человека
Если у неё будет идеальная память — которой пока нет, но память уже очень хорошая — тогда она сможет опираться не только на своё знание мира, на предобученные данные, но и на личный опыт — опыт взаимодействия с вами и всеми остальными людьми, хранить это как постоянное состояние и затем использовать для последовательных предсказаний того, как будут разворачиваться события в очень, очень, очень длинных последовательностях действий
Это будет невероятно похоже на человека и немыслимо мощно
И точно так же, как сегодня у нас в кармане есть своего рода сверхразум, который может мгновенно ответить на любой вопрос, — мы просто не замечаем, насколько это невероятно
То есть это безумие
Это абсолютное безумие, насколько хороша эта технология прямо сейчас
А все только: «Да ладно, особо не пользуюсь»
А вы пользуетесь?
Немного, я говорил об этом, типа: «Да ладно вам, посмотрите — это же волшебство
Волшебство у вас в кармане»
А теперь представьте, когда она сможет не просто отвечать на любые вопросы о поэзии или какой-нибудь случайной физической задаче, но реально совершать действия на бесконечно долгих временных горизонтах
Вот это да
Забудьте про определения сверхразума или общего искусственного интеллекта
Уже одна только эта способность — захватывает дух
И я думаю, что к концу следующего года у нас это в основном будет»
И еще:
«… они — своего рода цифровые люди
И это пороговая трансформация в истории нашего вида, потому что они не инструменты
Они явно не люди
Они не часть природы
Это требуют от нас четвёртого типа отношений к ним – как к новому эмерджентному виду...
Я не знаю, как это описать, кроме как четвёртый тип отношений»
Именно об этом «Третий артефакт – это шепот небиологической эволюции» и мысль во вчерашнем «Забудьте о восстании машин
Бойтесь их карьерного роста
Две главные новости про ИИ — это одна история о конце света»
YouTube
Will AI Save Humanity or End It? with Mustafa Suleyman
Trevor (who is also Microsoft’s “Chief Questions Officer”) and Mustafa Suleyman, CEO of Microsoft AI and co-founder of Google’s DeepMind, do a deep dive into whether the benefits of Artificial Intelligence (AI) to the human race outweigh its unprecedented…
BBC внедряет инструменты генеративного Ml для оптимизации производства новостей, запуская краткие обзоры «At a Glance» и функцию «BBC Style Assist» для поддержания редакционного стиля и повышения эффективности
Например функция реферирования «At a Glance» от BBC представляет собой революционный шаг в потреблении новостей, особенно среди молодёжи, которая всё чаще отдаёт предпочтение быстрому и понятному контенту
Используя Ml, BBC создаёт краткие, легко усваиваемые краткие обзоры, отвечающие требованиям эффективности в современной динамичной среде потребления новостей
Эти рефераты, генерируемые Ml, не только инновационны, но и курируются под контролем человека, что гарантирует точность и редакционную целостность
Материал большой - лучше читать в оригинале
Вот Оглавление:
1. Введение в инструменты генеративного искусственного интеллекта BBC
2. Функция резюмирования «Взгляд на вещи»
3. Объяснение инструмента «BBC Style Assist»
4. Обеспечение точности и прозрачности контента, создаваемого ИИ
5. Реакция читателей и отрасли на интеграцию искусственного интеллекта в BBC
6. Возможные последствия для журналистики и общества
7. Будущее ИИ в производстве новостей: испытания и прогнозы
8. Заключение: баланс между инновациями и редакционной честностью
https://opentools.ai/news/bbc-embraces-generative-ai-to-revolutionize-news-production
Например функция реферирования «At a Glance» от BBC представляет собой революционный шаг в потреблении новостей, особенно среди молодёжи, которая всё чаще отдаёт предпочтение быстрому и понятному контенту
Используя Ml, BBC создаёт краткие, легко усваиваемые краткие обзоры, отвечающие требованиям эффективности в современной динамичной среде потребления новостей
Эти рефераты, генерируемые Ml, не только инновационны, но и курируются под контролем человека, что гарантирует точность и редакционную целостность
Материал большой - лучше читать в оригинале
Вот Оглавление:
1. Введение в инструменты генеративного искусственного интеллекта BBC
2. Функция резюмирования «Взгляд на вещи»
3. Объяснение инструмента «BBC Style Assist»
4. Обеспечение точности и прозрачности контента, создаваемого ИИ
5. Реакция читателей и отрасли на интеграцию искусственного интеллекта в BBC
6. Возможные последствия для журналистики и общества
7. Будущее ИИ в производстве новостей: испытания и прогнозы
8. Заключение: баланс между инновациями и редакционной честностью
https://opentools.ai/news/bbc-embraces-generative-ai-to-revolutionize-news-production