ИБ-специалист Дэвид Кузмар обнаружил уязвимость в ChatGPT, позволяющую обходить контентные ограничения и получать доступ к запрещённой информации. Дефект, получивший название «Time Bandit», использует «временное замешательство» модели, вынуждая её терять ориентацию во времени.
Time Bandit оказался одним из самых сложных и эффективных обходов защиты, который использует два ключевых механизма:
Запутывание во времени – заставляет ИИ потерять ориентацию, лишая его понимания текущей даты и контекста.
Процедурная неясность – позволяет формулировать вопросы так, чтобы модель не могла корректно применять правила и фильтры безопасности.
https://www.bleepingcomputer.com/news/security/time-bandit-chatgpt-jailbreak-bypasses-safeguards-on-sensitive-topics/?utm_source=Securitylabru
На русском: https://www.securitylab.ru/news/555990.php
Time Bandit оказался одним из самых сложных и эффективных обходов защиты, который использует два ключевых механизма:
Запутывание во времени – заставляет ИИ потерять ориентацию, лишая его понимания текущей даты и контекста.
Процедурная неясность – позволяет формулировать вопросы так, чтобы модель не могла корректно применять правила и фильтры безопасности.
https://www.bleepingcomputer.com/news/security/time-bandit-chatgpt-jailbreak-bypasses-safeguards-on-sensitive-topics/?utm_source=Securitylabru
На русском: https://www.securitylab.ru/news/555990.php
BleepingComputer
Time Bandit ChatGPT jailbreak bypasses safeguards on sensitive topics
A ChatGPT jailbreak flaw, dubbed "Time Bandit," allows you to bypass OpenAI's safety guidelines when asking for detailed instructions on sensitive topics, including the creation of weapons, information on nuclear topics, and malware creation.
🤔3👍2
По данным Центра исследований околоземных объектов НАСА (CNEOS), вероятность удара в 2032 году астероидом, который носит несколько непритязательное название "2024 YR4", оценивается в 2,3% — один шанс из 43.
Вероятность столкновения с космическим камнем теперь выросла - по сравнению с 1,3% в декабре - но опасность, вероятно, снизится с увеличением количества данных.
Как они считают вероятность? Видимо, получают распределение возможных траекторий и затем смотрят какая доля среди них опасные?
Тем не менее, даже если 2024 YR4 продолжит движение к Земле с высокой вероятностью столкновения, успех миссии NASA Dart в 2022 году, в ходе которой космический корабль был намеренно врезан в астероид размером с футбольный стадион и изменил его траекторию, дает основания для оптимизма в отношении будущего человечества.
https://www.theguardian.com/science/2025/feb/06/asteroid-impact-chances
Данные мониторинга https://cneos.jpl.nasa.gov/sentry/
Вероятность столкновения с космическим камнем теперь выросла - по сравнению с 1,3% в декабре - но опасность, вероятно, снизится с увеличением количества данных.
Как они считают вероятность? Видимо, получают распределение возможных траекторий и затем смотрят какая доля среди них опасные?
Тем не менее, даже если 2024 YR4 продолжит движение к Земле с высокой вероятностью столкновения, успех миссии NASA Dart в 2022 году, в ходе которой космический корабль был намеренно врезан в астероид размером с футбольный стадион и изменил его траекторию, дает основания для оптимизма в отношении будущего человечества.
https://www.theguardian.com/science/2025/feb/06/asteroid-impact-chances
Данные мониторинга https://cneos.jpl.nasa.gov/sentry/
the Guardian
Asteroid’s chances of hitting Earth in 2032 just got higher – but don’t panic
Space rock now has 2.3% risk of collision – up from 1.3% in December – but danger is likely to fall with more data
👍3🔥2🤔1
Физики проанализировали перемещение толпы на фестивале Сан-Фермин и обнаружили образование макроскопических круговых осцилляторов, координирующих движение сотен людей без внешнего управления. На основе своих наблюдений и базовых законов механики ученые построили модель поведения плотных толп, а также предложили способ, который поможет избежать давки и травмоопасных ситуаций.
Динамика толпы оказалась не хаотичной, а осциллирующей во времени с периодом примерно 18 секунд. Этот период не задавался механическими, визуальными или акустическими стимулами и был больше, чем времена движений человеческого тела. Также ученые определили, что эти колебания толпы происходили не из-за движения людей вперед и назад, а из-за их перемещения по немного асимметричной круговой траектории, то есть динамические волны в толпе не имели ничего общего с волнами stop-and-go (которые возникают при однонаправленном движении), но при этом оказались непохожи на мошпиты, образующиеся на музыкальных концертах, так как для последних характерна очень длительная устойчивость.
https://www.nature.com/articles/s41586-024-08514-6
На русском https://nplus1.ru/news/2025/02/05/human-crowd-oscillations
Динамика толпы оказалась не хаотичной, а осциллирующей во времени с периодом примерно 18 секунд. Этот период не задавался механическими, визуальными или акустическими стимулами и был больше, чем времена движений человеческого тела. Также ученые определили, что эти колебания толпы происходили не из-за движения людей вперед и назад, а из-за их перемещения по немного асимметричной круговой траектории, то есть динамические волны в толпе не имели ничего общего с волнами stop-and-go (которые возникают при однонаправленном движении), но при этом оказались непохожи на мошпиты, образующиеся на музыкальных концертах, так как для последних характерна очень длительная устойчивость.
https://www.nature.com/articles/s41586-024-08514-6
На русском https://nplus1.ru/news/2025/02/05/human-crowd-oscillations
Nature
Emergence of collective oscillations in massive human crowds
Nature - Analysis of the confined crowds at the San Fermín festival in Spain shows that dense crowds can self-organize into macroscopic chiral oscillators, coordinating the orbital motion of...
👍5🤔1👾1
Как сварить яйцо?
Итальянские физики предложили оптимальный способ приготовления вареных яиц.
При варке яиц сталкиваются с проблемой двухфазной структуры: белок и желток требуют двух температур приготовления. В настоящей статье показано, что можно готовить белок и желток при двух температурах без разделения, используя периодические граничные условия в задаче переноса энергии.
Чтобы разработать оптимальный метод, физики сначала промоделировали с помощью кинетических уравнений, которые обычно используют для описания процесса гелеобразования, изменение температуры внутри яйца и степень его готовности для трех рецептов: вкрутую, всмятку и су-вид. В итоге моделирование показало, что в случае яйца, сваренного вкрутую, температура монотонно растет с течением времени и к окончанию варки, то есть спустя 12 минут, яйцо имеет температуру 100 градусов во всех своих частях. В то же время рецепт всмятку привел к тому, что спустя уже шесть минут после начала процесса, яйцо имело более низкую и неравномерно распределенную температуру. Для метода су-вид оказалось характерным однородное распространение тепла, однако само яйцо, в противоположность предыдущему способу, имело твердый желток и почти жидкий белок.
На основе полученных данных физики предложили еще один способ варки яйца, который должен обойти ограничение в виде отличающихся температур затвердевания белка и желтка. Новый метод заключается в циклическом изменении температуры от 30 до 100 градусов с периодом в две минуты (при этом изменение температуры должно быть скачкообразным, а не постепенным) и суммарным временем готовки в 32 минуты — использование такого подхода помогло достичь более высокой температуры белка, что способствовало его отвердению и при этом сохранению кремообразной структуры желтка. Ученые сравнили четыре модели варки с экспериментом, в котором информацию о степени термической денатурации белка и желтка исследователи получили с помощью вкусового анализа и нескольких неинвазивных методов: инфракрасной спектроскопии, ядерного магнитного резонанса, а также масс-спектрометрии — в результате физики получили полное совпадение теоретических предсказаний с реальными данными.
https://www.nature.com/articles/s44172-024-00334-w
На русском https://nplus1.ru/news/2025/02/06/cracking-boiled-egg
Итальянские физики предложили оптимальный способ приготовления вареных яиц.
При варке яиц сталкиваются с проблемой двухфазной структуры: белок и желток требуют двух температур приготовления. В настоящей статье показано, что можно готовить белок и желток при двух температурах без разделения, используя периодические граничные условия в задаче переноса энергии.
Чтобы разработать оптимальный метод, физики сначала промоделировали с помощью кинетических уравнений, которые обычно используют для описания процесса гелеобразования, изменение температуры внутри яйца и степень его готовности для трех рецептов: вкрутую, всмятку и су-вид. В итоге моделирование показало, что в случае яйца, сваренного вкрутую, температура монотонно растет с течением времени и к окончанию варки, то есть спустя 12 минут, яйцо имеет температуру 100 градусов во всех своих частях. В то же время рецепт всмятку привел к тому, что спустя уже шесть минут после начала процесса, яйцо имело более низкую и неравномерно распределенную температуру. Для метода су-вид оказалось характерным однородное распространение тепла, однако само яйцо, в противоположность предыдущему способу, имело твердый желток и почти жидкий белок.
На основе полученных данных физики предложили еще один способ варки яйца, который должен обойти ограничение в виде отличающихся температур затвердевания белка и желтка. Новый метод заключается в циклическом изменении температуры от 30 до 100 градусов с периодом в две минуты (при этом изменение температуры должно быть скачкообразным, а не постепенным) и суммарным временем готовки в 32 минуты — использование такого подхода помогло достичь более высокой температуры белка, что способствовало его отвердению и при этом сохранению кремообразной структуры желтка. Ученые сравнили четыре модели варки с экспериментом, в котором информацию о степени термической денатурации белка и желтка исследователи получили с помощью вкусового анализа и нескольких неинвазивных методов: инфракрасной спектроскопии, ядерного магнитного резонанса, а также масс-спектрометрии — в результате физики получили полное совпадение теоретических предсказаний с реальными данными.
https://www.nature.com/articles/s44172-024-00334-w
На русском https://nplus1.ru/news/2025/02/06/cracking-boiled-egg
Nature
Periodic cooking of eggs
Communications Engineering - Emilia Di Lorenzo and colleagues propose an approach to address the energy transport problem of cooking the albumen and yolk of a boiled egg at their optimal...
👍3😁2🤡1
Нобелевский лауреат Юджин Фама предупреждает, что биткоин может обесцениться из-за отсутствия стабильной реальной стоимости и зависимости от рыночного спроса.
Фама прогнозирует, что его цена может в конечном итоге упасть до нуля.
https://economictimes.indiatimes.com/magazines/panache/is-bitcoin-on-the-brink-of-collapse-nobel-laureate-issues-dire-warning/articleshow/118028943.cms?from=mdr#google_vignette
Фама прогнозирует, что его цена может в конечном итоге упасть до нуля.
https://economictimes.indiatimes.com/magazines/panache/is-bitcoin-on-the-brink-of-collapse-nobel-laureate-issues-dire-warning/articleshow/118028943.cms?from=mdr#google_vignette
The Economic Times
Is Bitcoin on the brink of collapse? Nobel laureate issues dire warning
Nobel Laureate Eugene Fama warns that Bitcoin could become worthless due to its lack of stable real value and dependency on market demand. Despite its recent surge in popularity and endorsement by President Trump, Fama argues these factors do not change Bitcoin's…
🤔3👍2🦄2
Здесь автор обсуждает апории Зенона... Но кажется, так и не освоил что такое бесконечно малые и пределы из основ математического анализа... в результате древние парадоксы для него по прежнему остаются неразрешенными... https://habr.com/ru/articles/880842/
Хабр
Почему апории Зенона на самом деле не решены до сих пор и как это связано с фундаментальными вопросами современной науки
Это будет очень большая статья, в рамках которой я бы хотел обсудить одну проблему, которая подавляющему большинству людей кажется абсолютно незначительной и уже давно решенной, однако на самом деле...
👍1😁1
Научились метать молнии...
Процесс искрообразования в естественных условиях хаотичен и непредсказуем. Был известен способ управления с помощью лазера, но по ряду причин он сложен и не эффективен. И вот теперь придумано управлять искрами с помощью ультразвука, искры можно заставить попадать в заданную точку и лететь по сложной траектории даже обходя препятствия.
https://www.science.org/doi/10.1126/sciadv.adp0686
На русском https://www.securitylab.ru/news/556208.php
Процесс искрообразования в естественных условиях хаотичен и непредсказуем. Был известен способ управления с помощью лазера, но по ряду причин он сложен и не эффективен. И вот теперь придумано управлять искрами с помощью ультразвука, искры можно заставить попадать в заданную точку и лететь по сложной траектории даже обходя препятствия.
https://www.science.org/doi/10.1126/sciadv.adp0686
На русском https://www.securitylab.ru/news/556208.php
Science Advances
Electric plasma guided with ultrasonic fields
Dynamic ultrasonic beams can guide electric sparks with millimeter accuracy within milliseconds and around complex trajectories.
👍3
Интересна связь между способностями и номером ребенка в семье
Forwarded from Толкователь
Впервые вижу такую корреляцию, тем более для современности (из книги старшего научного сотрудника Гуверовского института Стэнфордского университета, бывшего экономического советника президента США Картера Томаса Соуэлла «Social justice. Fallacies»):
«Даже там, где мы могли бы с полным основанием ожидать наибольшего равенства развитых способностей - среди детей, родившихся у одних и тех же родителей и воспитывавшихся в одном и том же доме, - исследования, проведенные ещё в XIX веке и охватывающие страны по обе стороны Атлантики, показали, что дети, родившиеся первыми в семье, имеют в целом более высокий средний IQ, более высокий процент окончания колледжа, и более высокий процент высоких достижений в самых разных областях деятельности.
Например, в США исследование показало, что более половины финалистов Национальной стипендии «Мерит» были первенцами даже в пятидетных семьях, а также в двухдетных, трёхдетных и четырёхдетных семьях. Другими словами, в пятидетных семьях первенцы становились финалистами чаще, чем остальные четыре брата и сестра вместе взятые. Другие показатели успешности образования или карьеры также показали, что первенцы и единственные дети чаще других оказываются в числе лучших в различных начинаниях, как в США, так и в других странах».
«Даже там, где мы могли бы с полным основанием ожидать наибольшего равенства развитых способностей - среди детей, родившихся у одних и тех же родителей и воспитывавшихся в одном и том же доме, - исследования, проведенные ещё в XIX веке и охватывающие страны по обе стороны Атлантики, показали, что дети, родившиеся первыми в семье, имеют в целом более высокий средний IQ, более высокий процент окончания колледжа, и более высокий процент высоких достижений в самых разных областях деятельности.
Например, в США исследование показало, что более половины финалистов Национальной стипендии «Мерит» были первенцами даже в пятидетных семьях, а также в двухдетных, трёхдетных и четырёхдетных семьях. Другими словами, в пятидетных семьях первенцы становились финалистами чаще, чем остальные четыре брата и сестра вместе взятые. Другие показатели успешности образования или карьеры также показали, что первенцы и единственные дети чаще других оказываются в числе лучших в различных начинаниях, как в США, так и в других странах».
❤2🤔2👍1
В статье рассмотрены несколько линий косвенных доказательств того, что нейроны ведут себя как самостоятельные агенты – строят внутренние модели, предсказывают сигналы, синхронизируются сложным образом и обрабатывают информацию внутри клетки, т.е. нейрон - не простейший элемент с элементарной математической функцией, как это принято во многих моделях искусственных нейронных сетей.
https://habr.com/ru/articles/879906/
https://habr.com/ru/articles/879906/
Хабр
Агентные качества нейрона: научные свидетельства и модели
Косвенные подтверждения «агентности» нейрона Современные исследования показывают, что отдельный нейрон способен на более сложное поведение, чем простое пороговое суммирование входных сигналов....
👍5🤔2
Чат-бот гпт в очередной раз огорчил меня...
Стало мне интересно как Ремарк относился к Германии в 1942 году...
Я задал этот вопрос чат-боту, получил выжимки из Википедии про Ремарка. Начал от него требовать, что меня интересует именно 1942 год, а не 1941 или 1943... Но так ничего и не добился... Однако, заметил в тексте неточность, чат написал, что у Ремарка фашисты казнили брата... На замечание, что это был не брат, а сестра, чат нисколько не смущаясь признал свою ошибку... И даже не смог объяснить как она произошла, где он взял про брата...
Стало мне интересно как Ремарк относился к Германии в 1942 году...
Я задал этот вопрос чат-боту, получил выжимки из Википедии про Ремарка. Начал от него требовать, что меня интересует именно 1942 год, а не 1941 или 1943... Но так ничего и не добился... Однако, заметил в тексте неточность, чат написал, что у Ремарка фашисты казнили брата... На замечание, что это был не брат, а сестра, чат нисколько не смущаясь признал свою ошибку... И даже не смог объяснить как она произошла, где он взял про брата...
👍3
Ученые из Индии и США обнаружили, что арифметические навыки школьников из Индии не переносятся между прикладной и академической математикой. Школьники, работающие на рынке, плохо справлялись с абстрактными школьными задачами по арифметике, но хорошо решали прикладные задачи аналогичной сложности. А школьники, которые не работали, хорошо решали абстрактные задания, но не могли решить прикладные.
Эксперимент показал, что математические навыки, полученные детьми в школе и на рынке, плохо трансформируются друг в друга. Те, кто научился решать абстрактные задания, не всегда могут применить знания в быту, а работающие дети не привыкли к абстрактности школьных задач.
https://www.nature.com/articles/s41586-024-08502-w
На русском https://dzen.ru/a/Z6ogamvPGA64yg-g
Эксперимент показал, что математические навыки, полученные детьми в школе и на рынке, плохо трансформируются друг в друга. Те, кто научился решать абстрактные задания, не всегда могут применить знания в быту, а работающие дети не привыкли к абстрактности школьных задач.
https://www.nature.com/articles/s41586-024-08502-w
На русском https://dzen.ru/a/Z6ogamvPGA64yg-g
Nature
Children’s arithmetic skills do not transfer between applied and academic mathematics
Nature - Children who learn maths working in markets and children who learn maths only from school were both unable to transfer their skills to new contexts, highlighting a need to reconsider how...
👍3
В статье рассматривается идея перехода от размерных фундаментальных физических констант к безразмерный.
В частности, предложена замена 7 размерных и 1 безразмерной фундаментальных постоянных на 3 безразмерных и 5 размерных. Что дает возможность перейти к уравнениям физики, где законы природы выражаются через безразмерные величины, которые не зависят от выбранных единиц измерения.
https://habr.com/ru/articles/880676/
В частности, предложена замена 7 размерных и 1 безразмерной фундаментальных постоянных на 3 безразмерных и 5 размерных. Что дает возможность перейти к уравнениям физики, где законы природы выражаются через безразмерные величины, которые не зависят от выбранных единиц измерения.
https://habr.com/ru/articles/880676/
Хабр
Оптимизация фундаментальных физических постоянных
Это исследование, на основе анализа связей между фундаментальными физическими постоянными, предлагает провести их оптимизацию. Новая интерпретация дает возможность получить больше информации о...
👍3
Большая языковая модель, как и большинство новшеств проходит ряд стадий:
1. Полный восторг.
2. Попытка применять везде и разочарование.
3. Понимание для чего применять можно и нужно, а для чего лучше не использовать.
По ссылке статья с анализом фундаментальных ограничений больших языковых моделей
https://www.quantamagazine.org/chatbot-software-begins-to-face-fundamental-limitations-20250131/
На русском https://habr.com/ru/news/879966/
1. Полный восторг.
2. Попытка применять везде и разочарование.
3. Понимание для чего применять можно и нужно, а для чего лучше не использовать.
По ссылке статья с анализом фундаментальных ограничений больших языковых моделей
https://www.quantamagazine.org/chatbot-software-begins-to-face-fundamental-limitations-20250131/
На русском https://habr.com/ru/news/879966/
Quanta Magazine
Chatbot Software Begins to Face Fundamental Limitations
Recent results show that large language models struggle with compositional tasks, suggesting a hard limit to their abilities.
👍1🤔1
Физики из Чикагского университета вышли на новый уровень в исследованиях квантовых систем: им удалось установить квантовую запутанность между двумя массивными акустическими резонаторами
Команда решила наблюдать за взаимодействием не между отдельными частицами, а между фононами — квантовыми частицами звука внутри резонаторов. Фонон — это не элементарная частица, а согласованное движение триллионов атомов, действующих как единое целое.
До сих пор считалось, что законы квантовой механики работают только на уровне мельчайших частиц, а в привычном нам мире действуют законы классической физики. Новое исследование показывает: граница между этими мирами не такая четкая, как предполагалось ранее.
Следующая задача команды — увеличить время жизни квантовых состояний в резонаторе. Сейчас оно составляет всего лишь около 300 наносекунд.
https://www.nature.com/articles/s41467-025-56454-0?utm_source=Securitylabru
На русском: https://www.securitylab.ru/news/556326.php
Команда решила наблюдать за взаимодействием не между отдельными частицами, а между фононами — квантовыми частицами звука внутри резонаторов. Фонон — это не элементарная частица, а согласованное движение триллионов атомов, действующих как единое целое.
До сих пор считалось, что законы квантовой механики работают только на уровне мельчайших частиц, а в привычном нам мире действуют законы классической физики. Новое исследование показывает: граница между этими мирами не такая четкая, как предполагалось ранее.
Следующая задача команды — увеличить время жизни квантовых состояний в резонаторе. Сейчас оно составляет всего лишь около 300 наносекунд.
https://www.nature.com/articles/s41467-025-56454-0?utm_source=Securitylabru
На русском: https://www.securitylab.ru/news/556326.php
Nature
Deterministic multi-phonon entanglement between two mechanical resonators on separate substrates
Nature Communications - Recent advancements have enabled quantum control and measurement of mechanical resonators. Here the authors demonstrate quantum entanglement between two mechanical...
👍2🤯1
10 лет назад появилась знаменитая статья "What every physicist should know about string theory" написанная крупнейшим специалистом в теории струн Эдвардом Виттеном.
В статье есть немного формул. Я нашел ее пересказ на русском, где вообще формул нет, а только картинки... https://habr.com/ru/articles/415781/
В статье есть немного формул. Я нашел ее пересказ на русском, где вообще формул нет, а только картинки... https://habr.com/ru/articles/415781/
Хабр
Почему физики считают, что теория струн может оказаться «теорией всего»
В основе теории струн лежит идея о том, что вместо нульмерных элементарных частиц Вселенная состоит из одномерных струн Теория струн – одна из самых гениальных, противоречивых и недоказанных идей...
👍4
Интерактивная понедельная карта жизни...
Вроде бы, и бесполезная штука, но учитывая мою страсть к визуализации разных планов, мне нравится.
https://weeks.ginatrapani.org/
На русском https://habr.com/ru/news/882928/
Вроде бы, и бесполезная штука, но учитывая мою страсть к визуализации разных планов, мне нравится.
https://weeks.ginatrapani.org/
На русском https://habr.com/ru/news/882928/
Хабр
Представлена открытая интерактивная карта жизни, где каждая неделя — это маленький прямоугольник
Разработчик Джина Трапани представила открытый проект под названием Life in Weeks . Это интерактивная карта жизни, где каждая неделя — это маленький прямоугольник. Цвет заливки каждого элемента...
🔥4