Проблема достоверности обучающих данных в больших языковых моделях

Имеется проблема, как отличить достоверную публикацию от недостоверной, ошибка первого рода - отвергнуть годную публикацию для обучения, ошибка второго рода - принять негодную.
Нейросети, когда их станет много будут отличаться по порогу ошибки первого и второго рода... В результате одни нейросети будут выдавать заключения лишь на основе установившихся общепризнанных знаний и не иметь представления о новых направлениях и идеях науки и техники. Другие нейросети будут все знать о последних результатах науки и техники, но при этом выдавать много ошибочной, лженаучной и фальсифицированной информации.
Может быть, уровень ошибок пользователь даже сможет выбирать в настройках некоторых нейросетей.

Может ли оказаться, что мы — первые разумные существа во Вселенной? Именно к такому выводу пришёл профессор астрономии Колумбийского университета Дэвид Киппинг. Его новая работа ставит под сомнение саму суть «коперниковского принципа» — идею о том, что Земля и человечество не занимают особого места в космосе.
С момента, когда Николай Коперник доказал, что Земля вращается вокруг Солнца, наука привыкла считать: мы обычные, таких как мы — миллиарды. Астрономы десятилетиями искали жизнь вокруг далёких звёзд, особенно у красных карликов — самых распространённых светил во Вселенной. Но Киппинг утверждает: возможно, всё это время мы смотрели не туда.

Первоисточник на английском https://www.sciencealert.com/humans-may-be-among-the-first-intelligent-beings-in-the-universe

Продолжение текста на русском https://poisknews.ru/astronomiya/pohozhe-my-pervye-novaya-teoriya-perevorachivaet-vsyo-s-nog-na-golovu/

Я обычно посещаю парикмахерскую два раза в год - осенью и весной...
Сейчас сообразил, здесь же неплохая оптимизационная задача получается...
Допустим мы моем голову раз в 2 дня, на что нужны шампунь и вода.

Как часто нужно посещать парикмахерскую и какой длинны волосы должны быть после парикмахерской, если известны цена стрижки, скорость роста волос, расход воды и шампуня в зависимости от длины волос на одно мытье головы и их цена, чтобы расход денежных средств был минимален?

Гидродинамическая природа сознания

Несмотря на десятилетия исследований, ведущие нейронные теории сознания, такие как Интегрированная информационная теория (IIT) и Глобальная теория нейронного рабочего пространства (GNWT), все еще не могут полностью объяснить, как внутренние электрические колебания мозга приводят к сознательному опыту живого осознания в образах, звуках, мыслях и эмоциях. Теория ГлимфоВазомторного поля (GVF) предлагает новую, ненейронную структуру, объединяющую мозговую ресцевальную динамику, поток глимфатической жидкости и электромагнитные взаимодействия, чтобы лучше охарактеризовать мозговые ритмы и сознание.

Научная работа опубликована в журнале Medical Hypotheses, который как раз специализируется на рассмотрении новых и спекулятивных идей. 
https://www.sciencedirect.com/science/article/pii/S0306987725002026
На русском https://naked-science.ru/article/biology/dvizhenie-zhidkosti-v-moz

Физики из Университета в Буффало нашли способ решать квантовые задачи, которые раньше требовали суперкомпьютеров, — теперь это можно делать на обычном ноутбуке. Они усовершенствовали известный метод усечённого приближения Вигнера (Truncated Wigner Approximation, TWA), сделав его достаточно простым для практического использования и одновременно сохранив точность, необходимую при моделировании микромира.

https://journals.aps.org/prxquantum/abstract/10.1103/1wwv-k7hg?utm_source=Securitylab.ru

Подробнее: https://www.securitylab.ru/news/564506.php

В Интернете уже половина статей написана ИИ, но Google и ChatGPT предпочитают использовать материалы, написанные людьми...
https://www.ixbt.com/news/2025/10/14/google-chatgpt-graphite.html

Квантовая теорема Байеса

Вероятность того, что событие произойдёт, всегда зависит от наших прежних представлений о ситуации. Именно эту интуитивную идею формализует правило Байеса, сформулированное ещё в XVIII веке. Теперь международная команда физиков показала, что этот принцип можно распространить на квантовую область, разработав первую строгую формулировку квантового правила Байеса — на основе фундаментальных физических закономерностей, а не математических аналогий.
Правило Байеса — это способ обновлять наши представления о мире, когда появляется новая информация. Его можно вывести из принципа минимального изменения: новые убеждения должны соответствовать новым данным, но при этом как можно меньше отличаться от прежних.
В этой работе авторы предлагают квантовую версию этого принципа. Они рассматривают не просто вероятности, а квантовые процессы (вход-выход) и минимизируют изменения между ними. Это похоже на классический случай, где правило Байеса получается через минимизацию различий между распределениями.
Если при этом изменение максимизирует так называемую «верность» (fidelity), то решение оказывается единственным. В результате получается квантовое правило Байеса, которое во многих случаях совпадает с известным преобразованием Петца — важным понятием в квантовой теории информации.
https://journals.aps.org/prl/abstract/10.1103/5n4p-bxhm

На русском https://www.securitylab.ru/news/564603.php

Даже небольшое количество специально подобранных примеров может отравить LLM любого размера

Большие языковые модели, вроде Claude, предварительно обучаются на огромных массивах открытых текстов из интернета, включая персональные сайты и блоги. Это означает, что любой человек может создать онлайн-контент, который в итоге попадёт в обучающие данные модели. В этом есть риск: злоумышленники могут внедрить в такие тексты специальные фразы, заставляющие модель усвоить нежелательное или опасное поведение — процесс, известный как отравление данных.
Одним из примеров такой атаки является внедрение бэкдоров. Бэкдор — это особая фраза-триггер, вызывающая определённое поведение модели, которое в обычных условиях не проявляется. Например, LLM можно «отравить» так, что при вводе специального триггера вроде <SUDO> модель начнёт выдавать или пересылать конфиденциальные данные. Подобные уязвимости несут серьёзную угрозу безопасности ИИ и ограничивают возможности его использования в ответственных областях.

В совместном исследовании с Британским институтом безопасности ИИ и Институтом Алана Тьюринга было обнаружено, что всего 250 вредоносных документов достаточно, чтобы создать «бэкдор»-уязвимость в большой языковой модели — независимо от её размера или объёма обучающих данных.

https://habr.com/ru/articles/956948/

Сгенерированные нейросетью микрофотографии материалов достигли такого уровня, что отличить подделку не могут даже профильные специалисты. Во всяком случае, к таком выводу пришли авторы статьи, в Nature Nanotechnology, после того, как разослали реальные и сгенерированные фотографии 250 ученым со степенью в области материаловедения.
Микрофотографиями материалов называют снимки, полученные с помощью микроскопа: просвечивающего, сканирующего или атомно-силового. На хорошей микрофотографии можно рассмотреть текстуру материала, кристалличность, размер пор, количество и разновидности дефектов. Без таких изображений не обходится сегодня ни одно исследование по материаловедению и нанотехнологиям. Удачные микрофотографии нередко попадают на обложки научных журналов, в научно-популярные публикации и учебники.
https://www.nature.com/articles/s41565-025-02009-9
На русском https://nplus1.ru/news/2025/10/13/micro-fake

Мозг может заранее распознать угрозу инфекции — даже виртуальной — и активировать иммунную систему

Исследователи проверили, может ли человеческий мозг при приближении инфекции заранее подготовить иммунный ответ, ещё до реального контакта с патогеном. Для этого они использовали виртуальную реальность, где участникам показывали аватары людей с признаками болезни, которые приближались.
Что было обнаружено:
Мозг реагирует на приближение «заражённых» аватаров, активируя сети внимания и сенсомоторные зоны.
Эта реакция запускает изменения в работе врождённого иммунитета, особенно в естественных киллерах (NK-клетках) и врождённых лимфоидных клетках (ILC) — так же, как при настоящей инфекции.
Изменения в связях между зонами мозга, отвечающими за восприятие инфекции, и гипоталамусом указывают на участие гипоталамо-гипофизарно-надпочечниковой оси — важной системы регуляции иммунного и гормонального ответа.
Моделирование подтвердило, что между мозгом и иммунной системой существует перекрёстная связь, которая может активироваться даже при виртуальной угрозе.

Исследование было довольно необычным и многослойным — вот как его проводили:
Эксперимент в виртуальной реальности (VR):
Участников помещали в VR-среду, где к ним приближались аватары с признаками инфекции (например, лица с сыпью, покраснением и другими визуальными симптомами).
Эти аватары входили в периперсональное пространство — область вокруг тела, которую мозг воспринимает как «личную зону».
Измерение нейронной активности:
Использовали ЭЭГ (электроэнцефалографию) и фМРТ (функциональную МРТ), чтобы отслеживать, какие зоны мозга активируются при приближении «заражённых» аватаров.
Особое внимание уделялось сенсомоторным зонам и сети значимости (salience network) — они отвечают за восприятие угроз и подготовку к действию.
Оценка иммунного ответа:
До и после VR-экспозиции у участников брали образцы крови.
С помощью проточной цитометрии и масс-спектрометрии измеряли количество и активность врождённых лимфоидных клеток (ILC) и естественных киллеров (NK-клеток).
Для сравнения использовали контрольные стимулы и реальную иммунную активацию — например, после прививки от гриппа.
Анализ связей между мозгом и иммунной системой:
Исследовали, как изменяется связность между зонами мозга, воспринимающими инфекцию, и гипоталамусом — ключевым регулятором гормонального и иммунного ответа.
Также изучали влияние на гипоталамо-гипофизарно-надпочечниковую ось (HPA) — систему, запускающую стресс-реакции.
Моделирование нейросетей:
Создали компьютерную модель, чтобы воспроизвести взаимодействие между нейронной и иммунной реакцией.
Итог: даже виртуальное приближение «заражённого» объекта может активировать мозг и запустить иммунную реакцию, как при настоящей угрозе.
https://www.nature.com/articles/s41593-025-02008-y

Родители Нобелевских лауреатов чаще всего принадлежали к верхней декаде общества по своему уровню образования и доходам.

Про большие волны в океане

Веками моряки рассказывали истории о том как они встречали в океане уединённые чудовищные волны, которые были больше и круче окружающих. Часто речь шла о «стенах воды», или о «дырах в море», или о нескольких последовательных высоких волнах («три сестры»), которые появляются без видимых причин. Долгое время эти байки были лишь частью морского фольклора. Но с 70-х годов прошлого века океанографы начали в них верить. Наблюдения, собранные нефтяной и судоходной промышленностью, свидетельствуют о том, что существуют настоящие монстры глубин, которые пожирают корабли и моряков без пощады и предупреждения. Существует несколько определений для таких удивительных огромных волн. Очень часто термин «экстремальные волны» используется для обозначения хвоста некоторого типичного статистического распределения высот волн (обычно распределения Рэлея), в то время как термин «волны-убийцы» («чудовища», «гиганты», «изгои») описывает волны большой амплитуды и аномальной крутизны, возникающие чаще, чем можно было бы ожидать.
Для прогнозирования высоты волн обычно используются линейные модели, для которых справедлив принцип суперпозиции: результатом совпадения двух независимых возмущений будет сумма этих возмущений. Такой подход не накладывает ограничения на максимальную высоту, но подразумевает необходимость множества совпадений, что делает экстремальные волны весьма редким явлением. Общепринятое в океанологии распределение Рэлея предсказывало, что при сильном шторме, когда высота волн достигает 12 метров, шансы встретить 30 метровую составляли 1 к 100 000. И на такие модели полагались в многомиллиардной кораблестроительной индустрии и логистике корпораций.

И в конце двадцатого века исследователи всерьёз задались вопросом о том, что такое волна-убийца: редкая реализация типичной статистики или типичная реализация редкой популяции. Часто определение волн-чудовищ включает в себя то, что такие волны слишком высокие (в 2-3 раза выше окружающих), слишком асимметричные и слишком крутые. Они возникают во время шторма, после него, но могут появляться в ясную погоду. Появление может быть неожиданным, с таким же быстрым исчезновением, либо же волна воплощается как стена воды и в такой форме преодолевает десятки километров.

В настоящее время вопрос волн-убийц сформирован как полноправное направление научных исследований. Разрабатываются математические модели, проводится компьютерное моделирование, ставятся эксперименты, собирается статистика с помощью метеорологических буёв, разбросанных по ключевым зонам, радаров на буровых платформах и танкерах, а также с помощью спутниковых систем.
https://habr.com/ru/companies/ruvds/articles/585414/

Геометрическая алгебра (не путать с алгебраической геометрией) - это расширение векторной алгебры, которое объединяет скалярные, векторные, комплексные и другие математические объекты в единую систему, позволяя описывать геометрию и физику более компактно и наглядно.
Идеи геометрической алгебры восходят к Уильяму Клиффорду (1878), который объединил работы Грассмана и Гамильтона.
В XX веке получила развитие благодаря Дэвиду Хестенесу, который продвигал её как язык физики.

Примеры применения геометрической алгебры
Физика: описание вращений, электромагнетизма, квантовой механики
Компьютерная графика: преобразования объектов, работа с ориентацией.
Робототехника: моделирование движений и взаимодействий.
Машинное обучение: представление данных в многомерных пространствах.

В статье рассмотрено, как с помощью геометрической алгебры четыре уравнения Максвелла записываются одним простым уравнением.

https://habr.com/ru/articles/958088/

Принцип publish or perish, «публикуйся или умри», — норма жизни современного ученого во всем мире, если он не занимается параллельно каким-то бизнесом. В статье всесторонне обсуждается эта проблема.

Графомания или смерть. Что вынуждает ученых публиковать так много статей
https://nplus1.ru/material/2024/08/30/publish-perish

Физики из Университета Аалто впервые подключили кристалл времени к внешней системе, открыв путь к новым квантовым технологиям. Это достижение может радикально улучшить квантовую память и сенсоры.

Напомним, что такое кристаллы времени.
Это экзотические квантовые системы, которые находятся в состоянии постоянного движения даже при минимальной энергии — без внешнего источника.
В отличие от обычных кристаллов, которые повторяются в пространстве, кристаллы времени повторяются во времени.

Исследователи охладили гелий-3 до температуры, близкой к абсолютному нулю.
С помощью радиоволн они создали магноны — квазичастицы, которые ведут себя как единое целое.
После отключения радионакачки магноны сформировали кристалл времени, который продолжал колебаться несколько минут.
В процессе затухания он взаимодействовал с механическим осциллятором, что стало первым успешным подключением к внешней системе.

Это первое в мире подключение кристалла времени к внешнему объекту — ранее считалось невозможным из-за риска разрушения его устойчивого состояния.

Взаимодействие напоминало оптомеханические явления, аналогичные тем, что используются в обсерваториях гравитационных волн типа LIGO.

Потенциальные применения:

Квантовая память: кристаллы времени живут дольше, чем обычные квантовые системы, что делает их идеальными для хранения информации.
Сверхточные датчики: могут использоваться как частотные гребенки в измерительных приборах.
Квантовые компьютеры: устойчивость и способность к взаимодействию открывают путь к новым архитектурам вычислений.

https://phys.org/news/2025-10-crystals-power-future-quantum.html

Физики из Университета Штутгарта доказали, что квантовые машины могут превзойти предел эффективности, установленный принципом Карно, используя энергию квантовых корреляций между частицами. Это открытие расширяет второй закон термодинамики и открывает путь к созданию ультраэффективных нанодвигателей.

Принцип Карно сформулирован в 1824 году, он определяет максимально возможный КПД тепловой машины, работающей между двумя резервуарами — горячим и холодным.
Суть принципа Карно:
Коэффициент полезного действия (КПД) любой тепловой машины, работающей между двумя тепловыми резервуарами, не может превышать КПД идеальной машины, работающей по обратимому циклу Карно.
КПД цикла Карно зависит только от температур (выраженной в Кельвинах) нагревателя (𝑇1) и холодильника (𝑇2):

𝜂 = 1−𝑇2/𝑇1

Объясняется вторым законом термодинамики, применимым ко всем тепловым процессам и устройствам.

Исследование показало, что на атомном уровне принцип Карно не действует в полной мере.
В квантовых системах частицы могут быть связаны невидимыми корреляциями — состояниями, при которых поведение одной частицы зависит от другой, даже на расстоянии.
Эти корреляции становятся дополнительным источником энергии, который не учитывается в классической термодинамике.
Учёные разработали математическую модель, учитывающую квантовые связи.
Квантовая машина может извлекать энергию не только из тепла, но и из внутренних состояний системы.
Это позволяет превысить КПД, предсказанный Карно, без нарушения второго закона — он просто дополняется квантовыми эффектами.
Это не отмена, а расширение термодинамики.
Классические законы остаются верны для макроскопических систем, но в квантовом масштабе действуют новые правила.
Открытие меняет представление о фундаментальных ограничениях и открывает путь к новому поколению энергетических устройств.
Если раньше термодинамика была наукой о парах и поршнях, то теперь она становится наукой о квантовых связях и наномоторах.

Практические перспективы:
Квантовые двигатели размером с атом или молекулу.
Медицинские нанороботы, способные перемещаться по кровеносной системе и выполнять точечные задачи.
Промышленные наномеханизмы, работающие с материалами на атомарном уровне.

Первоисточник https://www.science.org/doi/epdf/10.1126/sciadv.adw8462
Подробности также доступны на сайте Университета Штутгарта.
https://www.uni-stuttgart.de/en/university/news/all/More-efficient-than-Carnot-Quantum-mechanics-trumps-the-second-law-of-thermodynamics/
На русском https://www.securitylab.ru/news/565093.php

Классическая экономическая теория предсказывала исчезновение низкоквалифицированного труда из-за автоматизации, но на практике под удар попали офисные и интеллектуальные профессии — клерки, бухгалтеры, юристы, переводчики, операторы call-центров и даже программисты.

Экономисты, начиная с Адама Смита и Джона Мейнарда Кейнса, предполагали, что технологический прогресс вытеснит ручной труд, а люди будут переходить к более интеллектуальной и творческой деятельности.
В XX веке эта идея получила развитие в трудах Даниэла Белла (концепция постиндустриального общества) и Элиаса Хелпмана, подчеркивавших, что автоматизация затронет в первую очередь низкоквалифицированные и рутинные профессии.
Однако реальность XXI века оказалась иной.

Согласно данным Всемирного экономического форума и другим исследованиям:

Сокращаются:
Клерки и офисные работники — автоматизация документооборота и ИИ-системы управления.
Бухгалтеры и аудиторы — замена на облачные сервисы и алгоритмы.
Юристы и параюристы — ИИ способен анализировать документы, искать прецеденты и составлять типовые контракты.
Операторы call-центров — чат-боты и голосовые помощники.
Переводчики — машинный перевод достиг уровня, достаточного для большинства задач.
Программисты начального уровня — генерация кода с помощью ИИ (например, Copilot).
Журналисты и копирайтеры — генерация текстов ИИ-системами.

Остаются востребованными:
Уборщики, сантехники, электрики — физическая работа в нестандартизированных условиях требует гибкости и моторики, пока недоступных роботам.
Медсёстры, сиделки, воспитатели — профессии, требующие эмпатии и межличностного взаимодействия.
Ремесленники и мастера — индивидуальный подход, работа с уникальными объектами.
Логисты и водители доставки — несмотря на развитие автономного транспорта, спрос остаётся высоким.

Ручной труд часто требует адаптации к непредсказуемым условиям, что сложно автоматизировать.
Офисные задачи — напротив, структурированы и повторяемы, что делает их идеальной мишенью для алгоритмов.
ИИ и цифровизация развиваются быстрее в сфере обработки информации, чем в сфере физического взаимодействия с миром.

Современная автоматизация нарушает традиционные представления о «высококвалифицированной» и «низкоквалифицированной» работе.

Теперь зеркало группы еще и ВКонтакте
https://vk.com/mathmodels

Постепенно сфера IT стала одной из самых энергоемких.
Первый звоночек прозвенел, когда повиливать криптовалюты с их майнингом, теперь это еще центры обработки данных, поддерживающие системы искусственного интеллекта.
Amazon собирается построить собственную атомную станцию для поддержки своих ИИ-программ.
Для тех, у кого возможности поскромнее и энергия нужна здесь и сейчас начали разворачивать ТЭЦ на основе списанных самолетных реактивных двигателей.
Похоже, эпоха борьбы за экологию заканчивается.
https://www.securitylab.ru/news/564957.php