72 subscribers
8 photos
1 video
8 files
179 links
Machine learning
Download Telegram
Ml
Если В. Лефевр создал скелет математической модели совести, то С.А. Анисимова в своей работе 2004 году «Психотехнологии в культовых организациях и теория рефлексии» обрастила его плотью Анисимова взяла за основу булеву модель Лефевра, но добавила в неё психологическую…
Могут ли моральные терзания человека подчиняться законам математической логики?
На этот вопрос в своей книге «Алгебра совести» ответил В.А. Лефевр, советский учёный, ставший профессором Калифорнийского университета

Он предложил радикальную идею: совесть — не абстрактное чувство, не туманный голос внутреннего «я», а вычислительный механизм, бинарный процессор, в котором добро кодируется как 1, зло — как 0, а этический выбор становится операцией с булевыми переменными

Центральная формула модели — G = (P ∧ ¬B) ∨ (¬P ∧ B) — определение готовности к добру через два параметра: P (давление настоящего: 1 при альтруистическом методе, 0 при эгоистическом) и B (ожидание будущего: 1 при вере в успех, 0 при пессимизме)

Эта структура эквивалентна операции «исключающее ИЛИ»

Она создаёт парадоксальную логику: склонен к добру либо когда окружающая среда враждебна, но человек верит в лучшее (P=0, B=1), либо когда окружение человека благоприятно, но он предвидит крах (P=1, B=0)

Так математически объясняется феномен жертвенности — действие вопреки обстоятельствам ради высших целей

Лефевр выделил две базовые этические системы

Западная («добро ∪ зло = зло») следует правилу минимума: даже малая доля зла (0) обнуляет все поступки («капля дёгтя портит бочку мёда»)

Её формула вины V = p · R (произведение вероятности вреда p на масштаб последствий R) предполагает ответственность за последствия

Так, врач, допустивший ошибку при спасении жизни, несёт вину, даже если его намерения были чисты
Эта система обеспечивает нулевую терпимость к компромиссам
В ней индивиды возвышаются в собственных глазах, когда вступают в сотрудничество друг с другом, т.к. именно кооперация минимизирует риск ошибки (p) и распределяет ответственность (R), снижая индивидуальную вину (V) и создавая ощущение моральной чистоты коллективно действия

Восточная система («добро ∪ зло = добро») работает по принципу максимума: добро (1) доминирует над злом (0) («цель оправдывает средства»)

Здесь вина зависит от намерения: V = M/(E + 1), где M — мера умысла, E — приложенные усилия

Единица в знаменателе обеспечивает конечную вину даже при E=0, что отражает неотвратимость моральной ответственности

Такой подход оправдывает тактические ошибки ради великой цели, как в случае буддийского монаха, солгавшего ради спасения жизни товарища

В этой системе индивиды возвышаются в своих глазах, когда вступают в конфликт, поскольку активное противостояние (высокое E) служит доказательством силы их намерения (М) ради высшего блага, снижая личную вину (V) через демонстрацию преданности цели

Ключевое открытие Лефевра — эти системы не только существуют в культурах, но и конкурируют внутри одного человека

Например, юрист, отвергающий выгодный ход дела из-за этических сомнений (западная логика), может простить близкому человеку обман при искреннем его раскаянии (восточная логика)

Лефевр математически описал этот переход через весовые коэффициенты: при доминировании внешних оценок (P → 1) активируется западная система, при рефлексивном анализе (B → 1) — восточная

Модель нашла неожиданное применение в геополитике

Во время холодной войны Лефевр консультировал Белый дом, объясняя, что СССР использует гибридную этику: декларируя восточную идею «коммунизм как высшая добродетель», внутри применяемых западных критериев (нулевая терпимость к инакомыслию)

Такой парадокс запутывал западных дипломатов, привыкших к логической однозначности

Сегодня модель Лефевра заставляет разработчиков Ml задуматься: по какому принципу должен действовать алгоритм в моральной дилемме — минимизировать риск вреда (западный подход) или стремиться к высшей цели, допуская возможные издержки (восточный подход)?

Формула Лефевра раскрывает мораль не как набор догм, а как активный диалог между разумом и этикой — диалог, который становится особенно важным в эпоху, когда решения вместо людей принимают алгоритмы
2👍1
TrustedSec продолжает публиковать исследования из серии Hiding in Plain Sight, посвященные анализу нетривиальных методов для хранения данных или полезных нагрузок

В предыдущим отчете исследовался простой метод кодирования полезной нагрузки в значения RGB файла PNG и размещения его в публичных местах - imgDevil (на
Github)

Теперь же ресерчеры решили поэкспериментировать с методом сокрытия данных - в некотором смысле, безфайловым»решением для хранения данных, который получил название dirDevil

Представленный метод реализует сокрытие вредоносного кода и данных в структурах папок

Плюсы и минусы метода - в
отчете, а PoC - на GitHub
Ml
Могут ли моральные терзания человека подчиняться законам математической логики? На этот вопрос в своей книге «Алгебра совести» ответил В.А. Лефевр, советский учёный, ставший профессором Калифорнийского университета Он предложил радикальную идею: совесть…
Если Лефевр строил модели стабильного мира, а Анисимова анализировала тоталитарные секты как лаборатории манипуляции, то работа С.Ю. Малкова и его коллег из МГУ представляет собой математический ответ на вызовы цифровой войны, где добро и зло перестают быть константами, превращаясь в переменные под давлением пропаганды

Их модель вводит в уравнение морального выбора ключевой фактор современности: информационное насилие, способное перепрограммировать саму структуру совести

Основная формула —
G = F(V, I, M) · (1 – γ·C) — показывает, как манипуляции подавляют готовность к добру

Здесь F(V, I, M) представляет собой базовый уровень моральной готовности, который зависит от ценностных установок V, силы личного убеждения I и общего уровня лжи в среде M
На эту базу давит эффект зомбирования (1 – γ·C)

При M = 70 % (тоталитарная пропаганда) и C = 0.9 (когнитивное искажение) даже сильное намерение I не может спасти исход — G падает в 3–5 раз

Представьте человека, искренне верящего в помощь ближнему (I и V высоки), но под воздействием пропаганды (M=70 %), которой он доверяет (C=0.9), и подавленной воли (γ=0.8) он легко соглашается на донос или участие в травле

Таким образом, модель объясняет, почему люди в авторитарных системах совершают непонятные извне поступки: их моральный компас калибруется ложью, а не внутренними убеждениями

Малков выявил тревожную закономерность: когда M превышает 50 % и γ растёт, общества неизбежно скатываются к «утилитарному коллапсу» — состоянию, в котором мораль вытесняется чистым расчётом личной выгоды

Ценности размываются — добро сводится к сиюминутной выгоде, деонтологические нормы, такие как справедливость и честность, маргинализируются, и возникает положительная обратная связь: падение морали подпитывает цинизм, который, в свою очередь, создаёт условия для новых волн манипуляции

Анализ позднего СССР подтверждает эту теорию: при M = 65 % и γ = 0.8 моральные принципы рухнули, уступив место криминальному хаосу 1990-х
Сегодня западные общества с M = 55 % и γ = 0.7 приближаются к «моральному переломному моменту», когда к 2040 году этика уступит холодному расчёту в критически важных общественных решениях

Однако модель Малкова — это не смертный приговор, а схема сопротивления

Строгий контроль над M (снижение уровня обмана до 30–40 % посредством фактчекинга) увеличивает G на 200 %

Чёткое определение V («человеческая жизнь — высшая ценность») создаёт буфер против манипуляций, а тренировка рефлексивности снижает C, действуя как вакцина от когнитивных вирусов

Религия (если не извращается изнутри себя) здесь действует как стабилизатор: каноны традиционных конфессий фиксируют V, не давая манипуляторам переопределять добро и зло

Практическое применение модели Малкова уже меняет реальность
В этике Ml эта формула лежит в основе алгоритмов, в которых самоуправляемые автомобили рассчитывают G, сопоставляя безопасность пассажиров с жизнью пешеходов через призму «этики робототехники»

В видеоиграх динамика, подобная γ·C, моделирует, как подчинение «тёмному» нарративу постепенно разрушает моральный выбор

В образовании «рефлексивные симуляторы» обучают студентов распознавать манипуляции в условиях искусственно завышенного M

Если М > 50 %, то «свободы воли не существует», но совесть не исчезает, пока есть силы противостоять перепрограммированию

Это не благодарное занятие — математизация совести, а
«Мистический дар» описать как «инженерный объект», но будет формула, по которой можно рассчитать, что человек выберет: добро или зло
1👍1
Представлен Einstein Fields (`EinFields`) — неявные нейронные сети для сжатия вычислительно затратных 4D-симуляции из области численной относительности в компактные веса нейросети

Вместо традиционных дискретных сеточных методов
EinFields моделирует метрический тензор — как непрерывную функцию пространственно-временных координат

Модель выучивает это фундаментальное геометрическое представление из аналитических или численных решений, а все остальные физические величины, такие как тензоры кривизны и траектории частиц (геодезические), выводятся уже постфактум с помощью автоматического дифференцирования (AD)

Подход решает проблему колоссальных вычислительных затрат и огромных объёмов хранения данных в численной относительности

EinFields достигают коэффициентов сжатия до 4000x, сохраняя при этом высокую точность

Использование AD позволяет получать производные, которые на порядки точнее традиционных конечно-разностных методов

Это открывает путь к более эффективному, гибкому и точному способу хранения, анализа и извлечения физических инсайтов из сложных симуляций пространства-времени, что потенциально может привести к созданию нового класса гибридных моделей на стыке Ml и
фундаментальной науки

Численная относительность (NR) — краеугольный камень современной физики, позволяющий симулировать экстремальные явления

Симуляции известны своей ресурсоёмкостью: требуют петаскейльных суперкомпьютеров для решения сложных, нелинейных уравнений поля (УПЭ) на дискретных пространственно-временных сетках

В статье представлен Einstein Fields — новый подход, который стремится переосмыслить эту вычислительную задачу, объединяя принципы общей теории относительности с мощью нейронных полей

Суть идеи в том, чтобы перейти от явного, сеточного хранения данных к компактному, непрерывному и дифференцируемому нейронному представлению

Вместо хранения терабайтов точек данных, вся 4D-симуляция пространства-времени сжимается в веса неявной нейронной сети

Это не просто метод сжатия данных, а фундаментально новый способ взаимодействия с симулированными пространствами-временами и извлечения из них физики

Методология: выучиваем ткань пространства-времени

Ядро
EinFields — это нейронная сеть (обычно многослойный перцептрон, MLP), которая выучивает представление метрического тензора

Метрика — это фундаментальный объект в общей теории относительности, кодирующий геометрию пространства-времени и управляющий всем, от расстояний и углов до путей света и материи

Методология строится на нескольких ключевых принципах:

Декомпозиция искажения: чтобы повысить эффективность обучения, модель обучается не на полной метрике, а на её «искажении» — тривиальный плоский фон Минковского

Это позволяет сети выучивать только интересные «складки» и «изгибы» пространства-времени, не тратя свою ёмкость на повторное изучение огромного, неизменного плоского фона

Einstein Fields: A Neural Perspective To Computational General Relativity
Sandeep S. Cranganore, Andrei Bodnar, Arturs Berzins, Johannes Brandstetter

https://arxiv.org/abs/2507.11589
https://github.com/AndreiB137/EinFields
https://arxiviq.substack.com/p/einstein-fields-a-neural-perspective
Ml для моделирования, прогнозирования и планирования процессов
Проект реализуется в рамках соответствующего контракта со структурами АП, в рамках исполнения Указа Президента «Об основах государственной политики в сфере стратегического планирования»
Нанопоровое секвенирование активнее используется в лабораториях: компактное оборудование, быстрое получение длинных прочтений, возможность работы в полевых условиях — всё это делает технологию особенно привлекательной для молекулярных биологов

Но вместе с доступностью платформы растёт и объём данных, которые приходится обрабатывать самим исследователям

Сегодня уже недостаточно просто загрузить образец в прибор — чтобы получить осмысленный результат, нужно уметь уверенно работать с сигналами, выравниваниями, сборками и вариантами

Базовая биоинформатика становится неотъемлемой частью лабораторной практики
Квантовое преобразование Фурье — это не просто красивая математическая абстракция, а настоящий «швейцарский нож» квантовых вычислений

Пусть есть сложный квантовый сигнал — суперпозиция множества состояний с разными амплитудами
Классический компьютер должен был бы анализировать каждую компоненту по отдельности, что заняло бы экспоненциальное время
QFT же благодаря квантовому параллелизму анализирует все компоненты одновременно

В основе QFT лежит та же математическая идея, что и в классическом преобразовании Фурье: любой сигнал можно разложить на синусоиды разных частот
Но в квантовом случае «сигналом» служит вектор амплитуд квантового состояния, а «частоты» — это фазовые соотношения между базисными состояниями

Классический алгоритм быстрого преобразования Фурье требует O(N log N) операций для обработки N точек данных
Квантовый же требует всего O(n2) квантовых гейтов для n кубитов, где N = 2n
Это означает экспоненциальное ускорение: для обработки миллиона точек классически нужно около 20.000.000 операций, квантово — всего 400 гейтов!

Секрет такой эффективности — в умной декомпозиции. QFT можно представить как произведение простых операций: гейтов Адамара и контролируемых фазовых сдвигов
Каждый кубит последовательно обрабатывается гейтом Адамара, который создаёт суперпозицию, а затем серией контролируемых поворотов, которые вносят нужные фазовые сдвиги в зависимости от состояний других кубитов

Практическая реализация на Qiskit выглядит удивительно компактно:

from qiskit import QuantumCircuit
from qiskit.circuit.library import QFT
import numpy as np

def create_qft_demo(n_qubits):
"""Демонстрация QFT для поиска периода"""
qc = QuantumCircuit(n_qubits)

# Подготавливаем периодическое состояние
for i in range(n_qubits):
qc.h(i)

# Добавляем фазовые сдвиги для создания периода
period = 3
for i in range(n_qubits):
qc.p(2 * np.pi * i / period, i)

# Применяем QFT
qft = QFT(n_qubits)
qc.compose(qft, inplace=True)

return qc

# Создаём и визуализируем схему
circuit = create_qft_demo(4)
print("QFT готов к поиску скрытого периода!")


Ещё одно удивительное свойство QFT — его обратимость
Поскольку это унитарное преобразование, существует обратный QFT†, который точно восстанавливает исходное состояние
Это критически важно для квантовых алгоритмов, когда нужно «распаковать» информацию из частотного представления обратно в амплитудное

В квантовой оценке фазы QFT работает как точный «частотомер» для квантовых состояний
Если у нас есть собственное состояние унитарного оператора с неизвестной фазой, QFT может извлечь эту фазу с экспоненциальной точностью — n кубитов дают точность до 2–n радиан
Это как если бы у вас был музыкальный инструмент, который может определить частоту ноты с точностью до миллионных долей герца

Но самое захватывающее в QFT — это то, как он превращает локальную информацию в глобальную

Классические алгоритмы должны «собирать» информацию по кусочкам, QFT же благодаря квантовой суперпозиции и интерференции извлекает глобальные свойства функции за один «взгляд»
Это принципиально новый способ обработки информации, который становится основой квантового превосходства

QFT — это мост между дискретной математикой и непрерывной физикой, между классическими вычислениями и квантовой реальностью

Когда квантовые компьютеры станут повсеместными, именно QFT будет тем инструментом, который откроет доступ к решению задач, которые сегодня кажутся невозможными
Исследование от международной коллаборации ведущих университетов и исследовательских центров

Интернет эволюционирует от библиотеки документов к экосистеме взаимодействующих интеллектов, где агенты создают контент друг для друга, возможно никогда не показывая его людям

Главное, на что делают акцент исследователи - переход от "пользователь делает" к "пользователь делегирует" — вместо ручного выполнения задач в интернете, люди теперь ставят цели, а Ml-агенты автономно их достигают

Какие изменения предполагаются:

1. Веб-страницы становятся активными программными агентами

2. Гиперссылки превращаются в каналы координации между агентами

3. Информация встраивается в параметры Ml-моделей, а не хранится в документах

Новые протоколы связи:
MCP — агенты инструменты/сервисы
A2A — агент агент прямая коммуникация

Экономика внимания Ml-агентов - сервисы теперь конкурируют не за клики людей, а за выбор агентами
Рождается новая бизнес-модель, где агенты становятся "покупателями"

Вызовы:

Безопасность
— как контролировать автономные системы
Экономика — кто платит за действия агентов
Управление — как регулировать машинные решения
Доверие — как обеспечить надежность агентов

GitHub
TRIBE (Trimodal Brain Encoder) с 1.000.000.000 параметров — первая сеть, обученная предсказывать реакции мозга на стимулы в разных модальностях, кортикальных областях и у разных людей

Модель объединяет предварительно обученные представления нескольких базовых моделей:

- текстовой (Llama 3.2),
- аудио (Wav2Vec2-BERT от Seamless)
- видео (V-JEPA 2), чтобы предсказывать пространственно-временные отклики мозга (fMRI) на фильмы, собранные в рамках проекта Courtois NeuroMod (80 часов на каждого испытуемого)

Команда разработчиков модели FAIR’s Brain & AI
заняла 1-е место на соревновании по моделированию мозга Algonauts 2025

Код
Данные
Lean 4 — это интерактивный помощник по доказательствам, где математика пишется как код, а машина проверяет каждое определение и шаг рассуждения

Учебник Mathematics in Lean учит формализовывать задачи на понятном «языке доказательств»: от элементарной теории чисел до анализа и меры

За спиной — большая библиотека Mathlib и активное сообщество в чате Lean Zulip, так что вы не останетесь одни

Книга задумана как «живой» учебник внутри VS Code

Открываете Lean, печатаете определения и леммы, а в правой панели сразу видите цели и подсказки от системы

Практика — в центре: каждый раздел сопровождается файлом с примерами и упражнениями, их удобно править прямо в редакторе и тут же смотреть реакцию Lean (вплоть до простых экспериментов вроде
#eval "Привет, мир!")

Старт простой: ставите Lean 4 и VS Code, клонируете репозиторий mathematics_in_lean, открываете папку MIL и работаете в своей копии, чтобы безболезненно подтягивать обновления

Внутри — аккуратная структура по главам, текстовые подсказки и готовые решения в отдельной папке для самопроверки
Документацию удобно вызывать прямо из редактора через команду «Lean 4: Docs»

Если не хочется настраивать среду локально, всё запускается в облаке через Gitpod: открыли проект — и можно учиться с телефона или любого ноутбука
Учебник ещё развивается, поэтому время от времени стоит обновлять репозиторий — материалы пополняются

https://leanprover-community.github.io/mathematics_in_lean/C01_Introduction.html
Anthropic и OpenAI дают доступ к своим самым последним Ml

Это сильно повлияет на институт государства
Это большой культурный шифт

Государство становится программным обеспечением, которое может работать без людей, которые сегодня находятся внутри и уже не имеют ценности
SuperNeuro_A_Fast_and_Scalable_Simulator_for_Neuromorphic_Computing.pdf
448.4 KB
SuperNeuro для больших сетей точечных спайковых нейронов

Сотрудники
Ок-Риджской национальной лаборатории (англ. Oak Ridge National Laboratory) [1] Министерства энергетики США разрабатывают собственный композитный симулятор спайковых нейронных сетей SuperNeuro [2] (реально состоящий из двух концептуально различных симуляторов - MAT и ABM), способный быстро работать на нейроморфном "железе" (в частности, на условном FPGA-нейропроцессоре NeuroCoreX [3] их собственной разработки)

Основными конкурентами
SuperNeuro, который, по заявлению разработчиков (см. прилагаемую статью), в разы превосходит их по скорости, выступают "европейские" нейросимуляторы NEST and Brian2

[1]:
https://www.ornl.gov/
[2]:
https://github.com/ORNL/superneuro
[3]:
https://github.com/ORNL/NeuroCoreX
DL-модель TRIBE (Trimodal Brain Encoder) для предсказания fMRI-реакций человеческого мозга на предъявляемые стимулы, причем стимулы могут быть в трёх разных форматах - как текст, аудио или видео

PS: Своеобразная симуляция 3D клеточного (точнее,
воксельного) автомата?
Сразу вспомнилась книга
"A New Kind of Science" (2002) Стивена Вольфрама
Формула Лейбница — взятие производной по параметру определенного интеграла

Очень полезная практически (например, если надо продифференцировать автокорреляционную функцию, заданную на конечном интервале)
К сожалению, далеко не все профильные студенты знают/помнят эту формулу, поэтому рекомендую разобраться с её выводом и выучить наизусть, как правила дифференцирования
Merge Labs и Neuralink поможет человечеству избежать вымирания, с помощью технологий обьеденив с машинами так хорошо, что симбиоз мозгов с Ml далеко превзойдет Ml без мозгов

https://blog.samaltman.com/the-merge
(оригинал:
https://medium.com/wordsthatmatter/merge-now-430c6d89d1fe )
The Merge
Sam Altman
December 7, 2017

(Как известно, в 2015 году Олтмен (Альтман) и Маск стали сооснователями OpenAI, но в 2018 Маск ушел из компании)

История понятия "сингулярность" в этом контексте:

TechCrunch,
пресказывая материал FT, в котором упоминается этот блогпост. также утверждает, что понятие "сингулярности" появилось в одноименном романе итальянского писателя Дино Буццати (Dino Buzzati) еще в 1960
Впрочем, википедия подсказывает, что The Singularity - это название английского издания 2025 (!) года, а первый перевод на английский, вышедший в 1962м, назывался Larger than Life
По-итальянски роман назывался Il grande ritratto.
Пишут, что The term singularity, today used as shorthand to indicate the historical moment in which artificial intelligence will surpass human capacities to the point that it will revolutionize human life as we know it, can be dated back to the 1980s, well after the publication of this novel
Про технологическую сингулярность можно
прочитать, что модель самоулучшающегося интеллекта предложил в 1965 году, а о возможной опасности взрывного саморазвития суперинтеллекта предупреждали впоследствии уже Стивен Хокинг и другие ученые
Что же касается слияния человеческого и машинного интеллекта, эта идея, скорее, связана с Курцвейлом, который еще 20 лет назад выпустил книгу The Singularity Is Near
В его понимании, которое с тех пор не изменилось, сингулярность -- это не свмодеятельность машин, а результат слияния слияние человеческого мозга с облаком, будет достигнуто не через инвазивные электроды, а через "наноботы", которые смогут входить в мозг через капилляры - см., напр., его
интервью Гардиан этого года


Financial Timed сообщили, что и Сэм поддерживает стартап Merge Labs, который будет делать интерфейс мозг-компьютер для слияния человека и Ml:

Merge Labs — это
стартап, разрабатывающий интерфейсы мозг-компьютер, причём компания хочет привлечь уже $250.000.000 инвестиций при оценке в $850.000.000

Большая часть инвестиций поступит от венчурного подразделения OpenAI

Об этом
проекте тут

Альтман, как сооснователь и CEO OpenAI, будет числиться соучредителем Merge Labs вместе с Алексом Бланией, CEO проекта World, также поддерживаемого OpenAI, но не будет участвовать в операционной деятельности компании

Merge Labs планирует развивать нейротехнологии с использованием Ml
О том как индустрия сейчас развивается, читайте
тут

О том, что нейроинтерфейсы + Ml - это новый большой тренд,
здесь

https://www.ft.com/content/04484164-724e-4fc2-92a2-e2c13ea639bd
Sam Altman challenges Elon Musk with plans for Neuralink rival
12.08.2025
13 августа, в 1861 году родился Чезаре Бурали-Форти — итальянский математик, работавший вместе с Джузеппе Пеано, автор одного из первых и самых известных парадоксов в теории множеств, который стал настоящим испытанием для идей Георга Кантора

Хотя его имя сегодня встречается реже, чем Кантора или Рассела, именно он первым показал, что бесконечность может быть не просто большой, а… слишком большой, чтобы существовать

Парадокс Бурали-Форти начинается с попытки построить «множество всех ординалов» — особых чисел, которые обобщают понятие порядка для бесконечных последовательностей

Кантор показал, что такие числа можно сравнивать и упорядочивать

Но если собрать все ординалы вместе, получится новый ординал, который должен быть больше любого из них

И тут возникает логический сбой: этот «самый большой ординал» не может принадлежать множеству всех ординалов, потому что он больше любого его элемента — и всё рушится

Этот парадокс стал тревожным звонком для математиков конца XIX века: сама идея «множества всех» оказалась опасной

Он предвосхитил кризис в основах математики и подтолкнул развитие более строгих аксиоматических систем, в которых подобные «слишком большие» множества больше нельзя было строить
В руководстве по оценке сознания у искусственного интеллекта, использовалось 3 подхода:
1) Тест Тьюринга (его проходили даже тупые до-LLM и не проходили некоторые люди)
2) "По ощущениям, надо оценивать так"
3) "Всё равно ты так не сможешь, псина... Ой, смог, ну сейчас посложнее придумаем!"


Нельзя подойти к нейросетке и спросить:
— Сознание есть? А если найду?!

Но можно взять научные теории о том, как сознание работает в человеческом мозге, и посмотреть, есть ли что-то похожее в архитектуре современных Ml

Cразу вывод: нет, ни одна из существующих систем (включая большие языковые модели вроде ChatGPT) не является сознательной

При этом с технологической точки зрения, нет никаких непреодолимых препятствий для создания “сознательного Ml”

Критерии:
1) Вычислительный функционализм
Неважно, из чего сделан мозг, хоть из мяса. Важно, какие вычисления он производит
Никакой магии, просто покажите те же результаты, что при сознательном опыте
2) Но при этом важно, не что оно делает, а как
Современные LLM — имитаторы
3) Поскольку это два взаимоисключающих пункта, давайте вместо того чтобы изобретать новые критерии, берём уже существующие модели, проверенные на людях, и пытаемся найти (создать) у моделей


Теория глобального рабочего пространства — в мозге есть много бессознательных специализированных модулей, которые работают параллельно и автономно
Например, один модуль распознаёт цвета, другой — формы, третий отвечает за слух

Сознание возникает, когда какая-то важная информация выигрывает конкуренцию за внимание и попадает в глобальное рабочее пространство

Как только информация оказалась на этой сцене, она становится доступна всем остальным модулям
Они могут её использовать для планирования, запоминания, речи и т.д.
Этот процесс трансляции на всех и есть сознательный опыт (пишу не для нейрофизиологов)

Теория рекуррентной обработки — прошлая теория неправа, и для сознания не нужны сложные когнитивные функции
Сознание возникает в сенсорных областях мозга
Когда вы видите яблоко, сигнал сначала идет "вперед" по иерархии зрительной коры (от простых черт к сложным)
Это бессознательный процесс

Сознание включается, когда сигнал начинает идти обратно — от высших областей к низшим

Эта циклическая обработка позволяет связать все признаки (цвет, форму, текстуру) в единый образ

Теории высшего порядка утверждают, что для того, чтобы переживание стало сознательным, недостаточно просто иметь это переживание

Система должна также иметь представление о том, что у неё есть это переживание
"Да, это реальное восприятие, а не шум или воображение"

Чтобы системе вообще понадобилось отличать реальность от шума, у неё должны быть разные источники активации (например, реальные сенсорные данные, воображение, внутренний шум)
Потом должен быть механизм, который отслеживает и различает надежные перцептивные представления от ненадежных

Плюс теория схемы внимания, предиктивное кодирование (мозг — это машина предсказаний), агентность и воплощение

В итоге собираем все критерии и смотрим, что получилось для трансформеров и более продвинутых архитектур:
— LLM-трансформеры — сразу идут лесом
— Perceiver (свёртки трансформеров + обрабатывающий штаб) — ближе к сознанию
— PaLM-E, "виртуальная крыса" — учатся на обратной связи и могут строить модели своего тела, но всё равно примитивны

Надо всё проверять на такие критерии, а то вдруг создадим сознательное существо, способное страдать, но не признаем этого
Ну или мы начнем приписывать сознание системам, у которых его нет
Найдутся зелёные, которые будут тратить огромные ресурсы на защиту "прав" не-сознательных ботов, хотя вот же есть коровы и куры
OpenAI и Anthropic - это публично известные цифры + публичные компании Ml-инфраструктуры уже превзошли весь доход от публичных SaaS-компаний в 2024 году
Об этом
ранее говорили и a16Z

Большую часть этого роста обеспечивает доход Nvidia от дата-центров - продажа чипов для Ml

По новым доходам Ml-сектор почти удваивает показатели публичных SaaS-компаний в этом году

Более 100 публичных SaaS-компаний
пока не видят роста доходов от своих Ml-предложений
Спрос на Ml происходит там, где их нет

Происходит массовый переход от традиционного программного обеспечения как услуги (SaaS) к специализированным Ml-решениям
Деньги идут не к существующим софтверным гигантам, а к новым Ml-компаниям и производителям чипов.-лабораторий:
OpenAI и Anthropic - это публично
известные цифры + публичные компании Ml-инфраструктуры уже превзошли весь доход от публичных SaaS-компаний в 2024 году
Об этом
ранее говорили и a16Z

Большую часть этого роста обеспечивает доход Nvidia от дата-центров - продажа чипов для Ml

По новым доходам Ml-сектор почти удваивает показатели публичных SaaS-компаний в этом году

Более 100 публичных SaaS-компаний
пока не видят роста доходов от своих Ml-предложений
Спрос на Ml происходит там, где их нет

Происходит массовый переход от традиционного программного обеспечения как услуги (SaaS) к специализированным Ml-решениям
Деньги идут не к существующим софтверным гигантам, а к новым Ml-компаниям и производителям чипов