В руководстве по оценке сознания у искусственного интеллекта, использовалось 3 подхода:
Нельзя подойти к нейросетке и спросить:
— Сознание есть? А если найду?!
Но можно взять научные теории о том, как сознание работает в человеческом мозге, и посмотреть, есть ли что-то похожее в архитектуре современных Ml
Cразу вывод: нет, ни одна из существующих систем (включая большие языковые модели вроде ChatGPT) не является сознательной
При этом с технологической точки зрения, нет никаких непреодолимых препятствий для создания “сознательного Ml”
Теория глобального рабочего пространства — в мозге есть много бессознательных специализированных модулей, которые работают параллельно и автономно
Например, один модуль распознаёт цвета, другой — формы, третий отвечает за слух
Сознание возникает, когда какая-то важная информация выигрывает конкуренцию за внимание и попадает в глобальное рабочее пространство
Как только информация оказалась на этой сцене, она становится доступна всем остальным модулям
Они могут её использовать для планирования, запоминания, речи и т.д.
Этот процесс трансляции на всех и есть сознательный опыт (пишу не для нейрофизиологов)
Теория рекуррентной обработки — прошлая теория неправа, и для сознания не нужны сложные когнитивные функции
Сознание возникает в сенсорных областях мозга
Когда вы видите яблоко, сигнал сначала идет "вперед" по иерархии зрительной коры (от простых черт к сложным)
Это бессознательный процесс
Сознание включается, когда сигнал начинает идти обратно — от высших областей к низшим
Эта циклическая обработка позволяет связать все признаки (цвет, форму, текстуру) в единый образ
Теории высшего порядка утверждают, что для того, чтобы переживание стало сознательным, недостаточно просто иметь это переживание
Система должна также иметь представление о том, что у неё есть это переживание
"Да, это реальное восприятие, а не шум или воображение"
Чтобы системе вообще понадобилось отличать реальность от шума, у неё должны быть разные источники активации (например, реальные сенсорные данные, воображение, внутренний шум)
Потом должен быть механизм, который отслеживает и различает надежные перцептивные представления от ненадежных
Плюс теория схемы внимания, предиктивное кодирование (мозг — это машина предсказаний), агентность и воплощение
В итоге собираем все критерии и смотрим, что получилось для трансформеров и более продвинутых архитектур:
Надо всё проверять на такие критерии, а то вдруг создадим сознательное существо, способное страдать, но не признаем этого
Ну или мы начнем приписывать сознание системам, у которых его нет
Найдутся зелёные, которые будут тратить огромные ресурсы на защиту "прав" не-сознательных ботов, хотя вот же есть коровы и куры
1) Тест Тьюринга (его проходили даже тупые до-LLM и не проходили некоторые люди)
2) "По ощущениям, надо оценивать так"
3) "Всё равно ты так не сможешь, псина... Ой, смог, ну сейчас посложнее придумаем!"
Нельзя подойти к нейросетке и спросить:
— Сознание есть? А если найду?!
Но можно взять научные теории о том, как сознание работает в человеческом мозге, и посмотреть, есть ли что-то похожее в архитектуре современных Ml
Cразу вывод: нет, ни одна из существующих систем (включая большие языковые модели вроде ChatGPT) не является сознательной
При этом с технологической точки зрения, нет никаких непреодолимых препятствий для создания “сознательного Ml”
Критерии:
1) Вычислительный функционализм
Неважно, из чего сделан мозг, хоть из мяса. Важно, какие вычисления он производит
Никакой магии, просто покажите те же результаты, что при сознательном опыте
2) Но при этом важно, не что оно делает, а как
Современные LLM — имитаторы
3) Поскольку это два взаимоисключающих пункта, давайте вместо того чтобы изобретать новые критерии, берём уже существующие модели, проверенные на людях, и пытаемся найти (создать) у моделей
Теория глобального рабочего пространства — в мозге есть много бессознательных специализированных модулей, которые работают параллельно и автономно
Например, один модуль распознаёт цвета, другой — формы, третий отвечает за слух
Сознание возникает, когда какая-то важная информация выигрывает конкуренцию за внимание и попадает в глобальное рабочее пространство
Как только информация оказалась на этой сцене, она становится доступна всем остальным модулям
Они могут её использовать для планирования, запоминания, речи и т.д.
Этот процесс трансляции на всех и есть сознательный опыт (пишу не для нейрофизиологов)
Теория рекуррентной обработки — прошлая теория неправа, и для сознания не нужны сложные когнитивные функции
Сознание возникает в сенсорных областях мозга
Когда вы видите яблоко, сигнал сначала идет "вперед" по иерархии зрительной коры (от простых черт к сложным)
Это бессознательный процесс
Сознание включается, когда сигнал начинает идти обратно — от высших областей к низшим
Эта циклическая обработка позволяет связать все признаки (цвет, форму, текстуру) в единый образ
Теории высшего порядка утверждают, что для того, чтобы переживание стало сознательным, недостаточно просто иметь это переживание
Система должна также иметь представление о том, что у неё есть это переживание
"Да, это реальное восприятие, а не шум или воображение"
Чтобы системе вообще понадобилось отличать реальность от шума, у неё должны быть разные источники активации (например, реальные сенсорные данные, воображение, внутренний шум)
Потом должен быть механизм, который отслеживает и различает надежные перцептивные представления от ненадежных
Плюс теория схемы внимания, предиктивное кодирование (мозг — это машина предсказаний), агентность и воплощение
В итоге собираем все критерии и смотрим, что получилось для трансформеров и более продвинутых архитектур:
— LLM-трансформеры — сразу идут лесом
— Perceiver (свёртки трансформеров + обрабатывающий штаб) — ближе к сознанию
— PaLM-E, "виртуальная крыса" — учатся на обратной связи и могут строить модели своего тела, но всё равно примитивны
Надо всё проверять на такие критерии, а то вдруг создадим сознательное существо, способное страдать, но не признаем этого
Ну или мы начнем приписывать сознание системам, у которых его нет
Найдутся зелёные, которые будут тратить огромные ресурсы на защиту "прав" не-сознательных ботов, хотя вот же есть коровы и куры
OpenAI и Anthropic - это публично известные цифры + публичные компании Ml-инфраструктуры уже превзошли весь доход от публичных SaaS-компаний в 2024 году
Об этом ранее говорили и a16Z
Большую часть этого роста обеспечивает доход Nvidia от дата-центров - продажа чипов для Ml
По новым доходам Ml-сектор почти удваивает показатели публичных SaaS-компаний в этом году
Более 100 публичных SaaS-компаний пока не видят роста доходов от своих Ml-предложений
Спрос на Ml происходит там, где их нет
Происходит массовый переход от традиционного программного обеспечения как услуги (SaaS) к специализированным Ml-решениям
Деньги идут не к существующим софтверным гигантам, а к новым Ml-компаниям и производителям чипов.-лабораторий: OpenAI и Anthropic - это публично известные цифры + публичные компании Ml-инфраструктуры уже превзошли весь доход от публичных SaaS-компаний в 2024 году
Об этом ранее говорили и a16Z
Большую часть этого роста обеспечивает доход Nvidia от дата-центров - продажа чипов для Ml
По новым доходам Ml-сектор почти удваивает показатели публичных SaaS-компаний в этом году
Более 100 публичных SaaS-компаний пока не видят роста доходов от своих Ml-предложений
Спрос на Ml происходит там, где их нет
Происходит массовый переход от традиционного программного обеспечения как услуги (SaaS) к специализированным Ml-решениям
Деньги идут не к существующим софтверным гигантам, а к новым Ml-компаниям и производителям чипов
Об этом ранее говорили и a16Z
Большую часть этого роста обеспечивает доход Nvidia от дата-центров - продажа чипов для Ml
По новым доходам Ml-сектор почти удваивает показатели публичных SaaS-компаний в этом году
Более 100 публичных SaaS-компаний пока не видят роста доходов от своих Ml-предложений
Спрос на Ml происходит там, где их нет
Происходит массовый переход от традиционного программного обеспечения как услуги (SaaS) к специализированным Ml-решениям
Деньги идут не к существующим софтверным гигантам, а к новым Ml-компаниям и производителям чипов.-лабораторий: OpenAI и Anthropic - это публично известные цифры + публичные компании Ml-инфраструктуры уже превзошли весь доход от публичных SaaS-компаний в 2024 году
Об этом ранее говорили и a16Z
Большую часть этого роста обеспечивает доход Nvidia от дата-центров - продажа чипов для Ml
По новым доходам Ml-сектор почти удваивает показатели публичных SaaS-компаний в этом году
Более 100 публичных SaaS-компаний пока не видят роста доходов от своих Ml-предложений
Спрос на Ml происходит там, где их нет
Происходит массовый переход от традиционного программного обеспечения как услуги (SaaS) к специализированным Ml-решениям
Деньги идут не к существующим софтверным гигантам, а к новым Ml-компаниям и производителям чипов
Telegram
All about AI, Web 3.0, BCI
The revenue from just the AI Labs (publicly reported figures from OpenAI and Anthropic), along with the public AI infrastructure companies, has already eclipsed all public SaaS revenue in 2024 (Nvidia's datacenter revenue drives most of the growth).
It…
It…
Doomprompting: новая цифровая зависимость
Это как doomscrolling, только хуже
Бесконечное залипание в диалогах с Ml, когда вместо работы часами переписываешься с чат-ботом
Начинается с конкретной задачи — написать код или текст
Первые промпты обтекаемые и нечёткие
Но через полчаса — "продолжить", и Ml генерирует всё новые пустышки
Создается иллюзия продуктивности, хотя реальной работы не происходит
В отличие от doomscrolling в соцсетях, doomprompting опаснее
Ml постоянно предлагает: "Могу улучшить это", "Давайте попробуем иначе", "Хотите, добавлю деталей?"
Как «однорукий бандит», где вместо денег тратишь время и способность думать самостоятельно
Главную мысль, аргументацию, творческое ядро Ml создать не может
У него нет заинтересованности в результате
Тратится время на редактирование чужих мыслей вместо развития своих
Проблема глубже, чем кажется
Письмо — это форма мышления
Есть мысли, которые формируются только через письмо
Отдавая письмо Ml, вы отдаёте способность думать
Это как doomscrolling, только хуже
Бесконечное залипание в диалогах с Ml, когда вместо работы часами переписываешься с чат-ботом
Начинается с конкретной задачи — написать код или текст
Первые промпты обтекаемые и нечёткие
Но через полчаса — "продолжить", и Ml генерирует всё новые пустышки
Создается иллюзия продуктивности, хотя реальной работы не происходит
В отличие от doomscrolling в соцсетях, doomprompting опаснее
Ml постоянно предлагает: "Могу улучшить это", "Давайте попробуем иначе", "Хотите, добавлю деталей?"
Как «однорукий бандит», где вместо денег тратишь время и способность думать самостоятельно
Главную мысль, аргументацию, творческое ядро Ml создать не может
У него нет заинтересованности в результате
Тратится время на редактирование чужих мыслей вместо развития своих
Проблема глубже, чем кажется
Письмо — это форма мышления
Есть мысли, которые формируются только через письмо
Отдавая письмо Ml, вы отдаёте способность думать