В контексте разговоров про ИИ все чаще всплывает вопрос о сознании. Будет ли оно у ИИ? Или оно уже есть?
Я заметил, что в этих разговорах под словом «сознание» часто подразумевается что-то разное. Так что решил написать про эти разные «виды сознания».

1. Наличие мотивации, целей, желаний и т.д.
Заметил, что многие под сознанием подразумевают именно это. По сути, это почти то же, что в области ИИ сейчас называют агентностью. При этом, агентность с каждым годом становится все лучше. Поэтому, если под сознанием вы подразумеваете этот вариант, то оно уже есть, хоть и пока примитивное.

2. Самосознание
Это когда ИИ понимает, кто он, что он делает, чем он отличается от других, и т.д. Тут я опять считаю, что ИИ уже достиг этого еще пару лет назад, хоть и в очень простом виде. Как и многие подобные характеристики, самосознание - это скорее градиент, то есть, ИИ может быть более или менее самосознательным, а не просто "есть самосознание" или "нет".

3. То самое сознание
Квалиа, трудная проблема сознания и т.д. Когда я слышу про сознание у ИИ, в первую очередь думаю именно про этот вариант. Кто-то считает, что такое сознание не может быть у ИИ. Другие считают, что у достаточно сложного ИИ оно как-то появится. Но доказать ни то, ни другое по определению невозможно, а значит, и разницы между этими вариантами нет.

4. Понимание того, что ИИ делает
Допустим, ИИ пишет текст. Понимает ли он, что он пишет? Какой эксперимент можно провести, чтобы отличить "понимание" от "непонимания"? Тут опять мы приходим к тому, что может быть много определений, и каждый подразумевает в этом что-то свое.

Что об этом думаете? Может быть, есть другие более удобные определения сознания? И будет ли оно у ИИ?

Еще про сознание у ИИ

Смогут ли нейросети писать нестандартный код?

Новое видео!
https://www.youtube.com/watch?v=8aKQDnIEEPQ

Эволюция ИИ в математике

В одном из предыдущих постов показывал, как будет выглядеть появление червоточины в 2D-пространстве. Теперь показываю, как выглядит прохождение через нее.

Можно заметить необычный эффект, возникающий в неевклидовых пространствах - голономию. Она заключается в том, что при движении по пространству, помимо самого перемещения, происходит еще и поворот, даже если мы сами не поворачивались. Поэтому ориентация пространства в этом видео постоянно меняется

Если видео не проигрывается - в комментах есть оно же в другом формате

ИИ каждый год улучшается более чем в 3 раза

Как определить темпы развития ИИ-моделей? Самый интересный вариант, что я видел, выглядит так: берем самые разные задачи, которые человек выполняет за компьютером, и смотрим, сколько в среднем у него уходит на это времени.

Время, которое затратят на это нейросети, не так важно, главное - способна ли нейросеть решить эту задачу в принципе. А затем смотрим, задачи какого размера (по затраченному человеком времени) в среднем способны решать нейросети.

Если усреднить все задачи, то получается четкий тренд: размер задач, которые могут решать нейросети, удваивается каждые 7 месяцев, что примерно 3.28 раза в год. Это же справедливо и для кода: размер проектов, в которых хорошо ориентируются нейросети, растет такими же темпами.

Если сейчас нейросети могут стабильно вносить значительные изменения или даже переписывать проекты или части кода, которые писались пару дней, то через 2 года это будут уже проекты на 3 недели, а еще через 2 года - проекты на год. При этом, изменения, вносимые в код за 1 запрос через 2 года смогут превышать день работы. А еще через 2 года - 2 недели за 1 запрос.

Может ли это все в ближайшее время остановиться? Вряд ли. Как минимум, этот тренд резко не оборвется, сначала должно начаться снижение, а его пока не видно. И даже наоборот - в этом году нейросети показывают удвоение не каждые 7 месяцев, а каждые 4 месяца. То есть задачи, которые они могут выполнить, увеличиваются в 8 раз в год. Пока не понятно, является ли это случайным отклонением, или же возможности нейросетей растут с дополнительным ускорением.

Сначала я скептически относился к ускорению, но сейчас оно выглядит все более и более вероятным. Кажется, gpt-5 еще раз это подтвердит. Если ускорение действительно есть, то через год нейросети смогут выполнять большую часть задач, которые люди выполняют за компьютером, а один запрос сможет вносить в код стабильные изменения, на которые у человека ушел бы день (а скорее всего гораздо больше). Если же ускорения нет, то все это все равно будет, но не через год, а через 2, и замедлиться развитие нейросетей за это время вряд ли успеет