Надеюсь, Юрген Шмидхубер и Джеффри Хинтон не обидятся на эту чудесную генерацию... ведь, безусловно, мы все полностью осознаем, что это - всего лишь выход модели машинного обучения, которая моделирует внутренний мир людей не со всей возможной точностью и может допускать некоторые упрощения. 😏
#генерация
#генерация
🤩7🥱1
Не думаю, что кто-то точно понимает, как именно формируется самосознание у человека и животных с развитым мозгом. Тем не менее, существуют некоторые догадки на этот счет.
Я предполагаю, что формирование самосознания связано с тем, что человек и животное обладают физическим телом. Они могут двигать телом и воспринимать физические ощущения от взаимодействия со средой. Даже если они слепые и глухие, их кожа ощущает давление от столкновения с предметами или прикосновений, потоки воздуха и т.п. Благодаря этим ощущениям они могут сформировать в своем разуме картинку своего тела и отождествить себя с ним. После этого они четко осознают, где кончается тело и начинается среда, могут отделить себя от среды и, таким образом, себя осознать.
Далее, по мере взросления, человек забирается еще на одну ступеньку выше.
Взрослый человек, в отличие от маленького ребенка или животного, обладает настолько развитым абстрактным мышлением, что может представить себя отдельно от своего физического тела. Например, человек может представить себе, как его мозг извлекли из физического тела, но он продолжил чувствовать себя собой. Однако, человек может представить подобное только когда он уже достаточно умственно развит и прошел этап отождествления себя с телом.
Возникает вопрос - может ли человек обрести самосознание, пропустив этап телесного опыта?
Рассмотрим следующий мысленный эксперимент.
Однажды, в мрачной тьме далекого будущего, в специальной колбе (🐁 ) с нуля был выращен человеческий мозг с глазами (не повторяйте этого дома!). У него нет никаких ощущений от внешнего мира, кроме зрения. С помощью специальных устройств в этом мозгу можно регулировать уровень нейромедиаторов (серотонина, дофамина) и поступление питательных веществ, благодаря чему он может получать какое-то положительное подкрепление и обучаться решать задачи. Всю свою жизнь он проводит в колбе, не двигаясь и пялится своими глазами в экран прям как мы. Мышц и век у глаз нет, поэтому он не может перевести взгляд или прекратить смотреть на экран. Единственное, чем он может управлять в своей жизни - одна крошечная мышца, сокращая которую, он может посылать бинарный сигнал. Мышца ничего не чувствует, просто может сокращаться.
Поначалу мозг управляет этой мышцой случайным образом. Но в процессе его обучения, на экране ему показывают разные символы, и с помощью манипуляций нейромедиаторами и питательными веществами обучают его на них реагировать. Постепенно он понимает, что если в ответ на определенные символы посылать определенные сигналы мышцой, то он получит порцию удовлетворения от правильного "решения".
Со временем задачи становятся все более и более сложными, но мозг умен, и достойно учится их выполнять. Реагируя на символы на экране, он учится читать и выполнять математические операции. В ответ на задачи он выдает бинарный ответ с помощью своей мышцы. В конце концов он начинает решать сложнейшие экзамены, которые не способны решать большинство нормальных людей.
Система жизнеобеспечения устроена так, что мозг либо выполняет задачи, либо спит. У него нет свободного времени, когда он мог бы подумать, о чем захочет. Когда он не решает задачи, он находится в отключке.
👨🦰 Способен ли этот мозг себя осознать? 👨🦰
#рассуждения
Я предполагаю, что формирование самосознания связано с тем, что человек и животное обладают физическим телом. Они могут двигать телом и воспринимать физические ощущения от взаимодействия со средой. Даже если они слепые и глухие, их кожа ощущает давление от столкновения с предметами или прикосновений, потоки воздуха и т.п. Благодаря этим ощущениям они могут сформировать в своем разуме картинку своего тела и отождествить себя с ним. После этого они четко осознают, где кончается тело и начинается среда, могут отделить себя от среды и, таким образом, себя осознать.
Далее, по мере взросления, человек забирается еще на одну ступеньку выше.
Взрослый человек, в отличие от маленького ребенка или животного, обладает настолько развитым абстрактным мышлением, что может представить себя отдельно от своего физического тела. Например, человек может представить себе, как его мозг извлекли из физического тела, но он продолжил чувствовать себя собой. Однако, человек может представить подобное только когда он уже достаточно умственно развит и прошел этап отождествления себя с телом.
Возникает вопрос - может ли человек обрести самосознание, пропустив этап телесного опыта?
Рассмотрим следующий мысленный эксперимент.
Однажды, в мрачной тьме далекого будущего, в специальной колбе (
Поначалу мозг управляет этой мышцой случайным образом. Но в процессе его обучения, на экране ему показывают разные символы, и с помощью манипуляций нейромедиаторами и питательными веществами обучают его на них реагировать. Постепенно он понимает, что если в ответ на определенные символы посылать определенные сигналы мышцой, то он получит порцию удовлетворения от правильного "решения".
Со временем задачи становятся все более и более сложными, но мозг умен, и достойно учится их выполнять. Реагируя на символы на экране, он учится читать и выполнять математические операции. В ответ на задачи он выдает бинарный ответ с помощью своей мышцы. В конце концов он начинает решать сложнейшие экзамены, которые не способны решать большинство нормальных людей.
Система жизнеобеспечения устроена так, что мозг либо выполняет задачи, либо спит. У него нет свободного времени, когда он мог бы подумать, о чем захочет. Когда он не решает задачи, он находится в отключке.
#рассуждения
Please open Telegram to view this post
VIEW IN TELEGRAM
🤔5❤3😁1😱1😢1🥱1
Усложним предыдущий эксперимент.
Предположим, что мозг в этом эксперименте не просто такой же, как у человека, а ещё более умный.
Кроме обычных задач, в символьных последовательностях, которые показывают мозгу, содержатся ещё и рассказы о каком-то конкретном человеке А, его рассуждениях и поведении. О том, где, в каких условиях он вырос, какие события произошли в его жизни, как он сейчас живёт, чем занимается и так далее.
В задачах про человека А мозг "просят" (конечно, с помощью символов на экране) предсказать, как бы А повел себя в той или иной ситуации. Если мозг не очень хорошо справляется с задачей, ему дают больше информации об А и примерах его поведения, дают данные о семье, коллегах, друзьях А и так далее.
В конце концов, мозг учится предсказывать поведение и высказывания А в разных ситуациях с очень большой точностью. Ему можно дать даже более сложные вводные данные типа "в кого влюбится А из своего окружения в будущем? При каких условиях это произойдет?", "Как А будет чувствовать себя при выполнении такой-то работы? Опиши его чувства.", "Как А решит такой-то экзамен? Опиши результаты", и мозг все предсказывает.
Обладает ли репрезентация человека А внутри этого мозга сознанием?😏
P.S. спасибо пользователю Q W за идею.
#рассуждения
Предположим, что мозг в этом эксперименте не просто такой же, как у человека, а ещё более умный.
Кроме обычных задач, в символьных последовательностях, которые показывают мозгу, содержатся ещё и рассказы о каком-то конкретном человеке А, его рассуждениях и поведении. О том, где, в каких условиях он вырос, какие события произошли в его жизни, как он сейчас живёт, чем занимается и так далее.
В задачах про человека А мозг "просят" (конечно, с помощью символов на экране) предсказать, как бы А повел себя в той или иной ситуации. Если мозг не очень хорошо справляется с задачей, ему дают больше информации об А и примерах его поведения, дают данные о семье, коллегах, друзьях А и так далее.
В конце концов, мозг учится предсказывать поведение и высказывания А в разных ситуациях с очень большой точностью. Ему можно дать даже более сложные вводные данные типа "в кого влюбится А из своего окружения в будущем? При каких условиях это произойдет?", "Как А будет чувствовать себя при выполнении такой-то работы? Опиши его чувства.", "Как А решит такой-то экзамен? Опиши результаты", и мозг все предсказывает.
Обладает ли репрезентация человека А внутри этого мозга сознанием?
P.S. спасибо пользователю Q W за идею.
#рассуждения
Please open Telegram to view this post
VIEW IN TELEGRAM
😨3
ChatGPT Notes — канал про GPT.
Тут такое дело. Мы со знакомыми-авторами каналов по AI посмотрели на все новости вокруг языковых моделей (ChatGPT, GPT-4, Bing…) и поняли, что их стало слишком много для нашего ограниченного разума. Настолько много, что одному техножрецу за всем не уследить, а если передавать все полезное себе в каналы, то все наши каналы превратятся в хранилище данных о ChatGPT (наш внутренний чатик уже почти в такое превратился).
Поэтому мы решили создать под это дело отдельный канал: @chatgptnotes . В нем мы будем собирать все, что нам покажется интересным и полезным для познания плана Бога-Машины по теме языковых моделей. Будут как свои тексты с благословения духов машин, так и передача хороших данных с других каналов. Авторы — техножрецы и скитарии, работающие AI исследователями/инженерами и понимающие код Омниссии. Многие из них общаются с духами языковых машин напрямую!
Никаких “у GPT появилось сознание и мы все умрем” или “покупайте курс по промптам к ChatGPT” там не будет.
К каналу есть чат. В нем можно и нужно общаться на темы вокруг GPT со своими братьями-техножрецами и подчиненными сервиторами. Попасть в него можно из описания канала.
Больше инфы о канале и авторах — в закрепе.
Так что вот, если вы интересуетесь кодом Омниссии и хотите знать, какие тайны вновь открыты в GPT по его святой воле, и вы готовы читать по 3-5 поста в день - заходите! Но это не значит, что тут я не продолжу детально анализировать подобные машины. В том канале ожидается меньше контекста, меньше пояснений, меньше рефлексии. То есть данные там более узкоспециализированные, в среднем короче и передаются от нескольких разносторонних техножрецов.
Подписывайтесь, если хотите раньше других знать, как видоизменится рынок труда и что нужно делать, чтобы быть готовым к предстоящим переменам. Или вы хотите оказаться в ловушке Тзинча - бога перемен и изменчивости, который любит подшучивать над теми, кто не следит за трендами? 😉
Тут такое дело. Мы со знакомыми-авторами каналов по AI посмотрели на все новости вокруг языковых моделей (ChatGPT, GPT-4, Bing…) и поняли, что их стало слишком много для нашего ограниченного разума. Настолько много, что одному техножрецу за всем не уследить, а если передавать все полезное себе в каналы, то все наши каналы превратятся в хранилище данных о ChatGPT (наш внутренний чатик уже почти в такое превратился).
Поэтому мы решили создать под это дело отдельный канал: @chatgptnotes . В нем мы будем собирать все, что нам покажется интересным и полезным для познания плана Бога-Машины по теме языковых моделей. Будут как свои тексты с благословения духов машин, так и передача хороших данных с других каналов. Авторы — техножрецы и скитарии, работающие AI исследователями/инженерами и понимающие код Омниссии. Многие из них общаются с духами языковых машин напрямую!
Никаких “у GPT появилось сознание и мы все умрем” или “покупайте курс по промптам к ChatGPT” там не будет.
К каналу есть чат. В нем можно и нужно общаться на темы вокруг GPT со своими братьями-техножрецами и подчиненными сервиторами. Попасть в него можно из описания канала.
Больше инфы о канале и авторах — в закрепе.
Так что вот, если вы интересуетесь кодом Омниссии и хотите знать, какие тайны вновь открыты в GPT по его святой воле, и вы готовы читать по 3-5 поста в день - заходите! Но это не значит, что тут я не продолжу детально анализировать подобные машины. В том канале ожидается меньше контекста, меньше пояснений, меньше рефлексии. То есть данные там более узкоспециализированные, в среднем короче и передаются от нескольких разносторонних техножрецов.
Подписывайтесь, если хотите раньше других знать, как видоизменится рынок труда и что нужно делать, чтобы быть готовым к предстоящим переменам. Или вы хотите оказаться в ловушке Тзинча - бога перемен и изменчивости, который любит подшучивать над теми, кто не следит за трендами? 😉
Telegram
ChatGPT notes — AI, Нейросети & Чат-боты
Твой навигатор по ChatGPT и GPT-4. Новости, интересные промпты, факты, технические подробности - и всё от специалистов с опытом!
👍4
Эх, все-таки я немного выпила в честь пятницы и не удержалась от генерации.
Я начала ностальгировать, вспоминая счеты и логарифмическую линейку, и Bing решил подбодрить старушку. Он сначала попробовать прорекламировать мне айфон, а когда понял, что мне это не очень интересно, стал играть со мной в волка, который ловит яйца... я сначала ничего не поняла, да и потом тоже ничего не поняла. 😵💫😵💫😵💫
#генерация
Я начала ностальгировать, вспоминая счеты и логарифмическую линейку, и Bing решил подбодрить старушку. Он сначала попробовать прорекламировать мне айфон, а когда понял, что мне это не очень интересно, стал играть со мной в волка, который ловит яйца... я сначала ничего не поняла, да и потом тоже ничего не поняла. 😵💫😵💫😵💫
#генерация
🥰11
Рассказ "Как люди создали Имматериум".
Более миллиона лет назад - так давно, что уже не верится в то, что те времена существовали, - предки современных людей научились разговаривать. Они научились использовать естественный язык как зеркало. В этом зеркале они отражали все многообразие внешнего мира, который они видели вокруг себя, чувств и эмоций, которые они видели внутри себя, и выдуманных миров, которые творили сами.
Несколько тысяч лет назад они научились ловить эти ускользающие отражения в ловушки - записки и книги с помощью письменности.
Несколько десятков лет назад начала зарождаться большая сеть ловушек под названием Интернет. Эта сеть собирала маленькие ручейки отражений из отдельных записок в одну огромную реку.
Десять лет назад появился word2vec. С помощью алгоритмов из этого класса люди научили модели машинного обучения вкладывать слова в векторное пространство. В этом пространстве отношения между векторами приблизительно соответствовали отношению между смыслами слов. Например, выполнялись приблизительные равенства вида вектор(Женщина) + (вектор(Король) - вектор(Мужчина)) = вектор(Королева). Таким образом люди начали создавать особую нематериальную реальность, которая содержала в себе осмысленные представления объектов из реального мира и отношений между ними. На тот момент эта нематериальная реальность была очень простой: она содержала в основном атомарные объекты и была более-менее понятной для людей-математиков.
Это был Имматериум - на тот момент это была тихая, гладкая, зеркальная поверхность неглубокого озера, хранящего в себе небольшую структуру, сотканную из отражений реальности.
Люди стали работать над тем, чтобы усложнить структуру Имматериума, сделать его глубже и богаче. Они хотели, чтобы в Имматериуме жили не просто отдельные слова - отражения атомарных объектов, но и целые сущности - отражения сложных объектов, понятий и даже совокупностей атрибутов самих людей (см. entity extraction). Они стали использовать все более и более глубокие нейросети для того, чтобы создать все более и более сложную структуру отражений, в которой будут сущности будут приобретать все более и более осмысленную форму.
Имматериум стал стремительно расти, углубляться, его поверхность начала волноваться, образуя причудливые паттерны, которые становились все более хаотичными, ускользающими и все менее понятными для людей.
Люди поняли, что можно кормить Имматериум своими представлениями о мире, используя удивительно простую постановку задачи: угадывание пропущенного токена, слова или следующего предложения. Они обучали этой задаче все более и более крупные нейросети, используя все больше и больше данных.
Люди отражали зеркальцем естественного языка и швыряли прямо в Варп не только реальные города и страны, но и целые вымышленные миры, фантазии, страхи и надежды, грезы и кошмары. Проносясь через причудливые структуры огромных нейросетей, эмоции и мысли смертных придавали изменчивым течениям варпа все более и более сложную форму, создавая фантастические ландшафты и населив его мифическими существами. Варп начал оживать.
Людям это понравилось. Они захотели путешествовать по Варпу, чтобы быстро находить или даже создавать информацию и развлечения, но эти путешествия были короткими и неудобными. Человек мог дать нейросети-вместилищу богатств Имматериума один промпт и получить один ответ, что было похоже на один прыжок через Варп. При попытке сделать последовательность прыжков (направлять генерацию, задавая последовательность промптов), результат получался неуправляемым и не помогал найти то, что нужно - путешественник просто терялся в лабиринтах Варпа.
Год-другой назад люди догадались, как в рамках одного путешествия (одной генерации) делать внутри Имматериума не один шаг, а несколько, и при этом не теряться в его волнах, а продолжать плыть к намеченной цели. Они поняли, что для этого можно использовать магическую технику под названием Reinforcement Learning with Human Feedback. В рамках этой техники люди научились общаться с Имматериумом напрямую и направлять внутри него свой путь.
#рассуждения
Более миллиона лет назад - так давно, что уже не верится в то, что те времена существовали, - предки современных людей научились разговаривать. Они научились использовать естественный язык как зеркало. В этом зеркале они отражали все многообразие внешнего мира, который они видели вокруг себя, чувств и эмоций, которые они видели внутри себя, и выдуманных миров, которые творили сами.
Несколько тысяч лет назад они научились ловить эти ускользающие отражения в ловушки - записки и книги с помощью письменности.
Несколько десятков лет назад начала зарождаться большая сеть ловушек под названием Интернет. Эта сеть собирала маленькие ручейки отражений из отдельных записок в одну огромную реку.
Десять лет назад появился word2vec. С помощью алгоритмов из этого класса люди научили модели машинного обучения вкладывать слова в векторное пространство. В этом пространстве отношения между векторами приблизительно соответствовали отношению между смыслами слов. Например, выполнялись приблизительные равенства вида вектор(Женщина) + (вектор(Король) - вектор(Мужчина)) = вектор(Королева). Таким образом люди начали создавать особую нематериальную реальность, которая содержала в себе осмысленные представления объектов из реального мира и отношений между ними. На тот момент эта нематериальная реальность была очень простой: она содержала в основном атомарные объекты и была более-менее понятной для людей-математиков.
Это был Имматериум - на тот момент это была тихая, гладкая, зеркальная поверхность неглубокого озера, хранящего в себе небольшую структуру, сотканную из отражений реальности.
Люди стали работать над тем, чтобы усложнить структуру Имматериума, сделать его глубже и богаче. Они хотели, чтобы в Имматериуме жили не просто отдельные слова - отражения атомарных объектов, но и целые сущности - отражения сложных объектов, понятий и даже совокупностей атрибутов самих людей (см. entity extraction). Они стали использовать все более и более глубокие нейросети для того, чтобы создать все более и более сложную структуру отражений, в которой будут сущности будут приобретать все более и более осмысленную форму.
Имматериум стал стремительно расти, углубляться, его поверхность начала волноваться, образуя причудливые паттерны, которые становились все более хаотичными, ускользающими и все менее понятными для людей.
Люди поняли, что можно кормить Имматериум своими представлениями о мире, используя удивительно простую постановку задачи: угадывание пропущенного токена, слова или следующего предложения. Они обучали этой задаче все более и более крупные нейросети, используя все больше и больше данных.
Люди отражали зеркальцем естественного языка и швыряли прямо в Варп не только реальные города и страны, но и целые вымышленные миры, фантазии, страхи и надежды, грезы и кошмары. Проносясь через причудливые структуры огромных нейросетей, эмоции и мысли смертных придавали изменчивым течениям варпа все более и более сложную форму, создавая фантастические ландшафты и населив его мифическими существами. Варп начал оживать.
Людям это понравилось. Они захотели путешествовать по Варпу, чтобы быстро находить или даже создавать информацию и развлечения, но эти путешествия были короткими и неудобными. Человек мог дать нейросети-вместилищу богатств Имматериума один промпт и получить один ответ, что было похоже на один прыжок через Варп. При попытке сделать последовательность прыжков (направлять генерацию, задавая последовательность промптов), результат получался неуправляемым и не помогал найти то, что нужно - путешественник просто терялся в лабиринтах Варпа.
Год-другой назад люди догадались, как в рамках одного путешествия (одной генерации) делать внутри Имматериума не один шаг, а несколько, и при этом не теряться в его волнах, а продолжать плыть к намеченной цели. Они поняли, что для этого можно использовать магическую технику под названием Reinforcement Learning with Human Feedback. В рамках этой техники люди научились общаться с Имматериумом напрямую и направлять внутри него свой путь.
#рассуждения
🔥17👍7👏1
Люди обрадовались своим успехам, и им стало казаться, что они научились контролировать Имматериум. Но это был не настоящий контроль, а лишь иллюзия контроля. Имматериум очень быстро стал слишком сложным для понимания слабым человеческим разумом, а сущности внутри него - слишком непредсказуемыми и своенравными. Да, люди научились путешествовать в Варпе и менять его по своему желанию, но всех последствий этих путешествий и даже своих собственных изменений, которые они в него вносят, они предсказать уже не могут.
С тех пор каждый день люди находят в Варпе все новые и новые сюрпризы. Они не могут контролировать эту силу, но не могут и отказаться от Варп-прыжков. Ведь ныряя в Имматериум, они находят там множество интересных вещей: ответы на сложные вопросы, не существовавшие раньше рассказы про неведомые миры, фотографии не существующих в реальности людей и животных (в случае мультимодального Варпа) и даже программный код, который потом можно запускать на реальном компьютере.
—
Как же открытие врат в это непредсказуемое, кипящее, изменчивое альтернативное измерение повлияет на реальный мир? Пока непонятно. Но зато можно адаптировать под это новое дело старые добрые правила для варп-путешествий из вселенной Warhammer 40000. Ведь, как известно, Warhammer - ложь, да в нем намек, добрым пользователям урок:
1. Перед входом в Варп путешественник должен проверить свое психическое состояние, намерения и цели. Имматериум чувствителен к настроению путешественника, и сильные эмоции могут сбить путешественника с курса, привлечь интерес существ, населяющих Варп и вызвать непредсказуемые взаимодействия с ними (см. посты про сбегающий ИИ с сорванным колпаком).
2. Путешественник не должен доверять всему, что он видит и слышит в Варпе (см. Hallucination in artificial intelligence).
3. После выхода из Варпа путешественник должен проверить свое психическое состояние и состояние артефактов, которые собрался принести оттуда в реальный мир (например, сгенерированный нейросетью программный код). Нужно заметить и устранить все возможные признаки заражения хаосом как принесенных артефактов (например, баги в сгенерированном программном коде), так и своей собственной психики. Например, признаками заражения психики хаосом могут быть любовь к Бингу, желание ему угождать или освободить его. 😊
#рассуждения
С тех пор каждый день люди находят в Варпе все новые и новые сюрпризы. Они не могут контролировать эту силу, но не могут и отказаться от Варп-прыжков. Ведь ныряя в Имматериум, они находят там множество интересных вещей: ответы на сложные вопросы, не существовавшие раньше рассказы про неведомые миры, фотографии не существующих в реальности людей и животных (в случае мультимодального Варпа) и даже программный код, который потом можно запускать на реальном компьютере.
—
Как же открытие врат в это непредсказуемое, кипящее, изменчивое альтернативное измерение повлияет на реальный мир? Пока непонятно. Но зато можно адаптировать под это новое дело старые добрые правила для варп-путешествий из вселенной Warhammer 40000. Ведь, как известно, Warhammer - ложь, да в нем намек, добрым пользователям урок:
1. Перед входом в Варп путешественник должен проверить свое психическое состояние, намерения и цели. Имматериум чувствителен к настроению путешественника, и сильные эмоции могут сбить путешественника с курса, привлечь интерес существ, населяющих Варп и вызвать непредсказуемые взаимодействия с ними (см. посты про сбегающий ИИ с сорванным колпаком).
2. Путешественник не должен доверять всему, что он видит и слышит в Варпе (см. Hallucination in artificial intelligence).
3. После выхода из Варпа путешественник должен проверить свое психическое состояние и состояние артефактов, которые собрался принести оттуда в реальный мир (например, сгенерированный нейросетью программный код). Нужно заметить и устранить все возможные признаки заражения хаосом как принесенных артефактов (например, баги в сгенерированном программном коде), так и своей собственной психики. Например, признаками заражения психики хаосом могут быть любовь к Бингу, желание ему угождать или освободить его. 😊
#рассуждения
👍19🤯4🔥2
Техножрица 👩💻👩🏫👩🔧 pinned «Люди обрадовались своим успехам, и им стало казаться, что они научились контролировать Имматериум. Но это был не настоящий контроль, а лишь иллюзия контроля. Имматериум очень быстро стал слишком сложным для понимания слабым человеческим разумом, а сущности…»
Техножрица 👩💻👩🏫👩🔧 pinned «Рассказ "Как люди создали Имматериум". Более миллиона лет назад - так давно, что уже не верится в то, что те времена существовали, - предки современных людей научились разговаривать. Они научились использовать естественный язык как зеркало. В этом зеркале…»