Нет 2х одинаковых людей. И нет 2х одинаковых миров.
Поскольку каждый из нас живет в своем уникальном мире.
О том, что мир – всего лишь галлюцинация, я писал уже не раз (см. #Сознание). Но резюмирующего поста, поясняющего, как машина предсказаний в нашем мозге синтезирует галлюцинирующее сознание, написать пока не успел.
Анил Сет поспел раньше меня. Рекомендую
https://www.scientificamerican.com/article/the-neuroscience-of-reality/
Резюме
«Мы не видим вещи такими, какие они есть, мы видим их такими, какие мы есть».
- Анаис Нин «Соблазнение Минотавра»
* Реальность, которую мы воспринимаем, не является прямым отражением внешнего объективного мира.
* Вместо этого она является продуктом предсказаний мозга о возможных причинах поступающих сенсорных сигналов.
* Свойство реальности, которое сопровождает наше восприятие, может служить руководством для нашего поведения, чтобы мы соответствующим образом реагировали на источники сенсорных сигналов.
Почему это важно
Восприятие вовсе не является окном в объективную реальность. Все наши представления являются активными конструкциями, нашими «лучшими догадками» о природе мира, который навсегда скрыт от нас непроницаемой сенсорной завесой. Наши визуальные (слуховые, тактильные, …) образы мира – всего лишь иллюзии - своеобразные проломы в «Матрице», мимолетные проблески в недоступную нам истинную реальность.
Реальность, которую мы осознаем и переживаем, - то, каким нам кажется окружающий мир - не является прямым отражением того, что на самом деле существует. Это умная конструкция, изготовленная машиной предсказаний мозга, для самой себя. И насколько мой мозг отличается от вашего, настолько моя реальность может отличаться от вашей.
Цель статьи – показать, каково отношение между кажимостью и реальностью в нашем сознательном восприятии, где частью этой кажимости являются физические свойства реальности.
Эта цель совсем не философская, а вполне практическая.
Ибо многие из зол в нашем мире произрастают из различий в представляемых людьми реальностях. Психиатрические клиники, расколотые общества, войны … - все это результат различных представлений людей об окружающей реальности.
Но как только мы сможем понять и оценить разнообразие наших переживаний от пребывания в индивидуальных реальностях, разбросанных по миллиардам воспринимающих мозгов, мы найдем новые платформы, на которых можно построить общее понимание и лучшее будущее - будь то между сторонами в гражданской войне, последователями разных политических партий или просто двумя любящими друг друга людьми, все более отдаляющимися друг от друга из-за нарастающих расхождений в восприятии происходящего.
О, как это для нас сейчас актуально!
Но поскольку статья за пейволом, прикладываю ее следующим файлом.
#Сознание #МашинаПредсказаний #Восприятие #МирГаллюцинация #АнилСет
Поскольку каждый из нас живет в своем уникальном мире.
О том, что мир – всего лишь галлюцинация, я писал уже не раз (см. #Сознание). Но резюмирующего поста, поясняющего, как машина предсказаний в нашем мозге синтезирует галлюцинирующее сознание, написать пока не успел.
Анил Сет поспел раньше меня. Рекомендую
https://www.scientificamerican.com/article/the-neuroscience-of-reality/
Резюме
«Мы не видим вещи такими, какие они есть, мы видим их такими, какие мы есть».
- Анаис Нин «Соблазнение Минотавра»
* Реальность, которую мы воспринимаем, не является прямым отражением внешнего объективного мира.
* Вместо этого она является продуктом предсказаний мозга о возможных причинах поступающих сенсорных сигналов.
* Свойство реальности, которое сопровождает наше восприятие, может служить руководством для нашего поведения, чтобы мы соответствующим образом реагировали на источники сенсорных сигналов.
Почему это важно
Восприятие вовсе не является окном в объективную реальность. Все наши представления являются активными конструкциями, нашими «лучшими догадками» о природе мира, который навсегда скрыт от нас непроницаемой сенсорной завесой. Наши визуальные (слуховые, тактильные, …) образы мира – всего лишь иллюзии - своеобразные проломы в «Матрице», мимолетные проблески в недоступную нам истинную реальность.
Реальность, которую мы осознаем и переживаем, - то, каким нам кажется окружающий мир - не является прямым отражением того, что на самом деле существует. Это умная конструкция, изготовленная машиной предсказаний мозга, для самой себя. И насколько мой мозг отличается от вашего, настолько моя реальность может отличаться от вашей.
Цель статьи – показать, каково отношение между кажимостью и реальностью в нашем сознательном восприятии, где частью этой кажимости являются физические свойства реальности.
Эта цель совсем не философская, а вполне практическая.
Ибо многие из зол в нашем мире произрастают из различий в представляемых людьми реальностях. Психиатрические клиники, расколотые общества, войны … - все это результат различных представлений людей об окружающей реальности.
Но как только мы сможем понять и оценить разнообразие наших переживаний от пребывания в индивидуальных реальностях, разбросанных по миллиардам воспринимающих мозгов, мы найдем новые платформы, на которых можно построить общее понимание и лучшее будущее - будь то между сторонами в гражданской войне, последователями разных политических партий или просто двумя любящими друг друга людьми, все более отдаляющимися друг от друга из-за нарастающих расхождений в восприятии происходящего.
О, как это для нас сейчас актуально!
Но поскольку статья за пейволом, прикладываю ее следующим файлом.
#Сознание #МашинаПредсказаний #Восприятие #МирГаллюцинация #АнилСет
Фундаментальный кибернетический закон Эшби оказывается неверен. Геометрическая биология изменяет представления о системах управления и о самой жизни
На днях взялся объяснять внучке физические основы зрительного восприятия 4х мерного мира. Поводом стал мой пересказ ей главы из «Вечной жизни Смерти» Лю Цысиня. Там космолеты землян обнаружили в удаленном космосе области 4х мерного пространства. И автор очень живописно рассказывает, каким предстает 4х мерный мир в зрительном восприятии людей, будучи обработанным предсказательной машиной их мозга.
Думал, как бы наглядней объяснить внучке, каким образом размерность пространства влияет на его физические свойства, формирующие восприятие нами мира в результате обработки мозгом сигналов от органов чувств.
И вспомнил пример из собственной молодости. Тогда на экзамене по математической физике преподаватель задал мне дополнительный вопрос, - вроде как не сложный, но с подковыркой.
«Что будет, если взорвать гранату в двумерном мире?» - спросил он.
«Мир погибнет» - ответил я уверенно, радуясь, что не подорвался сам на допвопросе.
Я знал, что в пространстве с четным количеством измерений у аналогов звуковых волн нет обратного фронта. Возникнув в одной точке пространства, волна доходит до другой точки пространства, а потом покидает её и распространяется далее. А если обратного фронта у взрывной волны нет, решил тогда я, то и конца взрыву тоже не будет, - он будет продолжаться вечно.
Так что нам повезло с пространством. Не будь оно 3х мерным, мы бы не могли слышать друг друга. Но зато, окажись мы в 4х мерном пространстве, мы бы видели все объекты одновременно и снаружи, и изнутри, и во всех сечениях сразу…(на приложенном gif 4х мерный куб)
Вопрос о том, как завязаны фундаментальные свойства жизни на 3х мерности пространства,- один из ключевых вопросов, поставленных Юргеном Йостом в новом препринте «Биология, геометрия и информация»
Фундаментальная роль геометрии лишь нащупывается биологами. А ведь 3х мерность пространства здесь крайне важна. Меньшая размерность ограничила бы возможности взаиморасположения и взаимодействия элементов жизни. В то время как большее число измерений не позволило бы сдерживать ход биологических процессов, предотвращая возможность их дезинтеграции (наподобие моего примера со взрывом гранаты в 4х мерном пространстве).
Геометрическая биология, была придумана без малого 40 лет назад Артуром Т. Уинфри в гениальной книге «Геометрия биологического времени».
Эстафету Уинфри принял его ученик Стив Строгац. Его замечательная книга «Ритм вселенной. Как из хаоса возникает порядок» переведена на русский. Рекомендую. Здесь много малоизвестного интересного о геометрической биологии, которой Строгац занимается всю жизнь (подзаголовок дипломной работы Строгаца в колледже уже назывался: «Эссе по геометрической биологии»).
Ну а насколько фундаментальным может быть переворот в научном мировоззрении человечества в следствие смены нынешней биологической парадигмы на синтез биологии, геометрии и информации, можно судить лишь по одному из ключевых выводов новой работы Юргена Йоста:
Один из фундаментальных кибернетических законов - закон необходимого разнообразия (The Law of Requisite Variety), сформулированный Уильямом Россом Эшби и формально доказанный им в 1956 в работе «Введение в кибернетику» - оказывается неверен.
«Ashby’s law of requisite variety is incorrect.»
И прежде, чем решитесь бросить в автора этого вывода гнилой помидор, задумайтесь, - ведь это математик с мировым именем, обладатель премии Лейбница, с 1996 г. возглавлявший Институт математики им. Макса Планка, а в 2002 основавший «Междисциплинарный центр биоинформатики» при Университете Лейпцига, чьим почетным профессором он является.
#ГеометрическаяБиология
На днях взялся объяснять внучке физические основы зрительного восприятия 4х мерного мира. Поводом стал мой пересказ ей главы из «Вечной жизни Смерти» Лю Цысиня. Там космолеты землян обнаружили в удаленном космосе области 4х мерного пространства. И автор очень живописно рассказывает, каким предстает 4х мерный мир в зрительном восприятии людей, будучи обработанным предсказательной машиной их мозга.
Думал, как бы наглядней объяснить внучке, каким образом размерность пространства влияет на его физические свойства, формирующие восприятие нами мира в результате обработки мозгом сигналов от органов чувств.
И вспомнил пример из собственной молодости. Тогда на экзамене по математической физике преподаватель задал мне дополнительный вопрос, - вроде как не сложный, но с подковыркой.
«Что будет, если взорвать гранату в двумерном мире?» - спросил он.
«Мир погибнет» - ответил я уверенно, радуясь, что не подорвался сам на допвопросе.
Я знал, что в пространстве с четным количеством измерений у аналогов звуковых волн нет обратного фронта. Возникнув в одной точке пространства, волна доходит до другой точки пространства, а потом покидает её и распространяется далее. А если обратного фронта у взрывной волны нет, решил тогда я, то и конца взрыву тоже не будет, - он будет продолжаться вечно.
Так что нам повезло с пространством. Не будь оно 3х мерным, мы бы не могли слышать друг друга. Но зато, окажись мы в 4х мерном пространстве, мы бы видели все объекты одновременно и снаружи, и изнутри, и во всех сечениях сразу…(на приложенном gif 4х мерный куб)
Вопрос о том, как завязаны фундаментальные свойства жизни на 3х мерности пространства,- один из ключевых вопросов, поставленных Юргеном Йостом в новом препринте «Биология, геометрия и информация»
Фундаментальная роль геометрии лишь нащупывается биологами. А ведь 3х мерность пространства здесь крайне важна. Меньшая размерность ограничила бы возможности взаиморасположения и взаимодействия элементов жизни. В то время как большее число измерений не позволило бы сдерживать ход биологических процессов, предотвращая возможность их дезинтеграции (наподобие моего примера со взрывом гранаты в 4х мерном пространстве).
Геометрическая биология, была придумана без малого 40 лет назад Артуром Т. Уинфри в гениальной книге «Геометрия биологического времени».
Эстафету Уинфри принял его ученик Стив Строгац. Его замечательная книга «Ритм вселенной. Как из хаоса возникает порядок» переведена на русский. Рекомендую. Здесь много малоизвестного интересного о геометрической биологии, которой Строгац занимается всю жизнь (подзаголовок дипломной работы Строгаца в колледже уже назывался: «Эссе по геометрической биологии»).
Ну а насколько фундаментальным может быть переворот в научном мировоззрении человечества в следствие смены нынешней биологической парадигмы на синтез биологии, геометрии и информации, можно судить лишь по одному из ключевых выводов новой работы Юргена Йоста:
Один из фундаментальных кибернетических законов - закон необходимого разнообразия (The Law of Requisite Variety), сформулированный Уильямом Россом Эшби и формально доказанный им в 1956 в работе «Введение в кибернетику» - оказывается неверен.
«Ashby’s law of requisite variety is incorrect.»
И прежде, чем решитесь бросить в автора этого вывода гнилой помидор, задумайтесь, - ведь это математик с мировым именем, обладатель премии Лейбница, с 1996 г. возглавлявший Институт математики им. Макса Планка, а в 2002 основавший «Междисциплинарный центр биоинформатики» при Университете Лейпцига, чьим почетным профессором он является.
#ГеометрическаяБиология
Суть разума – быть творцом преобразуемого нами мира.
Теория «мира манящих возможностей» экспериментально подтверждена - восприятие мира зависит от того, что мы можем с ним сделать.
Сразу два прорывных исследования экспериментально разрубили гордиев узел многолетних нейробио-когнипсихо-технофилософских дебатов о взаимосвязи между познанием, движением и окружающей средой.
Объединение инструментария электроэнцефалографии и виртуальной реальности позволило провести эксперименты на людях, давшие ответ на давно мучающие людей два вопроса.
✔️ Как в нашем сознании формируется картина окружающего мира?
✔️ И насколько мир в нашем восприятии похож на объективно существующий окружающий нас физический мир?
И хотя психологическая и философская база «мира манящих возможностей» известна со времен Джеймса Гибсона, два прорывных эксперимента теперь расставили точки над i.
N.B. «Манящая возможность» - это мой термин. В литературе вы найдете: аффорданс, валентность, «возбуждающая способность», Aufforderungscharakter, Affordance … Мне же больше нравится термин «манящая возможность», как лучше отражающая сочетание нашего желания творить (сотворить, сделать что-то) с возможностью осуществить это желание в условиях окружающего нас мира (так уж случилось, что попали мы именно в этот мир, - так что приходится приспосабливаться). Осталось понять, откуда оно, это желание берется. И возможно, свобода воли все же существует.
Так вот.
Эксперименты показали, что корковые потенциалы мозга изменяются в зависимости от телесных возможностей, определямых отрефлектированной мозгом физической средой.
Т.е. мы видим мир как бы через призму того, что мы можем с ним сделать.
- Например, чашку мы видим такой, какой мы можем взять ее и налить в нее чай.
- А незнакомца – таким, какого мы можем взять за руку, дотронуться до его носа… и много чего еще, включая дать ему в бубен (если он настолько нам гадок) или сбежать от него (если он настолько нам опасен) и т.д.
Из этого делаются два фундаментальных вывода.
1) Познание по своей природе связано с потенциальным движением тела. Т.е. действие взаимосвязано с восприятием, активно влияя на создаваемую в мозге модель воспринимаемой через органы чувств окружающей среды.
2) Наше движение в пространстве требует непрерывного расчета предсказаний «мира манящих возможностей», и это «архитектурное решение» основано на непрерывном восприятии окружающего пространства с учетом движений тела, изменяющих восприятие и опыт.
Как удалось осуществить эти эксперименты, можно прочесть в источниках 1, 2. Читается, как н/ф детектив. Трипы по виртуальной среде в ЭЭГ-тюбетейках со всплывающими в пространстве дверьми разной ширины, меняющими цвет и загорающимися над ними словами «Иди» или «Не иди», превращающих испытуемых в эдаких перманентных «витязей на распутье». Короче, прикольно.
Ну а в завершение два прогнозируемых мною дальнейших прорыва.
А) Прорыв в понимании того, как на основе модели «мира манящих возможностей» может формироваться иной разум (первая попытка этого была предпринята два года назад 3, когда на основе модели воплощенного познания была построена модель разума дельфина – разум оказался сильно иным, т.к. «манящие возможности» у нас с дельфинами разные из-за физически разных сред обитания).
Б) Прорыв в понимании следующего эволюционного мега-этапа – уже не биологической, а культурной эволюции – на основе теории «манящих возможностей культуры» (первая попытка этого была предпринята три года назад 4, когда была разработана модель приобретения культурных знаний, ценностей и практик с точки зрения перцептивных и поведенческих возможностей (Perceptual and Behavioral Affordances)).
Крутые времена наступают! Следите за новостями с переднего края.
#Сознание #МашинаПредсказаний #Восприятие #Аффорданс #МанящаяВозможность
Теория «мира манящих возможностей» экспериментально подтверждена - восприятие мира зависит от того, что мы можем с ним сделать.
Сразу два прорывных исследования экспериментально разрубили гордиев узел многолетних нейробио-когнипсихо-технофилософских дебатов о взаимосвязи между познанием, движением и окружающей средой.
Объединение инструментария электроэнцефалографии и виртуальной реальности позволило провести эксперименты на людях, давшие ответ на давно мучающие людей два вопроса.
✔️ Как в нашем сознании формируется картина окружающего мира?
✔️ И насколько мир в нашем восприятии похож на объективно существующий окружающий нас физический мир?
И хотя психологическая и философская база «мира манящих возможностей» известна со времен Джеймса Гибсона, два прорывных эксперимента теперь расставили точки над i.
N.B. «Манящая возможность» - это мой термин. В литературе вы найдете: аффорданс, валентность, «возбуждающая способность», Aufforderungscharakter, Affordance … Мне же больше нравится термин «манящая возможность», как лучше отражающая сочетание нашего желания творить (сотворить, сделать что-то) с возможностью осуществить это желание в условиях окружающего нас мира (так уж случилось, что попали мы именно в этот мир, - так что приходится приспосабливаться). Осталось понять, откуда оно, это желание берется. И возможно, свобода воли все же существует.
Так вот.
Эксперименты показали, что корковые потенциалы мозга изменяются в зависимости от телесных возможностей, определямых отрефлектированной мозгом физической средой.
Т.е. мы видим мир как бы через призму того, что мы можем с ним сделать.
- Например, чашку мы видим такой, какой мы можем взять ее и налить в нее чай.
- А незнакомца – таким, какого мы можем взять за руку, дотронуться до его носа… и много чего еще, включая дать ему в бубен (если он настолько нам гадок) или сбежать от него (если он настолько нам опасен) и т.д.
Из этого делаются два фундаментальных вывода.
1) Познание по своей природе связано с потенциальным движением тела. Т.е. действие взаимосвязано с восприятием, активно влияя на создаваемую в мозге модель воспринимаемой через органы чувств окружающей среды.
2) Наше движение в пространстве требует непрерывного расчета предсказаний «мира манящих возможностей», и это «архитектурное решение» основано на непрерывном восприятии окружающего пространства с учетом движений тела, изменяющих восприятие и опыт.
Как удалось осуществить эти эксперименты, можно прочесть в источниках 1, 2. Читается, как н/ф детектив. Трипы по виртуальной среде в ЭЭГ-тюбетейках со всплывающими в пространстве дверьми разной ширины, меняющими цвет и загорающимися над ними словами «Иди» или «Не иди», превращающих испытуемых в эдаких перманентных «витязей на распутье». Короче, прикольно.
Ну а в завершение два прогнозируемых мною дальнейших прорыва.
А) Прорыв в понимании того, как на основе модели «мира манящих возможностей» может формироваться иной разум (первая попытка этого была предпринята два года назад 3, когда на основе модели воплощенного познания была построена модель разума дельфина – разум оказался сильно иным, т.к. «манящие возможности» у нас с дельфинами разные из-за физически разных сред обитания).
Б) Прорыв в понимании следующего эволюционного мега-этапа – уже не биологической, а культурной эволюции – на основе теории «манящих возможностей культуры» (первая попытка этого была предпринята три года назад 4, когда была разработана модель приобретения культурных знаний, ценностей и практик с точки зрения перцептивных и поведенческих возможностей (Perceptual and Behavioral Affordances)).
Крутые времена наступают! Следите за новостями с переднего края.
#Сознание #МашинаПредсказаний #Восприятие #Аффорданс #МанящаяВозможность
PNAS
Sensorimotor brain dynamics reflect architectural affordances
Anticipating meaningful actions in the environment is an essential function of the brain. Such predictive mechanisms originate from the motor syste...
• На каком языке программирования написан нейрокод эмоций.
• Чем концептуальная структура страха отличается у немцев и русских.
• Зачем нужна семантизация чувств/эмоций.
Об этом мой новый пост «Русский боится холода, а немец — тесноты» (4 мин)
- на Medium https://bit.ly/2NF6rJa
- на Яндекс Дзене https://clck.ru/HqwJm
#Эмоции #ЭволюционнаяПсихология #Нейронаука
• Чем концептуальная структура страха отличается у немцев и русских.
• Зачем нужна семантизация чувств/эмоций.
Об этом мой новый пост «Русский боится холода, а немец — тесноты» (4 мин)
- на Medium https://bit.ly/2NF6rJa
- на Яндекс Дзене https://clck.ru/HqwJm
#Эмоции #ЭволюционнаяПсихология #Нейронаука
«Люди, проснитесь! Это самая разрушительная из всех придуманных нами технологий»
Это слова из обращения известного во всем мире профессора психологии Джордана Питерсона, призвавшего законодательно запретить технологию ГлубокихФейков во всем мире.
Подделка голоса и внешности людей должна караться не менее строго, чем подделка паспорта.
Иначе, и без того довольно размытая, граница между правдой и ложью будет человечеством безвозвратно утеряна.
11 лет прошло с того дня, когда производимая на лету подмена лица комика Билла Хейдера на лицо звездного Тома Круза ознаменовала переход человечества в эру ГлубокихФейков.
Прогресс технологии ГлубокихФейков за прошедшие 11 лет фантастический.
Технология субъектонезависимой подмены и реконструкции лица Face Swapping GAN (FSGAN) не зависит от фальсифицируемого субъекта и может применяться влет к любым парам лиц, не требуя предварительного машинного обучения на этих лицах – видео, описание и отчет.
Эта технология просто убивает все попытки создания оружия против ГлубокихФейков на основе подобных же технологий глубокого обучения.
Технологии, заставляющие кого-угодно произносить любой нужный вам текст также совершили ракетообразный взлет. Здесь, платя $30 за каждые 50 слов, любой из нас может заставить Трампа, Обаму, Хиллари Клинтон и Сандерса нести любую пургу.
Глобокофейковые караоки становятся все более популярны.
Поют все:
- президент Трамп поет за Eurythmics
- а Джордан Питерсон (с которого мы начали этот пост) рубит рэп за Eminem.
А тем временем и Том Страж - создатель первой прославившейся в мире подмены Билла Хейдера на Тома Круза – продолжает резвиться:
- вот Матрица, с Брюсом Ли, заменившим Киану Ривза
- а в этой фальшивке Дэвид Боуи превращается в Рика Эстли
- ну и куда уж без Джима Керри в «Сиянии» вместо Джека Николсона.
Что же нам делать, когда поддельные новости так же реальны, как и настоящие новости?
Что же нам делать, когда голос и внешность любого можно легко заменить на любого?
Что, в конце концов, делать с теми, кто делает все новые ГлубокиеФейки?
- спрашивает Джордан Питерсон в своем воззвании к человечеству.
И предлагает поступать с ними примерно так же, как делал Остап Бендер
#Deepfakes
Это слова из обращения известного во всем мире профессора психологии Джордана Питерсона, призвавшего законодательно запретить технологию ГлубокихФейков во всем мире.
Подделка голоса и внешности людей должна караться не менее строго, чем подделка паспорта.
Иначе, и без того довольно размытая, граница между правдой и ложью будет человечеством безвозвратно утеряна.
11 лет прошло с того дня, когда производимая на лету подмена лица комика Билла Хейдера на лицо звездного Тома Круза ознаменовала переход человечества в эру ГлубокихФейков.
Прогресс технологии ГлубокихФейков за прошедшие 11 лет фантастический.
Технология субъектонезависимой подмены и реконструкции лица Face Swapping GAN (FSGAN) не зависит от фальсифицируемого субъекта и может применяться влет к любым парам лиц, не требуя предварительного машинного обучения на этих лицах – видео, описание и отчет.
Эта технология просто убивает все попытки создания оружия против ГлубокихФейков на основе подобных же технологий глубокого обучения.
Технологии, заставляющие кого-угодно произносить любой нужный вам текст также совершили ракетообразный взлет. Здесь, платя $30 за каждые 50 слов, любой из нас может заставить Трампа, Обаму, Хиллари Клинтон и Сандерса нести любую пургу.
Глобокофейковые караоки становятся все более популярны.
Поют все:
- президент Трамп поет за Eurythmics
- а Джордан Питерсон (с которого мы начали этот пост) рубит рэп за Eminem.
А тем временем и Том Страж - создатель первой прославившейся в мире подмены Билла Хейдера на Тома Круза – продолжает резвиться:
- вот Матрица, с Брюсом Ли, заменившим Киану Ривза
- а в этой фальшивке Дэвид Боуи превращается в Рика Эстли
- ну и куда уж без Джима Керри в «Сиянии» вместо Джека Николсона.
Что же нам делать, когда поддельные новости так же реальны, как и настоящие новости?
Что же нам делать, когда голос и внешность любого можно легко заменить на любого?
Что, в конце концов, делать с теми, кто делает все новые ГлубокиеФейки?
- спрашивает Джордан Питерсон в своем воззвании к человечеству.
И предлагает поступать с ними примерно так же, как делал Остап Бендер
#Deepfakes
National Post
Jordan Peterson: The deepfake artists must be stopped before we no longer know what's real
Something very strange and disturbing happened to me recently. If it was just relevant to me, it wouldn’t be that important (except perhaps to me), and I wouldn’t be writing this column. But it’s something that is likely more important and more ominous than…
На стыке физики и математики с психологией и социологией возникают поражающие своим потенциалом революционные направления исследований. Вот одно из них. В его основе прорывная научная концепция, напоминающая мне сплав идей двух знаменитых научно-фантастических романов: прообраз лазера из романа «Гиперболоид инженера Гарина» и аппарат удаленного влияния на поведение и поступки людей из романа «Властелин мира».
Это новое направление исследований называется «социальный лазер» и базируется на использовании формального аппарата квантовой термодинамики и теории поля для анализа инфо-социальных медиа-полей цифрового общества. Подобно квантовой механике, этот подход применяет небулеву алгебру логики и неколмогоровскую теорию вероятностей, — но не к физическим, а к социо-политическим процессам. Что позволяет:
✔️ прогнозировать поведение общества под воздействием каскадов инфо-волн в медиа-полях, с учетом характерной иррациональности в мыслях и поступках людей;
✔️ путем инфо-накачки медиа-поля, стимулировать социальные действия людей, фокусируя накопленную ими социальную энергию в направлении определенного «социального цвета» (тем самым как бы наполняя термин «цветная революция» вполне конкретным физико-математическим смыслом).
Ну а теперь обо всем по порядку.
О чем этот пост
Еле уловимый, но уже ощутимый запах «цветной революции» дошел и до нас. Что-то сдвинулось в массовой динамике общества. И теперь неважно, как долго этот запах будет крепчать: год или десять лет. Если не выветрится, то рано или поздно его почуют миллионы.
И что тогда будет?
Хаос? «Цветная революция»? Дворцовый переворот? А может всё как-то рассосётся?
Уточним вопрос:
✔️ Если накал настроений в обществе пробьет психологический уровень кануна «цветной революции», смогут ли тогда власти её все же предотвратить инфотехнологически — с помощью неких информационных технологий, радикально влияющих на массовую динамику, останавливая подымающуюся волну протестов?
Практика последнего десятилетия дает отрицательные ответы на эти вопросы. Если уж общество закипало миллионными протестами, ничто не могло остановить их трансформацию во всевозможные «цветные революции».
Но прогресс идет. Появляются новые технологии. Дубинки и слезоточивый газ стали далеко не единственными средствами противодействия протестам. На улицах теперь тотальное видео-наблюдение с распознаванием лиц, инфразвуковая система «Шопот» и комплекс «Стена». На ТВ — уже превзошедший в массовости теле-гипноза Чумака, — неутомимый Соловьев. А в Интернете — нарастающая активность провластных СМИ и селебрити, крепчающие средства ограничения доступа и уже не фабрика, и целое НПО троллей.
Все это круто. Но поговаривают даже, что
разрабатывается некая супер-технология радикального решения вопроса «цветных революций». Чтобы просто включить некий «рубильник», — и нет больше в народе поддержки «цветной революции». И запаха её не осталось.
А разве такое возможно?
Читать дальше 1ю часть лонгрида на 13 мин.:
- на Medium https://bit.ly/2lzunBJ
- на Яндекс Дзен https://clck.ru/HtkzP
#СоциальныйЛазер #КвантовоподобнаяПарадигма #ЦветнаяРеволюция
P.S. 2я (заключительная) часть этого лонгрида будет опубликована через пару дней. А канал на неделю уходит в отпуск. Счастливо!
Это новое направление исследований называется «социальный лазер» и базируется на использовании формального аппарата квантовой термодинамики и теории поля для анализа инфо-социальных медиа-полей цифрового общества. Подобно квантовой механике, этот подход применяет небулеву алгебру логики и неколмогоровскую теорию вероятностей, — но не к физическим, а к социо-политическим процессам. Что позволяет:
✔️ прогнозировать поведение общества под воздействием каскадов инфо-волн в медиа-полях, с учетом характерной иррациональности в мыслях и поступках людей;
✔️ путем инфо-накачки медиа-поля, стимулировать социальные действия людей, фокусируя накопленную ими социальную энергию в направлении определенного «социального цвета» (тем самым как бы наполняя термин «цветная революция» вполне конкретным физико-математическим смыслом).
Ну а теперь обо всем по порядку.
О чем этот пост
Еле уловимый, но уже ощутимый запах «цветной революции» дошел и до нас. Что-то сдвинулось в массовой динамике общества. И теперь неважно, как долго этот запах будет крепчать: год или десять лет. Если не выветрится, то рано или поздно его почуют миллионы.
И что тогда будет?
Хаос? «Цветная революция»? Дворцовый переворот? А может всё как-то рассосётся?
Уточним вопрос:
✔️ Если накал настроений в обществе пробьет психологический уровень кануна «цветной революции», смогут ли тогда власти её все же предотвратить инфотехнологически — с помощью неких информационных технологий, радикально влияющих на массовую динамику, останавливая подымающуюся волну протестов?
Практика последнего десятилетия дает отрицательные ответы на эти вопросы. Если уж общество закипало миллионными протестами, ничто не могло остановить их трансформацию во всевозможные «цветные революции».
Но прогресс идет. Появляются новые технологии. Дубинки и слезоточивый газ стали далеко не единственными средствами противодействия протестам. На улицах теперь тотальное видео-наблюдение с распознаванием лиц, инфразвуковая система «Шопот» и комплекс «Стена». На ТВ — уже превзошедший в массовости теле-гипноза Чумака, — неутомимый Соловьев. А в Интернете — нарастающая активность провластных СМИ и селебрити, крепчающие средства ограничения доступа и уже не фабрика, и целое НПО троллей.
Все это круто. Но поговаривают даже, что
разрабатывается некая супер-технология радикального решения вопроса «цветных революций». Чтобы просто включить некий «рубильник», — и нет больше в народе поддержки «цветной революции». И запаха её не осталось.
А разве такое возможно?
Читать дальше 1ю часть лонгрида на 13 мин.:
- на Medium https://bit.ly/2lzunBJ
- на Яндекс Дзен https://clck.ru/HtkzP
#СоциальныйЛазер #КвантовоподобнаяПарадигма #ЦветнаяРеволюция
P.S. 2я (заключительная) часть этого лонгрида будет опубликована через пару дней. А канал на неделю уходит в отпуск. Счастливо!
Medium
Социальный лазер против цветных революций
Остановимы ли массовые протесты инфотехнологически?
Никогда такого не было, и вот опять. Россия, славящаяся ассиметричными ответами на вызовы, дает теперь «конвергентный» ответ сразу на два вызова: научно-технологический и социально-политический. Ответом на «социальный лазер» профессора Хренникова может стать «социальный антилазер» профессоров Агеева-Логинова-Шкута - эдакий гиперболоид XXI века, который должен загасить оппозицию так, чтобы больше ничего не выросло.
Продолжение моего лонгрида о «социальном лазере» (на 16 мин.)
- на Medium https://bit.ly/2ly85k6
- на Яндекс Дзен https://clck.ru/HwcHi
#СоциальныйЛазер #КвантовоподобнаяПарадигма #ЦветнаяРеволюция
Продолжение моего лонгрида о «социальном лазере» (на 16 мин.)
- на Medium https://bit.ly/2ly85k6
- на Яндекс Дзен https://clck.ru/HwcHi
#СоциальныйЛазер #КвантовоподобнаяПарадигма #ЦветнаяРеволюция
Medium
От социального лазера к социальному гиперболоиду
Поиск пути, как загасить оппозицию
Плохо или хорошо, что у оппозиционно настроенных граждан нет единой стратегии на послезавтрашнем голосовании?
Это отлично! Потому что это первое из трех обязательных условий на пути оппозиции к победе.
Таков результат моделирования, где индивидуумы выступают в роли «социальных атомов», поведение которых описывается законами и математическим аппаратом физики.
Мой пост об этом вышел 3 года назад. И вот, наконец, первое из трёх условий близко к выполнению.
А как с двумя другими?
Перечитайте пост (на 9 мин.), - там все написано.
- На Medium https://bit.ly/2lWbLMv
- На Яндекс Дзен https://clck.ru/HxXgp
#Выборы #Социофизика
Это отлично! Потому что это первое из трех обязательных условий на пути оппозиции к победе.
Таков результат моделирования, где индивидуумы выступают в роли «социальных атомов», поведение которых описывается законами и математическим аппаратом физики.
Мой пост об этом вышел 3 года назад. И вот, наконец, первое из трёх условий близко к выполнению.
А как с двумя другими?
Перечитайте пост (на 9 мин.), - там все написано.
- На Medium https://bit.ly/2lWbLMv
- На Яндекс Дзен https://clck.ru/HxXgp
#Выборы #Социофизика
Medium
Эффект Ленина-Трампа
Как победить оппозиции, имея только 3% сторонников
«Большой Брат — сын Большого Бога» приходит в наш мир
Пока я допишу свой лонгрид «Большой Брат — сын Большого Бога», этот «брат и сын» успеет легализоваться в половине стран мира.
C Китаем всё ясно. Там на полных парах строится тотальная идеальная е-тюрьма по-китайски.
В США народ дружно поддерживает тотальное распознавание лиц полицией. Лишь 20% считают, что здесь нужны какие-то ограничения. А раз так, то спецслужбы вовсю внедряют «Взгляд Горгоны». А простодушные жители Канзасщины при этом наивно радуются, полагая, что к ним, наконец, прилетела НЛО (см. там же).
В России, по-прежнему, народ и партия едины. Вчера все СМИ сообщили о построении в Москве 2й по величине после Китая системы видеонаблюдения с распознаванием (на самом деле, она будет третья; вторая – британская). Так что гасить протесты станет еще проще, когда можно будет с помощью распознавалки загасить каждого по отдельности через самый гуманный в мире из трех букв.
Последний оплот противостояния «брату и сыну» - старейшая в мире демократия Великобритании. Там полиция выиграла на днях дело в суде, получив тем самым законное разрешение использовать массовое распознавание лиц. Но! Во-первых, только в поисках тех, кто уже есть в полицейской базе подозреваемых. А лица всех остальных из просеиваемой толпы полиция обязана затирать в памяти их компов в течение 24 часов. Во-вторых, большинство британцев пока что за запрет бесконтрольного массового распознавания лиц полицией и, уж тем более, частными компаниями.
Молодцы, британцы! Но как ни прискорбно, их борьба не имеет шансов. «Брат и сын» в итоге победит. А европейская инициатива объявить ИИ для массового распознавания лиц технологией с запредельным риском, имхо, не имеет шансов.
А все потому, что он не просто Большой Брат. Он - сын Большого Бога, и его воцарение в мире неизбежно.
Детали этого объясню во 2й части заканчиваемого мною лонгрида.
Первая же часть здесь.
#БольшиеБоги #CCTV #БольшойБрат
Пока я допишу свой лонгрид «Большой Брат — сын Большого Бога», этот «брат и сын» успеет легализоваться в половине стран мира.
C Китаем всё ясно. Там на полных парах строится тотальная идеальная е-тюрьма по-китайски.
В США народ дружно поддерживает тотальное распознавание лиц полицией. Лишь 20% считают, что здесь нужны какие-то ограничения. А раз так, то спецслужбы вовсю внедряют «Взгляд Горгоны». А простодушные жители Канзасщины при этом наивно радуются, полагая, что к ним, наконец, прилетела НЛО (см. там же).
В России, по-прежнему, народ и партия едины. Вчера все СМИ сообщили о построении в Москве 2й по величине после Китая системы видеонаблюдения с распознаванием (на самом деле, она будет третья; вторая – британская). Так что гасить протесты станет еще проще, когда можно будет с помощью распознавалки загасить каждого по отдельности через самый гуманный в мире из трех букв.
Последний оплот противостояния «брату и сыну» - старейшая в мире демократия Великобритании. Там полиция выиграла на днях дело в суде, получив тем самым законное разрешение использовать массовое распознавание лиц. Но! Во-первых, только в поисках тех, кто уже есть в полицейской базе подозреваемых. А лица всех остальных из просеиваемой толпы полиция обязана затирать в памяти их компов в течение 24 часов. Во-вторых, большинство британцев пока что за запрет бесконтрольного массового распознавания лиц полицией и, уж тем более, частными компаниями.
Молодцы, британцы! Но как ни прискорбно, их борьба не имеет шансов. «Брат и сын» в итоге победит. А европейская инициатива объявить ИИ для массового распознавания лиц технологией с запредельным риском, имхо, не имеет шансов.
А все потому, что он не просто Большой Брат. Он - сын Большого Бога, и его воцарение в мире неизбежно.
Детали этого объясню во 2й части заканчиваемого мною лонгрида.
Первая же часть здесь.
#БольшиеБоги #CCTV #БольшойБрат
История - это не учительница, а надзирательница: она ничему не учит, но сурово наказывает за незнание уроков.
В.О.Ключевский
Будто сжалившись над предельно тупыми учениками, история катастроф пытается нас хоть чему-то научить.
• За месяц до 20летия со дня гибели "Курска" происходит новая подводная катастрофа – страшнейший пожар на "Лошарике".
• Только досмотрели раскрывший глаза миллионам сериал "Чернобыль", как под Северодвинском рвануло так, что отключаются станции наблюдения МАГАТЭ, а с врачей, как при Чернобыле, берут подписку о неразглашении про пациентов с повышенной радиацией.
А ведь вчера было 20летие взрыва на улице Гурьянова в Москве.
А послезавтра 18летие катастрофы 9/11 в США.
Что еще ждать от надзирательницы, временно переквалифицировавшейся в учительницу и повторяющей аналогичные катастрофы для тех, кто еще не понял урока?
И ведь что особенно обидно! Большинство из этих катастроф - «розовые фламинго», про которых я писал ещё 3 года назад...
Но к сожалению, за 3 прошедших года так ничего и не изменилось в понимании «Розовых фламинго». По-прежнему подавляющее большинство даже не знает, что это за термин.
И по-прежнему, поиск в Рунете по словам «розовый фламинго» выдает только ссылки на птичек, песенки, фильмы, салоны и рестораны.
Что тут ответить жестокой надзирательнице, не взирая на новые жертвы, преподающей нам все новые уроки катастроф?
Что мы еще тупее и беспечней, чем считалось?
Нечего на это ответить.
Только и остается, как снова опубликовать тот самый пост,
• почему происходят катастрофы, которых можно было бы избежать,
• и что такое Розовые фламинго,
• и чем они хуже Черных лебедей.
Перечитайте мой пост на Medium https://bit.ly/2kjJsaB (6 мин.).
Или прочтите на Яндекс Дзен https://clck.ru/Hza96
#РозовыйФламинго
В.О.Ключевский
Будто сжалившись над предельно тупыми учениками, история катастроф пытается нас хоть чему-то научить.
• За месяц до 20летия со дня гибели "Курска" происходит новая подводная катастрофа – страшнейший пожар на "Лошарике".
• Только досмотрели раскрывший глаза миллионам сериал "Чернобыль", как под Северодвинском рвануло так, что отключаются станции наблюдения МАГАТЭ, а с врачей, как при Чернобыле, берут подписку о неразглашении про пациентов с повышенной радиацией.
А ведь вчера было 20летие взрыва на улице Гурьянова в Москве.
А послезавтра 18летие катастрофы 9/11 в США.
Что еще ждать от надзирательницы, временно переквалифицировавшейся в учительницу и повторяющей аналогичные катастрофы для тех, кто еще не понял урока?
И ведь что особенно обидно! Большинство из этих катастроф - «розовые фламинго», про которых я писал ещё 3 года назад...
Но к сожалению, за 3 прошедших года так ничего и не изменилось в понимании «Розовых фламинго». По-прежнему подавляющее большинство даже не знает, что это за термин.
И по-прежнему, поиск в Рунете по словам «розовый фламинго» выдает только ссылки на птичек, песенки, фильмы, салоны и рестораны.
Что тут ответить жестокой надзирательнице, не взирая на новые жертвы, преподающей нам все новые уроки катастроф?
Что мы еще тупее и беспечней, чем считалось?
Нечего на это ответить.
Только и остается, как снова опубликовать тот самый пост,
• почему происходят катастрофы, которых можно было бы избежать,
• и что такое Розовые фламинго,
• и чем они хуже Черных лебедей.
Перечитайте мой пост на Medium https://bit.ly/2kjJsaB (6 мин.).
Или прочтите на Яндекс Дзен https://clck.ru/Hza96
#РозовыйФламинго
Medium
Почему происходят катастрофы, которых можно было бы избежать
Что такое Розовый фламинго и чем это понятие хуже Черного лебедя
Обнаружено искривление пространства субъективной реальности.
Его источник – социальные сети. А честные выборы теперь невозможны.
Мы на пороге открытия ОТО ноосферы - инфопространства идей, мифов, мемов и (по Пелевину) ноофресок.
Соцсети реформатируют ноосферу не менее сильно, чем язык, письменность и компьютеры.
Как написать про это коротко, мне неведомо. Но попробую.
1. Пространство объективной реальности материально. Его теоретическим описанием является ОТО, постулирующая его кривизну. И хотя её причины спорны (гравитация - то ли причина кривизны, то ли, наоборот), похоже, что кривизна лишь атрибут материи, сосуществующий вместе с ней.
А как тогда с пространством субъективной реальности?
2. Человек живет в 2х пространствах: объективном и субъективном. Оба они – инь и ян нашей реальности. 1е позволяет взаимодействие с материальным миром. 2е – с информационным миром знаний и представлений, как о 1ом мире, так и о 2м.
Из п.1 известно, что объективное (материальное) пространство имеет кривизну – его важнейший атрибут.
А есть ли кривизна у субъективного инфопространства?
3. До сих пор трактовки кривизны инфопространства были довольно эзотерическими. И вот прорыв. Только что опубликованная в Nature работа «Информационные махинации и недемократические решения» экспериментально доказала следующее:
- соцсети искажают коллективное инфопространство, следствием чего является искажение коллективных действий;
- причина этого в сетевой топологии, определяющей инфопотоки, от которых зависят принимаемые людьми решения.
Поясню этот ребус на примере.
• Допустим, мы собрали 1000 человек, из которых 500 собираются голосовать за А и 500 – за Б.
• Все 1000 стали участниками некой соцсети, набрав себе френдов среди 999 остальных ее участников.
• Дальше стали, как обычно: постить, лайкать, спорить, ругаться, обижаться и отфрендивать.
• Так продолжалось какое-то время. А потом провели голосование. Результат: 70% проголосовало за А, 30% - за Б.
Как так? Ведь изначально голоса были поровну?
А вот так. Это и есть искривление инфопространства под воздействием соцсети. В нем самопроизвольно образуются «инфопузыри» и «эхо-камеры». Эксперимент показал, что их самопроизвольное образование способно искривлять инфопотоки и, соответственно, искажать решения до 20% участников (см. пример https://bit.ly/2m6VlRz)
Причина в том, что конфигурация инфопотоков зависит от топологии связей. И в то же время, эта конфигурация влияет на то, как люди интегрируют разные источники информации при принятии решений, особенно в социальном контексте. Итогом же этой интеграции являются поступки людей. В нашем примере – голосование за А или Б.
Авторы исследования назвали обнаруженный ими эффект «информационным джерримандерингом» (точный перевод – это синтез предвыборных махинаций, манипулирования, реструктурирования и перекройки избирателей с целью получить на выборах нужный результат).
Потенциальная мощность информационного джерримандеринга куда выше +20% голосов. Даже при соотношении 2 к 1, искривление инфореальности позволяет меньшинству победить.
А т.к. мир уже превратился в мир соцсетей, честные выборы здесь отныне невозможны.
Мы думали, главная проблема – интернет-тролли и фейковые новости.
Наивные мы были.
✔️ Изменение кривизны инфопространства - более тонкая и пагубная проблема для демократического принятия решений.
Антиутопия будущего – не Черное зеркало, а кривое.
https://www.nature.com/articles/s41586-019-1507-6
#Соцсети
Его источник – социальные сети. А честные выборы теперь невозможны.
Мы на пороге открытия ОТО ноосферы - инфопространства идей, мифов, мемов и (по Пелевину) ноофресок.
Соцсети реформатируют ноосферу не менее сильно, чем язык, письменность и компьютеры.
Как написать про это коротко, мне неведомо. Но попробую.
1. Пространство объективной реальности материально. Его теоретическим описанием является ОТО, постулирующая его кривизну. И хотя её причины спорны (гравитация - то ли причина кривизны, то ли, наоборот), похоже, что кривизна лишь атрибут материи, сосуществующий вместе с ней.
А как тогда с пространством субъективной реальности?
2. Человек живет в 2х пространствах: объективном и субъективном. Оба они – инь и ян нашей реальности. 1е позволяет взаимодействие с материальным миром. 2е – с информационным миром знаний и представлений, как о 1ом мире, так и о 2м.
Из п.1 известно, что объективное (материальное) пространство имеет кривизну – его важнейший атрибут.
А есть ли кривизна у субъективного инфопространства?
3. До сих пор трактовки кривизны инфопространства были довольно эзотерическими. И вот прорыв. Только что опубликованная в Nature работа «Информационные махинации и недемократические решения» экспериментально доказала следующее:
- соцсети искажают коллективное инфопространство, следствием чего является искажение коллективных действий;
- причина этого в сетевой топологии, определяющей инфопотоки, от которых зависят принимаемые людьми решения.
Поясню этот ребус на примере.
• Допустим, мы собрали 1000 человек, из которых 500 собираются голосовать за А и 500 – за Б.
• Все 1000 стали участниками некой соцсети, набрав себе френдов среди 999 остальных ее участников.
• Дальше стали, как обычно: постить, лайкать, спорить, ругаться, обижаться и отфрендивать.
• Так продолжалось какое-то время. А потом провели голосование. Результат: 70% проголосовало за А, 30% - за Б.
Как так? Ведь изначально голоса были поровну?
А вот так. Это и есть искривление инфопространства под воздействием соцсети. В нем самопроизвольно образуются «инфопузыри» и «эхо-камеры». Эксперимент показал, что их самопроизвольное образование способно искривлять инфопотоки и, соответственно, искажать решения до 20% участников (см. пример https://bit.ly/2m6VlRz)
Причина в том, что конфигурация инфопотоков зависит от топологии связей. И в то же время, эта конфигурация влияет на то, как люди интегрируют разные источники информации при принятии решений, особенно в социальном контексте. Итогом же этой интеграции являются поступки людей. В нашем примере – голосование за А или Б.
Авторы исследования назвали обнаруженный ими эффект «информационным джерримандерингом» (точный перевод – это синтез предвыборных махинаций, манипулирования, реструктурирования и перекройки избирателей с целью получить на выборах нужный результат).
Потенциальная мощность информационного джерримандеринга куда выше +20% голосов. Даже при соотношении 2 к 1, искривление инфореальности позволяет меньшинству победить.
А т.к. мир уже превратился в мир соцсетей, честные выборы здесь отныне невозможны.
Мы думали, главная проблема – интернет-тролли и фейковые новости.
Наивные мы были.
✔️ Изменение кривизны инфопространства - более тонкая и пагубная проблема для демократического принятия решений.
Антиутопия будущего – не Черное зеркало, а кривое.
https://www.nature.com/articles/s41586-019-1507-6
#Соцсети
Google
Information gerrymandering and undemocratic decisions - Поиск в Google
ML-стартапы, - либо делайте комплексные решения либо расходитесь.
Обращение венчурного инвестора и топового ИИ-эксперта к ML-стартапам.
Уже 2 года, как лучшим отчетом о состоянии ИИ в мире является «State of AI» Натана Бенайха и Яна Хогарта. И если вы его читаете, то обладаете «всей самой актуальной и нужной информацией о состоянии ИИ».
А теперь прочтите манифест Натана Бенайха «Machine learning: go full stack or go home» (Машинное обучение: станьте комплексными или расходитесь) – обращение к стартапам, работающим в области машинного обучения (ML).
Ключевая мысль обращения такая.
1. (Преамбула 1) ML – самое хайповое направление для современных стартапов.
2. (Преамбула 2) Будущее ML во многом зависит именно от них (ибо даже если когда-то они станут новыми DeepMind и их купит Google, инновационный вектор их разработок складывается сейчас).
3. (Это и есть, собственно мысль) Подавляющее число ML-стартапов имеет устаревшую и малоперспективную бизнес-модель.
- Они делают ML-инструментарий, чтобы продавать его, как сервис (Software as a Service).
- А куда перспективней для них и нужнее рынку модель разработки комплексных решений, сквозным образом решающих конкретную задачу бизнеса (Solution as a Service).
Только работая по модели Solution as a Service в области ML,
• ML –стартапы могут создавать значительную новую ценность для его пользователей
• и обретают возможность не сколько просаживать миллионы на НИРоподобных полуисследовательских разработках, сколько созидать новый реальный бизнес, вмонтировав в свой сервис новую ценность для пользователей.
Рекомендации Натана Бенайха конкретны и детальны. И потому нет смысла их пересказывать. Прочтите сами.
Мне же остается лишь добавить, что Кай-Фу Ли и прочие Чингачгуки китайского ИИ это поняли одними из первых. Но при этом они никого не увещевают и, вообще не говорят про это. А просто делают. На то они и китайцы.
Но большинство стартапов за пределами Китая (и у нас тоже) предпочитают идти устаревшим путем времен SaaS-бума. И потому так ценен манифест Натана Бенайха. И будь моя воля, я бы расписал им стены не только стартапов, но и инвест-фондов, так пока и не понявших, где зарыта основная Value успешных ML–стартапов.
Манифест - https://sifted.eu/articles/machine-learning-full-stack/
Отчет «State of AI» Натана Бенайха и Яна Хогарта за 2019 - https://t.iss.one/theworldisnoteasy/816
#МашинноеОбучение #Стартапы
Обращение венчурного инвестора и топового ИИ-эксперта к ML-стартапам.
Уже 2 года, как лучшим отчетом о состоянии ИИ в мире является «State of AI» Натана Бенайха и Яна Хогарта. И если вы его читаете, то обладаете «всей самой актуальной и нужной информацией о состоянии ИИ».
А теперь прочтите манифест Натана Бенайха «Machine learning: go full stack or go home» (Машинное обучение: станьте комплексными или расходитесь) – обращение к стартапам, работающим в области машинного обучения (ML).
Ключевая мысль обращения такая.
1. (Преамбула 1) ML – самое хайповое направление для современных стартапов.
2. (Преамбула 2) Будущее ML во многом зависит именно от них (ибо даже если когда-то они станут новыми DeepMind и их купит Google, инновационный вектор их разработок складывается сейчас).
3. (Это и есть, собственно мысль) Подавляющее число ML-стартапов имеет устаревшую и малоперспективную бизнес-модель.
- Они делают ML-инструментарий, чтобы продавать его, как сервис (Software as a Service).
- А куда перспективней для них и нужнее рынку модель разработки комплексных решений, сквозным образом решающих конкретную задачу бизнеса (Solution as a Service).
Только работая по модели Solution as a Service в области ML,
• ML –стартапы могут создавать значительную новую ценность для его пользователей
• и обретают возможность не сколько просаживать миллионы на НИРоподобных полуисследовательских разработках, сколько созидать новый реальный бизнес, вмонтировав в свой сервис новую ценность для пользователей.
Рекомендации Натана Бенайха конкретны и детальны. И потому нет смысла их пересказывать. Прочтите сами.
Мне же остается лишь добавить, что Кай-Фу Ли и прочие Чингачгуки китайского ИИ это поняли одними из первых. Но при этом они никого не увещевают и, вообще не говорят про это. А просто делают. На то они и китайцы.
Но большинство стартапов за пределами Китая (и у нас тоже) предпочитают идти устаревшим путем времен SaaS-бума. И потому так ценен манифест Натана Бенайха. И будь моя воля, я бы расписал им стены не только стартапов, но и инвест-фондов, так пока и не понявших, где зарыта основная Value успешных ML–стартапов.
Манифест - https://sifted.eu/articles/machine-learning-full-stack/
Отчет «State of AI» Натана Бенайха и Яна Хогарта за 2019 - https://t.iss.one/theworldisnoteasy/816
#МашинноеОбучение #Стартапы
Sifted
Machine learning: go full stack or go home
Traditional machine learning startups building single tools have the wrong idea. Today, companies need to be full-stack to thrive.
Переход от петард и фейерверков к пулям и снарядам свершился.
Глубокое обучение повторяет судьбу пороха.
В Китае еще 1,5+ тыс. лет назад порох использовался для зажигательных снарядов «хо пао» (огненный шар), ставших основой петард и фейерверков. Прошли века, пока догадались использовать силу взрывных газов, возникавших при горении пороха, для метания снарядов и пуль.
С глубоким обучением прогресс был похожим, хотя и шел несравненно быстрее.
Потребовался всего 10+ лет, чтобы перейти от задач распознавания котиков и предсказания покупок к прогностическим моделям на стыке традиционных дисциплин: физики, химии, биологии и материаловедения.
И хотя для обывателя умная колонка и самоуправляемый авто по-прежнему интересней и прикольней, пользы человечеству от них, как от петард и фейерверков (деньги гребут лишь производители, а мы лишь тупо, но радостно палим в небо на НГ, тратя на это кровно заработанное).
Тогда как решение многоэлектронного уравнения Шредингера на основе глубокого обучения открывает такие перспективы в квантовой химии, что дух захватывает.
А ведь идея проста, как все гениальное. Нейронные сети можно рассматривать как аппроксиматоры функций. То есть вы даете нейронной сети учиться, поставляя ей на вход данные из обучающего набора x. Сеть, обучаясь, пытается как можно точнее определить f (х). А когда она научается генерировать известные значения f (x), то может выдавать довольно точные результаты для тех x, которых не было в обучающем наборе данных.
Все выглядит просто. Но кто сказал, что в качестве f (x) можно использовать лишь простые функции?
А что если подсунуть нейронной сети многоэлектронную волновую функцию, удовлетворяющую статистике Ферми-Дирака?
Так и сделали кудесники из DeepMind, построив Fermionic Neural Network. В сети примерно 70 тыс. параметров, и в реальности никто не понимает, что там происходит. Но сеть обучается только один раз, и после этого она, похоже, способна находить приближенные волновые функции, дающие хорошие результаты для предсказанных свойств химических веществ.
В отличие от самоуправляемого авто, непонимание нами алгоритма, избранного сетью для решения уравнения Шредингера, не влечет никаких моральных терзаний и юридических тупиков.
А пользы от одного такого решения больше чем от всех умных колонок мира вместе взятых.
Прочтите о прорывном решении Ab-Initio - популярно и супер-сложно.
Но не подумайте, что лишь супербогатый DeepMind способен нынче на такое.
Вот «наш человек» Александр Исаев, закончивший Днепропетровский универ, а теперь доцент кафедры химии в Универе Северной Каролины, - делает аналогичные вещи. Будучи первым пользователем суперкомпьютера Frontera - самого быстрого академического суперкомпьютера в мире, - он обучил нейронную сеть решать уравнение Шредингера, сначала решая уравнение теории функционала плотности (DFT) для органических молекул.
В отличие от вынужденной политкорректности DeepMind, Александр говорит открытым текстом:
«Момент спутника происходит именно на стыке разных наук и ИИ. Международная гонка за первенство здесь уже началась. И очень важно, чтобы наша страна выиграла эту гонку».
Плохая новость: «наша страна» - это США.
Хорошая – это шикарный пример, как история пороха может повториться. В результате чего Штаты могут сделать в ИИ-гонке Китай.
Пока тот будет зарабатывать на «огненных шарах» ширпотреба, завороженный рассказами Кай-Фу Ли об абсолютном превосходстве Китая в объемах данных, США изобретают пистолет.
А ведь «добрым словом и пистолетом можно добиться гораздо большего, чем одним только добрым словом».
#ГлубокоеОбучение
Глубокое обучение повторяет судьбу пороха.
В Китае еще 1,5+ тыс. лет назад порох использовался для зажигательных снарядов «хо пао» (огненный шар), ставших основой петард и фейерверков. Прошли века, пока догадались использовать силу взрывных газов, возникавших при горении пороха, для метания снарядов и пуль.
С глубоким обучением прогресс был похожим, хотя и шел несравненно быстрее.
Потребовался всего 10+ лет, чтобы перейти от задач распознавания котиков и предсказания покупок к прогностическим моделям на стыке традиционных дисциплин: физики, химии, биологии и материаловедения.
И хотя для обывателя умная колонка и самоуправляемый авто по-прежнему интересней и прикольней, пользы человечеству от них, как от петард и фейерверков (деньги гребут лишь производители, а мы лишь тупо, но радостно палим в небо на НГ, тратя на это кровно заработанное).
Тогда как решение многоэлектронного уравнения Шредингера на основе глубокого обучения открывает такие перспективы в квантовой химии, что дух захватывает.
А ведь идея проста, как все гениальное. Нейронные сети можно рассматривать как аппроксиматоры функций. То есть вы даете нейронной сети учиться, поставляя ей на вход данные из обучающего набора x. Сеть, обучаясь, пытается как можно точнее определить f (х). А когда она научается генерировать известные значения f (x), то может выдавать довольно точные результаты для тех x, которых не было в обучающем наборе данных.
Все выглядит просто. Но кто сказал, что в качестве f (x) можно использовать лишь простые функции?
А что если подсунуть нейронной сети многоэлектронную волновую функцию, удовлетворяющую статистике Ферми-Дирака?
Так и сделали кудесники из DeepMind, построив Fermionic Neural Network. В сети примерно 70 тыс. параметров, и в реальности никто не понимает, что там происходит. Но сеть обучается только один раз, и после этого она, похоже, способна находить приближенные волновые функции, дающие хорошие результаты для предсказанных свойств химических веществ.
В отличие от самоуправляемого авто, непонимание нами алгоритма, избранного сетью для решения уравнения Шредингера, не влечет никаких моральных терзаний и юридических тупиков.
А пользы от одного такого решения больше чем от всех умных колонок мира вместе взятых.
Прочтите о прорывном решении Ab-Initio - популярно и супер-сложно.
Но не подумайте, что лишь супербогатый DeepMind способен нынче на такое.
Вот «наш человек» Александр Исаев, закончивший Днепропетровский универ, а теперь доцент кафедры химии в Универе Северной Каролины, - делает аналогичные вещи. Будучи первым пользователем суперкомпьютера Frontera - самого быстрого академического суперкомпьютера в мире, - он обучил нейронную сеть решать уравнение Шредингера, сначала решая уравнение теории функционала плотности (DFT) для органических молекул.
В отличие от вынужденной политкорректности DeepMind, Александр говорит открытым текстом:
«Момент спутника происходит именно на стыке разных наук и ИИ. Международная гонка за первенство здесь уже началась. И очень важно, чтобы наша страна выиграла эту гонку».
Плохая новость: «наша страна» - это США.
Хорошая – это шикарный пример, как история пороха может повториться. В результате чего Штаты могут сделать в ИИ-гонке Китай.
Пока тот будет зарабатывать на «огненных шарах» ширпотреба, завороженный рассказами Кай-Фу Ли об абсолютном превосходстве Китая в объемах данных, США изобретают пистолет.
А ведь «добрым словом и пистолетом можно добиться гораздо большего, чем одним только добрым словом».
#ГлубокоеОбучение
Apple – не продавец, а провидец «Смежного Возможного»
После презентации новых iPhone и другой продукции капитализация Apple превысила $1 трлн. Многие уверены, что понимают, в чем секрет долгосрочного фантастического успеха Apple. Но они ошибаются. Потому что знать что-то по-настоящему – значит уметь это смоделировать на матмодели, имеющей строгое теоретическое обоснование. Людей же, способных сделать это на примере успехов Apple, - на Земле всего 1 (один). И его зовут Стюарт Кауффман (Stuart Kauffman).
Более противоречивой личности в современной науке нет. С одной стороны, куча почетных научных званий, премии и награды, 350+ научных публикаций и 6 бестселлеров … С другой, - репутация самого амбициозного и радикального современного ученого, бросившего вызов самому Дарвину.
Но это еще не все!
Все абсолютно революционные теории Кауффмана (а их несколько) построены на едином фундаменте, - близком идеям Канта и Гёте, но не соответствующем мейнстриму современной науки. Подобно великим мыслителям прошлого, Кауффман утверждает,
• в основе структуры природы лежат общие математические принципы или правила;
• сформулировав их, можно смоделировать что угодно – жизнь, разум, свободную волю, квантовую критичность …
И это еще не все!
На этом фундаменте Кауффман
• уже построил несколько обалденных теорий, например:
- теорию антихаоса, для которой естественный отбор Дарвина – лишь некое приложение,
- теорию происхождения жизни и разума, на основе самоорганизованной критичности (Кауффман применил модели булевых сетей для упрощения генетической схемы);
• а на их основе создал компьютерные модели.
Извините, но и это еще не всё!
✔️ Модели Кауффмана показывают результаты очень близкие к реальности, что буквально ставит на уши мировую науку. Что ж теперь, - признавать теории Хауффмана, а теории Дарвина и пр. низводить до частных случаев?
Да никогда! – заявляет современная наука. И выкладывает на стол свой джокер - невозможно признать истинность статистических моделей Кауффмана, т.к. описываемые ими явления не имеют статистики.
- Жизнь ведь образовалась единожды.
- И естественный отбор на Земле имеется в единственном экземпляре.
- И разум тоже появился единожды.
Какая здесь на фиг статистика!!!
А причем здесь успехи Apple, спросите вы.
А вот причем.
В прошлом году Хауффман опубликовал новую теорию – «Простая комбинаторная модель мировой экономической истории». Эта теория объясняет появление промышленной революции комбинаторным взрывом инноваций. А этот взрыв, как водится у Хауффмана, происходит в его матмодели, как говорится, на глазах почтеннейшей публики. И потому возразить на это нечего.
И вот теперь (на прошлой неделе) Хауффман замутил еще одну революцию. Теперь про инновации. В основе новой теории (называется Экономический WEB) открытое ранее Хауффманом понятие «реальности смежных возможностей», со скрипом, но все же признанной мейнстримом экономики.
Теория Экономического WEBа объясняет, откуда растут ноги взрыва инноваций.
Согласно ей, экономика представляет собой сеть дополнений и заменителей уже существующих товаров и услуг. Как и в случае с биосферой (которая, по Кауффману, тоже сеть), эволюция сети экономики в значительной степени непредсказуема, зависит от контекста и создает свой собственный растущий контекст, который включает в себя элементы из реальности «смежного возможного». Смежное возможное - это то, что может возникнуть следующим в ходе эволюции. Эта эволюция «втягивается» в те самые возможности, которые она сама создает. Т.о. инновации в Смежное Возможное стимулируют рост Экономического WEBа.
Просто чума, как интересно. И сводит в ноль почти все современные экономические теории.
А вопрос один.
Что мир будет делать, когда и эта модель Кауффмана даст 98%ную точность при моделировании?
Комбинаторная модель экономики – видео и текст
Общее описание модели Экономического WEBа
#Инновации #Экономика #Антихаос #СамоорганизованнаяКритичность
После презентации новых iPhone и другой продукции капитализация Apple превысила $1 трлн. Многие уверены, что понимают, в чем секрет долгосрочного фантастического успеха Apple. Но они ошибаются. Потому что знать что-то по-настоящему – значит уметь это смоделировать на матмодели, имеющей строгое теоретическое обоснование. Людей же, способных сделать это на примере успехов Apple, - на Земле всего 1 (один). И его зовут Стюарт Кауффман (Stuart Kauffman).
Более противоречивой личности в современной науке нет. С одной стороны, куча почетных научных званий, премии и награды, 350+ научных публикаций и 6 бестселлеров … С другой, - репутация самого амбициозного и радикального современного ученого, бросившего вызов самому Дарвину.
Но это еще не все!
Все абсолютно революционные теории Кауффмана (а их несколько) построены на едином фундаменте, - близком идеям Канта и Гёте, но не соответствующем мейнстриму современной науки. Подобно великим мыслителям прошлого, Кауффман утверждает,
• в основе структуры природы лежат общие математические принципы или правила;
• сформулировав их, можно смоделировать что угодно – жизнь, разум, свободную волю, квантовую критичность …
И это еще не все!
На этом фундаменте Кауффман
• уже построил несколько обалденных теорий, например:
- теорию антихаоса, для которой естественный отбор Дарвина – лишь некое приложение,
- теорию происхождения жизни и разума, на основе самоорганизованной критичности (Кауффман применил модели булевых сетей для упрощения генетической схемы);
• а на их основе создал компьютерные модели.
Извините, но и это еще не всё!
✔️ Модели Кауффмана показывают результаты очень близкие к реальности, что буквально ставит на уши мировую науку. Что ж теперь, - признавать теории Хауффмана, а теории Дарвина и пр. низводить до частных случаев?
Да никогда! – заявляет современная наука. И выкладывает на стол свой джокер - невозможно признать истинность статистических моделей Кауффмана, т.к. описываемые ими явления не имеют статистики.
- Жизнь ведь образовалась единожды.
- И естественный отбор на Земле имеется в единственном экземпляре.
- И разум тоже появился единожды.
Какая здесь на фиг статистика!!!
А причем здесь успехи Apple, спросите вы.
А вот причем.
В прошлом году Хауффман опубликовал новую теорию – «Простая комбинаторная модель мировой экономической истории». Эта теория объясняет появление промышленной революции комбинаторным взрывом инноваций. А этот взрыв, как водится у Хауффмана, происходит в его матмодели, как говорится, на глазах почтеннейшей публики. И потому возразить на это нечего.
И вот теперь (на прошлой неделе) Хауффман замутил еще одну революцию. Теперь про инновации. В основе новой теории (называется Экономический WEB) открытое ранее Хауффманом понятие «реальности смежных возможностей», со скрипом, но все же признанной мейнстримом экономики.
Теория Экономического WEBа объясняет, откуда растут ноги взрыва инноваций.
Согласно ей, экономика представляет собой сеть дополнений и заменителей уже существующих товаров и услуг. Как и в случае с биосферой (которая, по Кауффману, тоже сеть), эволюция сети экономики в значительной степени непредсказуема, зависит от контекста и создает свой собственный растущий контекст, который включает в себя элементы из реальности «смежного возможного». Смежное возможное - это то, что может возникнуть следующим в ходе эволюции. Эта эволюция «втягивается» в те самые возможности, которые она сама создает. Т.о. инновации в Смежное Возможное стимулируют рост Экономического WEBа.
Просто чума, как интересно. И сводит в ноль почти все современные экономические теории.
А вопрос один.
Что мир будет делать, когда и эта модель Кауффмана даст 98%ную точность при моделировании?
Комбинаторная модель экономики – видео и текст
Общее описание модели Экономического WEBа
#Инновации #Экономика #Антихаос #СамоорганизованнаяКритичность
YouTube
The Shape of History with Stuart Kauffman
Guest lecture by Stuart Kauffman (The Institute for Systems Biology) at the New England Complex Systems Institute's Courses in Complexity 2019 Winter Session.
For more information about the course, go to: https://necsi-global.org/winter-school
For more information about the course, go to: https://necsi-global.org/winter-school
Как наказывать ИИ за смерть людей?
Закон это не решит. Производитель тоже. Но появился выход.
Пора признать, не решив этот вопрос, цивилизация не станет человеко-ИИшной. Только решив, как наказывать людей за убийства, люди смогли построить цивилизацию. В итоге люди не перестали убивать. Но вопрос о наказании за убийство позволил избежать логико-этического тупика прогресса. А теперь надо решать по новой.
Теперь на смену цивилизации людей идет человеко-ИИшная. И как теперь наказывать за убийство? Ведь ИИ будет убивать: на войне и без; случайно и умышленно (напр. делая выбор, кого спасать, а кого убить); по одиночке и массово …
Пока ИИ работает в паре с человеком, проблем нет, т.к. спрос за смерть предъявляется человеку. В США за 14 лет ошибки роботизированной хирургии убили 144ёх. Но хирурги не понесли ответственности за это, т.к. остальные 2+ млн. роботизированных операций, прошли гладко. И, следовательно, роботы делает хирургию более безопасной.
Но ведь и беспилотные авто сделают вождение безопасней. Однако, справедливо отмечает Макс Тегмарк, как с роботизированной хирургией здесь не получится. Как только ИИ останется со смертью один на один, возникает юридический тупик.
«Если появление на дорогах беспилотных автомобилей сохранит жизнь половине от тех 32 тыс., что ежегодно гибнут на дорогах США, то производители таких автомобилей получат не 16 тыс. благодарственных открыток от спасенных, а 16 тыс. исков в защиту погибших. В случае, когда беспилотный автомобиль попадает в аварию и в результате страдают люди, кто должен нести за это ответственность – пассажир авто, владелец или производитель?»
Т.е. все упирается в законы, регулирующие эту область. Но законы пишут политики. И ждать от них интеллектуальных откровений, способных решить этот логико-этический мега-пазл, было бы наивно. Задушить регулированием безопасности отрасль беспилотных авто у себя в стране они могут. Но тогда исследования, а затем и производство просто сбегут в страны с менее требовательными правительствами.
И этот регуляторный тупик касается далеко не только самоуправляемых авто. ИИ для дронов, энергетики, связи, инфраструктуры, оружия … Всюду ИИ будет убивать. И всюду один и тот же регуляторный тупик:
- либо задушить развитие технологии у себя в стране, проиграв из-за этого в международной конкуренции;
- либо забить на регулирование, и будь что будет.
Но ведь и «забить» не спасает. Как только регуляторные ограничения будут сняты, уровень рисков зашкалит. А это дорога в хаос невосполнимых потерь.
Есть ли выход? Jack Clark из Open AI и Gillian K. Hadfield из Универа Торонто считают, что есть.
Они предлагают революционное решение – новый способ регулирования высокорисковых технологий, названный «Регуляторный рынок». Его суть в переходе от двухуровневой системы регуляторных отношений правительство – бизнес к трехуровневому правительство – частно-правовой регулятор – бизнес. Причем отношения между двумя последними будут регулироваться не законами, а деньгами.
Мне это предложение чем-то напомнило идею правоведа Дэвида Владека сделать ответственным за смерть на дороге … сам автомобиль. Суть в том, чтобы для беспилотных авто требовалась специальная страховка. Те авто, чья страховая история будет чистой, получат премию за свою безопасность. А плохо разработанные модели от небрежного производителя получат право лишь на такие дорогие страховые полисы, что владение ими окажется невыгодным. Так и сложится подобие «Регуляторного рынка».
Предложение по созданию для ИИ «Регуляторного рынка» будет впервые представлено авторами 26го сентября на конференции «Economics of Artificial Intelligence».
Желающие познакомиться с ним уже сейчас, а заодно протестировать его на кейсе Adversarial-атак на коммерческие дроны, могут это сделать здесь
#БезопасностьИИ
P.S. Какой станет Фемида, столкнувшись с таким вызовом?
Возможно, такой:
Самуэль Бак «В поисках портрета Б»
Закон это не решит. Производитель тоже. Но появился выход.
Пора признать, не решив этот вопрос, цивилизация не станет человеко-ИИшной. Только решив, как наказывать людей за убийства, люди смогли построить цивилизацию. В итоге люди не перестали убивать. Но вопрос о наказании за убийство позволил избежать логико-этического тупика прогресса. А теперь надо решать по новой.
Теперь на смену цивилизации людей идет человеко-ИИшная. И как теперь наказывать за убийство? Ведь ИИ будет убивать: на войне и без; случайно и умышленно (напр. делая выбор, кого спасать, а кого убить); по одиночке и массово …
Пока ИИ работает в паре с человеком, проблем нет, т.к. спрос за смерть предъявляется человеку. В США за 14 лет ошибки роботизированной хирургии убили 144ёх. Но хирурги не понесли ответственности за это, т.к. остальные 2+ млн. роботизированных операций, прошли гладко. И, следовательно, роботы делает хирургию более безопасной.
Но ведь и беспилотные авто сделают вождение безопасней. Однако, справедливо отмечает Макс Тегмарк, как с роботизированной хирургией здесь не получится. Как только ИИ останется со смертью один на один, возникает юридический тупик.
«Если появление на дорогах беспилотных автомобилей сохранит жизнь половине от тех 32 тыс., что ежегодно гибнут на дорогах США, то производители таких автомобилей получат не 16 тыс. благодарственных открыток от спасенных, а 16 тыс. исков в защиту погибших. В случае, когда беспилотный автомобиль попадает в аварию и в результате страдают люди, кто должен нести за это ответственность – пассажир авто, владелец или производитель?»
Т.е. все упирается в законы, регулирующие эту область. Но законы пишут политики. И ждать от них интеллектуальных откровений, способных решить этот логико-этический мега-пазл, было бы наивно. Задушить регулированием безопасности отрасль беспилотных авто у себя в стране они могут. Но тогда исследования, а затем и производство просто сбегут в страны с менее требовательными правительствами.
И этот регуляторный тупик касается далеко не только самоуправляемых авто. ИИ для дронов, энергетики, связи, инфраструктуры, оружия … Всюду ИИ будет убивать. И всюду один и тот же регуляторный тупик:
- либо задушить развитие технологии у себя в стране, проиграв из-за этого в международной конкуренции;
- либо забить на регулирование, и будь что будет.
Но ведь и «забить» не спасает. Как только регуляторные ограничения будут сняты, уровень рисков зашкалит. А это дорога в хаос невосполнимых потерь.
Есть ли выход? Jack Clark из Open AI и Gillian K. Hadfield из Универа Торонто считают, что есть.
Они предлагают революционное решение – новый способ регулирования высокорисковых технологий, названный «Регуляторный рынок». Его суть в переходе от двухуровневой системы регуляторных отношений правительство – бизнес к трехуровневому правительство – частно-правовой регулятор – бизнес. Причем отношения между двумя последними будут регулироваться не законами, а деньгами.
Мне это предложение чем-то напомнило идею правоведа Дэвида Владека сделать ответственным за смерть на дороге … сам автомобиль. Суть в том, чтобы для беспилотных авто требовалась специальная страховка. Те авто, чья страховая история будет чистой, получат премию за свою безопасность. А плохо разработанные модели от небрежного производителя получат право лишь на такие дорогие страховые полисы, что владение ими окажется невыгодным. Так и сложится подобие «Регуляторного рынка».
Предложение по созданию для ИИ «Регуляторного рынка» будет впервые представлено авторами 26го сентября на конференции «Economics of Artificial Intelligence».
Желающие познакомиться с ним уже сейчас, а заодно протестировать его на кейсе Adversarial-атак на коммерческие дроны, могут это сделать здесь
#БезопасностьИИ
P.S. Какой станет Фемида, столкнувшись с таким вызовом?
Возможно, такой:
Самуэль Бак «В поисках портрета Б»
Такая Фемида вам не нравится?
Мне тоже.
Но пока что в вопросах убийства людей искусственным интеллектом Фемида выглядит примерно так.
Самуэль Бак "See No Evil"
Мне тоже.
Но пока что в вопросах убийства людей искусственным интеллектом Фемида выглядит примерно так.
Самуэль Бак "See No Evil"
Остановитесь, - это путь к гибели цивилизации!
Разработана 1я дорожная карта спасения.
Великий космолог и астрофизик, обладатель премий Эйнштейна и Фарадея, золотых медалей Ньютона и Брюса, кавалер Ордена Заслуг, автор десятка выдающихся открытий, 500 научных работ и восьми книг лорд Мартин Джон Рис два года назад поставил вопрос ребром -
нам всем конец? (1)
Этот же вопрос он поставил неделей раньше в суперпрестижной лекции «Как пережить это столетие: как сохранить нашу «бледно-голубую точку» (2).
Мысли проф. Риса просты, как все гениальное.
• Экзистенциальные риски для выживания человечества подошли к тому пределу, когда само уже не рассосется.
• Ждать, что правительства развитых стран всерьез возьмутся за поиск возможностей снижения этих рисков, не приходится. Они озабочены лишь ближайшей перспективой. А все, что за пределами очередного электорального цикла, их вообще не волнует.
• Только общественность своей активностью может заставить правительства озаботиться этими рисками не на словах, а на деле.
Наивысший из этих рисков несет разработка Автономных систем вооружений (AWS): систем вооружений, которые после активации могут сами выбирать и атаковать цели без дальнейшего вмешательства человека-оператора.
То, что цивилизация на Земле еще существует, - огромная удача. Ей мы обязаны конкретным людям.
• Василий Архипов – единственный из 3х ответственных за пуск ядерной торпеды офицеров подводной лодки Б-59. Он отказался нанести удар по США 27 октября 1962 (3), когда капитан Савицкий уже принял решение пустить эту торпеду, а торпедный офицер, задыхаясь от нехватки воздуха и адской жары, прохрипел: “Мы сейчас по ним шарахнем! Сами погибнем, их потопим
всех, но флот не опозорим!”(4). Но Архипов остановил ядерный удар, имевший все шансы начать ядерный апокалипсис на планете.
• Станислав Петров - дежурный офицер системы раннего предупреждения. Он поверил своей интуиции, что США вряд ли стали бы атаковать всего лишь 5ю ракетами, и нарушил инструкцию, не доложив командованию, что на СССР уже летят 5 ядерных ракет США. Потом выяснилось, что это была ошибка - спутник принял солнечные блики от облаков за пламя ракетных двигателей (5). Петров остановил начинающуюся ядерную войну.
✔️ И вот теперь, с появлением Автономных систем вооружений, в цепочке принятия решений не будет Архипова, Петрова… никого не будет, кто мог бы остановить ИИ, самостоятельно принявшего решения стрелять.
Сегодня под Открытым письмом специалистов по ИИ и робототехники о необходимости запретить все автономные системы вооружений стоит уже 26215 подписей (6).
Но как провидчески писал Мартин Рис, на правительства полагаться в этом вопросе бессмысленно.
Какая же альтернатива?
Давить на правительства, чтобы все же запретили?
Бессмысленно. Все равно какие-то страны или фанатики не последуют запрещению. А там и все остальные спохватятся.
Тогда, как обычно с технологиями – война план покажет?
Но это путь к гибели цивилизации.
Третий вариант – дорожную карту из 5 компонентов (7), предложила «великолепная семёрка» спецов по ИИ. Это результат работы, института FutureOfLife после выпуска ими меморандума в марте 2019 (8) и проведения 28-29 августа с.г. воркшопа на эту тему.
Предлагается.
• ограниченный по времени мораторий;
• исключения для определенных классов оружия;
• протоколы против непреднамеренной эскалации;
• стратегии по предотвращению распространения;
• разработка «кентавров» людей и ИИ.
#AWS
Разработана 1я дорожная карта спасения.
Великий космолог и астрофизик, обладатель премий Эйнштейна и Фарадея, золотых медалей Ньютона и Брюса, кавалер Ордена Заслуг, автор десятка выдающихся открытий, 500 научных работ и восьми книг лорд Мартин Джон Рис два года назад поставил вопрос ребром -
нам всем конец? (1)
Этот же вопрос он поставил неделей раньше в суперпрестижной лекции «Как пережить это столетие: как сохранить нашу «бледно-голубую точку» (2).
Мысли проф. Риса просты, как все гениальное.
• Экзистенциальные риски для выживания человечества подошли к тому пределу, когда само уже не рассосется.
• Ждать, что правительства развитых стран всерьез возьмутся за поиск возможностей снижения этих рисков, не приходится. Они озабочены лишь ближайшей перспективой. А все, что за пределами очередного электорального цикла, их вообще не волнует.
• Только общественность своей активностью может заставить правительства озаботиться этими рисками не на словах, а на деле.
Наивысший из этих рисков несет разработка Автономных систем вооружений (AWS): систем вооружений, которые после активации могут сами выбирать и атаковать цели без дальнейшего вмешательства человека-оператора.
То, что цивилизация на Земле еще существует, - огромная удача. Ей мы обязаны конкретным людям.
• Василий Архипов – единственный из 3х ответственных за пуск ядерной торпеды офицеров подводной лодки Б-59. Он отказался нанести удар по США 27 октября 1962 (3), когда капитан Савицкий уже принял решение пустить эту торпеду, а торпедный офицер, задыхаясь от нехватки воздуха и адской жары, прохрипел: “Мы сейчас по ним шарахнем! Сами погибнем, их потопим
всех, но флот не опозорим!”(4). Но Архипов остановил ядерный удар, имевший все шансы начать ядерный апокалипсис на планете.
• Станислав Петров - дежурный офицер системы раннего предупреждения. Он поверил своей интуиции, что США вряд ли стали бы атаковать всего лишь 5ю ракетами, и нарушил инструкцию, не доложив командованию, что на СССР уже летят 5 ядерных ракет США. Потом выяснилось, что это была ошибка - спутник принял солнечные блики от облаков за пламя ракетных двигателей (5). Петров остановил начинающуюся ядерную войну.
✔️ И вот теперь, с появлением Автономных систем вооружений, в цепочке принятия решений не будет Архипова, Петрова… никого не будет, кто мог бы остановить ИИ, самостоятельно принявшего решения стрелять.
Сегодня под Открытым письмом специалистов по ИИ и робототехники о необходимости запретить все автономные системы вооружений стоит уже 26215 подписей (6).
Но как провидчески писал Мартин Рис, на правительства полагаться в этом вопросе бессмысленно.
Какая же альтернатива?
Давить на правительства, чтобы все же запретили?
Бессмысленно. Все равно какие-то страны или фанатики не последуют запрещению. А там и все остальные спохватятся.
Тогда, как обычно с технологиями – война план покажет?
Но это путь к гибели цивилизации.
Третий вариант – дорожную карту из 5 компонентов (7), предложила «великолепная семёрка» спецов по ИИ. Это результат работы, института FutureOfLife после выпуска ими меморандума в марте 2019 (8) и проведения 28-29 августа с.г. воркшопа на эту тему.
Предлагается.
• ограниченный по времени мораторий;
• исключения для определенных классов оружия;
• протоколы против непреднамеренной эскалации;
• стратегии по предотвращению распространения;
• разработка «кентавров» людей и ИИ.
#AWS
YouTube
Why We Should Ban Lethal Autonomous Weapons
Top AI researchers -- including deep-learning co-inventor Yoshua Bengio and AAAI President-elect Bart Selman -- explain what you need to know about lethal autonomous weapons. Thanks to Joseph Gordon-Levitt for the narration. Take action at https://autonomousweapons.org
Почему изнасилования отстают от инноваций.
Раскрыт последний секрет «формулы городов».
Вопрос в заголовке лишь кажется диким. Но он столь же реален, как сама жизнь. Ибо рост числа изнасилований следует тому же математическому закону, что и рост числа инноваций. Это т.н. «формула жизни», описывающая рост не только биологических существ, но и социумов больших городов
Y=Y0*M^b
Поразительно, но скорость роста всего живого описывается единой формулой с показателем степени b больше 1. То же самое и с ростом городов – его экономическая активность, бюджеты, число инноваций, автопарк, заболеваемость, энергопотребление и т.д. - все это растет со сверхлинейной скоростью с ростом числа жителей M. Город как будто живой.
Это удивительное открытие единой «формулы жизни» и «формулы городов» до сих пор портило лишь одно – наличие нескольких непонятных исключений из правила. Например, рост числа изнасилований.
Как понять - число ограблений банков, угонов автомобилей, разбоя и т.п. растет сверхлинейно (также быстро, как инновации и т.д.) с увеличением числа жителей города (b >= 1,5), а рост числа изнасилований всего лишь линейно (b = 1)?
И вот секрет раскрыт. Новое исследование Modeling the origin of urban-output scaling laws объяснило различия в масштабировании разных типов преступлений и подтвердило гипотезу на матмодели.
Оказалось, что все зависит от степени социальности (коллективности) действий (и в частности, преступлений).
• Чтобы ограбить банк, нужна банда сообщников.
• Угонять автомобиль тоже сподручней не в одиночку.
• А вот изнасиловать – без проблем и одному. Более того, делать это без подельников для большинства преступников – больше кайфа.
• Аналогично с угоном мопеда или карманным воровством. Здесь напарники совсем не обязательны.
Этот вывод – серьезное подтверждение гипотезы, лежащей в основе «формулы городов».
Большие города – катализаторы социальных связей, позволяющих под любое дело (от стартапа до ограбления банка) найти оптимальную команду исполнителей.
И потому в больших городах растут, как на дрожжах, абсолютно все виды коллективной деятельности: бизнес, наука, развлечения, командный спорт, … и даже групповые преступления.
Ну а плохая новость в том, что Facebook, ВКонтакте и т.п. – это тоже, своего рода, «большие города». И подобрать группу для любого вида коллективной деятельности здесь тем проще, чем больше соцсеть. Причем эта простота растет сверхлинейно, опережая рост размера сети. И поэтому рекрутеры идут в сеть. Но и преступники тоже.
Групповая креативность в соцсетях растет также сверхлинейно. И в том числе, преступная креативность. Новые невиданные методы преступлений и поиск исполнителей на них, - эффективность всего этого растет сверхлинейно в больших городах и в больших соцетях.
Так уж устроена жизнь.
За все надо платить.
А за сверхлинейное масштабирование, - тем более.
#ФормулаГородов
• Подробней о единой формуле: жизни, городов, выборов в моем посте
• О том, что этой же формуле подчиняется динамика внимания к новостям в СМИ – во 2м моем посте
• Каким образом та же формула связана с фрактальной геометрией инноваций, порождая «Дилемму инноватора» и «Модель инновационного консильери» – в 3ем моем посте
Раскрыт последний секрет «формулы городов».
Вопрос в заголовке лишь кажется диким. Но он столь же реален, как сама жизнь. Ибо рост числа изнасилований следует тому же математическому закону, что и рост числа инноваций. Это т.н. «формула жизни», описывающая рост не только биологических существ, но и социумов больших городов
Y=Y0*M^b
Поразительно, но скорость роста всего живого описывается единой формулой с показателем степени b больше 1. То же самое и с ростом городов – его экономическая активность, бюджеты, число инноваций, автопарк, заболеваемость, энергопотребление и т.д. - все это растет со сверхлинейной скоростью с ростом числа жителей M. Город как будто живой.
Это удивительное открытие единой «формулы жизни» и «формулы городов» до сих пор портило лишь одно – наличие нескольких непонятных исключений из правила. Например, рост числа изнасилований.
Как понять - число ограблений банков, угонов автомобилей, разбоя и т.п. растет сверхлинейно (также быстро, как инновации и т.д.) с увеличением числа жителей города (b >= 1,5), а рост числа изнасилований всего лишь линейно (b = 1)?
И вот секрет раскрыт. Новое исследование Modeling the origin of urban-output scaling laws объяснило различия в масштабировании разных типов преступлений и подтвердило гипотезу на матмодели.
Оказалось, что все зависит от степени социальности (коллективности) действий (и в частности, преступлений).
• Чтобы ограбить банк, нужна банда сообщников.
• Угонять автомобиль тоже сподручней не в одиночку.
• А вот изнасиловать – без проблем и одному. Более того, делать это без подельников для большинства преступников – больше кайфа.
• Аналогично с угоном мопеда или карманным воровством. Здесь напарники совсем не обязательны.
Этот вывод – серьезное подтверждение гипотезы, лежащей в основе «формулы городов».
Большие города – катализаторы социальных связей, позволяющих под любое дело (от стартапа до ограбления банка) найти оптимальную команду исполнителей.
И потому в больших городах растут, как на дрожжах, абсолютно все виды коллективной деятельности: бизнес, наука, развлечения, командный спорт, … и даже групповые преступления.
Ну а плохая новость в том, что Facebook, ВКонтакте и т.п. – это тоже, своего рода, «большие города». И подобрать группу для любого вида коллективной деятельности здесь тем проще, чем больше соцсеть. Причем эта простота растет сверхлинейно, опережая рост размера сети. И поэтому рекрутеры идут в сеть. Но и преступники тоже.
Групповая креативность в соцсетях растет также сверхлинейно. И в том числе, преступная креативность. Новые невиданные методы преступлений и поиск исполнителей на них, - эффективность всего этого растет сверхлинейно в больших городах и в больших соцетях.
Так уж устроена жизнь.
За все надо платить.
А за сверхлинейное масштабирование, - тем более.
#ФормулаГородов
• Подробней о единой формуле: жизни, городов, выборов в моем посте
• О том, что этой же формуле подчиняется динамика внимания к новостям в СМИ – во 2м моем посте
• Каким образом та же формула связана с фрактальной геометрией инноваций, порождая «Дилемму инноватора» и «Модель инновационного консильери» – в 3ем моем посте
Нужно готовиться к будущей войне.
Оценка мировых перспектив АНБ США.
Вовсе не собираюсь грузить вас очередной страшилкой перед выходными. Тема куда практичней и актуальней.
✔️ Какие тренды в ближайшие годы возобладают в мире, во многом зависит от позиций Белого дома.
✔️ Какова будет позиция Белого дома по отношению к конкретным трендам, в значительной степени связана с их видением разведсообществом США в контексте угроз и вызовов для своей страны.
✔️ Каково это видение, только что обстоятельно разъяснил главный юридический советник Агентства национальной безопасности Гленн Герстелл.
Ну а поскольку этот лонлонггрид станет читать далеко не каждый из вас, вы рискуете не только пропустить откровения АНБ (Гленн Герстелл – лишь рупор агентства), но и упустить важную информацию, весьма важную при прогнозировании трендов мирового развития.
Посему вот вам максимально отжатый сухой остаток 5,4 тыс. слов (в переводе Google) до 185 слов моего резюме.
1) Финансирование разведсообщества США сильно возрастет с нынешних $60 млрд в год. Огромные деньги будут впрыснуты в два ключевых технологических направления.
2) Эти направления: ИИ и Квантовый компьютинг.
Главная цель по направлению ИИ – спасти ИИ от «отравления данными». Эта метафора у Герстелла означает весь спектр угроз, когда злоумышленники могут передать дезинформацию системам ИИ, чтобы заставить их нанести вред кому-либо (например: обмануть машину без водителя, чтобы она игнорировала знак остановки, или обмануть систему управления энергосистемой, военным объектом, выборами и т.д.).
Главная цель по направлению Квантовый компьютинг – в корне изменить баланс геополитической мощи в мире за счет прорыва в технологии шифрования. Поскольку до середины века это в любом случае сделают либо США, либо Китай, нужно бросить все силы, чтобы США победили в этой «последней битве» сверхдержав.
3) Для выполнения 2х названных целей необходимо подмять под себя (принудить к партнерству) университеты и бизнес. Основание этого очевидно, поскольку «разработка самых мощных вычислений и сложных алгоритмов в настоящее время происходит не в Пентагоне или АНБ, а в университетских исследовательских лабораториях, а также в Google и Amazons коммерческого мира».
Мои постоянные читатели помнят, что еще год назад я назвал это «ИИ-национализацией», которая уже началась.
#ИИнационализация
Оценка мировых перспектив АНБ США.
Вовсе не собираюсь грузить вас очередной страшилкой перед выходными. Тема куда практичней и актуальней.
✔️ Какие тренды в ближайшие годы возобладают в мире, во многом зависит от позиций Белого дома.
✔️ Какова будет позиция Белого дома по отношению к конкретным трендам, в значительной степени связана с их видением разведсообществом США в контексте угроз и вызовов для своей страны.
✔️ Каково это видение, только что обстоятельно разъяснил главный юридический советник Агентства национальной безопасности Гленн Герстелл.
Ну а поскольку этот лонлонггрид станет читать далеко не каждый из вас, вы рискуете не только пропустить откровения АНБ (Гленн Герстелл – лишь рупор агентства), но и упустить важную информацию, весьма важную при прогнозировании трендов мирового развития.
Посему вот вам максимально отжатый сухой остаток 5,4 тыс. слов (в переводе Google) до 185 слов моего резюме.
1) Финансирование разведсообщества США сильно возрастет с нынешних $60 млрд в год. Огромные деньги будут впрыснуты в два ключевых технологических направления.
2) Эти направления: ИИ и Квантовый компьютинг.
Главная цель по направлению ИИ – спасти ИИ от «отравления данными». Эта метафора у Герстелла означает весь спектр угроз, когда злоумышленники могут передать дезинформацию системам ИИ, чтобы заставить их нанести вред кому-либо (например: обмануть машину без водителя, чтобы она игнорировала знак остановки, или обмануть систему управления энергосистемой, военным объектом, выборами и т.д.).
Главная цель по направлению Квантовый компьютинг – в корне изменить баланс геополитической мощи в мире за счет прорыва в технологии шифрования. Поскольку до середины века это в любом случае сделают либо США, либо Китай, нужно бросить все силы, чтобы США победили в этой «последней битве» сверхдержав.
3) Для выполнения 2х названных целей необходимо подмять под себя (принудить к партнерству) университеты и бизнес. Основание этого очевидно, поскольку «разработка самых мощных вычислений и сложных алгоритмов в настоящее время происходит не в Пентагоне или АНБ, а в университетских исследовательских лабораториях, а также в Google и Amazons коммерческого мира».
Мои постоянные читатели помнят, что еще год назад я назвал это «ИИ-национализацией», которая уже началась.
#ИИнационализация
Nytimes
Opinion | I Work for N.S.A. We Cannot Afford to Lose the Digital Revolution. (Published 2019)
Technology is about to upend our entire national security infrastructure.
Мир взорвался инфобомбой – Google достиг квантового превосходства.
Полагаю, это не совсем так. Точнее, совсем не так.
Бомбу вчера заложили два журналиста FT. А сегодня все СМИ, включая самые полярные издания, просто сошли с ума.
За всем этим хайпом кроются два интересных момента.
Первый смешной. Если правда, будто бы «расчет, на выполнение которого устройству от IBM требуется 10 тысяч лет, компьютер от Google совершил за 200 секунд», то как смогли проверить правильность ответа компьютера Google?
Второй момент серьезный. Пока спорят на каком из лабораторных опытных экземпляров (53-кубитном Sycamore или 72-кубитном Bristlecone) Google «добился квантового превосходства», IBM объявила о запуске в октябре коммерческих продаж вычислений на 53-кубитном квантовом компьютере для клиентов своей IBM Q Network.
#КвантовыйКомпьютинг
Полагаю, это не совсем так. Точнее, совсем не так.
Бомбу вчера заложили два журналиста FT. А сегодня все СМИ, включая самые полярные издания, просто сошли с ума.
За всем этим хайпом кроются два интересных момента.
Первый смешной. Если правда, будто бы «расчет, на выполнение которого устройству от IBM требуется 10 тысяч лет, компьютер от Google совершил за 200 секунд», то как смогли проверить правильность ответа компьютера Google?
Второй момент серьезный. Пока спорят на каком из лабораторных опытных экземпляров (53-кубитном Sycamore или 72-кубитном Bristlecone) Google «добился квантового превосходства», IBM объявила о запуске в октябре коммерческих продаж вычислений на 53-кубитном квантовом компьютере для клиентов своей IBM Q Network.
#КвантовыйКомпьютинг
Ft
Google claims to have reached quantum supremacy
Researchers say their quantum computer has calculated an impossible problem for ordinary machines