Фильм Дудя о русских героях Кремниевой долины больше всего напоминает "Сердца четырех" - водевиль о романтичных красноармейцах, съемки которого были закончены в июне 1941 года, накануне. Существуют прощальные жесты прежней эпохи, и поездка Дудя в Google-коммунизм, состоявшаяся перед тем, как на мир опустился занавес, тут один из ярчайших примеров.
"Сердца четырех" легли на полку: не время было представлять красных командиров, перебитых летом и осенью того же года, в качестве влюбленных, поющих песни. Фильм Дудя люди посмотрели, сидя дома: вместо манифеста открытого мира, полного возможностей,он стал зеркалом для закрытых границ, глобального режима ЧС и контроля за гражданами при помощи цифровой слежки.
Я видел несколько вполне осмысленных линий критики этого фильма. Одни справедливо отмечали, что история успеха - это всегда ошибка выжившего,и что правдивый фильм о культуре стартапов включал бы в себя анализ тысяч разбитых жизней и несбывшихся надежд. Другие критиковали Дудя за демонстрацию под видом эгалитарной мечты патриархальной пародии, реальности,где успеха добиваются исключительно сильные мужчины, как если бы это была Калифорния 19, а не 21 века: женщин в нем не существует.
Но мне кажется, ключевая драма тут именно в прощании с миром,где технологии безусловно делали нашу жизнь лучше,и где улыбчивые инженеры зарабатывали миллионы, предлагая планете все более и более удобные сервисы. В этом мире не было гибридных войн,троллей,тоталитарных государств, поставивших цифровые технологии себе на службу,и повсеместной слежки. Вот улыбчивый инженер рассказывает о том, как распознавание лиц в камерах слежения сделает наши города безопаснее, а ритейл дружелюбнее и прибыльнее, а за его спиной стоит Сергей Семенович в респираторе.
Так звучит последняя песня хиппи из Калифорнии, которые придумали нам новый рай, шеринговую экономику, в которой все братишки, коммунизм знаний. Они сделали очень много полезного,мы пользуемся плодами их трудов,более того,эти плоды единственное,что теперь осталось от старого мира - интерфейсы и гаджеты заменили собой устаревшие и опасные практики прошлого.
"Луковица памяти" Гюнтера Грасса начинается с рассказа о том, как немецким мальчиком он жил в предвоенном Данциге - и как через какие-нибудь несколько лет от этой жизни не осталось никаких следов:ни улиц,ни домов,ни людей, ни даже сколько-нибудь открыто высказанных слов.
А я, пожалуй, пойду почитаю "Всемирный потоп" - текст Адама Туза о том, как Первая мировая война, вирус испанки, распад трех империй и восхождение США стерли с лица земли мир, в котором человечество прожило добрую сотню лет.
"Сердца четырех" легли на полку: не время было представлять красных командиров, перебитых летом и осенью того же года, в качестве влюбленных, поющих песни. Фильм Дудя люди посмотрели, сидя дома: вместо манифеста открытого мира, полного возможностей,он стал зеркалом для закрытых границ, глобального режима ЧС и контроля за гражданами при помощи цифровой слежки.
Я видел несколько вполне осмысленных линий критики этого фильма. Одни справедливо отмечали, что история успеха - это всегда ошибка выжившего,и что правдивый фильм о культуре стартапов включал бы в себя анализ тысяч разбитых жизней и несбывшихся надежд. Другие критиковали Дудя за демонстрацию под видом эгалитарной мечты патриархальной пародии, реальности,где успеха добиваются исключительно сильные мужчины, как если бы это была Калифорния 19, а не 21 века: женщин в нем не существует.
Но мне кажется, ключевая драма тут именно в прощании с миром,где технологии безусловно делали нашу жизнь лучше,и где улыбчивые инженеры зарабатывали миллионы, предлагая планете все более и более удобные сервисы. В этом мире не было гибридных войн,троллей,тоталитарных государств, поставивших цифровые технологии себе на службу,и повсеместной слежки. Вот улыбчивый инженер рассказывает о том, как распознавание лиц в камерах слежения сделает наши города безопаснее, а ритейл дружелюбнее и прибыльнее, а за его спиной стоит Сергей Семенович в респираторе.
Так звучит последняя песня хиппи из Калифорнии, которые придумали нам новый рай, шеринговую экономику, в которой все братишки, коммунизм знаний. Они сделали очень много полезного,мы пользуемся плодами их трудов,более того,эти плоды единственное,что теперь осталось от старого мира - интерфейсы и гаджеты заменили собой устаревшие и опасные практики прошлого.
"Луковица памяти" Гюнтера Грасса начинается с рассказа о том, как немецким мальчиком он жил в предвоенном Данциге - и как через какие-нибудь несколько лет от этой жизни не осталось никаких следов:ни улиц,ни домов,ни людей, ни даже сколько-нибудь открыто высказанных слов.
А я, пожалуй, пойду почитаю "Всемирный потоп" - текст Адама Туза о том, как Первая мировая война, вирус испанки, распад трех империй и восхождение США стерли с лица земли мир, в котором человечество прожило добрую сотню лет.
Большой обзор всех способов и идеологий цифровой слежки за "ковидными", которые изобрели к этому моменту. От щадящего блокчейна до "цифровых профилей здоровья" в Китае. Россия склоняется ко второму сценарию https://novayagazeta.ru/articles/2020/05/31/85627-novyy-kitayskiy-chelovek-v-kazhdyy-dom
Новая Газета
Новый китайский человек в каждый дом
Как устроена цифровая слежка за «ковидными» и кому она выгодна
Мой текст из Logos Review of Books вышел на "Горьком". Обратите внимания на фигуру Джона Данахера, лучшего из молодых аналитических философов, пишущих о технологиях сейчас, автора замечательного подкаста Algocracy and Posthumanism Project https://gorky.media/fragments/zhdet-li-nas-vosstanie-na-puti-v-virtualnuyu-utopiyu/
«Горький»
Ждет ли нас восстание на пути в виртуальную утопию?
Logos Review of Books на «Горьком»
Однажды я позвал физика на дискуссию про искусственный интеллект, а он сказал, что не придет. - Вы, философы, - сказал физик, - когда собираетесь, всякий раз начинаете обсуждать свою дилемму вагонетки, а нам, ученым, и слова не даете вставить.
Физик прав. Искусственные агенты, действующие в реальном мире, хотя бы автомобили-беспилотники, проблематизируют этику на новом уровне. Раньше у нас были моральные интуиции, которыми мы были довольны, и скучные теории, которые обсуждают специалисты. Теперь нам нужно поделиться моралью с роботами - так, чтобы их действия выглядели бы в человеческом обществе пристойно. "Три закона робототехники" Азимова из конца 1940-х не пройдут. Роботы не смогут полностью отказаться от причинения вреда людям. Этому посвящен уже старый проект MIT Moral Machine, версия дилеммы вагонетки, в котором людям надо подсказать беспилотнику, кого он должен спасать, а кем жертвовать. Лет десять уже в MIT учат машины убивать людей (и животных) и делать это этично.
Moral Machine уже на уровне своего названия несколько лет назад спровоцировала меня на идею "обратного инжиниринга морали". Если мы научим роботов действовать так, чтобы люди считали их выбор этически оправданным, то почему мы не можем использовать тех же роботов для определения этических качеств наших собственных действий? Если ваш автомобиль обладает достаточно совершенной системой этических взглядов, то нельзя ли не просто делегировать ему моральный выбор в экстренной ситуации на дороге, но и, например, посоветоваться по дороге о своих отношениях с тещей?
Короче говоря, если мы, в частности, исходим из идеи, что этика конвенциональна, и правильный моральный выбор тот, который считает таковым большая часть людей в данном обществе, то Moral Machine перестает быть метафорой, и мы действительно можем сконструировать "универсальную этическую машину", нейромудреца, к которому можно обращаться за советами по этике, и эти советы будут как минимум не хуже, чем у людей.
Как и в случае любви ("алгоритмы Tinder диктуют нам, с кем мы должны спать"), идея делегирования представлений о добре и зле машине встречает интуитивное отторжение.
А между тем первый прототип Real Moral Machine уже создан. Проект Delphi от Алленовского института искусственного интеллекта предлагает вам предложить нейросети описание некоторого действия, и, опираясь на статистически значимое мнение людей, Delphi сообщит вам, хорошее ли это действие, дурное или нейтральное.
Так, по мнению Delphi, врать умирающему, что он в порядке - плохо, дать в морду нацисту - нормально, вернуть долг - само собой разумеющееся, а вот шитпостить в твиттере - тоже плохо.
Что дальше, как вы думаете? Я считаю, что в какой-то итерации подобных проектов должен появиться культ св. Машины, на непогрешимость которой одни люди начнут молиться, а другие будут их бить за это палками. Это очень соответствует природе нашего вида.
https://delphi.allenai.org/
Физик прав. Искусственные агенты, действующие в реальном мире, хотя бы автомобили-беспилотники, проблематизируют этику на новом уровне. Раньше у нас были моральные интуиции, которыми мы были довольны, и скучные теории, которые обсуждают специалисты. Теперь нам нужно поделиться моралью с роботами - так, чтобы их действия выглядели бы в человеческом обществе пристойно. "Три закона робототехники" Азимова из конца 1940-х не пройдут. Роботы не смогут полностью отказаться от причинения вреда людям. Этому посвящен уже старый проект MIT Moral Machine, версия дилеммы вагонетки, в котором людям надо подсказать беспилотнику, кого он должен спасать, а кем жертвовать. Лет десять уже в MIT учат машины убивать людей (и животных) и делать это этично.
Moral Machine уже на уровне своего названия несколько лет назад спровоцировала меня на идею "обратного инжиниринга морали". Если мы научим роботов действовать так, чтобы люди считали их выбор этически оправданным, то почему мы не можем использовать тех же роботов для определения этических качеств наших собственных действий? Если ваш автомобиль обладает достаточно совершенной системой этических взглядов, то нельзя ли не просто делегировать ему моральный выбор в экстренной ситуации на дороге, но и, например, посоветоваться по дороге о своих отношениях с тещей?
Короче говоря, если мы, в частности, исходим из идеи, что этика конвенциональна, и правильный моральный выбор тот, который считает таковым большая часть людей в данном обществе, то Moral Machine перестает быть метафорой, и мы действительно можем сконструировать "универсальную этическую машину", нейромудреца, к которому можно обращаться за советами по этике, и эти советы будут как минимум не хуже, чем у людей.
Как и в случае любви ("алгоритмы Tinder диктуют нам, с кем мы должны спать"), идея делегирования представлений о добре и зле машине встречает интуитивное отторжение.
А между тем первый прототип Real Moral Machine уже создан. Проект Delphi от Алленовского института искусственного интеллекта предлагает вам предложить нейросети описание некоторого действия, и, опираясь на статистически значимое мнение людей, Delphi сообщит вам, хорошее ли это действие, дурное или нейтральное.
Так, по мнению Delphi, врать умирающему, что он в порядке - плохо, дать в морду нацисту - нормально, вернуть долг - само собой разумеющееся, а вот шитпостить в твиттере - тоже плохо.
Что дальше, как вы думаете? Я считаю, что в какой-то итерации подобных проектов должен появиться культ св. Машины, на непогрешимость которой одни люди начнут молиться, а другие будут их бить за это палками. Это очень соответствует природе нашего вида.
https://delphi.allenai.org/
На русском языке вышла главная книга начала новых ревущих двадцатых, в ходе которых технологическая и социальная трансформация мира наложилась на строительство новой разделенной Европы и символическое восстановление Берлинской стены.
Шошанна Зубофф, исследователь социологии труда в Гарварде еще в 80-е написала классический текст о современной организации менеджмента, а полтора года назад неожиданно представила "Эпоху надзорного капитализма", в которой дана крайне критическая оценка цифровизации.
Текст примыкает к фукольдианской традиции исследований власти, знания и надзора и посвящен, главным образом, экстерналиям цифрового капитализма: там, где Google и Facebook хотели всего лишь зарабатывать на персонализированной рекламе, предоставляя пользователям бесплатные сервисы, возникает образ нового общества.
В этом обществе, например, больше нет разницы между публичным и приватным, слово privacy всерьез употребляется лишь в речах маркетологов. В нем нет анонимных городов социолога Зиммеля: мегаполисы с камерами с
Шошанна Зубофф, исследователь социологии труда в Гарварде еще в 80-е написала классический текст о современной организации менеджмента, а полтора года назад неожиданно представила "Эпоху надзорного капитализма", в которой дана крайне критическая оценка цифровизации.
Текст примыкает к фукольдианской традиции исследований власти, знания и надзора и посвящен, главным образом, экстерналиям цифрового капитализма: там, где Google и Facebook хотели всего лишь зарабатывать на персонализированной рекламе, предоставляя пользователям бесплатные сервисы, возникает образ нового общества.
В этом обществе, например, больше нет разницы между публичным и приватным, слово privacy всерьез употребляется лишь в речах маркетологов. В нем нет анонимных городов социолога Зиммеля: мегаполисы с камерами с
камерами слежения превращаются в нечто среднее между пресловутой big village и концентрационным лагерем. В этом обществе нет места свободе выбора и человеческой индивидуальности - на социальных мифах о которых держался модерн. Каждый из нас лишь незначительная погрешность big data, собранной о поведении и потребления людей в цифрово-надзорном обществе. У данных есть предсказательная сила: собирая и анализируя всю информацию о человеческой жизни, можно создавать эффективные сценарии влияния на желательное потребительское (или политическое) поведение.
Центральный тезис Зубофф: новым фронтиром капитализма оказалась цифровизация всех элементов человеческого опыта. Государства, такие как Китай и Россия, научились использовать те же технологии для укрепления диктатуры.
Никто не ждал от Google такого, но также никто не знает, что делать с этими экстерналиями дигитализации. Рецепт Зубофф - укрепление демократических институтов и ограничение влияния цифровых платформ на человеческий опыт. Некоторые общества не смогут в обозримом будущем воспользоваться этим рецептом. Еще есть всепобеждающая логика шифропанков - людей в цифровых шапочках из фольги, чья паранойя по поводу судьбы данных оправдалась с избытком. "1984" года не будет только лишь потому, что Оруэлл не мог представить себе такую глубокую трансформацию общества модерна, как нынешняя. Он создавал плохую версию индустриального массового мира, но не нынешний утонченный надзорный капитализм.
В России "Эпоху надзорного капитализма" представляет издательство института Гайдара, которое возглавляется Валерием Анашвили.
Центральный тезис Зубофф: новым фронтиром капитализма оказалась цифровизация всех элементов человеческого опыта. Государства, такие как Китай и Россия, научились использовать те же технологии для укрепления диктатуры.
Никто не ждал от Google такого, но также никто не знает, что делать с этими экстерналиями дигитализации. Рецепт Зубофф - укрепление демократических институтов и ограничение влияния цифровых платформ на человеческий опыт. Некоторые общества не смогут в обозримом будущем воспользоваться этим рецептом. Еще есть всепобеждающая логика шифропанков - людей в цифровых шапочках из фольги, чья паранойя по поводу судьбы данных оправдалась с избытком. "1984" года не будет только лишь потому, что Оруэлл не мог представить себе такую глубокую трансформацию общества модерна, как нынешняя. Он создавал плохую версию индустриального массового мира, но не нынешний утонченный надзорный капитализм.
В России "Эпоху надзорного капитализма" представляет издательство института Гайдара, которое возглавляется Валерием Анашвили.
Дэвид Чалмерс выпустил новую книгу "Reality+: Virtual Worlds and the Problems of Philosophy": философы шагают в ногу с рынком, так что она посвящена виртуальной реальности. Главный тезис Чалмерса, известного философа сознания, состоит в том, что жизнь в виртуальной реальности может быть столько же осмысленной, счастливой и полной человеческими переживаниями, как и в нашем обычном мире. В сущности, любая подобная аргументация внутри аналитической традиции строится через опровержение мысленного эксперимента Нозика о "машине опыта": Нозик предполагал, что никто добровольно не откажется от своей настоящей жизни во имя машины, способной генерировать любые ощущения. Примечательно, что Чалмерс не первый автор, защишающий подобную позицию: в исходе в виртуальную реальность, фактически в набор бесконечно разнообразных видеоигр, видит будущее человечества молодой ирландский философ Джон Данахер, чей текст "Automation and Utopia" я подробно разбирал для Logos Review of Books.
Читая Чалмерса, российский читатель может увидеть экзистенциальный разрыв, разделяющий его и автора. Мечта о виртуальной утопии может возникнуть в очень благополучном обществе, которое с одной стороны вынуждено придумывать для себя новые цели развития (что-то вроде киберкоммунизма), а с другой мучительно пытается избавиться от переживания скуки и бессмысленности хорошо благоустроенного существования.
Тезисы Чалмерса в России упираются в вопрос о том, какие институты мы оставим "на реальной земле", прежде чем подключиться в передовому, приятному и полному смысла VR. Условно говоря, не отрежет ли тебе Рамзан Кадыров голову, пока ты будешь подключен к системе. Виртуальная реальность, помноженная на клептократию, дает бесконечные перспективы для укрепления авторитаризма. Самая продвинутая часть общества, воспользовавшись советами Чалмерса, просто уйдет в виртуальную эмиграцию, оставив Москву государственным бандитам и мигрантам, причем первые установят для вторых Синьцзян-2.
В какой-то момент я именно по этим довольно наивным причинам разошелся с постструктурализмом: я понял, что прочитав Делеза, можно обосновать и дать интерпретацию любому явлению так, чтобы в него не хотелось уже вмешиваться. Именно по этой причине я мигрировал в политическую философию, ставящую под сомнение существующий порядок, и предлагающий нормативные принципы для его изменения. Знаменитый тезис Маркса о задачах философии, по-моему, является единственной серьезной апологией наших интеллектуальных практик.
Данахеру я написал в Твиттере, что мне понравилась его книга, но я считаю, что он ошибся в ключевом тезисе: любое умножение реальностей спровоцирует политическую борьбу за возвращение к "настоящему", эта "жажда реальности" отчетливо прослеживается от мифа о пещере к "Матрице" и современному интересу к расследовательской журналистике.
Люди нативные эпистемологи, которые регулярно хотят знать, как оно все устроено на самом деле. Но когда Запад отправится на поиски виртуального счастья, а на остальных территориях планеты будет установлен режим цифрового ГУЛАГа, нас ждут самые интересные и философские времена.
Читая Чалмерса, российский читатель может увидеть экзистенциальный разрыв, разделяющий его и автора. Мечта о виртуальной утопии может возникнуть в очень благополучном обществе, которое с одной стороны вынуждено придумывать для себя новые цели развития (что-то вроде киберкоммунизма), а с другой мучительно пытается избавиться от переживания скуки и бессмысленности хорошо благоустроенного существования.
Тезисы Чалмерса в России упираются в вопрос о том, какие институты мы оставим "на реальной земле", прежде чем подключиться в передовому, приятному и полному смысла VR. Условно говоря, не отрежет ли тебе Рамзан Кадыров голову, пока ты будешь подключен к системе. Виртуальная реальность, помноженная на клептократию, дает бесконечные перспективы для укрепления авторитаризма. Самая продвинутая часть общества, воспользовавшись советами Чалмерса, просто уйдет в виртуальную эмиграцию, оставив Москву государственным бандитам и мигрантам, причем первые установят для вторых Синьцзян-2.
В какой-то момент я именно по этим довольно наивным причинам разошелся с постструктурализмом: я понял, что прочитав Делеза, можно обосновать и дать интерпретацию любому явлению так, чтобы в него не хотелось уже вмешиваться. Именно по этой причине я мигрировал в политическую философию, ставящую под сомнение существующий порядок, и предлагающий нормативные принципы для его изменения. Знаменитый тезис Маркса о задачах философии, по-моему, является единственной серьезной апологией наших интеллектуальных практик.
Данахеру я написал в Твиттере, что мне понравилась его книга, но я считаю, что он ошибся в ключевом тезисе: любое умножение реальностей спровоцирует политическую борьбу за возвращение к "настоящему", эта "жажда реальности" отчетливо прослеживается от мифа о пещере к "Матрице" и современному интересу к расследовательской журналистике.
Люди нативные эпистемологи, которые регулярно хотят знать, как оно все устроено на самом деле. Но когда Запад отправится на поиски виртуального счастья, а на остальных территориях планеты будет установлен режим цифрового ГУЛАГа, нас ждут самые интересные и философские времена.