Алгоритмы в Нью-Йорке

Многим может показаться удивительным, что к алгоритмам и регулированию их использования могут предъявляться политические требования. Однако это не так удивительно, если подумать о том, что они сейчас оказывают влияние на принятии многих важных решений, связанных с финансами, преступлениями, жильем, образованием и так далее. Социальные исследователи технологий уже долгое время говорят, что в технологиях так или иначе есть политика, но если некоторое время назад предъявлять требование большего регулирования алгоритмов и технологии было желанием некоторых академиков и активистов, то сегодня это уже «большая» политика.

Что произошло?

В мае 2018 года администрацией Нью-Йорка было объявлено о создании первой в США Нью-Йоркской оперативной группы по автоматизирующим решения системам (New York City Automated Decision Systems Task Force). Задачами этой группы должно было стать установлении прозрачности и подотчетности алгоритмических систем в Нью-Йорка (проще говоря, чтобы всем было понятно, почему какие-то машины принимают решения так, а не иначе и чтобы можно было понять, кому жаловаться, если не понравилось), а принципы честности и равенства должны были быть установлены в качестве ключевых. По этому поводу мэр Нью-Йорка Билл Де Блазио сказал следующее: «Поскольку данные и технологии становятся все более важными для работы городского правительства, алгоритмы, которые мы используем для содействия принятию решений, должны соответствовать нашим целям и ценностям».

Но, как обычно и бывает, тем, что получилось, довольны не все. Уже последовало несколько заявлений о неэффективности этой оперативной группы и о том, что они делают не так. А именно тут, тут и тут.

Проблемы такие: нужно больше информации на сайте и о процессах, в которых принимают участие оперативная группа, больше форумов, на которых это можно обсуждать, иными словами — приоритизировать вовлечение общественности. Также в заявлениях призывают дать оперативной группе доступ к тому, как алгоритмы используются в других департаментах администрации Нью-Йорка. Очень интересно смотреть, получится ли у Нью-Йорка стать примером в более ответственном отношении к алгоритмическим системам.

Век Капитализма Наблюдения

Новая книга Шошаны Зубофф «The Age of Surveillance Capitalism» уже наделала много шума своим хорошим маркетингом (недаром автор работает в бизнес-школе Гарварда) и сейчас широко обсуждается в сообществе технических гиков, исследователей и активистов: эта внушительная 700-страничная работа о том, как Apple, Google, Amazon, Facebook и другие платформы изменили индустриальный капитализм, превратив его в то, что она называет «капитализмом наблюдения». Эта новая форма «радикального экономического порядка» использует инструменты сбора пользовательских данных и поведенческих модификаций (например, в таргетированной рекламе) как двигатели современного состояния капитализма. Тут в записи ее лекции в институте Data & Society можно послушать о том, как Зубофф рассказывает о своей собственной книге, а вот тут почитать.

Работа сразу привлекала большое внимание внутри академии, так в новом выпуске журнала Surveillance & Society вышло целых три рецензии, по-разному критикующие подход Зубофф:
1. Коуэн критикует книгу, за то, что она игнорирует вопросы права, говоря о них как о несущественных, в то время как следовало бы внимательней отнестись к тому, как сейчас изменяются правовые рамки, в которых осуществляется регулирование платформ.
2. Эванджелиста пишет о том, что перспектива Зубофф может быть полностью понята и принята только при условии того, что ты находишься с ней в одном и том же контексте. Иными словами, в книге не уделяется большого внимания позиции глобального Юга в новом капиталистическом укладе, порожденном платформами.
3. Болл в свою очередь достаточно пространно пишет о том, что работе Зубофф не достает обращения к более широкому корпусу критических работ в социальной теории.

Однако вышеуказанные рецензии все же являются достаточно немногословными и «мягкими» по сравнению с огромным обзором (около 16к слов!) книги от Евгения Морозова. Он, впрочем, предупреждает после большого вступления, что также практикуется здесь в многословии, как и Зубофф со своими 700 страницами. Обстоятельно рассказывать о критике, которую выдвигает Морозов, не кажется рациональным, но несколько его ключевых тезисов можно описать следующим образом: работа прибегает к неубедительным функционалистским объяснениям (проще говоря, объясняет через понятие «капитализм наблюдения» только то, что удобно объяснять), слишком пунктурно и неосторожно говорит о причинно-следственных связях, выдвигает спорный политический проект возврата к предыдущим формам капитализма и фокусируется исключительно на потребителях, не придавая внимания коллективной организации.

Кроме этого, что еще более важно с точки зрения Морозова, Зубофф упускает из своего анализа капитализм сам по себе: «Но ее [Зубофф] двойное движение не победит, пока управленческий капитализм и капитализм наблюдения не будут теоретизированы как ‘капитализм’ — сложный набор исторических и социальных отношений между капиталом и трудом, государством и денежной системой, метрополией и периферией — и не только как совокупность отдельных фирм, отвечающих на требования технологических и социальных изменений». Очень рекомендую найти силы и почитать эту обстоятельную критику.

Небольшая статья Мэри Мэдден в Нью-Йорк Таймс посвящена проблеме, связанной с приватностью, о которой с ее точки зрения часто забывают: бедные по-другому ощущают риски и угрозы, связанные с утечкой и незаконным использованием их персональных данных. Мэдден проводила исследование в Pew Research Center, посвященное тому, как американцы воспринимают приватность после того, как Сноуден передал СМИ информацию о деятельности АНБ. Исследовательница также обращает внимание на те ситуации, когда сообщества афроамериканцев и латиноамериканцев оказываются более подвержены рискам, связанным с приватностью.

Проект DECODE

Европейский проект DECODE (Decentralized Citizen Owned Data Ecosystem) пытается создать правовые, технологические и социально-экономические инструменты, которые позволили бы гражданам вернуть контроль над их данными и сделать их общественно полезными. Проект запустился только в 2017 году, поэтому каких-то результатов пока мало (спасать демократию дело долгое), но я точно буду следить за их прогрессом. В 2018 году пилотные версии проекта запустились в Амстердаме и Барселоне.

Сейчас там занимаются улучшением платформы Decidium, предназначенной для создания партиципаторных инструментов для решения социальных проблем. Тут есть список городов, регионов и организаций, в которых эта платформа уже используется. Одна из самых больших проблем с такими проектами это, конечно, масштаб: все-таки ресурсов, которые обычно имеют такие проекты, не хватит, чтобы последовательно бороться с теми проблемами, которые они ставят.

Не так давно они выложили Data Commons Manifesto, где они описывают свое видение проблем, связанных с данными, управлением и демократией. Текст небольшой, но тем не менее неплохо показывает как сейчас выглядит обеспокоенность по поводу цифрового на Западе, контурно соединяя некоторые сюжеты.

Finding ctrl: visions for the future internet

Недавно Nesta выпустила один из самых впечатляющих веб-проектов, которые я видел, про историю прекрасного интернета. Можно просто бродить по этой страничке, лениво листать таймлайн или любоваться на преисполненный элегантности шрифт в статьях. В проекте собраны высказывания журналистов, писателей, художников и исследователей о прошлом, настоящем и будущего глобально-локального интернета.

Можно прочитать текст Хуссейна Кесвани о краткой истории интернета, посмотреть на модную коллаж-гифку, почитать интервью с бывшим хакером и активистом, ставшего первым цифровым министром Тайваня (!), а также уделить внимание небольшому эссе о постсоветском интернете.

За каждой технологией, даже той, упоминание которой уже превратилось в фоновый шум как это стало с «искусственным интеллектом», «блокчейном» и «криптовалютами», стоит своя особенная история, часто непонятная и противоречивая и при этом часто политически радикальная.

В июне 2019 года выходит из печати книга Финна Брантона «Digital Cash: The Unknown History of the Anarchists, Utopians, and Technologists Who Created Cryptocurrency» об истории биткойна. В своей книге историк медиа и технологий из Нью-Йоркского университета пытается рассказать историю этой криптовалюты через призму тех политических идей, которых придерживались люди, стоящие у ее истоков.

Вот здесь можно прочитать интервью с автором о связях биткойна с желанием преодолеть смерть и избежать государства. В интервью появляются шифропанки, криптоанархисты, австрийские экономисты и даже Бруно Латур, который помог Брантону понять, почему, даже изучая такие казалось бы эфемерные вещи как деньги и цифровое, нам нужно идти в конкретные физические места и делать поле.

Брантон вообще очень интересный автор в поле исторических исследований медиа и интернета: так, он автор книги про ту часть интернета, которую мы часто хотели бы забыть, — спам, а еще вместе с Хелен Ниссенбаум он написал книгу-гайд по «избеганию, протесту и саботажу технологий современного цифрового наблюдения».

Если долго всматриваться в камеры, камеры начнут всматриваться в тебя

Недавно вышла моя небольшая статья про камеры распознавания лиц на сайте «Теплицы социальных технологий». Теплица делает хорошее дело — помогает НКО и общественным инициативам лучше понимать технологии и использовать их в социально значимых целях. У них есть очень много интересных инструментов и материалов, так что если вас интересует эта тема обязательно погуляйте по сайту.

Дискуссия вокруг камер распознавания лиц часто ведется в контексте обсуждения дилеммы приватность / безопасность: хочется ли нам, чтобы за нами следили взамен на создание более безопасной среды? Эта постановка проблемы привычна, так как она позволяет обсуждать тему в привычных категориях с точки зрения нашего политического мышления. Однако одна из проблем такого способа обсуждения заключается в том, что это рассмотрение приватности и безопасности в вакууме; это как если бы всем людям на планете были объективно даны стандарты приватности, которые они универсально разделяют. Уже существует множество исследования, которые говорят нам, что это не так. Понимание приватности является контекстуальным и зависит от того, к каким социальным группам принадлежит индивид. Исследовательница Хелен Ниссенбаум предложила концепт «контекстуальной целостности» (contextual integrity) в своей книге «Privacy In Context: Technology, Policy, and the Integrity of Social Life», указывающий на важность учета таких параметров как отправитель, получатель, тип информации, принцип передачи и другие. Более того, она акцентирует, что приватность не может быть понята как что-то застывшее во времени, напротив, это понятие постоянно трансформируется под воздействием глобальных и локальных социальных процессов, а также этических норм.

Более того, этой дилеммой обсуждение камер распознавания лиц не исчерпывается. Проблема здесь, как и со всеми технологиями, в том, что многие часто склоны считать их нейтральными и потому не предъявлять к ним таких требований, которые они предъявили бы к своим политикам. В своей статье Лукас Интрона обсуждает социальные последствия камер распознавания лиц с точки зрения двух аргументов: 1) камеры социальны, потому что сделаны людьми, следовательно, в камеры оказываются «вшиты» человеческие предрассудки 2) камеры становятся частью более больших технических систем, они начинают жить в разных контекстах, и из-за их функционирование может привести к непредвиденным последствиям. Он предлагает «этику раскрытия» (disclosive ethics) как такой способ мышления о технологии, в которой каждая операция в ее дизайне и имплементации является доступной для технического, этического и социального вопрошания. В статье Интрона много интересных мыслей, касающихся того, как функционируют предрассудки в разных типах алгоритмов распознавания лиц, так что если вам интересно, рекомендую почитать.

А еще есть такая интересная картинка из статьи Интрона. Статья, конечно, уже старовата (особенно для такой стремительно развивающейся тематики), но для «истории» интересно.

Facebook и плагины

Сейчас много интересного происходит вокруг приложений, которые пытаются трансформировать привычный опыт использования социальных медиа. Тут я хочу рассказать о парочке тех, о которых я знаю, и буду рад, если вы напишите мне и расскажете о тех, которые я не упомянул.

1. Facebook Demetricator

Исходя из названия, это приложение убирает метрики на Фейсбуке. Его создал художник и программист Бен Гроссер, идея которого заключается в том, что Фейсбук как интерфейс постоянно превращает все показатели в количественные метрики, заставляя нас оценивать наши посты, фотографии и друзей в терминах цифр. Demetricator убирает все метрики из интерфейса, как бы призывая нас взглянуть на на количество людей, которые лайкнули, а на более качественное измерение — кто были эти люди? В этом интервью Бен подробнее рассказывает о своей идее, принципах работы приложения и мотивах создания работы.

А выглядит Demetricator так.

2. fbTREX
Это плагин, созданный командой и поддерживаемый фондами, позволяющий им собирать информацию для исследователей и журналистов об алгоритмической персонализации. Алгоритмическая персонализация связана с тем, что вся ваша лента в Фейсбуке работает на алгоритмах, настроенных как минимум на то, чтобы повышать вашу вовлеченность. Само функционирование алгоритма — это коммерческий продукт, и это одна из причин, почему точно никому неизвестно, как он работает.

Как работает плагин? Вы устанавливаете аддон, залогиниваетесь в Фейсбуке, и ваши данные передаются команде исследователей. Как пишут на сайте создатели, это было сделано, прежде всего, по причине того, что существующие алгоритмы, курирующие пользовательские новости, непрозрачны и совсем непонятно, как они используются. Вот здесь можно прочитать с ведущим разработчиком проекта Клаудио Агости, а здесь — заявление этой команды, почему заявление Фейсбука в мае этого года о том, что они готовы предоставить часть данных исследователям, это недостаточный шаг, упускающий непосредственно роль самой платформы в алгоритмической персонализации.

Кабели и инфраструктура колониализма

Недавно Verso Books запостили видео с Джеймсом Бридлом, скоро у него выходит книга «New Dark Age Technology and the End of the Future», она обещает нам поведать о всем темном и злом, что окружает технологии, повестка уже известная, хоть и до сих пор безусловно важная. И в этом видео Бридл указывает на интересный факт — инфраструктура интернет кабелей во многом воспроизводит маршруты колониальных империй.

А вот здесь можно смотреть карты кабелей.

А вот и видео.

https://youtu.be/qVQCK6wQDGc

Хотел рассказать немного о каких-то интересных книгах, которыми скоро пополнится исследовательская литература по социальным исследованиям технологий. Естественно, это не полностью исчерпывающий набор новинок какой-либо области, а просто некоторые вещи, которые показались мне интересными.

Вышел The Routledge Handbook to Actor-Network Theory — большой ресурс, охватывающий множество вопросов в акторно-сетевой теории. Лично я обязательно прочитаю из него «How to use ANT in inventive ways so that its critique will not run out of steam?», «Can ANT be a form of activism?» и про связь ANT с социологией цифрового.

Говоря о последнем, сейчас можно уже посмотреть сборник статей «digitalSTS: A Field Guide for Science & Technology Studies» о том, как можно работать на стыке STS и цифровой социологии. В частности, там есть эссе Ника Сивера «Knowing Algorithms». Сивер описывает, что часто можно увидеть призывы к тому, чтобы сделать алгоритмы прозрачными: если мы сможем увидеть их «такими, как они есть», мы сможем лучше понять, как нам бороться с их нежелательными последствиями. Однако, с его точки зрения, у этой оптики существуют две проблемы: сложность (complexity) и инклюзия (inclusion). Проблема сложности заключается в том, что внутри условного Google не существует точного знания того, почему и как работает на практике тот или иной алгоритм, так как алгоритмы являются продуктами более значительных систем, включающих взаимодействия множества групп людей. А чтобы узнать про иклюзию, посмотрите саму статью! 🙂 Сам Сивер подходит к алгоритмам с точки зрения этнографии (здесь его статья об этом), и сейчас он пишет книгу «Computing Taste: The Making of Algorithmic Music Recommendation» о том, как работают системы, рекомендующие нам музыку.

Помимо этого, скоро выходит книга одного из редакторов упомянутого сборника Янни Александра Лукиссаса All Data Are Local о том, почему данные нужно понимать в связи с теми местами, в которых они рождаются и существуют.

У известного Ричарда Роджерса выходит продолжение предыдущей книги, которое называется Doing Digital Methods.

И наконец, у Сары Т. Роберс вышла книга«Behind the Screen: Content Moderation in the Shadows of Social Media», представляющая собой этнографическое исследование работы модераторов Фейсбука в разных странах. Вот здесь можно послушать подкаст, где автор рассказывает про книгу.

А сейчас немного неакадемических новостей. Не так давно «Инфокультура» писала про то, как работает отдел дата журналистики в «Новой газете». По этой же ссылке можно прослушать их интересное выступление на тему открытых данных. В связи с этим, мне вспомнилось несколько вещей, связаных с журналистикой данных, которые я недавно видел.

Прежде всего, вышло второе издание хэндбука (по-русски: такая подручная книга «по делу» с руководством к действию) по журналистике данных, перевод первого издания которого можно найти здесь, обзавелся второй версией. Пока еще не все его части вышли, но там есть и будет еще больше очень интересных статей про то, как журналистика может быть «критической практикой» и как журналисты могут по-разному подходить к данным. Также The New York Times открыли для всех интересующихся материалы их курсов по журналистике данных, использующиеся для обучения их сотрудников. Помимо этого, проект Exploring the Invisible, запущенный международной неправительственной организацией Tactical Tech, выпустил ресурс, посвященный использованию информационных технологий в расследованиях.

Прочитал новость о том, что правительство запустит онлайн-курс по «цифровой гигиене». Это, конечно, выглядит очень интересно. Большая проблема здесь, как представляется, состоит в том, какое будет видение взаимодействия интернета и пользователей, овладевших этим искусством гигиены, в этом проекте. В тексте статьи также фигурирует термин «безграмотность», в некотором роде подразумевающий, что людей выведут из состояния незнания к некоторому «правильному» знанию об интернете, и что практики, которые ранее были для них саморазумеющимися, вдруг окажутся «негигиеничными». Кажется, что вообще видения пользовательской «цифровой гигиены» в интернете — это самые яркие видения его желаемого будущего, потому что когда мы явно или неявно предписываем, как им должно пользоваться, а как нет, мы демонстрируем другим определенную связь между социальным и техническим, которая кажется нам правильной.

С 1 по 5 июля я был в Пизе на школе «Expertise at stake: technoscience and public participation in the post-truth age», организованной итальянским сообществом исследователей STS. На школе было много интересных исследователей, в числе которых был Томаззо Вентурини. Он работает исследователем в CNRS Centre for Internet and Society, где он фокусируется на цифровых методах, STS и картографировании контроверз (controversy mapping), то есть исследованию того, как вокруг научно-технических феноменов возникают общественные разногласия.

Вентурини неслучайно использует этот термин, некоторое время работал с Латуром, поэтому его проект — это в некотором роде попытка «оцифровать» акторно-сетевую теорию. Он обращается к сетевому анализу, однако если посмотреть на то, как он это делает и обсуждает свои находки, то можно заметить, что это практика сетевого анализа, значительно отличающаяся от того, как его используют в политической науке, экономики и количественной социологии. На его сайте достаточно много интересных материалов и ссылок на разные ресурсы, касающиеся цифровой социологии и STS. Например, один из его проектов это «Climate Negotiations Browser», который «позволяет визуализировать более 20 лет переговоров в ООН по поводу климатических проблем».

Если вас заинтересовало, как можно делать исследования с помощью цифровых методов, то хороший способ начать это посмотреть сайт «Digital Methods Initiative» и особенно раздел Tools, где выложены уже разработанные и готовые инструменты. Также на русском языке можно посмотреть на сайте клуба любителей интернета и общества в разделе про первую школу качественных онлайн-исследований материалы про цифровую антропологию и цифровую этнографию.