Привет всем зашедшим! Меня зовут Дмитрий Муравьёв, в данный момент я студент Вышки, и я занимаюсь исследованиями в области науки и технологий (science and technology studies) и критическими исследованиями данных (critical data studies).

В этом канале я собираюсь рассказывать об исследованиях, каких-то проектах и инициативах, связанных с тематикой социального, политического и этического осмысления технологий. Основная амбиция исследовательского поля, которое я буду освещать, заключается в следующем: технологии глубоко социальны, их дизайн, производство, распределение и использование имеет значение и должно быть изучено, потому что без этого нам будет сложно понять, какое воздействие они оказывают на наши практики и институты.

Enjoy!

Что такое критические исследования данных?

Критические исследования данных это междисциплинарная область, в которой работают социологии, антропологи, медиа исследователи, информатики, объединенные желанием понять и критически осмыслить социальные последствия таких феноменов как большие данные, машинное обучение, умные города, алгоритмы, поисковые движки и многое другое. Приставка критические здесь не просто так: в целом среди исследователей в этой области существует консенсус касательно того, что ко всем этим феноменам нужно подходить с позиции критики тех систем властных отношений, а также проблем предрассудков и дискриминации, которые эти технологии воспроизводят (связь с критической теорией отмечается авторами некоторых программных статей дисциплины).

Исследователи приходят в эту область действительно с разными бэкграундами: некоторые из них раньше занимались изучением интернет управления (например, Malte Ziewitz), другие занимались (или занимаются) социальной теорией, связанной со статистикой и измерениями (например, David Beer), есть исследователи, которые совмещают академическую работу с позициями в компаниях (например, Tarleton Gillespie в Microsoft).

Еще про междисциплинарность: сейчас до 25 марта еще идет прием заявок на воркшоп по Critical Data Science. Что это такое? Организаторы говорят про critical data science следующим образом:

What is «critical data science»?

We define this as our vision of the practice of working with and modeling data (the «data science»), combined with identifying and questioning the core assumptions that drive that practice (the «critical»). It can be seen as the intersection (or perhaps the union) of data science and critical data/algorithm studies, and an example of a critical technical practice

Иными словами, это попытка совместить науку о данных и критическую перспективу на нее. Выглядит это очень интересно и любопытно узнать, как организаторы видят такое взаимодействие. Из схожих инициатив мне приходит в голову School for Poetic Computing, где пытаются организовать образование на стыке кода, дизайна и теории.

Датафикация — это концепт, который широко используется в критических исследованиях данных и с отсылки к нему начинается множество статей. Датафикацию как термин впервые ввели Cukier & Mayer-Schoenberger в статье на Foreign Affairs «The Rise of Big Data»:

«Учитывая такой масштабный масштаб, заманчиво понимать большие данные исключительно с точки зрения размера. Но это будет вводить в заблуждение. Большие данные также характеризуются способностью трансформировать в данные многие аспекты мира, которые никогда не были определены количественно; назовем это «датафикацией». Например, местоположение было датафицировано сначала с изобретением долготы и широты, а недавно с помощью спутниковых систем GPS. Слова также датафицируются, когда компьютеры обрабатывают базы книг, которым уже несколько веков. Даже дружба и «лайки» датафицируются с помощью Facebook»

Иными словами, датафикация отсылает к социальным трансформациям, вызванным усиление роли больших данных, машинного обучения, умных городов и новой парадигме, в которой собираются, анализируются и используются данные. Датафикация как понятие, таким образом, служит той основой для критических исследований данных, некоторым процессом, требующий своего осмысления в экономике, политике и культуре и который требует собственного уникального подхода. Другая значимая статья о датафикации в целом от Жозе ван Дейк рассматривает датафикацию в ее связи с тем, что она называет датаизмом, — «широко распространенной верой в объективную количественную оценку и потенциальное отслеживание всех видов человеческого поведения и социальной активности с помощью сетевых медийных технологий». С точки зрения ван Дейк, в комбинации с датаизмом, датафикация порождает достаточно большие опасности для пользователей от государств и корпораций.

Очень жду появления в доступе новой книги Эмилиано Трере Hybrid Media Activism Ecologies, Imaginaries, Algorithms. Трере является известным исследователем активизма, связанного с технологиями, часто называемого активизмом данных / цифровым активизмом (data activism & digital activism).

Он также является членом очень важной с моей точки зрения исследовательской инициативы Data Justice Lab, которая задает нам в своих исследовательских проектах следующий вопрос: как может выглядеть справедливость данных (data justice)? Как нам организовать отношения между гражданским обществом, государством, корпорациями и технологиями справедливым образом и как вообще понимать в этом контексте саму справедливость? Какое правовое регулирование, вмешательство и принципы должны быть положены в основание трансформации существующих практик? Какие альтернативные версии нашего будущего в отношении данных могут быть воображены и какие реальные инструменты могут использоваться, чтобы их достичь?

Особый интерес в этой книге представляет ее эмпирический материал: в своей работе Трере исследовал Италию, Мексику и Испанию. Изучение отличных от англосаксонских стран и государств Центральной Европы контекстов и той роли, которую технологии и активизм в нем занимают, является достаточно новой повесткой для этого исследовательского поля. Здесь важно указать пост, который Трере совместно с Стефанией Милан написали в 2017 году про большие данные на Юге. Об этом обязательно подробнее позже!

#MoreThanCode — это исследовательский проект, целью которого является лучше понять, как технология используется для целей продвижения идеалов социальной справедливости. Это исследование выполнялось в рамке participatory action research, то есть выстраивало более горизонтальные отношения между исследователи и исследуемыми группами, тем самым давая им больше возможностей в проектировании такого дизайна исследования, результаты которого были бы этой группе наиболее полезны. Проводились интервью и фокус-группы с представителями государства, некоммерческих организаций, колледжей и университетов, волонтерами, членами социальных движений, разработчиками ПО, дизайнерами и многими другими.

У проекта есть интересный итоговый отчет, в котором освещается (1) текущая экосистема социально-значимых инициатив, связанных с технологиями (2) демография (3) практический опыт участников этих сообществ (4) их видения и ценности (5) документация историй их успехов и неудач.

Вообще очень ценю такие проекты, потому что они действительно помогают понять разные способы использования технологий и непосредственный опыт тех, кто этим занимается. В Америке тематика социально-значимых технологий вообще сейчас, насколько я понимаю, достаточно активно развивается и выливается в такие инициативы. Видимо, колонки Евгения Морозова всех напугали.

30 марта Цукерберг выступил с предложением «4 правила регулирования интернета». Посыл его текста в следующем: государствам нужно принять более активную роль в регулировании социальных медиа. Как именно? Вот четыре направления: (1) регулирование контента (2) защита выборов (3) приватность и защита данных (4) возможность пользователя перемещать данные с одной платформы на другую (data portability). За этим заявление незамедлительно последовала критика: например, тут и тут. Скорее всего, будет больше, потому что сама стандартизация того, что значит «опасный контент» и как будет выглядеть приватность под эгидой Фейсбука, вызывает опасения. Вот тут, например, показано, как ловко в заявлениях Цукерберга смешиваются privacy и private.

Милтон Мюллер, исследователь в области интернет-управления, делает интересный комментарий, касающийся причины такого заявления: Фейсбук как платформа стал настолько огромным, что к нему со стороны множества его пользователей, политиков и государств предъявляются совершенно противоположные мнения. И дело не только в разногласиях между государствами, тут вот, например, описание, как несколько политиков в Ирландии (в том числе, представители парламента) хотят от Цукерберга разных вещей, а потом члены Палаты общин обижаются, что к ним он приходить не захотел.

Big Data and Thick Data

Триша Ван занимается этнографией технологией, которая утверждает, что выводы, основанные на больших данных должны дополняться «насыщенными данными» (да, это привет Клифорду Гирцу). В 2009 году она проводила исследование в Китае для Nokia и обнаружила, что у людей с низким доходом также есть большая потребность в смартфонах. Ван сообщила о своих результатах руководству компании и предложила сменить их бизнес-модель с производства дорогих смартфонов на более доступные, потому что, как показывали результаты ее этнографии, люди с низким доходом в Китае действительно готовы тратить на них деньги и приоритизировать их покупку. В ответ руководство Nokia сказала ей следующее: мы не видим подобных закономерностей в своих данных, а количество ваших наблюдений слишком маленькое по сравнению с нашими датасетами. С точки зрения Ван, существует несколько причин падения Nokia, но одной из них является то, что компания слишком сильно полагалась на цифры.

Здесь Ван более развернуто пишет о том, как она видит совмещение больших и насыщенных данных в коммерческих исследованиях и принятии бизнес-решений. Также то же самое можно послушать в записи ее выступления на TED. Триша и ее коллеги также вели блог Ethnography Matters, посвященный этнографии технологии, и сейчас применяет свой подход в консалтинговой деятельности.

Алгоритмы в Нью-Йорке

Многим может показаться удивительным, что к алгоритмам и регулированию их использования могут предъявляться политические требования. Однако это не так удивительно, если подумать о том, что они сейчас оказывают влияние на принятии многих важных решений, связанных с финансами, преступлениями, жильем, образованием и так далее. Социальные исследователи технологий уже долгое время говорят, что в технологиях так или иначе есть политика, но если некоторое время назад предъявлять требование большего регулирования алгоритмов и технологии было желанием некоторых академиков и активистов, то сегодня это уже «большая» политика.

Что произошло?

В мае 2018 года администрацией Нью-Йорка было объявлено о создании первой в США Нью-Йоркской оперативной группы по автоматизирующим решения системам (New York City Automated Decision Systems Task Force). Задачами этой группы должно было стать установлении прозрачности и подотчетности алгоритмических систем в Нью-Йорка (проще говоря, чтобы всем было понятно, почему какие-то машины принимают решения так, а не иначе и чтобы можно было понять, кому жаловаться, если не понравилось), а принципы честности и равенства должны были быть установлены в качестве ключевых. По этому поводу мэр Нью-Йорка Билл Де Блазио сказал следующее: «Поскольку данные и технологии становятся все более важными для работы городского правительства, алгоритмы, которые мы используем для содействия принятию решений, должны соответствовать нашим целям и ценностям».

Но, как обычно и бывает, тем, что получилось, довольны не все. Уже последовало несколько заявлений о неэффективности этой оперативной группы и о том, что они делают не так. А именно тут, тут и тут.

Проблемы такие: нужно больше информации на сайте и о процессах, в которых принимают участие оперативная группа, больше форумов, на которых это можно обсуждать, иными словами — приоритизировать вовлечение общественности. Также в заявлениях призывают дать оперативной группе доступ к тому, как алгоритмы используются в других департаментах администрации Нью-Йорка. Очень интересно смотреть, получится ли у Нью-Йорка стать примером в более ответственном отношении к алгоритмическим системам.

Век Капитализма Наблюдения

Новая книга Шошаны Зубофф «The Age of Surveillance Capitalism» уже наделала много шума своим хорошим маркетингом (недаром автор работает в бизнес-школе Гарварда) и сейчас широко обсуждается в сообществе технических гиков, исследователей и активистов: эта внушительная 700-страничная работа о том, как Apple, Google, Amazon, Facebook и другие платформы изменили индустриальный капитализм, превратив его в то, что она называет «капитализмом наблюдения». Эта новая форма «радикального экономического порядка» использует инструменты сбора пользовательских данных и поведенческих модификаций (например, в таргетированной рекламе) как двигатели современного состояния капитализма. Тут в записи ее лекции в институте Data & Society можно послушать о том, как Зубофф рассказывает о своей собственной книге, а вот тут почитать.

Работа сразу привлекала большое внимание внутри академии, так в новом выпуске журнала Surveillance & Society вышло целых три рецензии, по-разному критикующие подход Зубофф:
1. Коуэн критикует книгу, за то, что она игнорирует вопросы права, говоря о них как о несущественных, в то время как следовало бы внимательней отнестись к тому, как сейчас изменяются правовые рамки, в которых осуществляется регулирование платформ.
2. Эванджелиста пишет о том, что перспектива Зубофф может быть полностью понята и принята только при условии того, что ты находишься с ней в одном и том же контексте. Иными словами, в книге не уделяется большого внимания позиции глобального Юга в новом капиталистическом укладе, порожденном платформами.
3. Болл в свою очередь достаточно пространно пишет о том, что работе Зубофф не достает обращения к более широкому корпусу критических работ в социальной теории.

Однако вышеуказанные рецензии все же являются достаточно немногословными и «мягкими» по сравнению с огромным обзором (около 16к слов!) книги от Евгения Морозова. Он, впрочем, предупреждает после большого вступления, что также практикуется здесь в многословии, как и Зубофф со своими 700 страницами. Обстоятельно рассказывать о критике, которую выдвигает Морозов, не кажется рациональным, но несколько его ключевых тезисов можно описать следующим образом: работа прибегает к неубедительным функционалистским объяснениям (проще говоря, объясняет через понятие «капитализм наблюдения» только то, что удобно объяснять), слишком пунктурно и неосторожно говорит о причинно-следственных связях, выдвигает спорный политический проект возврата к предыдущим формам капитализма и фокусируется исключительно на потребителях, не придавая внимания коллективной организации.

Кроме этого, что еще более важно с точки зрения Морозова, Зубофф упускает из своего анализа капитализм сам по себе: «Но ее [Зубофф] двойное движение не победит, пока управленческий капитализм и капитализм наблюдения не будут теоретизированы как ‘капитализм’ — сложный набор исторических и социальных отношений между капиталом и трудом, государством и денежной системой, метрополией и периферией — и не только как совокупность отдельных фирм, отвечающих на требования технологических и социальных изменений». Очень рекомендую найти силы и почитать эту обстоятельную критику.