Вышел доклад " Exploring digital government transformation in the EU" [1] со 100-страничным обзором практики цифровой трансформации Евросоюза.
В докладе собран обзор развития таких тем госуправления как:
- Искуственный интеллект
- Распределённые цифровые реестры
- Интернет вещей
- Данные и их повторное использование
- Открытое государство
- Цифровая безопасность
- Инновации в предоставлении услуг

Доклад выпущен от EU Science Hub и во многом делает акценты на этике и этическом развитии государственного регулирования.

Ссылки:
[1] https://op.europa.eu/en/publication-detail/-/publication/0fdfa1ed-1bc6-11ea-8c1f-01aa75ed71a1/language-en

#policy #government #eu

Классный кейс про программистов и политическую позицию. Как исследователю мне было бы очень интересно посмотреть на особенности продуктов, которые будут произведены по итогам.

Я/Мы nginx
Я/Мы Дело 212
Я/Мы Ростовское Дело
Я/Мы Дело Сети
Я/Мы Дело Нового Величия

К сожалению, этот список можно продолжать долго.

Поэтому сегодня в 20:00 мы выразим свою гражданскую позицию и солидарность одним из самых «программистских» способов — в формате хакатона.

Последний шанс присоединиться.
Найти идею вы можете тут.
Найти команду тут.

Ваше участие очень важно!

Датацентры – это новый черный.
«A dystopian data center just became the most glamorous runway in fashion»

Два года назад первым постом на этом канале было интервью с исследовательницей медиа Светланой Матвиенко. Тогда она ответила на мои вопросы о блокировке российских соцсетей украинскими властями, важности материалистического анализа Интернет-инфраструктуры и информационной войне.

В своём новом интервью Матвиенко рассказывает о последствиях власти Интернет-платформ, коммуникативном милитаризме и своей новой книге "Кибервойна и революция в глобальном капитализме".

***

- «Коммуникативный милитаризм» — что это значит и как это касается нас?

Очень интересная американская исследовательница Джоди Дин в 2005 году написала статью о «Коммуникативном капитализме». Она одной из первых идентифицировала новый симптом, когда участие пользователей в политической дискуссии онлайн, в том числе и социальных сетях, не приносило какого-то результата.

Раньше считалось, что был определенный обмен реакциями между политическими лидерами, или главами государств или правительствами и аудиторией — народом, избирателями — через СМИ. В начале 2000-х Дин увидела, что этого больше нет, и поняла, что теперь политический обмен не является основным для этих дискуссий. Все больше корпорации, владеющие платформами, собирают данные, получают доход от этого и все. Это уже не политическая дискуссия.

То есть, контакта больше, а обмена мнениями и влияния меньше?

Она сказала, что это такой драйв высказывания, который ни на что не влияет. Теперь, по моему мнению, ситуация изменилась еще больше.

Именно поэтому стоит говорить о «коммуникативном милитаризме», когда капитализм, милитаризм и определенные милитаристские стратегии слились воедино. Они используют одни и те же технологии, одни и те же платформы. Мы говорим о создании такого шума и со стороны политиков, и со стороны пользователей. Когда все больше людей высказываются, а высказывания ни к чему не ведут, это очень полезно для самих платформ, таких как Фейсбук, который на этом зарабатывает, и для тех, кто использует определенные алгоритмы и технологии для столкновения определенных групп населения.

- Вы издали совместно с исследователем Ником Дайер-Визефордом книгу, которая называется «Кибервойна и революция в глобальном капитализме», которая несколько иначе объясняет современную кибервойну.

Это правда, в нашей книге мы предложили новую интерпретацию понятия «кибервойна» и отняли это понятие у тех, кто его традиционно использовал, например, военных киберспециалистов.

Это понятие, очень популярное с начала 90-х годов, когда кибервойна стала выглядеть новой угрозой, а компьютерный код — новым оружием нового тысячелетия. Тогда очень много говорили о начале кибервойны, о необходимости новых систем защиты, и началось создание специальных киберкоманд в военной среде Соединенных Штатов и других стран, которые существуют до сих пор.

Но нам показалось, что когда мы говорим о том, как работает, живет, работает и перезагружает себя капитализм сегодня, нам нужно говорить о войне. Война всегда была одним из способов перезагрузки чего-то, и сейчас кибервойна является технологией, средой для перезагрузки капитализма в целом. Именно поэтому мы решили предложить новое прочтение — политико-экономическое и подумать: кто, как и когда получает прибыль от коммуникации, как и когда коммуникация милитаризуется, как и когда коммуникация становится оружием.

Когда я говорю «коммуникация», я не имею в виду словесный или семантический обмен, хотя он также присутствует, мы говорим о дезинформации, о так называемой постправде и тому подобном. Но это коммуникация в таком общем смысле, мы говорим об использовании всех возможных коммуникативных систем.

Полный текст интервью доступен на русском и украинском.

Книги о приватности и безопасности 2019-ого года

Вышел любопытный список книг по теме, изданных в 2019 году. Среди них, конечно, хайповая книга Шошаны Зубофф про капитализм наблюдения (я подробно писал о ней здесь), много про правовые аспекты, про разного рода «smart policing» и даже что-то про Сноудена (до сих пор пишут!). В общем, список для тех, кто хочет литературы помрачнее на новогодние каникулы.

​​Гайд по ИИ для людей

Художница Мими Онуоха (я писал о ее арт-проекте «Библиотека упущенных датасетов» здесь) и Диана Нучера (известная также как «Мать Киборг») выпустили образовательный материал «A People’s Guide to AI» – популярное изложение некоторых основ ИИ, алгоритмов и машинного обучения. 

Там много милых иллюстраций и есть разные вопросы, ответы на которые можно вписать, так что прямо такое маленькое учебное пособие! Также есть отдельные разделы про равенство и социальность ИИ, что не может не радовать.

Исследователи в surveillance studies интересуются двумя аспектами расширения чувственного аппарата государства: тем, как государство видит (круговое видеонаблюдение, скрытые камеры, спутниковые данные), и тем, как государство слышит (перехват звонков, прослушка, запись разговоров). Читая статьи, можно даже предположить, что государство не нюхает, однако такое предположение окажется ошибочным.

В 1960-х годах Штази разработали метод сбора «консервированных запахов» (Geruchskonserven). Сотрудники похищали личные вещи активистов и помещали их в герметичные сосуды, а после обучали собак находить носителя запаха. Надписи на баночках гласили следующее: «Имя: [x]. Время: [x]. Объект: подштанники рабочего». Помимо личных вещей, «консервации» подлежали обивки стульев, на которых активисты сидели во время допросов. В 2007 году, когда перед саммитом G8 в Хайлигендамме полицейские занимались сбором «образцов телесных запахов» (Körpergeruchsproben) политических активистов, выяснилось, что метод все еще используется.

В 1993 году вопросом «пронюхивания» подозреваемых занялось ЦРУ, представившее наработки в докладе «Человеческие запахи и их распознавание». Значительная часть документа посвящена эккриновым, апокриновым и сальным железам, предположительно ответственным за «индивидуальные» телесные запахи. Автор доклада представил оценку объема производимых запахов и просчитал дистанции, необходимые для их распознавания собачьим носом. Поскольку дистанции оказались относительно маленькими, в докладе впервые прозвучала идея создания «механической ищейки» — сенсорного устройства, способного автоматически распознавать человека по запаху на большом расстоянии.

Разработки 1990-х годов оказались востребованными после объявления «войны против терроризма» в 2001 году: среди руководителей полиции распространились руководства, призывающие обращать особое внимание на запах подозреваемых, число собак-ищеек возросло в десятки раз, а финансирование проектов идентификации «ароматических отпечатков» — в сотни. В 2007 году Управление перспективных исследовательских проектов Министерства обороны США (aka DAPRA, о котором мы уже говорили в связи с бомбами-вонючками) взялось за развитие «Проекта по определению уникального запаха», прежде известного как «Программа определения одоротипа». Заявленная цель проекта — вычисление и идентификация людей по телесному запаху (теперь считается, что индивидуальный запах связан с устройством главного комплекса гистосовместимости). Практическое применение — контроль границ и борьба с международным терроризмом. На базе проекта DAPRA совместными усилиями США и Великобритании были разработаны RASCO — система непрямого сбора проб воздуха для проверки собаками, дающая более надежные результаты, чем анализ радужки глаза или распознавание лиц, и IBIS — система идентификации по индивидуальному запаху, также показавшая превосходные результаты.

В 2013 году в Мадридском политехническом университете разработали технологию биометрической идентификации по запаху. В опубликованном отчете утверждается, что погрешность при распознавании составляет не более 15%. Хотя заявленная точность не превосходит распространенные методы идентификации, авторы текста видят конкурентное преимущество технологии в ее «неинвазивности» (для сбора биометрических данных человеку достаточно пройти мимо сенсоров) и надежности (точная идентификация по запаху возможна независимо от болезней, диеты и использования косметических средств). Подобные сенсоры позволят государству нюхать без необходимости останавливать человека, выдвигать ему подозрения или даже приближаться с собаками.

В журнале Radical Philosophy довольно продолжительное время пролежала без нашего внимания статья Марка Неокле(о)уса The smell of power: а contribution to the critique of the sniffer dog. Неоклеус — профессор критики политической экономии в Университете Брунеля, широко известный работами по полицейской власти (см. The Fabrication of Social Order: A Critical Theory of Police Power, 2000). В статье объяснено, как вышеперечисленные «открытия» способствуют укреплению полицейской власти.

Технологии на Глобальном Юге

Инновации только в Кремниевой долине? А вот и нет! 

Замечательная колонка на The Wired о технологиях на Глобальном Юге от Рамеша Сринивасана (Ramesh Srinivasan). Нам кажется, что дебаты об интернете и технологиях сосредоточены на единственном противопоставлении: им приписывается либо роль спасения человечества от всех мировых проблем, либо они несут в себе потенциал разрушения всех наших демократических институтов. 

Автор говорит, что вообще-то смотря на глобальный Юг мы можем увидеть другое видение инноваций, простирающееся "за пределы Кремниевой долины". Пользователи в Африке, Азии и Южной Америке – это не просто пассивные потребители западных технологий, но они сами активные мейкеры, хакеры и создатели. В тексте есть про 3D принтеры на улицах Найроби, проекты общественных мобильных сетей и другие кейсы заставляют нас ставить вопрос о сущности «инновации». Что же это такое? Обязательно ли это то, что рождается в модных американских стартапах? 

Это также показывает, что технологии могут быть устроены по-другому и помогает переосмыслить отношение между производителями и потребителями. У Рамеша Сринивасана в октябре 2019 вышла книга «За пределами Кремниевой долины».

Интервью с Кариной Прункл об этике алгоритмов

Сделал небольшое интервью с Кариной Прункл, занимающейся философией в Оксфорде, об этике алгоритмов и связанных с этим социальных и политических проблемах. Я сам не до конца доволен интервью: оно получилось достаточно коротким, много интересных тем и вопросов остались незатронутыми. Но некоторые важные темы про прозрачность, предвзятость и последствия этических решений обсудить получилось.

— А в чем проблема с тем, чтобы сделать работу алгоритмов понятной и прозрачной?
— Традиционные алгоритмы работают более-менее в логике ручного программирования определенных условий («если… то…»). Но более современные алгоритмы, особенно построенные на машинном обучении, начинают обладать определенной самостоятельностью. В нейронных сетях очень сложно с полной уверенностью объяснить, на основе чего алгоритм делает свои предсказания, потому что этому предшествует большое количество сложных статистических выводов. Тогда алгоритм становится «черным ящиком», механизмом, остающимся для нас непонятным.
Необходимо спроектировать такую архитектуру алгоритма, которая позволила бы людям понять, какие факторы он принимает в расчет и как приходит к выводам. Но можно вообразить себе алгоритм, оперирующий такими категориями и классами, которые либо слишком сложны, либо вообще непознаваемы для человека.

Для тех, кому хочется большей глубины, есть хорошая обзорная статья про разные направления в дебатах об этике алгоритмов: The ethics of algorithms: Mapping the Debate (2016).

Listening Back - плагин для Firefox и Chrome, который "озвучивает" куки и трэкеры, следящие за вашим поведением в сети. Послушать шум слежки можно установив себе плагин:

для Chrome

для Firefox

Автор проекта - Jasmine Guffond

Новогодние каникулы – отличное время, чтобы почитать и подумать о прошедшем за год. Electronic Frontier Foundation выпустили серию материалов про состояние цифровых прав по всему миру. Там можно почитать про… 
– активистов по всему миру против систем распознавания лиц
– борьбу за сетевой нейтралитет 
– дебаты о шифровании
– протесты и технологии в Латинской Америке
И много чего еще! Некоторые статьи более подробные и информативные, другие менее, но в целом для интересующихся повесткой цифровых прав полистать это будет интересно.

В новый год с новыми гостями! У нас сегодня замечательный пост от нашего коллеги Дмитрия Муравьёва, который ведет канал @datastudies

Метафоры данных: почему данные это не только природный ресурс

Метафоры помогают нам понимать мир, в том числе и технологии, с которыми мы взаимодействуем. С их помощью можно справиться со сложностью феномена, так как метафоры предоставляют перспективу на объект, в то же время оттеняя его иные аспекты.

Более того, метафоры также значимы в том смысле, что обращение к ним может иметь социальные, политические и правовые последствия. Так, например, интернет-исследователь Аннет Маркхэм утверждает, что метафора “информационной магистрали”, введенная вице-президентом США Альбертом Гором, была использована специально для указания на полезность интернета в повседневном использовании. Тем самым Гор сместил фокус с популярной в ранние годы интернета идеи о информационных технологиях как воплощающих утопическое видение киберпространства.

Здесь я хочу обсудить распространенную метафору в отношении (больших) данные – данные как (природный) ресурс. Наверняка вы видели как о данных говорят как о “новой нефти” или “золотой жиле”. Когда прибегают к этим метафорам, то чаще всего хотят указать на значимость основанных на данных (data-driven) решений, их экономической и политической целесообразности. Казалось бы, что здесь не так? Вроде как достаточно много людей согласны, что данные помогают нам справляться со сложными проблемами в разных областях, и поэтому они ценны.

Но такая метафора закрывает нам глаза на то, что данные на самом деле не являются природным ресурсом. Во-первых, они производятся в социальном контексте, поэтому могут быть подвержены разнообразным искажениям. Во-вторых, эта метафора не позволяет увидеть, что часто это данные о человеческом поведении, и потому при их использовании нужно иметь в виду правовые и этические нормы. В-третьих, это также закрывает глаза на ту работу, которая необходима для сбора, анализа и поддержания актуальности больших объемов данных.

В своем интервью исследователь Улисес Мехиас, как мне кажется, выразился удачно, когда указал, что в метафоре данных как нефти последние “...предзадаются или концептуализируются как природный ресурс, который никому не принадлежит и который можно просто взять”. Вместе с тем, данные для простых пользователей не несут особой ценности: они значимы постольку, поскольку они находятся в отношении с другими данными, собираемыми на платформе. Подобная ресурсная метафора также активно работает и в языке самой дата-аналитики, что видно, например, в выражении data mining.

В медиа также популярна метафора данных как природной силы, которую необходимо укротить. Например, можно вспомнить случаи, когда данные связываются с водой: здесь приходят на ум выражения “океан данных”, “поток данных”, “утечка данных”. С точки зрения исследовательницы Деборы Лаптон, подобные “текучие” метафоры не позволяют думать о данных с точки зрения этического и правового вмешательства, вместо этого представляя их как неконтролируемую силу, сопротивляющуюся идеалам прозрачности и подотчетности.

Риторика, с помощью которой мы говорим о технологиях и данных, имеет значение. Как мне представляется, это не только интересный объект для исследователей науки и технологии, но также и предмет для публичной рефлексии. Возвращаясь к одной из центральных тем @WrongTech, было бы интересно подумать о том, могут ли определенные метафоры служить барьером, не позволяющим определенным группам получать доступ к технологиям и пользоваться им так, как бы им того хотелось? Что эти метафоры значат для нашей политики и этики, связанной с технологиями?

Что почитать о метафорах (больших) данных:
Puschmann, C., & Burgess, J. (2014). Big Data, Big Questions | Metaphors of big data. International Journal of Communication, 8, 20.
Stark, L., & Hoffmann, A. L. (2019). Data Is the New What? Popular Metaphors & Professional Ethics in Emerging Data Culture.
Kerssens, N. (2019). De-Agentializing Data Practices: The Shifting Power of Metaphor in 1990s Discourses on Data Mining.
Nafus, D. (2014). Stuck Data, Dead Data, and Disloyal Data: the Stops and Starts in Making Numbers into Social Practices. Distinktion: Scandinavian Journal of Social Theory, 15(2), 208-222.

Силлабус Critical Race & Digital Studies

В дебатах о технологиях и власти большую роль играют вопросы, связанные с расой. Как в цифровой культуре выражаются проблемы расового неравенста? Как наши понятия о расе отражаются на тех политических курсах, которым следуют правительства, и инфраструктурах, которые мы строим?
Здесь наткнулся на учебный план курса «Critical Race & Digital Studies», где заботливо подобрана литература по этим и многим другим вопросам. Ранние интернет исследования и раса, предрассудки и алгоритмы, критические подходы к расе и digital humanities, интерсекциональные подходы, труд, активизм и еще много-много тем.
Все книжки на английском и преимущественно про американский контекст. В русскоязычном пространстве тема раса и технологий не обсуждается, но вообще это большое исследовательское поле, в котором было много интересного. Об одной из недавно вышедших книжек на тему я напишу чуть подробнее немного позже!

Если вы тоже любите думать про интернет и исследовать какие-то его разные части, то подавайтесь на конференцию клуба любителей интернета и общества! Будем вместе размышлять о том, как он меняется (или нет), меняет (или нет) и что же этот интернет все-таки такое.

когда 2019 сменился 2020, только и разговоров было — как изменился интернет. как он потух, фрагментировался, износился, но местами всё же стал быстрее и ярче.
и уже чуть меньше, чем раньше — о том, как интернет что-то изменил, потому что люди привыкли, что он изменил всё.

как исследователи мы не можем пройти мимо таких решительных обобщений, и посвящаем им целую конференцию.
на этот раз майская будет в апреле, 23-25, Москва и Петерубрг, тема — Internet beyond change.

будем говорить о том, что меняется в интернете, с интернетом, и главное — где эти наши выводы поспешны или, наоборот, запоздали.
как всегда, предлагаем несколько экспериментальных секций, аудио-доклады с большими обсуждениями, помимо незавершённых исследований, будем рады просроченным.

дедлайн, кстати, — 20 февраля.

подробности — в интернете, на сайте internetbeyond.net

Культура хакеров @ hack_curio

Наткнулся тут на такой классный сайт – HackCurio. Там куча видео про хакерскую культуру, рассортированных по темам и заботливо курируемых авторской командой. Ведет сайт замечательный антрополог Габриэлла Коулман (Gabriella Coleman). Самые ее известные исследования – про фигуру Анонимуса и Debian. Она написала такие книги как «Coding Freedom: The Ethics and Aesthetics of Hacking» и «Hacker, Hoaxer, Whistleblower, Spy: The Many Faces of Anonymous». А на своем сайте она пишет, что работает сейчас над книгой о хакерах и государстве.