Книги о приватности и безопасности 2019-ого года

Вышел любопытный список книг по теме, изданных в 2019 году. Среди них, конечно, хайповая книга Шошаны Зубофф про капитализм наблюдения (я подробно писал о ней здесь), много про правовые аспекты, про разного рода «smart policing» и даже что-то про Сноудена (до сих пор пишут!). В общем, список для тех, кто хочет литературы помрачнее на новогодние каникулы.

​​Гайд по ИИ для людей

Художница Мими Онуоха (я писал о ее арт-проекте «Библиотека упущенных датасетов» здесь) и Диана Нучера (известная также как «Мать Киборг») выпустили образовательный материал «A People’s Guide to AI» – популярное изложение некоторых основ ИИ, алгоритмов и машинного обучения. 

Там много милых иллюстраций и есть разные вопросы, ответы на которые можно вписать, так что прямо такое маленькое учебное пособие! Также есть отдельные разделы про равенство и социальность ИИ, что не может не радовать.

Исследователи в surveillance studies интересуются двумя аспектами расширения чувственного аппарата государства: тем, как государство видит (круговое видеонаблюдение, скрытые камеры, спутниковые данные), и тем, как государство слышит (перехват звонков, прослушка, запись разговоров). Читая статьи, можно даже предположить, что государство не нюхает, однако такое предположение окажется ошибочным.

В 1960-х годах Штази разработали метод сбора «консервированных запахов» (Geruchskonserven). Сотрудники похищали личные вещи активистов и помещали их в герметичные сосуды, а после обучали собак находить носителя запаха. Надписи на баночках гласили следующее: «Имя: [x]. Время: [x]. Объект: подштанники рабочего». Помимо личных вещей, «консервации» подлежали обивки стульев, на которых активисты сидели во время допросов. В 2007 году, когда перед саммитом G8 в Хайлигендамме полицейские занимались сбором «образцов телесных запахов» (Körpergeruchsproben) политических активистов, выяснилось, что метод все еще используется.

В 1993 году вопросом «пронюхивания» подозреваемых занялось ЦРУ, представившее наработки в докладе «Человеческие запахи и их распознавание». Значительная часть документа посвящена эккриновым, апокриновым и сальным железам, предположительно ответственным за «индивидуальные» телесные запахи. Автор доклада представил оценку объема производимых запахов и просчитал дистанции, необходимые для их распознавания собачьим носом. Поскольку дистанции оказались относительно маленькими, в докладе впервые прозвучала идея создания «механической ищейки» — сенсорного устройства, способного автоматически распознавать человека по запаху на большом расстоянии.

Разработки 1990-х годов оказались востребованными после объявления «войны против терроризма» в 2001 году: среди руководителей полиции распространились руководства, призывающие обращать особое внимание на запах подозреваемых, число собак-ищеек возросло в десятки раз, а финансирование проектов идентификации «ароматических отпечатков» — в сотни. В 2007 году Управление перспективных исследовательских проектов Министерства обороны США (aka DAPRA, о котором мы уже говорили в связи с бомбами-вонючками) взялось за развитие «Проекта по определению уникального запаха», прежде известного как «Программа определения одоротипа». Заявленная цель проекта — вычисление и идентификация людей по телесному запаху (теперь считается, что индивидуальный запах связан с устройством главного комплекса гистосовместимости). Практическое применение — контроль границ и борьба с международным терроризмом. На базе проекта DAPRA совместными усилиями США и Великобритании были разработаны RASCO — система непрямого сбора проб воздуха для проверки собаками, дающая более надежные результаты, чем анализ радужки глаза или распознавание лиц, и IBIS — система идентификации по индивидуальному запаху, также показавшая превосходные результаты.

В 2013 году в Мадридском политехническом университете разработали технологию биометрической идентификации по запаху. В опубликованном отчете утверждается, что погрешность при распознавании составляет не более 15%. Хотя заявленная точность не превосходит распространенные методы идентификации, авторы текста видят конкурентное преимущество технологии в ее «неинвазивности» (для сбора биометрических данных человеку достаточно пройти мимо сенсоров) и надежности (точная идентификация по запаху возможна независимо от болезней, диеты и использования косметических средств). Подобные сенсоры позволят государству нюхать без необходимости останавливать человека, выдвигать ему подозрения или даже приближаться с собаками.

В журнале Radical Philosophy довольно продолжительное время пролежала без нашего внимания статья Марка Неокле(о)уса The smell of power: а contribution to the critique of the sniffer dog. Неоклеус — профессор критики политической экономии в Университете Брунеля, широко известный работами по полицейской власти (см. The Fabrication of Social Order: A Critical Theory of Police Power, 2000). В статье объяснено, как вышеперечисленные «открытия» способствуют укреплению полицейской власти.

Технологии на Глобальном Юге

Инновации только в Кремниевой долине? А вот и нет! 

Замечательная колонка на The Wired о технологиях на Глобальном Юге от Рамеша Сринивасана (Ramesh Srinivasan). Нам кажется, что дебаты об интернете и технологиях сосредоточены на единственном противопоставлении: им приписывается либо роль спасения человечества от всех мировых проблем, либо они несут в себе потенциал разрушения всех наших демократических институтов. 

Автор говорит, что вообще-то смотря на глобальный Юг мы можем увидеть другое видение инноваций, простирающееся "за пределы Кремниевой долины". Пользователи в Африке, Азии и Южной Америке – это не просто пассивные потребители западных технологий, но они сами активные мейкеры, хакеры и создатели. В тексте есть про 3D принтеры на улицах Найроби, проекты общественных мобильных сетей и другие кейсы заставляют нас ставить вопрос о сущности «инновации». Что же это такое? Обязательно ли это то, что рождается в модных американских стартапах? 

Это также показывает, что технологии могут быть устроены по-другому и помогает переосмыслить отношение между производителями и потребителями. У Рамеша Сринивасана в октябре 2019 вышла книга «За пределами Кремниевой долины».

Интервью с Кариной Прункл об этике алгоритмов

Сделал небольшое интервью с Кариной Прункл, занимающейся философией в Оксфорде, об этике алгоритмов и связанных с этим социальных и политических проблемах. Я сам не до конца доволен интервью: оно получилось достаточно коротким, много интересных тем и вопросов остались незатронутыми. Но некоторые важные темы про прозрачность, предвзятость и последствия этических решений обсудить получилось.

— А в чем проблема с тем, чтобы сделать работу алгоритмов понятной и прозрачной?
— Традиционные алгоритмы работают более-менее в логике ручного программирования определенных условий («если… то…»). Но более современные алгоритмы, особенно построенные на машинном обучении, начинают обладать определенной самостоятельностью. В нейронных сетях очень сложно с полной уверенностью объяснить, на основе чего алгоритм делает свои предсказания, потому что этому предшествует большое количество сложных статистических выводов. Тогда алгоритм становится «черным ящиком», механизмом, остающимся для нас непонятным.
Необходимо спроектировать такую архитектуру алгоритма, которая позволила бы людям понять, какие факторы он принимает в расчет и как приходит к выводам. Но можно вообразить себе алгоритм, оперирующий такими категориями и классами, которые либо слишком сложны, либо вообще непознаваемы для человека.

Для тех, кому хочется большей глубины, есть хорошая обзорная статья про разные направления в дебатах об этике алгоритмов: The ethics of algorithms: Mapping the Debate (2016).

Listening Back - плагин для Firefox и Chrome, который "озвучивает" куки и трэкеры, следящие за вашим поведением в сети. Послушать шум слежки можно установив себе плагин:

для Chrome

для Firefox

Автор проекта - Jasmine Guffond

Новогодние каникулы – отличное время, чтобы почитать и подумать о прошедшем за год. Electronic Frontier Foundation выпустили серию материалов про состояние цифровых прав по всему миру. Там можно почитать про… 
– активистов по всему миру против систем распознавания лиц
– борьбу за сетевой нейтралитет 
– дебаты о шифровании
– протесты и технологии в Латинской Америке
И много чего еще! Некоторые статьи более подробные и информативные, другие менее, но в целом для интересующихся повесткой цифровых прав полистать это будет интересно.

В новый год с новыми гостями! У нас сегодня замечательный пост от нашего коллеги Дмитрия Муравьёва, который ведет канал @datastudies

Метафоры данных: почему данные это не только природный ресурс

Метафоры помогают нам понимать мир, в том числе и технологии, с которыми мы взаимодействуем. С их помощью можно справиться со сложностью феномена, так как метафоры предоставляют перспективу на объект, в то же время оттеняя его иные аспекты.

Более того, метафоры также значимы в том смысле, что обращение к ним может иметь социальные, политические и правовые последствия. Так, например, интернет-исследователь Аннет Маркхэм утверждает, что метафора “информационной магистрали”, введенная вице-президентом США Альбертом Гором, была использована специально для указания на полезность интернета в повседневном использовании. Тем самым Гор сместил фокус с популярной в ранние годы интернета идеи о информационных технологиях как воплощающих утопическое видение киберпространства.

Здесь я хочу обсудить распространенную метафору в отношении (больших) данные – данные как (природный) ресурс. Наверняка вы видели как о данных говорят как о “новой нефти” или “золотой жиле”. Когда прибегают к этим метафорам, то чаще всего хотят указать на значимость основанных на данных (data-driven) решений, их экономической и политической целесообразности. Казалось бы, что здесь не так? Вроде как достаточно много людей согласны, что данные помогают нам справляться со сложными проблемами в разных областях, и поэтому они ценны.

Но такая метафора закрывает нам глаза на то, что данные на самом деле не являются природным ресурсом. Во-первых, они производятся в социальном контексте, поэтому могут быть подвержены разнообразным искажениям. Во-вторых, эта метафора не позволяет увидеть, что часто это данные о человеческом поведении, и потому при их использовании нужно иметь в виду правовые и этические нормы. В-третьих, это также закрывает глаза на ту работу, которая необходима для сбора, анализа и поддержания актуальности больших объемов данных.

В своем интервью исследователь Улисес Мехиас, как мне кажется, выразился удачно, когда указал, что в метафоре данных как нефти последние “...предзадаются или концептуализируются как природный ресурс, который никому не принадлежит и который можно просто взять”. Вместе с тем, данные для простых пользователей не несут особой ценности: они значимы постольку, поскольку они находятся в отношении с другими данными, собираемыми на платформе. Подобная ресурсная метафора также активно работает и в языке самой дата-аналитики, что видно, например, в выражении data mining.

В медиа также популярна метафора данных как природной силы, которую необходимо укротить. Например, можно вспомнить случаи, когда данные связываются с водой: здесь приходят на ум выражения “океан данных”, “поток данных”, “утечка данных”. С точки зрения исследовательницы Деборы Лаптон, подобные “текучие” метафоры не позволяют думать о данных с точки зрения этического и правового вмешательства, вместо этого представляя их как неконтролируемую силу, сопротивляющуюся идеалам прозрачности и подотчетности.

Риторика, с помощью которой мы говорим о технологиях и данных, имеет значение. Как мне представляется, это не только интересный объект для исследователей науки и технологии, но также и предмет для публичной рефлексии. Возвращаясь к одной из центральных тем @WrongTech, было бы интересно подумать о том, могут ли определенные метафоры служить барьером, не позволяющим определенным группам получать доступ к технологиям и пользоваться им так, как бы им того хотелось? Что эти метафоры значат для нашей политики и этики, связанной с технологиями?

Что почитать о метафорах (больших) данных:
Puschmann, C., & Burgess, J. (2014). Big Data, Big Questions | Metaphors of big data. International Journal of Communication, 8, 20.
Stark, L., & Hoffmann, A. L. (2019). Data Is the New What? Popular Metaphors & Professional Ethics in Emerging Data Culture.
Kerssens, N. (2019). De-Agentializing Data Practices: The Shifting Power of Metaphor in 1990s Discourses on Data Mining.
Nafus, D. (2014). Stuck Data, Dead Data, and Disloyal Data: the Stops and Starts in Making Numbers into Social Practices. Distinktion: Scandinavian Journal of Social Theory, 15(2), 208-222.

Силлабус Critical Race & Digital Studies

В дебатах о технологиях и власти большую роль играют вопросы, связанные с расой. Как в цифровой культуре выражаются проблемы расового неравенста? Как наши понятия о расе отражаются на тех политических курсах, которым следуют правительства, и инфраструктурах, которые мы строим?
Здесь наткнулся на учебный план курса «Critical Race & Digital Studies», где заботливо подобрана литература по этим и многим другим вопросам. Ранние интернет исследования и раса, предрассудки и алгоритмы, критические подходы к расе и digital humanities, интерсекциональные подходы, труд, активизм и еще много-много тем.
Все книжки на английском и преимущественно про американский контекст. В русскоязычном пространстве тема раса и технологий не обсуждается, но вообще это большое исследовательское поле, в котором было много интересного. Об одной из недавно вышедших книжек на тему я напишу чуть подробнее немного позже!

Если вы тоже любите думать про интернет и исследовать какие-то его разные части, то подавайтесь на конференцию клуба любителей интернета и общества! Будем вместе размышлять о том, как он меняется (или нет), меняет (или нет) и что же этот интернет все-таки такое.

когда 2019 сменился 2020, только и разговоров было — как изменился интернет. как он потух, фрагментировался, износился, но местами всё же стал быстрее и ярче.
и уже чуть меньше, чем раньше — о том, как интернет что-то изменил, потому что люди привыкли, что он изменил всё.

как исследователи мы не можем пройти мимо таких решительных обобщений, и посвящаем им целую конференцию.
на этот раз майская будет в апреле, 23-25, Москва и Петерубрг, тема — Internet beyond change.

будем говорить о том, что меняется в интернете, с интернетом, и главное — где эти наши выводы поспешны или, наоборот, запоздали.
как всегда, предлагаем несколько экспериментальных секций, аудио-доклады с большими обсуждениями, помимо незавершённых исследований, будем рады просроченным.

дедлайн, кстати, — 20 февраля.

подробности — в интернете, на сайте internetbeyond.net

Культура хакеров @ hack_curio

Наткнулся тут на такой классный сайт – HackCurio. Там куча видео про хакерскую культуру, рассортированных по темам и заботливо курируемых авторской командой. Ведет сайт замечательный антрополог Габриэлла Коулман (Gabriella Coleman). Самые ее известные исследования – про фигуру Анонимуса и Debian. Она написала такие книги как «Coding Freedom: The Ethics and Aesthetics of Hacking» и «Hacker, Hoaxer, Whistleblower, Spy: The Many Faces of Anonymous». А на своем сайте она пишет, что работает сейчас над книгой о хакерах и государстве.

Видео очень много: про изображения хакеров в популярной культуре, хактивизм, открытый код, безопасность, пиратство, троллинг и так далее. Вот, например, реклама блокчейн со следующим комментарием: 

«It took a minute, but thanks to the bull market of late 2017, crypto-tokens became valuable enough that the most gonzo crypto-evangelists could afford to turn their fantasies into a slick, five-minute science fiction movie. Published on YouTube in March 2018 by Aragon, an Ethereum-based governance framework, “The Fight for Freedom” is an advertisement so breathless that it barely mentions the product. Down to its screen-within-a-screen aesthetic, it sits squarely in the genre of Apple’s canonical, Orwell-inspired 1984 Super Bowl ad. The similarity is so uncanny as to suggest a subtextual whisper: Maybe next year ETH will be worth enough to make it to the Super Bowl.

“I think there’s already a revolution happening,” we hear from finance entrepreneur Mona El Isa. “We’re seeing it everywhere.” From there, the voices are mainly European-descended men, pontificating about blockchains from half-broken television sets scattered around a post-apocalyptic world, which might just be the world as it is. Around them, a diverse cast of solitary, unidentified people follow gnostic signals around them—beams of light, swarms of bees—while a parallel cast of old-world elites attend cocktail parties and secret meetings. At last, the solitary wanderers find each other in an open field, as if drawn together by the same map to hidden treasure, and walk toward a floating door that opens into light. In contrast, there are flashes of Hitler, et al.»

​​Анатомия ИИ: Amazon Echo как анатомическая карта человеческого труда, данных и планетарных ресурсов

Художественный проект исследовательницы алгоритмов и содиректора AI Now Institute Кэйт Кроуфорд и главы SHARE Lab Владана Джолера о том, как устроен ИИ в его множестве аспектах. Как выстроена оплата труда? А инфраструктура и логистика?

Вот вы взаимодействуете с голосовым помощником. Происходит процедура «запрос – ответ», а что дальше? Тут слово авторам:

«В этот мимолетный момент взаимодействия призываетобширная матрица возможностей: чередующиеся цепочки добычи ресурсов, человеческого труда и алгоритмической обработки по сетям добычи, логистики, распределения, прогнозирования и оптимизации. Масштабы этой системы практически выходят за пределы человеческого воображения. Как мы можем начать ее видеть, осознать ее необъятность и сложность как связанной формы?»

Дело же в том, что обычно мы часто думаем об ИИ (опускаем здесь спорность термина самого по себе) достаточно абстрактно: вот некоторый искусственный интеллект в вакууме оказывается для нас инструментом решения каких-то повседневных задач в форме, например, виртуальных ассистентов. Но какие процессы стоят за его производством и как возможно вскрыть их логику, критически отнестись к ней, подвергнуть вопрошанию?

Выбор любой точки рассмотрения ИИ как объекта не всегда дает нам выход в другие точки его производства и составить в итоге какую-то карту связей может оказаться сложной аналитической задачей.

Возможно, именно поэтому разные части этой схемы оказываются несвязаны, а глаза разбегаются, когда мы пытаемся захватить ее целиком. Дело может быть не только и не столько в том, что визуальная драматургия карты неудачна, а в том, что подобная социотехническая система очень сложна.

Тут авторское описание проекта (прилагаю pdf с полной картой), а еще, если хотите поудобнее рассмотреть эту карту, то приходите на выставку в Электромузей, она там сейчас висит в большом размере и русифицированная.

На сайте ВШЭ эксперты опубликовали ссылки на полезные источники открытых данных, которые будут полезны при работе с проектами городского планирования:

«Мы подготовили этот материал* для студентов курса «Территориальное планирование» образовательной программы «Управление пространственным развитием городов» Высшей школы урбанистики им. А. А. Высоковского ФГРР НИУ ВШЭ. Проект «Комплексное развитие территорий» составляет основную часть образовательного трека будущих городских планировщиков. Он воссоздаёт задачу, с которой специалист сталкивается в своей работе – от предпроектной аналитики и проблематизации территории до подготовки проектных предложений и презентации результата заказчику.»


https://urban.hse.ru/for_students_open_data_sources

прочитала англоязычный тред в твиттере про то, что люди моложе 25 не умеют пиратить контент в интернете — на постсоветском пространстве эта тенденция, конечно, слабее и с запаздыванием, но тоже проявляется — и подумала про то, как современный мир отчуждает нас от техники (а её от нас). особенно женщин, у которых интерес к машинам вообще не поощряется.

современная массовая техника движется в сторону модели чёрного ящика, взаимодействие с ней — к «нажми на кнопку, получи результат». ранняя компьютерная культура была движима творчеством, стремлением разобраться в этих машинах, перекроить их под себя. сейчас этого намного меньше. большинство пользователей не пытаются разобраться в функционировании машин, но просто ожидают результата. это обеспечивается через всё большее число корпоративных интерфейсов, которые скрывают внутренности техники и предоставляют минимальный набор необходимых функций. при этом набор и характер этих функций полностью находятся в руках производителя, который таким образом моделирует поведение пользователей, как ему удобно. закрытость мобильных операционных систем, стриминговые сервисы, steam, itunes, play store — это всё об этом. пользуясь такой техникой, мы действительно превращаемся в её придаток — нажимаем нужную кнопку, потребляем контент, смотрим рекламу, передаём данные, включаемся в производство. при этом сущность, устройство этой техники от нас скрыто и отчуждено.

французский философ симондон писал об этой проблеме ещё до компьютеров и интернета, имея в виду индустриальные машины. критикуя взаимное отчуждение человека и техники, он предлагал (утопические) перспективы более гармоничного сосуществования. и, в частности, говорил о том, что в идеальном мире каждый рабочий будет немного инженером: сможет не просто нажимать на кнопку, но, понимая её устройство, будет способен сам её ремонтировать, настраивать, подстраивать под себя. таким образом, кстати, по симондону, осуществляется самостоятельная эволюция техники, понимаемой не как простой инструмент человека, но как имеющая собственное бытие и историю, и для которой руки человека — это всё равно, что экологические условия для животного.

короче, возвращаясь к началу, было бы круто, если бы культура самостоятельного взаимодействия с техникой (а пиратская культура в данном случае — один из примеров такого взаимодействия, не затрагивая сейчас вопрос о возможной проблематичности пиратства) снова распространилась — в том числе и потому, что это вполне себе форма сопротивления капиталу. при этом не очень понятно, как этого добиться, учитывая, что узнавание техники требует времени и сил, корпоративные интерфейсы их экономят, а гендерные предрассудки никто не отменял. но тем не менее.