Сразу две классные новости!

Во-первых, вышел еще один подкаст - побывала в гостях у команды КритМышь, где мы поговорили о сложных воспросах социальных эффектов технологий (всё, как мы любим).
Аудио и ссылки на полезные материалы есть на странице эпизода, сюда добавляю содержание:
01:58 — технологии — это благо или нет
12:00 — технофикс и научный метод
21:40 — решение социальных проблем технологиями
49:12 — технологии и счастье

А во-вторых, уже на этой неделе проходит очень крутой воркшоп Кембриджского университета и Теплицы социальных технологий, где мы полтора дня будем говорить об искусственном интеллекте - в России, в обществе, в политическом и публичном дискурсе. Программа есть на сайте @TeplitsaPRO, и еще не поздно принять участие!

Маски-лица, украшения, прически, случайный макияж. Практические и одновременно эстетические советы, как противостоять системам распознавания лиц в больших городах. Искусство и насилие. Актуально в свете летних событий.

https://tjournal.ru/tech/115467-maski-makiyazh-i-kapyushony-kak-lyudi-pytayutsya-zashchititsya-ot-tehnologiy-raspoznavaniya-lic?fbclid=IwAR13TcEyZhK9uiIJP-BJPULvclP94MI6EwAM7BPvqmgueFvTTdN7x1aQ3Qo

Исследователи из Университета Лафборо начали проект о том, как ИИ помогает людям с ограниченными возможностями здоровья. Мне нравится идея, что вопреки тому, как обычно использование технологий для заботы и помощи людям опирается представление о высокотехнологичных интервенциях, прорывных решениях и специальных разработках вроде роботов-сиделок и т.п., на самом деле можно изучать более приземленные и распространенные устройства и уже существующие практики приспособления техники для нужд людей с ОВЗ. Проект, в частности, будет сосредоточен на голосовых помощниках, «умных колонках», и на том, как они могут упростить жизнь с ограничениями по здоровью. Для этого важно исследовать отношения и повседневные практики, смотреть на то, как строится взаимодействие людей с ОВЗ и членами их семей, помощниками, и как в этом участвуют технологии.

Еще одна крутая мысль, которую высказывает Сол Альберт в разговоре по ссылке в конце поста: в действительности речь идет не просто о какой-то узкой группе людей с ограниченными возможностями здоровья, ведь большинство людей, – не «здоровые», а «временно обладающие (относительно) безграничными возможностями здоровья». Ключевое слово – временно; это не пессимистичная, а реалистичная и конструктивная установка. Находки исследования будут влиять на всех нас, обреченных однажды столкнуться с барьерами.
О проекте:
https://www.lboro.ac.uk/media-centre/press-releases/2019/september/research-to-explore-how-ai-and-voice-technologies/
Небольшое интервью с руководителем проекта на радио (начало с 2:16:15): https://bbc.in/2kDBSHT

На этой неделе Тревор Паглен, художник и исследователь больших данных и Кейт Кроуфорд, ведущий исследователь в Майкрософт, выпустили приложение ImageNet Roulette, которое приписывает загруженным фотографиям людей различные профессиональные, этнические, культурные лейблы. Нейронная сеть приложения натренирована на одной из самых больших баз данных фотографий в интернете ImageNet, но ее лейблы людей очень странные: человек с сэндвичем может быть назван «самодовольным», а темные волосы вокруг лица (похожие на платок) могут заставить нейросеть подумать, что перед ней – монашка.

Приложение Image Net Roulette создано как раз в качестве иронического жеста, которое идет параллельно с желанием автором – Паглена и Кроуфорд – показать политические и социальные основания любой категоризации людей. Очень советую почитать их статью по этому поводу: https://www.excavating.ai/, она мне показалась очень достойной и написанной на высоком уровне. Авторы проводят параллели между категоризацией визуального материала искусственным интеллектом и вульгарными физиогномическими исследованиями конца XIX века, где визуальный облик человека пытались соединить с психологическими и социальными характеристиками (ну типа большой лоб – склонность к грабежу).

Любая категоризация делается в определенном месте и времени с надеждой, что она может потенциально вместить и объяснить все остальное разнообразие вещей, которые не попали в обучающую выборку. Такова классификация растений, придуманная Карлом Линнеем (который категоризировал все растения по кол-ву половых органов, но этот метод был отброшен уже в XIX веке). Однако с категоризацией людей, и конкретно, всего человечества – вещь почти обреченная не невозможность.

Американский социолог Ирвин Гоффман говорит о том, что сохранение "лица" - т.е. некоторой своей самости, есть одно из уникальных черт западной культуры. В этом плане наше визуальное изображение — это ипостась нас, нашей самости и потому не может быть однозначно объективировано. К тому же самость - ведь динамическая. Встав на следующее утро, человек может решить сменить работу, а через пару лет может сменить свой класс, уехав из провинции в столицу и начав подниматься по карьерной лестнице. И его самость - включая его визуальное изображение - может измениться. Поэтому любое однозначное приписывание категорий человеку - не будет эффективным и приемлемым в западном социальном мире.

Весь проект ImageNet Roulette - про то, что категоризация людей по визуальному изображению абсурдна и странна. Поэтому распознавание объектов ИИ сегодня идет полным ходом, а людей - плетется у нее в хвосте. Но в этом есть некоторая философская мысль по поводу построения современного мира, где люди сильно отличаются от вещей не потому, что могут иметь интенции и действовать, а потому что в западном мире работает множество институтов, которые охраняют человека, его самость и права от объективирования. В том числе от умного объективирования со стороны умных машин.

https://imagenet-roulette.paglen.com/
https://www.excavating.ai/

Это не просто мужская задница. Это хорошо экипированная мужская задница. Слева на боку, если присмотреться, висит музыкальный плеер для аудиокассет. Справа в заднем кармане прячется VHS-ка. Сложно представить, что за ивент, на который может опаздывать этот прохожий. Легче предположить, что это неблагоразумный путешественник во времени, который ошибся с прикидом лет на двадцать.

Кстати, небольшая справка про VHS, объясняющая живучесть этой технологии:
С начала 1980-х годов VHS занял в мире лидирующую позицию в войне форматов с Betamax от Sony и Video 2000 от компаний Grundig и Philips. Основными причинами победы называют отсутствие лицензионных ограничений, относительная простота и надёжность видеомагнитофонов этого формата и отказ конкурентов поддерживать порноиндустрию.

Вывод: в технологических войнах всегда поддерживайте порноиндустрию.

Свою главу в нашей книге пишу про тестировщиков. Исследований на тему их положения, роли, трудностей проведено уже очень много, но - как обычно - не у нас. В основном, проблемы тестирования обсуждаются в контексте технологий, чуть реже - менеджмента и управления. Есть отдельные попытки посмотреть "социальную сторону" профессиональной работы. Самый часто повторяющийся сюжет - это конфликты разработчиков и тестировщиков. Немало копий было сломано в спорах: одни утверждают, что тестировщики мало смыслят в технологиях, поэтому им нужно поднимать свой уровень компетенций; другие считают, что сила тестировщиков как раз в soft skills, что они могут выстраивать коммуникацию и социальное взаимодействие, а технологиями пусть разработчики занимаются.
Больше всего меня впечатлила статья, авторы которой настолько подробно и детально описывают всевозможные типы конфликтов между разработчиками и тестировщиками, что выделили их аж 43 штуки. Выводы, правда, куцеваты - надо управлять конфликтами, чтобы сделать разработку более эффективной. А для этого надо понять природу этих конфликтов. Они предлагают три источника: процессы, люди и коммуникация. Детали в статье по ссылке (если нет доступа, sci-hub в помощь)

А в четверг утром буду в гостях у Shishki, поэтому если вдруг причастны, приходите!

(интересно, как с мобильного сделать красиво ссылочку?)

https://www.instagram.com/p/B2yiR1nI7c7/?igshid=1942jsizdl2ao

рободембель

Две микроистории про барьеры: одна про пользовательский опыт/взгляд и плохую юзабилити, вторая про гибкость и преодоление проблем.

1. Потеряла несколько дней, потому что смотрела на надпись "Ожидает подтверждения в дополнительном офисе" напротив заявки в личном онлайн-кабинете банка и думала, что статус должен поменяться сам собой. Потом поняла, что заявка не просто ожидает подтверждения, а ожидает, что я приду в офис ногами и подтвержу ее лично.

2. На семинаре надо было показать студентам один слайд и обсудить его, а диспетчерская была закрыта - нельзя взять технику для подключения проектора. Развернула ноутбук к группе экраном, кто-то спросил "может вы нам по почте вышлете?", но все решилось еще проще: студентка быстро сфотографировала слайд и отправила в чатик группы.

Будьте как студенты, не будьте как банк.

В нашем другом проекте с @zemnukhova и @dysss мы исследуем то, как выстраиваются отношения между программистами и социальными/гуманитарными учёными в общих междисциплинарных городских проектах. По нашим результатам, как и по результатам социологов, которые делают схожие исследования, программисты занимают в таких проектах две основные позиции: либо они активно вовлекаются на ранних стадиях проекта, и пытаются рассказывать социальным и гуманитарным ученым о тонкостях своих платформ и алгоритмов, и даже сами пытаются понять как устроены методы социальных наук. Либо же, напротив, они занимают исключительно позицию «технических людей», которые решают технические задачи, которые перед ними ставятся. Мне кажется, это связано с неоднозначностью статуса цифровых технологий в современном контексте социальных исследований: это больше про то, как просто сделать удобнее и масштабнее, оставив содержание знаний прежним, или про то, как создать новые возможности для исследования в каждом конкретном случае? Мне лично кажется, что второй вариант предпочтительнее, потому что он открывает больше возможностей для креатива в исследовании. Но зато он ведет за собой проблему контроля: больше креатива, в том числе от людей, которые занимаются совершенно другой сферой – это нужно больше понимания того, насколько это все стыкуется с целями и задачами проекта.

Продолжаем серию постов про московский эскалатор и новое правило "занимайте обе стороны".

Тут вот новую новость подкатили - теперь в метро используют живой барьер из сотрудников, которые перегораживают собой весь проход, а также несут новое правило, расположенное у них на спине.

Сильно, что тут скажешь. Даже я в своих фантазиях так далеко не заходил. А тут такое яркое проявление насильственной биополитики.

Как навязать новый вид использования старой технологии? - Да просто поломай старый! А как? - заставь такими же телами, что и пассажиры, только специально обученными.

Интересно, хватает ли институционального прикрытия в виде формы и надписи на спине, чтобы сотрудники не сталкивались с критикой со стороны пассажиров. А еще подземка пояснила, откуда они взяли про 30%-ый выигрыш от нововведения. Кстати, там в статье в конце дается намек на то, что результаты могут зависить от культурных особенностей. Надо на эту тему еще поразмышлять...

https://daily.afisha.ru/news/31047-moskovskoe-metro-reshilo-priuchit-passazhirov-zanimat-obe-storony-eskalatora/

Технари, инженеры, разработчики и даже соцученые всех мастей часто и неосознанно используют термин «система» применительно к технологиям. Технологические системы, подсистемы и метасистемы, системное мышление и системный подход, систематика и систематизирование. Считается, что система – это реальное понятие - объективное положение дел, которое позволяет нам увидеть некоторое множество связанных единиц или сущностей. Даже великий и могучий Никлас Луман, вдохнувший новую жизнь, в системы в конце прошлого века, считал систему предприятием, которое никак не зависит от индивидов или групп. А вот американский антрополог Валери Олсон в крутой книге 'Into the Extreme: U.S. Environmental Systems and Politics beyond Earth' изучает, как организованы американские космичские полеты, и предлагает считать систему «реляционной технологией». Система оказывается особым инструментом, который позволяет соединять различные места и масштабы, объединять людей и нечеловеков, сопрягать слова, образы, страны и другие планеты.

На этой неделе состоялась дискуссия про использование ии в ритейле в рамках недели e-commerce.
Обзор рынка показал, что внедрение технологий искусственного интеллекта носит многоступенчатый характер и внедряется на разных этапах выбора клиентами товара. Рассмотрим несколько примеров. Это может быть начало коммуникации, момент, когда происходит выбор товара, момент сделки. Одна из основных задач, которую решает искусственный интеллект – формирование предложений на основе предыдущих запросов клиента дополнительного товара. Машинные алгоритмы запрограммированы на то, чтобы определять, что именно предлагать человеку, когда, в какой форме. Еще одна важная область применения искусственного интеллекта — это работа с посетителями, которые так и не осуществили покупку. ИИ позволяет анализировать причины ухода и, если они были связаны с отсутствием конкретной модели, предлагать похожие из имеющегося ассортимента. Аналогично – напоминания о незавершенной покупке, если клиент оставил товары в корзине.

https://www.cnews.ru/news/top/2018-11-23_mvideo_za_schet_iskusstvennogo_intellekta_uvelichila

Для любителей пользовательских инноваций – классный сайт Владимира Архипова, на котором представлена коллекция самодельных предметов. Можно рассмотреть вещи, прочитать и послушать рассказы их авторов. Современное потребление оставляет все меньше места для подобных настроек и конструкций, но, может быть, вы тоже по-прежнему пользуетесь какими-нибудь приспособлениями и изобретениями?
https://folkforms.ru

То, как сегодня изображаются умные города (как поделенные на отдельные домены типа здравоохранения, транспорта и т.д., соединенные петлями обратной связи с большой цифровой базой данных) - пришло из опыта бизнес-корпораций работать с собственными внутренними процессами (производство, маркетинг, человеческие ресурсы и т.д.) с опорой на специальные системы информационных технологий. Самая известная в бизнесе - это EPR (Enterprise resource planning) система, т.е. система для планирования и управления ресурсами предприятия. Она позволяет оцифровать и контролировать в одном окне все процессы любой компании.
Исследователь из Лондонской школы экономики Яннис Каллиникос - автор нескольких книг о том, чем же плоха EPR для бизнеcа. Его основной тезис состоит в том, что EPR рисует организацию лишь в одном аспекте - как процедурную последовательность этапов от получения ресурсов до отгрузки продукта. Все остальное богатство процессов внутри компаний остается этой программой незамеченной. Прежде всего, пишет Каллиникос, EPR-системы отсталы, поскольку они воспроизводят образ организации в соответствии с функциональной структурой, что в большинстве компаний не работает. Во-вторых, данные системы не рассчитаны на работу с внешними вызовами для компании, предпочитаю возню исключительно с внутренней детальной логикой. Наконец, и самое важное, он считает, что EPR, будучи абсолютно процедурным софтом, разрывает связь между действиями людей внутри компании и теми рамками смыслов, ради чего они это делают. Работники просто должны выполнять набор алгоритмов, которые для них абсолютно не понятен и если случается непонятная ситуация, то программа ничем помочь не может.
В чем мораль всего этого? В том, что когда корпорации переносят свои практики управления в другие сферы: например, в управление умными городами, то они приносят с собой опосредованные софтом процедурное видение городов как набора последовательных этапов. И если даже компании так не работают, то уж города при их огромной сложности и богатстве форм жизни так работать уж точно не будут.
https://eprints.lse.ac.uk/171/1/IT&P_Organizational_and_Behavioural_Implications_of_ERP.pdf

Ватикан выпустил «умные» четки eRosary.

На первый взгляд банальная новость о том, что даже самые консервативные сообщества, к которым обычно относят религиозные, пытаются адаптировать существующие бытовые технологии под свои задачи, тем самым «идя в ногу со временем» и расширяя потенциальную аудиторию («конечно, молодежь именно из-за отсутствия умных четок в церковь не ходит!»).

Помимо дефолтной функции фитнес-трекера, которая сама по себе подразумевается, если ты делаешь гаджет в виде браслета, меня заинтересовало основное предназначение устройства – «Чётки могут отслеживать процесс чтения молитвы Розария — сочетание устной и мысленной молитвы, совершаемой при помощи чёток».

Вот тут мне, нубасу в католических молитвах, стало интересно. Как это, «отслеживать сочетание устной и мысленной (!!!) молитвы»? Для этого пришлось разобраться в том, как выглядит обычный Розарий и как по нему читаются молитвы.

Оказывается, Полный Розарий состоит из креста, трех первых бусин, представляющих собой небольшую подвеску для креста, и, собственно, пяти секций по 10 бусин, которые формируют окружность четок. Строгих правил чтения Розария нет, к тому же в 2002 году Иоанн Павел II немного запутал ситуацию, «рекомендовав» прибавить к трем исторически сложившимся тайнам (радостным, скорбным и славным) еще и светлые тайны. Тем не менее рекомендуемый порядок чтения молитвы подразумевает чтение вступительной молитвы, состоящей из «Апостольский Символ веры», «Отче наш», «Радуйся, Мария» и «Слава» – для этого поочередно берутся крест и первые три бусины, после чего молящийся переходит к основной части четок и читает пять молитв по пяти секциям по кругу.

К чему это я всё? Дело в том, что браслет eRosary сильно отличается от Полного Розария. У него всего одна секция из 10 бусин – «ну ок, можно просто сделать пять кругов, вместо одного, чтобы прочитать все молитвы тайны», но самое интересное – «умный» крест, который является, по сути, застежкой или крепежным элементом, который замыкает круг браслета – в то время как в обычном Розарии, крест висит отдельно на подвеске из трех бусин.

Теперь понимаете? Ватикану не просто пришлось адаптировать технологию современных фитнес-трекеров под практику чтения молитв по четкам (аналогия между фитнес-браслетом и четками уже очень забавная), но и адаптировать практику чтения молитвы Розария под условия функционирования обычных фитнес-трекеров. А именно, у трекеров считывающий элемент должен находиться на запястье, это условие обеспечивает накопление биометрической информации о пользователе, что и делает браслет «умным» – а не то он будет болтаться, как крест на обычных четках. Однако из-за этого страдает практика чтения молитвы Розария, которая начинается со вступительной молитвы. А у eRosary нет отдельно висящего креста и первых трех бусин для вступительной молитвы. Вероятно, инструкции в мобильном приложении и прочие рекомендации позволяют как-то сгладить технические различия в устройстве гаджета и четок, но сам факт взаимного приспособления технологий и религиозных практик, а также «пользователя» (user) и «молящегося» (prayer), очень даже интересный.

https://tjournal.ru/tech/121482-vatikan-vypustil-umnye-chetki-za-110-dollarov-ih-mozhno-ispolzovat-kak-fitnes-braslet?utm_campaign=vatikan-vypustil-elektronnye-chyotki-s-um

p.s. этот пост полагается делать в вс, но вы уж извините, у нас график

нет больше сил молчать!

Обожаю Теплицу (@teplitsa), уже не раз об этом писала. С их легкой руки состоялся отличный коллаб Центра STS (в лице нас с @nck_rudie и @malyushkin) с Комнадой 29 (@komanda29) при поддержке Роскомсвободы (@roskomsvoboda). Мы запустили игру про этику в технологиях! И заодно сопроводили ее статьями - в форматах введения в (техно)этику и техноликбез.

О механике игры пишет Теплица:
Герой игры – первая женщина премьер-министр небольшой восточноевропейской страны. Государство на развилке: от ваших шагов зависит, будет ли оно развиваться, или же превратится в антиутопию. Игроку предлагается принять или отвергнуть внедрение разных технологий: дополненную реальность, беспилотные автомобили, биочипы, сенсоры, предиктивную полицию, спутниковый Интернет, компьютеризированную обувь и одежду, интернет ДНК. Во время прохождения пользователь узнает больше о сути технологии, какие плюсы и минусы произойдут от ее внедрения.

Внутри, должна я признаться, - чумовая механика. Вопросы неоднозначные, "правильные" ответы есть только иногда, и многое зависит от предыдущих решений. Кому-то удается реализовать благополучные сценарии, и каждому точно предстоит задуматься о том, какие социальные последствия могут оказаться за "простым" выбором.

Играйте, делитесь впечатлениями! Пишите мне @zemnukhova или другим авторам 💙