Мы в STS регулярно напоминаем себе и всем, что социальные исследования науки и технологий предполагают подробный анализ того, как выстраиваются взаимодействия и взаимное влияние общества и научно-технического развития. Борясь с технологическим детерминизмом и отказывая технологиям в независимом статусе, мы хотим всячески напоминать об их социальных эффектах, культурных контекстах и реальных практиках пользователей.

Написала для блога Центра STS про гражданскую науку, гражданские технологии и разные инициативы, в которых можно поучаствовать, сидя в изоляции

Фильм Юрия Дудя про креативные возможности в Кремниевой долине вызвал бурную реакцию в России. Блогера обвинили в односторонней трактовке жизни в главном технологическом кластере Земли. Только творчество и никакого оккультизма! Помимо традиционной претензии «у Дудя ни слова про женщин» его критикуют за то, что он представил Долину в радужном свете. Пожалуй, главным оппонентом выступил Павел Дуров. В духе критической урбанистики Майка Дэвиса (см., например, «Страх и деньги в Дубае») создатель Telegram обратил внимание на невыносимые условия жизни в США: за фасадом высоких технологий скрывается дороговизна жизни и рабочей силы, плохое здравоохранение и слабое образование, полицейский контроль и проблемы со свободой слова, а также отсутствие свежих идей.

Эта по сути левая критика фильма Дудя интересна нам тем, что лишний раз подтверждает банальную, но важную истину: цифровые технологии - не только креативность, изобретение, инсайты и умение продавать, но также важные социальные контексты, о которых никогда не стоит забывать.

https://meduza.io/feature/2020/05/08/pavel-durov-otvetil-na-film-yuriya-dudya-o-kremnievoy-doline-i-ob-yasnil-pochemu-ne-stoit-tuda-pereezzhat

О парадоксе (де)гуманизации войны дронов

Недавно натолкнулся на интересный парадокс. Речь шла о том, как использование дронов повлияет на гуманность военных конфликтов. С одной стороны, дроны обещают сделать удары более точечными, к тому же свести к минимуму потери среди личного состава. С другой стороны, использование дронов дегуманизирует войну: цели атак из живых людей превращаются в набор пикселей на панелях, «desk jockey warriors» (кабинетные военные) перестают воспринимать военные операции как моральную практику, а разработчиков дронов, по сути, можно приравнять к участникам боевых действий.

Ниже фрагмент из книги Арсения Куманькова "Война в XXI веке":

Дополнительное напряжение создаёт и вопрос об ответственности за действия робота или дрона. Лежит ли она на офицере, который отдал приказ о проведении операции, на обслуживающем персонале, операторе? Но является ли в принципе оператор, не находящийся физически на поле боя, комбатантом? Или, возможно, нужно учитывать также и ответственность программиста, который создал алгоритм, определяющий принципы функционирования робота: идентификация цели, способ прицеливания, параметры определения выполнения поставленной задачи, принятие решений в сложных условиях, например, когда противник использует живые щиты? Как мы отметили, у дрона нет психики, повреждение которой может заставить его действовать аморально. Но при этом сам характер его действий определяется людьми, участвующими в его создании, и военные заказчики, а возможно, и сам программист, закладывают в робота собственные принципы этики поведения на поле боя.

Но это также означает, что дрон не является субъектом морального действия, поскольку он не обладает эмоциями, эмпатией, не способен на чувства и не имеет представления о совести, вине, стыде. При этом он способен действовать с высочайшим уровнем автономии, самостоятельно находя цели и принимая решение о нанесении удара по ним. Если в связи с этим ответственность за действия роботизированной системы переносить на тех, кто обслуживает или создаёт её, мы окажемся в нетривиальной ситуации. Необходимо будет пересмотреть принцип различения jus in bello. Вместо того чтобы сократить число людей, задействованных на войне, использование роботизированных систем может заставить идентифицировать как участников боевых действий представителей гражданских профессий – таких, как программисты.

Трудность разработки беспилотных автомобилей связана с тем, что люди не соблюдают правила дорожного движения, говорят разработчики. Но возможно, проблема вовсе не в соблюдении правил. А в различии понимания действий людьми и машинами.

Пандемия умножила количество кейсов для нашего канала, а наши друзья и подписчики не устают с нами делиться. Спасибо вам за это! Вот почитайте забавную историю про успешную кооперацию "Алисы" и бывшего мера Твери на благо жителей Конаково

Экс-мэр Твери Валерий Павлов: Месяца три-четыре назад стали на мой мобильный телефон поступать звонки с вопросом: "Это Администрация города Конаково?" Отвечал звонившим, что это частный номер. На всякий случай позвонил в Администрацию Конаково и попросил их посмотреть свою базу телефонных номеров. Но поскольку звонки на мой телефон были нечастыми, относился к этому спокойно. Но месяц или более назад Администрация города Конаково, ввиду пандемии короновируса, закрыла город для иногороднего транспорта и ввела пропуска, и понеслось. Мой телефон разрывался от звонков возмущенных граждан с требованиями выдать пропуск или пропустить в город! Звонки были и днем и ночью! Каждый день раздается от 15 до 28 звонков!На мои объяснения, что это личный телефон, возмущение звонивших только возрастало. На мой вопрос где они взяли этот телефонный номер, многие отвечали: этот номер, как номер Администрации Конаково выдает на Яндексе робот "Алиса". Обратился к "Алисе" сам, и тоже получил свой номер. Мои обращения к операторам Яндекса, "отнять" у "Алисы" мой номер остались без ответа. А телефонные звонки на мой номер продолжались... На вопрос: "Как мне проехать в город Конаково!" Я стал отвечать: "Проезжайте спокойно и сошлитесь на этот телефонный номер". Сколько я, а затем, когда я не мог ответить, и моя жена, выдали таких устных разрешений на въезд в Конаково не считали. Но судя по нескольким, вновь перезвонившим и сказавшим "Спасибо за помощь", народ в Конаково успешно попадал. Один раз позвонил мужчина и представившись инспектором Конаковского отделения ГИБДД спросил, могут ли они устную ссылку водителей на мой номер телефона, считать разрешением на въезд в город? Я ответил, что если они не нарушают свои инструкции, пусть считают. Судя по всему мой ответ инспектора удовлетворил. Неожиданно позвонил мой старый московский знакомый, немалый чин в одном из силовых ведомств, и с удивлением сказал, что "Алиса" дала ему мой номер. Ответил ему, что если он по вопросу пропуска в Конаково, то попал по адресу...он долго хохотал, но позже перезвонил и сказал, что в Конаково его пропустили. Вот так я и продолжаю выдавать пропуска. Все бы ничего, но вдруг один звонок оказался нестандартным назвавшийся житель города Конаково попросил разрешить ему... установить три ларька для торговли овощами и фруктами и указал в каких местах ему желательно. Я ему ответил, что не возражаю, только пусть поставит ларьки так, что бы никому не мешали. Почему то думаю, что процесс с ларьками в Конаково тоже успешно пойдет.

Под утро приснился сон, как мы всей командой https://t.iss.one/wrongtech должны были решить какую-то сложную задачу, а именно поймать преступников и забрать у них важные документы. @zemnukhova приказала перекрыть все входы и выходы в П-образном здании школы или детского сада. Мы с @alice_mcx отправились дежурить во двор. Молодой преступник, похожий на программиста, побежал, @alice_mcx умело сбила его с ног и завалила в снег, я подбежал и вытащил у него из-за пазухи документ. Это оказался лист бумаги, с изображением театральной маски - золото с серебром на фоне цвета морской волны. Во сне я думал, что мне обязательно нужно написать про это пост в тг, но я не знал, как связать цифровое и театральную маску…

Практики контроля в перешедшем в онлайн преподавании - штука, к которой сложно привыкнуть. При наличии конференций, где есть возможность буквально давать слово и забирать его, выключив микрофон, управлять посещаемостью, впуская или имея опцию удалять слушателя, как-то не скажешь, что в отношениях преподавателя и студента иерархии нету.

Вот, например, контроль за списыванием. Задача следить за тем, кто и как пишет проверочные работы в реальном времени, обостряет подозрительность и быстро приводит в отчаяние. Мало того, что есть много инфраструктуры, каждый кусочек которой так и норовит подвести и дать сбой в ответственный момент, – еще и становятся явными, ощутимыми преподавательские способы наблюдения, контроля и вторжения в личное пространство. Конечно, много правил и контролирующих действий применяется и так, в оффлайне, - по поводу того, что может быть на столах, куда можно смотреть, что и в какой момент можно говорить, когда начинать писать и сдавать работу. Но ситуация, в которой правила пересобираются, да еще и с участием техники, и для контроля на расстоянии, в домах студентов, сразу сильно все преображает. Незаметные способы мониторинга, который осуществляется в аудитории в ситуации соприсутствия, где все участники контрольной или экзамена зрительно и аудиально доступны друг другу, здесь выпячиваются, делаются гротескными. Вместо старого порядка – жесткая синхронизация, надзирающий глаз видеокамеры, навязанные технологические решения и дисциплинирование вплоть до регулирования положения студенческих тела и рук при сидении.

А у студентов, конечно, тут есть собственное пространство для действий и творчества, и многие живенько – индивидуально и коллективно – придумывают контрприемы. Это отпечатывается в почему-то идентичных ответах на открытые вопросы контрольной, производит еще немножко подозрительности и рискует вызывать соответствующие обновления DIY-surveillance-инфраструктур, которые выстраиваются на домашних/рабочих местах.

Больше миллиона зрителей, затаив дыхание, смотрели вчера в YouTube стрим старта корабля Dragon 2. Как вы знаете, старт не состоялся, его отложили из-за погоды. Но, думаю, все смогли полюбоваться тем, как космонавты подъезжают к ракете на автомобиле Тесла, как они выходят в белых футуристических костюмах, удобных и стильных. Как они в окружении технических специалистов, похожих на ниндзя, проходят в сам космический корабль, интерьер которого выглядит так, как если бы его создавали дизайнеры Apple: минимум кнопок, максимум тачскрин-экранов. Трансляция, на которой космонавты размещались в салоне, похожем на салон новейших автомобилей премиум-класса, прерывалась выходом на связь инженеров SpaceX, которые выступали перед миллионной аудиторией в джинсах и футболке. Иногда эфир давали юным космическим youtube-блогерам. Главный руководитель от NASA говорил про то, что он пришел в агентство, потому что посмотрел однажды фильм «Top Gun» c Томом Крузом и очень вдохновился.

Когда я все это смотрел, я поймал себя на мысли, что, видимо, космос уже никогда не будет прежним. Я не особенно слежу за успехами SpaceX и коммерческой космонавтикой. Для меня космос ассоциировался с ощущениями невероятного сверхпреодоления, космонавтов-героев, которые воплощают в себе научный прогресс и человеческий подвига. Космические корабли – это капсулы, наполненные миллионами кнопок и рычагов, в которых сосредоточено все лучшее знание человечества. Ну и сам старт – это отрепетированный ритуал на стерилизованной стартовой площадке под аккомпанемент торжественной музыки Георгия Свиридова.

Космос не будет прежним в том смысле, что торжественность и патетичность, которые связывались с наукой и национальными покорениями космоса в середине XX века, видимо, останутся, в прошлом. И слава богу. Когда космос станет совсем коммерческим, он перестанет быть местом подвига, а станет местом рутины, комфорта и даже удовольствия. Место милитаризированных пресс-секретарей займут блогеры и маркетологи. А место космонавтов – все, кто сможет оплатить полет на МКС.

Но интересно вот что: когда космическое пространство станет коммерческим и космос станет ближе, будем ли мы все еще ужасаться его безжалостной пустоте больше, чем зияющей бесчеловечности капитализма?

Чат-культура

Недавно в одной из московских школ проходил Последний звонок. Как сейчас водится, на специальной стриминговой платформе. Мероприятие состояло из нарядных ведущих, которые озвучили номера, различных видеовставок, прямых включений и всякого такого. Ну и, разумеется, какой же стрим без чатика.

Что произошло вы, наверное, уже и сами догадались. Школьники-зрители устроили в чате «большой разнос» всему мероприятию. По ходу трансляции «пубертатные ублюдки» писали в адрес ведущих и номеров, что они отстой, скидывали «тупые мемы», делали «пасту» (copy-paste вирусных текстов), желали смерти модератору, который пытался их банить и удалять неугодные сообщения. В общем хардкор.

Организаторы мероприятия, конечно, очень расстроились и восприняли эту историю как провал. Но, на мой взгляд, это успех. Правда, чтобы это понять, надо немного разбираться в чат-культуре, которая характерна для стримов.

Я сам лишь недавно стал более-менее регулярно смотреть стримы по Героям 3 (олды тут?) и поначалу для меня было большим открытием, как и зачем люди проводят столько времени перед экраном. Помимо самой игры, 70%, а иногда и 90% происходящего строится вокруг «флуда» чатика. Кастер и со-кастер (или как принято издеваться в чате – кокастер) комментят игру, но по большей части всегда должны сохранять контакт с чатом, потому что от этого зависит размер их аудитории и как следствие финансовое благополучие. Поэтому в основном они заняты тем, что отвечают на задаваемые вопросы, «байтят» чат на активность (например, специально кого-то оскорбляют или допускают ошибку по игре, чтобы все ринулись их поправлять), благодарят за донаты, переключают музыку, подавляют бунты (они же «бунд», «буни», «сморг»), раздают баны (<афк чуть>) и «пермачи» (вечная блокировка), разрушают пирамидки.

Кстати, последнее – это такая мини-игра в чате: надо успеть написать три сообщения друг за другом, чтобы в одном был один смайлик, во втором – два, в третьем – три, в четвертом – опять два, и в последнем – один, чтобы тем самым выстроилась пирамидка. Если у тебя получается и никто тебя не «перебил», то твою пирамидку оставляют, если не получается – бан.

По такому же принципу работают и «пасты». Если ты сделал «хорошую пасту» – то есть написал текст полный абсурдного юмора, который к тому же нашел отклик у «работяг», то ее подхватывают остальные и начинается волна. Модераторы могут дать чату немного порезвиться, но потом кастеры обычно призывают вернуться к игре и не флудить в чат. Но если паста не удалась – бан. В общем это такой гэмблинг – то есть рискованное действие, которое либо вознаграждается, либо наказывается – «слава храбрым».

К чату, кстати, обращаются на ты. В чатике сидят «папашки» или «работяги». Редко туда еще заходят «шейхи» (аудитория порой взрослая, поэтому некоторые из постарше могут закинуть 50-100 тысяч на проведение турнира или шоу-матча). Но особенно любят различных «менестрелей», которые придумывают стишки в тему, или «итальянцев» с хорошей «пастой». Ну и Тогу, конечно (пояснять тут не буду).

Так почему же флуд в чате на Последнем звонке – это успех? Потому что это естественная и стихийная активность, которая показывает, что чат жив и что зрителям нравится проводить друг с другом время. Пытаться это подавлять – бессмысленно. От себя скажу, что смотреть стрим без чата скучно. Думаю, основное удовольствие зрители получают именно благодаря тому, что проводят время с такими же «папашками», пытаются подколоть стримера, затевают в чате разборки, ну и просто хулиганят. Здесь важно напомнить, что «работягам» обычно лет 25-30-35-40. Почему школьники должны чем-то особо отличаться? Однако чтобы дать чату разгуляться, но при этом уметь вовремя сфокусировать внимание на том, что тебе нужно – это уже искусство стримера, некоторым из которых удается обкатать эту волну и конвертировать в доход.

Вот тут, кстати, можно почитать про самые популярные смайлы на твиче – https://www.cybersport.ru/other/articles/notlikethis-smorc-i-trihard-istoriya-i-znachenie-glavnykh-smailov-twitch

У нас с @dysss 3 года назад вышла статья про ИТ-офисы - как "центры калькуляции", как "места истины", как места рецепции.
Мы предполагали, что физическое локальное пространство необходимо для технонаучного производства. Мы писали, что офисы способны сохранять глобальные признаки при локальном воспроизводстве. Мы отвечали на вопрос "зачем собирать
ИТ-специалистов (в)месте?". Казалось, что организация и порядок помогают сохранять разнообразие пространств; что глобальность и универсальность воспроизводятся на местах; что аффективные атмосферы объясняют сплоченность команд. И вот моя любимая фраза в самом конце: "Офисы ИТ, возможно, свидетельствуют о рождении нового типа транзитности, когда домашние миры превращаются в не-места, где долго не задерживаются, а офисы и рабочие места становятся особенными домашними мирами, в которых работают (в)месте".

Ага. Только всё теперь не так. Корона внесла свои поправки. Придется писать новую статью и придумывать новый индекс.

Срочное объявление!

Прямо сейчас идет панель Doing Ethnography Remotely, Webinar с участием ведущих исследователей в области цифровой этнографии: Кристин Хайн, Хизер Хорст и Сара Пинк и другими
https://stanford.zoom.us/j/97481055490?pwd=VDlYM2FwYjRWNjdCdVV1OGV4SkVMdz09

Косвенный ответ тем, кто захотел ответить Чемберлену @dysss о красоте коммерческих скафандров, технологических секретах и черных ящиках https://telegra.ph/Sekrety-futurizma-06-06

Буквально в течение последних 2 дней на фоне протестов в США компании Amazon и IBM отказались от продажи технологии распознавания лиц американским полицейским. Amazon ввели годовой мораторий на продажу своей системы Recognition, в то время как IBM пошла куда дальше, закрыв не только продажу, но и все исследования в области распознавания лиц, а также призвав Конгресс США к масштабной полицейской реформе.

Сам факт того, что технологическая компания призывает к реформе социального института выглядит странно. Но это только на первый взгляд. IBM совершенно обоснованно указывают на проблемы и в технической, и в социальной части работы технологии. Согласно проведенному в MIT исследованию, базы данных, на которых обучаются нейросети для технологии распознавания лиц, на 80% состоят из белокожих людей, а величина ошибки многих систем распознавания для темнокожих женщин составляет 34% (в то время как для белокожих мужчин – около 0,8). С другой стороны, этнографическое исследование в Лос-Анджелевском департаменте полиции, проведенное в 2016 году, показывает, что существующие технологии распознавания лиц усиливают сегрегационные практики по отношению к темнокожим, принятые в полиции. Чтобы система заработала, нужно изменение как в технологии, так и в институциональных практиках. IBM даже призвала к национальному диалогу по поводу системы распознавания лиц.

Эта ситуация, конечно, заставляет задуматься о судьбе этой технологии и в других странах. К примеру, в России, где существует и необходимость реформы полиции, и мы видим полное отсутствие публичного разбора того, как технология работает, какова ее точность и каким образом она может быть использована во благо или ей можно злоупотребить. На самом деле, сейчас необходимо хотя бы первичное описание того, что эта за система, как она появилась и каковы ее перспективы.

Ольга Агапова (@agapova_ol), студентка первого потока магистерской программы Европейского университета и ИТМО «Наука и технология в обществе», работает как раз над этими задачами: понять, какова была история технологии распознавания лиц в России, как она устроена сейчас и какие смыслы придаются ей со стороны как ее защитников, так и страстных критиков. Потому что, кажется, что, чтобы улучшить что-то (а технология распознавания лиц точно нуждается в улучшении), необходимо сначала это понять.

В этом году мы (@nck_rudie, @zemnukhova и коллеги из ЕУ и ИТМО) набираем второй поток студентов, которым интересно заниматься распутыванием паутины из социального, технического, морального и местами политического, чтобы предлагать широкой публике и экспертам более ясную и полную картину развития технологий в обществе. Будем рады всем, у кого эта цель вызывает искренний интерес!

Из-за карантина Векторы-2020 перенесли на октябрь. Надеемся, что все состоиться и можно будет принять участие в секции про техноутопии, которую организует @dysss и сотоварищи

Недавно к нам обратились наши коллеги с предложением прокомментировать результаты опроса среди пассажиров метро, посвященного использованию голосовых сообщений. Я несколько не угадал с форматом комментария, из-за чего он стал больше напоминать эссе-рассуждение. Сейчас текст находится на редакторской правке, после чего, изрядно похорошев, возможно выйдет на вай-фай.ру. Но для нашего вдумчивого читателя я решил опубликовать исходный вариант комментария, опустив лишь данные опроса.