WrongTech
1.76K subscribers
85 photos
1 video
34 files
502 links
Когда что-то идет не так с технологиями из-за культурного и социального

авторы:
Константин (@glazkovk)
Лилия (@zemnukhova)
Николай (@nck_rudie)
Денис (@dysss)
Алиса (@alice_mcx)
Ольга (@ologunova)
Download Telegram
Кажется, что пандемия - это не только драйвер для развития технологий дистанционного общения (представьте себе, сколько ручек сейчас подкручивает zoom в поисках оптимальных решений).
Обычные люди в изоляции выбирают разные стратегии: кто-то безудержно бухает в ожидании окончания карантина, кто-то начихал на рекомендации и ведет себя так, будто ничего не произошло, а кто-то изобретает новый способ существования для нашего общего коллективного будущего. Сейчас радикально меняется способ использования гаджетов и приложений. В ограниченном пространстве своих квартир мы ищем закуток для телеконференции, стараемся сохранить отношения на расстоянии, и сделать так, чтобы аффекты (например, шутки) распространялись и по сети. Что если мы прямо сейчас имеем дело с космической гражданской наукой, которая снизу изучает повседневные практики пользования в условиях массовой изоляции? Этот опыт можно было бы собрать, проанализировать и использовать в ближайшем будущем для колонизации других планет. Если вы не в курсе, то Землица рано или поздно гикнется, и придется перевозить человечество на подготовленные базы на Луне, Марсе и астероидах.
Наткнулся недавно на один сервис от Яндекса с необычным названием – Яндекс.Толока.

Слово толока интересное. В зависимости от местности ударение может падать как на второй, так и на последний слог. В новгородско-тверском наречии слово может заменяться на пóмочи. Толока – это форма деревенской взаимопомощи, когда крестьяне объединялись для выполнения срочных общественных задач.

Что же предлагает Яндекс.Толока? Работу в интернете – то есть выполнять небольшие задания за вознаграждения. Какие задания? Убедиться в режиме работы того или иного заведения, сделать фото объекта, проверять работу поисковых алгоритмов (то есть сопоставить запрос и результат выдачи), заполнить недостающую информацию в карточку организации или товара. Стоимость выполнения задания, судя по скриншотам 2018 года, колеблется от 0.1 до 0.7$. На форумах пользователи сервиса обсуждают, что им удается зарабатывать 500-1000 рублей в день, выполняя различные задания. Кто-то жалуется, что модераторы, которые проверяют выполненные задания, жесткие и часто отклоняют работу, не выплачивая награды. Другие указывают на то, что сервис честный, просто нужно более внимательно изучать инструкции.

После того, как мы немного познакомились с этим сервисом, предлагаю обсудить идеологию проекта. «Толока даёт возможность зарабатывать в интернете, выполняя простые задания, с которыми не справляются компьютеры» – пояснение на главной странице сервиса. Сразу хочется добавить пока не справляются компьютеры. С одной стороны, есть нейросети, которые постоянно надо учить и совершенствовать. Плохая новость для нейросетей, что скорее всего за «эталон совершенства» принимается человеческое взаимодействие, и собственно поэтому необходимо быть максимально на него похожим, а значит – наблюдать как можно больше ситуаций человеческого взаимодействия друг с другом или машинами. С другой стороны, есть так называемые «полевые задания», когда надо на местности убедиться в правильности информации, указанной на карте. Тут кожаные работники – тоже пока бесценны. Потому что возможности фотофиксации и распознавания скрытой информации у машин пока сильно ограничены. В общем под таким углом рассмотрения можно сказать, что люди не просто компенсируют временные недостатки машин, но и тем самым вкладываются в их развитие и совершенствование, после чего, вероятно, будут уже не так нужны.

Интересно, что сервис предоставляет открытые датасеты для некоммерческого (то есть исследовательского) использования. В них собраны: различные диалоги между воображаемыми пользователями, проигранные для совершенствования разговорного искусственного интеллекта, оценки степени релевантности поисковых выдач, а также лингвистические проверки на словоиспользование и ассоциативные пары. Можно поизучать толокеров и попытаться глубже понять, как работает хрупкий и непредсказуемый человеческий мозг.
На сайте ассоциации исследователей науки и технологий 4S появилась страница со списком документальных и художественных фильмов. Ну, это для того, чтобы было чем заняться в карантине. Можно смело добавить туда что-то свое-любимое. Многим фильмам, как мне кажется, не хватает хороших описаний, почему именно они относятся к рамке и перспективе STS https://www.4sonline.org/resources/22?fbclid=IwAR3TOlNT9F-tV6Fsovu6WRuJncGyuzcA4ZtO5JZHbGfAZiOuLo4YYGt7TFU
Заметки о передаче права голоса в эпоху Zoom’а

На днях был очередной звонок (7 участников, преподаватели и студенческие ассистенты) про то, как перевести один курс в дистанционный режим. Обсудили все по плану, после чего один из преподавателей спрашивает: «А скажите, у кого-то из вас уже начались занятия в дистанционном формате, может быть вы расскажете, какие особенности есть, если вы уже это испытали на себе?» Пауза. Длинная пауза. «Вот такие и особенности», говорю.

Зум, кажется, хорошо приспособлен для формата «класса» с ролью одного учителя, который говорит и наделяет конкретных других правом голоса, когда ему это удобно. Можно задать вопрос адресно (очень удобно – можно обращаться по именам, которые у всех подписаны, в отличие от реальной учебной аудитории!), можно задать вопрос всем и ждать поднятых рук, чтобы затем назначить следующего говорящего – отвечающего на вопрос. Однако более свободные и горизонтальные формы разговора вызывают сложность. При передаче права голоса «всем» возникают нерешительные паузы и наложения, когда несколько человек начинают говорить одновременно.

Как с этим быть? Наверное, стоит четко обозначать, когда вы закончили говорить, и всегда стараться переадресовать вопрос кому-то конкретному, а иногда задавать вопросы всем, будучи готовым к долгой паузе и, возможно, даже поочередному опросу участников после этого. А какие вы выработали приемы? Может, видели какие-то технологические решения в других приложениях, которые помогают передавать и брать право голоса легко и без сбоев?
Написала для Теплицы еще один текст - на этот раз про нейрокапитализм.

Пандемия – это уникальная лаборатория для проверки на прочность всех технологических инфраструктур, возможностей и уязвимостей (об этом стоит написать отдельный пост!). Пандемия обнажает степень проникновения технологий в процессы принятия экономических и политических решений, легитимируя спорные с точки зрения этики - как, например, попытка ввести повсеместную слежку с помощью технологий распознавания лиц ("коронавирусных"?).
А между тем глубина проникновения технологий в нашу повседневную жизнь вызывает определенные вопросы - можно или нельзя, допускать или нет, приватность или безопасность...
Одна из попыток найти рациональные ответы на них состоит в том, чтобы обратиться к нейронаукам, которые по идее призваны рассказать о том, как принимаются решения и как принимать их правильно. Как будто принадлежность к новой онтологии – рациональной мозговой деятельности – сразу всё сделает бесспорным.. От нейробиологии, нейрохимии и нейрофизиологии мы получаем нейрообразование, нейромаркетинг и нейроэкономику, а следующим шагом – нейроэтику и нейрокапитализм. Но нейроизация нас не спасет - ни в эпоху коронавируса, ни после нее.
Подобно Уинстону Смиту из «1984» Оруэлла, сегодня мы изобретаем способы спрятаться от паноптического ока дистанционных технологий в собственном доме. Некоторые стратегии достаточно простые. Прошу студента включить камеру на zoom-паре. Какая-то заминка, но через мгновение он отвечает: «Извините, Денис Юрьевич, сейчас не могу. Я кушаю. Но в следующий раз обещаю, что включу».
Открываем серию гостевых постов от слушателей курса “Цифровая этнография”. В рамках курса студенты провели мини-исследования цифровых технологий, с задумкой и результатами которых они решили поделиться с нашими читателями. Сегодня Екатерина Есаулова (@esaulovaEV), Александра Левина (@levialek), Валентина Пермякова (@vapermyakova) и Татьяна Покидова (@pokidulya) расскажут про то, как выстраивается граница между пользователями наушников с функцией шумоподавления и их окружением.

#ЦЭ
Сегодня про беспилотные автомобили пишется довольно много. Разработчики из разных уголков России любят давать интервью о том, что они делают, и отвечать на вопросы, когда беспилотники выдут на дороги общего пользования. Научные медиа публикуют обзоры того, из чего состоит беспилотный автомобиль (в основном перечисляются сенсоры). Экономисты и транспортники пытаются создавать модели внедрения беспилотников в городское пространство.

Но то, чего пока точно не хватает в российском медиа-пространстве - это осмысленных социальных рассуждений о беспилотных автомобилей; попыток опереться на понятия, разработанные в социологии, экономике, политике, философии, чтобы продумать очень конкретные кейсы разработки или внедрения беспилотных автомобилей. Задача всего этого - сделать непонятный процесс разработки "нашего будущего" более осмысленным, понятным и объяснимым для более широкой публики.

В рамках серии блоговых постов мы с коллегами из Центра STS Европейского университета пытаемся работать именно так. Анализировать очень конкретные проекты беспилотников (Яндекс, Тесла, Google) или даже отдельных технологий (типа машинного зрения) с помощью понятий самосбывающихся пророчеств, технологических культур, законов Кэмпбелла, социотехнических сборок и т.д.

Познакомиться с постами про беспилотные автомобили можно здесь
Продолжаем серию гостевых постов от слушателей курса “Цифровая этнография”. В этом посту Варвара Бедрина (@vbedrina), Татьяна Долгова (@TatDolgovaa) и Надежда Попова (@nadyapop) расскажут о том, как люди общаются с бывшими партнерами в социальных сетях.

#ЦЭ
Помните, у нас была конференция Russian User Studies в декабре 2018? Помните, мы обещали поделиться статьями, которые нам присылали и которые писали мы сами? Наконец-то можем это сделать! В открытый доступ выложили статьи нашего специального выпуска Журнала социологии и социальной антропологии.

Искусство, роботы, юзабилити, беспилотники, каршеринг, турникеты -- всё как мы любим.

Читайте и не стесняйтесь комментировать
Неделю назад *, делала пропуск для передвижения по Москве. 6 попыток, *! 6, * твою * раз, *!надачу

Вроде все просто, но даже мне, как я считаю, человеку, хорошо знакомому с технологиями, оказалось непросто заказать пропуск на передвижение по городу.
Для себя я выбрала вариант с заказом пропуска через смс. На сайте есть алгоритм, который должен работать. И три примера, по числу разрешённых вариантов для перемещений, внутри которых практически отсутствует вариативность.
Я только с шестой попытки, руководствуясь методом проб и ошибок, смогла это сделать. В моём случае все было просто, казалось бы, поездка на машине. Но вот как не указать номер карты тройки и стрелки, сложно было понять. В итоге секрет заключался в количестве звёздочек.

Далее, остальным членам семьи, я уже оформляла пропуска со второй, и даже (о чудо!) первой попытки.

Как итог оформления уже семи пропусков.
Любая неоклассическая вариация запроса сталкивается с ошибками системы. Если вы используете не данные паспорта, где должны быть цифры серии и номера, а данные другого документа, что в принципе возможно - придётся взять несколько дополнительных смс для успешного кода-запроса.
Необходимо внимательно читать инструкцию, и сравнивать предложенные базовые пароли.
Важно, сейчас пропуск надо заказывать за пять часов. И если у вас запланирована утренняя поездка, и нет необходимости просыпаться несколько раз в ночи, чтобы кормить малышей - придётся завести будильник или выбрать альтернативные варианты оформления пропуска.

PS Хорошо, что пропуска не нужны детям до 14, иначе путешествие было бы под угрозой, учитывая число дополнительных необходимых попыток.
Несмотря на изоляцию, пандемия отменяет национальные границы. Кажется, COVID-19 и зумеры проникают всюду, делая нашу планету одновременно глобальной и хрупкой. Сегодня поклонники культа Геи, которые в 70-х вытащили эту идею о том, что Земля - живой организм из микробиологии и кибернетики, оживились и на всех углах рассуждают об уязвимости планеты и связи всего со всем. В одном месте надавишь несильно, в другом взрыв. Правда, некоторые short circuits кажутся особенно трагичными в своей ироничности. В Японии повышенный спрос на маски для лица компании Sharp, на которых проявляется логотип, обрушили серверы компании. Из-за этого вышли из строя умные кошачьи туалеты… Стильный иммунитет против искусственного интеллекта. 1:0

https://meduza.io/shapito/2020/04/21/v-yaponii-startovali-prodazhi-masok-dlya-litsa-s-logotipom-sharp-iz-za-azhiotazha-perestali-rabotat-umnye-koshachi-tualety
На волне этических вопросов к камерам распознавания лиц в Москве и по всему миру, небольшая история о другой технологии, которая вызвала первый в мире ажиотаж в отношении защиты частной жизни
У меня на телефоне есть антивирус. Иногда от нечего делать можно его запустить. Сколько бы раз я его не запускал, на выходе всегда одно и тоже - всё в порядке. Не знаю, зачем нужен такой антивирус, у которого всегда всё в порядке. А может быть, именно такой антивирус и нужен? Как понять, что антивирус хороший? Если всё хорошо, может показаться, что и антивирус тут не причем. Значит, иногда должно быть плохо. И вот тогда антивирус, не без труда, должен выявить и ликвидировать угрозу. Перефразируя Вольтера, можно составить лозунг кибербезопасности: если бы угрозы не существовало, то ее следовало бы выдумать. Так что мне нравится мой антивирус.
Мы в STS регулярно напоминаем себе и всем, что социальные исследования науки и технологий предполагают подробный анализ того, как выстраиваются взаимодействия и взаимное влияние общества и научно-технического развития. Борясь с технологическим детерминизмом и отказывая технологиям в независимом статусе, мы хотим всячески напоминать об их социальных эффектах, культурных контекстах и реальных практиках пользователей.

Написала для блога Центра STS про гражданскую науку, гражданские технологии и разные инициативы, в которых можно поучаствовать, сидя в изоляции
Фильм Юрия Дудя про креативные возможности в Кремниевой долине вызвал бурную реакцию в России. Блогера обвинили в односторонней трактовке жизни в главном технологическом кластере Земли. Только творчество и никакого оккультизма! Помимо традиционной претензии «у Дудя ни слова про женщин» его критикуют за то, что он представил Долину в радужном свете. Пожалуй, главным оппонентом выступил Павел Дуров. В духе критической урбанистики Майка Дэвиса (см., например, «Страх и деньги в Дубае») создатель Telegram обратил внимание на невыносимые условия жизни в США: за фасадом высоких технологий скрывается дороговизна жизни и рабочей силы, плохое здравоохранение и слабое образование, полицейский контроль и проблемы со свободой слова, а также отсутствие свежих идей.

Эта по сути левая критика фильма Дудя интересна нам тем, что лишний раз подтверждает банальную, но важную истину: цифровые технологии - не только креативность, изобретение, инсайты и умение продавать, но также важные социальные контексты, о которых никогда не стоит забывать.

https://meduza.io/feature/2020/05/08/pavel-durov-otvetil-na-film-yuriya-dudya-o-kremnievoy-doline-i-ob-yasnil-pochemu-ne-stoit-tuda-pereezzhat
О парадоксе (де)гуманизации войны дронов

Недавно натолкнулся на интересный парадокс. Речь шла о том, как использование дронов повлияет на гуманность военных конфликтов. С одной стороны, дроны обещают сделать удары более точечными, к тому же свести к минимуму потери среди личного состава. С другой стороны, использование дронов дегуманизирует войну: цели атак из живых людей превращаются в набор пикселей на панелях, «desk jockey warriors» (кабинетные военные) перестают воспринимать военные операции как моральную практику, а разработчиков дронов, по сути, можно приравнять к участникам боевых действий.

Ниже фрагмент из книги Арсения Куманькова "Война в XXI веке":

Дополнительное напряжение создаёт и вопрос об ответственности за действия робота или дрона. Лежит ли она на офицере, который отдал приказ о проведении операции, на обслуживающем персонале, операторе? Но является ли в принципе оператор, не находящийся физически на поле боя, комбатантом? Или, возможно, нужно учитывать также и ответственность программиста, который создал алгоритм, определяющий принципы функционирования робота: идентификация цели, способ прицеливания, параметры определения выполнения поставленной задачи, принятие решений в сложных условиях, например, когда противник использует живые щиты? Как мы отметили, у дрона нет психики, повреждение которой может заставить его действовать аморально. Но при этом сам характер его действий определяется людьми, участвующими в его создании, и военные заказчики, а возможно, и сам программист, закладывают в робота собственные принципы этики поведения на поле боя.

Но это также означает, что дрон не является субъектом морального действия, поскольку он не обладает эмоциями, эмпатией, не способен на чувства и не имеет представления о совести, вине, стыде. При этом он способен действовать с высочайшим уровнем автономии, самостоятельно находя цели и принимая решение о нанесении удара по ним. Если в связи с этим ответственность за действия роботизированной системы переносить на тех, кто обслуживает или создаёт её, мы окажемся в нетривиальной ситуации. Необходимо будет пересмотреть принцип различения jus in bello. Вместо того чтобы сократить число людей, задействованных на войне, использование роботизированных систем может заставить идентифицировать как участников боевых действий представителей гражданских профессий – таких, как программисты.
Трудность разработки беспилотных автомобилей связана с тем, что люди не соблюдают правила дорожного движения, говорят разработчики. Но возможно, проблема вовсе не в соблюдении правил. А в различии понимания действий людьми и машинами.
Пандемия умножила количество кейсов для нашего канала, а наши друзья и подписчики не устают с нами делиться. Спасибо вам за это! Вот почитайте забавную историю про успешную кооперацию "Алисы" и бывшего мера Твери на благо жителей Конаково
Forwarded from Пул N3
Экс-мэр Твери Валерий Павлов: Месяца три-четыре назад стали на мой мобильный телефон поступать звонки с вопросом: "Это Администрация города Конаково?" Отвечал звонившим, что это частный номер. На всякий случай позвонил в Администрацию Конаково и попросил их посмотреть свою базу телефонных номеров. Но поскольку звонки на мой телефон были нечастыми, относился к этому спокойно. Но месяц или более назад Администрация города Конаково, ввиду пандемии короновируса, закрыла город для иногороднего транспорта и ввела пропуска, и понеслось. Мой телефон разрывался от звонков возмущенных граждан с требованиями выдать пропуск или пропустить в город! Звонки были и днем и ночью! Каждый день раздается от 15 до 28 звонков!На мои объяснения, что это личный телефон, возмущение звонивших только возрастало. На мой вопрос где они взяли этот телефонный номер, многие отвечали: этот номер, как номер Администрации Конаково выдает на Яндексе робот "Алиса". Обратился к "Алисе" сам, и тоже получил свой номер. Мои обращения к операторам Яндекса, "отнять" у "Алисы" мой номер остались без ответа. А телефонные звонки на мой номер продолжались... На вопрос: "Как мне проехать в город Конаково!" Я стал отвечать: "Проезжайте спокойно и сошлитесь на этот телефонный номер". Сколько я, а затем, когда я не мог ответить, и моя жена, выдали таких устных разрешений на въезд в Конаково не считали. Но судя по нескольким, вновь перезвонившим и сказавшим "Спасибо за помощь", народ в Конаково успешно попадал. Один раз позвонил мужчина и представившись инспектором Конаковского отделения ГИБДД спросил, могут ли они устную ссылку водителей на мой номер телефона, считать разрешением на въезд в город? Я ответил, что если они не нарушают свои инструкции, пусть считают. Судя по всему мой ответ инспектора удовлетворил. Неожиданно позвонил мой старый московский знакомый, немалый чин в одном из силовых ведомств, и с удивлением сказал, что "Алиса" дала ему мой номер. Ответил ему, что если он по вопросу пропуска в Конаково, то попал по адресу...он долго хохотал, но позже перезвонил и сказал, что в Конаково его пропустили. Вот так я и продолжаю выдавать пропуска. Все бы ничего, но вдруг один звонок оказался нестандартным назвавшийся житель города Конаково попросил разрешить ему... установить три ларька для торговли овощами и фруктами и указал в каких местах ему желательно. Я ему ответил, что не возражаю, только пусть поставит ларьки так, что бы никому не мешали. Почему то думаю, что процесс с ларьками в Конаково тоже успешно пойдет.