WrongTech
1.76K subscribers
85 photos
1 video
34 files
502 links
Когда что-то идет не так с технологиями из-за культурного и социального

авторы:
Константин (@glazkovk)
Лилия (@zemnukhova)
Николай (@nck_rudie)
Денис (@dysss)
Алиса (@alice_mcx)
Ольга (@ologunova)
Download Telegram
Новости:
Друзья, в последнее время наш канал молчит. Это связано с тем, что мы героически дописываем книгу, выпуск которой запланирован на 2020 год. Скоро мы закончим с текстами и вернемся в привычный ритм публикации постов.

Еще одна новость. Потихоньку начинают выходить статьи, подготовленные по мотивам нашей конференции Russian User Studies. Почитать их можно здесь, в разделе Исследования технологий. Мы пока утрясаем организационные вопросы с редакторами. Надеемся, что в следующем номере будет опубликован общий обзор конференции, а также еще несколько статей нашего блока.
https://jourssa.ru/?q=ru/2019_2

Пост:
Недавно на одной вечеринке пообщался со специалистом, который занимается взаимодействием с водителями в Яндекс.Такси. Он рассказывал о том, что водители, впрочем, как и любые пользователи, очень хитрые ребята и всегда готовы найти разные лазейки, как бы поиметь с компании побольше денежек – я в этих тактических ухищрениях, впрочем, не вижу ничего дурного, это нормальная реакция на экономические притеснения большой компании.
О каких «приемчиках» он мне поведал.

Приём 1. Яндекс доплачивает водителям за поездки на небольшие расстояния. Для водителей короткие поездки не очень выгодные – ты больше едешь за клиентом, чем везешь его. Поэтому, чтобы поднять отзывчивость водителей на такие заказы, компания вводит стимулирующие надбавки. Ушлые водители, знающие об этом механизме, вступают в сговор с товарищем, которого по заказу увозят в какое-нибудь не густонаселенное место, а затем несколько раз высаживают его, закрывают заказ, а затем принимают заказ от него же на короткую поездку – и так несколько раз. Стимулирующая выплата покрывает «расходы» товарища, отсутствие других заказов и клиентов не портит рейтинг водителя. Заметить эту схему, по идее, можно по данным с геолокации и очередности коротких поездок, но сложно, особенно если несильно ей злоупотреблять.

Приём 2. Яндекс доплачивает водителям, если они соглашаются покрасить свой автомобиль в цвета компании, тем самым подчеркивая корпоративную приверженность и продвигая интересы компании. Водители часто соглашаются на эту меру, но многие не красят автомобиль, а используют накладные наклейки, которые позволяют придать нужный временный вид автомобилю, сделать подтверждающее фото для компании, а затем переклеить на следующую компанию, чтобы затем получить полагающуюся выплату и от них.

Последняя схема вообще неуловима для аналитиков метаданных. Она сугубо материальная и локальная. Чтобы бороться с подобными схемами, специалисты отправляются на места и проверяют качество сервиса и прочие параметры этнографически – по многу раз заказывают такси и общаются с водителями. Это, в отличие от «больших данных», всегда работает безотказно, позволяя выявить любые схемы и уловки.
20 лет спустя
Когда ты изучаешь интернет и все что вокруг него, ты находишь эту тему везде.
В будущем году, 20 лет со дня окончания лицея, по этому поводу одноклассники вчера создали группу с WhatsApp и начали собирать контакты трёх классов нашей параллели снежным комом.
Для меня это стало «мини полем».
На сегодняшний день - удалось найти 35 контактов, 10 из них не оказалось в этом мессенджере, им написали в Вайбере, именно им пользуются.
Когда я предложила завести документ в Гугл доке, чтобы составит списки и указать Контакты - и понять кого ещё нужно найти, пришлось рассказать базовую информацию как этим пользоваться.
Когда ты сталкиваешься с этим каждый день - Гугл-док, вотсап и телеграмм - кажется, что по-другому уже не бывает.
В завершении сегодняшнего дня, ребята стали искать одноклассников в социальных сетях, так например, нашли мою страницу в Одноклассники, в профиль я не могу попасть около 6 лет, нет необходимости, пароль забыла )
А ребята нашли и пишут ) и оказалось, что сеть популярна. В Facebook меня никто даже не пытался найти.
Вот он - уровень цифровой грамотности и цифрового неравенства в действии.
PS Лицей я закончила во Владимире
Еще немного летних новостей! Замечательная команда @paperpaper_ru сделала серию подкастов Science Bar Hopping с молодыми учеными о жизни в академии и вне ее.

В баре «Цветочки» Сергей Гаврилов поспрашивал меня о том, почему боты начинают материться, что о нас знают фитнес-трекеры и как воспитать этичный искусственный интеллект.

Подкаст можно послушать на страничке Бумаги, а вот навигация:
1:21 Зачем новым технологиям нужны социологи
5:02 Куда уходят наши данные со смартфонов и фитнес-трекеров
17:58 Как появился матерящийся бот
19:55 Кто должен следить за этикой технологий
21:29 Что реального в «Черном зеркале» и «Мире Дикого Запада»
Посмотрел последний выпуск Редакции про то, как живут обычные люди в Донбассе. Один из лейтмотивных сюжетов выпуска – это остановка развития, в том числе и технологического, во время войны.

Такая ситуация, пускай и из-за таких прискорбных обстоятельств, делает возможным анализ становления практик при первичной дигитализации, но уже не ретроспективно, а сейчас, в реальном времени. Как бы такая машина времени, которая позволяет вернуться на пять лет назад, когда еще не всё делалось через приложения и мобильный интернет.

Например, вызов такси через приложение в условиях отсутствия повсеместного мобильного интернета в Донецке (см ссылку). Пользователи сталкиваются с тем, что очень трудно вызвать такси перед наступлением комендантского часа, потому что водители предпочитают игнорировать невыгодные заказы, ссылаясь на то, что за распределение заказов отвечает диспетчер - то есть персонаж из другой технологической эпохи, когда не было приложений, но были рации и телефонные звонки. Тем самым работая по новой технологической схеме, водители в случае чего могут использовать оправдания, взятые из другой технологической схемы. Получается гибридная ситуация, в которой пользователи научаются распознавать лицемерие водителей, но не способны полностью противостоять их сабботажным практикам.

Поскорей бы кончилась война, и время в Донбассе пошло бы вперед.

https://youtu.be/J6AqZkZkL-M?t=1733
Сразу две классные новости!

Во-первых, вышел еще один подкаст - побывала в гостях у команды КритМышь, где мы поговорили о сложных воспросах социальных эффектов технологий (всё, как мы любим).
Аудио и ссылки на полезные материалы есть на странице эпизода, сюда добавляю содержание:
01:58 — технологии — это благо или нет
12:00 — технофикс и научный метод
21:40 — решение социальных проблем технологиями
49:12 — технологии и счастье

А во-вторых, уже на этой неделе проходит очень крутой воркшоп Кембриджского университета и Теплицы социальных технологий, где мы полтора дня будем говорить об искусственном интеллекте - в России, в обществе, в политическом и публичном дискурсе. Программа есть на сайте @TeplitsaPRO, и еще не поздно принять участие!
Маски-лица, украшения, прически, случайный макияж. Практические и одновременно эстетические советы, как противостоять системам распознавания лиц в больших городах. Искусство и насилие. Актуально в свете летних событий.

https://tjournal.ru/tech/115467-maski-makiyazh-i-kapyushony-kak-lyudi-pytayutsya-zashchititsya-ot-tehnologiy-raspoznavaniya-lic?fbclid=IwAR13TcEyZhK9uiIJP-BJPULvclP94MI6EwAM7BPvqmgueFvTTdN7x1aQ3Qo
Исследователи из Университета Лафборо начали проект о том, как ИИ помогает людям с ограниченными возможностями здоровья. Мне нравится идея, что вопреки тому, как обычно использование технологий для заботы и помощи людям опирается представление о высокотехнологичных интервенциях, прорывных решениях и специальных разработках вроде роботов-сиделок и т.п., на самом деле можно изучать более приземленные и распространенные устройства и уже существующие практики приспособления техники для нужд людей с ОВЗ. Проект, в частности, будет сосредоточен на голосовых помощниках, «умных колонках», и на том, как они могут упростить жизнь с ограничениями по здоровью. Для этого важно исследовать отношения и повседневные практики, смотреть на то, как строится взаимодействие людей с ОВЗ и членами их семей, помощниками, и как в этом участвуют технологии.

Еще одна крутая мысль, которую высказывает Сол Альберт в разговоре по ссылке в конце поста: в действительности речь идет не просто о какой-то узкой группе людей с ограниченными возможностями здоровья, ведь большинство людей, – не «здоровые», а «временно обладающие (относительно) безграничными возможностями здоровья». Ключевое слово – временно; это не пессимистичная, а реалистичная и конструктивная установка. Находки исследования будут влиять на всех нас, обреченных однажды столкнуться с барьерами.
О проекте:
https://www.lboro.ac.uk/media-centre/press-releases/2019/september/research-to-explore-how-ai-and-voice-technologies/
Небольшое интервью с руководителем проекта на радио (начало с 2:16:15): https://bbc.in/2kDBSHT
На этой неделе Тревор Паглен, художник и исследователь больших данных и Кейт Кроуфорд, ведущий исследователь в Майкрософт, выпустили приложение ImageNet Roulette, которое приписывает загруженным фотографиям людей различные профессиональные, этнические, культурные лейблы. Нейронная сеть приложения натренирована на одной из самых больших баз данных фотографий в интернете ImageNet, но ее лейблы людей очень странные: человек с сэндвичем может быть назван «самодовольным», а темные волосы вокруг лица (похожие на платок) могут заставить нейросеть подумать, что перед ней – монашка.

Приложение Image Net Roulette создано как раз в качестве иронического жеста, которое идет параллельно с желанием автором – Паглена и Кроуфорд – показать политические и социальные основания любой категоризации людей. Очень советую почитать их статью по этому поводу: https://www.excavating.ai/, она мне показалась очень достойной и написанной на высоком уровне. Авторы проводят параллели между категоризацией визуального материала искусственным интеллектом и вульгарными физиогномическими исследованиями конца XIX века, где визуальный облик человека пытались соединить с психологическими и социальными характеристиками (ну типа большой лоб – склонность к грабежу).

Любая категоризация делается в определенном месте и времени с надеждой, что она может потенциально вместить и объяснить все остальное разнообразие вещей, которые не попали в обучающую выборку. Такова классификация растений, придуманная Карлом Линнеем (который категоризировал все растения по кол-ву половых органов, но этот метод был отброшен уже в XIX веке). Однако с категоризацией людей, и конкретно, всего человечества – вещь почти обреченная не невозможность.

Американский социолог Ирвин Гоффман говорит о том, что сохранение "лица" - т.е. некоторой своей самости, есть одно из уникальных черт западной культуры. В этом плане наше визуальное изображение — это ипостась нас, нашей самости и потому не может быть однозначно объективировано. К тому же самость - ведь динамическая. Встав на следующее утро, человек может решить сменить работу, а через пару лет может сменить свой класс, уехав из провинции в столицу и начав подниматься по карьерной лестнице. И его самость - включая его визуальное изображение - может измениться. Поэтому любое однозначное приписывание категорий человеку - не будет эффективным и приемлемым в западном социальном мире.

Весь проект ImageNet Roulette - про то, что категоризация людей по визуальному изображению абсурдна и странна. Поэтому распознавание объектов ИИ сегодня идет полным ходом, а людей - плетется у нее в хвосте. Но в этом есть некоторая философская мысль по поводу построения современного мира, где люди сильно отличаются от вещей не потому, что могут иметь интенции и действовать, а потому что в западном мире работает множество институтов, которые охраняют человека, его самость и права от объективирования. В том числе от умного объективирования со стороны умных машин.

https://imagenet-roulette.paglen.com/
https://www.excavating.ai/
Это не просто мужская задница. Это хорошо экипированная мужская задница. Слева на боку, если присмотреться, висит музыкальный плеер для аудиокассет. Справа в заднем кармане прячется VHS-ка. Сложно представить, что за ивент, на который может опаздывать этот прохожий. Легче предположить, что это неблагоразумный путешественник во времени, который ошибся с прикидом лет на двадцать.

Кстати, небольшая справка про VHS, объясняющая живучесть этой технологии:
С начала 1980-х годов VHS занял в мире лидирующую позицию в войне форматов с Betamax от Sony и Video 2000 от компаний Grundig и Philips. Основными причинами победы называют отсутствие лицензионных ограничений, относительная простота и надёжность видеомагнитофонов этого формата и отказ конкурентов поддерживать порноиндустрию.

Вывод: в технологических войнах всегда поддерживайте порноиндустрию.
Свою главу в нашей книге пишу про тестировщиков. Исследований на тему их положения, роли, трудностей проведено уже очень много, но - как обычно - не у нас. В основном, проблемы тестирования обсуждаются в контексте технологий, чуть реже - менеджмента и управления. Есть отдельные попытки посмотреть "социальную сторону" профессиональной работы. Самый часто повторяющийся сюжет - это конфликты разработчиков и тестировщиков. Немало копий было сломано в спорах: одни утверждают, что тестировщики мало смыслят в технологиях, поэтому им нужно поднимать свой уровень компетенций; другие считают, что сила тестировщиков как раз в soft skills, что они могут выстраивать коммуникацию и социальное взаимодействие, а технологиями пусть разработчики занимаются.
Больше всего меня впечатлила статья, авторы которой настолько подробно и детально описывают всевозможные типы конфликтов между разработчиками и тестировщиками, что выделили их аж 43 штуки. Выводы, правда, куцеваты - надо управлять конфликтами, чтобы сделать разработку более эффективной. А для этого надо понять природу этих конфликтов. Они предлагают три источника: процессы, люди и коммуникация. Детали в статье по ссылке (если нет доступа, sci-hub в помощь)
рободембель
Две микроистории про барьеры: одна про пользовательский опыт/взгляд и плохую юзабилити, вторая про гибкость и преодоление проблем.

1. Потеряла несколько дней, потому что смотрела на надпись "Ожидает подтверждения в дополнительном офисе" напротив заявки в личном онлайн-кабинете банка и думала, что статус должен поменяться сам собой. Потом поняла, что заявка не просто ожидает подтверждения, а ожидает, что я приду в офис ногами и подтвержу ее лично.

2. На семинаре надо было показать студентам один слайд и обсудить его, а диспетчерская была закрыта - нельзя взять технику для подключения проектора. Развернула ноутбук к группе экраном, кто-то спросил "может вы нам по почте вышлете?", но все решилось еще проще: студентка быстро сфотографировала слайд и отправила в чатик группы.

Будьте как студенты, не будьте как банк.
В нашем другом проекте с @zemnukhova и @dysss мы исследуем то, как выстраиваются отношения между программистами и социальными/гуманитарными учёными в общих междисциплинарных городских проектах. По нашим результатам, как и по результатам социологов, которые делают схожие исследования, программисты занимают в таких проектах две основные позиции: либо они активно вовлекаются на ранних стадиях проекта, и пытаются рассказывать социальным и гуманитарным ученым о тонкостях своих платформ и алгоритмов, и даже сами пытаются понять как устроены методы социальных наук. Либо же, напротив, они занимают исключительно позицию «технических людей», которые решают технические задачи, которые перед ними ставятся. Мне кажется, это связано с неоднозначностью статуса цифровых технологий в современном контексте социальных исследований: это больше про то, как просто сделать удобнее и масштабнее, оставив содержание знаний прежним, или про то, как создать новые возможности для исследования в каждом конкретном случае? Мне лично кажется, что второй вариант предпочтительнее, потому что он открывает больше возможностей для креатива в исследовании. Но зато он ведет за собой проблему контроля: больше креатива, в том числе от людей, которые занимаются совершенно другой сферой – это нужно больше понимания того, насколько это все стыкуется с целями и задачами проекта.
WrongTech
UPD. Если кто-то читает наш канал из администрации метро, то я поясню пункт Первый. Да, наклейка не работает. Запустили звуковые объявления - хорошо, но они тоже не работают. Вообще в московском метро слишком много объявлений. Оно всё учит-учит тебя, подсказывает…
Продолжаем серию постов про московский эскалатор и новое правило "занимайте обе стороны".

Тут вот новую новость подкатили - теперь в метро используют живой барьер из сотрудников, которые перегораживают собой весь проход, а также несут новое правило, расположенное у них на спине.

Сильно, что тут скажешь. Даже я в своих фантазиях так далеко не заходил. А тут такое яркое проявление насильственной биополитики.

Как навязать новый вид использования старой технологии? - Да просто поломай старый! А как? - заставь такими же телами, что и пассажиры, только специально обученными.

Интересно, хватает ли институционального прикрытия в виде формы и надписи на спине, чтобы сотрудники не сталкивались с критикой со стороны пассажиров. А еще подземка пояснила, откуда они взяли про 30%-ый выигрыш от нововведения. Кстати, там в статье в конце дается намек на то, что результаты могут зависить от культурных особенностей. Надо на эту тему еще поразмышлять...

https://daily.afisha.ru/news/31047-moskovskoe-metro-reshilo-priuchit-passazhirov-zanimat-obe-storony-eskalatora/
Технари, инженеры, разработчики и даже соцученые всех мастей часто и неосознанно используют термин «система» применительно к технологиям. Технологические системы, подсистемы и метасистемы, системное мышление и системный подход, систематика и систематизирование. Считается, что система – это реальное понятие - объективное положение дел, которое позволяет нам увидеть некоторое множество связанных единиц или сущностей. Даже великий и могучий Никлас Луман, вдохнувший новую жизнь, в системы в конце прошлого века, считал систему предприятием, которое никак не зависит от индивидов или групп. А вот американский антрополог Валери Олсон в крутой книге 'Into the Extreme: U.S. Environmental Systems and Politics beyond Earth' изучает, как организованы американские космичские полеты, и предлагает считать систему «реляционной технологией». Система оказывается особым инструментом, который позволяет соединять различные места и масштабы, объединять людей и нечеловеков, сопрягать слова, образы, страны и другие планеты.
На этой неделе состоялась дискуссия про использование ии в ритейле в рамках недели e-commerce.
Обзор рынка показал, что внедрение технологий искусственного интеллекта носит многоступенчатый характер и внедряется на разных этапах выбора клиентами товара. Рассмотрим несколько примеров. Это может быть начало коммуникации, момент, когда происходит выбор товара, момент сделки. Одна из основных задач, которую решает искусственный интеллект – формирование предложений на основе предыдущих запросов клиента дополнительного товара. Машинные алгоритмы запрограммированы на то, чтобы определять, что именно предлагать человеку, когда, в какой форме. Еще одна важная область применения искусственного интеллекта — это работа с посетителями, которые так и не осуществили покупку. ИИ позволяет анализировать причины ухода и, если они были связаны с отсутствием конкретной модели, предлагать похожие из имеющегося ассортимента. Аналогично – напоминания о незавершенной покупке, если клиент оставил товары в корзине.

https://www.cnews.ru/news/top/2018-11-23_mvideo_za_schet_iskusstvennogo_intellekta_uvelichila