Рекомендательные алгоритмы зарубежных соцсетей, предлагающие пользователям контент, могут угрожать жизням и здоровью людей

Так, в США видео, выданное алгоритмами TikTok, привело к смерти 10-летней девочки. Она погибла, пытаясь повторить опасный челлендж, увиденный в TikTok.

Суд постановил, что, когда платформа активно рекомендует контент через свои алгоритмы, она больше не может считаться нейтральным посредником и должна нести ответственность за свои действия.

Как пояснил представитель Лиги цифровой экономики, чтобы предоставить пользователям интересный контент, сервисы собирают информацию об их действиях в сети и запрашивают разрешение на использование персональных данных.

По его словам, зачастую до конца неизвестно, какую именно информацию о пользователе собирают и как ее используют рекомендательные алгоритмы. При этом они несут в себе угрозы взлома хранилища сведений о пользователе и формирования у людей определенного мнения.

Также он отметил, что количество небезопасного контента в интернете напрямую влияет на частоту взаимодействия пользователя с ним. Вследствие этого растет и риск распространения небезопасных материалов и дезинформации через рекомендательные алгоритмы.

Эксперт также предупредил, что злоумышленники модернизируют способы взлома и уже сейчас могут задействовать рекомендации. Например, предлагать ссылки на фишинговые сайты для сбора личных данных для кражи средств.

#IT_News #платформы #алгоритмы #кибербезопасность

Подписаться

Рекомендательные алгоритмы западных площадок усиливают негативное восприятие политической информации, что приводит к дезинформации и искажению представлений о происходящем в мире

Пользователи видят лишь узкий фрагмент новостей и мнений, что создает впечатление, будто все вокруг представлено только в негативном свете или сводится к развлечению. Это может подорвать интерес к политике и создать ощущение, что она далека от нас, заставляя людей чувствовать себя зрителями, а не активными участниками.
 
Исследования показывают, что значительная часть населения чувствует себя перегруженной количеством политических новостей, что усиливает цинизм и демотивирует к участию в политических процессах.

Рекомендательные алгоритмы западных площадок часто приводят к политической предвзятости и поляризации.

Например, исследования YouTube показали, что его алгоритмы могут затягивать пользователей в так называемые «кроличьи норы» — процесс, при котором рекомендации начинают предлагать все более крайние политические взгляды.

Алгоритмы Facebook* также способствуют усилению политической поляризации. Исследования показали, что алгоритмы новостной ленты могут подталкивать пользователей к контенту, подтверждающему их предвзятости, создавая так называемые «эхо-камеры», где они сталкиваются только с точками зрения, сходными с их собственными.

Безответственный, а откровенно говоря, совершенно прагматичный и целенаправленный подход западных ИТ-гигантов к рекомендательным алгоритмам и тотальная непрозрачность их работы – то, от чего вынужден страдать чуть ли не весь мир. В связи с этим вдвойне актуально каждой стране создавать собственные ИТ-продукты, чтобы не зависеть от Запада,

– заявил эксперт РОЦИТ Максим Ксензов.
 
Он подчеркнул, что в России всесторонне развитая и прогрессивная ИТ-отрасль, созданы важнейшие аналоги различным западным ИТ-продуктам, в том числе распространенные во всем мире соцсети и видеохостинги.

С учетом того, что на западных онлайн-площадках большое количество противоправного контента, который они не желают удалять, более того, там характерная предвзятая модерация, российскому пользователю стоит подумать как о своем психологическом благополучии, так и об информационной безопасности детей и подростков и принять решение о переходе на отечественные онлайн-платформы,

– указал Ксензов.
 
Член ИТ-комитета Госдумы Антон Немкин отметил, что рекомендательные алгоритмы западных онлайн-площадок уже давно стали опасными для российских пользователей.

Они навязывают россиянам противоправный контент, который может негативно повлиять на судьбу человека. Как известно по примеру России, западные ИТ-гиганты руководствуются только своими принципами и установками властей США, но никак не локальным законодательством. Поэтому, например, те же YouTube и Discord отказываются выполнять требования Роскомнадзора по удалению опасного контента,

- пояснил депутат.
  
Единственный выход из подобной ситуации – наличие альтернатив в виде собственных онлайн-платформ, которые строго исполняют требования российского законодательства. И у нас уже созданы качественные аналоги по многим западным ИТ-продуктам, объснил Немкин.
 
* Компания-владелец Meta признана экстремистской организацией и запрещена на территории РФ.
 
#IT_News #площадки #алгоритмы #кибербезопасность

Подписаться

Европейская комиссия запросила у YouTube, Snapchat и TikTok подробную информацию о работе алгоритмов рекомендаций контента

Запрос сделан в рамках Закона о цифровых услугах (DSA) и направлен на то, чтобы понять, как платформы рекомендуют контент пользователям и какие меры они принимают для снижения рисков, связанных с распространением нелегального контента.
 
Особое внимание уделено влиянию алгоритмов на выборы, общественные дискуссии, психическое здоровье пользователей и защиту несовершеннолетних.

Проблемы с алгоритмами рекомендаций уже не раз вызывали критику. На TikTok, например, алгоритм может демонстрировать вредный контент, включая теории заговора и видео, негативно влияющие на психическое здоровье, такие как ролики, связанный с расстройствами питания.

YouTube тоже долгое время сталкивается с критикой за работу своего рекомендательного алгоритма. Одной из основных проблем является то, что алгоритм часто продвигает «пограничный контент» – видео, которые не нарушают правила платформы напрямую, но очень близки к этому. Это включает в себя дезинформацию, теории заговора и провокационные материалы, которые алгоритм считает более вовлекающими.
 

Рекомендательные алгоритмы иностранных онлайн-платформ фактически запирают пользователей в информационных пузырях. Например, американские ИТ-гиганты создают такие условия, что человек получает только тот контент, который выгоден западной пропаганде. Кроме того, из-за отсутствия надлежащей модерации алгоритмы могут предлагать еще пользователям, даже детям, противоправный контент,

– заявил член Общественной палаты РФ, блогер, писатель Дмитрий Пучков.
 
Он подчеркнул, что иностранные платформы должны быть более ответственны в том, что и как они показывают людям.

В то же время в России активно развиваются качественные аналоги иностранным онлайн-площадкам. Отечественные платформы серьезнее подходят к модерации контента, поэтому к ним стоит присмотреться,

- добавил он.

#IT_News #платформы #алгоритмы

Подписаться

Корпорациям Meta Platforms Inc.*, Google, TikTok и Snap предстоит ответить на судебные иски, инициированные школьными округами в федеральном суде США

Они обвиняются в том, что их «затягивающие» приложения способствуют ухудшению психического здоровья учащихся.

В исках указано, что корпорации разрабатывают свои платформы таким образом, чтобы побудить молодежь проводить нездоровое количество времени у экранов.

Школьные округа США утверждают, что компании разрабатывали свои платформы для детей, используя алгоритмы и функции, такие как кнопка «мне нравится», таким образом, что это вредило обществу - подобно производителям сигарет, которые разрабатывали свою продукцию так, чтобы вызывать привыкание.

* Признана экстремистской и запрещена в РФ

#IT_News #платформы #алгоритмы #дети

Подписаться

Соцсеть X специально повышает рейтинг постов Илона Маска

Исследование, проведенное учеными из Квинслендского технологического университета и Университета Монаша, выявило значительные изменения в показателях вовлеченности на платформе X (ранее известной как Twitter) в середине июля 2024 года.

Анализ охватил более 56 тыс. постов, опубликованных с 1 января по 25 октября 2024 года, и включал аккаунты Илона Маска, а также группы пользователей с республиканскими и демократическими взглядами.

В первой фазе исследования было установлено, что после 13 июля 2024 года, когда Илон Маск официально поддержал Дональда Трампа на президентских выборах, что среднее количество просмотров его постов увеличилось на 138%, а число ретвитов — на 238%.

Этот рост превышал общие тенденции вовлеченности на платформе, что может свидетельствовать о возможных изменениях в алгоритмах, усиливающих видимость постов Маска.

Во второй фазе было выявлено, что после середины июля 2024 года республиканские аккаунты продемонстрировали значительное увеличение числа просмотров по сравнению с демократическими.

Однако показатели ретвитов и отметок «нравится» не показали существенных различий между группами, что указывает на возможное преимущество в видимости контента, связанного с Республиканской партией, через механизмы рекомендаций.

Эта ситуация наглядно демонстрирует, как алгоритмы западных онлайн-площадок могут незаметно влиять на общественное мнение. Когда владельцу платформы выгодно продвигать определенный контент, никакие законы о нейтралитете не помогут, ведь манипуляции спрятаны в самом коде, который закрыт от общественности, – отметил журналист, автор и ведущий программы «Итоги с Малькевичем» (ТВ-3), завкафедрой социальных коммуникаций АГПУ Александр Малькевич.

На карточке он пояснил, почему россияне не могут полагаться на честность иностранных платформ 👆🏻

#IT_News #X #алгоритмы #кибербезопасность

Подписаться

Почему использование ботов для накрутки просмотров на YouTube остается распространенной практикой?

Специальные программы и сервисы создают искусственные просмотры, лайки и подписки, манипулируя алгоритмами платформы. Такие методы позволяют продвигать видео в тренды, но при этом создают серьезные риски для владельцев каналов.  

Аналитика YouTube позволяет выявить подозрительные источники трафика, включая нехарактерные геолокации и резкий рост активности из внешних ресурсов.
 
Зачастую покупка просмотров не приносит реальной пользы, поскольку искусственные показатели не конвертируются в активную аудиторию и рекламные доходы. Более того, такие схемы могут использоваться для конкурентной борьбы.

Фальшивые просмотры также наносят вред рекламодателям. Боты, просматривающие рекламные ролики, искажают статистику кампаний, снижая их эффективность и увеличивая затраты на рекламу.

Член комитета Госдумы по информполитике, информтехнологиям и связи Антон Немкин рассказал, как YouTube извлекает выгоду из накрученных просмотров на видео 👆🏻

Немкин отметил, что подобная практика платформы несет риски для автора видео – его канал легко могут заблокировать просто для вида, чтобы не вызвать подозрения у рекламодателя.

И российские авторы находятся в зоне риска – им сложнее всего защитить свои права в подобных случаях, – подчеркнул он.

#IT_News #YouTube #алгоритмы

Подписаться

У меня в танке граната взорвалась, а танк едет: Артемий Лебедев о предвзятых алгоритмах на YouTube

Блогер и дизайнер Артемий Лебедев в новом выпуске Metametrica рассказал, как алгоритмы видеохостинга «прячут» от зрителей интервью с его участием 👆🏻

#IT_News #YouTube #алгоритмы

Подписаться

Алгоритмическая предвзятость, встроенная в цифровые платформы, все чаще становится фактором, который усиливает социальное неравенство

Исследование «Невидимая предвзятость: как алгоритмы усугубляют социальное неравенство» показало, что поисковые системы, такие как Google, позиционируются как нейтральные инструменты, однако реальные поисковые результаты часто отражают и усиливают исторические стереотипы.
 
Так, при вводе запроса «Asian women» пользователь получает в основном сексуализированные и дискриминирующие материалы, в то время как по запросу «white men leadership» – статьи о бизнесе и лидерстве.
 
Эксперты указывают, что истоки этой предвзятости кроются в необъективных данных и решениях, принимаемых людьми при обучении алгоритмов.

В Бразилии YouTube стал инструментом политической радикализации: во время выборов 2022 года пользователям, интересовавшимся умеренными партиями, быстро начинали показывать ультраправые теории.

В США компании Amazon, Uberи Lyft столкнулись с обвинениями в алгоритмической дискриминации по признаку пола и расы: ИИ Amazon исключал женские резюме, а сервисы такси устанавливали более высокие цены в районах с преобладанием небелого населения.

Управляющий партнер агентства «Смена» (Группа AIC) Артем Геллер рассказал, как западные компании сами себе создают проблемы 👆🏻

В результате мы получаем цифровые технологии, которые повторяют все старые предрассудки, только теперь под маской «объективных алгоритмов». Поэтому важно не слепо доверять результатам поиска и рекомендациям – они могут быть предвзятыми. Всегда проверяйте важную информацию в разных источниках и включайте критическое мышление, когда видите предложения от алгоритмов, – добавил он.

#IT_News #алгоритмы #Google

Подписаться

Независимая проверка подростковых аккаунтов в Instagram* выявила серьезные сбои в работе системы фильтрации вредного контента

Исследователи создали тестовые профили, указав подростковый возраст, однако уже с первых дней в их ленте стали регулярно появляться видеоматериалы, явно не предназначенные для несовершеннолетней аудитории.
 
Участники эксперимента столкнулись с откровенно сексуализированным контентом, пропагандой употребления алкоголя, никотина, а также вредных пищевых привычек.

В ответ на опубликованные результаты материнская компания Meta** заявила, что исследование носит предвзятый характер, а часть продемонстрированного контента соответствует категории юмора, допустимого для аудитории 13+.

Однако журналист, повторивший эксперимент, подтвердил выводы исследователей: уже в течение первых 10 минут после регистрации в рекомендательной ленте появилось видео с человеком, потерявшим сознание после употребления алкоголя, а также реклама жевательных никотиновых продуктов.
 
Организаторы эксперимента отмечают, что подростки, безусловно, не являются наивными и знакомы с темами сексуальности и зависимостей. Однако алгоритмы Instagram* ежедневно навязывают им подобный контент в концентрированной форме.

Такой подход, считают исследователи, способствует формированию опасного ощущения нормы.

Всерьез рассуждать о том, что Meta** якобы не знает, как Instagram* разрушает психику детей – даже не хочется. Они все прекрасно видят и читают: и внутренние отчеты о росте тревожности, и статистику по пищевым расстройствам, и данные о снижении самооценки у подростков. Но что они с этим делают? Верно, ничего. Вместо этого продолжают клепать новые алгоритмы, чтобы дети бесконечно залипали в этой беспощадной ленте, которая ведет к полной деградации, – отметил общественный деятель и правозащитник, председатель Общероссийского общественного движения «Гражданский комитет России» Артур Шлыков.

На карточке Шлыков назвал главную причину, почему эту платформу необходимо покинуть 👆🏻

Источник: Ruposters

#IT_News #алгоритмы #Meta**

* Компания-владелец Meta признана экстремистской и запрещена в РФ

** Признана экстремистской и запрещена в РФ

Подписаться

Суд в Германии позволил Meta* продолжать обучение своего ИИ на открытых данных пользователей Facebook** и Instagram**

Суд отклонил требование инициативной группы срочно приостановить обработку данных, постановив, что подход компании соответствует требованиям европейского законодательства GDPR.

Это вызывает беспокойство, поскольку теперь личные сведения, такие как имя, фото и история активности, могут использоваться для совершенствования ИИ-продуктов компании. Meta* уже начала собирать информацию для своих языковых моделей и чат-бота Meta* AI.

После запуска процесса обучения вернуть назад эти данные фактически невозможно, так как вся введенная информация встроится в структуру алгоритмов и останется там навсегда.
 

Стремление Meta* собирать пользовательские данные бесплатно не вызывает удивления – это стандартная практика для многих технологических компаний. Однако неожиданным стало решение суда Германии. Европейский Союз всегда славился строгим подходом к защите персональных данных, о чем свидетельствует история многомиллионных штрафов в адрес ИТ-гигантов. Но в этот раз суд занял неожиданно мягкую позицию, – прокомментировал общественный деятель и правозащитник, председатель Общероссийского общественного движения «Гражданский комитет России» Артур Шлыков.

На карточке он пояснил, с чем может быть связано такое «мягкое» решение суда 👆🏻
 

Теперь, когда угроза ухода ИТ-гигантов стала более реальной, ЕС, похоже, начал искать компромиссы. Будь у Европы собственные технологические решения, переговоры велись бы с совершенно других позиций – как, например, это происходит в России, – добавил он.

#IT_News #Meta* #ИИ #алгоритмы
 
* Признана экстремистской организацией и запрещена в РФ

** Материнская компания Meta признана экстремистской организацией и запрещена в РФ

Подписаться