The Guardian: Новый генератор текстовых фейков на основе ИИ может быть крайне опасным
Любая технологическая инновация имеет две стороны, и столь популярное в последние годы машинное обучение не стало исключением. О жутковатом распознавании лиц, способном "вычислить" искомого человека в любой точке пространства, где есть камера, слышали многие. Затем было "фейк-порно", когда машину научили генерировать ультрареалистичные порноролики, подставляя в них лица голливудских звёзд. Но разработчики идут дальше: безжалостной машине мало генерировать человеческую внешность и голос, теперь она способна писать тексты практически любой сложности, любого стиля, на произвольную тематику. Программа оказалась столь продвинутой, что её авторы отказались предоставлять её копию на рецензию, опасаясь, что она попадёт в руки злоумышленникам.
"Чтобы продемонстрировать отдельные возможности, OpenAI создали версию программы GPT2 с несколькими скромными изменениями, которые можно использовать для создания бесконечных положительных или отрицательных отзывов о продуктах. Спам и фальшивые новости — два других очевидных варианта. Поскольку система обучается в Интернете, нетрудно настроить её для генерации фанатичных текстов, теорий заговора и так далее".
https://theidealist.ru/aifaketext/
#TheGuardian #технологии #общество #ИИ #тексты #фейки #fakenews #Маск #GPT2
Любая технологическая инновация имеет две стороны, и столь популярное в последние годы машинное обучение не стало исключением. О жутковатом распознавании лиц, способном "вычислить" искомого человека в любой точке пространства, где есть камера, слышали многие. Затем было "фейк-порно", когда машину научили генерировать ультрареалистичные порноролики, подставляя в них лица голливудских звёзд. Но разработчики идут дальше: безжалостной машине мало генерировать человеческую внешность и голос, теперь она способна писать тексты практически любой сложности, любого стиля, на произвольную тематику. Программа оказалась столь продвинутой, что её авторы отказались предоставлять её копию на рецензию, опасаясь, что она попадёт в руки злоумышленникам.
"Чтобы продемонстрировать отдельные возможности, OpenAI создали версию программы GPT2 с несколькими скромными изменениями, которые можно использовать для создания бесконечных положительных или отрицательных отзывов о продуктах. Спам и фальшивые новости — два других очевидных варианта. Поскольку система обучается в Интернете, нетрудно настроить её для генерации фанатичных текстов, теорий заговора и так далее".
https://theidealist.ru/aifaketext/
#TheGuardian #технологии #общество #ИИ #тексты #фейки #fakenews #Маск #GPT2
The New York Times: Теории заговора на Youtube. Как остановить поток дезинформации?
Последние годы Youtube и другие популярные блог-платформы громогласно заявляют о беспощадной борьбе с фейковыми новостями и распространителями ложной информации. Уже забанен везде где только можно неистовый Алекс Джонс, сомнительные ролики получают от администраторов пояснения, а новые алгоритмы рекомендаций отдают предпочтения "проверенным спикерам". Но некоторые специалисты считают, что проблему надо решать более радикальным способом, меняя законодательство, а в популярности "фейков" виноват сам Youtube, алгоритмы рекомендаций которой ранее были настроены таким образом, чтобы максимизировать время, проведённое пользователем на платформе. В результате мы получили супервлиятельных звёзд, популярность которых построена на фейковых новостях, и возглавляющих многомиллионную армию "зомбированных" поклонников.
"Часть проблемы для таких платформ, как YouTube и Facebook, которые также обязались устранить дезинформацию, способную нанести реальный ущерб, заключается в том, что определение «вредной» дезинформации является сложным. Не существует внутренней причины, по которой видео, ставящее под сомнение официальную версию 9/11, более опасно, чем видео, в котором говорится о существовании НЛО или снежного человека. Теория заговора вредна, если она причиняет вред - в этот момент платформам уже слишком поздно действовать. Рассмотрим, к примеру, утверждение г-на Джонса о том, что массовая стрельба в начальной школе Сэнди Хук в 2012 году была обманом, совершенным сторонниками ограничения владения оружием. Эта теория, сначала отвергнутая как возмутительная, приобрела новую серьезность после того, как сторонники г-на Джонса начали преследовать скорбящих родителей жертв. Или возьмём Pizzagate, правую теорию заговора, утверждающую, что Хиллари Клинтон и другие демократы тайно управляли сетью детской проституции. Теория, которая распространялась в различных видеороликах на YouTube и других платформах, могла бы остаться приколом из Интернета. Но она приобрела угрожающие черты, когда её последователь появился в пиццерии в Вашингтоне, округ Колумбия, со штурмовой винтовкой, поклявшись спасти детей, которых он считал запертыми в подвале."
https://theidealist.ru/youtubeconspiracy/
#NYTimes #общество #youtube #соцсети #заговор #fakenews #фейки #IPhone #Доусон #Джонс #Infowars #Pizzagate
Последние годы Youtube и другие популярные блог-платформы громогласно заявляют о беспощадной борьбе с фейковыми новостями и распространителями ложной информации. Уже забанен везде где только можно неистовый Алекс Джонс, сомнительные ролики получают от администраторов пояснения, а новые алгоритмы рекомендаций отдают предпочтения "проверенным спикерам". Но некоторые специалисты считают, что проблему надо решать более радикальным способом, меняя законодательство, а в популярности "фейков" виноват сам Youtube, алгоритмы рекомендаций которой ранее были настроены таким образом, чтобы максимизировать время, проведённое пользователем на платформе. В результате мы получили супервлиятельных звёзд, популярность которых построена на фейковых новостях, и возглавляющих многомиллионную армию "зомбированных" поклонников.
"Часть проблемы для таких платформ, как YouTube и Facebook, которые также обязались устранить дезинформацию, способную нанести реальный ущерб, заключается в том, что определение «вредной» дезинформации является сложным. Не существует внутренней причины, по которой видео, ставящее под сомнение официальную версию 9/11, более опасно, чем видео, в котором говорится о существовании НЛО или снежного человека. Теория заговора вредна, если она причиняет вред - в этот момент платформам уже слишком поздно действовать. Рассмотрим, к примеру, утверждение г-на Джонса о том, что массовая стрельба в начальной школе Сэнди Хук в 2012 году была обманом, совершенным сторонниками ограничения владения оружием. Эта теория, сначала отвергнутая как возмутительная, приобрела новую серьезность после того, как сторонники г-на Джонса начали преследовать скорбящих родителей жертв. Или возьмём Pizzagate, правую теорию заговора, утверждающую, что Хиллари Клинтон и другие демократы тайно управляли сетью детской проституции. Теория, которая распространялась в различных видеороликах на YouTube и других платформах, могла бы остаться приколом из Интернета. Но она приобрела угрожающие черты, когда её последователь появился в пиццерии в Вашингтоне, округ Колумбия, со штурмовой винтовкой, поклявшись спасти детей, которых он считал запертыми в подвале."
https://theidealist.ru/youtubeconspiracy/
#NYTimes #общество #youtube #соцсети #заговор #fakenews #фейки #IPhone #Доусон #Джонс #Infowars #Pizzagate
Эмма Франс: как читать новости как ученый
Фейк-ньюс – одна из самых серьёзных проблем современных медиа. Сенсации распространяются в социальных сетях подобно пожару в сухом лесу, а для некоторых журналистов скорость сообщения информации важнее её качества. Как быть, кому верить, как отличить правду от лжи? Эпидемиолог Эмма Франс предлагает использовать для анализа информации те же подходы, которые используют учёные в научных исследованиях. Это, конечно, не даст стопроцентных гарантий разоблачения фейка, но здорово снизит общий вред от информационного шума вокруг.
«В науке исследователи должны объявлять о потенциальных конфликтах интересов, прежде чем публиковать свои выводы» - рассказывает Франс. Когда вы сталкиваетесь с новым утверждением, ищите конфликт интересов. Задайтесь вопросом: получают ли авторы выгоду от того, что говорят? Связаны ли они с организацией, которая может повлиять на них? Два других важных вопроса: насколько автор или оратор квалифицирован в обсуждении темы? Какие заявления они делали в прошлом?»
https://theidealist.ru/antifake/
#TED #ЭммаФранс #человек #наука #новости #соцсети #психология #мышление #fakenews
Фейк-ньюс – одна из самых серьёзных проблем современных медиа. Сенсации распространяются в социальных сетях подобно пожару в сухом лесу, а для некоторых журналистов скорость сообщения информации важнее её качества. Как быть, кому верить, как отличить правду от лжи? Эпидемиолог Эмма Франс предлагает использовать для анализа информации те же подходы, которые используют учёные в научных исследованиях. Это, конечно, не даст стопроцентных гарантий разоблачения фейка, но здорово снизит общий вред от информационного шума вокруг.
«В науке исследователи должны объявлять о потенциальных конфликтах интересов, прежде чем публиковать свои выводы» - рассказывает Франс. Когда вы сталкиваетесь с новым утверждением, ищите конфликт интересов. Задайтесь вопросом: получают ли авторы выгоду от того, что говорят? Связаны ли они с организацией, которая может повлиять на них? Два других важных вопроса: насколько автор или оратор квалифицирован в обсуждении темы? Какие заявления они делали в прошлом?»
https://theidealist.ru/antifake/
#TED #ЭммаФранс #человек #наука #новости #соцсети #психология #мышление #fakenews