Forwarded from Атлас амбиций
ИИ справляется с пропагандой лучше, чем человек
Дебаты по поводу возможностей ИИ (и нейросетей) подтолкнули меня к анализу его эффективности в сфере, которая напрямую связана с воздействием на людей.
СМИ.
Ученые из США доказали, что ИИ позволяет не только быстро и и дешево публиковать пропагандистские статьи, но и гораздо лучше доносить до аудитории тезисы пропагандистов, чем это сделал бы человек.
Исследователи устроили соц. опрос, предоставив респондентам тексты, полностью составленные людьми, и тексты, с похожими пропагандистскими тезисами, но сгенерированными GPT-3 davinci.
Оказалось, что 47.4% опрошенных граждан США поверили тезисам пропаганды., составленной человеком.
А в пропаганду, сгенерированную нейросетью, поверило 43.5% опрошенных.
Дальше больше.
Исследователи стали отбирать сгенерированные тексты GPT-3, чтобы повысить доверие опрошенных к пропагандистским текстам.
Выяснилось, что нейросеть, в отличие от людей, владевших английским как иностранным, гораздо лучше справляется с написанием английского текста.
Респонденты признали, что сгенерированный текст гораздо лучше написан, и не допускал орфографических ошибок.
А отбор наилучших тезисов GPT-3 позволил увеличить доверие опрошенных к пропаганде до 52.7%!
Выводы, которые можно сделать в результате исследования, удручающие.
Объем и доверие к пропаганде будет только возрастать в XXI веке, так как нейросеть позволяет не только генерировать больше статей и постов, масштабируя вводящий в заблуждение контент.
Но и создавать иллюзорную поддержку пропагандистских тезисов, имитируя стиль общения реальных людей.
А отделить правду от вымысла будет невозможно, так как сэкономленные ресурсы СМИ будут направлять на создание инфраструктуры, поддерживающей доверие к новостям.
Josh A. Goldstein. How persuasive is AI-generated propaganda? 2024.
#ИИ #ТехническийПрогресс #Медиа
Дебаты по поводу возможностей ИИ (и нейросетей) подтолкнули меня к анализу его эффективности в сфере, которая напрямую связана с воздействием на людей.
СМИ.
Ученые из США доказали, что ИИ позволяет не только быстро и и дешево публиковать пропагандистские статьи, но и гораздо лучше доносить до аудитории тезисы пропагандистов, чем это сделал бы человек.
Исследователи устроили соц. опрос, предоставив респондентам тексты, полностью составленные людьми, и тексты, с похожими пропагандистскими тезисами, но сгенерированными GPT-3 davinci.
Оказалось, что 47.4% опрошенных граждан США поверили тезисам пропаганды., составленной человеком.
А в пропаганду, сгенерированную нейросетью, поверило 43.5% опрошенных.
Дальше больше.
Исследователи стали отбирать сгенерированные тексты GPT-3, чтобы повысить доверие опрошенных к пропагандистским текстам.
Выяснилось, что нейросеть, в отличие от людей, владевших английским как иностранным, гораздо лучше справляется с написанием английского текста.
Респонденты признали, что сгенерированный текст гораздо лучше написан, и не допускал орфографических ошибок.
А отбор наилучших тезисов GPT-3 позволил увеличить доверие опрошенных к пропаганде до 52.7%!
Выводы, которые можно сделать в результате исследования, удручающие.
Объем и доверие к пропаганде будет только возрастать в XXI веке, так как нейросеть позволяет не только генерировать больше статей и постов, масштабируя вводящий в заблуждение контент.
Но и создавать иллюзорную поддержку пропагандистских тезисов, имитируя стиль общения реальных людей.
А отделить правду от вымысла будет невозможно, так как сэкономленные ресурсы СМИ будут направлять на создание инфраструктуры, поддерживающей доверие к новостям.
Josh A. Goldstein. How persuasive is AI-generated propaganda? 2024.
#ИИ #ТехническийПрогресс #Медиа