Ученые из США доказали, что ИИ позволяет не только быстро и дешево публиковать пропагандистские статьи, но и гораздо лучше доносить до аудитории тезисы пропагандистов, чем это сделал бы человек. Исследователи устроили соцопрос, предоставив респондентам тексты, полностью составленные людьми, и тексты, с похожими пропагандистскими тезисами, но сгенерированными GPT-3 davinci.
Оказалось, что 47.4% опрошенных граждан США поверили тезисам пропаганды., составленной человеком. А в пропаганду, сгенерированную нейросетью, поверило 43.5% опрошенных.
Дальше больше. Исследователи стали отбирать сгенерированные тексты GPT-3, чтобы повысить доверие опрошенных к пропагандистским текстам. Выяснилось, что нейросеть, в отличие от людей, владевших английским как иностранным, гораздо лучше справляется с написанием английского текста. Респонденты признали, что сгенерированный текст гораздо лучше написан, и не допускал орфографических ошибок. А отбор наилучших тезисов GPT-3 позволил увеличить доверие опрошенных к пропаганде до 52.7%!
Выводы, которые можно сделать в результате исследования, удручающие. Объем и доверие к пропаганде будет только возрастать в XXI веке, так как нейросеть позволяет не только генерировать больше статей и постов, масштабируя вводящий в заблуждение контент, но и создавать иллюзорную поддержку пропагандистских тезисов, имитируя стиль общения реальных людей. А отделить правду от вымысла будет невозможно, так как сэкономленные ресурсы СМИ будут направлять на создание инфраструктуры, поддерживающей доверие к новостям.
Josh A. Goldstein. How persuasive is AI-generated propaganda? 2024.
Dialektik