Лингвистические механизмы генерации фейковых новостей при помощи искусственного интеллекта

Аннотация

С 2022 года наблюдается активное внедрение искусственного интеллекта во все сферы человеческой деятельности. С одной стороны, это явление способствует упрощению выполнения многих задач, с другой – перед человечеством возникают новые вызовы. Применение генеративных нейронных сетей для мгновенного создания текстов и медиаконтента увеличивает риски распространения ложной информации и усугубляет проблемы, связанные с верификацией представляемых данных. Цель настоящей статьи заключается в рассмотрении особенностей создания фейковых новостей в медиапространстве. Предметом исследования выступают лингвистические механизмы генерации фейков при помощи искусственного интеллекта. Материалом служат тексты, созданные нейросетями на русском и испанском языках. В работе используются такие методы, как эксперимент по созданию фейковых новостей посредством искусственного интеллекта, дискурс-анализ, контекстуальный и сопоставительный анализ сгенерированных текстов. Характеризуемые тексты показали, что недостоверное сообщение о человеке возможно для любой генеративной модели, учитывающей только ключевые слова. Для генерации новостного события сети используют общеизвестную информацию разных лет, нарушая тем самым принцип хронотопа. При формировании «новости» сети применяют механизм привлечения авторитетного мнения, анонимных научных исследований, научной терминологии, благодаря чему информация кажется правдоподобной. Российские нейросети «Шедеврум» и GigaChat обладают собственными ограничителями, например при создании фейкового контента как о российских, так и о зарубежных политических деятелях. В работе ChatGPT прослеживается наличие системы опознавания «свой – чужой», т. е. в программу обучения генеративной нейросети компании OpenAI вшита субъективная оценка острых политических тем, разделяемая большинством стран коллективного Запада.