Компания OpenAI заблокировала группу аккаунтов, предположительно связанных с Китаем, которые использовали искусственный интеллект для вмешательства во внутренние дискуссии США. Основными темами для манипуляций стали строительство центров обработки данных (ЦОД) и введение торговых пошлин на импорт. Злоумышленники пытались использовать ChatGPT для обострения существующих социальных противоречий.
Методы и цели дезинформационной кампании
В ходе расследования были выявлены две операции под кодовыми названиями Data Center Bandwagon и Tech and Tariffs. По данным OpenAI, для создания контента использовались языковые модели, которые генерировали:
- политические посты и комментарии для социальных сетей;
- сатирические карикатуры;
- тексты, имитирующие мнение рядовых граждан.
Целью кампании было усиление разногласий внутри американского общества путем привлечения внимания к спорным вопросам. В обзоре отмечается, что, несмотря на усилия, китайским аккаунтам не удалось добиться значительного охвата или широкого резонанса среди реальных пользователей.
Эксплуатация социальных проблем
Согласно отчету OpenAI, за операцией против строительства серверных ферм стоял подрядчик китайского правительства. Публикации фокусировались на темах, которые и без того вызывают беспокойство у населения: нагрузке на электросети, росте цен на электроэнергию и чрезмерном потреблении воды инфраструктурными объектами. В регионах, где планировалось строительство ЦОД, искусственно раздувались опасения жителей, чтобы вызвать протестные настроения.
Это первый зафиксированный случай использования моделей OpenAI в рамках китайской кампании по оказанию иностранного влияния. Ранее группа американских политиков призывала ФБР расследовать деятельность противников дата-центров, указывая на подозрительное сходство аргументов и лозунгов, используемых активистами в разных штатах.
Реакция экспертов и последствия
Специалисты подчеркивают, что использование ИИ иностранными государствами для капитализации на политических проблемах становится серьезным вызовом. При этом аналитики отмечают, что деятельность внешних сил лишь накладывается на вполне реальные проблемы местных сообществ, связанные с экологическим и экономическим влиянием крупных технологических проектов.
Представители OpenAI заявили, что продолжат совершенствовать методы обнаружения подобных кампаний, чтобы предотвратить использование своих технологий для скрытого влияния на общественное мнение и демократические процессы.
