С момента широкого распространения ChatGPT в конце 2022 года возможности генеративного искусственного интеллекта по созданию убедительных текстов привлекли пристальное внимание киберпреступников. Новые инструменты позволяют автоматизировать как массовые рассылки спама, так и сложные целевые атаки, направленные на кражу конфиденциальных данных и денежных средств.
Новые инструменты в руках злоумышленников
Сегодня преступники используют ИИ для решения широкого спектра задач, значительно повышая эффективность своих действий. В обзоре отмечается, что технологии применяются для:
- Написания персонализированных фишинговых писем, которые крайне сложно отличить от официальной переписки.
- Создания гиперреалистичных дипфейков — поддельных аудио- и видеоматериалов для введения жертв в заблуждение.
- Модификации вредоносного программного обеспечения с целью сделать его невидимым для антивирусных систем.
- Автоматизированного поиска уязвимостей в корпоративных сетях и компьютерных системах.
- Анализа массивов украденных данных для быстрого поиска наиболее ценной информации.
Масштабируемость и глобальные риски
Искусственный интеллект существенно снизил порог входа для начинающих хакеров, предоставив им доступ к постоянно развивающемуся арсеналу средств нападения. По данным экспертов, мошеннические центры в Юго-Восточной Азии активно внедряют недорогие ИИ-инструменты для охвата большего числа потенциальных жертв и оперативной смены тактики. Аналогичные угрозы фиксируются по всему миру: власти Объединенных Арабских Эмиратов недавно заявили о предотвращении серии атак на критически важные сектора экономики, в которых использовались технологии ИИ.
Опасность заключается в том, что при колоссальных масштабах рассылок атакам не обязательно быть высокотехнологичными. Преступникам достаточно найти незащищенное устройство или неопытного пользователя, который случайно откроет вредоносное вложение.
Гонка вооружений: нападение против защиты
Ситуация осложняется по мере совершенствования общедоступных нейросетей. В начале текущего месяца компания Anthropic сообщила о результатах тестирования своей новой модели Mythos. ИИ смог обнаружить тысячи критических уязвимостей, в том числе во всех основных операционных системах и веб-браузерах. Хотя выявленные ошибки уже исправлены, компания приняла решение отложить публичный релиз модели и инициировала создание консорциума Project Glasswing для разработки защитных механизмов.
Несмотря на растущие риски, ИИ также становится главным инструментом обороны. По данным тестирования и внутренней статистики крупнейших технологических компаний, ИИ-системы позволяют эффективно противодействовать угрозам:
- Системы безопасности Microsoft ежедневно обрабатывают более 100 триллионов сигналов, выявляя подозрительную активность.
- В период с апреля 2024 года по апрель 2025 года компании удалось заблокировать мошеннические транзакции и операции на общую сумму 4 миллиарда долларов.
Специалисты по кибербезопасности сохраняют умеренный оптимизм, отмечая, что базовые меры защиты, такие как регулярное обновление программного обеспечения и строгое соблюдение сетевых протоколов, все еще позволяют отражать большинство массовых атак. Однако эффективность противостояния более сложным угрозам в будущем будет напрямую зависеть от развития оборонительных ИИ-технологий.
