Эта статья основана на результатах 2025 Bitdefender Cybersecurity Assessment — крупного опроса специалистов по ИТ и безопасности, в котором участвовали 1 200 профессионалов из 6 стран.

Рост числа атак с участием ИИ

Новое исследование показывает, что всё больше организаций сталкиваются с атаками, в которых используется искусственный интеллект.
63 % респондентов — ИТ и ИБ-профессионалов — сообщили, что их организация пережила кибератаку, связанную с ИИ за последние 12 месяцев.

Распределение по странам:

• США — 74 %
• Сингапур — 71 %
• Германия — 67 %
• Великобритания — 62 %
• Италия — 55 %
• Франция — 52 %

Какие опасения вызывает ИИ в ИТ и кибербезопасности

Опрос попросил специалистов перечислить основные риски, связанные с ИИ. Ответы распределились на внешние и внутренние угрозы:

Внешние риски:

• вредоносные программы с ИИ;
• фишинг и социальная инженерия, усиленные ИИ;
• атаки, которые обходят традиционные средства защиты.

Внутренние риски:

• поспешное внедрение ИИ без надлежащей оценки рисков;
• утечки данных через большие языковые модели (Large Language Models, LLM).

Что видят эксперты Bitdefender на «киберполе»

Реальный взгляд на автоматизацию атак

Sean Nikkel, руководитель Cyber Intelligence Fusion Cell в Bitdefender, отмечает, что массовой автоматизации атак с помощью ИИ пока нет — злоумышленники всё ещё в основном используют свои обычные инструменты и команды.

Тем не менее ИИ уже помогает:

• Существуют так называемые «злые» LLM, рекламируемые в тёмных и закрытых сетях.
• Есть инструменты на основе ИИ, которые помогают совершенствовать фишинговые атаки.

ИИ улучшает социальную инженерию

Martin Zugec, директор технических решений Bitdefender, отмечает, что ИИ повышает качество фишинга. Генеративные модели помогают формировать сообщения без грамматических ошибок и странных формулировок, которые раньше помогали выявлять мошеннические письма.

Внутренние риски и утечки данных через ИИ

Nick Jackson, директор службы кибербезопасности Bitdefender, выделяет внутренние риски:

• Многие организации не используют корпоративные версии ИИ-инструментов, сотрудники вводят туда чувствительные данные, которые затем оказываются вне зоны контроля компании.

Это увеличивает риск утечки информации и снижает возможность контролировать её конфиденциальность.

Пример угрозы: FunkSec — группа, выросшая с помощью ИИ

Во время обсуждения эксперты упомянули группу FunkSec — вымогателей, которые использовали ИИ, чтобы успешно атаковать, даже не зная, с чего начать.

По словам Zugec, участники группы искали помощь на форумах и в итоге нашли её через ИИ-инструменты, что позволило им провести атаки.

ИИ — это «двусторонний меч»

Результаты опроса также отражают двойственную природу ИИ:

✔️ 51 % профессий считают угрозы, порождённые ИИ, одним из главных беспокойств.
✔️ Но одновременно ИИ приносит существенные преимущества защитникам:

• ускоряет обнаружение угроз;
• оптимизирует ответы на инциденты;
• улучшает приоритизацию срабатываний.

Пример инновации — Bitdefender GravityZone PHASR

Одним из примеров положительного применения ИИ для защиты эксперты компании называют Bitdefender GravityZone PHASR — систему, которая:

• использует большие языковые модели;
  создаёт индивидуальные настройки безопасности для каждой комбинации устройства и пользователя;
  помогает предотвратить использование легитимных инструментов в вредоносных целях и сокращает пути распространения программ-вымогателей.

Это один из примеров, как ИИ используется не для атак, а для усиления защитных механизмов.

Итог

Исследование Bitdefender показывает, что ИИ-подкреплённые кибератаки становятся всё более распространёнными, и об этом свидетельствует большинство организаций в разных странах. Однако ИИ также помогает усиливать защиту, ускоряя обнаружение угроз и реагирование, а применение генеративных моделей в ИБ не ограничивается только атаками.

Ссылки на источники:
https://www.bitdefender.com/en-us/blog/businessinsights/research-ai-cyberattacks-target-majority-organizations

Автор:
Bruce Sussman