3 рекомендации по внедрению генеративного ИИ для киберзащиты

За последние полтора года генеративный ИИ (gen AI) превратился из источника потрясающих демонстраций в главный стратегический приоритет практически в каждой отрасли. Большинство руководителей компаний сообщают, что испытывают необходимость инвестировать в gen AI. Команды разработчиков сейчас пытаются внедрить искусственный интеллект в свои решения и сервисы. ЕС и США начинают внедрять новые нормативные базы для управления рисками, связанными с искусственным интеллектом.

На фоне всей этой суматохи хакеры и другие киберпреступники вряд ли остаются в стороне. Они рассматривают возможность использования искусственного интеллекта для любых целей – от улучшения грамматики фишинговых сообщений до изучения способов подделки видео и аудио с целью обмана или вымогательства денег у жертв.  Они также ищут способы атаковать те самые модели искусственного интеллекта, в которые компании активно инвестируют.

Если вы являетесь директором CISO или любым другим специалистом по безопасности, самое время начать оценку gen AI прямо сейчас. В недавнем официальном документе Шридхар Маппиди, технический директор IBM по программному обеспечению безопасности, изложил пять ключевых рекомендаций по оценке использования gen AI для защиты от кибератак. Вот краткий обзор некоторых из этих рекомендаций.

Используйте gen AI для поиска угроз и реагирования на них

Маппиди отмечает, что по мере того, как злоумышленники будут все шире использовать искусственный интеллект, их атаки будут становиться все более массированными, уклончивыми и адаптивными. Специалистам по безопасности необходимо будет адаптироваться, используя эту технологию в своих интересах. Искусственный интеллект и машинное обучение уже могут повысить эффективность работы служб безопасности.

Например, решения для управления информацией о безопасности и событиями на базе искусственного интеллекта (SIEM) могут помочь аналитикам определить приоритетность обнаруженных рисков. Они помогают аналитикам минимизировать внимание к ложным срабатываниям и позволяют им сосредоточиться на имеющихся критических угрозах. Решения с поддержкой искусственного интеллекта позволят добиться гораздо большего, в том числе ускорить поиск угроз с помощью поиска на естественном языке, создавать программы обнаружения угроз и реагирования на них, а также расширить возможности аналитиков с помощью чат-ботов на естественном языке. Все эти решения, основанные на искусственном интеллекте, могут устранить проблемы, с которыми сталкивается человек, и значительно повысить эффективность системы безопасности – быстрее реагировать и делать больше с меньшими затратами.

Оценивайте gen AI, исходя из того, сколько времени он экономит защитникам.

В ближайшие год-два директора CISO и их команды могут быть завалены множеством предложений от поставщиков систем безопасности, которые будут рекламировать преимущества их конкретной технологии, основанной на искусственном интеллекте. Как вы просматриваете все эти описания продуктов и демонстрации, чтобы выбрать то, что окажет наибольшее влияние на ваш центр управления безопасностью (ОЦИБ)?

Мы рекомендуем сосредоточиться на экономии времени. Время имеет решающее значение для каждого подразделения. Известно, что в подразделениях не хватает персонала. Аналитики перегружены работой и часто разочарованы. Все, что экономит время аналитиков — будь то время, затрачиваемое на ручное расследование инцидентов, выявление ложных срабатываний или составление отчетов об инцидентах, — стоит того, чтобы занять первое место в вашем списке приоритетов.

Испытайте доверие к поставщикам искусственного интеллекта нового поколения

Первые продукты этого поколения, скорее всего, не отличаются высокой степенью понимания одного из них – уверенности. Доверяете ли вы поставщику, продающему вам это решение для обеспечения кибербезопасности? Есть ли у поставщика система защиты данных, модели и использования искусственного интеллекта? Среди вопросов, которые вам следует задать поставщику:

• На каких данных была построена ваша модель?
• Скажите, пожалуйста, что вы думаете о том, как вы работаете каждый день?
• Могу ли я оценить их в своей собственной среде, чтобы увидеть, как они работают, прежде чем внедрять их?

Какими бы впечатляющими ни казались сегодня продукты gen AI, и поскольку их присутствие присутствует практически во всех темах разговоров, эта технология все еще находится в зачаточном состоянии, особенно в области кибербезопасности. Каждый месяц анонсируются новые модели и технологии. По этой причине крайне важно, чтобы вы спросили поставщика об их собственных целях в отношении продукта. Вам следует задать этот вопрос напрямую:

• Сколько вы инвестируете в развитие искусственного интеллекта в своих продуктах?
• Есть ли у вас специальная команда, занимающаяся оценкой и разработкой искусственного интеллекта для обеспечения кибербезопасности?
• Кто еще использует ваше решение TDIR?

По мере того, как ваша организация будет внедрять gen AI в свою цепочку поставок, обслуживание клиентов, маркетинг, отдел кадров, разработку продуктов и другие операции, возможности для атаки будут расти. Итак, вам нужно будет использовать те же возможности gen AI для защиты ваших данных, моделей и использования ИИ.

В чем суть? Когда злоумышленники используют gen AI, ваша лучшая стратегия – бороться с огнем тоже огнем.

Чтобы более подробно ознакомиться с рекомендациями Маппиди по внедрению gen AI для киберзащиты, загрузите “5 критериев оценки генеративного ИИ в управлении угрозами”.

Источник:
https://securityintelligence.com/posts/3-recommendations-generative-ai-cyber-defense/

Автор:
Джон Беннетт
Технический обозреватель