Linkedin-in
Управление инцидентами
Инновационная платформа IBM управление и защита ИИ‑агентов - ICORE
_

Инновационная платформа IBM: управление и защита ИИ‑агентов

Введение

IBM представила первую в отрасли комплексную платформу, объединяющую безопасность и управление для автономных ИИ‑агентов, работающих в корпоративной среде. Этот шаг призван решить ключевые вызовы, связанные с использованием ИИ в автоматизации, включая проблемы «теневых» агентов, непредсказуемого поведения и соответствия регулятивным требованиям.

Описание

Новая платформа объединяет функциональность watsonx.governance и Guardium AI Security, обеспечивая прозрачность, защиту и контроль на всех этапах жизненного цикла ИИ‑агентов — от создания и обучения до эксплуатации и вывода из эксплуатации.

Почему это важно

ИИ‑агенты становятся частью процессов: автоматизируют запросы, управляют документооборотом и принимают решения. При этом возникают риски безопасности, этики, контроля. Более 45% организаций уже сталкивались с теневыми агентами.

Ключевые компоненты

    1. Governed Agentic Catalog — централизованное хранилище агентов.
    2. Мониторинг производительности — точность, надёжность, прозрачность.
    3. Red Team и анализ угроз — шаблоны и автоматические проверки.
    4. Контроль соответствия — 12+ фреймворков (EU AI Act, ISO/IEC 42001 и др.).
    5. Интеграция с AllTrue.ai — обнаружение теневых агентов.
    6. Интеграция с SOC, SIEM, SOAR — автоматизация и сценарии реагирования.

Потенциал для бизнеса

IBM предоставляет первую в мире AgentOps платформу. Обеспечивается контроль, видимость и соответствие. Поддержка AWS (в т.ч. Индия, ЕС, США).

Рекомендации

    1. Провести аудит ИИ-инфраструктуры.
    2. Внедрить централизованное хранилище.
    3. Настроить автоматические тесты.
    4. Включить мониторинг моделей.
    5. Обновлять сценарии реагирования.

Источник:
https://newsroom.ibm.com/2025-06-18-ibm-introduces-industry-first-software-to-unify-agentic-governance-and-security

Перевод и адаптация:
Герасименко Иван