Компания Itglobal.com (корпорация ITG) расширяет тестирование собственного ИИ-файрвола — модуля безопасности для сервиса AIaaS. Решение контролирует обмен данными между корпоративными приложениями, языковыми моделями и ИИ-агентами и призвано снижать риск утечки конфиденциальной информации и предотвращать несанкционированные действия агентов.
На последнем этапе команда провела 625 проверок со сценариями атак, обычными рабочими запросами и сравнением режимов защиты. Программа испытаний охватывает несколько сотен вариантов потенциальных атак: попытки обойти ограничения моделей, внедрение скрытых инструкций в документы и переписку, передачу паролей, ключей доступа и персональных данных. Особое внимание уделяется безопасности ИИ-агентов, взаимодействующих с корпоративными системами через инструменты и протокол MCP.
В одной из контрольных серий из 110 смоделированных атак шести категорий модуль заблокировал все. Отдельную выборку из 100 обычных рабочих запросов он обработал без ложных блокировок. После расширения набора сценариев разработчики выявили дополнительные ограничения, которые учитывают при доработке.
Проверяется не только программный код, но и работа системы с реальными языковыми моделями, интерфейсом Open WebUI и сетевыми MCP-клиентами. Помимо обнаружения угроз оцениваются производительность, управление доступом, корректность обновлений, восстановление после сбоев и передача событий безопасности. Каждый сценарий проходит два режима — наблюдения и активной блокировки, что позволяет оценить эффективность обнаружения и влияние на повседневную работу сотрудников.
Вице-президент по облачным сервисам Itglobal.com корпорации ITG Евгений Свидерский отметил, что заказчику важно, чтобы решение не только находило атаки, но и не мешало работе приложений и агентов. По его словам, компания продолжает расширять программу тестирования, проверяет новые способы обхода ограничений и уделяет особое внимание ложным срабатываниям.
В дальнейшем Itglobal.com планирует проводить испытания на реальных задачах заказчиков. Режим наблюдения даст возможность заранее оценить потенциальные угрозы и настроить политики безопасности до включения активной блокировки. ИИ-файрвол дополнит платформу AIaaS, которая предоставляет компаниям доступ к российским и зарубежным языковым моделям через единый API, средствами контроля ИИ-трафика, защиты данных и управления безопасностью агентных систем.