Как проверить ИИ-агента, который сам решает, что и как взламывать?

На полигоне Standoff 365 ИИ-агенту дали одну команду: «Забери домен». Вместо ожидаемого пути атаки он нашёл собственный, выполнил DCSync и получил хеши пользователей. И всё это без подробных инструкций.

ИИ-агент может выполнить задачу, но совсем не так, как рассчитывали разработчики. Как проверить его возможности и ограничения до запуска в реальной инфраструктуре? И что делать, если агент начинает действовать непредсказуемо?

Олег Иванов, технический директор платформы Standoff 365 в Positive Technologies, рассказывает, как на полигонах испытывают атакующих и защитных ИИ-агентов, какие проблемы обнаруживают и почему успешного демо недостаточно для доверия технологии.

В открытой студии AM Live на Positive Security Day 2026 обсудили:

◽️ Автономные атаки ИИ-агентов. Как проходили соревнования по вайбхакингу, что агенты уже умеют делать без человека и насколько предсказуемы их действия.

◽️ Испытания защитных ИИ-технологий. Как проверяют устойчивость защитных модулей к взлому, что показывают результаты атак и почему скорость реакции важнее попыток определить, кто атакует: человек или ИИ.

◽️ Полигоны для тестирования ИИ. Как подбирать испытательную инфраструктуру под задачи агента, проверять его поведение и не допустить выхода за пределы безопасного контура.

Также поговорили о нейрослопе в Bug Bounty, растущей нагрузке на триаж, автоматизации проверки отчётов и моделировании ИИ-атак в Standoff Defend.