Искусственный интеллект (ИИ) постепенно превращается из вспомогательного инструмента в самостоятельного участника кибератак. В ходе экспериментов ИИ-агенты уже смогли без вмешательства человека получить контроль над тестовой компьютерной сетью. Директор по продуктам платформы Standoff 365 компании Positive Technologies Иван Булавин рассказал "Российской газете", как ИИ меняет методы хакеров и способен ли он конкурировать с профессиональными специалистами:

Как развитие искусственного интеллекта меняет подходы к атакам и защите? И можно ли проверить возможности ИИ на практике?

Меняется сама кибербезопасность. Атакующие автоматизируют поиск уязвимостей, защитники получают новые инструменты расследования. Нам важно не просто добавить ИИ в продукты, а понять, как он меняет характер атак.

В июне на ПМЭФ мы провели экспериментальную кибербитву: ИИ-агенты атаковали тестовую инфраструктуру, а автономная система защиты обнаруживала их действия и расследовала атаки. Тогда атакующим еще требовалась помощь оператора. Позже наша система из нескольких агентов самостоятельно захватила контроль над доменом тестовой сети за четыре часа. Причем выбрала путь, которого мы не предусматривали.

Уже десять лет мы создаем киберполигоны для соревнований и тренировок защитников. Теперь используем этот опыт, чтобы испытывать ИИ в безопасной среде. Пока рынок обсуждает его возможности, мы проверяем их на практике.

Что меняется в киберучениях, когда атаковать начинают ИИ-агенты? И как в этом противостоянии помогает ИИ защитникам?

Раньше мы в основном воспроизводили техники известных хакерских группировок. Защитники учились обнаруживать и расследовать атаки. ИИ добавляет неопределенности: агент может самостоятельно выбирать следующий шаг, искать обходной путь и использовать возможности, которых не было в первоначальном сценарии.

На одних из наших киберучений команды SOC восемь часов расследовали атаки, основанные как на действиях реальных группировок, так и на работе ИИ-агентов. Они пытались определить, кто атаковал - человек или машина. Но важнее вовремя обнаружить угрозу и не допустить ущерба бизнесу.

На онлайн-полигоне добавляем такие сценарии и помогаем защитникам разбирать результаты. Здесь уже есть ИИ-помощники для поиска информации в базе знаний. Их возможности планируем расширять. Но сложные расследования и решения остаются за специалистами. Не заменяет ИИ и ментора, который помогает разобрать ошибки.

Эксперименты уже позволяют сравнивать ИИ с профессиональными хакерами?

Пока с оговорками. На ПМЭФ четыре атакующих агента пытались похитить данные, изменить информацию в корпоративном приложении или получить доступ к учетным данным промышленной системы. На выполнение отдельных сценариев у них уходило от 40 минут до трех часов. Профессиональный хакер решал аналогичные задачи на этой инфраструктуре в среднем за два часа.

Но агентам помогал оператор, и некоторые сетевые переходы пришлось упростить. В более позднем эксперименте наша система уже достигла цели без вмешательства человека, однако напрямую сопоставлять эти результаты нельзя. ИИ способен самостоятельно строить цепочки действий, но это еще не означает, что он превосходит опытного специалиста, особенно там, где важны контекст и незаметность.

Оценивать нужно не только результат, но и затраты времени, ресурсов, маршрут атаки и возможный ущерб другим системам. На ПМЭФ мы сопоставляли атаки с техниками MITRE ATT&CK (систематизированное описание техник (приёмов) и тактик, которые используют злоумышленники при атаках на организации) и отдельно оценивали, насколько точно система защиты восстановила шаги атакующих и связи между ними. Но универсального теста качества атакующего ИИ пока нет.

Может ли ваша платформа стать площадкой, где проверяют не только людей, но и самих ИИ-агентов?

Мы уже создаем для этого отдельный полигон. Он позволяет разворачивать тестовые корпоративные сети, веб-приложения и средства защиты, запускать агентов и наблюдать, что происходит. Агент может выполнить задание, но попутно нарушить работу других систем. В реальной инфраструктуре такие испытания опасны.

На Standoff 17 мы уже проверяли ИИ-агентов в отдельном соревновании: участники приносили собственные системы, которые должны были взламывать подготовленные веб-приложения без ручного выполнения заданий. Для нового полигона мы подготовили около 50 шаблонов веб-приложений. Небольшую лабораторию можно развернуть за минуты, инфраструктуру из 50-60 машин - примерно за три часа.

ИИ помогает и нашей команде создавать такие среды. Специалист описывает нужную инфраструктуру, а агент через инструменты автоматизации помогает собрать ее из подготовленных шаблонов. Это снимает часть ручной работы. Пока полигон используется преимущественно внутри Positive Technologies; проходят и отдельные внешние испытания. В дальнейшем хотим проверять здесь и защитных агентов.

Каким образом генеративный ИИ влияет на багбаунти - поиск уязвимостей независимыми исследователями?

Он ускоряет анализ кода, поиск потенциальных проблем и подготовку отчетов. Но одновременно появляется много сообщений об уязвимостях, которых на самом деле нет. ИИ может принять нормальное поведение приложения за ошибку и составить убедительный, но неверный отчет. На Standoff Bug Bounty мы уже столкнулись с таким потоком материалов - его называют "нейрослопом".

В середине 2026 года мы ввели ограничения на количество отправляемых отчетов с учетом рейтинга исследователя. Те, кто регулярно присылает подтвержденные находки, получают больше возможностей. Параллельно используем ИИ-помощника для первичного разбора сообщений и выявления сомнительных материалов. Но окончательное решение о наличии уязвимости принимает человек.

ИИ ускоряет работу, но без проверки его выводов качество может ухудшиться. Это касается и защиты, и автономных атакующих агентов.

Как вы видите, когда ИИ станет полноценным участником атак и защиты?

Мы движемся к платформе, на которой можно будет испытывать атакующих и защитных агентов в условиях, приближенных к реальным, а людям - тренироваться против противника, который не следует заранее написанному сценарию. Пока это отдельные эксперименты, а не сложившаяся практика.

Человек из этой системы не исчезнет. Чем самостоятельнее агент, тем важнее понимать, почему он выбрал определенный путь и какие последствия вызвали его действия. Наша задача - создать условия, в которых новые технологии можно проверить, увидеть их ограничения и научиться с ними работать до того, как они получат доступ к инфраструктуре компаний.