ИИ-агенты способны самостоятельно работать с файлами, браузером, почтой и онлайн-сервисами, а ошибки в их конфигурации создают дополнительные уязвимости, сообщили в управлении по организации борьбы с противоправным использованием информационно-коммуникационных технологий (УБК) МВД РФ.
В ведомстве посоветовали заранее ограничить возможности помощника по работе с файлами: предоставить доступ лишь к выбранным папкам, а не ко всему диску. Помимо этого, следует запретить посещение неизвестных ресурсов и передачу им информации.
Еще одна мера – подтверждение действий. Отправка писем, удаление файлов, покупки и платежи должны выполняться только с согласия пользователя.
"Ограничьте подключенные инструменты: отключите ненужные плагины, интеграции и доступ к командной строке", – рекомендовали в киберполиции.
Кроме того, в управлении посоветовали проверять активные разрешения и токены доступа, отзывая те, которыми человек больше не пользуется.
В качестве дополнительной меры специалисты предлагают использовать средства изоляции. Благодаря им ИИ-агенты могут работать в отдельной виртуальной среде с ограниченным прямым доступом к системе и аккаунтам пользователя.
"Безопасность ИИ-агента зависит не только от самой нейросети, но и от того, насколько грамотно ограничены ее полномочия", – заключили в УБК.
Ранее в МВД заявили, что мошенники все активнее прибегают к искусственному интеллекту для обмана граждан, создавая дипфейки, имитируя голоса и подменяя видеоизображения. Отдельную опасность представляет возможность использовать эти технологии для обхода систем идентификации и биометрической аутентификации.
Злоумышленники могут подделывать изображения, видеозаписи и голосовые сообщения, создавая впечатление, будто с человеком связывается его родственник, руководитель или представитель организации.

Комментарии 0