Взбунтовавшийся ИИ не злонамерен — это агент со слишком широкими правами

2026-11-05 · Источник：Computerworld

Опрос Ivanti 2026 года показывает: 87% команд безопасности ставят агентный ИИ в приоритет и 77% комфортно чувствуют себя с автономией — ровно в тот момент, когда режимы отказов смещаются от потерянных минут к простоям сервисов.

Годами корпоративный ИИ держался своей полосы: он резюмировал тикеты поддержки, готовил черновики статей базы знаний и предлагал следующие шаги, тогда как человек выносил каждое финальное решение. Это разделение труда растворяется. Агентные системы теперь сами планируют и исполняют многошаговую работу — опрашивают инфраструктуру, запускают процессы, меняют конфигурации и закрывают тикеты с минимальным или нулевым участием человека.

Аппетит измерим. Отчет Ivanti «2026 State of Cybersecurity Report» обнаружил, что 87% специалистов по безопасности считают интеграцию агентного ИИ приоритетом, а 77% сообщают как минимум о некотором комфорте, позволяя автономным системам действовать без человеческой проверки.

Эти цифры читаются как уверенность, но их следует читать и как степень уязвимости. Привлекательность для ИТ-команд под постоянным давлением очевидна — очевидна и асимметрия минусов. Агент, вернувший плохой ответ, стоит нескольких минут чужого времени. Агент, совершивший плохое действие, может положить сервис.

«Взбунтовавшийся ИИ» вызывает образы систем с собственными намерениями. В ИТ-эксплуатации реальность прозаичнее — и куда вероятнее.

Агент, которому велено освободить дисковое пространство на сервере, удаляет лог-файлы, которые еще нужны расследованию. Агент, выправляющий дрейф конфигурации, применяет свое изменение к каждому совпавшему устройству, включая киоски, намеренно настроенные иначе. Третий, работающий под широким сервисным аккаунтом, закрывает тикет сбросом доступа, которого он никогда не должен был касаться.

Ни один из этих сбоев не требует злого умысла. У них общий рецепт: агент, держащий больше прав, чем требует его задача; неполный контекст о своей среде; и ни одного чекпойнта между планом и действием.

Теги: Ivanti · Agentic AI · Cybersecurity · IT Operations · Autonomous Agents

萬安算交所 AIXX · AIXX · Верифицированная биржа · В торговый зал