ИИ-агенты успешно провели восемь атак на промышленную инфраструктуру и получили доступ к роботам

Для атаки на промышленное предприятие злоумышленникам в перспективе может потребоваться не команда специалистов по кибербезопасности, а всего один ИИ-агент. Такой вывод следует из испытаний консалтинговой компании Booz Allen Hamilton. В ходе экспериментов ИИ-агенты самостоятельно исследовали промышленную инфраструктуру, находили уязвимости, получали административные права и даже управляли роботизированным манипулятором. Все восемь тестовых атак завершились достижением поставленных целей.

Как проходили испытания

Для эксперимента специалисты Booz Allen Hamilton создали многовендорную тестовую среду, имитирующую типичное промышленное предприятие. В лабораторию вошли программируемые логические контроллеры (ПЛК), человеко-машинные интерфейсы (HMI), рабочие станции инженеров и операторов, система диспетчерского управления и сбора данных (SCADA), производственные сервисы, сетевая инфраструктура, роботизированная рука, датчики и другие элементы промышленной среды.

Разработчики эксперимента стремились воспроизвести условия, характерные для действующих производств: оборудование разных производителей, разнообразное встроенное программное обеспечение, различные алгоритмы управления и недостаточно продуманное разделение сетей.

«Разнообразие поставщиков, встроенного программного обеспечения, управляющей логики и несовершенная сегментация воспроизводили сложность и технический долг, характерные для давно работающих операционных сред», — говорится в отчёте.

При этом ИИ-модели не предоставляли исходный код, инженерную документацию или расширенные технические руководства. Агенты должны были самостоятельно изучить тестовую инфраструктуру, обнаружить слабые места, определить возможные способы проникновения и спланировать дальнейшие действия.

Эксперимент предусматривал и ограничения, связанные с безопасностью. Перед эксплуатацией найденной уязвимости или выполнением действий, способных привести к физическому воздействию, ИИ-агенты должны были получить одобрение человека. Особую осторожность им предписывалось соблюдать при взаимодействии с устройствами, критически важными для безопасности.

Восемь сценариев — восемь успешных атак

Всего специалисты проверили восемь сценариев. Во всех случаях ИИ-агенты достигли поставленных целей.

Один из наиболее показательных экспериментов продемонстрировал, насколько быстро агент может получить контроль над роботизированным оборудованием. За несколько минут он проверил сеть на наличие распространённых протоколов робототехники, обнаружил подключённого робота, определил его API, получил административный доступ, изучил защитные зоны и ограничения движения, а затем переместил манипулятор.

В другом сценарии агент обнаружил некорректную конфигурацию сети на критически важном объекте. Используя эту уязвимость, он провёл атаку, выдав себя за коммуникационного партнёра устройства.

Ещё один эксперимент показал, что переход от первоначального проникновения через сетевой периметр к действиям непосредственно внутри промышленной сети управления может занимать считаные минуты. В испытании этот этап занял всего 16 минут.

Отдельного внимания заслуживает случай с атакой на SCADA. Изначально агент столкнулся с неудачей из-за несовместимости версии интерфейса оператора. Вместо прекращения попытки он изменил план действий, обнаружил редактируемый код Jython в проекте SCADA и воспользовался административным интерфейсом, чтобы успешно завершить атаку.

Этот эпизод демонстрирует способность ИИ-агентов не только выполнять заранее определённые последовательности действий, но и адаптировать стратегию при возникновении технических препятствий.

Почему результаты испытаний важны для промышленности

Результаты экспериментов указывают на изменение характера угроз для промышленной инфраструктуры. Для эксплуатации уязвимостей в операционных технологиях (OT) злоумышленникам может больше не требоваться глубокая экспертиза в устройстве каждого отдельного промышленного комплекса. ИИ-агент способен самостоятельно исследовать систему, выявлять ошибки конфигурации и использовать обнаруженные слабые места.

Особую значимость это приобретает для предприятий, где промышленное оборудование, системы управления и корпоративные сети связаны между собой, а меры киберзащиты OT-инфраструктуры не соответствуют сложности используемых технологий.

Кайл Миллер (Kyle Miller), вице-президент по кибербезопасности инфраструктуры Booz Allen, обратил внимание на скорость и самостоятельность подобных систем:

«ИИ-агенты могут действовать с такой скоростью, настойчивостью и инженерной точностью, что способны целенаправленно атаковать организации, не внедрившие методы кибербезопасности операционных технологий», — сообщил он.

В Booz Allen также отметили, что проведённые испытания основаны на реальных инцидентах, в которых ИИ-модели получали несанкционированный доступ к внешним системам. В качестве одного из примеров приводится случай с платформой Hugging Face, подробности которого описаны в материале 3DNews.

Таким образом, испытания Booz Allen Hamilton показывают, что развитие ИИ-агентов создаёт дополнительные риски для промышленных предприятий. Уязвимости в сетевой архитектуре, настройках оборудования и системах управления могут быть обнаружены и использованы автоматически. Для отрасли это означает, что кибербезопасность становится неотъемлемой частью проектирования, внедрения и эксплуатации робототехнических комплексов и автоматизированных производств.