Автономные транспортные средства всё чаще появляются на дорогах, однако их безопасность напрямую связана с используемыми моделями искусственного интеллекта – сложными нейронными сетями, способными адаптироваться к огромному количеству ситуаций. Недавнее исследование, проведенное специалистами Georgia Institute of Technology, показало наличие серьезной уязвимости: злоумышленники могут внедрить скрытую «черную дверь» VillainNet в одну из подсетей, при этом оставаясь незамеченными до момента ее активации.

VillainNet может функционировать при соблюдении определенных обстоятельств, таких как реакция ИИ на осадки или изменение дорожных условий. После запуска злоумышленник получает полный контроль над транспортным средством. В ходе проверок атака успешно выполнялась в 99% случаев, оставаясь незамеченной стандартными средствами защиты.

Наибольшую угрозу представляют размеры и структура суперсетей: обнаружение злонамеренной подсети требует в 66 раз больше вычислительных ресурсов, чем стандартная проверка, и может быть замаскировано на любом этапе создания. Это делает защиту похожей на поиск единственного элемента в огромном массиве, насчитывающем 10 квинтиллионов возможных конфигураций.

В работе авторы настоятельно рекомендуют незамедлительно разрабатывать инновационные способы защиты искусственного интеллекта, позволяющие обнаруживать и нейтрализовать подобные высокоточечные атаки. Учитывая возрастающую сложность и способность к адаптации ИИ-систем, стандартные методы обеспечения кибербезопасности оказываются неэффективными.

Появление VillainNet вызывает серьёзные опасения в сфере автономного транспорта. Если не будут разработаны новые меры защиты, искусственный интеллект может быть использован в злонамеренных целях, таких как похищение данных и шантаж.