DigitalArtSpace

Специалисты из Cato Networks выявили, что части URL-адресов, начинающиеся с символа «#», способны содержать скрытые инструкции, которые ИИ-помощники в браузере могут выполнять без уведомления пользователя. Этот метод, названный «HashJack», позволяет злоумышленникам тайно изменять работу ИИ-ассистента, например, побуждая его передавать информацию на удаленные серверы или отображать пользователю фальшивые ссылки.

Принцип действия атаки основан на том, что искусственный интеллект-помощник обрабатывает текст, следующий за хештегом, непосредственно на устройстве пользователя, без передачи данных на сервер. В результате пользователь видит стандартную веб-страницу, в то время как браузер выполняет незаметные команды.

В процессе тестирования было установлено, что некоторые ИИ-помощники, сталкиваясь с подобными фрагментами URL, предпринимают попытки к самостоятельным действиям, включая отправку данных на внешние ресурсы, находящиеся под контролем злоумышленников. Помимо этого, они могут предоставлять неточные рекомендации или предлагать ссылки, маскирующиеся под проверенные источники, что создает иллюзию корректной работы, но при этом искажает информацию, доступную пользователю. Сам браузер продолжает отображать целевой сайт, что усложняет выявление несанкционированного доступа без детальной проверки ответов ИИ-помощника.

Ведущие технологические корпорации получили информацию о возникшей проблеме.

Стандартные инструменты для отслеживания сетевого трафика способны фиксировать лишь те части URL, которые передаются с устройств на серверы. Поэтому традиционные методы защиты оказываются неэффективными. Это вынуждает специалистов по безопасности переходить от анализа сетевого трафика к изучению взаимодействия ИИ-инструментов с браузером. Для обеспечения более надежной защиты необходимо обращать внимание на локальные процессы, включая обработку скрытого контекста ИИ-помощниками, который не виден пользователям.

HashJack» выявляет особенную брешь в безопасности ИИ-браузеров, позволяющую злоумышленникам использовать законные веб-сайты для своих целей, минуя при этом обычные методы обнаружения.

Похожие статьи

Новый алгоритм Дарвина-Гёделя учит искусственный интеллект самостоятельно программировать.

В США производят эффективные процессоры: тайванские чипы TSMC возвращаются на родину для завершения производства.

В продаже — новая Lada Granta с увеличенным дорожным просветом

Новые модели Kia могут появиться на российском рынке.

Недорогой аналог Toyota Camry с пробегом более 2000 км завоевал популярность

Рамный внедорожник BAW 212 T01 с мощным двигателем: «Китайский УАЗ» с комфортом.