Искусственные нейронные сети-роутеры, выполняющие распределение запросов пользователей между различными языковыми моделями, представляют собой потенциальный источник утечки конфиденциальной информации. Чаофань Шоу, исследователь, заявил об обнаружении массива данных объемом приблизительно 6 терабайт, полученного из сессий китайского роутера для больших языковых моделей (LLM). В этих данных содержатся чувствительные учетные данные, включая информацию, связанную с ИИ Claude компании Anthropic.

Роутеры LLM действуют как посредники между пользователем или ИИ-агентом и нейросетью, принимая запросы, выбирая подходящую модель и передавая ей соответствующие данные. В процессе работы такие сервисы могут вести подробные журналы, содержащие не только сами запросы и ответы, но также вызовы внешних инструментов и различные технические метаданные.

Сложность ситуации возникает, когда разработчики или автономные ИИ-агенты передают моделям секретную информацию, необходимую для выполнения поставленных задач. В запросах могут присутствовать SSH-ключи, настройки VPN, ключи API облачных сервисов, токены GitLab и другие сведения, обеспечивающие доступ к реальным информационным системам. Если посредник сохраняет подобный трафик без надлежащей защиты, его журналы фактически становятся хранилищем готовых учетных данных.

Согласно информации Шоу, в проанализированном массиве были обнаружены действующие секреты, которые потенциально могли предоставить доступ к системам государственных организаций Китая и крупных технологических компаний. Среди перечисленных исследователем компаний – Xiaomi, Huawei, NIO и MiniMax. Наличие работоспособных ключей делает подобные утечки особенно критичными: злоумышленнику не требуется искать уязвимости в инфраструктуре компании, если необходимые данные для авторизации уже присутствуют в логах посредника.