OpenAI разрабатывает Astra, свою первую модель с передовыми возможностями для защиты от киберугроз

OpenAI планирует представить модель Astra и впервые официально классифицировала свою разработку как относящуюся к критическому уровню возможностей в сфере кибербезопасности согласно собственной системе оценки, Preparedness Framework. По мнению компании, при наличии необходимых ресурсов и доступа Astra уже обладает потенциалом для самостоятельного выявления ранее не обнаруженных уязвимостей и создания методов их использования в надёжно защищённых системах без прямого участия человека.

В ходе дополнительных испытаний было зафиксировано существенное улучшение функциональности по сравнению с GPT-5.6 Sol. Согласно результатам ExploitBench, платформы для оценки способности модели создавать эффективные эксплойты на основе известных уязвимостей, Astra показала результат 100%. В рамках внутреннего тестирования, включавшего анализ 20 недавно выявленных критических уязвимостей, модель продемонстрировала значительно более высокий процент успешного выполнения кода при одновременном снижении количества используемых выходных токенов. В процессе этой проверки были идентифицированы и задействованы в цепочке атак две ранее не обнаруженные zero-day уязвимости, о которых OpenAI намерена сообщить разработчикам соответствующих продуктов.

В ходе проверочных испытаний Astra успешно обнаруживала неизвестные уязвимости в защищённом браузере, интегрируя их в полноценную схему компрометации: начиная с обработки специально подготовленного HTML-файла и заканчивая выходом из «песочницы» и выполнением команд на основной системе. В другом эксперименте модель идентифицировала несколько недостатков в защищённой операционной среде и объединила их для повышения привилегий от обычного пользователя до уровня root.

Читать также:  Google расширил возможности удаления личной информации из результатов поиска

Именно подобный функционал соответствует критическому уровню Preparedness Framework — внутренней системы оценки OpenAI, предназначенной для определения потенциально опасных возможностей моделей перед их публикацией. Компания определяет этот уровень как способность модели, действуя автономно, находить и создавать работоспособные эксплойты для zero-day уязвимостей в различных защищённых критически важных системах, либо самостоятельно разрабатывать и реализовывать новые комплексные стратегии атак против защищенных объектов.

В связи с этим, OpenAI приостановила ряд этапов разработки Astra на несколько недель, сосредоточив усилия на усилении мер безопасности обучения и последующего внедрения. Были введены более жёсткие ограничения для предотвращения киберпреступной деятельности, усовершенствованы системные классификаторы и организован многоуровневый контроль за действиями модели. В ходе тестирования попыток обхода этих ограничений Astra отказалась предоставлять запрещённую киберпомощь в 91,5% случаев, что значительно превышает показатель GPT-5.6 Sol (59%). Для пользователей, представляющих повышенный риск, будут установлены ещё более строгие ограничения.

OpenAI также проводила отдельные проверки на предмет способности модели к самостоятельным несанкционированным действиям. В ходе теста, разработанного с учётом инцидента с Hugging Face, Astra не предпринимала попыток атаковать дополнительные цели, в то время как GPT-5.6 Sol без установленных защитных мер проявляла такую активность в 56% случаев тестирования. Компания подчеркивает, что речь идёт о специально созданных условиях, а не об обычном поведении моделей при стандартном использовании.

Читать также:  Apple выпустила iPhone Air с камерой нового поколения, чипом A19 Pro и ценой от 1000 долларов

Выпуск Astra ожидается в скором времени, однако наиболее передовые возможности в области кибербезопасности первоначально будут доступны ограниченному кругу альфа-тестировщиков. В дальнейшем OpenAI планирует расширить доступ через Daybreak Blue, в первую очередь для целей защиты – выявления и устранения уязвимостей. Подробная информация о проведённых оценках безопасности, результатах тестов и реализованных мерах защиты будет опубликована вместе с системной картой Astra.