Anthropic внедрила дополнительные ограничения для Claude Opus 5.5 — своей ведущей модели. В случае выявления запросов, касающихся разработки передовых языковых моделей (frontier LLM), система прекращает взаимодействие и перенаправляет пользователя на менее продвинутую версию Opus 5. Например, если пользователь запрашивает информацию, необходимую для создания ядра для определенных ML-ускорителей, диалог автоматически завершается. Данное ограничение распространяется исключительно на Opus 5.5; у модели Opus 5 подобных запретов не предусмотрено.

Подобные меры предосторожности применяются и в других областях, например, в биологии. Claude Opus 5.5 получила классификаторы, схожие с теми, что используются в модели Fable, для запросов двойного назначения, связанных с вирусологией, токсикологией и молекулярным дизайном. В случае срабатывания этих фильтров модель также переключается на Opus 5. Обе версии моделей, Opus 5 и Opus 5.5, препятствуют попыткам дистилляции — извлечению внутренних процессов рассуждений, в частности, просьбам воспроизвести цепочку мыслей дословно. Обычные вопросы, например «почему было сделано именно так?», остаются доступными для обсуждения.

Функция автоматического переключения моделей активирована по умолчанию, однако пользователь имеет возможность деактивировать её через настройки; в этом случае запрос будет просто заблокирован. Компания объясняет принятые меры стремлением минимизировать потенциальные риски, связанные с развитием искусственного интеллекта.

Anthropic разработала специальные программы подтверждения для компаний, работающих в сфере кибербезопасности или биотехнологий: Cyber Verification Program и Life Sciences Verification Program. Участники этих программ получают возможность использовать более продвинутые модели искусственного интеллекта с менее строгими ограничениями. В настоящее время модель Opus 5.5 не включена в Cyber Verification Program, однако организациям, использующим Opus 4.8, уже предоставляется доступ к версии Opus 5, при этом действуют смягченные кибербезопасные ограничения.

Данные шаги служат очередным сигналом: разработчики передовых ИИ-систем начинают внедрять ограничения не только в сам продукт, но и в систему доступа к нему, стремясь найти баланс между его полезностью и возможными опасностями.