Nvidia анонсировала Open Agent Safety, открытую эталонную платформу, предназначенную для обеспечения корректной работы ИИ-агентов и выступающую в роли своеобразного надзора за их деятельностью.

По словам главы компании Nvidia, Дженсена Хуанга, недавно была создана новая технология – браузер, предназначенный специально для использования искусственными агентами. Эта разработка обеспечивает систему защиты, ограничивающую доступ агента исключительно к тем ресурсам и данным, которые требуются ему для выполнения поставленных задач.

Недопустимо, чтобы ИИ-агенты действовали без цели, поэтому требуется установить ограничения на их поведение.

В качестве основы платформы используется Nvidia OpenShell – среда выполнения с открытым исходным кодом, включающая инструменты для управления и контроля над тем, какие данные доступны агенту, какие действия он может совершать и с чем взаимодействовать. Механизмы контроля сохраняются даже в ситуациях непредсказуемого поведения агентов, что препятствует распространению ошибок. Для организаций, нуждающихся в независимом уровне защиты, Nvidia Sentry предлагает внеполосное телеметрирование активности агентов, встроенное непосредственно в микросхему, а также обеспечивает соблюдение политик безопасности с возможностью изоляции агентов за доли секунды.

Согласно пресс-релизу, все представленные разработки оптимизированы для работы на системах с процессорами Nvidia Vera и DPU Nvidia BlueField, хотя они поддерживают совместимость и с другими аппаратными решениями. По сути, это расширяет возможности реализации продукции Nvidia, в частности, для тех компонентов, которые в настоящее время не испытывают дефицита.