Nvidia отмечает, что прогресс в области искусственного интеллекта и развитие ИИ-агентов приводят к изменению требований к серверным процессорам: после продолжительной гонки за увеличением числа ядер индустрии вновь необходима высокая производительность каждого из них. В беседе с Wccftech представители компании поделились информацией о том, что процессоры, предназначенные для облачных вычислений, в первую очередь оптимизировались под пропускную способность и плотность размещения ядер, зачастую жертвуя скоростью выполнения задач, требующих обработки одним потоком. Однако ИИ-агенты постоянно чередуют графические вычисления на GPU с последовательными операциями на CPU, поэтому замедление обработки очередного этапа может приводить к простою дорогостоящего ускорителя.

Решением Nvidia от этой проблемы является процессор Vera, который компания разрабатывает специально для инфраструктуры искусственного интеллекта и агентных вычислений. В отличие от многих конкурирующих решений, использующих несколько кристаллов в одном корпусе, Vera построена на основе одного монолитного вычислительного кристалла, что позволяет ядрам обмениваться данными без дополнительных задержек при переходе между ними. Среди заявленных характеристик – память LPDDR5X с высокой пропускной способностью и показатель двунаправленной пропускной способности обмена данными между половинами кристалла (bisection bandwidth) в 3,4 ТБ/с. По словам Nvidia, этот параметр примерно в три раза превышает аналогичный показатель у ведущих x86-процессоров.

Представители компании утверждают, что процессор Vera демонстрирует производительность, превосходящую показатели предыдущей модели Nvidia Grace в полтора раза. При решении задач, требующих взаимодействия с агентами, таких как выполнение скриптов на языке Python и компиляция программного кода, разработчики прогнозируют увеличение эффективности до двукратного уровня по сравнению с передовыми процессорами x86. В среднем, по результатам тестирования выбранной группы задач, наблюдается прирост производительности в 1,6 раза. Nvidia применяет разработанную самостоятельно технологию пространственной многопоточности, которая распределяет потоки между вычислительными операциями и процессами ввода-вывода. Согласно информации от команды разработчиков, проведенные испытания выявили, что данная методика позволяет добиться повышения производительности на 20%, не приводя к её снижению вследствие дополнительных затрат.

Дополнительное изменение заключается в том, что Vera позиционируется не только как процессор для серверов с GPU, но и как самостоятельное решение для стоек, заполненных CPU. Такие системы способны выполнять вызовы инструментов ИИ-агентов и задачи обучения с подкреплением, не используя ресурсы графических ускорителей. Nvidia не подтверждает прогноз о соотношении 80 CPU на один GPU, который обсуждается в отрасли, но признает, что возрастающее количество агентных задач увеличивает потребность в процессорных ресурсах. Некоторые поставщики инфраструктуры уже обслуживают сотни тысяч изолированных программных сред для одного клиента.

Разработчики подчеркивают, что монолитная компоновка – это не универсальный отказ от использования чиплетов: выбор архитектуры будет определяться конкретными задачами и требованиями рынка. Главный тезис Nvidia заключается в том, что в инфраструктуре агентного искусственного интеллекта важны не только количество ядер и общая пропускная способность, но и скорость выполнения последовательных операций, доступ к памяти и обмен данными между ядрами. Именно эти характеристики, по мнению компании, помогут Vera поддерживать высокую загрузку GPU в системах, где ИИ-агенты выполняют большое количество небольших взаимосвязанных задач.