Как сообщает блог NVIDIA, ИИ-агенты — программы, которые самостоятельно выполняют многошаговые задачи, — не ограничиваются генерацией ответов: они ищут информацию, опрашивают базы данных, пишут и тестируют код. Каждый такой шаг выполняется на CPU, и в ходе задачи агент многократно переключается между рассуждением на GPU и исполнением на процессоре.
По расчётам NVIDIA на примере дата-центра мощностью 100 МВт, один Vera превосходит и самый быстрый, и самый энергоэффективный x86-процессор. Компания сообщает о 1,6-кратном росте числа агентов на ватт относительно самого быстрого x86 и удвоенной скорости агентов относительно самого экономичного по энергии x86.
Партнёры NVIDIA подтвердили показатели в тестах, приближенных к промышленной эксплуатации. Perplexity выполнила агентные задачи по программированию в 1,5 раза быстрее, чем на традиционных CPU, и планирует использовать Vera в будущей продакшен-системе.
DeepInfra получила до 2,2-кратного ускорения агентной оркестрации относительно лучшего x86-процессора — лучший результат из четырёх протестированных архитектур. ClickHouse без специальной адаптации под Vera масштабировалась почти линейно на 176 ядрах и возглавила аппаратный рейтинг ClickBench, а DuckLabs показала примерно в 1,5 раза выше медианный результат TPC-H SF1000 относительно базы на Intel Xeon 6.
Daytona подняла 1000 агентных «песочниц» — изолированных сред для запуска кода — за 10,8 секунды против 88,4 секунды на x86, а при 2000 одновременных песочницах выполнила 12,7 заданий в секунду. Modal получила до двукратной пропускной способности песочниц на ядро относительно сопоставимого оборудования x86, причём отрыв увеличивается при высокой нагрузке.
