Как сообщает NVIDIA, компания договорилась с Oracle масштабировать суперкомпьютеры Oracle Cloud Infrastructure (OCI) на системах Vera Rubin NVL72 до многогигаваттных мощностей — под растущий спрос на обучение моделей, инференс и агентные приложения. Сами системы Vera Rubin NVL72 и процессоры NVIDIA Vera уже общедоступны в OCI, а в планах — появление в облаке серверов HGX Rubin NVL8.
Клиенты получат инфраструктуру для обеих частей ИИ-нагрузок: GPU-затратного обучения и обслуживания передовых frontier-моделей (инференс — генерация ответов уже готовой моделью) и CPU-затратной работы ИИ-агентов между обращениями к модели — вызова инструментов, исполнения кода, поиска данных. CPU и GPU можно масштабировать независимо, сокращая простой мощностей.
Суперкластеры OCI объединяют стойковые системы NVIDIA NVL72, сеть Oracle Acceleron с Ethernet-платформой Spectrum-X, коммутаторами Spectrum-6 и DPU BlueField-4, а также питание и охлаждение гигаваттного класса. Внутри стойки NVLink — высокоскоростная связь между чипами NVIDIA — объединяет 72 GPU, а сеть OCI масштабируется на сотни тысяч GPU. Новое поколение строится поверх уже работающих в OCI систем GB200 и GB300 NVL72, а общая программная платформа CUDA сохраняет совместимость между поколениями оборудования.
HGX Rubin NVL8 — сервер на архитектуре x86 с восемью GPU Rubin, двумя 64-ядерными процессорами Intel Xeon 6, 4 ТБ памяти DDR5 и сетью RDMA (прямой доступ к удалённой памяти) на 6,4 Тбит/с. Он нацелен на обучение, дообучение и инференс в компактной конфигурации с сохранением совместимости с x86-приложениями.
OpenAI уже показала возможности этой инфраструктуры: в Абилине компания обучала и обслуживала модель GPT-6 Astra на суперкомпьютере OCI с более чем 100 000 GPU NVIDIA Blackwell. «NVIDIA Vera Rubin на OCI даёт нам производительность и масштаб, чтобы ускорять обучение моделей», — приводит NVIDIA слова руководителя вычислительной инфраструктуры OpenAI Шриканта Потаниса.
Процессоры Vera ускоряют CPU-часть агентных задач: высокая однопоточная производительность ускоряет вызовы инструментов и исполнение кода, а высокая пропускная способность памяти снижает простои GPU при параллельных операциях. OpenAI уже вводит Vera в промышленную эксплуатацию для агентных нагрузок в песочницах, отметил директор по технологиям вычислений компании Удай Раддараю. По словам президента OCI Махеша Тиагараджана, сочетание GPU и CPU NVIDIA с сетью Oracle Acceleron помогает клиентам масштабировать передовой ИИ эффективно и безопасно.
