NVIDIA представила Confidential Bare Metal для защиты ИИ-моделей на сторонних серверах

NVIDIA добавила в платформу Confidential Computing режим Confidential Bare Metal: он позволит обучать и запускать ИИ-модели на сторонней инфраструктуре, сохраняя контроль над моделями и данными.

Серверная стойка за стальной сеткой и навесным замком в дата-центре: ИИ работает на чужом оборудовании под защитой
Фото: ИИ bitPress

Как сообщает NVIDIA, компания расширила платформу Confidential Computing новым режимом Confidential Bare Metal. Он позволит разработчикам передовых ИИ-моделей запускать чувствительные нагрузки на выделенной инфраструктуре сторонних провайдеров — облаков, «неооблаков» (специализированных сервисов ИИ-инфраструктуры) и корпоративных площадок — сохраняя контроль над моделями и данными. По данным компании, расширяющаяся экосистема даст больше географических, суверенных и операционных вариантов масштабирования обучения и инференса (запуска обученных моделей) по всему миру.

Confidential Computing — технология «конфиденциальных вычислений»: модели и данные защищаются аппаратной изоляцией и криптографической аттестацией (проверкой целостности среды выполнения) прямо во время обработки. Режим Bare Metal даёт доступ к выделенным физическим серверам без слоя виртуализации: заказчик может владеть и управлять собственным программным стеком, включая хостовое и платформенное ПО. Дополнительно NVIDIA представила средства защиты данных при передаче, измерения целостности платформы и аппаратных ограничений доступа.

Теперь платформа предлагает три варианта развёртывания: Confidential Bare Metal для «голого железа», Confidential Containers для сред Kubernetes и Confidential Virtual Machines для виртуализированных сред — организации могут подобрать вариант под свои границы доверия и требования эксплуатации. Поддержка распространяется на стоечные системы NVIDIA Grace Blackwell NVL72, а также x86-платформы NVIDIA HGX Rubin NVL8 и NVIDIA DGX Rubin NVL8. ОС NVIDIA DSX OS будет поддерживать все режимы Confidential Computing и станет программной основой для провайдеров, строящих «ИИ-фабрики».

Партнёры уже внедряют технологию. Cohere планирует интегрировать Confidential Bare Metal в продукт Cohere Model Vault: по словам технического директора компании Фила Блунсома, это «распространяет аппаратную защиту напрямую на GPU, защищая данные клиентов в памяти и при передаче по интерконнектам во время выполнения». Google Cloud расширяет поддержку на инстансы A4X Max с системами NVIDIA GB300 NVL72 — они сочетают невиртуализированные ускоренные вычисления с криптографической защитой обучающих данных и интеллектуальной собственности моделей.

Развёртывания NVIDIA Confidential Computing поддерживают CoreWeave, Firmus, GMI Cloud, Google Cloud, IREN, Lambda, Microsoft Azure Infrastructure, Nebius, Nscale и Vultr. Совместимые системы в рамках программы NVIDIA-Certified Systems представят Cisco, Dell Technologies, HPE, Lenovo, Supermicro и Bull. Дополнительно NVIDIA анонсировала референсную архитектуру OpenShell — часть портфеля инструментов для безопасного развёртывания ИИ-агентов в масштабе.