Как сообщает NVIDIA в корпоративном блоге, компания расширила открытый набор инструментов Agent Toolkit для создания корпоративных ИИ-агентов. По формулировке самой NVIDIA, агенты «полезны ровно настолько, насколько то, что они знают», поэтому цель обновления — собрать модели, данные и инструменты в единый стек, привязанный к внутренним данным заказчика.
ИИ-агенты — это программы на основе языковых моделей, которые выполняют многошаговые задачи: сами ищут информацию, обращаются к корпоративным системам и совершают действия, а не только отвечают на вопросы. Новая платформа Agent Knowledge Foundation превращает данные компании в знания для таких агентов: они могут находить нужные сведения, понимать их бизнес-смысл и строить прогнозы. При этом, подчёркивает NVIDIA, данные не нужно переносить, а существующие процессы и политики доступа не меняются.
В состав платформы вошли библиотеки CUDA-X (cuDF, cuGraph, cuML, cuOpt, cuVS) и новая библиотека Auto-Ontology, которая переводит «сырые» данные в привычные бизнес-понятия — клиентов, продукты, заказы — и связывает их между собой. За поиск и прогнозы отвечают открытые модели Nemotron Retriever и семейство Kumo: Kumo Tabular, Kumo Relational, Kumo Time Series и Kumo Forecast. Безопасность обеспечивают среда исполнения OpenShell, ограничивающая доступ и действия агентов, и эталонные архитектуры NemoClaw для построения специализированных решений.
Платформа уже применяется на практике. Подразделение NVIDIA по цепочке поставок использует Agent Knowledge Foundation через Palantir Foundry, Ontology и AIP для создания агентов, прогнозирования и оптимизации решений. Databricks объединяет модель NVIDIA Kumo Anomaly со своей Genie Ontology, а Snowflake даёт клиентам доступ к Kumo Engine и Kumo Relational в среде Snowflake Notebook.
Модели Nemotron Retriever, по данным NVIDIA, делают корпоративный поиск быстрее и точнее. Amazon OpenSearch Service повысил релевантность выдачи с меньшим числом шагов поиска и практически без роста задержки, дообученный реранкер (модель, пересортировывающая результаты поиска) SAP отработал почти втрое быстрее, а ServiceNow улучшил качество ранжирования, сократив задержку почти на четверть. Zoom применяет эти модели для анализа документов и поиска в Zoom AI Services.
Кроме того, решения на Agent Knowledge Foundation строят AWS, ClickHouse, Cloudera, Cohesity, Dassault Systèmes, Dell, Elastic, Exa, IBM, NetApp, Oracle, Perplexity, Starburst и VAST Data.
