NVIDIA Kumo Relational: новая эра базовых моделей для реляционных данных

Современные корпоративные системы базируются на реляционных базах данных, однако классическое прогнозирование на их основе по-прежнему требует долгой ручной инженерии признаков и создания узкоспециализированных конвейеров. Представленная разработчиками новая модель NVIDIA Kumo Relational меняет этот подход, выполняя предсказания напрямую по структуре данных.

Инструмент работает как универсальное решение для предиктивной аналитики без необходимости предварительного обучения под конкретную задачу. Это открывает новые возможности для автоматизации бизнес-процессов.

Переход к базовым моделям для структурированных данных

В сфере обработки текстов и изображений базовые модели полностью изменили привычные подходы. Если раньше под каждую задачу создавался отдельный конвейер токенизации и лемматизации, то крупные языковые модели сделали этот стек универсальным благодаря более высокой точности, простоте внедрения и гибкости. Аналогичная трансформация сейчас происходит и в сегменте структурированных данных.

Реляционные базы данных содержат информацию о ключевых решениях компаний, но построение предиктивных моделей на их основе долгое время оставалось трудоемким процессом. Новое поколение базовых моделей решает эту проблему за счет превосходства в точности, упрощения архитектуры и интеграции с ИИ-агентами.

В качестве замены стандартным конвейерам новые решения уже превосходят классические подходы, в частности алгоритмы градиентного бустинга. На задачах классификации из бенчмарка RelBench V1 модель Kumo Relational опережает деревья решений на спроектированных экспертами признаках. На платформе SAP SALT показатели точности оказываются еще выше как в базовом варианте, так и после дополнительной тонкой настройки.

Отказ от раздельных конвейеров в пользу единой предобученной модели превращает создание прогнозов из масштабного проекта в обычный поисковый запрос. Команды могут работать с кейсами, которые ранее казались слишком сложными для реализации. Кроме того, специализированные интерфейсы вроде Predictive Query Language позволяют агентам самостоятельно предвидеть события, например отток клиентов, и принимать ответные меры.

Принцип работы Kumo Relational

Большинство существующих моделей для табличных данных рассчитаны на работу с одной плоской таблицей. Однако реальные бизнес-данные распределены по связанным таблицам пользователей, заказов и продуктов, которые изменяются со временем. Объединение этих связей в одну строку через ручную агрегацию приводит к потере детальных структурных сигналов.

Рассматриваемая система функционирует непосредственно в рамках реляционной базы данных, учитывая исходные таблицы, внешние ключи и временные метки. Предобучение модели выполняется на синтетических данных, отражающих реальные структуры, а адаптация к новым задачам происходит за счет контекстного обучения в процессе инференса.

Для формирования прогноза система задействует автоматическую генерацию контекста. Запросы формулируются с помощью декларативного интерфейса Predictive Query Language. Для временных задач система воспроизводит исторические состояния базы данных, формируя подграфы до определенной временной метки и вычисляя целевые показатели по последующим событиям, что позволяет избежать утечки данных.

Внутреннее устройство и архитектура

На первом этапе обработки легкая сеть анализирует каждую таблицу по отдельности. В ней чередуются внимание по столбцам и строкам, что помогает отсеять лишний шум до того, как он распространится дальше. На втором этапе более крупная сеть распределяет полученные эмбеддинги по всей реляционной структуре с помощью графового внимания.

Такой механизм позволяет связывать профили пользователей с их историей транзакций без квадратичного роста вычислительных затрат. Это обеспечивает масштабирование архитектуры на глубокие подграфы и крупные объемы информации.

Создание и обучение модели

Процесс предварительного обучения опирается на полностью синтетические реляционные данные, имитирующие реальные базы с разнообразными запросами. Поскольку публичные массивы такого типа встречаются редко, генератор на базе подхода PluRel восполняет этот пробел, создавая схемы, связи по внешним ключам и значения столбцов с учетом временных трендов.

Благодаря этому подходу архитектура учится фильтровать и агрегировать информацию без жестких правил. При необходимости максимальной точности допускается дополнительная тонкая настройка под конкретный набор данных.

Производительность и ограничения

Оценка эффективности системы проводилась на 41 бенчмарке из 15 баз данных, охватывающих электронную коммерцию, медицину и социальные сферы. На лидерборде RelArena-α разработка занимает позиции на кривой эффективности и точности, демонстрируя высокую скорость работы по сравнению с аналогами.

В бенчмарке SAP SALT система превосходит крупные ансамбли AutoGluon. При этом архитектура сохраняет устойчивость при удалении значительной части связей по внешним ключам и добавлению зашумленных столбцов.

Среди ограничений отмечается то, что модель демонстрирует наилучшие результаты на динамических данных с выраженными временными зависимостями. На огромных объемах обучающих выборок специализированные контролируемые модели могут опережать подходы с контекстным обучением.

Интеграция и демонстрация возможностей

Kumo Relational поддерживает контекстное обучение прямо в памяти баз данных и хранилищ, а также через кастомный графовый движок, обрабатывающий сотни миллиардов строк со скоростью до 5 ГБ/с. Решение доступно в библиотеке structured-data-models и может развертываться как отдельный сервис через NVIDIA NIM.

Для запуска достаточно передать контекстные примеры, целевые сущности и связанные таблицы в коде Python:

import sdm
model = sdm.models.KumoRelational(device="cuda")
pred = model(
    x_context=...,
    y_context=...,
    x_query=...,
    related_context_tables=...,
    related_query_tables=...,
)

Клиентский вариант позволяет отправлять запросы в декларативном формате Predictive Query Language, автоматизируя сбор контекста и обращение к развернутому сервису.