Современные AI-воркфлоу в Gradio стирают грань между разработкой интерфейса и построением пайплайна, превращая саму логику обработки данных в интерактивную среду. Инструмент gr.Workflow интегрирован непосредственно в экосистему Gradio и позволяет описывать последовательность шагов как граф с типизированными узлами. В результате пользователь получает интерактивный холст с поддержкой drag-and-drop, где каждый отдельный узел можно запустить вручную, а все промежуточные результаты отображаются наглядно. При этом построенный граф одновременно функционирует как готовый REST API и развертывается на платформе Hugging Face Spaces буквально одной командой.

Практические примеры и возможности

Лучший способ понять принципы работы таких графов — рассмотреть несколько практических примеров. Каждое подобное приложение представляет собой работающее пространство на Hugging Face, которое можно открыть, запустить и скопировать для собственных экспериментов.

В простейшем сценарии пользователь загружает изображение, вводит текстовую инструкцию для редактирования — например, «превратить в зимний пейзаж», «добавить солнцезащитные очки» или «перекрасить машину в красный цвет» — и получает обработанную фотографию. Приложение строится на базе единого узла, обращающегося к модели Qwen-Image-Edit через провайдеров инференса Hugging Face.

Более сложные графы объединяют сразу несколько пайплайнов. Например, процесс может начинаться с текстового запроса и генерации изображения с помощью FLUX. Затем готовая картинка отправляется в другое пространство Gradio для удаления фона, в результате чего получается стикер. Параллельно эта же исходная тема превращается в голосовое сопровождение через специализированное пространство синтеза речи, а текстовая языковая модель генерирует броский заголовок для эпизода. В итоге один холст задействует два вызова моделей через Inference Providers и два обращения к сторонним пространствам Gradio. Поскольку речь идет о полноценном воркфлоу, каждый из трех результатов автоматически получает собственный REST-эндпоинт: /sticker, /voiceover и /episode_title. К любому из них можно обратиться напрямую из программного кода, не открывая визуальный интерфейс.

Fan-out паттерны и параллельные вычисления

Архитектура графов поддерживает популярные паттерны проектирования, включая веерную рассылку (fan-out). Если ввести одну исходную идею, система способна одновременно сформировать целый набор медиаматериалов: базовую картинку от FLUX, две ее альтернативные визуализации в стилях мягкой акварели и неонового киберпанка, а также название для галереи, написанное языковой моделью. Каждое изображение генерируется моделью через Inference Providers, а заголовок создается с помощью пользовательской функции fn, вызывающей LLM. Подобный подход позволяет одной идее питать сразу несколько операторов, запускающих генерацию параллельно.

Аналогичным образом работает интеграция с данными. При указании идентификатора датасета на Hugging Face — например, stanfordnlp/imdb или mteb/tweet_sentiment_extraction — единственный входной параметр направляется к четырем операторным узлам. Они анализируют набор данных в режиме реального времени, используя API сервера датасетов. Пользователь одновременно получает обзорную карточку, превью первых строк, статистику по колонкам и график распределения, причем все вычисления выполняются независимо и параллельно.

Использование GPU и структура графа

Большинство стандартных узлов обращаются к внешним ресурсам Hugging Face, однако обычная функция fn представляет собой стандартный Python-код. Это означает, что вычисления могут выполняться непосредственно внутри пространства на графическом процессоре. Достаточно задекорировать привязанную функцию инструкцией @spaces.GPU, и во время выполнения узел задействует инфраструктуру ZeroGPU для быстрой работы модели с последующим освобождением ресурсов.

Разработчикам не нужно самостоятельно настраивать окружение GPU — gr.Workflow просто вызывает назначенную функцию. Подобным образом можно запускать даже ресурсоемкие задачи, такие как анимация статичного изображения с помощью модели Lightricks/LTX-Video-0.9.7-distilled, загруженной через библиотеку Diffusers в рамках всего одного узла.

Любой воркфлоу представляет собой граф, состоящий из трех базовых категорий элементов:

• Ссылки (references) — входные данные от пользователя.
• Операторы (operators) — выполняемые шаги обработки.
• Субъекты (subjects) — итоговые результаты.

Участники графа соединяются между собой простым перетаскиванием линий между типизированными портами. После нажатия кнопки запуска результаты появляются на соответствующих местах. При этом каждый созданный проект автоматически становится готовым API без необходимости выполнять дополнительную настройку: каждый выходной объект превращается в REST-эндпоинт с именем метки, к которому легко обратиться из Python с помощью клиента Gradio.

Ниже представлен практический пример работы с демонстрационным пространством для нескольких эндпоинтов в реальном времени, без использования токена:

from gradio_client import Client
client = Client("ysharma/gr-workflow-multi-endpoint-API")
print(client.predict("hello there friend", api_name="/word_count")) # -> 3
print(client.predict(20, api_name="/fahrenheit")) # -> 68.0

Эндпоинты, вызывающие определенную модель или пространство, функционируют на основе токена Hugging Face, поэтому его необходимо передавать при создании клиента:

from gradio_client import Client, handle_file
client = Client("ysharma/gr-workflow-image-editor", token="hf_...")
edited = client.predict(
    handle_file("dog.jpg"),
    "turn it into a snowy winter scene",
    api_name="/edited_image",
)

Предпочитаете стандартный HTTP? Любой эндпоинт также доступен через обычные запросы curl:

curl -s https://ysharma-gr-workflow-multi-endpoint-API.hf.space/gradio_api/call/word_count \
-H "Content-Type: application/json" -d '{"data": ["hello there friend"]}'

Самый быстрый способ начать работу — открыть любое из упомянутых демо, нажать кнопку Duplicate и приступить к перенастройке. На языке Python код выглядит максимально лаконично:

import gradio as gr

def your_function(text: str) -> str:
    pass

gr.Workflow(bind=[your_function]).launch()

Полное руководство, описание доступных типов операторов, схему JSON и готовые к повторному использованию паттерны можно найти в официальной документации Gradio, посвященной gr.Workflow. С помощью этого инструмента можно собирать даже такие сложные комплексные решения, как AUTOMATIC1111. Следите за публикациями: в следующем материале разработчики подробно покажут процесс создания подобной системы шаг за шагом.

Источник: huggingface.co