NVIDIA выпустила TensorRT Model Connect: конвертация чейкпоинтов Hugging Face в нативный C++

NVIDIA представила публичную превью-версию открытого проекта TensorRT Model Connect, позволяющего переносить модели из Hugging Face в нативный C++ для инференса всего за две команды.