Тег

#onnx runtime

Все топики с тегом #onnx runtime.

DS

ONNX Runtime: ускорение инференса и обучения моделей

image source

ONNX Runtime — это кроссплатформенный ускоритель для инференса и обучения моделей машинного обучения. Он поддерживает модели из PyTorch, TensorFlow/Keras, а также классических библиотек (scikit-learn, LightGBM, XGBoost). Благодаря оптимизации графов и использованию аппаратных ускорителей, решение обеспечивает высокую производительность на различном оборудовании и операционных системах.