ONNX Runtime — это кроссплатформенный ускоритель для инференса и обучения моделей машинного обучения. Он поддерживает модели из PyTorch, TensorFlow/Keras, а также классических библиотек (scikit-learn, LightGBM, XGBoost). Благодаря оптимизации графов и использованию аппаратных ускорителей, решение обеспечивает высокую производительность на различном оборудовании и операционных системах.
