ONNX и экспорт моделей: обмен моделями между фреймворками

Коротко: ONNX — открытый формат обмена обученными моделями; он позволяет сетям, обученным в PyTorch или TensorFlow, быстро работать на разных платформах независимо от фреймворка.

Подробнее: Модель часто обучают на Python/PyTorch, но запускать нужно на C++, Java, в браузере, на телефоне или периферийном устройстве. ONNX (Open Neural Network Exchange) описывает модель…

Подробности

Экспорт и запуск

import torch
…

См. также: MLOps, квантование, фреймворки ИИ