O
ONNX Runtime
ONNX Runtime
简介
微软开源的高性能跨平台推理引擎,支持ONNX标准模型格式。覆盖CPU、GPU(CUDA/TensorRT/ROCm/Metal)、NPU等多种硬件后端。内置量化、图优化等加速功能。是PyTorch和ONNX生态中部署应用最广泛的通用推理运行时。
| 发布/成立 | 2019 | 美国 |
| 官网 | https://onnxruntime.ai/ |
人工智能产业链与技术栈全景图 v0.2.0 · 2026-05-14
微软开源的高性能跨平台推理引擎,支持ONNX标准模型格式。覆盖CPU、GPU(CUDA/TensorRT/ROCm/Metal)、NPU等多种硬件后端。内置量化、图优化等加速功能。是PyTorch和ONNX生态中部署应用最广泛的通用推理运行时。
| 发布/成立 | 2019 | 美国 |
| 官网 | https://onnxruntime.ai/ |