🧠 AI知识库

人工智能产业链与技术栈全景图 v0.2.0 · 2026-05-14

ONNX Runtime

ONNX Runtime

🌍 海外 🚅 推理部署 通用推理引擎

简介

微软开源的高性能跨平台推理引擎,支持ONNX标准模型格式。覆盖CPU、GPU(CUDA/TensorRT/ROCm/Metal)、NPU等多种硬件后端。内置量化、图优化等加速功能。是PyTorch和ONNX生态中部署应用最广泛的通用推理运行时。

发布/成立2019美国
官网https://onnxruntime.ai/