🧠 AI知识库

人工智能产业链与技术栈全景图 v0.2.0 · 2026-05-14

TensorFlow Serving

TensorFlow Serving

🌍 海外 🚅 推理部署 云端推理服务

简介

Google开源的高性能模型服务系统,专为TensorFlow模型生产部署设计。支持模型热更新、版本管理、动态批处理和gRPC/REST双协议接口。与Kubernetes生态无缝集成,是工业界TensorFlow模型在线推理的经典服务器方案,在大规模生产环境中久经考验。

发布/成立2016美国
官网https://www.tensorflow.org/tfx/guide/serving