TensorFlow 服务

TensorFlow 服务（TFS）是一种高表现服务器架构，用于为生产中的机器学习模型提供服务。它提供与使用 TensorFlow 构建的模型的开箱即用集成。

在 TFS 中，模型由一个或多个可服务组成。 servable 用于执行计算，例如：

• 用于嵌入查找的查找表
• 单个模型返回预测
• 一组模型返回一组预测
• 查找表或模型的分片

管理器 组件管理 servables 的整个生命周期，包括加载/卸载 servable 并提供 servable。

TensorFlow 服务的内部架构和工作流程在以下链接中描述：https://www.tensorflow.org/serving/architecture_overview.。