安装 TF 服务
按照本节中的说明使用aptitude
在 Ubuntu 上安装 TensorFlow ModelServer。
- 首先,在 shell 提示符下使用以下命令添加 TensorFlow 服务分发 URI 作为包源(一次性设置):
$ echo "deb [arch=amd64] http://storage.googleapis.com/tensorflow-serving-apt stable tensorflow-model-server tensorflow-model-server-universal" | sudo tee /etc/apt/sources.list.d/tensorflow-serving.list
$ curl https://storage.googleapis.com/tensorflow-serving-apt/tensorflow-serving.release.pub.gpg | sudo apt-key add -
- 在 shell 提示符下使用以下命令安装和更新 TensorFlow ModelServer:
$ sudo apt-get update && sudo apt-get install tensorflow-model-server
这将安装使用特定于平台的编译器优化的 ModelServer 版本,例如使用 SSE4 和 AVX 指令。但是,如果优化版本安装在旧计算机上不起作用,则可以安装通用版本:
$ sudo apt-get remove tensorflow-model-server
$ sudo apt-get update && sudo apt-get install tensorflow-model-server-universal
For other operating systems and for installing from source, refer to the following link: https://www.tensorflow.org/serving/setup
发布新版本的 ModelServer 时,可以使用以下命令升级到较新版本:
$ sudo apt-get update && sudo apt-get upgrade tensorflow-model-server
- 现在已安装 ModelServer,使用以下命令运行服务器:
$ tensorflow-model-server
- 要连接到
tensorflow-model-server
,请使用 pip 安装 python 客户端软件包:
$ sudo pip2 install tensorflow-serving-api
TF Serving API 仅适用于 Python 2,但尚不适用于 Python 3。