需求背景

使用VMware在ubuntu系统的虚拟机上安装tensorflow serving，部署模型

环境配置

• 宿主机系统：win10 64位
• 宿主机python：anaconda + python3.6
• 宿主机tensorflow-gpu：cuda 9.0.176 + cudnn 7.0.3
• 虚拟机交互：VMware workstation 12 player + VMware workstation 15 pro（中途升级了一波软件）
• 虚拟机系统：ubuntu 16.04 desktop 64位

如何安装虚拟机，我之前有博客写过，传送门

• Windows10环境下通过虚拟机VMware12.5.9安装Linux Ubuntu16.04
• 解决VMware创建Linux系统虚拟机进行磁盘扩容后容量大小并未改变
• 查看cuda和cudnn版本win&linux

废话不多说，开始安（踩）装（坑）………………

安装anaconda

1、查看ubuntu自带的python版本（没啥意义，就想看看……其实是如果你想升级自带的python3.5版本至python3.6，可以参考网上的教程，这里我没有选择升级，真的不是懒！）

python -V
python3 -V

2、下载anaconda

anaconda官网地址 https://www.anaconda/

根据需求选择下载文件

我这里选择的是 linux + python3.7 + 64bit

3、安装anaconda

将下载好的文件 Anaconda3-2018.12-Linux-x86_64.sh 拖入VMware桌面，不能拖入的是没有安装VMware tools组件，怎么安装可以参考这篇博客

• VMware Tools （ubuntu系统）安装详细过程与使用

我将 Anaconda3-2018.12-Linux-x86_64.sh 放在 /home/userm/Downloads 文件夹下

打开terminal终端，输入安装命令

bash Anaconda3-2018.12-Linux-x86_64.sh文件所在位置

我这里命令如下（这种是安装在默认路径/home/userm/anaconda3下的）：
bash /home/userm/Downloads/Anaconda3-2018.12-Linux-x86_64.sh

如果想要自定义安装路径：
bash Anaconda3-2018.12-Linux-x86_64.sh文件所在位置 -p 你想安装的文件位置PATH -u

假设想安装在 /home/userm/Work/anaconda3 ：
bash /home/userm/Downloads/Anaconda3-2018.12-Linux-x86_64.sh  -p /home/userm/Work/anaconda3 -u 

先确认获取安装许可证

敲击回车，继续

敲击回车查看更多的许可证信息，一直敲到询问“你是否接受接受许可条款吗?”

• 回答no ==> game over，恭喜你，结束安装
• 回答yes ==> continue，恭喜你，继续踩坑

输入yes，询问你是否安装在 /home/userm/anacodna3 文件路径下，这是默认路径，可以修改，一般都选择默认路径（这样不麻烦）

• 输入 回车 ==> 开始安装到 /home/userm/anacodna3文件位置路径下
• 输入 ctrl+c ==> 中止安装程序
• 如果你想自定义安装的文件位置路径PATH在其他地方 ==> 输入 ctrl+c ==> 中止安装程序 ==> 重新更换安装命令 ，参考文章前面部分 

直至安装成功，然后询问“你是否希望将anaconda3添加到环境变量中”

• 输入yes ==> 自动添加到环境变量中
• 输入no ==> 后面需要手动添加到环境变量中，很麻烦，建议输入yes。同时这里是默认no，如果长时间没有回复这条命令，可能系统默认你选择了no，然后……emmm，我就是长时间没管它，结果自动回复了no，嫌手动添加麻烦又重新安装了一遍

成功添加环境变量后，成功安装anaconda。

接着询问“你是否希望安装Microsoft VSCode”，我选了yes，结果系统竟然检测说我没联网？我明明联网了，所以就回复yes==>无果==>回复no，结束安装。

输入命令查看 anaconda3是否安装/环境变量是否添加，

conda  list

 结果输出anaconda安装好的第三方库

若是没有显示上述结果，可以新打开一个终端命令行或者重启ubuntu，然后再输入 conda list 进行测试。 

也可以输入

anaconda-navigator

打开anaconda界面直接进行操作

安装tensorflow

1、先用anaconda创建一个tensorflow环境，选择对应的python版本

conda create -n 环境名称 python=X.X        # 此处可将环境名称设为tensorflow，方便

conda create -n tensorflow python=3.6

conda create -n tensorflow python=2.7

原来刚刚是真的没联网-_-||

so，赶紧去查查原因，结果发现使宿主机win10的服务没有启动

• win+R打开“运行”
• 输入cmd打开命令行
• 输入services.msc，打开“服务”
• 找到VMware DHCP Service和VMware NAT Service这个两个服务进程，分别右键，选择“启动”即可

打开火狐浏览器，终于连上网了

网络连接成功后，继续刚才的创建环境步骤，中途会询问“是否安装以下安装包”，选择是，输入y

 

环境成功创建。 

2、安装tensorflow-gpu

进入环境

source activate tensorflow        # linux系统进入anaconda环境需要加source

activate tensorflow               # windows系统进入anaconda环境直接activate

输入

PS：注意不要安装GPU版本的，后面import时会报错

pip install tensorflow           # 安装最新版本，目前好像是1.13

pip install tensorflow==1.12        # 安装指定版本，我安装的是1.12，训练bert模型要在1.11及以上版本才能运行

 

显示安装成功，测试一波，安装成功

python                        # 进入python环境

import tensorflow as tf

安装tensorflow-serving和Docker

参考官方github和其他教程

• https://github/tensorflow/serving
• https://github/tensorflow/serving/blob/master/tensorflow_serving/g3doc/serving_basic.md
• https://docs.docker/install/overview/
• Tensorflow-serving+Docker安装+模型部署
• tensorflow 模型保存与加载 和TensorFlow serving + grpc + docker项目部署

sudo docker pull tensorflow/serving # 把serving的镜像拉下来

但由于国外镜像网速受限，很慢，使用Docker 中国官方镜像加速更快

sudo docker pull registry.docker-cn/myname/myrepo:mytag

例如
sudo docker pull registry.docker-cn/library/ubuntu:16.04

经测试，这个blog也能安装成功

• 深度学习Tensorflow生产环境部署（上·环境准备篇）
• 深度学习Tensorflow生产环境部署（下·模型部署篇）

参考

1. 使用tensorflow-serving部署tensorflow模型
2. Simple TensorFlow Serving：通用和易于使用得部署机器学习模型
3. tensorflow+tensorflow-serving+docker+grpc模型上线部署（不需bazel编译，有代码）
4. VMware Workstation 15 Pro 永久激活密钥