如何对 kubernetes 中运行的 Inception 服务的部署进行故障排除

我正在关注使用 TensorFlow Serving 和 Kubernetes 服务 Inception 模型 https://tensorflow.github.io/serving/serving_inception.html当我尝试从本地主机进行推理时，工作流程和一切都运行良好，直到通过 k8s 提供初始模型的最终服务。

我正在运行 Pod 并输出$kubectl describe serviceinception-service 与中的工作流程建议的一致使用 TensorFlow Serving 和 Kubernetes 服务 Inception 模型 https://tensorflow.github.io/serving/serving_inception.html.

然而，当运行推理时，事情就不起作用了。这是跟踪：

$bazel-bin/tensorflow_serving/example/inception_client --server=104.155.175.138:9000 --image=cat.jpg

Traceback (most recent call last):
File "/home/dimlyus/serving/bazel-
bin/tensorflow_serving/example/inception_client.runfi
les/tf_serving/tensorflow_serving/example/inception_client.py", line 56, in 
tf.app.run()

File "/home/dimlyus/serving/bazel-
bin/tensorflow_serving/example/inception_client.runfi
les/org_tensorflow/tensorflow/python/platform/app.py", line 48, in run
_sys.exit(main(_sys.argv[:1] + flags_passthrough))

File "/home/dimlyus/serving/bazel-
bin/tensorflow_serving/example/inception_client.runfi
les/tf_serving/tensorflow_serving/example/inception_client.py", line 51, in 
main
result = stub.Predict(request, 60.0) # 10 secs timeout

File "/usr/local/lib/python2.7/dist-
packages/grpc/beta/_client_adaptations.py", line 32
4, in call
self._request_serializer, self._response_deserializer)

File "/usr/local/lib/python2.7/dist-
packages/grpc/beta/_client_adaptations.py", line 21
0, in _blocking_unary_unary
raise _abortion_error(rpc_error_call)
grpc.framework.interfaces.face.face.AbortionError: 
AbortionError(code=StatusCode.UNAVAILABLE, details="Connect Failed")

我在 Google Cloud 上运行所有内容。设置是从 GCE 实例完成的，k8s 在 Google 容器引擎内部运行。 k8s 的设置遵循上面链接的工作流程中的说明并使用inception_k8s.yaml https://github.com/tensorflow/serving/tree/master/tensorflow_serving/example/inception_k8s.yaml file.

服务设置如下：

apiVersion: v1
kind: Service
metadata:
  labels:
    run: inception-service
  name: inception-service
spec:
  ports:
  - port: 9000
    targetPort: 9000
  selector:
    run: inception-service
  type: LoadBalancer

任何有关如何解决此问题的建议将不胜感激！

该错误消息似乎表明您的客户端无法连接到服务器。如果没有一些附加信息，就很难排除故障。如果您发布您的部署和服务配置，并提供一些有关环境的信息（它是否在云上运行？哪一个？您的安全规则是什么？负载均衡器？），我们也许能够提供更好的帮助。

但您可以立即检查以下一些事项：

1. 如果您在某种云环境（Amazon、Google、Azure 等）中运行，它们都有安全规则，您需要在运行 Kubernetes 集群的节点上显式打开端口。因此，您的 Tensorflow 部署/服务正在使用的每个端口都应在控制器和工作节点上打开。

2. 您是否只部署了一个Deployment对于应用程序或者也是Service？如果你运行一个Service它是如何暴露的？您是否忘记启用NodePort?

Update：您的服务类型是负载均衡器。因此，GCE 中应该创建一个单独的负载均衡器。您需要获取负载均衡器的IP，并通过负载均衡器的IP访问服务。请参阅此链接中的“查找您的 IP”部分https://kubernetes.io/docs/tasks/access-application-cluster/create-external-load-balancer/ https://kubernetes.io/docs/tasks/access-application-cluster/create-external-load-balancer/