我们如何捕获 google Vertex AI 上的所有容器日志?

2024-04-05

我在 AI 平台上有一个在线预测端点(统一) 并且仅记录severity https://cloud.google.com/logging/docs/reference/v2/rest/v2/LogEntry#logseverity>= 可以发现错误..

模型的部署使用:--enable-container-logging

容器内的记录器代码:

module_logger = logging.getLogger("MODULE_NAME")
module_logger.setLevel(logging.INFO)

handler = logging.StreamHandler()
handler.setFormatter("%(asctime)s — %(name)s — %(levelname)s — %(funcName)s:%(lineno)d — " "%(message)s")
module_logger.addHandler(handler)

Query: resource.type="aiplatform.googleapis.com/Endpoint" resource.labels.endpoint_id="ENDPOINT_ID" resource.labels.location="us-central1"

两个问题:

  1. 我们如何确保容器记录的所有日志都被记录并在日志查看器中看到?

  2. 那严重程度是多少?控制台/平台是如何推导出来的?


回答我自己:

  1. 记录到 stdout 或 stderr 的容器日志由 gcloud 记录器捕获 https://cloud.google.com/vertex-ai/docs/predictions/online-prediction-logging
  2. 似乎没有明确的文档,但似乎stderr日志被解释为具有严重性ERROR而标准输出是INFO
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)

我们如何捕获 google Vertex AI 上的所有容器日志? 的相关文章

随机推荐