有道 Kubernetes 容器API监控系统设计和实践

作者/ 郭超容 王伟静

编辑/ hjy

Kubernetes 已经成为事实上的编排平台的领导者、下一代分布式架构的代表，其在自动化部署、监控、扩展性、以及管理容器化的应用中已经体现出独特的优势。

在k8s容器相关的监控上， 我们主要做了几块工作，分别是基于prometheus的node、pod、k8s资源对象监控，容器服务API监控以及基于grafana的业务流量等指标监控。

在物理机时代，我们做了分级的接口功能监控——域名级别接口监控和机器级别监控，以便在某个机器出现问题时，我们就能快速发现问题。

上图中，左边是物理机时代对应的功能监控，包括域名级别接口监控和3台物理机器监控。右边是对应的k8s环境，一个service的流量会由k8s负载均衡到pod1，pod2，pod3中，我们分别需要添加的是service和各个pod的监控。

由于K8s中的一切资源都是动态的，随着服务版本升级，生成的都是全新的pod，并且pod的ip和原来是不一样的。

综上所述，传统的物理机API不能满足容器服务的监控需求，并且物理机功能监控需要手动运维管理，为此我们期望设计一套适配容器的接口功能监控系统，并且能够高度自动化管理监控信息，实现pod API自动监控。

为了满足以上需求，我们初期考虑了以下几个方案。

针对方案一，考虑我们服务上线的频率比较高，并且k8s设计思想便是可随时自动用新生成的pod（环境）顶替原来不好用的pod，手动维护pod监控效率太低，该方案不可行。

第二个方案应该是比较系统的解决办法，但需要的工作量会比较大，这种思路基本全自己开发，不能很好的利用已有的功能监控系统，迁移成本大。

于是我们选择了方案三，既能兼容我们物理机的接口功能监控方案，又能动态生成和维护pod监控。

k8s监控包括以下几个部分：

其中API功能监控，是我们保证业务功能正确性的重要监控手段。

通常业务监控系统都会包含监控配置、数据存储、信息展示，告警这几个模块，我们的API功能监控系统也不例外。

我们沿用apimonitor框架功能，并结合了容器服务功能监控特点，和已有的告警体系，形成了我们容器API功能监控系统结构：

首先介绍下目前我们物理机使用的apimonitor监控：一个开源的框架

https://gitee.com/ecar_team/apimonitor（欢迎大家点击文末【阅读原文】了解详情）

可以模拟探测http接口、http页面，通过请求耗时和响应结果来判断系统接口的可用性和正确性。支持单个API和多个API调用链的探测。

如下图所示，第一行监控里面监控的是图片翻译服务域名的地址，后边的是各台物理机的ip：端口。

点开每条监控

需要为待监控服务，配置一个固定的容service级别监控。

service级别监控命名规则：集群.项目.命名空间.服务

以词典查词服务为例，我们配置一条service级别的多API监控（也可以是单API监控）

• 单API：一个服务只需要加一条case用

• 多API：如果一个服务需要加多条功能case

其中“所属系统”  是服务所属的告警组，支持电话、短信、popo群、邮件等告警方式（和其它监控告警通用）

任务名称：取名规则，rancher中k8s集群名字.项目名字.命名空间名字.service名字（一共四段）

告警消息的字段含义：

自动生成下面三行监控任务：（第一行监控是按上面方法配置的容器service ip监控，后边三行是自动生成pod监控任务 ）

监控service级别是单API，则自动生成的是单API，service级别是多API，则自动生成的是多API监控。

自动生成的pod级别监控，除了最后两行标红处（ip: port）和service级别不一样，其他都一样。

5.1.1上线告警抑制

由于服务重启期间，会有removing状态和未ready状态的pod，在dockermonitor系统中存在记录，会引起误报。

我们的解决方法是提供一个通用脚本，根据k8s服务的存活检查时间，计算容器服务的发布更新时间，确定再自动开启服务监控的时机。实现在服务重启时间段，停止该服务的接口功能告警；存活检查时间过了之后，自动开启监控。

如下如所示，即Health Check中的Liveness Check检查时间。

在我们上线发布平台上衔接了该告警抑制功能。

5.1.2弹性扩缩容告警抑制

原来我们通过查询rancher的 API接口得到集群中全量信息，在我们服务越来越多之后， 查询一次全量信息需要的时间越来越长，基本需要5min左右。在这个过程中，存在docker-monitor和k8s集群中的信息不一致的情况。一开始试图通过按照业务分组，并行调用rancher接口得到业务k8s集群信息。时间从5min缩短到1min多钟。误报有一定的减少， 但从高峰期到低谷期时间段， 仍然会有若干pod在k8s集群中缩掉了， 但docker-monitor中仍有相应的告警。

在调研了一些方案之后，我们通过k8s增量事件（如pod增加、删除）的机制，拿到集群中最新的信息，pod的任何变更,3s钟之内就能拿到。

通过es的查询接口，使用 filebeat-system索引的日志， 把pod带有关键字Releasing address using workloadID （更及时），或kube-system索引的日志: Deleted pod: xx delete 。

通过这个方案，已经基本没有误报。

精品课对服务的容器化部署中使用了接口映射机制，使用自定义的监听端口来映射源端口，将service的监听端口作为服务的入口port供外部访问，如下图所示。当service的监听端口收到请求时，会将请求报文分发到pod的源端口，因此对pod级别的监控，需要找到pod的源端口。

我们分析了rancher提供的服务API文件后发现，在端口的配置信息中，port.containerPort为服务的监听端口，port.sourcePort为pod的监听端口，port.name包含port.containerPo

-rt和port.sourcePort的信息，由此找到了pod的源端口与service监听端口的关键联系，从而实现了对精品课服务接入本平台的支持。

1.容器服务API监控统一，形成一定的规范，帮助快速发现和定位问题。

通过该容器API监控系统，拦截的典型线上问题有：

• xx上线误操作

• 依赖服务xxxlib版本库问题

• dns server解析问题

• xxx服务OOM问题

• xxx服务堆内存分配不足问题

• xx线上压测问题

• 多个业务服务日志写满磁盘问题

• 各类功能不可用问题
  

• …

  
  

2.同时增加了API延时趋势图标方便评估服务性能：

错误统计表方便排查问题：

结合我们k8s资源对象监控，和grafana的业务流量等指标监控，线上故障率显著减少，几个业务的容器服务0故障。

本期文章中我们介绍了基于静态API监控和K8s集群化管理方案，设计了实时的自动容器API监控系统。

通过上述方案，我们能够在业务迁移容器后，很快地从物理机监控迁移到容器监控。统一的监控系统，使得我们线上服务问题暴露更及时、故障率也明显减少。