【Kubernetes】Filebeat以sidecar模式实现容器日志收集

容器日志收集"/>

【Kubernetes】Filebeat以sidecar模式实现容器日志收集

说明

Filebeat可以以sidecar模式来进行容器日志的收集，也就是filebeat和具体的服务容器部署在同一个pod内，指定收集日志的路径或文件，即可将日志发送到指定位置或Elasticsearch这类的搜索引擎。
每个pod内部署filebeat的模式，好处是和具体的应用服务低耦合，可扩展性强，不过需要在yaml进行额外配置。

yaml示例

# app服务
---
apiVersion: v1
kind: Service
metadata:name: test-applabels:app: test-app
spec:selector:app: test-appports:- protocol: TCPport: 8080targetPort: 8080name: test-port
#定义日志收集相关配置的一个configmap
---
apiVersion: v1
kind: ConfigMap
metadata:name: test-filebeat-configlabels:k8s-app: filebeat
data:filebeat.yml: |-filebeat.prospectors:- type: logpaths:- /logdata/*.logtail_files: truefields:pod_name: '${pod_name}'POD_IP: '${POD_IP}'setup.template.name: "app-logs"setup.template.pattern: "app-logs-*"output.elasticsearch: # 日志输出到EShosts: ["192.168.1.xx:9200","192.168.1.xxx:9200"]index: "app-logs-%{+yyyy.MM}"
# deployment, 也可通过daemonset方式
---
apiVersion: apps/v1
kind: Deployment
metadata:name: test-app
spec:replicas: 1minReadySeconds: 15     #滚动升级15s后标志pod准备就绪strategy:rollingUpdate:        #replicas为2, 升级过程中pod个数在1-3个之间maxSurge: 1         #滚动升级时会先启动1个podmaxUnavailable: 1   #滚动升级时允许pod处于Unavailable的最大个数selector:matchLabels:app: test-apptemplate:metadata:labels:app: test-appspec:terminationGracePeriodSeconds: 30 #30秒内优雅关闭程序containers:- image: hub.exmaple/publib/filebeat:6.1.3     #提前下载下来到私有镜像库的镜像(官方的可能会被墙)name: filebeatargs: ["-c", "/opt/filebeat/filebeat.yml","-e",]env:- name: POD_IPvalueFrom:fieldRef:apiVersion: v1fieldPath: status.podIP- name: pod_namevalueFrom:fieldRef:apiVersion: v1fieldPath: metadata.namesecurityContext:runAsUser: 0resources:limits:memory: 200Mirequests:cpu: 200mmemory: 200MivolumeMounts:- name: config               #将configmap的内容放到容器本地目录mountPath: /opt/filebeat/- name: datamountPath: /usr/share/filebeat/data- name: logdata       #同一个pod内的两个应用共享目录logdata, 一个写一个读mountPath: /logdata- name: test-appimage: hub.example/service/test-service:latest  #提供具体服务的app镜像ports:- containerPort: 8080volumeMounts:- name: logdata       #指定挂在目录到logdatamountPath: /usr/local/tomcat/logsvolumes:- name: dataemptyDir: {}- name: logdata         #定义logdata为EmptyDir类型挂载目录emptyDir: {}- name: configconfigMap:name: test-filebeat-config  #使用前面定义的configmapitems:- key: filebeat.ymlpath: filebeat.yml

查看filebeat和app的运行日志

kubectl logs -f <pod名> filebeat
kubectl logs -f <pod名> test-app

这时可看到详细的运行日志情况，同时elasticsearch上也会新建一个app-logs-xxxx.xx的索引。