---
title: 'Kubernetes 控制平面 - Kubectl 详细讲解'
ShowRssButtonInSectionTermList: true
date: '2023-09-28T20:29:30+08:00'
draft: false
showtoc: true
tocopen: false
type: posts
author: 'Xinwei Xiong, Me'
keywords: ['Kubernetes', 'Kubectl', '控制平面', 'kubelet', 'Pod 管理']
tags: ["Development", "Go", "Kubernetes"]
categories: ["AI & Technology"]
description: 'kubelet 架构kubelet 管理 Pod 的核心流程kubelet 节点管理Pod 管理Pod'
tldr:
  - "Kubelet是Kubernetes节点代理程序，负责维护本节点上Pod的生命周期，通过获取Pod清单、节点管理和Pod启动流程来完成Pod管理任务。"
  - "Kubelet架构包括ProbeManager、OOMWatcher、GPUManager、cAdvisor、PLEG、StatusManager等核心模块，分别负责探针管理、资源监控、容器生命周期跟踪和状态汇报。"
  - "Kubelet启动Pod涉及获取清单、镜像检查拉取、容器启动、探针监测等步骤，通过CRI、CNI、CSI接口与容器运行时、网络插件和存储插件协调。"
---

[Kubelet组件解析](https://blog.csdn.net/jettery/article/details/78891733)

## 理解 kubelet

Kubelet组件运行在Node节点上，维持运行中的Pods以及提供kuberntes运行时环境，主要完成以下使命：

１．监视分配给该Node节点的pods

２．挂载pod所需要的volumes

３．下载pod的secret

４．通过docker/rkt来运行pod中的容器

５．周期的执行pod中为容器定义的liveness探针

６．上报pod的状态给系统的其他组件

７．上报Node的状态

kubelet 管理Pod的核心流程主要包括三个步骤。首先，kubelet获取Pod清单，可以通过文件、HTTP endpoint、API Server和HTTP server等方式获取。其次，节点管理主要是节点自注册和节点状态更新，Kubelet在启动时通过API Server注册节点信息，并定时向API Server发送节点新消息，API Server在接收到新消息后，将信息写入etcd。最后，Pod启动流程主要包括镜像拉取、容器启动、探针监控以及状态汇报等步骤。

kubelet是Kubernetes中的一个节点代理程序，负责维护本节点上Pod的生命周期。kubelet是Kubernetes中非常重要的组件之一，它在Kubernetes集群中扮演着非常重要的角色。kubelet可以在每个节点上运行，它监视分配给该Node节点的pods，并执行各种管理容器的操作，如挂载pod所需要的volumes、下载pod的secret等。

kubelet的核心流程主要包括获取Pod清单、节点管理和Pod启动流程。其中，获取Pod清单的方式包括文件、HTTP endpoint、API Server和HTTP server等方式。节点管理主要包括节点自注册和节点状态更新，而Pod启动流程主要包括镜像拉取、容器启动、探针监控以及状态汇报等步骤。

+ 在节点管理方面，kubelet可以通过设置启动参数-register-node来确定是否向API Server注册自己。如果kubelet没有选择自注册模式，则需要用户自己配置Node资源信息，同时需要告知kubelet集群上的API Server的位置。在启动时，kubelet会通过API Server注册节点信息，并定时向API Server发送节点新消息，API Server在接收到新消息后，将信息写入etcd。
+ 在Pod管理方面，kubelet可以通过文件、HTTP endpoint、API Server和HTTP server等方式获取Pod清单。文件方式主要用于static pod，而HTTP和API Server方式则是Kubernetes中常用的方式。HTTP server主要用于kubelet侦听HTTP请求，并响应简单的API以提交新的Pod清单。
+ 在Pod启动流程方面，kubelet会执行各种管理容器的操作，包括镜像拉取、容器启动、探针监控以及状态汇报等步骤。镜像拉取是Pod启动过程中的一项重要工作，kubelet可以通过imageManager模块来管理镜像。容器启动是Pod启动过程的下一步，kubelet通过container runtime来启动容器。探针监控是Pod启动过程中一项非常重要的工作，kubelet会周期性地执行pod中为容器定义的liveness探针，并将结果上报给系统的其他组件。状态汇报是kubelet的一个重要功能，它会上报pod和Node的状态给系统的其他组件，以及上报节点自身的状态和资源使用情况给API Server。

总之，kubelet是Kubernetes中非常重要的组件之一，它负责维护本节点上Pod的生命周期，并执行各种管理容器的操作。kubelet的核心流程包括获取Pod清单、节点管理和Pod启动流程。在节点管理方面，kubelet通过设置启动参数-register-node来确定是否向API Server注册自己。在Pod管理方面，kubelet可以通过文件、HTTP endpoint、API Server和HTTP server等方式获取Pod清单。在Pod启动流程方面，kubelet会执行各种管理容器的操作，包括镜像拉取、容器启动、探针监控以及状态汇报等步骤。

## kubelet 架构

每个节点上都运行一一个 kubelet 服务进程，默认监听 10250 端口。

+ 接收并执行 master 发来的指令;
+ 管理 Pod 及 Pod 中的容器;
+ 每个 kubelet 进程会在 API Server上注册节点自身信息，定期向 master 节点汇报节点的资源使用情况，并通过 cAdvisor 监控节点和容器的资源。

kubelet 架构如下图所示：

![http://sm.nsddd.top/sm202303081731495.png](http://sm.nsddd.top/sm202303081731495.png)

kubelet 默认会监听 4 个端口：

+ **10250（kubelet API）**：**kubelet server 与 apiserver 通信的端口，定期请求 apiserver 获取自己所应当处理的任务**，通过该端口可以访问获取 node 资源以及状态。**kubectl查看pod的日志和cmd命令，都是通过kubelet端口 10250 访问。**
+ **10248（健康检查端口)**： kubelet 是否正常工作, 通过 kubelet 的启动参数 –healthz-port 和 –healthz-bind-address 来指定监听的地址和端口。
+ **4194（cAdvisor 监听）**：kublet 通过该端口可以获取到该节点的环境信息以及 node 上运行的容器状态等内容，访问 `http://localhost:4194` 可以看到 cAdvisor 的管理界面, 通过 kubelet 的启动参数 –cadvisor-port 可以指定 启动的端口。
+ **10255 （readonly API）**：提供了 pod 和 node 的信息，接口以只读形式暴露出去，访问该端口不需要认证和鉴权。 获取 pod 的接口，与 apiserver 的 `http://127.0.0.1:8080/api/v1/pods?fieldSelector=spec.nodeName=xxx` 接口类似
+ ProbeManager：实现 k8s 中的探针功能，在 pod 中配置了各个探针后，由 ProbeManager 来管理并执行
+ OOMWatcher：系统OOM的监听器，将会与cadvisor模块之间建立SystemOOM,通过Watch方式从cadvisor那里收到的OOM信号，并记录到节点的 Event
+ GPUManager：对于Node上可使用的GPU的管理，当前版本需要在kubelet启动参数中指定feature-gates中添加Accelerators=true，并且需要才用runtime=Docker的情况下才能支持使用GPU,并且当前只支持NvidiaGPU,GPUManager主要需要实现interface定义的Start()/Capacity()/AllocateGPU()三个函数
+ cAdvisor：cAdvisor集成在kubelet中，起到收集本Node的节点和启动的容器的监控的信息，启动一个Http Server服务器，对外接收rest api请求．cAvisor模块对外提供了interface接口，可以通过interface接口获取到node节点信息，本地文件系统的状态等信息，该接口被imageManager，OOMWatcher，containerManager等所使用
+ PLEG：PLEG全称为PodLifecycleEvent,PLEG会一直调用container runtime获取本节点的pods,之后比较本模块中之前缓存的pods信息，比较最新的pods中的容器的状态是否发生改变，当状态发生切换的时候，生成一个eventRecord事件，输出到eventChannel中．　syncPod模块会接收到eventChannel中的event事件，来触发pod同步处理过程，调用contaiener runtime来重建pod，保证pod工作正常．
+ StatusManager：该模块负责pod里面的容器的状态，接受从其它模块发送过来的pod状态改变的事件，进行处理，并更新到kube-apiserver中．
+ EvictionManager：当node的节点资源不足的时候，达到了配置的evict的策略，将会从node上驱赶pod，来保证node节点的稳定性．可以通过kubelet启动参数来决定evict的策略．另外当node的内存以及disk资源达到evict的策略的时候会生成对应的node状态记录
+ VolumeManager：负责node节点上pod所使用的ｖolume的管理．主要涉及如下功能 Volume状态的同步，模块中会启动gorountine去获取当前node上volume的状态信息以及期望的volume的状态信息，会去周期性的sync　volume的状态，另外volume与pod的生命周期关联，pod的创建删除过程中volume的attach/detach流程．更重要的是kubernetes支持多种存储的插件
+ ImageGC：负责Node节点的镜像回收，当本地的存放镜像的本地磁盘空间达到某阈值的时候，会触发镜像的回收，删除掉不被pod所使用的镜像．回收镜像的阈值可以通过kubelet的启动参数来设置．
+ ContainerGC：负责NOde节点上的dead状态的container,自动清理掉node上残留的容器．具体的GC操作由runtime来实现
+ ImageManager：调用kubecontainer.ImageService提供的PullImage/GetImageRef/ListImages/RemoveImage/ImageStates的方法来保证pod运行所需要的镜像，主要是为了kubelet支持cni．

## kubelet 管理 Pod 的核心流程

![http://sm.nsddd.top/sm202303081730574.png](http://sm.nsddd.top/sm202303081730574.png)

来源包括 file 和 http 两种类型：

+ file 主要是用于 static pod
+ http 则是 apiserver 进行调用

### kubelet 节点管理

节点管理主要是节点自注册和节点状态更新:

+ Kubelet 可以通过设置启动参数**-register-node**来确定是否向 API Server 注册自己;
+ 如果 Kubelet 没有选择自注册模式，则需要用户自己配置 Node 资源信息，同时需要告知 Kubelet 集群上的API Server 的位置;
+ Kubelet 在启动时通过 API Server 注册节点信息,并定时向 API Server 发送节点新消息，API Server 在接收到新消息后，将信息写入etcd。

### Pod 管理

获取Pod清单:

+ 文件：启动参数**-config**指定的配置目录下的文件(默认 `/etc/ Kubernetes/manifests/` )。该文件每20秒重新检查一次( 可配置)

+ 配置方法

  kubelet 可以通过启动参数 `-config` 指定配置文件的目录，默认为 `/etc/kubernetes/manifests/`。该目录下的文件每20秒重新检查一次，可以在启动时使用参数 `-sync-frequency` 来更改检查频率。

+ HTTP endpoint (URL) ：启动参数**-manifest-url**设置。每20秒检查一次这个端点(可配置）

+ API Server：通过 API Server 监听 etcd 目录，同步 Pod 清单。

+ HTTP server: kubelet 侦听 HTTP 请求，并响应简单的 API 以提交新的 Pod 清单。

### Pod 启动流程

![http://sm.nsddd.top/sm202303081731318.png](http://sm.nsddd.top/sm202303081731318.png)

kubelet 管理 Pod 的核心流程如下：

1. kubelet 通过 API Server 或文件等方式获取 Pod 清单。
2. kubelet 通过 CRI（Container Runtime Interface）接口创建 Pod 的容器。
3. kubelet 通过镜像管理器检查容器所需的镜像是否存在，如果不存在就从镜像仓库中拉取。
4. kubelet 通过容器运行时（如Docker）启动容器。
5. kubelet 定期执行容器的探针监测，包括 liveness 探针和 readiness 探针。
6. kubelet 定期向 API Server 汇报 Pod 状态，包括容器状态和节点资源使用情况。

其中，kubelet 通过获取 Pod 清单、节点管理和 Pod 启动流程来管理 Pod。

我们知道每一个 pod 都有一个 底座，叫做 pause：

在 Kubernetes 中，容器是最小的调度单位，但它们通常不是独立运行的，而是与其他容器组合在一起形成一个完整的应用程序部署单元——Pod。在 Pod 中，所有容器共享相同的网络空间和存储卷，它们之间可以通过 localhost 相互通信。

每个 Pod 内部都有一个 pause 容器，它是一个仅仅存在于网络中的容器。它在 Pod 创建时作为第一个容器启动，在 Pod 中不承担任何的业务功能，仅仅是用来占用一个网络端口，以便其他容器可以与之通信。pause 容器启动后，就会进入暂停状态，但是它仍然在运行中，以保持容器进程的持续性。当容器内的所有应用程序都停止执行时，pause 容器仍然在运行，从而保留了容器的网络和存储配置。pause 容器很小，只有几十兆字节，因此创建和销毁非常快，不会占用多余的资源。

可以把 pause 容器看作是 Pod 的“底座”，它负责维护 Pod 的生命周期，当 Pod 中的其他容器停止运行时，pause 容器仍然在运行，以保证 Pod 的网络和存储配置不会丢失。因此，如果 pause 容器停止运行，整个 Pod 将会被删除，同时也会删除 Pod 中的所有容器。同时 pause 容器也是 kubelet 的一个重要组成部分，kubelet 会通过监视 pause 容器的状态来判断 Pod 的状态是否正常。

总之，pause 容器是 Kubernetes 中一个非常重要的概念，可以说是整个容器编排的基础。理解 pause 容器的作用和原理，对于深入理解 Kubernetes 的运行机制和调度策略都是非常必要的。

pause容器的源代码地址是：https://github.com/kubernetes/kubernetes/blob/master/cmd/kubelet/app/pods/pause.go

更加详细的流程：

> 按组件分类，细致到方法级别。
>
> ![http://sm.nsddd.top/sm202303081908979.png](http://sm.nsddd.top/sm202303081908979.png)

可以看到 CNI、CRI、CSI 的调用过程，这里有个清晰的认识。

## kubelet 启动 Pod 流程

1. 通过 API Server 或文件等方式获取 Pod 清单。
2. 通过 CRI（Container Runtime Interface）接口创建 Pod 的容器。
3. 通过镜像管理器检查容器所需的镜像是否存在，如果不存在就从镜像仓库中拉取。
4. 通过容器运行时（如 Docker）启动容器。
5. 定期执行容器的探针监测，包括 liveness 探针和 readiness 探针。
6. 定期向 API Server 汇报 Pod 状态，包括容器状态和节点资源使用情况。

其中，kubelet 通过获取 Pod 清单、节点管理和 Pod 启动流程来管理 Pod。

## CNI、CRI、CSI 调用步骤和调用过程

以下为调用过程：

1. kubelet 中的 kube-container-runtime 调用 CRI runtime 进行容器管理。
2. CRI runtime 负责与容器运行时进行通信，如 Docker 或 containerd。
3. CRI runtime 通过 CNI plugin 调用 CNI 进行网络管理。
4. CNI 负责调用网络插件，如 flannel 或 Calico。
5. CSI 则负责与存储插件进行通信，如 Ceph 或 NFS。

以上是 kubelet 启动 Pod 流程以及 CNI、CRI、CSI 调用步骤和调用过程。
