Kubernetes - Controller Manager
工作流程
Informer Framework 和 Lister Framework 可以借助代码生成器生成
Lister 维护了一份 API Server 的缓存数据(减少对 API Server 的访问压力)
Informer 会通过 Indexer 为对象计算一个 Key,然后入队,Worker 会消费队列,并从 Lister 查询缓存数据
核心 Controller
Controller Manager 是 Controller 的集合
Controller
Desc
API
Job Controller
处理 Job
Cronjob Controller
处理 Cronjob
Pod AutoScaler
处理 Pod 的自动扩缩容
HorizontalPodAutoscaler
RelicaSet
依据 RelicaSet Spec 创建 Pod
Service Controller
依据 Service 的 LoadBalancer Type 创建 LB VIP
ServiceAccount Controller
确保 ServiceA ...
Kubernetes - Scheduler
概述
kube-scheduler 负责分配调度 Pod 到集群内的 Node 上
监听 kube-apiserver,查询还未分配 Node 的 Pod,然后根据调度策略为这些 Pod 分配 Node
123456789$ k get po -n kube-system coredns-7f6cbbb7b8-njp2w -oyamlapiVersion: v1kind: Podmetadata: ...spec: ... nodeName: mac-k8s ...
阶段
Stage
Desc
predicate
过滤不符合条件的 Node
priority
优先级排序,选择优先级最高的 Node
Predicates
过滤
Strategy
Strategy
Desc
PodFitsHostPorts
检查是否有 Host Ports 冲突
PodFitsPorts
与 PodFitsHostPorts 一致
PodFitsResources
检查 Node 的资源是否充足
HostName
检查候选 Node 与 pod.Spec.Nod ...
Kubernetes - API Server
概述
API Server
提供集群管理的 REST API
提供其它模块之间数据交互和通信的枢纽
其它模块通过 API Server 查询或者修改数据,只有 API Server 才能直接操作 etcd
访问控制:认证 + 鉴权 + 准入
Mutating Admission 可以修改对象,而 Validating Admission 不可以修改对象
认证
开启 TLS 时,所有请求都需要首先认证
Kubernetes 支持多种认证机制,并支持同时开启多个认证插件(只需要有 1 个认证通过即可)
如果认证成功,进入鉴权模块,如果认证失败,则返回 401
认证插件
X509 证书
在 API Server 启动时配置 --client-ca-file
CN 域(CommonName)用作用户名,而O 域(Organization)则用作 Group 名
静态 Token 文件
在 API Server 启动时配置 --token-auth-file
采用 csv 格式:token,user,uid,[group...]
引导 Token
目的:为了支持平滑地启动引导新 ...
Kubernetes - etcd
概述
CoreOS 基于 Raft 开发的分布式 KV 存储,可用于服务发现、共享配置和一致性保障(Leader 选举、分布式锁)
A distributed, reliable key-value store for the most critical data of a distributed system
Key
Desc
KV 存储
将数据存储在分层组织的目录中,类似于标准的文件系统
监测变更
监测特定的 Key 或者目录以进行变更,并对值的更改做出反应
简单
curl: HTTP + JSON
安全
TLS 客户端证书认证,有一套完备的授权认证体系,但 Kubernetes 并没有使用
快速
单实例:1000 TPS、2000 QPS
可靠
使用 Raft 算法保证分布式一致性
主要功能
基本的 KV 存储 - Kubernetes 使用最多
监听机制
Key 的过期和续约机制,用于监控和服务发现
原生支持 Compare And Swap 和 Compare And Delete,用于 Leader 选举和分布式锁
KV 存储
KV 存储 ...
Kubernetes - Architectural principles
主要功能
基于容器的应用部署、维护和滚动升级
服务发现和负载均衡
跨机器和跨地区的集群调度
自动伸缩
无状态服务和有状态服务
插件机制保证扩展性
命令式 vs 声明式
YAML
命令式关注:如何做
声明式关注:做什么
核心对象
Kubernetes 的所有管理能力是构建在对象抽象的基础上
对象
描述
Node
计算节点的抽象
Namespace
资源隔离的基本单位
Pod
用来描述应用实例,最为核心的对象
Service
如何将应用发布为服务,本质上是负载均衡和域名服务的声明
核心架构
核心组件
Scheduler关注没有与 Node 绑定的 Pod,完成调度后,会将信息写入 etcd,而 kubelet 会监听到
Master
组件
描述
API Server
API 网关
Cluster Data Store
etcd:分布式 kv 存储,K8S 将所有 API 对象持久存储在 etcd
Controller Manager
处理集群日常任务的控制器:节点控制器、副本控制器等
Scheduler
监控新建的 Pods 并将其分配给 No ...
Kubernetes - Cgroups
Namespace
隔离不完备
在 Linux 内核中,有很多资源和对象是不能被 Namespace 化的,例如时间
如果在容器中使用 settimeofday(2) 的系统调用,整个宿主机的时间都会被修改
Cgroups
在 Linux 中,Cgroups 暴露给用户的操作接口是文件系统
1234567891011121314151617181920$ mount -t cgroupcgroup on /sys/fs/cgroup/systemd type cgroup (rw,nosuid,nodev,noexec,relatime,xattr,name=systemd)cgroup on /sys/fs/cgroup/blkio type cgroup (rw,nosuid,nodev,noexec,relatime,blkio)cgroup on /sys/fs/cgroup/cpu,cpuacct type cgroup (rw,nosuid,nodev,noexec,relatime,cpu,cpuacct)cgroup on /sys/fs/cgroup/devices type c ...
Kubernetes - 3rd example
架构
MariaDB
ConfigMap
maria-cm.yaml12345678910apiVersion: v1kind: ConfigMapmetadata: name: maria-cmdata: DATABASE: 'db' USER: 'wp' PASSWORD: '123' ROOT_PASSWORD: '123'
12$ k apply -f maria-cm.yamlconfigmap/maria-cm created
StatefulSet
maria-sts.yaml123456789101112131415161718192021222324252627282930313233343536373839404142434445464748apiVersion: apps/v1kind: StatefulSetmetadata: name: maria-sts labels: app: maria-stsspec: # headless svc serviceName: ...
Kubernetes - CNI
网络模型
Docker bridge
Docker 会创建一个名为 docker0 的虚拟网桥,默认网段为172.17.0.0/16
每个容器上都会创建一个虚拟网卡对(veth pair)
两个虚拟网卡分别连接容器和虚拟网桥,从而实现容器间的网络互通
Docker 的网络方案只局限在单机环境下工作,Kubernetes 的网络模型:IP-per-pod
IP-per-pod
集群内的每个 Pod 都会有唯一的 IP 地址
Pod 内的所有容器共享这个 IP 地址
集群内的所有 Pod 都属于同一个网段
Pod 可以基于 IP 地址直接访问另一个 Pod,不需要做 NAT
CNI
Container Networking Interface
CNI 定义了一系列通用接口,开发者只需要遵循规范接入 Kubernetes
为 Pod 创建虚拟网卡、分配 IP 地址、设置路由规则,进而实现 Kubernetes 的 IP-per-pod 网络模型
依据实现技术分类,CNI 插件可以分为 3 类
Overlay
构建一个工作在底层网络之上的逻辑网络
把原始的 Pod 网络数据包封包,再 ...
Kubernetes - Monitor
Metrics Server
用来收集 Kubernetes 核心资源的指标,定时从所有 Node 的 kubelet 采集信息对集群的整体性能影响极小,性价比很高,每个 Node 大约只会占用 1m vCPU 和 2MB 内存
Metrics Server 调用 kubelet 的 API,获取到 Node 和 Pod 的指标,再将这些信息交给 API Serverkubectl 和 HPA 可以通过 API Server 来读取指标
Metrics Server 早期的数据来源是 cAdvisor,原先是一个独立的应用程序,后来被集成进 kubelet
https://github.com/kubernetes-sigs/metrics-server/releases/latest/download/components.yaml
--kubelet-insecure-tls
1234567891011121314151617apiVersion: apps/v1kind: Deploymentmetadata: labels: k8s-app: metrics-serve ...
Kubernetes - ResourceQuota
Namespace
Namespace 是一个 API 对象,但并不是一个实体对象,只是一个逻辑上的概念
123456$ k create ns test-nsnamespace/test-ns created$ k get ns test-ns -owideNAME STATUS AGEtest-ns Active 8s
nginx-pod-ns.yaml12345678910apiVersion: v1kind: Podmetadata: name: nginx namespace: test-nsspec: containers: - name: nginx image: nginx:alpine
123456789101112$ k apply -f nginx-pod-ns.yamlpod/nginx created$ k get po -ntest-ns -owideNAME READY STATUS RESTARTS AGE IP NODE NOMINATED NODE READINE ...