当前位置 博文首页 > Praywu:kubeadm部署K8S集群

    Praywu:kubeadm部署K8S集群

    作者:Praywu 时间:2021-01-18 22:06

    1. Kubernetes概述

    1.1 Kubernetes是什么

    • Kubernetes是Google在2014年开源的一个容器集群管理系统,Kubernetes简称K8S。
    • K8S用于容器化应用程序的部署,扩展和管理。
    • K8S提供了容器编排,资源调度,弹性伸缩,部署管理,服务发现等一系列功能。
    • Kubernetes目标是让部署容器化应用简单高效。

    1.2 Kubernetes的特性

    1)自我修复

    • 在节点故障时重新启动失败的容器,替换和重新部署,保证预期的副本数量;
    • 杀死健康检查失败的容器,并且在未准备好之前不会处理客户端请求,确保线上服务不中断;

    2)弹性伸缩

    • 使用命令、UI或者基于CPU使用情况自动快速扩容和缩容应用程序实例,保证应用业务高峰并发时的高可用性;
    • 业务低峰时回收资源,以最小成本运行服务

    3)自动部署和回滚

    • Kubernetes采用滚动跟新策略更新应用,一次更新一个Pod,而不是同时删除所有的Pod,如果更新过程中出现问题,将回滚更改,确保升级不影响业务。

    4)服务发现和负载均衡

    • K8S为多个容器提供一个统一访问入口(内部IP地址和一个DNS名称),并且负载均衡关联的所有容器,使得用户无需考虑容器IP问题。

    5)机密和配置管理

    • 管理机密数据和应用程序配置,而不需要把敏感数据暴露在镜像里,提高敏感数据安全性。并可以将一些常用的配置存储在K8S中,方便应用程序使用。

    6)存储编排

    • 挂载外部存储系统,无论是来自本地存储,公有云(AWS),还是网络存储(NFS、GlusterFS、Ceph)都作为集群资源的一部分使用,极大提高存储使用灵活性

    7)批处理

    • 提供一次性服务,定时任务;满足批量数据处理和分析的场景

    1.3 Kubernetes集群架构组件

    1)Master组件

    • kube-apiserver
      • (Kubernetes API)集群的统一入口,各组件协调者,以RESTful API提供接口服务,所有对象资源的增删改查和监听操作都交给APIServer处理后再提交给Etcd存储。
    • kube-controller-manager
      • 处理集群中常规后台任务,一个资源对应一个控制器,而ControllerManager就是负责管理这些控制器的
    • kube-schedule
      • 根据调度算法为新创建的Pod选择一个Node节点,可以任意部署,可以部署在同一个节点上,也可以部署在不同的节点上
    • etcd
      • 分布式键值存储系统。用于保存集群状态数据,比如Pod、Service等对象信息。

    2)Node组件 

    • kubelet
      • kubelet是Master在Node节点上的Agent,管理本机运行容器的生命周期,比如创建容器、Pod挂载数据卷、下载secret、获取容器和节点状态等工作。kubelet将每个Pod转换成一组容器
    • kube-proxy
      • 在Node节点上实现Pod网络代理,维护网络规则和四层负载均衡工作。
    • docker 或 rocket
      • 容器引擎,运行容器

    1.4 Kubernetes核心概念

    1)Pod

    • 最小部署单元
    • 一组容器的集合
    • 一个Pod中的容器共享网络命名空间
    • Pod是短暂的

    2)Controller

    • ReplicaSet:确保预期的Pod副本数量
    • Deployment:无状态应用部署
    • StatefulSet:有状态应用部署
    • DaemonSet:确保所有Node运行同一个Pod
    • Job:一次性任务
    • Cronjob:定时任务

    3)更高级层次对象,部署和管理Pod

    • Service:
      • 防止Pod失联;定义一次Pod的访问策略
      • Service抽象层不过是iptables或者ipvs中的规则而已
    • Label:标签,附加到某个资源上,用于关联对象、查询和筛选
    • Namespaces:命名空间,将对象逻辑上隔离
    • Annotations:注释

    4)网络解决方案

    • K8S通过CNI插件体系来接入外部网络服务解决方案
    • 常见的有:
      • flannel:网络配置相关
      • calico:网络配置、网络策略
      • canel:flannel的网络配置 + calico的网络策略

    5)三种网络

    • Pod网络:Pod的地址是配置在Pod内部的网络名称空间上的,是能ping通的,就像正常主机上的地址一样
    • Service网络(集群网络):Service的地址是虚拟的,它只存在于iptables或者ipvs的规则之中
    • 节点网络:各个节点也应该有一个网络

    各个Pod运行在同一个网络中,而service是另外一个网络;Pod和service的地址是不同网段的。

    接入外部访问时,先接入节点网络,然后由节点网络代理至集群网络,再由集群网络代理至Pod网络。

    同一Pod内的多个容器之间通过 lo 接口进行通信。

    两个Pod之间可以直接进行通信:通过隧道的方式(Overlay叠加网络)来转发二层报文,使得它们虽然扩主机但是好像工作在同一个二层网络中。访问对方Pod所在节点的位置,然后再代理到Pod内部的容器上。

    2. 使用kubeadm部署K8S集群

    2.1 Kubernetes的三种部署方式

    1)minikube

    • Minikube是一个工具,可以在本地快速运行一个单点的Kubernetes,仅用于尝试Kubernetes或日常开发的用户使用。
    • 部署地址:https://kubernetes.io/docs/setup/minikube/

    2)kubeadm

    • Kubeadm是一个工具,提供kubeadm init 和 kubeadm join,用于快速部署Kubernetes集群。
    • 部署地址:https://kubernetes.io/docs/reference/setup-tools/kubeadm/kubeadm/

    3)二进制包

    • 从官方下载发行版的二进制包,手动部署每个组件,组成Kubernetes集群。
    • 下载地址:https://github.com/kubernetes/kubernetes/releases

    2.2 K8S集群的部署规划

    1)环境需求

    • 系统:CentOS7.4
    • 内存 > 1.7G
    • CPU > 2核

    2)角色规划

    3)网络模型

    • 节点网络:172.18.0.0/16
    • Pod网络:10.244.0.0/16
    • Service网络:10.96.0.0/12

    2.3 环境初始化

    • 在所有节点上都执行

    1)关闭防火墙、SELinux

    # 关闭防火墙并设置开机禁止启动
    systemctl stop firewalld && systemctl disable firewalld
    
    # 关闭SELinux
    sed -i 's/^SELINUX=.*/SELINUX=disabled/' /etc/selinux/config  && setenforce 0

    2)关闭swap分区

    # 临时关闭所有swap
    swapoff -a 
    
    # 在/etc/fstab中机制挂载swap
    sed -i '/ swap / s/^\(.*\)$/#\1/g' /etc/fstab

    3)设置主机名并配置hosts

    # 为各个主机配置主机名
    hostnamectl set-hostname k8s-master01
    hostnamectl set-hostname k8s-node01
    hostnamectl set-hostname k8s-node02
    
    # 配置好主机名后将以下内容写入到所有节点的 /etc/hosts 文件中
    172.18.0.67 k8s-master01
    172.18.0.68 k8s-node01
    172.18.0.69 k8s-node02

    4)内核调整

    • 将桥接的 IPv4 的流量传递到 iptables的链
    # 设置 net.bridge.bridge-nf-call-ip6tables = 1
    # 设置 net.bridge.bridge-nf-call-iptables = 1
    cat > /etc/sysctl.d/k8s.conf << EOF
    net.bridge.bridge-nf-call-ip6tables = 1
    net.bridge.bridge-nf-call-iptables = 1
    EOF
    
    sysctl --system  # Load  settings  from all system configuration files

    5)为各个主机做时间同步

    • 启动chrony服务同步时间即可

    2.4 开始安装

    • 在所有节点上执行

    1)配置安装源

    • 配置docker-ce的源
    cd /etc/yum.repos.d/ && wget -c https://mirrors.tuna.tsinghua.edu.cn/docker-ce/linux/centos/docker-ce.repo
    # 注意要修改下载下来的这个repo文件中的地址,将其指向为清华的源的地址
    • 配置Kubernetes的源
    cat > /etc/yum.repos.d/kubernetes.repo << EOF
    [kubernetes]
    name=Kubernetes
    baseurl=https://mirrors.aliyun.com/kubernetes/yum/repos/kubernetes-el7-x86_64
    enabled=1
    gpgcheck=0
    repo_gpgcheck=0
    gpgkey=https://mirrors.aliyun.com/kubernetes/yum/doc/yum-key.gpg https://mirrors.aliyun.com/kubernetes/yum/doc/rpm-package-key.gpg
    EOF

    2)安装docker-ce

    yum install -y docker-ce
    systemctl start docker && systemctl enable docker
    docker info
    # 安装完成之后注意要为docker配置好镜像加速

    3)安装kubeadm、kubelet 和 kubectl

    yum install kubelet kubeadm kubectl -y
    # 注意,要让kubelet开机自启,现在还不能去手动启动它
    systemctl enable kubelet  

    4)为kubelet配置额外参数

    # 可以在 /etc/sysconfig/kubelet 这个文件中添加额外的参数
    # 如关闭swap功能
    KUBELET_EXTRA_ARGS="--fail-swap-on=false"

    2.5 部署 K8S Master

    • 只需要在 k8s-master节点上执行

    1)初始化master

    kubeadm init \
    --kubernetes-version v1.20.2 \
    --pod-network-cidr=10.244.0.0/16 \
    --service-cidr=10.96.0.0/12 \
    --apiserver-advertise-address=172.18.0.67 \
    --ignore-preflight-errors=Swap \
    --image-repository registry.aliyuncs.com/google_containers 
    
    # apiserver要修改成自己的master节点的地址,默认apiserver监听在所有地址的6443端口上
    # 如果swap报错,可以加上选项--ignore-preflight-errors=Swap,但是注意那个Swap的S要大写
    # 由于默认拉取镜像地址k8s.gcr.io国内无法访问,这里指定阿里云镜像仓库地址
    # 注意kubernetes的版本要和之前安装的kubelet的版本一致

    2)根据回显提示操作

    mkdir -p $HOME/.kube
    sudo cp -i /etc/kubernetes/admin.conf $HOME/.kube/config
    sudo chown $(id -u):$(id -g) $HOME/.kube/config

    3)测试

    # 获取组件状态信息
    kubectl  get  cs   # cs是kubectl get componentstatus的简写,获取组件状态信息
    
    # 查看k8s集群的节点信息
    kubectl get nodes  

    4)token失效解决

    因为默认 token 的有效期为24小时,过期之后该token就不可用了,所以如果后续有node节点加入,可以重新生成新的token

    • 重新生成新的token
    [root@master01 ~]# kubeadm token create
    salxe7.gnlwtozqxxsf4uu7
    [root@master01 ~]# kubeadm token list
    TOKEN                     TTL         EXPIRES                     USAGES                   DESCRIPTION                                                EXTRA GROUPS
    he4ugm.z537h1g7taugguco   23h         2021-01-19T15:53:34+08:00   authentication,signing   <none>                                                     system:bootstrappers:kubeadm:default-node-token
    salxe7.gnlwtozqxxsf4uu7   23h         2021-01-19T15:53:48+08:00   authentication,signing   <none>                                                     system:bootstrappers:kubeadm:default-node-token
    t4xdcj.5vgr19ymj4g6y7hm   6h          2021-01-18T22:31:08+08:00   authentication,signing   <none>                                                     system:bootstrappers:kubeadm:default-node-token
    [root@master01 ~]#
    • 获取ca证书sha256编码hash值
    [root@master01 ~]# openssl x509 -pubkey -in /etc/kubernetes/pki/ca.crt | openssl rsa -pubin -outform der 2>/dev/null | openssl dgst -sha256 -hex | sed 's/^.* //'
    19060b637433363db284e831fce4bd567f82d8070b2744741dbe2f1cfa804d53
    • 节点加入集群
    kubeadm join 172.18.0.67:6443 --token t4xdcj.5vgr19ymj4g6y7hm --discovery-token-ca-cert-hash sha256:19060b637433363db284e831fce4bd567f82d8070b2744741dbe2f1cfa804d53 --ignore-preflight-errors=Swap

    2.6 加入K8S Node

    • 在两个Node节点执行

    注册Node节点到Master

    # kubeadm join 的内容,在上面kubeadm init 已经生成好了
    kubeadm join 172.18.0.67:6443 --token t4xdcj.5vgr19ymj4g6y7hm --discovery-token-ca-cert-hash sha256:19060b637433363db284e831fce4bd567f82d8070b2744741dbe2f1cfa804d53 --ignore-preflight-errors=Swap

    2.7 安装网络插件flannel

    • 在master节点上安装即可,其他节点加入k8s集群后会自动安装

    1)安装flannel

    # 这个地址可能访问不到,可以开小飞机手动把这个文件下载下来,然后再apply
    kubectl apply -f https://raw.githubusercontent.com/coreos/flannel/master/Documentation/kube-flannel.yml
    
    # 执行的成功与否要看docker image ls中是否有flannel的镜像,慢慢等待它下载即可
    # 要确保能够访问到 quay.io 这个registery
    # 如果无法访问,可以将此文件中image项后面的地址修改成可以访问到的地址

    2)查看是否安装成功

    # 注意,要确保状态为全1/1时,才可进行后续操作
    [root@k8s-master01 ~]# kubectl get pods -n kube-system
    NAME                                   READY   STATUS    RESTARTS   AGE
    coredns-7f89b7bc75-9zxjz               1/1     Running   0          12m
    coredns-7f89b7bc75-n8p4s               1/1     Running   0          12m
    etcd-k8s-master01                      1/1     Running   0          12m
    kube-apiserver-k8s-master01            1/1     Running   0          12m
    kube-controller-manager-k8s-master01   1/1     Running   0          12m
    kube-flannel-ds-b5ljk                  1/1     Running   0          7m58s
    kube-proxy-cwzkw                       1/1     Running   0          12m
    kube-scheduler-k8s-master01            1/1     Running   0          12m
    
    # 确保所有节点为Ready状态
    [root@k8s-master01 ~]# kubectl get nodes
    NAME STATUS ROLES AGE VERSION
    k8s-master01 Ready control-plane,master 93m v1.20.2
    k8s-node01 Ready <none> 49m v1.20.2

    3)flannel安装失败后重装

    • 如果flannel因为网络问题安装失败,需要进行重新安装
    kubectl delete -f kube-flannel.yml
    
    # 然后重新安装
    kebectl apply -f kube-flannel.yml

    3. Kubernetes集群信息查看及管理

    3.1 Pod的创建与查看

    1)信息查看

    # 查看k8s集群的整体信息
    kubectl  cluster-info
    
    # 查看当前系统上已经被创建的控制器
    kubectl get deployment
    
    # 查看pod的相关信息
    kubectl get pods
    kubectl get pods -o wide  # 查看更详细的信息
    
    # 查看services的相关信息
    kubectl get services
    kubectl get svc
    
    # 查看kube-system名称空间中service的相关信息
    kubectl get svc -n kube-system

    2)创建一个pod

    # 创建并运行一个特定的镜像,暴露80端口,并且只创建1个副本,干跑模式需要再加上--dry-run=true
    kubectl run nginx-deploy --image=nginx:1.14 --port=80 --replicas=1

    # 如果要镜像中运行其他程序,可以写成这样(注意前面要加 -- ) kubectl run nginx-deploy --image=nginx:1.14 --port=80 --replicas=1 -- /bin/sh

     3)对刚刚创建的pod进行查看并访问

    [root@k8s-master01 ~]# kubectl get pods -o wide
    NAME           READY   STATUS    RESTARTS   AGE    IP           NODE         NOMINATED NODE   READINESS GATES
    nginx-deploy   1/1     Running   0          3m6s   10.244.1.2   k8s-node01   <none>           <none>
    [root@k8s-master01 ~]# curl 10.244.1.2

    3.2 创建pod并暴露端口

    • 在Kubernetes集群中创建一个pod,然后暴露端口,验证其是否可以正常访问

    1)创建deployment

    # 创建一个deployment控制器,这个控制器的名字就叫nginx-deploy
    kubectl create deployment nginx-deploy --image=nginx

    2)创建service并暴露端口

    kubectl expose deployment nginx-deploy --name=nginx --port=80 --target-port=80 --protocol=TCP # 将nginx-deploy这个控制器(deployment  )相关的pod资源都创建为一个服务,服务名叫nginx
    # --name   是service的名称
    # --port   是service暴露到外部的端口
    # --target-port  是pod暴露的端口
    # --protocol     使用的协议,默认就是TCP
    # --type         是service的类型,service有多种类型,可kubectl expose --help来查看--type选项,Defaultis 'ClusterIP'

    3)查看相关信息并访问

    # 查看pod和service的相关信息
    [root@k8s-master01 ~]# kubectl get pods,svc
    NAME                               READY   STATUS    RESTARTS   AGE
    pod/nginx-deploy-8588f9dfb-t8wzr   1/1     Running   0          11m
    
    NAME                 TYPE        CLUSTER-IP      EXTERNAL-IP   PORT(S)   AGE
    service/kubernetes   ClusterIP   10.96.0.1       <none>        443/TCP   78m
    service/nginx        ClusterIP   10.99.193.184   <none>        80/TCP    34s
    
    # 查看kube-system名称空间中service的相关信息
    kubectl get svc -n kube-system
    
    # 访问:http://NodeIP:PORT,只有在集群内部的节点上才能被访问到
    curl http://10.99.193.184

     

     

     

     

     参考:

    • https://www.cnblogs.com/jiangwenhui/p/11792519.html
    • https://www.cnblogs.com/double-dong/p/11483670.html