前言

本节使用 StatefulSet 控制器部署一个 MySQL 集群,然后进行宕机测试,观察集群是否可以正常恢复使用并且不丢失数据。

实现的集群有如下特征:

  1. 是一个主从复制的 MySQL 集群
  2. 1 个主节点, 多个从节点
  3. 从节点能够水平扩展
  4. 所有的写操作,只能在主节点上执行
  5. 读操作可以在所有节点上执行

更新历史

所需服务资源

所需资源为:

  • 一个 ConfigMap
  • 两个 Service
  • 一个 StatefulSet

ConfigMap

kubectl apply -f https://k8s.io/examples/application/mysql/mysql-configmap.yaml

Service

kubectl apply -f https://k8s.io/examples/application/mysql/mysql-services.yaml

MySQL StatefulSet

wget https://k8s.io/examples/application/mysql/mysql-statefulset.yaml

修改 mysql-statefulset.yaml, 使用上一节创建的 NFS 动态存储卷

  volumeClaimTemplates:
  - metadata:
      name: data
      annotations:
        volume.beta.kubernetes.io/storage-class: managed-nfs-storage
    spec:
      accessModes: ["ReadWriteOnce"]
      resources:
        requests:
          storage: 1Gi

创建 MySQL 有状态应用

kubectl apply mysql-statefulset.yaml

写入数据测试

写入数据

kubectl run mysql-client --image=mysql:5.7 -i --rm --restart=Never --  mysql -h mysql-0.mysql <<EOFCREATE DATABASE test;
CREATE TABLE test.messages (message VARCHAR(250));
INSERT INTO test.messages VALUES ('hello');
EOF

检查从机是否可以读取到数据

kubectl run mysql-client --image=mysql:5.7 -i -t --rm --restart=Never --  mysql -h mysql-read -e "SELECT * FROM test.messages"

循环读取,可以看到server-id不断变化,说明每次从不同机器读取数据

kubectl run mysql-client-loop --image=mysql:5.7 -i -t --rm --restart=Never --  bash -ic "while sleep 1; do mysql -h mysql-read -e 'SELECT @@server_id,NOW()'; done"

宕机测试

将 mysql-2 模拟宕机

kubectl exec mysql-2 -c mysql -- mv /usr/bin/mysql /usr/bin/mysql.off

从循环读取 SELECT @@server_id 中将看不到 server-id 102 服务器的记录

kubectl run mysql-client-loop --image=mysql:5.7 -i -t --rm --restart=Never --  bash -ic "while sleep 1; do mysql -h mysql-read -e 'SELECT @@server_id,NOW()'; done"

恢复节点 mysql-2 后,service-id 102 将出现在循环记录中

kubectl exec mysql-2 -c mysql -- mv /usr/bin/mysql.off /usr/bin/mysql

扩展从节点数量

[root@master01 ~]# kubectl scale statefulset mysql  --replicas=5
statefulset.apps/mysql scaled

[root@master01 ~]# kubectl get pods -l app=mysql --watch
NAME      READY   STATUS     RESTARTS   AGE
mysql-0   2/2     Running    0          29m
mysql-1   2/2     Running    0          28m
mysql-2   2/2     Running    1          24m
mysql-3   0/2     Init:1/2   0          9s
mysql-3   1/2     Running           0          44s
mysql-3   2/2     Running           1          55s
......
mysql-4   0/2     Pending           0          3s
mysql-4   0/2     Init:0/2          0          3s
mysql-4   0/2     Init:1/2          0          7s
mysql-4   0/2     PodInitializing   0          43s
mysql-4   1/2     Running           0          46s
mysql-4   1/2     Running           1          51s
mysql-4   2/2     Running           1          56s

[root@master01 ~]# kubectl get pod -l app=mysql
NAME      READY   STATUS    RESTARTS   AGE
mysql-0   2/2     Running   0          32m
mysql-1   2/2     Running   0          31m
mysql-2   2/2     Running   1          28m
mysql-3   2/2     Running   1          3m22s
mysql-4   2/2     Running   1          2m27s

扩容成功后,server-id 103/104 也将出现在 select @@server_id 的执行结果中。

基本原理

首先通过 ConfigMap 引用提前准备的 MySQL 主节点配置文件和 从节点配置文件。

然后定义了两个 Service,一个是 mysql,一个是 mysql-read。

第一个 MySQL Service 是 headless service,不会做负载均衡和流量分配,只会给每个 Pod 分配一个 DNS 名称,由于 StatefulSet 管理的 Pod 名称是固定的,所以 Pod DNS 名称也会是固定的。

这样程序可以找到 MySQL 主服务器 mysql-0.mysql,进行数据的写入。

第二个 Service 是一个正常 Service,用于提供读操作。将读操作代理到后端全部 Pod。

下面就可以进行 MySQL 的自动安装了。

由于 Pod 名称是固定的,所以始终将 mysql-0 作为主节点,Pod-1 -2 -3 为从节点。

当一个 Pod 启动之前,它会执行两个初始化容器,第一个 init 容器用来拷贝自己要使用的配置文件,第二个 init 容器用来从前一个 Pod 中克隆数据,当然如果是主节点就可以跳过克隆这一步了。

最后就可以启动各自的应用容器了,而 slave 容器需要一个挂斗容器 xtrabackup 来配合进行数据的初始化。

结束语

今天通过 K8S 搭建了 mysql 主从,将数据进行了持久化存储。

Pod 宕机后能够自动恢复原有秩序,同时原有数据不会丢失。

联系我

微信公众号:zuolinux_com

微信扫码关注