Berbagi teknologi

[Instal Rabbitmq di K8s] Instal Rabbitmq dan Bangun Mirror Cluster di K8s - Versi PVC

2024-07-12

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Perkenalan

Cluster Rabbitmq yang dibangun dalam artikel ini dibuat dalam bentuk Rabbitmq_peer_discovery_k8s. Plug-in secara otomatis membaca informasi node dari api k8s dan membangun cluster Rabbitmq. Metode konstruksinya adalah statefulset dan tiga salinan, sehingga datanya harus terjamin. Persistensi dapat berupa hostpath + afinitas node, atau dapat berupa pvc. Artikel ini akan menjelaskan penggunaan pvc untuk menyimpan data.

1. Deskripsi kondisi dan lingkungan

K8s versi k8s-1.29.4 dibangun dalam bentuk penyimpanan bersama. Penyimpanan bersama tersebut dalam bentuk root-ceph yang dibangun sendiri. Jika itu adalah cluster yang menggunakan Alibaba Cloud, persistensi data dapat dicapai dengan memasang hard penyimpanan disk, nas, atau objek, kelemahan menggunakan penyimpanan bersama adalah masalah umum kinerja baca dan tulis yang buruk.

4.2. Buat konfigurasi configmap

Simpan konfigurasi berikut ke autotest-rabbitmq-config.yaml, konfigurasikan vhost default dan kata sandi pengguna dalam konfigurasi, dan inisialisasi informasi node cluster [rencanakan nama node sebelum instalasi].

apiVersion: v1
kind: ConfigMap
metadata:
  name: autozx-rabbitmq-config
  namespace: zx-app
  labels:
    appname: pcauto-zx
    app: autozx-rabbitmq-config 
data:
  enabled_plugins: |
    [rabbitmq_management,rabbitmq_peer_discovery_k8s].
  rabbitmq.conf: |
    cluster_name = autozx-rabbitmq
    listeners.tcp.default = 5672
    
    default_vhost = /
    default_user = admin
    default_pass = pconline

    default_user_tags.administrator = true
    default_user_tags.management = true
    default_user_tags.custom_tag = true

    channel_max = 1024
    tcp_listen_options.backlog = 2048

    cluster_formation.peer_discovery_backend = rabbit_peer_discovery_k8s
    cluster_formation.k8s.host = kubernetes.default.svc.cluster.local
    cluster_formation.k8s.address_type = hostname
    cluster_formation.node_cleanup.interval = 30
    cluster_formation.node_cleanup.only_log_warning = true

    cluster_partition_handling = autoheal

    queue_master_locator=min-masters
    loopback_users.guest = false
    cluster_formation.k8s.hostname_suffix = .autozx-rabbitmq.zx-app.svc.cluster.local
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16
  • 17
  • 18
  • 19
  • 20
  • 21
  • 22
  • 23
  • 24
  • 25
  • 26
  • 27
  • 28
  • 29
  • 30
  • 31
  • 32
  • 33
  • 34
  • 35
  • 36
  • 37
4.3. Membuat konfigurasi statefulset dan layanan tanpa kepala

Ambil 3 eksemplar

apiVersion: apps/v1
kind: StatefulSet
metadata:
  name: autozx-rabbitmq 
  namespace: zx-app 
  labels:
    appname: pcauto-zx
    app: autozx-rabbitmq
spec:
  serviceName: "autozx-rabbitmq"
  replicas: 3
  selector:
    matchLabels:
      app: autozx-rabbitmq
  template:
    metadata:
      labels:
        app: autozx-rabbitmq
    spec:
      containers:
      - name: rabbitmq-server
        image: pcgroup-registry-vpc.cn-shenzhen.cr.aliyuncs.com/public/rabbitmq:3.12.14-management 
        imagePullPolicy: IfNotPresent
        env:
        - name: RABBITMQ_ERLANG_COOKIE
          value: "YZSDHWMFSMKEMBDHSGGZ"
        - name: K8S_SERVICE_NAME
          value: autozx-rabbitmq 
        - name: POD_IP
          valueFrom:
            fieldRef:
              fieldPath: status.podIP
        - name: POD_NAME
          valueFrom:
            fieldRef:
              fieldPath: metadata.name
        - name: POD_NAMESPACE
          valueFrom:
            fieldRef:
              fieldPath: metadata.namespace
        - name: RABBITMQ_USE_LONGNAME
          value: "true"
        - name: RABBITMQ_NODENAME
          value: rabbit@$(POD_NAME).$(K8S_SERVICE_NAME).$(POD_NAMESPACE).svc.cluster.local
        ports:
        - name: http
          containerPort: 15672 
        - name: amqp
          containerPort: 5672 
        readinessProbe:
          exec:
            command:
            - rabbitmq-diagnostics
            - status
          initialDelaySeconds: 20
          periodSeconds: 60
          timeoutSeconds: 10
        volumeMounts:
        - name: rbmq-data
          mountPath: /var/lib/rabbitmq
        - name: rabbitmq-config-volume
          mountPath: /etc/rabbitmq/ 
      restartPolicy: Always 
      serviceAccountName: rabbitmq-cluster
      terminationGracePeriodSeconds: 30
      volumes:
        - name: rabbitmq-config-volume
          configMap:
            name: autozx-rabbitmq-config
  volumeClaimTemplates:
  - metadata:
      name: rbmq-data
    spec:
      accessModes:
      - ReadWriteMany
      storageClassName: example-storageclass
      resources:
        requests:
          storage: 20Gi
---
apiVersion: v1
kind: Service
metadata:
  name: autozx-rabbitmq
  namespace: zx-app
  labels:
    appname: pcauto-zx
    app: autozx-rabbitmq
spec:
  ports:
  - port: 5672
  clusterIP: None
  selector:
    app: autozx-rabbitmq
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16
  • 17
  • 18
  • 19
  • 20
  • 21
  • 22
  • 23
  • 24
  • 25
  • 26
  • 27
  • 28
  • 29
  • 30
  • 31
  • 32
  • 33
  • 34
  • 35
  • 36
  • 37
  • 38
  • 39
  • 40
  • 41
  • 42
  • 43
  • 44
  • 45
  • 46
  • 47
  • 48
  • 49
  • 50
  • 51
  • 52
  • 53
  • 54
  • 55
  • 56
  • 57
  • 58
  • 59
  • 60
  • 61
  • 62
  • 63
  • 64
  • 65
  • 66
  • 67
  • 68
  • 69
  • 70
  • 71
  • 72
  • 73
  • 74
  • 75
  • 76
  • 77
  • 78
  • 79
  • 80
  • 81
  • 82
  • 83
  • 84
  • 85
  • 86
  • 87
  • 88
  • 89
  • 90
  • 91
  • 92
  • 93
  • 94

Catatan: Jika Anda ingin menghindari penempatan pod yang sama ke node yang sama, Anda dapat menambahkan konfigurasi berikut:

      affinity:
        podAntiAffinity:
          requiredDuringSchedulingIgnoredDuringExecution:
            - labelSelector:
                matchExpressions:
                  - key: "app"
                    operator: In
                    values:
                      - autozx-rabbitmq
              topologyKey: "kubernetes.io/hostname"
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
4.4. Konfigurasi otorisasi

Konfigurasikan serviceAccount, role, dan RoleBinding untuk mengotorisasi statefulset untuk membaca informasi node

apiVersion: v1
kind: Service
metadata:
  name: autozx-rabbitmq-manage
  namespace: zx-app
  labels:
    app: autozx-rabbitmq-manage
    appname: pcauto-zx
spec:
  ports:
  - port: 5672
    name: amqp
  - port: 15672
    name: http
  selector:
    app: autozx-rabbitmq
  type: LoadBalancer 
[root@autobbs-docker-240-213 rabbitmq]# cat rbac.yaml
apiVersion: v1
kind: ServiceAccount
metadata:
  name: rabbitmq-cluster
  namespace: zx-app
---
kind: Role
apiVersion: rbac.authorization.k8s.io/v1
metadata:
  name: rabbitmq-cluster
  namespace: zx-app
rules:
- apiGroups: [""]
  resources: ["endpoints"]
  verbs: ["get"]
---
kind: RoleBinding
apiVersion: rbac.authorization.k8s.io/v1
metadata:
  name: rabbitmq-cluster
  namespace: zx-app
roleRef:
  apiGroup: rbac.authorization.k8s.io
  kind: Role
  name: rabbitmq-cluster
subjects:
- kind: ServiceAccount
  name: rabbitmq-cluster
  namespace: zx-app
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16
  • 17
  • 18
  • 19
  • 20
  • 21
  • 22
  • 23
  • 24
  • 25
  • 26
  • 27
  • 28
  • 29
  • 30
  • 31
  • 32
  • 33
  • 34
  • 35
  • 36
  • 37
  • 38
  • 39
  • 40
  • 41
  • 42
  • 43
  • 44
  • 45
  • 46
  • 47
4.5. Membuat konfigurasi layanan

Konfigurasikan layanan proxy layanan untuk port amqp 5672 dan port manajemen 15672.

apiVersion: v1
kind: Service
metadata:
  name: autozx-rabbitmq-manage
  namespace: zx-app
  labels:
    app: autozx-rabbitmq-manage
    appname: pcauto-zx
spec:
  ports:
  - port: 5672
    name: amqp
  - port: 15672
    name: http
  selector:
    app: autozx-rabbitmq
  type: LoadBalancer 
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16
  • 17

5. Konfigurasi setelah instalasi

Setel klaster Rabbitmq ke klaster cermin 3-node. Setelah menyelesaikan langkah 4.4, Anda dapat masuk ke konsol melalui IP penyeimbang beban: http://ip:15672, dan menggunakan default_user dan default_pass yang disetel di configmap untuk Gabung.
Masukkan deskripsi gambar di sini

Pengaturan mode cermin:
Masukkan deskripsi gambar di sini

Setelah pengaturan:
Masukkan deskripsi gambar di sini
Masukkan deskripsi gambar di sini

Mode mirroring dapat diatur dengan perintah:
Atur perintah eksekusi gambar dari demo vhost:
rabbitmqctl set_policy -p demo ha-all "^" '{"ha-mode":"all","ha-sync-mode":"automatic"}'
Setel mode pencerminan untuk vhost/ default:
rabbitmqctl set_policy ha-all "^" '{"ha-mode":"all","ha-sync-mode":"automatic"}'

6. Petunjuk pemasangan

  • Sebelum menggunakan konfigurasi, ganti autozx di konfigurasi dengan nama yang Anda perlukan. Namespace yang dikonfigurasi adalah: zx-app, ubah ke namespace Anda sendiri, nama aplikasi adalah pcauto-zx, ubah ke nama aplikasi Anda sendiri, label ini juga bisa dihapus.
  • Alamat cermin dalam konfigurasi menggunakan alamat cermin pribadi. Cerminnya adalah kelincimq:3.12.14-manajemen diunduh dari dockerhub dan dicerminkan ke gudang cermin pribadi. Jika dapat langsung terhubung ke k8s di jaringan eksternal, kelincimq:3.12.14 -manajemen dapat digunakan secara langsung. Jika tidak, konfigurasikan alamat mirror yang dapat diterima.
  • Nama pengguna dan kata sandi default adalah admin.
  • Kelas penyimpanan dalam templat pvc: example-storageclass dimodifikasi menjadi kelas penyimpanan Anda sendiri
  • "5. Konfigurasi setelah instalasi" Karena metode konfigurasinya sama, tangkapan layar di artikel sebelumnya digunakan.