跳转至

集群间数据同步

NebulaGraph 支持在集群间进行数据同步,即主集群 A 的数据可以近实时地复制到从集群 B 中,方便用户进行异地灾备或分流,降低数据丢失的风险,保证数据安全。

Enterpriseonly

仅企业版支持本功能。

背景

replication between clusters

在集群间数据同步方案中,如果主集群 A 的图空间 a 和从集群 B 的图空间 b 建立了同步关系,任何向图空间 a 写入的数据,都会被发送到 Meta listener 或 Storage listener。listener 再将数据发送到 drainer。drainer 接收并存储数据,然后通过从集群的 Meta client 或 Storage client 发送数据至从集群的对应分片。

通过以上流程,最终实现集群间数据同步。

适用场景

  • 异地灾备:通过数据同步可以实现跨机房或者跨城市的异地灾备。
  • 数据迁移:通过切换主从集群的身份,可以实现不停止服务而完成迁移。
  • 读写分离:通过设置主集群只写,从集群只读,实现读写分离,降低集群负载,提高稳定性和可用性。

注意事项

  • 主从集群必须是同一个 NebulaGraph 版本,否则数据同步会失败。
  • 数据同步的基本单位是图空间,即只可以设置从一个图空间到另一个图空间的数据同步。
  • 主从集群的数据同步是异步的(近实时)。
  • 主从集群之间只支持1 对 1,不支持多个主集群同步到 1 个从集群,也不支持 1 个主集群同步到多个从集群,但是可以通过链式方式同步到多个从集群,例如主集群->从集群1->从集群2->从集群3
  • Meta listener 监听 Meta 服务,Storage listener 监听 Storage 服务,不可以混用。
  • 1 个图空间只有 1 个 Meta listener 和 1 个或多个 Storage listener,这些 listener 可以对应 1 个或多个 drainer。
  • listener 服务记录来自主集群的 WAL 或快照,drainer 服务记录来自 listener 的 WAL 和写入从集群的 WAL。这些文件都保存在对应服务的本地。
  • 从集群中数据如果不为空,数据同步时可能会导致数据冲突或者数据不一致。建议保持从集群数据为空。
  • 建议使用具备 God 权限的root用户进行集群数据同步操作。集群同步操作中各命令需要的用户角色权限不同,详情参见文末的权限说明
  • 在数据同步期间,请勿同时在主集群进行数据恢复(备份恢复和快照恢复)操作,否则数据同步将失败。

操作步骤

准备工作

  • 准备至少 2 台部署服务的机器。主从集群需要分开部署,listener 和 drainer 可以单独部署,也可以分别部署在主从集群所在机器上,但是会增加集群负载。
  • 准备企业版 License 文件。

示例环境

主集群A:机器 IP 地址为192.168.10.101,只启动 Graph、Meta、Storage 服务。

从集群B:机器 IP 地址为192.168.10.102,只启动 Graph、Meta、Storage 服务。

listener:机器 IP 地址为192.168.10.103,只启动 Meta listener、Storage listener 服务。

drainer:机器 IP 地址为192.168.10.104,只启动 drainer 服务。

1.搭建主从集群、listener 和 drainer 服务

  1. 在所有机器上安装 NebulaGraph,修改配置文件:

    • 主、从集群修改:nebula-graphd.confnebula-metad.confnebula-storaged.conf
    • listener 修改:nebula-metad-listener.confnebula-storaged-listener.conf
    • drainer 修改:nebula-drainerd.conf

    Note

    修改配置文件时需要注意:

    • 将配置文件的后缀.default.production删除。
    • 所有配置文件里都需要用真实的机器 IP 地址替换local_ip127.0.0.1
    • 所有nebula-graphd.conf配置文件里设置enable_authorize=true
    • 在主集群的nebula-metad.confnebula-storaged.conf文件中,配置--snapshot_send_files=false
    • 主从集群填写各自集群的meta_server_addrs,注意不要错填其他集群的地址。
    • listener 的配置文件里meta_server_addrs填写主集群的机器 IP,meta_sync_listener填写 listener 机器的 IP。
    • drainer 的配置文件里meta_server_addrs填写从集群的机器 IP。

    更多配置说明,请参见配置管理

  2. 在主从集群和 listener 服务的机器上放置 License 文件,路径为安装目录的share/resources/内。

  3. 在所有机器的 NebulaGraph 安装目录内启动对应的服务:

    • 主、从集群启动命令:sudo scripts/nebula.service start all
    • listener 启动命令:

      • Meta listener:sudo bin/nebula-metad --flagfile etc/nebula-metad-listener.conf
      • Storage listener:sudo bin/nebula-storaged --flagfile etc/nebula-storaged-listener.conf
    • drainer 启动命令:sudo scripts/nebula-drainerd.service start
  4. 登录主集群增加 Storage 主机,检查 listener 服务状态。

    nebula> ADD HOSTS 192.168.10.101:9779;
    nebula> SHOW HOSTS STORAGE;
    +------------------+------+----------+-----------+--------------+----------------------+
    | Host             | Port | Status   | Role      | Git Info Sha | Version              |
    +------------------+------+----------+-----------+--------------+----------------------+
    | "192.168.10.101" | 9779 | "ONLINE" | "STORAGE" | "xxxxxxx"    | "3.4.1"          |
    +------------------+------+----------+-----------+--------------+----------------------+
    
    nebula> SHOW HOSTS STORAGE LISTENER;
    +------------------+------+----------+--------------------+--------------+----------------------+
    | Host             | Port | Status   | Role               | Git Info Sha | Version              |
    +------------------+------+----------+--------------------+--------------+----------------------+
    | "192.168.10.103" | 9789 | "ONLINE" | "STORAGE_LISTENER" | "xxxxxxx"    | "3.4.1"          |
    +------------------+------+----------+--------------------+--------------+----------------------+
    
    nebula> SHOW HOSTS META LISTENER;
    +------------------+------+----------+-----------------+--------------+----------------------+
    | Host             | Port | Status   | Role            | Git Info Sha | Version              |
    +------------------+------+----------+-----------------+--------------+----------------------+
    | "192.168.10.103" | 9569 | "ONLINE" | "META_LISTENER" | "xxxxxxx"    |  "3.4.1"         |
    +------------------+------+----------+-----------------+--------------+----------------------+
    
  5. 登录从集群增加 Storage 主机,检查 drainer 服务状态。

    nebula> ADD HOSTS 192.168.10.102:9779;
    nebula> SHOW HOSTS STORAGE;
    +------------------+------+----------+-----------+--------------+----------------------+
    | Host             | Port | Status   | Role      | Git Info Sha | Version              |
    +------------------+------+----------+-----------+--------------+----------------------+
    | "192.168.10.102" | 9779 | "ONLINE" | "STORAGE" | "xxxxxxx"    | "3.4.1"          |
    +------------------+------+----------+-----------+--------------+----------------------+
    
    nebula> SHOW HOSTS DRAINER;
    +------------------+------+----------+-----------+--------------+----------------------+
    | Host             | Port | Status   | Role      | Git Info Sha | Version              |
    +------------------+------+----------+-----------+--------------+----------------------+
    | "192.168.10.104" | 9889 | "ONLINE" | "DRAINER" | "xxxxxxx"    | "3.4.1"          |
    +------------------+------+----------+-----------+--------------+----------------------+
    

2.设置服务

  1. 登录主集群,创建图空间basketballplayer

    nebula> CREATE SPACE basketballplayer(partition_num=15, replica_factor=1, vid_type=fixed_string(30));
    
  2. 进入图空间basketballplayer,注册 drainer 服务。

    nebula> USE basketballplayer;
    //注册 drainer 服务。
    nebula> SIGN IN DRAINER SERVICE(192.168.10.104:9889);
    //检查是否注册成功。
    nebula> SHOW DRAINER CLIENTS;
    +-----------+------------------+------+
    | Type      | Host             | Port |
    +-----------+------------------+------+
    | "DRAINER" | "192.168.10.104" | 9889 |
    +-----------+------------------+------+
    

    Note

    注册多个 drainer 服务的命令示例:SIGN IN DRAINER SERVICE(192.168.8.x:9889),(192.168.8.x:9889)

  3. 设置 listener 服务。

    //设置 listener 服务,待同步的图空间名称为replication_basketballplayer(下文将在从集群中创建)。
    nebula> ADD LISTENER SYNC META 192.168.10.103:9569 STORAGE 192.168.10.103:9789 TO SPACE replication_basketballplayer;
    //查看 listener 状态。
    nebula> SHOW LISTENER SYNC;
    +--------+--------+------------------------+--------------------------------+----------+
    | PartId | Type   | Host                   | SpaceName                      | Status   |
    +--------+--------+------------------------+--------------------------------+----------+
    | 0      | "SYNC" | ""192.168.10.103":9569" | "replication_basketballplayer" | "ONLINE" |
    | 1      | "SYNC" | ""192.168.10.103":9789" | "replication_basketballplayer" | "ONLINE" |
    | 2      | "SYNC" | ""192.168.10.103":9789" | "replication_basketballplayer" | "ONLINE" |
    | 3      | "SYNC" | ""192.168.10.103":9789" | "replication_basketballplayer" | "ONLINE" |
    | 4      | "SYNC" | ""192.168.10.103":9789" | "replication_basketballplayer" | "ONLINE" |
    | 5      | "SYNC" | ""192.168.10.103":9789" | "replication_basketballplayer" | "ONLINE" |
    | 6      | "SYNC" | ""192.168.10.103":9789" | "replication_basketballplayer" | "ONLINE" |
    | 7      | "SYNC" | ""192.168.10.103":9789" | "replication_basketballplayer" | "ONLINE" |
    | 8      | "SYNC" | ""192.168.10.103":9789" | "replication_basketballplayer" | "ONLINE" |
    | 9      | "SYNC" | ""192.168.10.103":9789" | "replication_basketballplayer" | "ONLINE" |
    | 10     | "SYNC" | ""192.168.10.103":9789" | "replication_basketballplayer" | "ONLINE" |
    | 11     | "SYNC" | ""192.168.10.103":9789" | "replication_basketballplayer" | "ONLINE" |
    | 12     | "SYNC" | ""192.168.10.103":9789" | "replication_basketballplayer" | "ONLINE" |
    | 13     | "SYNC" | ""192.168.10.103":9789" | "replication_basketballplayer" | "ONLINE" |
    | 14     | "SYNC" | ""192.168.10.103":9789" | "replication_basketballplayer" | "ONLINE" |
    | 15     | "SYNC" | ""192.168.10.103":9789" | "replication_basketballplayer" | "ONLINE" |
    +--------+--------+------------------------+--------------------------------+----------+
    

    Note

    添加多个 Storage listener 服务的命令示例:ADD LISTENER SYNC META 192.168.10.xxx:9569 STORAGE 192.168.10.xxx:9789,192.168.10.xxx:9789 TO SPACE replication_basketballplayer

  4. 登录从集群,创建图空间replication_basketballplayer

    nebula> CREATE SPACE replication_basketballplayer(partition_num=15, replica_factor=1, vid_type=fixed_string(30));
    
  5. 进入图空间replication_basketballplayer,设置 drainer 服务。

    nebula> USE replication_basketballplayer;
    //设置 drainer 服务。
    nebula> ADD DRAINER 192.168.10.104:9889;
    //查看 drainer 状态。
    nebula> SHOW DRAINERS;
    +-------------------------+----------+
    | Host                    | Status   |
    +-------------------------+----------+
    | ""192.168.10.104":9889" | "ONLINE" |
    +-------------------------+----------+
    

    Note

    添加多个 drainer 服务的命令示例:ADD DRAINER 192.168.8.x:9889,192.168.8.x:9889

  6. 修改图空间replication_basketballplayer为只读。

    Note

    修改为只读是防止误操作导致数据不一致。只影响该图空间,其他图空间仍然可以读写。

    //设置当前图空间为只读。
    nebula> SET VARIABLES read_only=true;
    //查看当前图空间的读写属性。
    nebula> GET VARIABLES read_only;
    +-------------+--------+-------+
    | name        | type   | value |
    +-------------+--------+-------+
    | "read_only" | "bool" | true  |
    +-------------+--------+-------+
    

    3.验证数据

  7. 登录主集群,创建 Schema,插入数据。

    nebula> USE basketballplayer;
    nebula> CREATE TAG player(name string, age int);
    nebula> CREATE EDGE follow(degree int);
    nebula> INSERT VERTEX player(name, age) VALUES "player100":("Tim Duncan", 42);
    nebula> INSERT VERTEX player(name, age) VALUES "player101":("Tony Parker", 36);
    nebula> INSERT EDGE follow(degree) VALUES "player101" -> "player100":(95);
    
  8. 登录从集群,检查数据。

    nebula> USE replication_basketballplayer;
    nebula> SUBMIT JOB STATS;
    nebula> SHOW STATS;
    +---------+------------+-------+
    | Type    | Name       | Count |
    +---------+------------+-------+
    | "Tag"   | "player"   | 2     |
    | "Edge"  | "follow"   | 1     |
    | "Space" | "vertices" | 2     |
    | "Space" | "edges"    | 1     |
    +---------+------------+-------+
    
    nebula> FETCH PROP ON player "player100" YIELD properties(vertex);
    +-------------------------------+
    | properties(VERTEX)            |
    +-------------------------------+
    | {age: 42, name: "Tim Duncan"} |
    +-------------------------------+
    
    nebula> GO FROM "player101" OVER follow YIELD dst(edge);
    +-------------+
    | dst(EDGE)   |
    +-------------+
    | "player100" |
    +-------------+
    

停止/重启数据同步

数据同步时,listener 会持续发送数据给 drainer。

如果需要停止数据同步,可以使用STOP SYNC命令。此时 listener 会停止向 drainer 同步数据。

如果需要重启数据同步,可以使用RESTART SYNC命令。此时 listener 会向 drainer 发送停止期间堆积的数据。如果 listener 上的 WAL 丢失,listener 会从主集群拉取快照重新进行同步。

查看集群间数据同步状态

用户向主集群中写入数据时,可以查看集群间数据同步的状态,以判断数据同步是否正常。

查看主集群同步数据的状态

在主集群中执行SHOW SYNC STATUS命令可查看主集群给从集群发送数据的状态。SHOW SYNC STATUS实时获取集群间数据同步状态的信息,只有当主集群写入成功了,才往从集群发送同步数据。

示例如下:

// 在主集群中写入数据。
nebula> INSERT VERTEX player(name,age) VALUES "player102":("LaMarcus Aldridge", 33);
nebula> INSERT VERTEX player(name,age) VALUES "player102":("LaMarcus Aldridge", 33);
nebula> INSERT VERTEX player(name,age) VALUES "player103":("Rudy Gay", 32);
nebula> INSERT VERTEX player(name,age) VALUES "player104":("Marco Belinelli", 32);

// 查看当前集群数据同步的状态(返回结果表示正在发送数据给从集群中)。
nebula> SHOW SYNC STATUS;
+--------+-------------+-----------+--------------+
| PartId | Sync Status | LogId Lag | Time Latency |
+--------+-------------+-----------+--------------+
| 0      | "ONLINE"    | 0         | 0            |
| 1      | "ONLINE"    | 0         | 0            |
| 2      | "ONLINE"    | 0         | 0            |
| 3      | "ONLINE"    | 0         | 0            |
| 4      | "ONLINE"    | 0         | 0            |
| 5      | "ONLINE"    | 1         | 46242122     |
| 6      | "ONLINE"    | 0         | 0            |
| 7      | "ONLINE"    | 0         | 0            |
| 8      | "ONLINE"    | 0         | 0            |
| 9      | "ONLINE"    | 0         | 0            |
| 10     | "ONLINE"    | 0         | 0            |
| 11     | "ONLINE"    | 0         | 0            |
| 12     | "ONLINE"    | 0         | 0            |
| 13     | "ONLINE"    | 0         | 0            |
| 14     | "ONLINE"    | 0         | 0            |
| 15     | "ONLINE"    | 0         | 0            |
+--------+-------------+-----------+--------------+
// 再次查看当前集群数据同步的状态(返回结果表示数据已完全同步至从集群,没有需要待同步的数据)。
nebula> SHOW SYNC STATUS;
+--------+-------------+-----------+--------------+
| PartId | Sync Status | LogId Lag | Time Latency |
+--------+-------------+-----------+--------------+
| 0      | "ONLINE"    | 0         | 0            |
| 1      | "ONLINE"    | 0         | 0            |
| 2      | "ONLINE"    | 0         | 0            |
| 3      | "ONLINE"    | 0         | 0            |
| 4      | "ONLINE"    | 0         | 0            |
| 5      | "ONLINE"    | 0         | 0            |
| 6      | "ONLINE"    | 0         | 0            |
| 7      | "ONLINE"    | 0         | 0            |
| 8      | "ONLINE"    | 0         | 0            |
| 9      | "ONLINE"    | 0         | 0            |
| 10     | "ONLINE"    | 0         | 0            |
| 11     | "ONLINE"    | 0         | 0            |
| 12     | "ONLINE"    | 0         | 0            |
| 13     | "ONLINE"    | 0         | 0            |
| 14     | "ONLINE"    | 0         | 0            |
| 15     | "ONLINE"    | 0         | 0            |
+--------+-------------+-----------+--------------+

执行SHOW SYNC STATUS命令,返回结果中的参数说明如下:

参数 说明
PartId 主集群中图空间对应的分片 ID。当值为0时,表示图空间中 Meta listener 同步 Meta 数据所在的分片 ID。当为其他值时,表示相应图空间中 Storage listener 同步 Storage 数据所在的分片ID。
Sync Status 表示 listener 的状态。
当值为ONLINE时,listener 持续发送数据给 drainer。
当值为OFFLINE时,listener 停止发送数据给 drainer。
LogId Lag 表示的 Log ID 间隔,也就是主集群对应分片还有多少条 Log 往从集群发送。
当值为0时,表示主集群对应分片中没有 Log 需要发送。
Time Latency 主集群的对应分片中需要发送最后一条 Log 的 WAL 中的时间戳与已经发送的最后一条 Log 的 WAL 中的时间戳差值。
当值为0时,表示数据已经发送至从集群。
单位:毫秒(ms)。

查看从集群同步数据的状态

在从集群中,执行SHOW DRAINER SYNC STATUS查看从集群同步接收的数据至从集群 Meta 和 Storage 的状态。

nebula> SHOW DRAINER SYNC STATUS;
+--------+-------------+-----------+--------------+
| PartId | Sync Status | LogId Lag | Time Latency |
+--------+-------------+-----------+--------------+
| 0      | "ONLINE"    | 0         | 0            |
| 1      | "ONLINE"    | 0         | 0            |
| 2      | "ONLINE"    | 0         | 0            |
| 3      | "ONLINE"    | 0         | 0            |
| 4      | "ONLINE"    | 0         | 0            |
| 5      | "ONLINE"    | 0         | 0            |
| 6      | "ONLINE"    | 0         | 0            |
| 7      | "ONLINE"    | 0         | 0            |
| 8      | "ONLINE"    | 0         | 0            |
| 9      | "ONLINE"    | 0         | 0            |
| 10     | "ONLINE"    | 0         | 0            |
| 11     | "ONLINE"    | 0         | 0            |
| 12     | "ONLINE"    | 0         | 0            |
| 13     | "ONLINE"    | 0         | 0            |
| 14     | "ONLINE"    | 0         | 0            |
| 15     | "ONLINE"    | 0         | 0            |
+--------+-------------+-----------+--------------+
执行SHOW DRAINER SYNC STATUS命令,返回结果中的参数说明如下:

参数 说明
PartId 主集群中图空间对应的分片 ID。当值为0时,表示要同步的 Meta 所在的分片 ID。当为其他值时,表示要同步的 Storage 所在的分片ID。
Sync Status 表示 drainer 的状态。
当值为ONLINE时,drainer 持续发送 WAL 给从集群的metaClient/storageClient进行同步。
当值为OFFLINE时,drainer 停止发送 WAL 给从集群的metaClient/storageClient进行同步。
LogId Lag 表示的 Log ID 间隔,也就是从集群 drainer 中对应分片还有多少条 Log 往从集群的metaClient/storageClient进行同步。
当值为0时,表示从集群的 drainer 中对应的分片没有 Log 需要同步。
Time Latency 从集群 drainer 中对应分片接收到的最新 Log 的 WAL 中的时间戳与已经同步给从集群的最后一条 Log 的 WAL 中的时间戳差值。
当值为0时,表示 drainer 中对应分片数据已经同步至从集群中。
单位:毫秒(ms)。

切换主从集群

如果因为业务需要进行数据迁移,或者灾备恢复后需要切换主从集群,需要手动进行切换。

Note

在切换主从之前需要为新的主集群搭建并启动 listener 服务(示例 IP 为192.168.10.105),为新的从集群搭建并启动 drainer 服务(示例 IP 为192.168.10.106)。

  1. 登录旧的主集群并设置图空间为只读,防止有新的数据写入旧的主集群,而导致数据不一致。

    nebula> USE basketballplayer;
    nebula> SET VARIABLES read_only=true;
    
  2. 查看旧的主集群中的图空间的数据是否已经同步至旧的从集群中,确保旧的主集群中的数据已经同步至旧的从集群中。

    1. 在旧的主集群中查看旧的主集群同步数据的状态。
    nebula> SHOW SYNC STATUS;
    
    1. 登录旧的从集群并查看旧的从集群同步数据的状态。
    nebula> USE replication_basketballplayer;
    nebula> SHOW DRAINER SYNC STATUS;
    

    当旧的主从集群返回结果中的LogId LagTime Latency对应的值都为0时,表示旧的主集群中的数据已经被同步至旧的从集群中。

  3. 在旧的从集群中设置图空间为可读写。

    nebula> SET VARIABLES read_only=false;
    

    Note

    如果有业务在等待写数据,此时,可在旧的从集群(新的主集群)中进行业务数据的写入操作。

  4. 在旧的从集群中移除 drainer 服务。

    nebula> REMOVE DRAINER;
    
  5. 登录旧的主集群,修改图空间为可读写并移除之前注册的 drainer 服务和之前添加的 listener 服务。

    nebula> USE basketballplayer;
    //需先修改旧的主集群图空间为可读写,否则无法设置 drainer 服务。
    nebula> SET VARIABLES read_only=false;
    nebula> SIGN OUT DRAINER SERVICE;
    nebula> REMOVE LISTENER SYNC;
    
  6. 在旧的主集群中将旧的主集群更改为新的从集群。

    Note

    确保已为新的从集群搭建并启动 drainer 服务。

    //添加新的 drainer 服务。
    nebula> ADD DRAINER 192.168.10.106:9889;
    //设置图空间为只读。
    nebula> SET VARIABLES read_only=true;
    
  7. 登录旧的从集群,将旧的从集群更改为新的主集群。

    Note

    确保已为新的主集群搭建并启动 Meta listener 和 Storage listener 服务。

    nebula> USE replication_basketballplayer;
    nebula> SIGN IN DRAINER SERVICE(192.168.10.106:9889);
    nebula> ADD LISTENER SYNC META 192.168.10.105:9569 STORAGE 192.168.10.105:9789 TO SPACE basketballplayer;
    

    至此主从集群切换完成。

权限说明

集群同步操作中各命令需要的用户角色权限不同,不同命令所需的角色权限如下(打勾代表有权限)。

命令 God Admin DBA User Guest
SIGN IN / SIGN OUT DRAINER SERVICE
ADD / REMOVE LISTENER SYNC
SHOW DRAINER CLIENTS
SHOW LISTENER SYNC
ADD / REMOVE DRAINER
SET VARIABLES read_only
SHOW DRAINERS

常见问题

主集群中已经有 data 了,从集群可以同步到之前的存量 data 吗?

可以。对于主集群中的存量 data,主集群的 listener 会从各个分片的 leader 节点拉取快照,然后以 WAL 的形式发送给 drainer。存量 data 相关的 WAL 发送完毕后,开始发送主集群的增量 data 相关的 WAL 给 drainer。

从集群中已经有 data 了,数据同步会有影响吗?

仍然会进行全量数据同步。如果从集群中的数据是主集群数据的子集,最终会数据一致;如果不是主集群数据的子集,从集群不会进行反向同步,而且这部分数据可能会受到影响,请确保主从集群数据不会冲突;建议保持从集群数据为空。

从集群中已经有 Schema 了,数据同步会有影响吗?

数据同步时主集群中的 Schema 会覆盖从集群中的 Schema,因此可能导致被覆盖的 Schema 对应的数据失效或者数据不一致。请确保从集群中的 Schema 和主集群中的 Schema 没有冲突。

修改主集群的 Schema 会影响数据同步吗?

可能会增加数据同步延迟。因为 Schema 数据和 data 数据是分开处理的(Meta listener 和 Storage listener),data 数据同步时,drainer 会检查自身的 Schema 版本,如果版本大于当前存储的版本,说明 Schema 有更新,这时候会暂缓更新,等待从集群中的 Schema 数据先更新完成。

主从集群的机器数量、副本数量、分片数量需要相同吗?

不需要。因为是以图空间为基本单位,主集群不需要知道从集群的架构信息,只需要 listener 将 WAL 发送给 drainer 即可。

如果同步时出现故障,如何修复?

可以根据故障节点,进行如下处理:

  • 主集群故障:会导致同步暂停,重启主集群服务即可。
  • listener/drainer/从集群故障:服务恢复后,会收到前一节点发送的故障期间的 WAL。例如 drainer 故障恢复后,会收到 listener 发送来的故障期间的 WAL。如果用新的节点替换故障的 drainer 节点或从集群,需要将原节点的数据复制到新节点,否则相当于重新同步全量数据。

如何判断数据同步进度?

用户可以执行SHOW SYNC STATUS查看主集群发送数据的状态,执行SHOW DRAINER SYNC STATUS查看从集群接收数据的状态。如果同时满足主集群中的所有数据都发送成功,并且从集群成功接收所有数据,则说明数据同步完成。

WAL 日志文件过期了对集群数据同步有影响吗?

如果 WAL 日志文件过期了(超过了--wal-ttl设置的时间),数据会不同步。用户可以通过手动在 Meta 和 Storage 服务的配置文件中添加--snapshot_send_files=false配置以同步数据。更新文件中的配置后,需要重启服务。关于配置文件的详细信息,参见配置文件简介


最后更新: August 14, 2023