知识库

如何解决集群实例上的不一致问题

(如果使用 HA(高可用性),请将MasterSlave分别替换为LeaderFollower

有时,在运行集群 Neo4j 环境时,从节点的存储可能会变得不一致。在正常的日常操作中,如果从节点变得不一致,它将自动尝试通过从主实例获取数据来解决问题。然而,有时这可能无法实现。例如,如果从节点长时间离线,这可能导致主实例上缺少事务日志文件,从而无法在从实例上重放所有事务,因此无法追赶。这将导致从节点由于存储不一致而无法加入集群。如果发生这种情况,可以使用以下步骤通过主实例的完整备份完全恢复从节点的存储。

由于此操作具有危险性,我们建议在执行之前务必提交支持工单。

步骤

  1. 识别日志文件中的错误

  2. 识别主实例

  3. 在主节点上运行备份

  4. 将备份移动到故障从节点

  5. 停止实例

  6. 备份旧存储 [可选]

  7. 恢复备份

  8. 启动实例

  9. 清理旧文件 [可选]

1. 识别日志文件中的错误

2017-02-12 15:33:37.334+0000 INFO  [o.n.k.h.c.SwitchToSlaveBranchThenCopy] The store is inconsistent. Will treat it as branched and fetch a new one from the master
2017-02-12 15:33:37.334+0000 WARN  [o.n.k.h.c.SwitchToSlaveBranchThenCopy] Current store is unable to participate in the cluster; fetching new store from master The master is missing the log required to complete the consistency check

2. 识别主实例

如果您正在运行高可用性 (HA) 集群

我们可以使用 HTTP 端点来发现哪个实例是主节点:/db/manage/server/ha/master。在命令行中,一种常用的方法是使用 curl 来查询这些端点。在没有参数的情况下,curl 将对提供的 URI 执行 HTTP GET,并输出正文文本(如果有)。如果您还想获取响应代码,只需添加 -v 标志以获得详细输出。

$ curl -v localhost:7474/db/manage/server/ha/master
*   Trying 127.0.0.1
* Connected to localhost (127.0.0.1) port 7474 (#0)
> GET /db/manage/server/ha/master HTTP/1.1
> Host: localhost:7474
> Accept: */*
>
< HTTP/1.1 200 OK
< Date: Fri, 17 Feb 2017 16:38:37 GMT
< Content-Type: text/plain
< Access-Control-Allow-Origin: *
< Transfer-Encoding: chunked
< Server: Jetty(6.1.25)
<
* Connection #0 to host localhost left intact
true

表 1. HA HTTP 端点响应

端点 实例状态 返回代码 正文文本

/db/manage/server/ha/master

主节点

200 OK

true

从节点

404 未找到

False

未知

404 未找到

UNKNOWN

(如果 Neo4j 服务器启用了基本安全认证,HA 状态端点也将需要认证凭据。如果需要认证,请使用 --user 开关运行 curl 命令 (curl -v localhost:7474/db/manage/server/ha/master --user <username>:<password>))

如果您正在运行因果集群 (CC)(Neo4j v3.1.x 及更高版本)

在使用 CC 时,有两种获取实例角色的方法,即过程或 HTTP 端点。

1) 过程 dbms.cluster.role()dbms.cluster.overview()
CALL dbms.cluster.role()

可以在因果集群中的每个实例上调用 dbms.cluster.role() 过程,以返回该实例的角色。返回一个包含当前实例角色的字符串。

CALL dbms.cluster.overview()

dbms.cluster.overview() 过程通过返回集群中所有实例的详细信息来提供集群拓扑的概述。返回集群实例的 ID、地址和角色(此过程只能从核心实例调用,因为它们是唯一具有集群完整视图的实例)。

2) CC 的 HTTP 端点

与 HA 类似,我们可以使用 HTTP 端点来发现哪个实例是主节点:/db/manage/server/core/writable。在命令行中,一种常用的方法是使用 curl 来查询这些端点。在没有参数的情况下,curl 将对提供的 URI 执行 HTTP GET,并输出正文文本(如果有)。如果您还想获取响应代码,只需添加 -v 标志以获得详细输出。

$ curl -v localhost:7474/db/manage/server/core/writable
*   Trying ::127.0.0.1
* Connected to localhost (127.0.0.1) port 7474 (#0)
> GET /db/manage/server/core/writable HTTP/1.1
> Host: localhost:7474
> Accept: */*
>
< HTTP/1.1 200 OK
< Date: Fri, 17 Feb 2017 16:38:37 GMT
< Content-Type: text/plain
< Access-Control-Allow-Origin: *
< Transfer-Encoding: chunked
< Server: Jetty(9.2.9 v20150224)
<
* Connection #0 to host localhost left intact
true

表 2. CC HTTP 端点响应

端点 实例状态 返回代码 正文文本

/db/manage/server/core/writable

领导者

200 OK

true

追随者

404 未找到

False

未知

404 未找到

UNKNOWN

(如果 Neo4j 服务器启用了基本安全认证,CC 状态端点也将需要认证凭据。如果需要认证,请使用 --user 开关运行 curl 命令 (curl -v localhost:7474/db/manage/server/ha/master --user <username>:<password>))

3. 在主节点上运行备份

执行完整备份:创建一个空目录(例如:/mnt/backup)并运行备份命令。

v3.0.x
$ neo4j-backup -host <address> -to <backup-path>
v3.1.x+
$ neo4j-admin backup --backup-dir=<backup-path> --name=<graph.db-backup> [--from=<address>] [--fallback-to-full[=<true|false>]] [--check-consistency[=<true|false>]] [--cc-report-dir=<directory>] [--additional-config=<config-file-path>] [--timeout=<timeout>]
neo4j-home> mkdir /mnt/backup
neo4j-home> bin/neo4j-admin backup --from=192.168.1.34 --backup-dir=/mnt/backup --name=graph.db-backup
Doing full backup...
2017-02-01 14:09:09.510+0000 INFO  [o.n.c.s.StoreCopyClient] Copying neostore.nodestore.db.labels
2017-02-01 14:09:09.537+0000 INFO  [o.n.c.s.StoreCopyClient] Copied neostore.nodestore.db.labels 8.00 kB
2017-02-01 14:09:09.538+0000 INFO  [o.n.c.s.StoreCopyClient] Copying neostore.nodestore.db
2017-02-01 14:09:09.540+0000 INFO  [o.n.c.s.StoreCopyClient] Copied neostore.nodestore.db 16.00 kB
...
...
...

如果您对 /mnt/backup 进行目录列表,您将看到一个名为 graph.db-backup 的 Neo4j 备份。

有关执行备份的更多信息可在此处找到:https://neo4j.ac.cn/docs/operations-manual/current/backup/perform-backup/

4. 将备份移动到故障从节点

在登录到主节点时,将文件从主节点复制到从节点

$ scp -r /path/to/neo4j/backup username@<SLAVE_ADDRESS>:/path/to/destination

5. 停止实例

$ $NEO4J_HOME/bin/neo4j stop

6. 备份旧存储 [可选]

建议保留当前的从节点存储,以便在需要时回滚操作。为此,我们只需重命名当前的存储目录。

$ mv $NEO4J_HOME/data/databases/graph.db $NEO4J_HOME/data/databases/graph.db-old

7. 恢复备份(对于 Neo4j 3.0 及更早版本,只需将备份目录复制到 graph.db)

基于在主节点实例上创建的备份进行恢复(假设备份位置为/mnt/backup,数据库备份名称为graph.db-backup,请相应更改)。

$ $NEO4J_HOME/bin/neo4j-admin restore --from=/mnt/backup --database=graph.db-backup --force

有关恢复备份的更多信息可在此处找到:https://neo4j.ac.cn/docs/operations-manual/current/backup/restore-backup/

8. 启动实例

$ $NEO4J_HOME/bin/neo4j start

现在从节点应该会正常启动。它将与主节点追赶,以获取从备份创建时到恢复时期间丢失的事务。

9. 清理旧文件 [可选]

此步骤仅在您备份了从节点实例上的旧存储时才相关(步骤 6)。

一旦您确认系统健康,从节点已恢复在线并与主节点实例保持一致,我们就可以删除旧存储。

$ rm -rf $NEO4J_HOME/data/databases/graph.db-old
© . All rights reserved.