导入 JSON 文件数据Graph
本文以一个示例说明如何使用 Exchange 将存储在 HDFS 上的 JSON 文件数据导入 NebulaGraph。
数据集Graph
本示例所用 JSON 文件(test.json)结构为:{"source":int, "target":int, "likeness":double}
,表示 source
与 target
之间一种 like
关系。共计 21,645 条数据。
以下为部分示例数据:
{"source":53802643,"target":87847387,"likeness":0.34}
{"source":29509860,"target":57501950,"likeness":0.40}
{"source":97319348,"target":50240344,"likeness":0.77}
{"source":94295709,"target":8189720,"likeness":0.82}
{"source":78707720,"target":53874070,"likeness":0.98}
{"source":23399562,"target":20136097,"likeness":0.47}
环境配置Graph
本文示例在 MacOS 下完成,以下是相关的环境配置信息:
- 硬件规格:
- CPU:1.7 GHz Quad-Core Intel Core i7
- 内存:16 GB
- Spark:2.3.0,单机版
- Hadoop:2.9.2,伪分布式部署
- NebulaGraph:V1.2.1,使用 Docker Compose 部署。详细信息,参考 Graph
前提条件Graph
开始迁移数据之前,您需要确认以下信息:
- 已经完成 Exchange 编译。详细信息,参考 Graph。本示例中使用 Exchange v1.0.1。
- 已经安装 Spark。
- 已经安装并开启 Hadoop 服务。
- 已经部署并启动 NebulaGraph,并获取:
- Graph 服务、Meta 服务所在机器的 IP 地址和端口信息。
- NebulaGraph 数据库的拥有写权限的用户名及其密码。
- 在 NebulaGraph 中创建图数据模式(Schema)所需的所有信息,包括标签和边类型的名称、属性等。
操作步骤Graph
步骤 1. 在 NebulaGraph 中创建 SchemaGraph
分析 JSON 文件中的数据,按以下步骤在 NebulaGraph 中创建 Schema:
-
确认 Schema 要素:NebulaGraph 中的 Schema 要素如下表所示。
要素 名称 属性 标签(Tag) source
srcId int
标签(Tag) target
dstId int
边类型(Edge Type) like
likeness double
-
在 NebulaGraph 里创建一个图空间 json,并创建一个 Schema,如下所示。
-- 创建图空间 CREATE SPACE json (partition_num=10, replica_factor=1); -- 选择图空间 json USE json; -- 创建标签 source CREATE TAG source (srcId int); -- 创建标签 target CREATE TAG target (dstId int); -- 创建边类型 like CREATE EDGE like (likeness double);
关于 NebulaGraph 构图的更多信息,参考《NebulaGraph Database 手册》的 Graph。
步骤 2. 处理 JSON 文件Graph
分别创建点和边数据 JSON 文件。同时,JSON 文件必须存储在 HDFS 里,并获取文件存储路径。
说明:本示例中仅使用一个 JSON 文件同时写入点和边数据,其中,表示 source 和 target 的部分点数据是重复的,所以,在写入数据时,这些点会被重复写入。向 NebulaGraph 插入点或边时,允许重复插入,但是最后读取时以最后一次写入的数据为准,所以,并不影响使用。在实际使用时,最好分别创建点和边数据文件,提高数据写入速度。
步骤 3. 修改配置文件Graph
完成 Exchange 编译后,进入 nebula-java/tools/exchange
目录,根据 target/classes/application.conf
文件修改 果断 数据源相关的配置文件。在本示例中,文件被重命名为 json_application.conf
。以下配置文件中提供了 JSON 源数据所有配置项。本次示例中未使用的配置项已被注释,但是提供了配置说明。Spark 和 NebulaGraph 相关配置,参考 Graph。
{
# Spark 相关配置
spark: {
app: {
name: Spark Writer
}
driver: {
cores: 1
maxResultSize: 1G
}
cores {
max: 16
}
}
# NebulaGraph 相关配置
nebula: {
address:{
# 以下为 NebulaGraph 的 Graph 服务和 Meta 服务所在机器的 IP 地址及端口
# 如果有多个地址,格式为 "ip1:port","ip2:port","ip3:port"
# 不同地址之间以英文逗号 (,) 隔开
graph:["127.0.0.1:3699"]
meta:["127.0.0.1:45500"]
}
# 填写的账号必须拥有 NebulaGraph 相应图空间的写数据权限
user: user
pswd: password
# 填写 NebulaGraph 中需要写入数据的图空间名称
space: json
connection {
timeout: 3000
retry: 3
}
execution {
retry: 3
}
error: {
max: 32
output: /tmp/errors
}
rate: {
limit: 1024
timeout: 1000
}
}
# 处理标签
tags: [
# 设置标签 source 相关信息
{
# 设置为 NebulaGraph 中对应的标签名称
name: source
type: {
# 指定数据源文件格式,设置为 json。
source: json
# 指定标签数据导入 NebulaGraph 的方式,
# 可以设置为:client(以客户端形式导入)和 sst(以 SST 文件格式导入)。
# 关于 SST 文件导入配置,参考文档:导入 SST 文件。
sink: client
}
# JSON 文件所在的 HDFS 路径,String 类型,必须以 hdfs:// 开头。
path: "hdfs://namenode_ip:port/path/to/test.json"
# 在 fields 里指定 JSON 文件中 key 名称,其对应的 value
# 会作为 NebulaGraph 中指定属性 srcId 的数据源
# 如果需要指定多个值,用英文逗号(,)隔开
fields: ["source"]
nebula.fields: ["srcId"]
# 将 JSON 文件中某个 key 对应的值作为 NebulaGraph 中点 VID 的来源
# 如果 VID 源数据不是 int 类型,则使用以下内容来代替 vertex 的设置,在其中指定 VID 映射策略,建议设置为 "hash"。
# vertex: {
# field: key_name_in_json
# policy: "hash"
# }
vertex: source
batch: 256
partition: 32
# isImplicit 设置说明,详见 https://github.com/vesoft-inc/
# nebula-java/blob/v1.0/tools/exchange/src/main/resources/
# application.conf
isImplicit: true
}
# 设置标签 target 相关信息
{
name: target
type: {
source: json
sink: client
}
path: "hdfs://namenode_ip:port/path/to/test.json"
fields: ["target"]
nebula.fields: ["dstId"]
vertex: "target"
batch: 256
partition: 32
isImplicit: true
}
# 如果还有其他标签,参考以上配置添加
]
# 处理边数据
edges: [
# 设置边类型 like 相关信息
{
# NebulaGraph 中对应的边类型名称。
name: like
type: {
# 指定数据源文件格式,设置为 json。
source: json
# 指定边数据导入 NebulaGraph 的方式,
# 可以设置为:client(以客户端形式导入)和 sst(以 SST 文件格式导入)。
# 关于 SST 文件导入配置,参考文档:导入 SST 文件(https://
# docs.nebula-graph.com.cn/nebula-exchange/
# use-exchange/ex-ug-import-sst/)。
sink: client
}
# 指定 JSON 文件所在的 HDFS 路径,String 类型,必须以 hdfs:// 开头。
path: "hdfs://namenode_ip:port/path/to/test.json"
# 在 fields 里指定 JSON 文件中 key 名称,其对应的 value
# 会作为 NebulaGraph 中指定属性 likeness 的数据源
# 如果需要指定多个值,用英文逗号(,)隔开
fields: ["likeness"]
nebula.fields: ["likeness"]
# 将 JSON 文件中某两个 key 对应的值作为 NebulaGraph 中边起点和边终点 VID 的来源
# 如果 VID 源数据不是 int 类型,则使用以下内容来代替 source
# 和/或 target 的设置,在其中指定 VID 映射策略,建议设置为 "hash"。
# source: {
# field: key_name_in_json
# policy: "hash"
# }
# target: {
# field: key_name_in_json
# policy: "hash"
# }
source: "source"
target: "target"
batch: 256
partition: 32
isImplicit: true
}
# 如果还有其他边类型,参考以上配置添加
]
}
步骤 4. (可选)检查配置文件是否正确Graph
完成配置后,运行以下命令检查配置文件格式是否正确。关于参数的说明,参考 Graph。
$SPARK_HOME/bin/spark-submit --master "local" --class com.vesoft.nebula.tools.importer.Exchange /path/to/exchange-1.0.1.jar -c /path/to/conf/json_application.conf -D
步骤 5. 向 NebulaGraph 导入数据Graph
运行以下命令将 JSON 文件数据导入 NebulaGraph 中。关于参数的说明,参考 Graph。
$SPARK_HOME/bin/spark-submit --master "local" --class com.vesoft.nebula.tools.importer.Exchange /path/to/exchange-1.0.1.jar -c /path/to/conf/json_application.conf
步骤 6. (可选)验证数据Graph
您可以在 NebulaGraph 客户端(例如 NebulaGraph Studio)里执行语句,确认数据是否已导入,例如:
GO FROM 53802643 OVER like;
如果返回边终点(like._dst
)即表明数据已导入。
您也可以使用 db_dump 工具统计数据是否已经全部导入。详细的使用信息参考 Graph。
步骤 7. (可选)在 NebulaGraph 中重构索引Graph
导入数据后,您可以在 NebulaGraph 中重新创建并重构索引。详细信息,参考Graph。