导入JSON文件数据Graph

本文以一个示例说明如何使用Exchange将存储在HDFS或本地的JSON文件数据导入NebulaGraph。

数据集Graph

本文以basketballplayer数据集为例。部分示例数据如下：

player

{"id":"player100","age":42,"name":"Tim Duncan"}
{"id":"player101","age":36,"name":"Tony Parker"}
{"id":"player102","age":33,"name":"LaMarcus Aldridge"}
{"id":"player103","age":32,"name":"Rudy Gay"}
...

team

{"id":"team200","name":"Warriors"}
{"id":"team201","name":"Nuggets"}
...

follow

{"src":"player100","dst":"player101","degree":95}
{"src":"player101","dst":"player102","degree":90}
...

serve

{"src":"player100","dst":"team204","start_year":"1997","end_year":"2016"}
{"src":"player101","dst":"team204","start_year":"1999","end_year":"2018"}
...

环境配置Graph

本文示例在MacOS下完成，以下是相关的环境配置信息：

硬件规格：
- CPU：1.7 GHz Quad-Core Intel Core i7
- 内存：16 GB

Spark：2.3.0，单机版

Hadoop：2.9.2，伪分布式部署

NebulaGraph：2.6.0。使用Graph。

前提条件Graph

开始导入数据之前，用户需要确认以下信息：

已经Graph并获取如下信息：
- Graph服务和Meta服务的的IP地址和端口。
- 拥有NebulaGraph写权限的用户名和密码。

已经编译Exchange。详情请参见Graph。本示例中使用Exchange 2.6.0。

已经安装Spark。

了解NebulaGraph中创建Schema的信息，包括Tag和Edge type的名称、属性等。

如果文件存储在HDFS上，需要确认Hadoop服务运行正常。

如果文件存储在本地且NebulaGraph是集群架构，需要在集群每台机器本地相同目录下放置文件。

操作步骤Graph

步骤 1：在NebulaGraph中创建SchemaGraph

分析文件中的数据，按以下步骤在NebulaGraph中创建Schema：

确认Schema要素。NebulaGraph中的Schema要素如下表所示。

要素名称属性

Tag player name string, age int

Tag team name string

Edge Type follow degree int

Edge Type serve start_year int, end_year int

使用Nebula Console创建一个图空间basketballplayer，并创建一个Schema，如下所示。

## 创建图空间
nebula> CREATE SPACE basketballplayer \
        (partition_num = 10, \
        replica_factor = 1, \
        vid_type = FIXED_STRING(30));

## 选择图空间basketballplayer
nebula> USE basketballplayer;

## 创建Tag player
nebula> CREATE TAG player(name string, age int);

## 创建Tag team
nebula> CREATE TAG team(name string);

## 创建Edge type follow
nebula> CREATE EDGE follow(degree int);

## 创建Edge type serve
nebula> CREATE EDGE serve(start_year int, end_year int);

更多信息，请参见Graph。

步骤 2：处理JSON文件Graph

确认以下信息：

处理JSON文件以满足Schema的要求。
获取JSON文件存储路径。

步骤 3. 修改配置文件Graph

编译Exchange后，复制target/classes/application.conf文件设置JSON数据源相关的配置。在本示例中，复制的文件名为json_application.conf。各个配置项的详细说明请参见Graph。

{
  # Spark相关配置
  spark: {
    app: {
      name: Nebula Exchange 2.6.0
    }
    driver: {
      cores: 1
      maxResultSize: 1G
    }
    executor: {
        memory:1G
    }

    cores {
      max: 16
    }
  }

  # NebulaGraph相关配置
  nebula: {
    address:{
      # 指定Graph服务和所有Meta服务的IP地址和端口。
      # 如果有多台服务器，地址之间用英文逗号（,）分隔。
      # 格式: "ip1:port","ip2:port","ip3:port"
      graph:["127.0.0.1:9669"]
      meta:["127.0.0.1:9559"]
    }

    # 指定拥有NebulaGraph写权限的用户名和密码。
    user: root
    pswd: nebula

    # 指定图空间名称。
    space: basketballplayer
    connection {
      timeout: 3000
      retry: 3
    }
    execution {
      retry: 3
    }
    error: {
      max: 32
      output: /tmp/errors
    }
    rate: {
      limit: 1024
      timeout: 1000
    }
  }

  # 处理点
  tags: [
    # 设置Tag player相关信息。
    {
      # 指定NebulaGraph中定义的Tag名称。
      name: player
      type: {
        # 指定数据源，使用JSON。
        source: json

        # 指定如何将点数据导入NebulaGraph：Client或SST。
        sink: client
      }

      # 指定JSON文件的路径。
      # 如果文件存储在HDFS上，用双引号括起路径，以hdfs://开头，例如"hdfs://ip:port/xx/xx"。
      # 如果文件存储在本地，用双引号括起路径，以file://开头，例如"file:///tmp/xx.json"。
      path: "hdfs://192.168.*.*:9000/data/vertex_player.json"

      # 在fields里指定JSON文件中key名称，其对应的value会作为NebulaGraph中指定属性的数据源。
      # 如果需要指定多个值，用英文逗号（,）隔开。
      fields: [age,name]

      # 指定NebulaGraph中定义的属性名称。
      # fields与nebula.fields的顺序必须一一对应。
      nebula.fields: [age, name]

      # 指定一个列作为VID的源。
      # vertex的值必须与JSON文件中的字段保持一致。
      # 目前，NebulaGraph 2.6.0仅支持字符串或整数类型的VID。
      vertex: {
        field:id
      }

      # 指定单批次写入NebulaGraph的最大点数量。
      batch: 256

      # 指定Spark分片数量。
      partition: 32
    }

    # 设置Tag team相关信息。
    {
      # 指定NebulaGraph中定义的Tag名称。
      name: team
      type: {
        # 指定数据源，使用JSON。
        source: json

        # 指定如何将点数据导入NebulaGraph：Client或SST。
        sink: client
      }

      # 指定JSON文件的路径。
      # 如果文件存储在HDFS上，用双引号括起路径，以hdfs://开头，例如"hdfs://ip:port/xx/xx"。
      # 如果文件存储在本地，用双引号括起路径，以file://开头，例如"file:///tmp/xx.json"。
      path: "hdfs://192.168.*.*:9000/data/vertex_team.json"

      # 在fields里指定JSON文件中key名称，其对应的value会作为NebulaGraph中指定属性的数据源。
      # 如果需要指定多个值，用英文逗号（,）隔开。
      fields: [name]

      # 指定NebulaGraph中定义的属性名称。
      # fields与nebula.fields的顺序必须一一对应。
      nebula.fields: [name]

      # 指定一个列作为VID的源。
      # vertex的值必须与JSON文件中的字段保持一致。
      # 目前，NebulaGraph 2.6.0仅支持字符串或整数类型的VID。
      vertex: {
        field:id
      }


      # 指定单批次写入NebulaGraph的最大点数量。
      batch: 256

      # 指定Spark分片数量。
      partition: 32
    }


    # 如果需要添加更多点，请参考前面的配置进行添加。
  ]
  # 处理边
  edges: [
    # 设置Edge type follow相关信息。
    {
      # 指定NebulaGraph中定义的Edge type名称。
      name: follow
      type: {
        # 指定数据源，使用JSON。
        source: json

        # 指定如何将点数据导入NebulaGraph：Client或SST。
        sink: client
      }

      # 指定JSON文件的路径。
      # 如果文件存储在HDFS上，用双引号括起路径，以hdfs://开头，例如"hdfs://ip:port/xx/xx"。
      # 如果文件存储在本地，用双引号括起路径，以file://开头，例如"file:///tmp/xx.json"。
      path: "hdfs://192.168.*.*:9000/data/edge_follow.json"

      # 在fields里指定JSON文件中key名称，其对应的value会作为NebulaGraph中指定属性的数据源。
      # 如果需要指定多个值，用英文逗号（,）隔开。
      fields: [degree]

      # 指定NebulaGraph中定义的属性名称。
      # fields与nebula.fields的顺序必须一一对应。
      nebula.fields: [degree]

      # 指定一个列作为起始点和目的点的源。
      # vertex的值必须与JSON文件中的字段保持一致。
      # 目前，NebulaGraph 2.6.0仅支持字符串或整数类型的VID。
      source: {
        field: src
      }
      target: {
        field: dst
      }


      # 指定一个列作为rank的源(可选)。
      #ranking: rank

      # 指定单批次写入NebulaGraph的最大边数量。
      batch: 256

      # 指定Spark分片数量。
      partition: 32
    }

    # 设置Edge type serve相关信息。
    {
      # 指定NebulaGraph中定义的Edge type名称。
      name: serve
      type: {
        # 指定数据源，使用JSON。
        source: json

        # 指定如何将点数据导入NebulaGraph：Client或SST。
        sink: client
      }

      # 指定JSON文件的路径。
      # 如果文件存储在HDFS上，用双引号括起路径，以hdfs://开头，例如"hdfs://ip:port/xx/xx"。
      # 如果文件存储在本地，用双引号括起路径，以file://开头，例如"file:///tmp/xx.json"。
      path: "hdfs://192.168.*.*:9000/data/edge_serve.json"

      # 在fields里指定JSON文件中key名称，其对应的value会作为NebulaGraph中指定属性的数据源。
      # 如果需要指定多个值，用英文逗号（,）隔开。
      fields: [start_year,end_year]

      # 指定NebulaGraph中定义的属性名称。
      # fields与nebula.fields的顺序必须一一对应。
      nebula.fields: [start_year, end_year]

      # 指定一个列作为起始点和目的点的源。
      # vertex的值必须与JSON文件中的字段保持一致。
      # 目前，NebulaGraph 2.6.0仅支持字符串或整数类型的VID。
      source: {
        field: src
      }
      target: {
        field: dst
      }


      # 指定一个列作为rank的源(可选)。
      #ranking: _c5


      # 指定单批次写入NebulaGraph的最大边数量。
      batch: 256

      # 指定Spark分片数量。
      partition: 32
    }

  ]
  # 如果需要添加更多边，请参考前面的配置进行添加。
}

步骤 4：向NebulaGraph导入数据Graph

运行如下命令将JSON文件数据导入到NebulaGraph中。关于参数的说明，请参见Graph。

${SPARK_HOME}/bin/spark-submit --master "local" --class com.vesoft.nebula.exchange.Exchange <nebula-exchange-2.6.0.jar_path> -c <json_application.conf_path>

Note

JAR包有两种获取方式：Graph或者从maven仓库下载。

示例：

${SPARK_HOME}/bin/spark-submit  --master "local" --class com.vesoft.nebula.exchange.Exchange  /root/nebula-echange/nebula-exchange/target/nebula-exchange-2.6.0.jar  -c /root/nebula-exchange/nebula-exchange/target/classes/json_application.conf

用户可以在返回信息中搜索batchSuccess.<tag_name/edge_name>，确认成功的数量。例如batchSuccess.follow: 300。

步骤 5：（可选）验证数据Graph

用户可以在NebulaGraph客户端（例如NebulaGraph Studio）中执行查询语句，确认数据是否已导入。例如：

GO FROM "player100" OVER follow;

用户也可以使用命令Graph查看统计数据。

步骤 6：（如有）在NebulaGraph中重建索引Graph

导入数据后，用户可以在NebulaGraph中重新创建并重建索引。详情请参见Graph。

最后更新: October 22, 2021

要素	名称	属性
Tag	`player`	`name string, age int`
Tag	`team`	`name string`
Edge Type	`follow`	`degree int`
Edge Type	`serve`	`start_year int, end_year int`