Nebula ImporterGraph

Nebula Importer（简称Importer）是一款Graph的CSV文件导入工具。Importer可以读取本地的CSV文件，然后导入数据至NebulaGraph图数据库中。

适用场景Graph

Importer适用于将本地CSV文件的内容导入至NebulaGraph中。

优势Graph

• 轻量快捷：不需要复杂环境即可使用，快速导入数据。

• 灵活筛选：通过配置文件可以实现对CSV文件数据的灵活筛选。

前提条件Graph

在使用Nebula Importer之前，请确保：

• 已部署NebulaGraph服务。目前有三种部署方式：

  • Graph（快速部署）
  • Graph
  • Graph

• NebulaGraph中已创建Schema，包括图空间、标签和边类型，或者通过参数clientSettings.postStart.commands设置。

• 运行Importer的机器已部署Golang环境。详情请参见Graph。

操作步骤Graph

配置yaml文件并准备好待导入的CSV文件，即可使用本工具向NebulaGraph批量写入数据。

源码编译运行Graph

1. 克隆仓库。

   $ git clone --branch <branch> https://github.com/vesoft-inc/nebula-importer.git
   

   说明：请使用正确的分支。

   NebulaGraph 1.x和2.x的rpc协议不同，因此：

   • Nebula Importer v1分支只能连接NebulaGraph 1.x。

   • Nebula Importer master分支和v2分支可以连接NebulaGraph 2.x。

2. 进入目录nebula-importer。

   $ cd nebula-importer
   

3. 编译源码。

   $ make build
   

4. 启动服务。

   $ ./nebula-importer --config <yaml_config_file_path>
   

   说明：yaml配置文件说明请参见Graph。

无网络编译方式Graph

如果您的服务器不能联网，建议您在能联网的机器上将源码和各种以来打包上传到对应的服务器上编译即可，操作步骤如下：

1. 克隆仓库。

   $ git clone --branch <branch> https://github.com/vesoft-inc/nebula-importer.git
   

2. 使用如下的命令下载并打包依赖的源码。

   $ cd nebula-importer
   $ go mod vendor
   $ cd .. && tar -zcvf nebula-importer.tar.gz nebula-importer
   

3. 将压缩包上传到不能联网的服务器上。

4. 解压并编译。

   $ tar -zxvf nebula-importer.tar.gz 
   $ cd nebula-importer
   $ go build -mod vendor cmd/
   

Docker方式运行Graph

使用Docker可以不必在本地安装Go语言环境，只需要拉取Nebula Importer的Graph，并将本地配置文件和CSV数据文件挂载到容器中。命令如下：

$ docker run --rm -ti \
    --network=host \
    -v <config_file>:<config_file> \
    -v <csv_data_dir>:<csv_data_dir> \
    vesoft/nebula-importer:<version>
    --config <config_file>

• <config_file>：本地yaml配置文件的绝对路径。
• <csv_data_dir>：本地CSV数据文件的绝对路径。
• <version>：NebulaGraph 2.x请填写v2。

说明：建议您使用相对路径。如果使用本地绝对路径，请检查路径映射到Docker中的路径。

配置文件说明Graph

Nebula Importer通过yaml配置文件来描述待导入文件信息、NebulaGraph服务器信息等。您可以参考示例配置文件：Graph。下文将分类介绍配置文件内的字段。

基本配置Graph

示例配置如下：

version: v2
description: example
removeTempFiles: false

客户端配置Graph

客户端配置存储客户端连接NebulaGraph相关的配置。

示例配置如下：

clientSettings:
  retry: 3
  concurrency: 10
  channelBufferSize: 128
  space: test
  connection:
    user: user
    password: password
    address: 192.168.*.*:9669,192.168.*.*:9669
  postStart:
    commands: |
      UPDATE CONFIGS storage:wal_ttl=3600;
      UPDATE CONFIGS storage:rocksdb_column_family_options = { disable_auto_compactions = true };
    afterPeriod: 8s
  preStop:
    commands: |
      UPDATE CONFIGS storage:wal_ttl=86400;
      UPDATE CONFIGS storage:rocksdb_column_family_options = { disable_auto_compactions = false };

文件配置Graph

文件配置存储数据文件和日志的相关配置，以及Schema的具体信息。

文件和日志配置Graph

示例配置如下：

logPath: ./err/test.log
files:
  - path: ./student_without_header.csv
    failDataPath: ./err/studenterr.csv
    batchSize: 128
    limit: 10
    inOrder: false
    type: csv
    csv:
      withHeader: false
      withLabel: false
      delimiter: ","

Schema配置Graph

Schema配置描述当前数据文件的Meta信息，Schema的类型分为点和边两类，可以同时配置多个点或边。

• 点配置

示例配置如下：

schema:
  type: vertex
  vertex:
    vid:
      type: string
      index: 0
    tags:
      - name: student
        props:
          - name: name
            type: string
            index: 1
          - name: age
            type: int
            index: 2
          - name: gender
            type: string
            index: 3

• 边配置

示例配置如下：

schema:
  type: edge
  edge:
    name: follow
    withRanking: true
    srcVID:
      type: string
      index: 0
    dstVID:
      type: string
      index: 1
    rank:
      index: 2
    props:
      - name: degree
        type: double
        index: 3

说明：CSV文件中列的序号从0开始，即第一列的序号为0，第二列的序号为1。

关于CSV文件表头（header）Graph

Importer根据CSV文件有无表头，需要对配置文件进行不同的设置，相关示例和说明请参见：

• Graph

• Graph