hdfs 集群间数据交换 HdfsDataExchanger

未知
Java
跨平台
2018-10-12
SebastianHe

背景

当前比较流行的hdfs间数据迁移工具有hadoop默认提供的distcp,阿里开源的DataX,这些工具能够满足常规的大部分需求,但是当时碰到hadoop版本不一致、keberos授权等场景时就行不通了。针对这些特殊的应用场景和实际需求我就构思并实现了HdfsDataExchanger这种实现方案。通过在一台可以访问两边hadoop集群的中转机上部署HdfsDataExchanger就可以实现将一个集群的数据迁移到另一个集群。HdfsDataExchanger提供单机多线程数据迁移,不支持分布式并行执行。

功能介绍

  1. 不同版本的hdfs间文件迁移。

  2. 本地文件系统与hdfs间文件迁移。

avatar

原理说明

  • 抽象一套hdfs文件操作接口。

  • 使用源集群和目标集群对应版本的hadoop分别实现接口。

  • 使用jetty的WebAppClassLoader分别加载两套(源和目标)hdfs相关的jar,并创建对应的FileSystem。

  • 使用源FileSystem读取数据到缓冲区,然后使用目标FileSystem将缓冲区的数据写入到目标文件。

    avatar

使用说明

  • data-exchanger目录下包含完整的部署目录

    1. h1为hadoop1的配置(conf)和相关的jar包(jars)

    2. h2为hadoop2的配置(conf)和相关的jar包(jars)

    3. main为主程序相关的配置(conf)、相关的jar包(jars)和启动脚本(bin)

  • 配置说明

    参数名说明
    thread.count并行进行迁移数据的线程数量
    buffer.size读取数据缓冲区大小
    src/dest.hdfs.resource.path源/目标hdfs的jar包目录
    src/dest.filesystem.implement源/目标针对抽象出的hdfs接口(com.sebastian.fdx.fs.api.BaseFileSystem)的实现类,WebAppClassLoader根据此配置加载对应的实现
    src/dest.hdfs.conf.path源/目标对应的core-site.xml和hdfs-site.xml
    1. h1和h2的jars目录下应该包含依赖的所有hadoop jar包,当前只包含了fdx-hadoopX-filesystem-1.0-SNAPSHOT.jar,用户在使用时需根据实际的hadoop版本自行编译,并将依赖的jar和编译出来的jar一并放到对应的目录下。

    2. main/jars目录放fdx-executor和fdx-filesystem-api编译出的jar以及依赖的所有jar。

    3. main/conf/parameter.xml

  • 执行
    bin/run.sh src_path1 src_path2 ... dest_path 将src_pathX下的所有文件、目录复制到dest_path下

的码云指数为
超过 的项目
加载中

评论(0)

暂无评论

暂无资讯

暂无问答

hadoop集群间数据迁移工具

背景 当前比较流行的hdfs间数据迁移工具有hadoop默认提供的distcp,阿里开源的DataX,这些工具能够满足常规的大部分需求,但是当时碰到hadoop版本不一致、keberos授权等场景时就行不通了。针...

2018/10/05 11:35
28
0

没有更多内容

加载失败,请刷新页面

没有更多内容

返回顶部
顶部