Apache Fluo 1.2.0 发布,大规模数据集增量处理系统

来源: 投稿
作者: 王练
2018-03-02 07:53:20

Apache Fluo 1.2.0 已发布,Fluo 是  Google Percolator(搜索索引)的开源实现,允许用户对存储在 Apache Accumulo 中的大型数据集进行增量更新,而无需重新处理所有的数据。与批处理和流处理框架不同的是,Fluo 提供了更低的延迟,并且可以在极大的数据集上运行。

在 1.2.0 之前,Fluo 应用只能以 YARN 或作为本地进程运行。1.2.0 版本后,Fluo tarball 被重构以支持 Docker、Kubernetes 和 Marathon 等方式运行。

  • Fluo tarball 现在仅用于初始化 Fluo 并运行本地进程。

  • fluo.properties 配置文件已被弃用,并被 fluo-conn.properties 和 fluo-app.properties 替代。

    • fluo-conn.properties 包含连接属性,并由 Fluo 应用共享。

    • fluo-app.properites 包含特定于应用程序的属性,仅在 Fluo 应用的初始化过程中使用。

  • 在 YARN 中启动 Fluo 应用的代码已移至专属的 fluo-yarn 项目中。

  • Fluo jars 现在存储在 HDFS 中,应用配置存储在 Zookeeper 中。

  • 现在可使用 -o 选项在命令行中指定 Fluo 配置选项。

  • Fluo 脚本现在支持传递 Java 选项。

了解更多详情可查阅发行说明。

下载地址:

展开阅读全文
点击引领话题📣 发布并加入讨论🔥
0 评论
8 收藏
分享
返回顶部
顶部