大数据中间件 Linkis

Apache-2.0
跨平台
2019-07-26
bigide

Linkis是一个打通了多个计算存储引擎如:Spark、Flink、Hive、Python和HBase等,对外提供统一REST/WS/JDBC接口,提交执行SQL、Pyspark、HiveQL、Scala等脚本的数据中间件。

Linkis基于微服务架构,提供了金融级多租户隔离、资源管控、权限隔离等企业级特性,支持统一变量、UDF、函数、用户资源文件管理,具备高并发、高性能、高可用的大数据作业/请求全生命周期管理能力。


核心特点:

  • 统一作业执行服务:一个分布式的REST/WebSocket服务,用于接收用户提交的各种脚本请求。
  • 目前支持的计算引擎有:Spark、Python、TiSpark、Hive和Shell等。
  • 支持的脚本语言有:SparkSQL、Spark Scala、Pyspark、R、Python、HQL和Shell等;
  • 资源管理服务: 支持实时管控每个系统和用户的资源使用情况,限制系统和用户的资源使用量和并发数,并提供实时的资源动态图表,方便查看和管理系统和用户的资源;
  • 目前已支持的资源类型:Yarn队列资源、服务器(CPU和内存)、用户并发个数等。
  • 应用管理服务:管理所有系统的所有用户应用,包括离线批量应用、交互式查询应用和实时流式应用,为离线和交互式应用提供强大的复用能力,并提供应用全生命周期管理,自动释放用户多余的空闲应用;
  • 统一存储服务:通用的IO架构,能快速对接各种存储系统,提供统一调用入口,支持所有常用格式数据,集成度高,简单易用;
  • 统一上下文服务:统一用户和系统资源文件(JAR、ZIP、Properties等),用户、系统、计算引擎的参数和变量统一管理,一处设置,处处自动引用;
  • 物料库:系统和用户级物料管理,可分享和流转,支持全生命周期自动管理;
  • 元数据服务:实时的库表结构和分区情况展示。

与类似系统的对比:

introduction01


QuickStart:

Read the Quick Start


Quick Use:

Read the Quick Use


架构

introduction02

的码云指数为
超过 的项目
加载中

评论(3)

牵着大象去看海
有大佬装了吗?我们最近在调研这套
bigide
bigide
hue zeppelin livy 合体
数据应用
数据应用
昨天还在想做的东西,今天就有来源的了,而且还这么优秀,很棒的项目

Linkis 0.5.0 发布,大数据中间件

Linkis是一个打通了多个计算存储引擎如:Spark、TiSpark、Hive、Python和HBase等,对外提供统一REST/WebSocket/JDBC接口,提交执行SQL、Pyspark、HiveQL、Scala等脚本的数据中间件。 Linkis...

07/31 22:51

没有更多内容

加载失败,请刷新页面

没有更多内容

2
回答
Linkis跟Livy和Zeppelin的Interpreter有什么区别?

最近看到微众银行开源了Linkis+Scriptis,Scriptis作为一款跟Zeppelin和Hue定位一样的数据开发IDE工具,虽然有很多企业级特性...

08/02 19:58

没有更多内容

加载失败,请刷新页面

没有更多内容

如何打造一款底层平台扩建搬迁,业务都不受影响的大数据中间件?

Linkis是微众银行开源的一款数据中间件,用于解决前台各种工具、应用,和后台各种计算存储引擎间的连接、访问和复用问题。 一、引言 Linkis Github repo: https://github.com/WeBankFinTech...

08/29 19:36
521
4
Farewell Livy, Hi Linkis

1.数据分析平台搭建的若干主题 笔者从事大数据功能平台建设若干年,在笔者就职的公司,业务分析人员常使用到如SparkSql, PySpark,hive,python等方式分析数据。搭建一个安全、稳定同时满足...

08/01 17:25
82
2
Linkis基于Feign实现的双向RPC通信方案

一、背景 基于Feign的微服务之间HTTP接口的调用,只能满足简单的A微服务实例根据简单的规则随机选择B微服务之中的某个服务实例,而这个B微服务实例如果想异步回传信息给调用方,是根本无法实...

08/29 20:13
10
2
为什么我的CDH不用Hue,改用Scriptis了?

理性谈谈Hue的优缺点 平时做数据开发用的比较多的是CDH的Hue,Hue提供了对接Hadoop平台的UI界面,可以对Hbase数据进行直接操作,执行Mapreducer任务时有可视化的执行界面,进行数据报表和Ooz...

08/01 17:24
37
0
Spring Cloud Gateway的多WebSocket请求转发实现

一、功能点 前端Client与后台多WebSocket微服务1多N支持 WebSocket通道全生命周期管理 二、Zuul的缺陷 完全不支持转发WebSocket请求。 三、Spring Cloud Gateway的局限 一个WebSocket客户端只...

08/29 20:24
22
2

没有更多内容

加载失败,请刷新页面

没有更多内容

返回顶部
顶部