Linkis 0.11.0 发布,新增 ElasticSearch 与 Presto 引擎

来源: 投稿
作者: 微众开源
2021-01-21

大家期待已久的ElasticSearch引擎和Presto引擎来啦!

Linkis 0.11.0 是由微众银行和MobTech团队作为主要贡献者的一个重要版本。这是基于Linkis 0.10.0的下一个发行版本。此版本新增了Presto引擎、Es引擎、以及Spark引擎on cluster模式进行了实现,并对0.10.0版本前的多个Bug进行了修复。

 

特性增强

1. 新增了ElasticSearch引擎,支持通过Linkis-Client提交esql和ejson脚本;

2. 新增 Presto 引擎,支持通过Linkis-Client提交对Presto的查询;

3. Linkis-RM支持了对Presto 的资源组的资源进行控制;

4. Spark引擎支持yarn on cluster,用户可以灵活选择Spark的运行模式;

5. Linkis-RM支持通过restful获取有权限的Yarn队列,方便用户在前端应用工具进行队列选择;

6. Linkis-GateWay 网关添加了基于 DataSource 路由规则;

7. Spark引擎日志新增打印Yarn的ApplicationID方便用户查找问题;

8. Spark引擎的PySpark 任务适配 Spark3.0

9. Shell 引擎支持自定义变量

10. Shell 引擎支持输出结果集

11. 支持在脚本的变量替换时进行循环替换

 

Bug修复

1. 修复Linkis-RM模块中Resource moreThan 判断逻辑问题;

2. 修复 LDAP 认证时,名称太长导致异常问题;

3. 修复 CDH Spark 版本获取问题;

4. 修复 JDBC 任务不同用户相互影响的问题;

5. 修复 JDBC 引擎写结果集问题;

6. 修复 HiveQLProcessBuilder 中 java.library.path 配置写死问题;

7. 修复UDF模块中的共享函数到指定目录问题;

8. 修改 linkis_udf_tree 表中 name 字段长度

9. 修复接入单点登录后用户 cookie 丢失问题

10. 修复第三方系统集成linkis,Token认证方式,Token校验Bug

 

新贡献者

Linkis 0.11.0 的发布,离不开WeDataSphere社区的贡献者,他们无私地贡献自己的代码,积极地与社区伙伴进行技术交流,有了他们的助力,Linkis 0.11.0才能顺利地发布,在此感谢各位社区的贡献者! 排名不分先后:

wForget: 作为主持者,实现 ElasticSearch 引擎,实现网关路由插件,其他若干功能实现以及BUG修复。

Yogaflre: 实现 Presto 引擎,Presto 资源控制。

77954309: Shell 引擎支持自定义变量。

xfei6868: PySpark 任务适配 Spark3.0。

hcl3039359: 修改 linkis_udf_tree 表中 name 字段长度。

linweijiang: 修复接入单点登录后用户 cookie 丢失问题

cumtcwf修复第三方系统集成linkis,Token认证方式,Token校验Bug

zhangxhmuyeShell 引擎支持输出结果集

 

展望未来

未来,微众银行WeDataSphere大数据团队将继续携手MobTech大数据团队,打造全面连通融合的金融级大数据平台,深耕金融级生产环境和场景的自研打磨完善,为社区用户提供相应个性化的大数据解决方案,赋能金融机构企业服务生产及业务支持,共同推动Linkis生态圈的成长。

Linkis 开源项目地址如下,欢迎大家提交 issue 及 star:

展开阅读全文
6 收藏
分享
加载中
最新评论 (2)
k8s部分并没有跟着更新
2021-01-21 18:42
0
回复
举报
是的,K8s已经适配一版本,这次主要新增ElasticSearch引擎和Presto引擎。
2021-01-22 10:18
0
回复
举报
更多评论
2 评论
6 收藏
分享
返回顶部
顶部