工作流编排、任务调度引擎 job-dispatcher

其它
Java
跨平台
2019-01-14
xuda7342399

疫情之下,程序员如何转型?共享数字化转型加速度,就在微软在线技术峰会>>>

job-dispatcher

介绍

一个工作流编排,任务调度引擎

GtiHub地址:https://github.com/xuda783380930/job-dispatcher.git

基本模型:

基于事件或者定时生成一个job,每个job由若干个task组成,task之间存在串行或并行的依赖关系

task的具体实现引由客户端(用户自己编程实现),调度引擎只负责按照拓扑顺序发出HTTP信号触发任务

由客户端发出HTTP通知引擎任务任务的完成状态,调度引擎据此继续发出后续调度信号

使用场景:

任务编排,事件驱动或时间驱动的任务调度,如企业级ETL调度等

特点:

调度引擎只做调度和任务编排,不参与具体任务实现和执行,可看作一个HTTP信号发射和接收器,具有极大的适用性,天生支持异构系统,引擎端和任务实现端彻底的解耦。

job-dispatcher是微服务中的一个独立组件,而非作业平台,因此它并不去实现各类任务的运行环境的适配工作,任何实现了配置中子任务HTTP启动接口的程序都可以作为job-dispatche的客户端,无论是何种语言何种数据库的程序。

相似项目: Linkedin公司推出的Azkaban国产软件TASKCTL, 欢迎大家对比提出意见

软件架构

软件架构说明

1.时间调度引擎:基于Quartz,按时触发对应的Job

2.Job引擎:可注册JobBuilder(包含子任务的依赖关系),Job引擎收到触发信号后,根据builder生成JobBox实例(包含批次时间和任务执行状态) 按照时间顺序JobBox被Put到队列中,队首的JobBox会被消费,即按照拓扑关系依次发出信号,直到所有子任务执行完毕,继续执行下一个 JobBox。

3.使用的框架:JDK1.8,SpringBoot2.0,Quartz,JPA,Echarts,Amazeui,Swagger2

安装教程

1.修改对应的jdbc数据源配置和pom里面的jdbc驱动依赖

2.基于Springboot,用maven打包成Jar后启动即可

使用说明

  1. JDK1.8环境,通过默认端口浏览器访问就可以看到主页

  2. 通过quartz/registerjob接口,传入Json格式的Job配置文件注册任务即可,具体如下

    1.任务端向引擎注册一个定时Job http://ip:port/quartz/register?json={}

    //通过下列的json配置样例

    {

    "jobBoxBuilder": {

     "jobCode": "job1",
    
             "monitorParas":{mobileNos:[ "18621711111","18616152222"]} //短信收信人
    
             "taskBuilderMap": [ //Job内的task组成列表
    
         {
             "taskCode": "task1",
    
             "adapterPara": "http://172.11.33.44/trigger?jobCode=jos1&taskCode=task1", 
    
             "upstreamTaskCodes": ["task2"], //依赖task2,task2完成后task1才可执行
    
             "overTime":"60" //超时时间60分钟则报警
         },
    
         {
             "taskCode": "task2",
    
             "adapterPara": "http://172.11.33.44/trigger? jobCode=jos2&taskCode=task2"
    
             //"upstreamTaskCodes":[]    //不依赖任何任务可以不填该字段
    
                             //"overTime":"60" //可不填
         }
    
     ]

     

    },

    "jobCronExpression": "0 0/1 11 * * ?", //每天11点每隔一分钟执行一次

    "filterCalendarName": "nonTradingDays" //过滤nonTradingDays日历组

    }

    2.任务端向引擎通知任务执行情况

    UNSTART("未开始", 0),TRIGGERED("正在触发", 1),STARTED("正在执行", 2),NEED_RESTART("需重新执行", 3), PAUSED("已暂停", 4),FINISHED("已完毕", 5);

    http://ip:port/task/call?jobcode=job1&taskcode=task2&status=0

    3.查看job的等待队列的情况,查看正在执行的job的情况(通过前端页面关系图查看)

的码云指数为
超过 的项目
加载中

评论(0)

暂无评论

暂无资讯

3
回答
一个国产的基于事件的流程编排和调度引擎

GtiHub地址:https://github.com/xuda783380930/job-dispatcher.git GitEE地址:https://...

2019/01/15 09:21

没有更多内容

加载失败,请刷新页面

没有更多内容

Result-type-Dispatcher

1 配置文件: <result name="success" type="dispatcher"> <param name="location">foo.jsp</param> </result> 如果没有写type类型,默认的是dispatcher(就在下面这一行设置的),请看str...

2012/03/18 21:07
387
0
Akka 配置Dispatcher(一)

Akka 配置Dispatcher(一)

2015/01/13 20:29
3.3K
0
用Golang处理每分钟100万份请求

我在几家不同的公司从事反垃圾邮件,防病毒和反恶意软件行业工作超过15年,现在我知道这些系统最终会因为我们每天处理的大量数据而变得复杂。 目前,我是smsjunk.com的CEO和KnowBe4的首席架构...

2018/04/13 09:35
253
1
Akka配置Dispatcher(二)

Akka配置Dispatcher(二)

2015/01/22 19:38
661
0
Struts2源码阅读之Dispatcher

Dispatcher是Struts2的核心分发器,就好比SpringMVC的DispatcherServlet,它是完成url解析转向,读取对应Action的地方,相当于一个路由。 先看一段代码: private static ThreadLocal<Dispa...

2012/11/18 12:23
175
0
SpringMVC入门(一)Dispatcher

Spring MVC入门

2015/11/20 00:47
144
0
实战CGLib系列之proxy篇(四):改进版延迟加载Dispatcher

---该文是转载文章,出自iteye的@shensy,本着学习的精神转载过来! 本系列文章均整理自我在先前一家公司的CGLIB使用总结和笔记。鉴于CGLIB文档及示例较少,因此分享出来,希望对看到的人有所...

2016/03/29 10:31
33
1
聊聊flink的AbstractNonHaServices

序 本文主要研究一下flink的AbstractNonHaServices HighAvailabilityServices flink-runtime_2.11-1.7.1-sources.jar!/org/apache/flink/runtime/highavailability/HighAvailabilityServices...

2019/02/17 10:44
71
0
web.xml里<filter-mapping>中的<dispatcher>作用

2.4版本的servlet规范在部属描述符中新增加了一个<dispatcher>元素,这个元素有四个可能的值:即REQUEST,FORWARD,INCLUDE和ERROR,可以在一个<filter-mapping>元素中加入任意数目的<dispatch...

2011/03/18 22:06
600
0

没有更多内容

加载失败,请刷新页面

返回顶部
顶部