job-dispatcher 正在参加 2020 年度 OSC 中国开源项目评选,请投票支持!
job-dispatcher 在 2020 年度 OSC 中国开源项目评选 中已获得 {{ projectVoteCount }} 票,请投票支持!
投票让它出道
已投票
job-dispatcher 获得 2020 年度 OSC 中国开源项目评选「最佳人气项目」 !
job-dispatcher 获得 2020 年度 OSC 中国开源项目评选「最佳人气项目」「最积极运营项目」 !
job-dispatcher 获得 2020 年度 OSC 中国开源项目评选「最积极运营项目」 !
授权协议 其它
开发语言 Java
操作系统 跨平台
软件类型 开源软件
所属分类 开发工具Java开发工具
开源组织
地区 国产
提 交 者 xuda7342399
适用人群 未知
收录时间 2019-01-14

软件简介

job-dispatcher

介绍

一个工作流编排,任务调度引擎

GtiHub地址:https://github.com/xuda783380930/job-dispatcher.git

基本模型:

基于事件或者定时生成一个job,每个job由若干个task组成,task之间存在串行或并行的依赖关系

task的具体实现引由客户端(用户自己编程实现),调度引擎只负责按照拓扑顺序发出HTTP信号触发任务

由客户端发出HTTP通知引擎任务任务的完成状态,调度引擎据此继续发出后续调度信号

使用场景:

任务编排,事件驱动或时间驱动的任务调度,如企业级ETL调度等

特点:

调度引擎只做调度和任务编排,不参与具体任务实现和执行,可看作一个HTTP信号发射和接收器,具有极大的适用性,天生支持异构系统,引擎端和任务实现端彻底的解耦。

job-dispatcher是微服务中的一个独立组件,而非作业平台,因此它并不去实现各类任务的运行环境的适配工作,任何实现了配置中子任务HTTP启动接口的程序都可以作为job-dispatche的客户端,无论是何种语言何种数据库的程序。

相似项目: Linkedin公司推出的Azkaban国产软件TASKCTL, 欢迎大家对比提出意见

软件架构

软件架构说明

1.时间调度引擎:基于Quartz,按时触发对应的Job

2.Job引擎:可注册JobBuilder(包含子任务的依赖关系),Job引擎收到触发信号后,根据builder生成JobBox实例(包含批次时间和任务执行状态) 按照时间顺序JobBox被Put到队列中,队首的JobBox会被消费,即按照拓扑关系依次发出信号,直到所有子任务执行完毕,继续执行下一个 JobBox。

3.使用的框架:JDK1.8,SpringBoot2.0,Quartz,JPA,Echarts,Amazeui,Swagger2

安装教程

1.修改对应的jdbc数据源配置和pom里面的jdbc驱动依赖

2.基于Springboot,用maven打包成Jar后启动即可

使用说明

  1. JDK1.8环境,通过默认端口浏览器访问就可以看到主页

  2. 通过quartz/registerjob接口,传入Json格式的Job配置文件注册任务即可,具体如下

    1.任务端向引擎注册一个定时Job http://ip:port/quartz/register?json={}

    //通过下列的json配置样例

    {

    "jobBoxBuilder": {

     "jobCode": "job1",
    
             "monitorParas":{mobileNos:[ "18621711111","18616152222"]} //短信收信人
    
             "taskBuilderMap": [ //Job内的task组成列表
    
         {
             "taskCode": "task1",
    
             "adapterPara": "http://172.11.33.44/trigger?jobCode=jos1&taskCode=task1", 
    
             "upstreamTaskCodes": ["task2"], //依赖task2,task2完成后task1才可执行
    
             "overTime":"60" //超时时间60分钟则报警
         },
    
         {
             "taskCode": "task2",
    
             "adapterPara": "http://172.11.33.44/trigger? jobCode=jos2&taskCode=task2"
    
             //"upstreamTaskCodes":[]    //不依赖任何任务可以不填该字段
    
                             //"overTime":"60" //可不填
         }
    
     ]

     

    },

    "jobCronExpression": "0 0/1 11 * * ?", //每天11点每隔一分钟执行一次

    "filterCalendarName": "nonTradingDays" //过滤nonTradingDays日历组

    }

    2.任务端向引擎通知任务执行情况

    UNSTART("未开始", 0),TRIGGERED("正在触发", 1),STARTED("正在执行", 2),NEED_RESTART("需重新执行", 3), PAUSED("已暂停", 4),FINISHED("已完毕", 5);

    http://ip:port/task/call?jobcode=job1&taskcode=task2&status=0

    3.查看job的等待队列的情况,查看正在执行的job的情况(通过前端页面关系图查看)

展开阅读全文

代码

的 Gitee 指数为
超过 的项目

评论 (0)

加载中
更多评论
暂无内容
发表了博客
2016/08/26 16:20

yaf_dispatcher.c 的 yaf_dispatcher_fix_default函数

# 前言 本小节主要是介绍yaf_dispatcher_fix_default函数的作用以及实现细节。 ## 函数原型 static inline void yaf_dispatcher_fix_default(yaf_dispatcher_t *dispatcher, yaf_request_t *request) 该函数用于对module/controller/action三个值进行标准化处理。以便于后续对具体类文件进行检索定位。 ### 处理逻辑 - module先全部小写,然后首字母大写。 - controller先全部小写,然后以'_'或'\\'为分隔符首字母大写。 - acti...

0
0
发表于软件架构专区
2020/06/06 10:17

聊聊puma的Dispatcher

## 序 本文主要研究一下puma的Dispatcher ## Dispatcher puma/puma/src/main/java/com/dianping/puma/sender/dispatcher/Dispatcher.java ``` public interface Dispatcher extends LifeCycle { String getName(); void dispatch(ChangedEvent event, PumaContext context) throws DispatcherException; List getSenders(); } ``` - Dispatcher定义了getName、dispatch、getSenders方法 ## AbstractDispatcher puma/puma/src/ma...

0
0
发表了博客
2012/03/18 21:07

Result-type-Dispatcher

1 配置文件: <result name="success" type="dispatcher"> <param name="location">foo.jsp</param> </result> 如果没有写type类型,默认的是dispatcher(就在下面这一行设置的),请看struts-default.xml 拦截器: <result-type name="dispatcher" class="org.apache.struts2.dispatcher.ServletDispatcherResult" default="true"/> ServletDispatcherResult的代码: public class ServletDispatcherResult extends StrutsR...

0
0
发表了博客
2016/01/22 17:50

prestashop1.6.1.0的Dispatcher

1. Dispatcher构造器 在后台入口index文件中define('_PS_ADMIN_DIR_', getcwd()); 在Dispatcher构造器控制器中 if (defined('_PS_ADMIN_DIR_')) { $this->front_controller = self::FC_ADMIN; 得到正确的后台管理控制器$this->front_controller =2 2. Dispatcher中的适配方法dispatch() 由case self::FC_ADMIN : 这段代码, 来调度后台控制器, 或者后台模块控制器 $this->getController(); 得到后台控制器,若没有指定,则使用...

0
0
发表于开发技能专区
2014/11/12 10:13

Adobe CQ5 __Dispatcher

## 1. dispatcher作用 ## 通过web服务器达到页面缓存和负载均衡的作用 ## 2.配置dispatcher流程## 1. 安装web服务器 2. 下载对应环境和web服务器版本的dispatcher版本 3. 将dispatcher解压,将dispatcher conf文件和dispatcher module文件移入web服务器 4. 配置服务器conf文件和dispatcher.any文件,将dispatcher和web服务器进行整合;如图: ![在此输入图片描述][1] 另外可参见: [How to Use the Adobe CQ5 Dispatcher][2] 配置...

0
0
发表于服务端专区
2015/01/13 20:29

Akka 配置Dispatcher(一)

Akka 配置Dispatcher(一) akka默认加载classpath下application.conf配置文件,在application.conf配置文件中配置Dispatcher 如下定义一个application.conf配置文件, akka {   loglevel = INFO } my-dispatcher {   # Dispatcher is the name of the event-based dispatcher   type = Dispatcher   # What kind of ExecutionService to use   executor = "fork-join-executor"   # Confi...

0
3
发表于云计算专区
2018/05/17 17:39

ceph Dispatcher模块分析

Dipatcher类是消息分发的接口,OSD、MON、等类都继承该类,并实现了Dipatcher的消息分发接口 1079 class OSD : public Dispatcher, - 1080 public md_config_obs_t { | 1081 /** OSD **/ 128 class Monitor : public Dispatcher, - 129 public md_config_obs_t { | 130 public: | 131 // me | 132 string name; 在OSD::init()函数中把不同类型的Dipatcher加入...

0
0
发表了博客
2014/08/26 09:47

DispatcherTimer与Dispatcher小小应用

在使用DispatcherTimer之前,需要使用using System.Windows.Threading;命名空间;集成到按指定时间间隔和指定优先级处理的 Dispatcher 队列中的计时器。 在每个 Dispatcher 循环的顶端重新计算 DispatcherTimer。 不能保证会正好在时间间隔发生时执行计时器,但能够保证不会在时间间隔发生之前执行计时器。 这是因为 DispatcherTimer 操作与其他操作一样被放置到 Dispatcher 队列中。 何时执行 DispatcherTimer 操作取决于队列中...

0
0
2018/11/02 17:03

Envoy源码分析之Dispatcher

摘要: Dispatcher 在Envoy的代码中Dispatcher是随处可见的,可以说在Envoy中有着举足轻重的地位,一个Dispatcher就是一个EventLoop,其承担了任务队列、网络事件处理、定时器、信号处理等核心功能。 Dispatcher 在Envoy的代码中Dispatcher是随处可见的,可以说在Envoy中有着举足轻重的地位,一个Dispatcher就是一个EventLoop,其承担了任务队列、网络事件处理、定时器、信号处理等核心功能。在Envoy threading model这篇文章所...

0
0
2015/01/22 19:38

Akka配置Dispatcher(二)

Akka配置Dispatcher(二) Akka中有四种Dispatcher,请看这里http://my.oschina.net/xinxingegeya/blog/367320 下面是一个示例配置文件,名字是akka默认加载的位于classpath下的文件:application.conf,如下, MyDispatcherExample {   defaultDispatcher {     type = Dispatcher     executor = "fork-join-executor"     fork-join-executor {       parallelism-min = 2       paralle...

0
0
发表了博客
2012/11/18 12:23

Struts2源码阅读之Dispatcher

Dispatcher是Struts2的核心分发器,就好比SpringMVC的DispatcherServlet,它是完成url解析转向,读取对应Action的地方,相当于一个路由。 先看一段代码: private static ThreadLocal<Dispatcher> instance = new ThreadLocal<Dispatcher>(); 可以看到,Dispatcher也是使用ThreadLocal模式。在Struts2中大量使用了ThreadLocal模式,比如上次说到的ActionContext。 创建Dispatcher: public Dispatcher(ServletContext servletCon...

0
0
2018/10/31 10:26

Envoy源码分析之Dispatcher

摘要: Dispatcher 在Envoy的代码中Dispatcher是随处可见的,可以说在Envoy中有着举足轻重的地位,一个Dispatcher就是一个EventLoop,其承担了任务队列、网络事件处理、定时器、信号处理等核心功能。 Dispatcher 在Envoy的代码中Dispatcher是随处可见的,可以说在Envoy中有着举足轻重的地位,一个Dispatcher就是一个EventLoop,其承担了任务队列、网络事件处理、定时器、信号处理等核心功能。在Envoy threading model这篇文章所...

0
0
没有更多内容
加载失败,请刷新页面
点击加载更多
加载中
下一页
发表了问答
2019/01/15 09:21

一个国产的基于事件的流程编排和调度引擎

GtiHub地址:https://github.com/xuda783380930/job-dispatcher.git GitEE地址:https://gitee.com/daye_daye/job-dispatcher 基本模型: 基于事件或者定时生成一个job,每个job由若干个task组成,task之间存在串行或并行的依赖关系 task的具体实现引由客户端(用户自己编程实现),调度引擎只负责按照拓扑顺序发出HTTP信号触发任务 由客户端发出HTTP通知引擎任务任务的完成状态,调度引擎据此继续发出后续调度信号 使用场景: 任务编...

3
2
没有更多内容
加载失败,请刷新页面
点击加载更多
加载中
下一页
0 评论
19 收藏
分享
OSCHINA
登录后可查看更多优质内容
返回顶部
顶部