您当前的位置:首页 > 电脑百科 > 站长技术 > 服务器

开源调度系统:liteflow控制台功能

时间:2020-08-06 10:08:59  来源:  作者:

liteflow整体分为两个模块,控制台以及执行者;其中控制台负责任务的关系以及执行的调度,执行者负责任务的具体执行。控制台中主要的功能围绕在任务以及任务流。

一、主要功能介绍

1.任务

1)任务创建需要根据任务的周期(分、时、天等)来设置,同时需要指定任务执行的cron表达式;其中任务周期是用来任务上下游间关联的依据,例如用来计算一周的pv总量(即上游任务为天,下游任务为周),这时会依据周期,下游任务会自动关联上上游任务周一到周日的任务,只有上游的七个任务都执行成功后下游才会执行,这样就能保证数据不会出现漏掉的情况

2)选择任务运行的插件,即任务执行类型(hive、Python、shell等),任务的执行插件主要是执行者来实现,通过容器、插件、任务详情来实现任务的执行,这个后续会有具体介绍

从表单中可以看出,任务需要指定是否可以并发,并发指的是同一时间同一个任务的不同任务版本是否可以同时运行,如果为否,需要指定运行策略。1)忽略:即忽略正在运行的任务,将其设置为成功状态,然后当前任务版本再执行,这种情况适合任务运行一次和多次没有区别的情况,例如统计统计某网站当天的pv数时。2)等待:需要等待上一个任务版本执行完成后,再执行当前任务,这种情况适合任务执行以来上一次任务执行后产生的数据,例如统计每个小时环比变化数据时。

开源调度系统:liteflow控制台功能

 


开源调度系统:liteflow控制台功能

 

二、任务流

1.创建任务流

在大数据ETL相关工作中,需要依赖任务流来保证各种数据层的计算,也就是我们现在提到的任务流,任务流的核心是DAG原理来保证任务的按一定的规则来运行,任务流创建后,需要将已添加的任务通过图形界面建立好关联

开源调度系统:liteflow控制台功能

 

1)通过图形界面编辑任务流

通过将鼠标在任务节点上右键可以添加任务,来实现任务的上下游关系

开源调度系统:liteflow控制台功能

 


开源调度系统:liteflow控制台功能

 


开源调度系统:liteflow控制台功能

 

2)任务流修复

在日常工作很多情况下需要对任务进行再一次修复,通过图形界面可以实现任务流中所有任务、从某个节点、仅某个任务的修复;任务流的修复会根据主节点任务来完成数据的展示,依据主节点任务的任务版本以及任务流中任务关系来完成某个版本下任务流下的任务实例关系

开源调度系统:liteflow控制台功能

 

总结:

liteflow整个的核心其实是通过任务流来保证各个任务按照DAG的关系实现任务的顺序执行,以保证每个任务对应能够在上游任务数据ready的前提下再去执行,从而保证数据的一致性



Tags:liteflow控制台   点击:()  评论:()
声明:本站部分内容及图片来自互联网,转载是出于传递更多信息之目的,内容观点仅代表作者本人,如有任何标注错误或版权侵犯请与我们联系(Email:2595517585@qq.com),我们将及时更正、删除,谢谢。
▌相关推荐
liteflow整体分为两个模块,控制台以及执行者;其中控制台负责任务的关系以及执行的调度,执行者负责任务的具体执行。控制台中主要的功能围绕在任务以及任务流。一、主要功能介绍...【详细内容】
2020-08-06  Tags: liteflow控制台  点击:(538)  评论:(0)  加入收藏
▌简易百科推荐
阿里云镜像源地址及安装网站地址https://developer.aliyun.com/mirror/centos?spm=a2c6h.13651102.0.0.3e221b111kK44P更新源之前把之前的国外的镜像先备份一下 切换到yumcd...【详细内容】
2021-12-27  干程序那些事    Tags:CentOS7镜像   点击:(1)  评论:(0)  加入收藏
前言在实现TCP长连接功能中,客户端断线重连是一个很常见的问题,当我们使用netty实现断线重连时,是否考虑过如下几个问题: 如何监听到客户端和服务端连接断开 ? 如何实现断线后重...【详细内容】
2021-12-24  程序猿阿嘴  CSDN  Tags:Netty   点击:(12)  评论:(0)  加入收藏
一. 配置yum源在目录 /etc/yum.repos.d/ 下新建文件 google-chrome.repovim /etc/yum.repos.d/google-chrome.repo按i进入编辑模式写入如下内容:[google-chrome]name=googl...【详细内容】
2021-12-23  有云转晴    Tags:chrome   点击:(7)  评论:(0)  加入收藏
一. HTTP gzip压缩,概述 request header中声明Accept-Encoding : gzip,告知服务器客户端接受gzip的数据 response body,同时加入以下header:Content-Encoding: gzip:表明bo...【详细内容】
2021-12-22  java乐园    Tags:gzip压缩   点击:(8)  评论:(0)  加入收藏
yum -y install gcc automake autoconf libtool makeadduser testpasswd testmkdir /tmp/exploitln -s /usr/bin/ping /tmp/exploit/targetexec 3< /tmp/exploit/targetls -...【详细内容】
2021-12-22  SofM    Tags:Centos7   点击:(7)  评论:(0)  加入收藏
Windows操作系统和Linux操作系统有何区别?Windows操作系统:需支付版权费用,(华为云已购买正版版权,在华为云购买云服务器的用户安装系统时无需额外付费),界面化的操作系统对用户使...【详细内容】
2021-12-21  卷毛琴姨    Tags:云服务器   点击:(6)  评论:(0)  加入收藏
参考资料:Hive3.1.2安装指南_厦大数据库实验室博客Hive学习(一) 安装 环境:CentOS 7 + Hadoop3.2 + Hive3.1 - 一个人、一座城 - 博客园1.安装hive1.1下载地址hive镜像路径 ht...【详细内容】
2021-12-20  zebra-08    Tags:Hive   点击:(9)  评论:(0)  加入收藏
以下是服务器安全加固的步骤,本文以腾讯云的CentOS7.7版本为例来介绍,如果你使用的是秘钥登录服务器1-5步骤可以跳过。1、设置复杂密码服务器设置大写、小写、特殊字符、数字...【详细内容】
2021-12-20  网安人    Tags:服务器   点击:(7)  评论:(0)  加入收藏
项目中,遇到了一个问题,就是PDF等文档不能够在线预览,预览时会报错。错误描述浏览器的console中,显示如下错误:nginx代理服务报Mixed Content: The page at ******** was loaded...【详细内容】
2021-12-17  mdong    Tags:Nginx   点击:(7)  评论:(0)  加入收藏
转自: https://kermsite.com/p/wt-ssh/由于格式问题,部分链接、表格可能会失效,若失效请访问原文密码登录 以及 通过密钥实现免密码登录Dec 15, 2021阅读时长: 6 分钟简介Windo...【详细内容】
2021-12-17  LaLiLi    Tags:SSH连接   点击:(16)  评论:(0)  加入收藏
相关文章
    无相关信息
最新更新
栏目热门
栏目头条