摘要:自研調度組件,移除依賴一方面是為了精簡系統降低冗余依賴,另一方面是為了提供系統的可控度與穩定性觸發單節點周期性觸發,運行事件如調度集群競爭,負載方式協同處理,鎖競爭更新觸發信息推送時間輪鎖釋放鎖競爭底層表結構重構移除張相關表,并對現
v2.0.2 Release Notes
1、自研調度組件,移除quartz依賴:一方面是為了精簡系統降低冗余依賴,另一方面是為了提供系統的可控度與穩定性;
觸發:單節點周期性觸發,運行事件如delayqueue;
調度:集群競爭,負載方式協同處理,鎖競爭-更新觸發信息-推送時間輪-鎖釋放-鎖競爭;
2、底層表結構重構:移除11張quartz相關表,并對現有表結構優化梳理;
3、任務日志主鍵調整為long數據類型,防止海量日志情況下數據溢出;
4、底層線程模型重構:移除Quartz線程池,降低系統線程與內存開銷;
5、用戶管理:支持在線管理系統用戶,存在管理員、普通用戶兩種角色;
6、權限管理:執行器維度進行權限控制,管理員擁有全量權限,普通用戶需要分配執行器權限后才允許相關操作;
7、調度線程池參數調優;
8、注冊表索引優化,緩解鎖表問題;
9、新增Jboot執行器Sample示例項目;
10、任務列表優化,支持根據 "任務狀態"、"負責人" 屬性篩選任務;
11、任務日志列表交互優化,操作按鈕合并為分割按鈕;
12、項目依賴升級至較新穩定版本,如spring、springboot、groovy、xxl-rpc等等;并清理冗余POM;
13、升級xxl-rpc至較新版本,修復代理服務初始化時遠程服務不可用導致長連冗余創建的問題;
14、首頁調度報表的日期排序在TIDB下亂序問題修復;
15、調度中心與執行器雙向通訊超時時間調整為3s;
16、調度組件銷毀流程優化,先停止調度線程,然后等待時間輪內存量任務處理完成,最終銷毀時間輪線程;
17、執行器回調線程優化,回調地址為空時銷毀問題修復;
18、HttpJobHandler優化,響應數據指定UTF-8格式,避免中文亂碼;
19、代碼優化,ConcurrentHashMap變量類型改為ConcurrentMap,避免因不同版本實現不同導致的兼容性問題;
簡介XXL-JOB是一個輕量級分布式任務調度平臺,其核心設計目標是開發迅速、學習簡單、輕量級、易擴展。現已開放源代碼并接入多家公司線上產品線,開箱即用。
特性1、簡單:支持通過Web頁面對任務進行CRUD操作,操作簡單,一分鐘上手;
2、動態:支持動態修改任務狀態、啟動/停止任務,以及終止運行中任務,即時生效;
3、調度中心HA(中心式):調度采用中心式設計,“調度中心”自研調度組件并支持集群部署,可保證調度中心HA;
4、執行器HA(分布式):任務分布式執行,任務"執行器"支持集群部署,可保證任務執行HA;
5、注冊中心: 執行器會周期性自動注冊任務, 調度中心將會自動發現注冊的任務并觸發執行。同時,也支持手動錄入執行器地址;
6、彈性擴容縮容:一旦有新執行器機器上線或者下線,下次調度時將會重新分配任務;
7、路由策略:執行器集群部署時提供豐富的路由策略,包括:第一個、最后一個、輪詢、隨機、一致性HASH、最不經常使用、最近最久未使用、故障轉移、忙碌轉移等;
8、故障轉移:任務路由策略選擇"故障轉移"情況下,如果執行器集群中某一臺機器故障,將會自動Failover切換到一臺正常的執行器發送調度請求。
9、阻塞處理策略:調度過于密集執行器來不及處理時的處理策略,策略包括:單機串行(默認)、丟棄后續調度、覆蓋之前調度;
10、任務超時控制:支持自定義任務超時時間,任務運行超時將會主動中斷任務;
11、任務失敗重試:支持自定義任務失敗重試次數,當任務失敗時將會按照預設的失敗重試次數主動進行重試;其中分片任務支持分片粒度的失敗重試;
12、任務失敗告警;默認提供郵件方式失敗告警,同時預留擴展接口,可方便的擴展短信、釘釘等告警方式;
13、分片廣播任務:執行器集群部署時,任務路由策略選擇"分片廣播"情況下,一次任務調度將會廣播觸發集群中所有執行器執行一次任務,可根據分片參數開發分片任務;
14、動態分片:分片廣播任務以執行器為維度進行分片,支持動態擴容執行器集群從而動態增加分片數量,協同進行業務處理;在進行大數據量業務操作時可顯著提升任務處理能力和速度。
15、事件觸發:除了"Cron方式"和"任務依賴方式"觸發任務執行之外,支持基于事件的觸發任務方式。調度中心提供觸發任務單次執行的API服務,可根據業務事件靈活觸發。
16、任務進度監控:支持實時監控任務進度;
17、Rolling實時日志:支持在線查看調度結果,并且支持以Rolling方式實時查看執行器輸出的完整的執行日志;
18、GLUE:提供Web IDE,支持在線開發任務邏輯代碼,動態發布,實時編譯生效,省略部署上線的過程。支持30個版本的歷史版本回溯。
19、腳本任務:支持以GLUE模式開發和運行腳本任務,包括Shell、Python、NodeJS、PHP、PowerShell等類型腳本;
20、命令行任務:原生提供通用命令行任務Handler(Bean任務,"CommandJobHandler");業務方只需要提供命令行即可;
21、任務依賴:支持配置子任務依賴,當父任務執行結束且執行成功后將會主動觸發一次子任務的執行, 多個子任務用逗號分隔;
22、一致性:“調度中心”通過DB鎖保證集群分布式調度的一致性, 一次任務調度只會觸發一次執行;
23、自定義任務參數:支持在線配置調度任務入參,即時生效;
24、調度線程池:調度系統多線程觸發調度運行,確保調度精確執行,不被堵塞;
25、數據加密:調度中心和執行器之間的通訊進行數據加密,提升調度信息安全性;
26、郵件報警:任務失敗時支持郵件報警,支持配置多郵件地址群發報警郵件;
27、推送maven中央倉庫: 將會把最新穩定版推送到maven中央倉庫, 方便用戶接入和使用;
28、運行報表:支持實時查看運行數據,如任務數量、調度次數、執行器數量等;以及調度報表,如調度日期分布圖,調度成功分布圖等;
29、全異步:任務調度流程全異步化設計實現,如異步調度、異步運行、異步回調等,有效對密集調度進行流量削峰,理論上支持任意時長任務的運行;
30、跨平臺:原生提供通用HTTP任務Handler(Bean任務,"HttpJobHandler");業務方只需要提供HTTP鏈接即可,不限制語言、平臺;
31、國際化:調度中心支持國際化設置,提供中文、英文兩種可選語言,默認為中文;
32、容器化:提供官方docker鏡像,并實時更新推送dockerhub,進一步實現產品開箱即用;
33、線程池隔離:調度線程池進行隔離拆分,慢任務自動降級進入"Slow"線程池,避免耗盡調度線程,提高系統穩定性;;
34、用戶管理:支持在線管理系統用戶,存在管理員、普通用戶兩種角色;
35、權限控制:執行器維度進行權限控制,管理員擁有全量權限,普通用戶需要分配執行器權限后才允許相關操作;
文檔地址中文文檔
技術交流社區交流
文章版權歸作者所有,未經允許請勿轉載,若此文章存在違規行為,您可以聯系管理員刪除。
轉載請注明本文地址:http://specialneedsforspecialkids.com/yun/75184.html
摘要:分布式任務調度平臺一簡介概述是一個輕量級分布式任務調度框架,其核心設計目標是開發迅速學習簡單輕量級易擴展。 《分布式任務調度平臺XXL-JOB》 showImg(https://segmentfault.com/img/remote/1460000010402214);showImg(https://segmentfault.com/img/remote/146000001040221...
摘要:版本特性國際化調度中心實現國際化,支持中文英文兩種語言,默認為中文。調度中心提供觸發任務單次執行的服務,可根據業務事件靈活觸發。 版本 V1.9.1 特性 1、國際化:調度中心實現國際化,支持中文、英文兩種語言,默認為中文。 2、調度報表新增運行中中狀態項; 3、調度報表優化,報表SQL調優并且新增LocalCache緩存(緩存時間60s),提高大數據量下報表加載速度; 4、修復打包...
v2.0.0 Release Notes 1、調度中心遷移到 springboot; 2、底層通訊組件遷移至 xxl-rpc; 3、容器化:提供官方docker鏡像,并實時更新推送dockerhub(docker pull xuxueli/xxl-job-admin),進一步實現產品開箱即用; 4、新增無框架執行器Sample示例項目 xxl-job-executor-sample-framel...
摘要:分布式任務調度平臺,美團點評員工許雪里開發,其核心設計目標是開發迅速學習簡單輕量級易擴展。源碼地址二本文簡介主要是利用成熟的部署工具,結合開源的分布式任務調度框架作為工程,快速搭建自己的持續集成項目,其他項目可以類似構建。 一、概述 1、自動化部署能簡化開發過程的代碼管理,讓開發人員把更多的時間專注于業務實現, 簡化繁瑣的上線流程和操作步驟,做到項目的快速打包和部署,減少人...
閱讀 2701·2023-04-25 14:59
閱讀 888·2021-11-22 11:59
閱讀 635·2021-11-17 09:33
閱讀 2468·2021-09-27 13:34
閱讀 3898·2021-09-09 11:55
閱讀 2320·2019-08-30 15:44
閱讀 1123·2019-08-30 14:06
閱讀 1924·2019-08-29 16:55