摘要：任務(wù)退出碼任務(wù)正常退出批跑模塊會接受到為，因為異常退出會接收到。主要注意的檢查項為連接未關(guān)閉等。每次任務(wù)退出后，批跑系統(tǒng)會檢測其是否為空，不為空則移動到目錄目錄下，并以版本號為文件夾存儲，以方便備份查看。

隨著node的出現(xiàn)與發(fā)展，前端承擔了越來越多的職責。

前端也有越來越多的場景需要使用批跑腳本

利用爬蟲或者接口定時同步數(shù)據(jù)到DB

線上配置文件、數(shù)據(jù)文件定時批跑生成并發(fā)布到線上

切實的影響到業(yè)務(wù)，因此需要一套高可靠與及時告警的批跑管理系統(tǒng)。

本文將批跑管理的系統(tǒng)封裝為一個npm模塊，可以方便使用，并且提供一套簡單的web管理系統(tǒng)進行管理。

1.安裝

npm install schedule_task_monitor --save

gihub鏈接 https://github.com/WilsonLiu9...

2.引入模塊并輸入?yún)?shù)

// init.js
var { run, eventEmitter, app } = require("sche_task_monitor");
run({
    mysql_config: { // mysql連接配置
        host: "localhost",
        port: "3306",
        user: "root",
        password: "1234",
        database: "db_lct_schedule", // 請先建立該數(shù)據(jù)庫
    },
    task_root_path: "/data/web/schedule/task/", // 任務(wù)腳本的根路徑
    defaultRtx: "wilsonsliu" // 告警默認傳送對象
});
// 啟動
node init.js

3.啟動web管理系統(tǒng)

web系統(tǒng)在8017端口打開: http://127.0.0.1:8017

node  ./node_mudule/sche_task_monitor/webSystem/app.js

4.新建任務(wù)文件

任務(wù)名稱為test，此時需要可在/data/web/schedule/task/新建一個test目錄，并新建/data/web/schedule/task/test/index.js;

var fs = require("fs-extra");
var path = require("path");
console.log("測試啦")
fs.writeFileSync(path.join(__dirname,"publish","a.txt"),"sdsds")

5.web系統(tǒng)新增任務(wù)
在web系統(tǒng)新增任務(wù)，例如如下配置

{
    task_name: "test",
    rule: "*/30 * * * * *",
    rtx_list: "wilsonliuxyz@gmail.com;test@qq.com", // 告警時的相關(guān)責任人
    title: "測試",
    description: "測試描述" 
}

此時，批跑管理系統(tǒng)將按照設(shè)定的任務(wù)規(guī)則運行，每15S進行一次。

模塊對外暴露了eventEmitter，可以通過監(jiān)聽task_start,task_end,notify事件來執(zhí)行用戶相應的代碼。

  eventEmitter.on("task_start", function ({ task_name, task_version }) {});
  // 任務(wù)結(jié)束
  eventEmitter.on("task_end", function ({ task_name, exit_code, task_version, error_log_list }) {});
  // 監(jiān)聽告警
  eventEmitter.on("notify", function ({ title, content, task_name,notify_list }) {});
}

通過監(jiān)聽notify事件來實現(xiàn)自己的告警。用戶可以自行選擇自己方便的方式，最好能夠通過多類方式進行告警。例如微信，郵件，郵箱等等。達到高時效

notify如果沒有task_name,那么notify_list，則使用初始化傳入的defaultRtx進行。

對于任務(wù)中生成的文件，規(guī)范放在對應的任務(wù)publish目錄。實現(xiàn)自己的發(fā)布函數(shù)，在任務(wù)中進行調(diào)用。

任務(wù)正常退出 批跑模塊 會接受到 exit_code 為0，因為異常退出會接收到 1。當退出碼為非0值時，將觸發(fā)告警。用戶可以通過process.exit(101)，來觸發(fā)告警

task_name唯一，且可以寫為monitor/logline的方式，則執(zhí)行路徑變?yōu)?b>monitor/logline/index.js。即入口文件為拼接的方式可多層級。不建議過深，不方便管理與查看。

對于非node的批跑腳本，我們可以在入口文件中對其他腳本再次進行調(diào)用的方式進行既可以。

說到批跑，第一個想到的肯定是利用linux自帶的crontab來完成定時批跑這一目的。
但依賴這種方式這樣存在以下問題，

每個任務(wù)都需要自行去crontab去新增一條規(guī)則，久而久之難以維護

任務(wù)執(zhí)行的各種告警實現(xiàn)困難，漏執(zhí)行，超時，異常退出等等

作為一個前端，當然是能夠用JS實現(xiàn)的就全部就JS(node)來實現(xiàn)。

node本身有豐富的npm模塊，node-schedule便是一個定時任務(wù)模塊，有4300+的star。
你可以像crontab一樣，編輯定時的rule，在rule指定的時間，會執(zhí)行相應的回調(diào)函數(shù)。

通過表t_task_list來進行管理任務(wù)，主要錄入每個任務(wù)的rule、timeout、last_start_time、last_end_time、last_warning_time來實現(xiàn)任務(wù)的管理

通過批跑系統(tǒng)統(tǒng)一對任務(wù)管理與監(jiān)控，以便對各種任務(wù)進行告警

批跑系統(tǒng)的目的是為了管理所有的批跑任務(wù)，并且對批跑任務(wù)進行監(jiān)控。
同時，因為是會直接影響到線上的系統(tǒng)，所以在穩(wěn)定性方面有高要求。

高穩(wěn)定性

弱侵入性(盡量減少批跑系統(tǒng)對相應任務(wù)的侵入)

便利的基礎(chǔ)設(shè)施服務(wù)

定時運行

各種異常情形下進行告警

日志輸出

版本備份

任務(wù)執(zhí)行數(shù)據(jù)入庫與統(tǒng)計

task的入口腳本統(tǒng)一放在task目錄進行管理，而每個任務(wù)的關(guān)鍵信息task_name、rule等具體信息則錄入表t_task_list，進行管理。

以下示例中task_name為gold，則批跑系統(tǒng)去數(shù)據(jù)庫中找到task_name=gold這一條記錄并按照，對應的rule進行掛在定時器，gold/index.js則為對應的任務(wù)入口文件，系統(tǒng)通過node task/gold/index.js執(zhí)行特定任務(wù)。

src
├── index.js // 入口文件
├── lib
│   ├── execTask.js // 執(zhí)行具體某個任務(wù)的代碼
│   ├── hook.js // 開始與結(jié)束任務(wù)的鉤子函數(shù)
│   ├── initDB.js // 初始化DB
│   └── monitorHelper.js // 5個監(jiān)控小助手
├── webSystem // GUI的批跑管理系統(tǒng)
├── task // 指定該目錄為任務(wù)根目錄
|   └── gold // 具體某一個定時任務(wù)
|         └── index.js // 某一個任務(wù)的入口文件
|         └—— logs // 本任務(wù)留下的日志文件
│              └── 201711 // 某個月
│                  ├── 23_213854.log // 按照 day_HHmmss構(gòu)建目錄存放歷史版本
|         └—— publish // 每次任務(wù)發(fā)布的文件夾，發(fā)布到線上需要手動調(diào)用發(fā)布函數(shù)，任務(wù)退出后批跑系統(tǒng)會自動將本目錄下的文件備份到history目錄
|         └—— history // 目錄下文件按照 gold_profit.201711231015.json 即 name + time(精確到分鐘) + 尾綴的形式保存
│              └── 201711 // 某一月份的歷史發(fā)布文件
│                  ├── 23_213854 // 按照 day_HHmmss構(gòu)建目錄存放歷史版本
│                  │   ├── currentYearPrice.json

模塊化、簡單化。通過批跑系統(tǒng)模塊化，并保證每個模塊代碼精簡與健壯，以此來提高批跑系統(tǒng)的穩(wěn)定性。

批跑系統(tǒng)與任務(wù)隔離。批跑系統(tǒng)通過child_process.spawn子進程來運行任務(wù)，以保證批跑系統(tǒng)與具體任務(wù)之間進行隔離，任務(wù)的異常不會導致批跑系統(tǒng)的崩潰。

兜底，pm2管理。任何系統(tǒng)都難以避免掛掉，如果系統(tǒng)掛掉則通過PM2自動重啟任務(wù)。

通過利用child_process.spawn的方式執(zhí)行任務(wù)，規(guī)定task/task_name/index.js為任務(wù)的入口文件，相當于node task/task_name/index.js。

優(yōu)點：

批跑腳本任務(wù)代碼無需做任何改造，可以選擇自己喜歡的方式去編寫代碼。

非通過require的方式進行引入，每次任務(wù)更新時不需要重啟批跑系統(tǒng)，只需要部署自己的任務(wù)的代碼文件即可

需要注意的2點

任務(wù)不可以一直掛起，任務(wù)執(zhí)行完成需退出。主要注意的檢查項為mysql連接未關(guān)閉等。

批跑系統(tǒng)通過監(jiān)聽任務(wù)子進程的close事件，來了解任務(wù)是否執(zhí)行完成。當exit_code為非0值時，批跑系統(tǒng)將進行告警(關(guān)于process.exit可以閱讀文末的參考鏈接3)

未catch住的異常導致的退出將會吐出exit_code=1，catch住異常后，可通過process.exit(exit_code)來指定自己定義的exit_code(100以內(nèi)為批跑系統(tǒng)保留狀態(tài)碼)

子任務(wù)正常執(zhí)行會吐出0

利用開源的node-schedule模塊，該模塊可完成類似crontab的功能，并且支持crontab的語法規(guī)則。主要用到scheduleJob這個接口進行定時任務(wù)掛載。

系統(tǒng)啟動時，去數(shù)據(jù)庫的t_task_list將所有任務(wù)的task_name、rule數(shù)據(jù)取出，并遍歷進行掛載。同時，掛載后的句柄存儲在全局對象G_task_schedule_list。

    const schedule = require("node-schedule");
    // 全局保存任務(wù)定時器的句柄 G_task_schedule_list
    G_task_schedule_list[task_name] = schedule.scheduleJob(rule, function () {
      // 回調(diào)函數(shù)中執(zhí)行具體的任務(wù)
      execTask(task_name, app);
    });

在以下5種情況時，對任務(wù)相關(guān)責任人進行告警。

任務(wù)執(zhí)行超時告警(t_task_list表中每個任務(wù)可指定超時時間為多少秒timeout)

exit_code非0，即異常退出

漏執(zhí)行告警(cron-parser解析rule得到上次應該運行時間，通過與任務(wù)的last_start_time比較確定是否漏執(zhí)行)

數(shù)據(jù)庫中任務(wù)被刪除通知(通過將目前掛載的任務(wù)G_task_schedule_list與數(shù)據(jù)庫中任務(wù)進行比對，發(fā)現(xiàn)是否有任務(wù)被刪除)

批跑模塊內(nèi)部異常

父進程通過監(jiān)聽子進程的stdout,stderr兩個輸出流，得到子進程的日志輸出。

日志將會存放在task/logs/YYYYMM/DD/HHmmss.log目錄下，按照任務(wù)執(zhí)行的時間存放，同時將stderr的信息入庫(為保護批跑系統(tǒng)，做限制，只錄入前100條)，用以在UI界面展示與告警時輸出。用戶如果需要詳細的日志還是需要查閱日志文件。

stderr可以通過console.error輸出，另外如果進程異常退出也會輸出到stderr，建議在catch住異常后通過console.error進行輸出。

每次任務(wù)執(zhí)行的時候，可以將文件寫入到對應任務(wù)的的publish目錄，如果需要發(fā)布上線可以手動調(diào)用Helper中的發(fā)布函數(shù)，針對目前部分強耦合于其他系統(tǒng)中的發(fā)布功能，可以以接口的形式批跑調(diào)用，并在接口中返回發(fā)布的內(nèi)容，任務(wù)再將其寫入publish目錄以進行版本的備份。

每次任務(wù)退出后，批跑系統(tǒng)會檢測其publish是否為空，不為空則移動到history目錄目錄下，并以版本號為文件夾存儲，以方便備份查看。

批跑系統(tǒng)掛載一個每3S執(zhí)行一次的監(jiān)控小助手，達到準實時監(jiān)控的效果。

小助手1：已存在的任務(wù)：數(shù)據(jù)庫更新rule，cancel定時任務(wù) 并設(shè)置掛載新規(guī)則的定時任務(wù)；新增任務(wù)：按照rule進行掛載

小助手2：用戶設(shè)置task_status為2，則殺死當前進程

小助手3：根據(jù)數(shù)據(jù)庫中的timeout字段，進行超時提醒

小助手4：任務(wù)漏執(zhí)行，告警通知

小助手5：任務(wù)在數(shù)據(jù)庫中被刪除告警用戶

hook.js包含startExecTask, endExecTask兩個函數(shù)在任務(wù)開始結(jié)束時運行。

startExecTask 執(zhí)行如下動作

置空任務(wù)的發(fā)布文件夾 task/task_name/publish

更新任務(wù)表中的last_start_time,task_version(任務(wù)的版本號根據(jù)運行時間生成const task_version = moment().format("YYYYMM/DD/HHmmss");)

插入一條任務(wù)執(zhí)行記錄到t_task_exec_list

endExecTask執(zhí)行如下動作

設(shè)置退出的事件與退出碼

版本備份 ：備份本次執(zhí)行的發(fā)布文件夾task/task_name/publish到task/task_name/history/task_version

更新任務(wù)運行記錄(包括錄入logs、發(fā)布的文件路徑數(shù)組)

批跑系統(tǒng)作為一個基礎(chǔ)設(shè)施與其他系統(tǒng)最大的不同在于需要高穩(wěn)定性且需要準確的監(jiān)控告警以避免任務(wù)出現(xiàn)各種情況導致線上問題，卻后知后覺。

本系統(tǒng)的設(shè)計基本滿足了設(shè)計目標，同時提供一套便于管理的web系統(tǒng)，可以方便的進行任務(wù)的管理，與歷史執(zhí)行情況的查看。

node-schedule

解析crontab的rule規(guī)則 cron-parser

process對象與exit_code