国产xxxx99真实实拍_久久不雅视频_高清韩国a级特黄毛片_嗯老师别我我受不了了小说

資訊專欄INFORMATION COLUMN

Web 端反爬蟲技術(shù)方案

MudOnTire / 469人閱讀 

對于內(nèi)容型的公司，數(shù)據(jù)的安全性很重要。對于內(nèi)容公司來說，數(shù)據(jù)的重要性不言而喻。比如你一個做在線教育的平臺，題目的數(shù)據(jù)很重要吧，但是被別人通過爬蟲技術(shù)全部爬走了？如果核心競爭力都被拿走了，那就是涼涼。再比說有個獨立開發(fā)者想抄襲你的產(chǎn)品，通過抓包和爬蟲手段將你核心的數(shù)據(jù)拿走，然后短期內(nèi)做個網(wǎng)站和 App，短期內(nèi)成為你的勁敵。
爬蟲手段

目前爬蟲技術(shù)都是從渲染好的 html 頁面直接找到感興趣的節(jié)點，然后獲取對應(yīng)的文本

有些網(wǎng)站安全性做的好，比如列表頁可能好獲取，但是詳情頁就需要從列表頁點擊對應(yīng)的 item，將 itemId 通過 form 表單提交，服務(wù)端生成對應(yīng)的參數(shù)，然后重定向到詳情頁（重定向過來的地址后才帶有詳情頁的參數(shù) detailID），這個步驟就可以攔截掉一部分的爬蟲開發(fā)者

制定出Web 端反爬技術(shù)方案

本人從這2個角度（網(wǎng)頁所見非所得、查接口請求沒用）出發(fā)，制定了下面的反爬方案。

使用HTTPS 協(xié)議

單位時間內(nèi)限制掉請求次數(shù)過多，則封鎖該賬號

前端技術(shù)限制 （接下來是核心技術(shù)）

# 比如需要正確顯示的數(shù)據(jù)為“19950220”

1. 先按照自己需求利用相應(yīng)的規(guī)則（數(shù)字亂序映射，比如正常的0對應(yīng)還是0，但是亂序就是 0 <-> 1，1 <-> 9,3 <-> 8,...）制作自定義字體（ttf）
2. 根據(jù)上面的亂序映射規(guī)律，求得到需要返回的數(shù)據(jù) 19950220 -> 17730220
3. 對于第一步得到的字符串，依次遍歷每個字符，將每個字符根據(jù)按照線性變換（y=kx+b）。線性方程的系數(shù)和常數(shù)項是根據(jù)當(dāng)前的日期計算得到的。比如當(dāng)前的日期為“2018-07-24”，那么線性變換的 k 為 7，b 為 24。
4. 然后將變換后的每個字符串用“3.1415926”拼接返回給接口調(diào)用者。(為什么是3.1415926，因為對數(shù)字偽造反爬，所以拼接的文本肯定是數(shù)字的話不太會引起研究者的注意，但是數(shù)字長度太短會誤傷正常的數(shù)據(jù)，所以用所熟悉的 Π)

?```
1773 -> “1*7+24” + “3.1415926” + “7*7+24” + “3.1415926” + “7*7+24” + “3.1415926” + “3*7+24” -> 313.1415926733.1415926733.141592645
02 -> "0*7+24" + "3.1415926" + "2*7+24" -> 243.141592638
20 -> "2*7+24" + "3.1415926" + "0*7+24" -> 383.141592624
?```

# 前端拿到數(shù)據(jù)后再解密，解密后根據(jù)自定義的字體 Render 頁面
1. 先將拿到的字符串按照“3.1415926”拆分為數(shù)組
2. 對數(shù)組的每1個數(shù)據(jù)，按照“線性變換”（y=kx+b，k和b同樣按照當(dāng)前的日期求解得到），逆向求解到原本的值。
3. 將步驟2的的到的數(shù)據(jù)依次拼接，再根據(jù) ttf 文件 Render 頁面上。

后端需要根據(jù)上一步設(shè)計的協(xié)議將數(shù)據(jù)進行加密處理

下面以 Node.js 為例講解后端需要做的事情

首先后端設(shè)置接口路由

獲取路由后面的參數(shù)

根據(jù)業(yè)務(wù)需要根據(jù) SQL 語句生成對應(yīng)的數(shù)據(jù)。如果是數(shù)字部分，則需要按照上面約定的方法加以轉(zhuǎn)換。

將生成數(shù)據(jù)轉(zhuǎn)換成 JSON 返回給調(diào)用者

// json
var JoinOparatorSymbol = "3.1415926";
function encode(rawData, ruleType) {
  if (!isNotEmptyStr(rawData)) {
    return "";
  }
  var date = new Date();
  var year = date.getFullYear();
  var month = date.getMonth() + 1;
  var day = date.getDate();

  var encodeData = "";
  for (var index = 0; index < rawData.length; index++) {
    var datacomponent = rawData[index];
    if (!isNaN(datacomponent)) {
      if (ruleType < 3) {
        var currentNumber = rawDataMap(String(datacomponent), ruleType);
        encodeData += (currentNumber * month + day) + JoinOparatorSymbol;
      }
      else if (ruleType == 4) {
        encodeData += rawDataMap(String(datacomponent), ruleType);
      }
      else {
        encodeData += rawDataMap(String(datacomponent), ruleType) + JoinOparatorSymbol;
      }
    }
    else if (ruleType == 4) {
      encodeData += rawDataMap(String(datacomponent), ruleType);
    }

  }
  if (encodeData.length >= JoinOparatorSymbol.length) {
    var lastTwoString = encodeData.substring(encodeData.length - JoinOparatorSymbol.length, encodeData.length);
    if (lastTwoString == JoinOparatorSymbol) {
      encodeData = encodeData.substring(0, encodeData.length - JoinOparatorSymbol.length);
    }
  }
//字體映射處理
function rawDataMap(rawData, ruleType) {

  if (!isNotEmptyStr(rawData) || !isNotEmptyStr(ruleType)) {
    return;
  }
  var mapData;
  var rawNumber = parseInt(rawData);
  var ruleTypeNumber = parseInt(ruleType);
  if (!isNaN(rawData)) {
    lastNumberCategory = ruleTypeNumber;
    //字體文件1下的數(shù)據(jù)加密規(guī)則
    if (ruleTypeNumber == 1) {
      if (rawNumber == 1) {
        mapData = 1;
      }
      else if (rawNumber == 2) {
        mapData = 2;
      }
      else if (rawNumber == 3) {
        mapData = 4;
      }
      else if (rawNumber == 4) {
        mapData = 5;
      }
      else if (rawNumber == 5) {
        mapData = 3;
      }
      else if (rawNumber == 6) {
        mapData = 8;
      }
      else if (rawNumber == 7) {
        mapData = 6;
      }
      else if (rawNumber == 8) {
        mapData = 9;
      }
      else if (rawNumber == 9) {
        mapData = 7;
      }
      else if (rawNumber == 0) {
        mapData = 0;
      }
    }
    //字體文件2下的數(shù)據(jù)加密規(guī)則
    else if (ruleTypeNumber == 0) {

      if (rawNumber == 1) {
        mapData = 4;
      }
      else if (rawNumber == 2) {
        mapData = 2;
      }
      else if (rawNumber == 3) {
        mapData = 3;
      }
      else if (rawNumber == 4) {
        mapData = 1;
      }
      else if (rawNumber == 5) {
        mapData = 8;
      }
      else if (rawNumber == 6) {
        mapData = 5;
      }
      else if (rawNumber == 7) {
        mapData = 6;
      }
      else if (rawNumber == 8) {
        mapData = 7;
      }
      else if (rawNumber == 9) {
        mapData = 9;
      }
      else if (rawNumber == 0) {
        mapData = 0;
      }
    }
    //字體文件3下的數(shù)據(jù)加密規(guī)則
    else if (ruleTypeNumber == 2) {

      if (rawNumber == 1) {
        mapData = 6;
      }
      else if (rawNumber == 2) {
        mapData = 2;
      }
      else if (rawNumber == 3) {
        mapData = 1;
      }
      else if (rawNumber == 4) {
        mapData = 3;
      }
      else if (rawNumber == 5) {
        mapData = 4;
      }
      else if (rawNumber == 6) {
        mapData = 8;
      }
      else if (rawNumber == 7) {
        mapData = 3;
      }
      else if (rawNumber == 8) {
        mapData = 7;
      }
      else if (rawNumber == 9) {
        mapData = 9;
      }
      else if (rawNumber == 0) {
        mapData = 0;
      }
    }
    else if (ruleTypeNumber == 3) {

      if (rawNumber == 1) {
        mapData = "";
      }
      else if (rawNumber == 2) {
        mapData = "";
      }
      else if (rawNumber == 3) {
        mapData = "";
      }
      else if (rawNumber == 4) {
        mapData = "";
      }
      else if (rawNumber == 5) {
        mapData = "";
      }
      else if (rawNumber == 6) {
        mapData = "";
      }
      else if (rawNumber == 7) {
        mapData = "";
      }
      else if (rawNumber == 8) {
        mapData = "";
      }
      else if (rawNumber == 9) {
        mapData = "";
      }
      else if (rawNumber == 0) {
        mapData = "";
      }
    }
    else{
      mapData = rawNumber;
    }
  } else if (ruleTypeNumber == 4) {
    var sources = ["年", "萬", "業(yè)", "人", "信", "元", "千", "司", "州", "資", "造", "錢"];
    //判斷字符串為漢字
    if (/^[u4e00-u9fa5]*$/.test(rawData)) {

      if (sources.indexOf(rawData) > -1) {
        var currentChineseHexcod = rawData.charCodeAt(0).toString(16);
        var lastCompoent;
        var mapComponetnt;
        var numbers = ["0", "1", "2", "3", "4", "5", "6", "7", "8", "9"];
        var characters = ["a", "b", "c", "d", "e", "f", "g", "h", "h", "i", "j", "k", "l", "m", "n", "o", "p", "q", "r", "s", "t", "u", "v", "w", "x", "y", "z"];

        if (currentChineseHexcod.length == 4) {
          lastCompoent = currentChineseHexcod.substr(3, 1);
          var locationInComponents = 0;
          if (/[0-9]/.test(lastCompoent)) {
            locationInComponents = numbers.indexOf(lastCompoent);
            mapComponetnt = numbers[(locationInComponents + 1) % 10];
          }
          else if (/[a-z]/.test(lastCompoent)) {
            locationInComponents = characters.indexOf(lastCompoent);
            mapComponetnt = characters[(locationInComponents + 1) % 26];
          }
          mapData = "&#x" + currentChineseHexcod.substr(0, 3) + mapComponetnt + ";";
        }
      } else {
        mapData = rawData;
      }

    }
    else if (/[0-9]/.test(rawData)) {
      mapData = rawDataMap(rawData, 2);
    }
    else {
      mapData = rawData;
    }

  }
  return mapData;
}
//api
module.exports = {
    "GET /api/products": async (ctx, next) => {
        ctx.response.type = "application/json";
        ctx.response.body = {
            products: products
        };
    },

    "GET /api/solution1": async (ctx, next) => {

        try {
            var data = fs.readFileSync(pathname, "utf-8");
            ruleJson = JSON.parse(data);
            rule = ruleJson.data.rule;
        } catch (error) {
            console.log("fail: " + error);
        }

        var data = {
            code: 200,
            message: "success",
            data: {
                name: "@杭城小劉",
                year: LBPEncode("1995", rule),
                month: LBPEncode("02", rule),
                day: LBPEncode("20", rule),
                analysis : rule
            }
        }

        ctx.set("Access-Control-Allow-Origin", "*");
        ctx.response.type = "application/json";
        ctx.response.body = data;
    },


    "GET /api/solution2": async (ctx, next) => {
        try {
            var data = fs.readFileSync(pathname, "utf-8");
            ruleJson = JSON.parse(data);
            rule = ruleJson.data.rule;
        } catch (error) {
            console.log("fail: " + error);
        }

        var data = {
            code: 200,
            message: "success",
            data: {
                name: LBPEncode("建造師",rule),
                birthday: LBPEncode("1995年02月20日",rule),
                company: LBPEncode("中天公司",rule),
                address: LBPEncode("浙江省杭州市拱墅區(qū)石祥路",rule),
                bidprice: LBPEncode("2萬元",rule),
                negative: LBPEncode("2018年辦事效率太高、負(fù)面基本沒有",rule),
                title: LBPEncode("建造師",rule),
                honor: LBPEncode("最佳獎",rule),
                analysis : rule
            }
        }
        ctx.set("Access-Control-Allow-Origin", "*");
        ctx.response.type = "application/json";
        ctx.response.body = data;
    },

    "POST /api/products": async (ctx, next) => {
        var p = {
            name: ctx.request.body.name,
            price: ctx.request.body.price
        };
        products.push(p);
        ctx.response.type = "application/json";
        ctx.response.body = p;
    }
};
//路由
const fs = require("fs");

function addMapping(router, mapping){
    for(var url in mapping){
        if (url.startsWith("GET")) {
            var path = url.substring(4);
            router.get(path,mapping[url]);
            console.log(`Register URL mapping: GET: ${path}`);
        }else if (url.startsWith("POST ")) {
            var path = url.substring(5);
            router.post(path, mapping[url]);
            console.log(`Register URL mapping: POST ${path}`);
        } else if (url.startsWith("PUT ")) {
            var path = url.substring(4);
            router.put(path, mapping[url]);
            console.log(`Register URL mapping: PUT ${path}`);
        } else if (url.startsWith("DELETE ")) {
            var path = url.substring(7);
            router.del(path, mapping[url]);
            console.log(`Register URL mapping: DELETE ${path}`);
        } else {
            console.log(`Invalid URL: ${url}`);
        }

    }
}


function addControllers(router, dir){
    fs.readdirSync(__dirname + "/" + dir).filter( (f) => {
        return f.endsWith(".js");
    }).forEach( (f) => {
        console.log(`Process controllers:${f}...`);
        let mapping = require(__dirname + "/" + dir + "/" + f);
        addMapping(router,mapping);
    });
}

module.exports = function(dir){
    let controllers = dir || "controller";
    let router = require("koa-router")();

    addControllers(router,controllers);
    return router.routes();
};

前端根據(jù)服務(wù)端返回的數(shù)據(jù)逆向解密

$("#year").html(getRawData(data.year,log));

// util.js
var JoinOparatorSymbol = "3.1415926";
function isNotEmptyStr($str) {
  if (String($str) == "" || $str == undefined || $str == null || $str == "null") {
    return false;
  }
  return true;
}

function getRawData($json,analisys) {
  $json = $json.toString();
  if (!isNotEmptyStr($json)) {
    return;
  }
  
  var date= new Date();
  var year = date.getFullYear();
  var month = date.getMonth() + 1;
  var day = date.getDate();
  var datacomponents = $json.split(JoinOparatorSymbol);
  var orginalMessage = "";
  for(var index = 0;index < datacomponents.length;index++){
    var datacomponent = datacomponents[index];
      if (!isNaN(datacomponent) && analisys < 3){
          var currentNumber = parseInt(datacomponent);
          orginalMessage += (currentNumber -  day)/month;
      }
      else if(analisys == 3){
         orginalMessage += datacomponent;
      }
      else{
        //其他情況待續(xù)，本 Demo 根據(jù)本人在研究反爬方面的技術(shù)并實踐后持續(xù)更新
      }
  }
  return orginalMessage;
}

比如后端返回的是323.14743.14743.1446，根據(jù)我們約定的算法，可以的到結(jié)果為1773

根據(jù) ttf 文件 Render 頁面

上面計算的到的1773，然后根據(jù)ttf文件，頁面看到的就是1995

然后為了防止爬蟲人員查看 JS 研究問題，所以對 JS 的文件進行了加密處理。如果你的技術(shù)棧是 Vue 、React 等，webpack 為你提供了 JS 加密的插件，也很方便處理

JS混淆工具

個人覺得這種方式還不是很安全。于是想到了各種方案的組合拳。比如

　反爬升級版

個人覺得如果一個前端經(jīng)驗豐富的爬蟲開發(fā)者來說，上面的方案可能還是會存在被破解的可能，所以在之前的基礎(chǔ)上做了升級版本

組合拳1: 字體文件不要固定，雖然請求的鏈接是同一個，但是根據(jù)當(dāng)前的時間戳的最后一個數(shù)字取模，比如 Demo 中對4取模，有4種值 0、1、2、3。這4種值對應(yīng)不同的字體文件，所以當(dāng)爬蟲絞盡腦汁爬到1種情況下的字體時，沒想到再次請求，字體文件的規(guī)則變掉了

文章版權(quán)歸作者所有，未經(jīng)允許請勿轉(zhuǎn)載,若此文章存在違規(guī)行為，您可以聯(lián)系管理員刪除。

轉(zhuǎn)載請注明本文地址：http://specialneedsforspecialkids.com/yun/96848.html

相關(guān)文章

  • 大前端時代安全性如何做

    摘要：對于內(nèi)容型的公司，數(shù)據(jù)的安全性很重要。背景目前通過中的網(wǎng)頁分析后，我們的數(shù)據(jù)安全性做的較差，有以下幾個點存在問題網(wǎng)站的數(shù)據(jù)通過最早期的前后端分離來實現(xiàn)。比如當(dāng)前的日期為，那么線性變換的為，為。 之前在上家公司的時候做過一些爬蟲的工作，也幫助爬蟲工程師解決過一些問題。然后我寫過一些文章發(fā)布到網(wǎng)上，之后有一些人就找我做一些爬蟲的外包，內(nèi)容大概是爬取小紅書的用戶數(shù)據(jù)和商品數(shù)據(jù)，但是我沒做。我...

    andot 評論0 收藏0

  • 京JS會議分享

    摘要：本次會議的大部分資料都可在以下地址下載在上分享了京的一些內(nèi)容會議主要內(nèi)容為前端的相關(guān)優(yōu)化以及服務(wù)器端的相關(guān)技術(shù)分享。這是這次北京之行的意外收獲，號稱是下一代應(yīng)用的開發(fā)框架，在會議中也有不少講師提到這個框架，現(xiàn)場也有出售關(guān)于這個框架的書籍。 本次會議的大部分資料都可在以下地址下載： http://vdisk.weibo.com/u/1744667943 sam_在blog上分享了京J...

    CoderStudy 評論0 收藏0

  • 阿里云前端周刊 - 第 13 期

    摘要：本文即以簡單的回歸擬合為例，從最基礎(chǔ)的庫安裝數(shù)據(jù)導(dǎo)入數(shù)據(jù)預(yù)處理到模型訓(xùn)練模型預(yù)測介紹了如何使用進行簡單的機器學(xué)習(xí)任務(wù)。 推薦 1. 京東618：ReactNative框架在京東無線端的實踐 http://www.infoq.com/cn/artic... React Native最近兩三年之內(nèi)整個框架在業(yè)界應(yīng)該說是非常熱門，很多團隊、大公司都在做RN的一些研究開發(fā)工作。先一起回想下在R...

    CNZPH 評論0 收藏0

  • 《Node.js設(shè)計模式》基于回調(diào)的異步控制流

    摘要：編寫異步代碼可能是一種不同的體驗，尤其是對異步控制流而言。回調(diào)函數(shù)的準(zhǔn)則在編寫異步代碼時，要記住的第一個規(guī)則是在定義回調(diào)時不要濫用閉包。為回調(diào)創(chuàng)建命名函數(shù)，避免使用閉包，并將中間結(jié)果作為參數(shù)傳遞。 本系列文章為《Node.js Design Patterns Second Edition》的原文翻譯和讀書筆記，在GitHub連載更新，同步翻譯版鏈接。 歡迎關(guān)注我的專欄，之后的博文將在專...

    Chiclaim 評論0 收藏0

  • 前端開發(fā)收集 - 收藏集 - 掘金

    摘要：責(zé)編現(xiàn)代化的方式開發(fā)一個圖片上傳工具前端掘金對于圖片上傳，大家一定不陌生。之深入事件機制前端掘金事件綁定的方式原生的事件綁定方式有幾種想必有很多朋友說種目前，在本人目前的研究中，只有兩種半兩種半還有半種的且聽我道來。 Ajax 與數(shù)據(jù)傳輸 - 前端 - 掘金背景 在沒有ajax之前，前端與后臺傳數(shù)據(jù)都是靠表單傳輸，使用表單的方法傳輸數(shù)據(jù)有一個比較大的問題就是每次提交數(shù)據(jù)都會刷新頁面，用...

    ygyooo 評論0 收藏0

發(fā)表評論

0條評論

最新活動
閱讀需要支付1元查看
<