004-綜合應(yīng)用-《美食趨勢》

Codeing_ls 發(fā)布于2019-08-19 11:08 / 2021人閱讀

摘要：綜合應(yīng)用美食趨勢前言最近事情比較多，一直沒找出時間繼續(xù)寫東西，抱歉。通過圖片抓取獲取美食資源，然后美食信息進行展示和數(shù)據(jù)分析。引用依賴配置定時注解。引用依賴已經(jīng)把的依賴包含了。

綜合應(yīng)用-《美食趨勢》 前言

最近事情比較多，一直沒找出時間繼續(xù)寫東西，抱歉。
后面準(zhǔn)備綜合前面的東西寫一個小應(yīng)用。通過圖片抓取獲取美食資源，然后美食信息進行展示和數(shù)據(jù)分析。

需求功能整理

小呂最近胃口不好，吃啥啥不香，日益消瘦。小貂看在眼里，疼在心里，甚至懷疑是不是自己的飯已經(jīng)被吃夠了，甚是傷心。一天她把自己的擔(dān)憂跟小諸葛說了，小諸葛輕輕搖扇說，這個好辦，我們蜀氏集團出個菜譜，只要按照這個菜譜高的做，保準(zhǔn)你家小呂吃的開心。
小諸葛回到公司后，把情況給大家說，理出一個大概的思路：小呂不愛吃飯-->小貂做的不好吃-->小貂不知道做啥好吃-->蜀氏集團能否提供美食參考？美食參考需要怎么做才能達到目的？大家討論后，一致同意先出一個雛形，討論雛形結(jié)果如下

數(shù)據(jù)設(shè)計

數(shù)據(jù)結(jié)構(gòu)

功能實現(xiàn) 1. 定時抓取數(shù)據(jù)

小趙接手定時任務(wù)計劃，他決定采用spring-task，就像把大象放到冰箱一樣簡單。引用依賴-->配置spring task--> 定時注解。
a. 引用依賴spring-webmvc已經(jīng)把task的依賴包含了。只引用下一下個即可

...
        
            org.springframework
            spring-webmvc
        
...

b. 配置spring，注意xml一定要聲明task

c. 定時注解，定時表達式采用cron表達式

package org.sl.food.task;
...
@Component
public class FoodCrawlTask {
@Scheduled(cron = "0/5 * *  * * ?")
    public void foodCrawl() {
        ...
    ｝
    ...
}

現(xiàn)在乍聽特別高大上的定時任務(wù)功能就這么完成了，只要定時去獲取數(shù)據(jù)就行啦，剩下的交給別人吧。

2. 解析數(shù)據(jù)入庫

小張表面看著滿臉橫肉，胡子比頭發(fā)還長。怎么看都感覺是個大大咧咧，易燃易爆品。正是這人，非想做需要細心，耐心的活；想改變?nèi)藗儗λ目捶āＴ趺醋瞿兀趺窗褳g覽器看到的數(shù)據(jù)轉(zhuǎn)換成固定結(jié)構(gòu)的數(shù)據(jù)呢？首先需要有數(shù)據(jù)，這個小趙已經(jīng)完成；其次需要解析數(shù)據(jù)，jsoup，專門解析html數(shù)據(jù)，這個算是解決；剩下的對應(yīng)數(shù)據(jù)了，id,name,菜譜地址，圖片……這么多，關(guān)鍵小趙給的數(shù)據(jù)，還不能完全滿足，需要額外的數(shù)據(jù)，這可咋整，但是小張不能急！！！怎么能快速的取到我想要的值呢？瀏覽器可以用jQuery,什么？jsoup支持jQuery語法？！。

...
        Elements el = doc.select("#listtyle1_list .listtyle1 a.big");
        logger.debug("{}", el);
        List foodList = new LinkedList<>();
        for (Element e : el) {
            FoodEntity food = new FoodEntity();
            food.setUpdateTime(new Date());
            food.setName(e.attr("title"));
            food.setDetailsSite(e.attr("href"));
            food.setPicture(e.select("img").attr("src"));
            String tmp = e.select(".c2 .li2").text();
            String[] strArr = tmp.split("/");
            food.setTasteType(strArr[1].trim());

            Matcher m = idPattern.matcher(food.getDetailsSite());
            if (m.find()) {
                tmp = m.group();
                food.setId(tmp.substring(1, tmp.length() - 5));
            } else {
                food.setId(new Date().toString());
            }

            getMore(food);

            foodList.add(food);
        }
...

so easy，想要啥，就拿啥。嗯，還有個點贊數(shù)沒法拿，不怕，還是同樣的套路，照著小趙拿數(shù)據(jù)的方法來一遍。嘿！看我要變形了！呔！嗯？沒有值！！明明瀏覽器里有，憑啥我就沒有？這可咋整，但是小張不能急！！！咦，瀏覽器頁面訪問后，又走了一個ajax拿數(shù)據(jù)，好家伙，被我逮著了，我請求下數(shù)據(jù)不就行了唄。啊？請求回復(fù)403！！又沒有數(shù)據(jù)！！這可咋整，但是小張不能急！！！瀏覽器能整的，我也能！照著瀏覽器的請求寫唄，少header，我加header。

        HttpGet get = new HttpGet(s);
        get.setHeader("Accept-Encoding", "gzip, deflate, br");
        get.setHeader("Accept-Language", "zh-CN,zh;q=0.9,en;q=0.8");
        get.setHeader("Cache-Control", "no-cache");
        get.setHeader("Connection", "keep-alive");
        get.setHeader("Host", "xxxxxxx");
        get.setHeader("Pragma", "no-cache");
        get.setHeader("Referer", "xxxxxxxxxx");
        get.setHeader("User-Agent", "Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/69.0.3497.81 Safari/537.36");

嘿，來了。小樣，還有我小張搞不了的？這么費神的事我也能搞！以后這樣的事，就不要找我了！！

3. 比對分析功能

to be continue!!!
github地址