摘要：如何理解神經(jīng)網(wǎng)絡(luò)訓(xùn)練與推理深度神經(jīng)網(wǎng)絡(luò)和我們?nèi)祟愐粯樱瑸榱藢W(xué)習(xí)工作技能需要接受教育。這樣的技術(shù)意味著，用戶可以隨時(shí)使用神經(jīng)網(wǎng)絡(luò)的推理能力。

人工智能的智能水平在某些領(lǐng)域已經(jīng)十分強(qiáng)大，但是人工智能究竟是如何變得智能的呢？是否和人一樣需要有人給它上課、需要沒日沒夜的做作業(yè)呢？今天小編就為大家探秘一下深度神經(jīng)網(wǎng)絡(luò)的訓(xùn)練和推理，看看聰明的神經(jīng)網(wǎng)絡(luò)養(yǎng)成記，比如說它是如何認(rèn)識(shí)貓的。

如何理解神經(jīng)網(wǎng)絡(luò)訓(xùn)練與推理？

深度神經(jīng)網(wǎng)絡(luò)和我們?nèi)祟愐粯樱瑸榱藢W(xué)習(xí)工作技能需要接受教育。經(jīng)過訓(xùn)練的神經(jīng)網(wǎng)絡(luò)利用學(xué)習(xí)到的知識(shí)，以精簡的應(yīng)用程序，進(jìn)行數(shù)字世界中的工作：比如確認(rèn)圖像、語音識(shí)別、檢測(cè)血液病，甚至化身為導(dǎo)購，建議你接下來該買哪雙鞋子——凡是你想的出來的事物，人工智能似乎都能勝任。

經(jīng)過訓(xùn)練之后的神經(jīng)網(wǎng)絡(luò)，能夠根據(jù)新的數(shù)據(jù)對(duì)事物進(jìn)行猜測(cè)和推斷、舉一反三，這樣的行為在人工智能字典中，稱之為“推理”。

訓(xùn)練就是人工智能進(jìn)行推理的前提

想想也確實(shí)如此，這不正是我們大部分人獲取和運(yùn)用自身知識(shí)的方法么。

但是

神經(jīng)網(wǎng)絡(luò)的教育過程或訓(xùn)練與我們?nèi)祟愑植灰粯樱窠?jīng)網(wǎng)絡(luò)是根據(jù)類似我們的大腦中，神經(jīng)元之間的所有相互關(guān)聯(lián)的生理狀態(tài)來進(jìn)行建模的。在我們的大腦中，任何神經(jīng)元都可以與相隔一定物理距離的任何其他神經(jīng)元進(jìn)行連接，但是人工神經(jīng)網(wǎng)絡(luò)擁有獨(dú)立層級(jí)、連接和數(shù)據(jù)傳輸方向。

在進(jìn)行神經(jīng)網(wǎng)絡(luò)訓(xùn)練時(shí)，訓(xùn)練數(shù)據(jù)放在網(wǎng)絡(luò)第一層，單個(gè)神經(jīng)元會(huì)根據(jù)執(zhí)行的任務(wù)，向輸入的內(nèi)容分配權(quán)重，判斷其正確或錯(cuò)誤程度。

舉個(gè)例子

現(xiàn)在有個(gè)任務(wù)要識(shí)別一張圖像是不是貓。在圖像識(shí)別網(wǎng)絡(luò)中，不同層級(jí)可能是這樣“推理”的：

第一層：尋找對(duì)象的邊緣

第二層：了解這些邊緣形成的各種形狀，比如是矩形還是圓形

第三層：尋找特定特征，例如明亮眼睛和塌鼻子

……

每一層將圖像傳送至下一層，直至最后一層，并通過計(jì)算所有權(quán)重得到最終的結(jié)果。

?

但不同的是！神經(jīng)網(wǎng)絡(luò)是同時(shí)捕捉所有訓(xùn)練圖像，進(jìn)行權(quán)重計(jì)算，從而確定對(duì)象是否為貓的結(jié)論——因此，從神經(jīng)網(wǎng)絡(luò)訓(xùn)練算法中得到的結(jié)論就是簡單的“Yes”或“No”。

如果算法向神經(jīng)網(wǎng)絡(luò)告知圖像是錯(cuò)誤的，然后該錯(cuò)誤會(huì)傳回網(wǎng)絡(luò)的各層級(jí)，并開始猜測(cè)對(duì)象是不是別的什么，但是神經(jīng)網(wǎng)絡(luò)并不會(huì)知道，如果圖像里的不是貓，會(huì)是別的什么東西？（就像是沒見過除貓以外，其他動(dòng)物的小孩一樣……）。在我們提到的識(shí)別貓這個(gè)例子中，神經(jīng)網(wǎng)絡(luò)的各層收到傳回的信號(hào)之后，就開始考察圖像中有沒有其他與貓有關(guān)的屬性，并權(quán)衡各個(gè)層級(jí)中得到的結(jié)論。然后猜測(cè)、猜測(cè)、再猜測(cè)。直到幾乎每次的猜測(cè)都可以獲得正確的權(quán)重和答案的時(shí)候，神經(jīng)網(wǎng)絡(luò)才會(huì)確定——這家伙就是貓，沒跑了！

終于“猜到”朕是貓了嗎？

神經(jīng)網(wǎng)絡(luò)訓(xùn)練是吃“計(jì)算能力”的怪獸

通過訓(xùn)練后，神經(jīng)網(wǎng)絡(luò)里所有數(shù)據(jù)權(quán)重都根據(jù)訓(xùn)練進(jìn)行了平衡，從而打造了一個(gè)經(jīng)過精細(xì)調(diào)諧的體系。問題是，當(dāng)涉及到計(jì)算時(shí)，它也是一個(gè)吃不飽的怪獸。曾在谷歌和斯坦福訓(xùn)練人工智能、現(xiàn)擔(dān)任百度硅谷實(shí)驗(yàn)室首席科學(xué)家的Andrew Ng表示，訓(xùn)練一個(gè)百度中文語音識(shí)別模型不僅需要4 terabytes的訓(xùn)練數(shù)據(jù)，而且在整個(gè)訓(xùn)練周期內(nèi)，還需要進(jìn)行20 exaflops次的計(jì)算。

?

想象一下，這樣的計(jì)算量要在智能手機(jī)上進(jìn)行，可能嗎？因此這時(shí)候就需要推理的能力了。

推理讓神經(jīng)網(wǎng)絡(luò)輕巧敏捷、普惠大眾

如果任何人在現(xiàn)實(shí)生活中，要用上神經(jīng)網(wǎng)絡(luò)某些訓(xùn)練后獲得的技能，那么就需要它將這樣的技能快速應(yīng)用起來，從而鞏固訓(xùn)練結(jié)果，做到舉一反三，這就是推理：獲取一定量的數(shù)據(jù)，并快速反饋正確的答案。

如何利用推理？只需打開智能手機(jī)就行。推理會(huì)將深度學(xué)習(xí)用于從語音識(shí)別到快照分類等一切事物中。

一種方法是尋找將神經(jīng)網(wǎng)絡(luò)中的各個(gè)層級(jí)融合為單一計(jì)算的手段。它類似于數(shù)據(jù)圖像發(fā)生的壓縮，雖然圖片被壓縮，但是在一定的分辨率中，人眼是識(shí)別不出區(qū)別的。推理也是一樣，“壓縮后”的神經(jīng)網(wǎng)絡(luò)能夠提供與“未壓縮”神經(jīng)網(wǎng)絡(luò)幾乎相同的預(yù)測(cè)精度，但是前者更能滿足在不同設(shè)備上運(yùn)行的需求。

這樣的技術(shù)意味著，用戶可以隨時(shí)使用神經(jīng)網(wǎng)絡(luò)的推理能力。不論是你智能手機(jī)上的語音助手，還是谷歌、百度所作的語音識(shí)別、垃圾郵件過濾，F(xiàn)acebook的圖像識(shí)別，亦或是亞馬遜及Netflix的智能推薦都依賴于推理的能力。

未來，我們將看到這些模型和應(yīng)用將變得更加聰明、快捷和準(zhǔn)確。訓(xùn)練將變得不那么繁瑣，推理的能力將為我們生活的各個(gè)方面帶來新的便利。因此，寫到這里，對(duì)于未來的年輕一代，小編悟道了一句話——不想成為傻瓜，就趕緊去學(xué)習(xí)吧！

商業(yè)智能與數(shù)據(jù)分析群

興趣范圍包括各種讓數(shù)據(jù)產(chǎn)生價(jià)值的辦法，實(shí)際應(yīng)用案例分享與討論，分析工具，ETL工具，數(shù)據(jù)倉庫，數(shù)據(jù)挖掘工具，報(bào)表系統(tǒng)等全方位知識(shí)

QQ群：81035754