摘要:是一個(gè)專(zhuān)為移動(dòng)端異構(gòu)計(jì)算平臺(tái)優(yōu)化的神經(jīng)網(wǎng)絡(luò)計(jì)算框架。地址文檔鏈接打開(kāi)在線(xiàn)文檔網(wǎng)頁(yè),引入眼簾的是這里簡(jiǎn)單介紹一下中的內(nèi)容移動(dòng)計(jì)算引擎是一種針對(duì)移動(dòng)異構(gòu)計(jì)算平臺(tái)優(yōu)化的深度學(xué)習(xí)推理框架。
Mobile AI Compute Engine (MACE) 是一個(gè)專(zhuān)為移動(dòng)端異構(gòu)計(jì)算平臺(tái)優(yōu)化的神經(jīng)網(wǎng)絡(luò)計(jì)算框架。主要從以下的角度做了專(zhuān)門(mén)的優(yōu)化:
性能
代碼經(jīng)過(guò)NEON指令,OpenCL以及Hexagon HVX專(zhuān)門(mén)優(yōu)化,并且采用 Winograd算法來(lái)進(jìn)行卷積操作的加速。 此外,還對(duì)啟動(dòng)速度進(jìn)行了專(zhuān)門(mén)的優(yōu)化。
功耗
支持芯片的功耗管理,例如ARM的big.LITTLE調(diào)度,以及高通Adreno GPU功耗選項(xiàng)。
系統(tǒng)響應(yīng)
支持自動(dòng)拆解長(zhǎng)時(shí)間的OpenCL計(jì)算任務(wù),來(lái)保證UI渲染任務(wù)能夠做到較好的搶占調(diào)度, 從而保證系統(tǒng)UI的相應(yīng)和用戶(hù)體驗(yàn)。
內(nèi)存占用
通過(guò)運(yùn)用內(nèi)存依賴(lài)分析技術(shù),以及內(nèi)存復(fù)用,減少內(nèi)存的占用。另外,保持盡量少的外部 依賴(lài),保證代碼尺寸精簡(jiǎn)。
模型加密與保護(hù)
模型保護(hù)是重要設(shè)計(jì)目標(biāo)之一。支持將模型轉(zhuǎn)換成C++代碼,以及關(guān)鍵常量字符混淆,增加逆向的難度。
硬件支持范圍
支持高通,聯(lián)發(fā)科,以及松果等系列芯片的CPU,GPU與DSP(目前僅支持Hexagon)計(jì)算加速。 同時(shí)支持在具有POSIX接口的系統(tǒng)的CPU上運(yùn)行。
地址:https://github.com/XiaoMi/mace
MACE 文檔
鏈接: https://mace.readthedocs.io/en/latest/
打開(kāi)MACE 在線(xiàn)文檔網(wǎng)頁(yè),引入眼簾的是:
Getting started
Development
FAQ
這里簡(jiǎn)單介紹一下Getting started中的Introduction內(nèi)容:
移動(dòng)AI計(jì)算引擎(MACE)是一種針對(duì)移動(dòng)異構(gòu)計(jì)算平臺(tái)優(yōu)化的深度學(xué)習(xí)推理框架。 下圖顯示了整體架構(gòu)。
模型格式(Model format)
MACE定義了與Caffe2類(lèi)似的自定義模型格式。MACE模型可以由TensorFlow和Caffe的導(dǎo)出模型轉(zhuǎn)換。YAML文件用于描述模型部署詳細(xì)信息。在下一章中,有詳細(xì)的指導(dǎo)說(shuō)明如何創(chuàng)建這個(gè)YAML文件。
模型轉(zhuǎn)換(Model conversion)
目前,我們?yōu)門(mén)ensorFlow和Caffe提供模型轉(zhuǎn)換器。未來(lái)將支持更多框架。
模型加載(Model loading)
MACE模型格式包含兩部分:模型圖定義和模型參數(shù)張量。圖形部分使用協(xié)議緩沖區(qū)進(jìn)行序列化。所有模型參數(shù)張量一起連接成一個(gè)連續(xù)的字節(jié)數(shù)組,我們?cè)谙旅娴亩温渲蟹Q(chēng)這個(gè)數(shù)組張量數(shù)據(jù)(array tensor data)。在模型圖中,記錄張量數(shù)據(jù)偏移和長(zhǎng)度。
模型可以通過(guò)3種方式加載:
模型圖和張量數(shù)據(jù)都是外部動(dòng)態(tài)加載的(默認(rèn)情況下,來(lái)自文件系統(tǒng),但用戶(hù)可以自由選擇自己的實(shí)現(xiàn),例如,使用壓縮或加密)。這種方法提供了較大的靈活性,但卻是最薄弱的模型保護(hù)。
模型圖和張量數(shù)據(jù)都轉(zhuǎn)換為C++代碼并通過(guò)執(zhí)行編譯的代碼加載。這種方法提供了最強(qiáng)大的模型保護(hù)和最簡(jiǎn)單的部署。
模型圖轉(zhuǎn)換為C++代碼并構(gòu)造為第二種方法,張量數(shù)據(jù)作為第一種方法在外部加載。
MACE Model Zoo
隨著MACE一起開(kāi)源的還有MACE Model Zoo項(xiàng)目,目前包含了物體識(shí)別,場(chǎng)景語(yǔ)義分割,圖像風(fēng)格化等多個(gè)公開(kāi)模型。
鏈接: https://github.com/XiaoMi/mace-models
打開(kāi)上述鏈接看到下述畫(huà)面,著實(shí)蠻震撼的!這里簡(jiǎn)單介紹一下部分現(xiàn)有的model:
CNN
inception-v1-v2-v3
resnet-v2-50
vgg16
mobilenet-v1-v2(輕量級(jí))
squeezenet(輕量級(jí))
圖像分割
deeplab-v3-plus
MACE Demo
MACE 目前還提供了Android的示例程序,大家可以下載編譯好的APK文件進(jìn)行安裝,快速感受一下MACE的魅力。
鏈接: https://cnbj1.fds.api.xiaomi.com/mace/demo/mace_android_demo.apk
Amusi 這不馬上就下載好,測(cè)試感受一下,下面是測(cè)試結(jié)果。
Refrigerator
Laptop
Amusi 個(gè)人覺(jué)得識(shí)別率一般般,而且是只輸出Top1的結(jié)果。識(shí)別速度嘛,還可以吧,畢竟是魅族Mx6上跑CPU模式。如果換上驍龍845處理器的手機(jī),應(yīng)該...
如何評(píng)價(jià)小米開(kāi)源的移動(dòng)端深度學(xué)習(xí)框架MACE?
小米突然開(kāi)源了自家的深度學(xué)習(xí)框架,是不是在為“上市”做準(zhǔn)備呢?
讓我們看一下知乎上大佬們?cè)趺纯创@個(gè)事件?
截止2018-06-29,只有兩個(gè)人回答了該問(wèn)題,大家的反映并不是很熱烈,也許知道這件事情的人不多吧。但 Amusi 覺(jué)得MACE的出現(xiàn),還是一件很有意義的事情,國(guó)內(nèi)能做深度學(xué)習(xí)框架開(kāi)源的公司真不多!
(溫馨提示)國(guó)內(nèi)有自研開(kāi)源深度學(xué)習(xí)框架的公司有:
PaddlePaddle(百度)
Angel(騰訊)
Other
小米開(kāi)源MACE,這是一件很正能量的事情,工業(yè)界和學(xué)術(shù)界都應(yīng)該鼓勵(lì)和支持!就如左上角所示,有222位關(guān)注者,也說(shuō)明了大家對(duì)這件事情的期待。
鏈接: https://www.zhihu.com/question/283030623
聲明:文章收集于網(wǎng)絡(luò),如有侵權(quán),請(qǐng)聯(lián)系小編及時(shí)處理,謝謝!
歡迎加入本站公開(kāi)興趣群商業(yè)智能與數(shù)據(jù)分析群
興趣范圍包括各種讓數(shù)據(jù)產(chǎn)生價(jià)值的辦法,實(shí)際應(yīng)用案例分享與討論,分析工具,ETL工具,數(shù)據(jù)倉(cāng)庫(kù),數(shù)據(jù)挖掘工具,報(bào)表系統(tǒng)等全方位知識(shí)
QQ群:81035754
文章版權(quán)歸作者所有,未經(jīng)允許請(qǐng)勿轉(zhuǎn)載,若此文章存在違規(guī)行為,您可以聯(lián)系管理員刪除。
轉(zhuǎn)載請(qǐng)注明本文地址:http://specialneedsforspecialkids.com/yun/4789.html
摘要:小米直達(dá)服務(wù)探秘,如何保證移動(dòng)體驗(yàn)小米直達(dá)服務(wù)是小米推出的混合開(kāi)發(fā)框架,它可以實(shí)現(xiàn)秒開(kāi),同時(shí)可以在瀏覽器短信微信等地方打開(kāi)。本文即是小米直達(dá)服務(wù)體驗(yàn)保障方面的實(shí)踐分享,討論了目前移動(dòng)體驗(yàn)的瓶頸小米直達(dá)服務(wù)的機(jī)制與核心關(guān)鍵等內(nèi)容。 推薦 1. Node.js 8.5.0 發(fā)布 https://nodejs.org/en/blog/re... 已經(jīng)發(fā)布的 Node.js 8.5.0 版本中...
摘要:這也是很多大廠(chǎng)都在研發(fā)的原因深度超分辨率層次結(jié)構(gòu)該文作者總結(jié)了一張非常棒的圖,可以盡覽深度學(xué)習(xí)超分辨率的方方面面作者介紹了深度學(xué)習(xí)圖像超分辨的監(jiān)督學(xué)習(xí)方法,從模型框架上采樣方法網(wǎng)絡(luò)設(shè)計(jì)方法網(wǎng)絡(luò)學(xué)習(xí)策略和可能的改進(jìn)策略進(jìn)行了細(xì)致總結(jié)。 今日arXiv新上論文《Deep Learning for Image Super-resolution:A Survey》,詳細(xì)回顧了近年來(lái)基于深度學(xué)習(xí)的圖像...
閱讀 3019·2021-11-24 10:21
閱讀 1588·2021-10-11 10:57
閱讀 2803·2021-09-22 15:24
閱讀 2659·2021-09-22 14:58
閱讀 2331·2019-08-30 13:16
閱讀 3478·2019-08-29 13:05
閱讀 3411·2019-08-29 12:14
閱讀 3440·2019-08-27 10:55