摘要:但年月,宣布將在年終止的開發和維護。性能并非最優,為何如此受歡迎粉絲團在過去的幾年里,出現了不同的開源深度學習框架,就屬于其中典型,由谷歌開發和支持,自然引發了很大的關注。
Keras作者Fran?ois Chollet剛剛在Twitter貼出一張圖片,是近三個月來arXiv上提到的深度學習開源框架排行:
TensorFlow排名第一,這個或許并不出意外,Keras排名第二,隨后是Caffe、PyTorch和Theano,再次是MXNet、Chainer和CNTK。
Chollet在推文中補充,Keras的使用在產業界和整個數據科學圈中最占主流,產業既包括大公司也包括創業公司。不過,在研究社區,Keras的份額要小很多。
這個統計結果是使用Google Search Index得到的。
這個排名讓人想起來之前Fran?ois Chollet曬的另外一次排名(時間范圍是2017年4月到7月,綜合Github上issue、fork、contributors等數據得到的活躍度),也是TensorFlow和Keras排名第一和第二。
不過,在Github的那次排名,MXNet、PyTorch的名次明顯上升。
針對近三個月來arXiv的深度學習框架排名結果,有人評論,他很遺憾Theano排名如此靠后,Theano是他的第一個框架。
深度學習的圖景總是在不斷變化,Theano是第一個被廣泛采用的深度學習框架,由Yoshua Bengio領導的MILA創建和維護。但2017年9月,MILA宣布將在2018年終止Theano的開發和維護。Theano的離開不禁讓人感慨,這也是第一個退出舞臺的流行框架。
TensorFlow性能并非最優,為何如此受歡迎?粉絲團!
在過去的幾年里,出現了不同的開源Python深度學習框架,TensorFlow就屬于其中典型,由谷歌開發和支持,自然引發了很大的關注。
但需要指出,根據香港香港浸會大學褚曉文教授團隊在2017年推出深度學習工具評測的研究報告《 基準評測 TensorFlow、Caffe、CNTK、MXNet、Torch 在三類流行深度神經網絡上的表現(論文)》,TensorFlow的性能在有些時候表現并非較佳:
僅用一塊GPU,FCN上Caffe、CNTK和Torch比MXNet和TensorFlow表現更好;CNN上MXNet表現出色,尤其是在大型網絡時;而Caffe和CNTK在小型CNN上同樣表現不俗;對于帶LSTM的RNN,CNTK速度最快,比其他工具好上5到10倍。
通過將訓練數據并行化,這些支持多GPU卡的深度學習工具,都有可觀的吞吐量提升,同時收斂速度也提高了。多GPU卡環境下,CNTK平臺在FCN和AlexNet上的可擴展性更好,而MXNet和Torch在CNN上相當出色。
這一結果,反而凸顯出TensorFlow和谷歌強大的號召力,以及已經形成的生態圈的積極拉動影響。
在2017年初的這份報告中,褚曉文教授指出,硬件和軟件同樣重要,僅僅有硬件是不夠的,沒有好的軟件,硬件的效能發揮不出來,這也是為什么今天有這么多深度學習軟件,它們的性能有如此大的差異。
“Torch是很流行的軟件,2002年就有了,那時候還沒有深度學習。后來把深度學習做進去了。2014年就是Caffe,微軟2015年開源了CNTK,接下來谷歌也開源了他們相應的開發平臺。第三行是它的粉絲數量,目前(2017年9月)TensorFlow的粉絲團是最龐大的,有6萬多個關注,相對來講,CNTK、Caffe加起來還沒有TensorFlow有影響力。最底下是開發平臺的維護情況,隨著硬件的提升,新的算法的提出,每個軟件都是要不斷的更新換代的,TensorFlow的更新是非常頻繁的,基本上每一兩個月就會有一個新的更新,代表著他們對軟件平臺的投入。”
而Keras,則是谷歌在2017年宣布,將Keras作為TensorFlow的高級API。這意味著Keras被包含在TensorFlow版本中及時更新。除了TensorFlow,Keras也可以使用Theano或者CNTK作為后端。
其他框架和公司合縱連橫——中國框架何時才能上榜?
大家可以點擊上面的鏈接仔細看TensorFlow、Caffe、PyTorch、MXNet等框架在各種應用場景下的性能。我們性能更好,但為什么用的人還不是最多?為了解決這個問題,開放神經網絡交換(ONNX)格式的發布于2017年9月橫空出世。
ONNX最初由微軟和Facebook聯合發布,后來亞馬遜也加入進來,并在12月發布了V1版本。ONNX是一個表示深度學習模型的開放格式。它使用戶可以更輕松地在不同框架之間轉移模型。例如,它允許用戶構建一個PyTorch模型,然后使用MXNet運行該模型來進行推理。
開放神經網絡交換(ONNX)的Github頁面
ONNX由微軟、亞馬遜和Facebook等公司共同發起,宣布支持ONNX的公司還有AMD、ARM、華為、 IBM、英特爾、Qualcomm等。谷歌不在這個陣營中并不令人驚訝。ONNX從一開始就支持Caffe2,Microsoft Cognitive Toolkit,MXNet和PyTorch,但與其他開源項目一樣,社區也已經為TensorFlow添加了一個轉換器。
在你爭我搶,合縱連橫之下,深度學習框架的流行趨勢似乎很難預測。不過,中國的開源框架,什么時候才能在這樣的排名上顯露自己的名字呢?
歡迎加入本站公開興趣群商業智能與數據分析群
興趣范圍包括各種讓數據產生價值的辦法,實際應用案例分享與討論,分析工具,ETL工具,數據倉庫,數據挖掘工具,報表系統等全方位知識
QQ群:81035754
文章版權歸作者所有,未經允許請勿轉載,若此文章存在違規行為,您可以聯系管理員刪除。
轉載請注明本文地址:http://specialneedsforspecialkids.com/yun/4728.html
摘要:我們對種用于數據科學的開源深度學習庫作了排名。于年月發布了第名,已經躋身于深度學習庫的上半部分。是最流行的深度學習前端第位是排名較高的非框架庫。頗受對數據集使用深度學習的數據科學家的青睞。深度學習庫的完整列表來自幾個來源。 我們對23種用于數據科學的開源深度學習庫作了排名。這番排名基于權重一樣大小的三個指標:Github上的活動、Stack Overflow上的活動以及谷歌搜索結果。排名結果...
摘要:此前,在月底,阿里媽媽就公布了這項開源計劃,引來了業界的廣泛關注。突破了現有深度學習開源框架大都面向圖像語音等低維稠密數據而設計的現狀,面向高維稀疏數據場景進行了深度優化,并已大規模應用于阿里媽媽的業務及生產場景。 showImg(https://segmentfault.com/img/remote/1460000017508808); 剛剛,阿里媽媽正式對外發布了X-Deep Le...
閱讀 952·2021-11-24 09:39
閱讀 2688·2021-09-26 09:55
閱讀 14154·2021-08-23 09:47
閱讀 3576·2019-08-30 15:52
閱讀 847·2019-08-29 13:49
閱讀 996·2019-08-23 18:00
閱讀 843·2019-08-23 16:42
閱讀 1634·2019-08-23 14:28