摘要:日前,公司宣布推出其分布式深度學習軟件的測試版,該軟件證明了在深度學習表現出來的技術飛躍。系統加速和內存總監在一篇博文中表示更受歡迎的深度學習框架擴展到服務器中的多個,而不是擴展到具有的多個服務器。
日前,IBM 公司宣布推出其分布式深度學習軟件的測試版,該軟件證明了在深度學習表現出來的技術飛躍。
深度學習是人工智能的一種形式,它依賴于人工神經網絡的應用。其重點是讓計算機能夠像人們那樣理解數字圖像、視頻、錄音等內容。
?
然而,由于處理系統“深層次培訓”所需的大量數據的后勤處理可能需要幾天甚至幾周的時間,所以很多潛在的深度學習仍然未能實現。其結果的準確性是導致耗費時間的另一個問題,因為系統需要多次訓練才能獲得預期的結果。每次通過更高的準確度意味著計算機必須“重新訓練”的次數更少,直到它正確為止。
?
減少時間因素是困難的,因為只需增加更多的計算能力和更快的處理器,而增加更多的處理器不會加快速度。其實恰恰相反:隨著“學習者”處理器數量的增加,計算時間會像預期的那樣減少,但是每個學習者的溝通時間保持不變。換句話說,是學習瓶頸阻礙了發展。
?
IBM公司在一份研究報告中解釋說:“成功的分布式深度學習需要一個基礎架構,其中硬件和軟件被共同優化,以平衡計算需求與通信需求和互連帶寬。”此外,通信延遲在GPU的大規模擴展(100多個)中起著重要的作用。如果這些因素不受控制,分散式深度學習可以快速達到收益遞減的程度。”
?
這使得最深入的學習項目僅限于單服務器實現。IBM公司日前公布的研究和新軟件也將在這里發揮作用。該公司已經學會了如何加快流程,獲得更準確的結果。
?
IBM Research系統加速和內存總監Hillery Hunter在一篇博文中表示:“更受歡迎的深度學習框架擴展到服務器中的多個GPU,而不是擴展到具有GPU的多個服務器。具體來說,我們的團隊編寫了軟件和算法,可以自動化并優化這個非常大而復雜的計算任務的并行化,并將數百個GPU加速器連接到數十臺服務器上。”
?
在對軟件進行測試時,IBM研究人員在部署Caffe深度學習框架時,實現了創記錄的通信開銷和95%的擴展效率,該系列集成了64個IBM Power系統,每個系統連接4個NVidia Tesla P100-SXM2 GPU,總共256個處理器。這使得Facebook人工智能研究使用較小的學習模型和數據集展示了以前較佳的89%的擴展比例,從而降低了復雜性。
?
此外,測試產生了一個識別圖像的神經網絡訓練數據集的750萬個圖像的準確率為33.8%的記錄,打破了微軟公司公布的29.8%的準確性記錄。
?
Hunter寫道:“IBM研究部門的團隊一直致力于為大數據集減少大型模型的訓練時間。我們的目標是將深入學習訓練的等待時間從數天或數小時縮短到幾分鐘或幾秒鐘,從而提高這些人工智能模型的較精確度。為了實現這一目標,我們正在處理在大量服務器和GPU中分布式深度學習的大規模的問題。“
?
Hunter和她的團隊在加速這一過程中已經取得了很大的成績——只用了七個小時就完成了測試。
?
“微軟花了10天的時間來訓練同樣的模式,”她提到了以前的行業記錄,“這一成就需要我們創建分布式深度學習代碼和算法來克服擴展這些強大的深度學習框架所固有的問題。”
?
IBM研究開發的分布式深度學習軟件測試版本或技術預覽,日前已在IBM PowerAI 4.0中開始使用,使開發人員可以使用深入學習培訓人工智能模型實現集群擴展功能。
?
“我們預計,通過將此DDL功能提供給人工智能社區,我們將會看到更多更高的精度運行,因為其他人利用集群的力量進行人工智能模型的訓練。”Hunter說。
歡迎加入本站公開興趣群商業智能與數據分析群
興趣范圍包括各種讓數據產生價值的辦法,實際應用案例分享與討論,分析工具,ETL工具,數據倉庫,數據挖掘工具,報表系統等全方位知識
QQ群:81035754
文章版權歸作者所有,未經允許請勿轉載,若此文章存在違規行為,您可以聯系管理員刪除。
轉載請注明本文地址:http://specialneedsforspecialkids.com/yun/4594.html
摘要:長久以來,惠普戴爾都是服務器市場的老三樣,但云計算時代的到來,使得服務器行業的競爭格局發生了翻天覆地的變化,國產品牌正從追趕者轉變為引領者。國產品牌正在全球高端服務器領域發揮著越來越重要的作用。長久以來,惠普、戴爾、IBM都是服務器市場的老三樣,但云計算時代的到來,使得服務器行業的競爭格局發生了翻天覆地的變化,國產品牌正從追趕者轉變為引領者。國產品牌正在全球高端服務器領域發揮著越來越重要的作...
摘要:亞馬遜沒有公布的營收,但有人表示它可能已經是一項億美元的業務。預計下周將第一時間宣布其產品,這是其較早的在上運行的主要產品。誰能夠隨著時間的推移在云服務中占據第二把交椅,甚至打敗奪得第一,讓我們拭目以待。 亞馬遜對用戶推出的Web服務,使它成為迄今為止較大的云服務提供商。就像大多數的大型云供應商一樣,亞馬遜并沒有就當前或計劃中的數據中心透露太多。 埃森哲分析師Huan Liu的研究結果顯...
摘要:在的計劃中,今年年底全球要建成至少家云計算中心。在有了遠遠超出當年的網絡帶寬和虛擬化技術之后,網格等技術借助云計算得以發揚光大。實施安全云計算的前提是快速高效的收集用戶的安全威脅。市場研究公司稱,安全軟件將從端點轉向云計算。 云計算(Cloud Computing)正在成為技術界的行話甚至暗語。不僅Google、IBM、微軟和雅虎等大公司是云計算的擁躉,規模較小的公司也在逐漸向其靠攏。CRM...
摘要:年可以說是軟件定義數據中心的一年,大量自動化和人工智能研發力量致力于打造下一代可擴展的靈活的數據中心。年,致力在軟件定義數據中心占據一席之地,并將目標瞄準了在年之前實現軟件和支持收入億美元。公有云沒有扼殺數據中心,盡管有些人預測這會在2018年發生。不僅數據中心還在,而且服務器、存儲和網絡等數據中心基礎設施的全球支出正呈現蓬勃增長的態勢。2018年可以說是軟件定義數據中心的一年,大量自動化和...
摘要:月日晚間,阿里巴巴集團發布年第四季度財年第三季度財報,旗下云計算業務阿里云保持強勁增長,營收增速亮眼。財報顯示,阿里云第四季度營收億元,比去年同期增長,連續第三個季度保持三位數增長。 1月28日晚間,阿里巴巴集團(NYSE:BABA)發布2015年第四季度(2016財年第三季度)財報,旗下云計算業務阿里云保持強勁增長,營收增速亮眼。財報顯示,阿里云第四季度營收8.19億元,比去年同期增長1...
閱讀 1406·2021-11-24 10:20
閱讀 3648·2021-11-24 09:38
閱讀 2293·2021-09-27 13:37
閱讀 2196·2021-09-22 15:25
閱讀 2270·2021-09-01 18:33
閱讀 3487·2019-08-30 15:55
閱讀 1782·2019-08-30 15:54
閱讀 2080·2019-08-30 12:50