摘要:月日,騰訊云宣布,推出國內首款高性能異構計算基礎設施云服務器,以云服務方式將大型公司才能長期支付使用的推廣到更多企業。此舉讓騰訊云成為國內在云端開放計算服務的云服務商。
1月20日,騰訊云宣布,推出國內首款高性能異構計算基礎設施——FPGA云服務器,以云服務方式將大型公司才能長期支付使用的FPGA推廣到更多企業。
騰訊云官網現已開放FPGA使用申請
通過FPGA云服務器,企業可以進行FPGA硬件編程,可將性能提升至通用CPU服務器的30倍以上,而只需支付相當于通用CPU約40%的費用。此舉讓騰訊云成為國內在云端開放FPGA計算服務的云服務商。
? ??
與已經深入人心的高性能計算的代表GPU相比,FPGA具有硬件可編程、低功耗、低延時的特性,代表了高性能計算的未來發展趨勢。企業可以在火熱的深度學習領域,將FPGA用于深度學習的檢測階段,與主要用于訓練階段的GPU互為補充。不僅如此,FPGA還可應用于金融分析、圖像視頻處理、基因組學等需要高性能計算的領域,是這類對效率要求高的行業應用的較佳選擇。?
例如金融行業實時處理交易數據,使用通用CPU處理延時大、成本高,而使用FPGA可以很好的解決上述問題,FPGA在搜索領域也因為低延時被互聯網搜索公司深度應用。FPGA之所以比CPU甚至GPU能效高,本質上是無指令、無需共享內存的體系結構帶來的福利。
騰訊云副總裁王慧星認為,FPGA從底層開始變革人工智能的設計邏輯,加速企業業務在云端的處理能力,推動全行業在人工智能領域的創新步伐。他進一步指出,FPGA已經在QQ、微信等騰訊海量業務中長期使用,具備深厚的技術積累和復雜的場景實踐,希望這項的技術開放大大降低企業的使用門檻,讓大中小型企業都搭上人工智能這班列車。 ?
?
FPGA的應用場景:深度學習、圖片處理等領域優勢明顯
FPGA誕生至今已有30余年,此前主要應用于大型互聯網和科技公司,騰訊等互聯網大型企業均在數據中心批量部署了FPGA,為自身的深度學習等應用提供硬件加速平臺。
與傳統的計算架構相比,FPGA能夠更好地支撐深度學習等大規模并行計算需求。通過與通用CPU橫向測試對比表明,FPGA在深度學習、圖片壓縮和分類檢測等應用場景中,在成本、性能上具有明顯優勢。
FPGA在騰訊的深度學習領域被廣泛應用,深度學習在圖片分類識別、語音識別、個性化內容推薦算法等領域廣泛應用。其中,微信、QQ為了增強社交通訊等業務的違規圖片檢測的處理能力,降低圖片檢測成本,通過FPGA對深度學習模型的CNN算法進行加速后,FPGA處理性能是通用CPU的4倍,單位成本是通用CPU的1/3。?
FPGA在圖片處理的優勢也很明顯,用戶每天通過微信和QQ等社交平臺上傳了海量的圖片,如果采用WEBP圖片壓縮格式替代標準的JPEG格式,圖片大小可減少三分之一,同時給用戶帶來更好的圖片下載體驗。而通過FPGA對大小為853x640的圖片轉碼進行加速測試得出,FPGA的處理延時比通用CPU降低20倍,處理性能是通用CPU的6倍,而FPGA單位成本僅為通用CPU的1/3。?
另一項測試表明,FPGA在DNN計算加速上有較明顯的優勢。國內外的搜索引擎公司普遍使用DNN算法用于廣告搜索,騰訊使用FPGA對DNN計算進行加速測試得出,在使用50%的FPGA資源的情況下,將4000個樣本的DNN計算時延減小為1.2毫秒,吞吐率達到6000集合/s(4000個樣本為1個集合),不僅達到了系統對低延時的要求,而且極大地提高系統的吞吐能力:處理延時降低100倍,處理吞吐率提高5倍,而成本是通用CPU服務器的1/5。
FPGA的部署革命:從數月到數分鐘?
過去,中小企業部署FPGA面臨諸多問題:FPGA硬件成本高、靈活性差、一次性采購投入大,需要高昂的費用和巨大精力進行FPGA的定制和采購,并需配備相應的硬件工程師和軟件工程師。
同時企業接下來還會面臨FPGA芯片更新換代帶來的資源閑置流轉問題。雖然FPGA知識產權(FPGA IP,FPGA Intellectual Property)提供了業務所需的硬件加速功能,但研發周期長,研發投入和風險高,令諸多企業望而卻步。
騰訊云帶來的革命性進展是:將FPGA部署時間從數月縮短到數分鐘,企業可按需付費使用FPGA,極大降低FPGA的使用成本,實現高性能FPGA硬件加速處理。同時騰訊云率先在國內提供第三方FPGA知識產權市場,通過騰訊云服務市場,FPGA開發者和使用者可以更高效地交易。
長期以來,FPGA行業內的提供者和使用者一直缺乏交易平臺和信用保證,導致交易環節冗長,很難達成交易。騰訊云服務市場搭建一個簡單可靠的FPGA知識產權交易市場。對于FPGA使用者而言,可以在騰訊云服務市場購買已開發并驗證好的FPGA知識產權功能,可節約長達數月的FPGA研發周期,同時采用按需使用的付費模式,能較大化地節省硬件投入成本。
而FPGA開發者可以通過使用騰訊云FPGA的開發框架,顯著提升研發效率,更專注于核心功能開發,將圖像處理功能、深度學習功能等已有的成熟FPGA知識產權通過簡單封裝適配,集成并投放到騰訊云服務市場,開放給FPGA使用者使用,分攤FPGA知識產權的研發成本。
王慧星認為,對于云計算行業而言,在云端提供FPGA是云計算IaaS層面革命性的推進,從底層開始加速云計算在各個場景中的應用,云計算將從純粹的資源服務邁向人工智能云服務時代。
產品優勢
應用場景
深度學習模型
騰訊云 FPGA 實例尤其適用于對時間和效率要求比較高的高性能計算 (HPC) 應用程序。
隨著移動互聯網的發展,基于用戶社交平臺,用戶正在創造龐大的圖片集合且增長速度很快。為了增強圖片分類檢測的處理能力,降低圖片檢測成本,我們使用 FPGA 云服務器對深度學習模型中 CNN 算法的 Alexnet 模型進行加速計算。
實驗表明,采用 Alexnet 模型對圖像進行分類檢測對比測試,在性能上,FPGA 云服務器處理性能是 CPU 云服務器的5倍。
實時圖像壓縮
常用的圖片格式有 JPEG 格式、WEBP 格式等, WEBP 圖片格式比 JPEG 圖片格式存儲空間小 30% 。為節省存儲空間,降低傳輸流量,提升用戶的圖片下載體驗,通常采用 WEBP 格式進行存儲及傳輸分發。但 WEBP 壓縮計算復雜度是 JPEG 壓縮的10倍以上,采用 CPU 進行 WEBP 轉碼成本很高。為了增強圖片轉碼能力,可使用 FPGA 云服務器進行加速,且不會影響視圖片質量。F1 實例是滿足這些應用程序要求的理想解決方案。
對JPEG 格式圖片轉成 WEBP 格式圖片進行測試對比,測試圖片大小為 853x640,FPGA 云服務器處理延時相比 CPU 服務器降低20倍,FPGA 云服務器處理性能是 CPU 服務器的6倍。
歡迎加入本站公開興趣群軟件開發技術群
興趣范圍包括:Java,C/C++,Python,PHP,Ruby,shell等各種語言開發經驗交流,各種框架使用,外包項目機會,學習、培訓、跳槽等交流
QQ群:26931708
Hadoop源代碼研究群
興趣范圍包括:Hadoop源代碼解讀,改進,優化,分布式系統場景定制,與Hadoop有關的各種開源項目,總之就是玩轉Hadoop
QQ群:288410967?
文章版權歸作者所有,未經允許請勿轉載,若此文章存在違規行為,您可以聯系管理員刪除。
轉載請注明本文地址:http://specialneedsforspecialkids.com/yun/4207.html
摘要:年月,騰訊云推出國內首款高性能異構計算基礎設施,并致力于整個云服務生態圈的建設。基于此,騰訊云在市場上帶來了一系列創新舉措。圖市場提供行業解決方案騰訊云云服務市場已在基因圖片視頻教育等行業和場景中落地。FPGA云服務,作為云計算產品中一種新型的行業解決方案,具有性能優越、開發便捷、計費靈活等紅利,加之其具有低延遲,高吞吐等能力,在基因、人工智能、金融等計算密集型領域得到廣泛使用。2017年1...
摘要:在年百度開發者大會上,百度董事長兼首席執行官李彥宏發布了由百度自主研發的國內首款全功能芯片昆侖。百度自主研發的高端芯片,將去滿足全世界開發者的各種需求。在2018年百度AI開發者大會上,百度董事長兼首席執行官李彥宏發布了由百度自主研發的國內首款全功能AI芯片昆侖。李彥宏介紹稱,昆侖是中國在大規模AI運算實踐中催生出的芯片,基于百度8年的CPU、GPU和FPGA的AI加速器的研發,20多次迭代...
摘要:年第一個產品與群雄逐鹿在發布了的產品,則標志著虛擬化的成熟并逐漸開啟了異構計算虛擬化的快速發展歷程。而其中的便是基于的分片虛擬化方案。圖形渲染虛擬化高性價比只此一款。各種新興行業也開始應用虛擬化技術。 摘要: GPU深度好文系列,阿里云技術專家分享 第一章 GPU虛擬化發展史 GPU的虛擬化發展歷程事實上與公有云市場和云計算應用場景的普及息息相關。如果在10年前談起云計算,大部分人的...
摘要:年第一個產品與群雄逐鹿在發布了的產品,則標志著虛擬化的成熟并逐漸開啟了異構計算虛擬化的快速發展歷程。而其中的便是基于的分片虛擬化方案。圖形渲染虛擬化高性價比只此一款。各種新興行業也開始應用虛擬化技術。 摘要: GPU深度好文系列,阿里云技術專家分享 第一章 GPU虛擬化發展史 GPU的虛擬化發展歷程事實上與公有云市場和云計算應用場景的普及息息相關。如果在10年前談起云計算,大部分人的...
摘要:資料來源維基百科年月日淘寶網發布開放平臺淘園計劃年月日,淘寶網發布淘園計劃,推出淘寶大戰略。年月日,英特爾在京隆重舉 整理 | 王啟隆 透過「歷史上的今天」,...
閱讀 3406·2021-11-25 09:43
閱讀 2293·2021-09-06 15:02
閱讀 3537·2021-08-18 10:21
閱讀 3339·2019-08-30 15:55
閱讀 2342·2019-08-29 17:06
閱讀 3533·2019-08-29 16:59
閱讀 960·2019-08-29 13:47
閱讀 2755·2019-08-26 13:24