摘要:導語在從軟件到服務對象存儲的發展歷程上中,我們和大家在對象存儲大規模普及之前,大量的數據存儲和處理是怎么實現的。推薦閱讀從軟件到服務對象存儲的發展歷程上免費試用點擊免費試用免費領取京東云對象存儲額度
導語
在《從“軟件”到“服務”——【對象存儲】的發展歷程(上)》中,我們和大家在對象存儲大規模普及之前,大量的數據存儲和處理是怎么實現的。但這些方案大都專注于解決其中一類問題,缺少足夠的普適性。那么對象存儲出現后,究竟解決了什么問題?優勢又為何呢?1.軟件 V.S 服務
跟上一篇提到的各個軟件相比,對象存儲與之最大的區別不在于實現的機制,而在于形態從軟件到服務的一個大飛躍。在這兒我想用一個可能不太恰當的比喻來說這事——傳統的體重計。
不管是電子的還是機械的,他只是一個工具,我們評價的標準更多是價格、準確度、易用性、量程。而互聯網的體重計,能幫你記錄你的體重變化曲線,你關心的可能更多是數據聯動、可視化、以及根據你的體重給出的建議。當然,如果你真的對減肥有強烈的需求,那么找一個合適的教練,由教練來指導你的減肥流程才合適,而互聯網體重計只是教練手中的一個工具而已。
服務跟軟件相比,有幾個大的不同點:
首先是自由演化——對象存儲的客戶可以只關心SLA,并不關心你實現SLA的手段,所以演化更自由;
其次是使用服務完全不用關心運維問題——運維問題完全交給服務提供商來解決;
最后是采用服務形態后,業務的架構方式更靈活——比如控制面和數據面分離更輕松等。
作為一個部署在云端的服務,它的接口和實現是分離的,也就是說我可以在保持接口不變的情況下持續演化實現。我們可以想象一下第一次在 AWS S3 上傳的數據還有一些直到今天也沒有刪除,但這些數據可能已經經歷了很多代的硬盤(畢竟硬盤的壽命一般也就3-5年),以及很多代的存儲引擎了。這也是與傳統存儲軟件不同的地方,傳統存儲軟件如果大幅度更改了架構,那么通常是以一個新的存儲軟件的形式來出現。
背后的原因至少有兩點:
不同存儲引擎之間的平滑過渡和數據遷移難度很高,耗時很長,風險也很大,對于軟件的使用者來講根本不愿承受這些風險;
每個存儲引擎都有自己的優缺點,如果是服務的提供方,還能接受新引擎的缺點,也能通過硬件或者使用其他方式來彌補,但作為軟件來使用的話,部分喜歡老版本優點的用戶會長期停留在老版本,這經常會導致社區的分裂。
2.傳統存儲 V.S 對象存儲存儲類的軟件運維永遠是一個問題,磁盤的壽命一般是3~5年,在3副本的情況下,1PB存儲需要300塊10TB硬盤,5年總共260周,也就是說,平均每周都要進行一次以上的硬盤更換操作。而采用對象存儲,對應的麻煩一般交給服務供應商來解決。服務供應商一般會選擇將壞盤留在機架上,等服務器到期后一次性銷毀,來降低運維成本。此外,為了避免單機架、單AZ(Available Zone,可用區,一般一個AZ對應一個機房,兩個AZ之間間距不低于20km,且不高于100km)故障導致數據不可用,一般還會采用一些反親和策略,比如同一數據的多個副本,放在3個機架上,并且至少兩個不同的AZ來存儲。
跟運維相關的采購負擔也是使用存儲軟件的一個大難題,在很多業務剛開始推廣時,并不知道需要多少存儲和上傳帶寬。如果按照上限準備,勢必造成大量的浪費。如果準備不足,一旦存儲用滿,客戶無法上傳,就是影響運營的超大事故。而使用對象存儲,這些問題都不再存在。
采用對象存儲后,我們可以更方便地引入控制流和數據流分離。以一個UGC(User-generated content,用戶生成內容,比如抖音、快手)類型的圖片或者短視頻網站為例,如果控制流和數據流不分離,那么為了提供用戶訪問網站的體驗,我們需要租賃優質的多線BGP機房,這類機房的帶寬成本非常昂貴,而圖片和短視頻的帶寬需求巨大(主要是上傳所需的帶寬和CDN回源所需的帶寬),造成總成本過高。如果把圖片/短視頻相關的上傳和CDN都挪到對象存儲服務商,只把控制相關的部分保留在昂貴的多線BGP機房。首先是上傳基本免費,如果租賃同一個服務商的CDN,CDN回源費用也可以打折,而上傳、下載的質量保證則由服務商去做保證,在獲得足夠質量的同時能大幅度節省費用。由于對象存儲一般提供各類回調功能和轉碼功能,所以你原有的功能需求一般也能通過架構微調來滿足。
除此之外,對象存儲服務還能提供完全無縫的遷移方案,利用鏡像存儲等功能,可以做到在遷移時,終端用戶完全無感知。比如從原始存儲站點A遷移到對象存儲B,一般步驟如下:
當然實際情況可能會更復雜,比如還涉及到圖片轉碼等功能的遷移。
3.對象存儲在中國的特色擴展圖片和音視頻處理算是很有中國特色的一個對象存儲的擴展了,這也跟中國的對象存儲發展跟富媒體網站的興起時間重疊有一定的關系。基于對象存儲的富媒體處理的好處不僅僅在于簡化了使用流程,免除了客戶自己維護圖片轉碼集群負擔,還大幅度降低了圖片相關的安全風險。眾所周知,圖片相關的 libjpeg, libpng 等庫是安全漏洞的重災區,UGC類的業務很難避免黑客上傳惡意圖片來攻擊。對象存儲的供應商能使用的手段也不僅僅是緊盯CVE及時升級,還包括了使用容器來加固轉碼引擎,定期清理容器來避免APT攻擊等手段。
綜上所述,采用對象存儲,跟采用存儲軟件相比,最主要的收益來自于運維負擔、采購風險轉移給了對象存儲供應商,其次的收益還包括更靈活的架構于使用方式。其實對象存儲的功能還有很多,如果對象存儲兼容常用的推薦閱讀
S3 協議的話,對應的生態也很強大,不僅有大量的工具,常見的框架一般也有S3的支持。
從“軟件”到“服務”——【對象存儲】的發展歷程(上)
免費試用*點擊“免費試用”免費領取京東云10GB對象存儲額度
文章版權歸作者所有,未經允許請勿轉載,若此文章存在違規行為,您可以聯系管理員刪除。
轉載請注明本文地址:http://specialneedsforspecialkids.com/yun/25531.html
摘要:現在還有一種趨勢,就是直接在對象存儲上跑等工具,不再依賴于。小結在對象存儲大規模普及之前,大量的數據存儲和處理就已經存在。 導語 據IDC的分析師預測,2025年,全球范圍內的數據量將增長到163 ZB,相較于2016年的16.1 ZB,十年間將增長1000%。面對飛速增長的數據量,企業和機構在未來又將如何存儲這些數據呢? ![在這里插入圖片描述](showImg(https://se...
摘要:阿里巴巴的共享服務理念以及企業級互聯網架構建設的思路,給這些企業帶來了不少新的思路,這也是我最終決定寫這本書的最主要原因。盡在雙阿里巴巴技術演進與超越是迄今唯一由阿里巴巴集團官方出品全面闡述雙八年以來在技術和商業上演進和創新歷程的書籍。 showImg(https://segmentfault.com/img/remote/1460000015386860); 1、大型網站技術架構:核...
閱讀 2241·2021-11-24 11:15
閱讀 3091·2021-11-24 10:46
閱讀 1389·2021-11-24 09:39
閱讀 3927·2021-08-18 10:21
閱讀 1484·2019-08-30 15:53
閱讀 1400·2019-08-30 11:19
閱讀 3327·2019-08-29 18:42
閱讀 2326·2019-08-29 16:58