分布式數(shù)據(jù)系統(tǒng)SEARCH AGGREGATION
回答:分布式架構(gòu)是軟件系統(tǒng)分布式系統(tǒng)存儲(chǔ)是基于存儲(chǔ)、服務(wù)器、數(shù)據(jù)庫(kù)技術(shù)、容災(zāi)熱備等技術(shù)的系統(tǒng)集成數(shù)字經(jīng)濟(jì)時(shí)代，各個(gè)企業(yè)、個(gè)人都在生產(chǎn)數(shù)據(jù)，利用數(shù)據(jù)，數(shù)據(jù)也在社會(huì)中不斷流動(dòng)、循環(huán)，為這個(gè)時(shí)代創(chuàng)造著價(jià)值與機(jī)遇。盡管數(shù)據(jù)如此珍貴，但我們?nèi)匀粫?huì)聽到在集中式存儲(chǔ)場(chǎng)景中，由于網(wǎng)絡(luò)攻擊、火災(zāi)、地震而造成數(shù)據(jù)故障、丟失等問題。為了防止數(shù)據(jù)出現(xiàn)故障、數(shù)據(jù)丟失、服務(wù)器出錯(cuò)、數(shù)據(jù)無(wú)法恢復(fù)等情況，越來(lái)越多企業(yè)開始把集中存儲(chǔ)轉(zhuǎn)變...
cocopeak
|
580人閱讀
回答:這個(gè)太范化了吧。大數(shù)據(jù)架構(gòu)選擇的方案就有很多，海量數(shù)據(jù)的即席查詢本省就是業(yè)內(nèi)目前的痛點(diǎn)，暫時(shí)沒有太好的解決方案，kylin等框架也只是一個(gè)折中方案，如果你不是要求海量數(shù)據(jù)分析的秒級(jí)響應(yīng)的話sparkSql、presto等都是不錯(cuò)的方案，分鐘級(jí)別可以返回。
Paul_King
|
675人閱讀
回答:首先建議題主描述清楚應(yīng)用場(chǎng)景，否則別人做的方案可能都不符合需求。就Hadoop和OpenStack的糾結(jié)而言，支撐數(shù)據(jù)分析用前者，做資源管理用后者。=================補(bǔ)充=============題主的需求，實(shí)質(zhì)是搭建一個(gè)IoT實(shí)時(shí)大數(shù)據(jù)平臺(tái)，而不是一般意義的私有云。IoTa大數(shù)據(jù)平臺(tái)除了數(shù)據(jù)采集和結(jié)果反饋，其余部分和一般的大數(shù)據(jù)平臺(tái)相差不多。OpenStack長(zhǎng)于管理VM資源管理...
MonoLog
|
1054人閱讀
回答:分布式處理，分布式系統(tǒng)(其實(shí)也包含分布式存儲(chǔ)系統(tǒng))一直把RAS、MTBF、MTTR等作為可靠性衡量指標(biāo)，但是專業(yè)指標(biāo)是CAP指標(biāo)，可用性作為其中重要因素之一。CAP理論闡述了在分布式系統(tǒng)的設(shè)計(jì)中，沒有一種設(shè)計(jì)可以同時(shí)滿足一致性，可用性和分區(qū)容錯(cuò)性。所以一個(gè)好的分布式系統(tǒng)，必須在架構(gòu)上充分考慮上述指標(biāo)。分布式系統(tǒng)設(shè)計(jì)中，BASE理論作為CAP理論的折中或延伸，在分布式系統(tǒng)中被大量使用。分布式系統(tǒng)的可...
lolomaco
|
1229人閱讀
回答:分布式存儲(chǔ)是當(dāng)下互聯(lián)網(wǎng)流行技術(shù)區(qū)塊鏈的特質(zhì)之一。它與傳統(tǒng)互聯(lián)網(wǎng)技術(shù)有些區(qū)別，一句話兩句話也說(shuō)不清楚，直接上圖：第一種A圖就是中心化，也就是傳統(tǒng)互聯(lián)網(wǎng)數(shù)據(jù)的儲(chǔ)存方式，基于官方服務(wù)器，一旦服務(wù)器出現(xiàn)故障，數(shù)據(jù)、信息、資料都有可能丟失或泄露。第二種B圖就是去中心化,會(huì)出現(xiàn)一些節(jié)點(diǎn)，一個(gè)節(jié)點(diǎn)記錄下一個(gè)節(jié)點(diǎn)生成或者儲(chǔ)存信息的值（具體如何記錄或者驗(yàn)證，小編不是專業(yè)的不敢亂講），這就是所謂的去中心化、分布式記賬...
snifes
|
1107人閱讀
回答:從計(jì)算機(jī)資源的發(fā)展來(lái)看，個(gè)人認(rèn)為可以分為三個(gè)階段：最為早期的共享式，后來(lái)的單體式，到現(xiàn)在的分布式。這個(gè)發(fā)展的原因，都是基于計(jì)算資源的需求。早期一臺(tái)服務(wù)unix服務(wù)器，連接多個(gè)終端，每個(gè)終端單獨(dú)獲取計(jì)算資源，其實(shí)跟現(xiàn)在的云計(jì)算感覺很類似，計(jì)算資源都放在服務(wù)器端，終端比較簡(jiǎn)單。這是早期對(duì)計(jì)算資源的需求和提供的計(jì)算能力之間的供需關(guān)系決定的。后來(lái)，隨著計(jì)算機(jī)的發(fā)展，對(duì)計(jì)算資源的需求的不斷增加，單體式的計(jì)算...
lavnFan
|
1440人閱讀
前言：本書是對(duì)分布式系統(tǒng)架構(gòu)涉及到的相關(guān)技術(shù)的一本科普書籍。由于很難作為開發(fā)參考，只能但求了解。所以通篇淺讀，對(duì)分布式系統(tǒng)進(jìn)行大致的了解。因?yàn)閷懙姆浅：茫杏X非常有意思，自己也做不出總結(jié)。所謂的讀...
1.分布式系統(tǒng)是什么 分布式系統(tǒng)： 一個(gè)硬件或軟件組件分布在不同的網(wǎng)絡(luò)計(jì)算機(jī)上，彼此之間僅僅通過(guò)消息傳遞進(jìn)行通信和協(xié)調(diào)的系統(tǒng)，這是分布式系統(tǒng)，在不同的硬件，不同的軟件，不同的網(wǎng)絡(luò)，不同的計(jì)算機(jī)上，僅僅通...
...ice，通常使用REST服務(wù)實(shí)現(xiàn)。 以下一段內(nèi)容來(lái)源于知乎 1. 分布式架構(gòu)的演進(jìn)系統(tǒng)架構(gòu)演化歷程-初始階段架構(gòu) 初始階段 的小型系統(tǒng) 應(yīng)用程序、數(shù)據(jù)庫(kù)、文件等所有的資源都在一臺(tái)服務(wù)器上通俗稱為L(zhǎng)AMP 特征：應(yīng)用程序、數(shù)據(jù)庫(kù)...
這次使用分布式事務(wù)框架過(guò)程中了學(xué)習(xí)了一些分布式事務(wù)知識(shí)，所以本文我們就來(lái)聊聊分布式事務(wù)那些事。首先我們先回顧下什么是事務(wù)。 事務(wù) 什么是事務(wù)？這個(gè)作為后端開發(fā)，日常開發(fā)中只要與數(shù)據(jù)庫(kù)有交互，肯定就會(huì)使...
...型的存儲(chǔ)系統(tǒng)，如本地磁盤、商業(yè)化 SAN 存儲(chǔ)設(shè)備、NFS 及分布式存儲(chǔ)系統(tǒng)，分別解決虛擬化計(jì)算在不同應(yīng)用場(chǎng)景下的數(shù)據(jù)存儲(chǔ)需求。本地磁盤：服務(wù)器上的本地磁盤，通常采用 RAID 條帶化保證磁盤數(shù)據(jù)安全。性能高，擴(kuò)展性差，...
...就不能返回。直白，簡(jiǎn)單的去理解 BASE理論 和ACID相反，分布式事務(wù)中我們無(wú)法做到強(qiáng)一致。 雖然可能不一致，但每個(gè)應(yīng)用都可以根據(jù)自身的業(yè)務(wù)特點(diǎn)，采用適當(dāng)?shù)姆绞絹?lái)使分布式系統(tǒng)數(shù)據(jù)達(dá)到最終一致性。 Basically Available基本...
...日，云堯科技與云棲小鎮(zhèn)簽署《入駐協(xié)議》，專注于國(guó)產(chǎn)分布式數(shù)據(jù)庫(kù)的云堯科技正式于杭州西湖畔扎根。云堯科技創(chuàng)始人、西北工業(yè)大學(xué)李戰(zhàn)懷教授率領(lǐng)團(tuán)隊(duì)致力于國(guó)產(chǎn)分布式數(shù)據(jù)庫(kù)的研究和開發(fā)，完全自主研制了具有獨(dú)特的...
1 項(xiàng)目介紹 本項(xiàng)目的主要內(nèi)容是分布式網(wǎng)絡(luò)新聞抓取系統(tǒng)設(shè)計(jì)與實(shí)現(xiàn)。主要有以下幾個(gè)部分來(lái)介紹： （1）深入分析網(wǎng)絡(luò)新聞爬蟲的特點(diǎn)，設(shè)計(jì)了分布式網(wǎng)絡(luò)新聞抓取系統(tǒng)爬取策略、抓取字段、動(dòng)態(tài)網(wǎng)頁(yè)抓取方法、分布式結(jié)構(gòu)...
...Scalable Open Financial Architecture Stack）是用于快速構(gòu)建金融級(jí)分布式架構(gòu)的一套中間件，也是在金融場(chǎng)景里錘煉出來(lái)的最佳實(shí)踐。 官網(wǎng)鏈接： http://www.sofastack.tech/ Java 診斷利器 Arthas Arthas是 Alibaba 開源的 Java 診斷工具，深受開發(fā)者喜...
MongoDB 是一個(gè)基于分布式文件存儲(chǔ)的數(shù)據(jù)庫(kù)。由 C++ 語(yǔ)言編寫。旨在為 WEB 應(yīng)用提供可擴(kuò)展的高性能數(shù)據(jù)存儲(chǔ)解決方案。 這里提及一下分布式的優(yōu)點(diǎn)： 可靠性（容錯(cuò)） ： 分布式計(jì)算系統(tǒng)中的一個(gè)重要的優(yōu)點(diǎn)是可靠性。一臺(tái)...
ChatGPT和Sora等AI大模型應(yīng)用，將AI大模型和算力需求的熱度不斷帶上新的臺(tái)階。哪里可以獲得...
大模型的訓(xùn)練用4090是不合適的，但推理（inference/serving）用4090不能說(shuō)合適，...
圖示為GPU性能排行榜，我們可以看到所有GPU的原始相關(guān)性能圖表。同時(shí)根據(jù)訓(xùn)練、推理能力由高到低做了...
