大數(shù)據(jù)處理架構(gòu)SEARCH AGGREGATION
回答:這個太范化了吧。大數(shù)據(jù)架構(gòu)選擇的方案就有很多，海量數(shù)據(jù)的即席查詢本省就是業(yè)內(nèi)目前的痛點，暫時沒有太好的解決方案，kylin等框架也只是一個折中方案，如果你不是要求海量數(shù)據(jù)分析的秒級響應(yīng)的話sparkSql、presto等都是不錯的方案，分鐘級別可以返回。
Paul_King
|
683人閱讀
回答:現(xiàn)在有幸參與傳統(tǒng)銀行數(shù)字化轉(zhuǎn)型，負責技術(shù)架構(gòu)部分的轉(zhuǎn)型設(shè)計。高性能的數(shù)據(jù)架構(gòu)（High Performance Data Architecture），正是我們架構(gòu)轉(zhuǎn)型的重點。隨著科技的蓬勃發(fā)展、社交網(wǎng)絡(luò)的廣泛使用、線上消費的普及、數(shù)據(jù)挖掘的技術(shù)提升等大趨勢，全球銀行業(yè)正迎來一場聲勢浩大的數(shù)字化創(chuàng)新浪潮。數(shù)字化為消費者的生活及行為模式帶來翻天覆地的變化，也孵化出一批新型的金融科技(Fintech)競...
Lowky
|
535人閱讀
回答:以mysql為列：1：支撐高并發(fā)系統(tǒng)，一定會涉及事務(wù)，所以數(shù)據(jù)庫引擎必選innodb，innodb支持事務(wù)，事務(wù)級別根據(jù)業(yè)務(wù)而定，如果業(yè)務(wù)數(shù)據(jù)一致性要求很高，事務(wù)就開啟序列化級別，這樣就完全隔離事務(wù)，但是會導(dǎo)致鎖資源競爭加劇。mysql的性能有一定的降低。2：讀寫分離，數(shù)據(jù)庫分成主庫和從庫，主庫負責寫數(shù)據(jù)，叢庫負責讀數(shù)據(jù)。注意主從數(shù)據(jù)庫數(shù)據(jù)一致性問題。3：冷熱數(shù)據(jù)分離，美團，餓了么部分設(shè)計采用冷熱...
Vultr
|
1272人閱讀
回答:目前階段大數(shù)據(jù)技術(shù)及體系已經(jīng)逐漸趨于成熟，不再是以概念貫穿的模式，大數(shù)據(jù)越來越多的被使用，伴隨互聯(lián)網(wǎng)化的發(fā)展更多的企業(yè)信息化已經(jīng)由IT時代轉(zhuǎn)變?yōu)镈T時代，以數(shù)據(jù)為核心，用數(shù)據(jù)進行決策，基于數(shù)據(jù)驅(qū)動企業(yè)的創(chuàng)新與發(fā)展，相信在將來大數(shù)據(jù)也會有更廣泛的應(yīng)用空間，對于大數(shù)據(jù)的理解主要分為以下幾個層面。1.數(shù)據(jù)來源：對于大數(shù)據(jù)時代而言更多強調(diào)基于業(yè)務(wù)數(shù)據(jù)的沉淀，在一定規(guī)模的數(shù)據(jù)上進行進一步的分析、處理、轉(zhuǎn)換，...
arashicage
|
1241人閱讀
回答:在大數(shù)據(jù)領(lǐng)域大概有四個大的工作方向，除了大數(shù)據(jù)平臺應(yīng)用及開發(fā)、大數(shù)據(jù)分析與應(yīng)用和大數(shù)據(jù)平臺集成與運維之外，還有大數(shù)據(jù)平臺架構(gòu)與研發(fā)，除了以上四個大的工作方向之外，還有一個工作方向是大數(shù)據(jù)技術(shù)推廣和培訓，這部分工作目前也有不少人在從事。大數(shù)據(jù)平臺架構(gòu)與研發(fā)主要的工作內(nèi)容是研發(fā)底層的大數(shù)據(jù)平臺，這部分工作的難度較高，從事這部分工作的研發(fā)級崗位也并不多。現(xiàn)在不少技術(shù)研發(fā)團隊都以Hadoop、Spark平...
zhangxiangliang
|
3499人閱讀
回答:近幾年，大數(shù)據(jù)的概念逐漸深入人心，大數(shù)據(jù)的趨勢越來越火爆。但是，大數(shù)據(jù)到底是個啥？怎么樣才能玩好大數(shù)據(jù)呢？大數(shù)據(jù)的基本含義就是海量數(shù)據(jù)，麥肯錫全球研究所給出的定義是：一種規(guī)模大到在獲取、存儲、管理、分析方面大大超出了傳統(tǒng)數(shù)據(jù)庫軟件工具能力范圍的數(shù)據(jù)集合，具有海量的數(shù)據(jù)規(guī)模、快速的數(shù)據(jù)流轉(zhuǎn)、多樣的數(shù)據(jù)類型和價值密度低四大特征。數(shù)字經(jīng)濟的要素之一就是大數(shù)據(jù)資源，現(xiàn)在大家聊得最多的大數(shù)據(jù)是基于已經(jīng)存在的...
khlbat
|
814人閱讀
...些問題： ?? ●?你擁有的數(shù)據(jù)到底有多龐大，你目前的架構(gòu)能保證擴展這些量嗎？ ?? ●?你的數(shù)據(jù)在結(jié)構(gòu)、半結(jié)構(gòu)、非結(jié)構(gòu)方面有什么特征？目前來說，你的系統(tǒng)架構(gòu)和技術(shù)是否能支撐這些不同類型的數(shù)據(jù)？ ?? ●?你的數(shù)據(jù)...
2017年12月22日-23日，由高可用架構(gòu)技術(shù)社區(qū)聯(lián)合麥思博（msup）有限公司共同主辦的 GIAC全球互聯(lián)網(wǎng)架構(gòu)大會在上海光大會展中心成功舉行。 本屆全球互聯(lián)網(wǎng)架構(gòu)大會以改變未來的互聯(lián)網(wǎng)構(gòu)建方式為主題，分為經(jīng)典架構(gòu)、D...
2017年12月22日-23日，由高可用架構(gòu)技術(shù)社區(qū)聯(lián)合麥思博（msup）有限公司共同主辦的 GIAC全球互聯(lián)網(wǎng)架構(gòu)大會在上海光大會展中心成功舉行。 本屆全球互聯(lián)網(wǎng)架構(gòu)大會以改變未來的互聯(lián)網(wǎng)構(gòu)建方式為主題，分為經(jīng)典架構(gòu)、D...
12月22日至23日，高可用架構(gòu)和msup聯(lián)合主辦的GIAC 全球互聯(lián)網(wǎng)架構(gòu)大會將于上海光大會展中心舉行。GIAC 全球互聯(lián)網(wǎng)架構(gòu)大會是高可用架構(gòu)技術(shù)社區(qū)推廣的面向架構(gòu)師、技術(shù)負責人及高端技術(shù)從業(yè)人員的技術(shù)架構(gòu)大會。GIAC于2016...
12月22日至23日，高可用架構(gòu)和msup聯(lián)合主辦的GIAC 全球互聯(lián)網(wǎng)架構(gòu)大會將于上海光大會展中心舉行。GIAC 全球互聯(lián)網(wǎng)架構(gòu)大會是高可用架構(gòu)技術(shù)社區(qū)推廣的面向架構(gòu)師、技術(shù)負責人及高端技術(shù)從業(yè)人員的技術(shù)架構(gòu)大會。GIAC于2016...
...驟升導(dǎo)致的另一方資源枯竭，從而影響性能并在整個基礎(chǔ)架構(gòu)中產(chǎn)生的漣漪效應(yīng)；和在超融合部署方式在集群規(guī)模較大后，網(wǎng)絡(luò)、硬盤、服務(wù)器發(fā)生故障的概率都會增大；以及數(shù)據(jù)重刪、壓縮、加密糾刪碼等功能、故障的自修復(fù)...
...絡(luò)特性可以通過升級設(shè)備或線路來提升，但是有些與網(wǎng)絡(luò)架構(gòu)有關(guān)。升級或者改動網(wǎng)絡(luò)架構(gòu)帶來的風險和成本是巨大的，因此在架設(shè)數(shù)據(jù)中心初始，網(wǎng)絡(luò)架構(gòu)的選擇和設(shè)計尤其需要謹慎。 那么，從過去的傳統(tǒng)數(shù)據(jù)中心，到如今...
...和預(yù)見的系統(tǒng)擴容、升級路線圖。 ? 云計算環(huán)境作為大數(shù)據(jù)處理平臺 1.云計算環(huán)境中基本計算單元的分化 ? 企業(yè)云計算平臺上雖然有多個并行計算的CPU，但并沒有創(chuàng)造出具有超強數(shù)據(jù)處理能力的超級CPU，因此云計算平臺需...
...和預(yù)見的系統(tǒng)擴容、升級路線圖。 云計算環(huán)境作為大數(shù)據(jù)處理平臺 1.云計算環(huán)境中基本計算單元的分化 企業(yè)云計算平臺上雖然有多個并行計算的CPU，但并沒有創(chuàng)造出具有超強數(shù)據(jù)處理能力的超級CPU，因此云計算平臺...
...樣，系統(tǒng)同時具有了低延遲實時處理能力，也具有離線大數(shù)據(jù)處理能力。之后通過數(shù)據(jù)服務(wù)層，把兩個視圖合并起來，對外提供服務(wù)。在外部看來，這是一個完整的視圖。 就這樣，通過 lambda 架構(gòu)我們可以將實時處理和批處理系...
ChatGPT和Sora等AI大模型應(yīng)用，將AI大模型和算力需求的熱度不斷帶上新的臺階。哪里可以獲得...
大模型的訓練用4090是不合適的，但推理（inference/serving）用4090不能說合適，...
圖示為GPU性能排行榜，我們可以看到所有GPU的原始相關(guān)性能圖表。同時根據(jù)訓練、推理能力由高到低做了...
