大數(shù)據(jù)架構(gòu)設(shè)計SEARCH AGGREGATION
回答:以mysql為列：1：支撐高并發(fā)系統(tǒng)，一定會涉及事務(wù)，所以數(shù)據(jù)庫引擎必選innodb，innodb支持事務(wù)，事務(wù)級別根據(jù)業(yè)務(wù)而定，如果業(yè)務(wù)數(shù)據(jù)一致性要求很高，事務(wù)就開啟序列化級別，這樣就完全隔離事務(wù)，但是會導(dǎo)致鎖資源競爭加劇。mysql的性能有一定的降低。2：讀寫分離，數(shù)據(jù)庫分成主庫和從庫，主庫負責(zé)寫數(shù)據(jù)，叢庫負責(zé)讀數(shù)據(jù)。注意主從數(shù)據(jù)庫數(shù)據(jù)一致性問題。3：冷熱數(shù)據(jù)分離，美團，餓了么部分設(shè)計采用冷熱...
Vultr
|
1263人閱讀
回答:這個太范化了吧。大數(shù)據(jù)架構(gòu)選擇的方案就有很多，海量數(shù)據(jù)的即席查詢本省就是業(yè)內(nèi)目前的痛點，暫時沒有太好的解決方案，kylin等框架也只是一個折中方案，如果你不是要求海量數(shù)據(jù)分析的秒級響應(yīng)的話sparkSql、presto等都是不錯的方案，分鐘級別可以返回。
Paul_King
|
680人閱讀
回答:大家在剛開始搭建項目的時候可能考慮的不夠全面，隨著產(chǎn)品的推廣 、業(yè)務(wù)場景的復(fù)雜和使用用戶越來越多 數(shù)據(jù)會呈現(xiàn)快速增長。當(dāng)數(shù)據(jù)達到千萬級的時候 就會發(fā)現(xiàn) 查詢速度越來越慢 用戶體驗也就越來越差，那怎樣提升千萬級數(shù)據(jù)查詢效率呢？小萌簡單整理了一下，希望對大家有所幫助！優(yōu)化數(shù)據(jù)庫設(shè)計：數(shù)據(jù)字段類型使用varchar/nvarchar 替換 char/nchar，變長字段存儲空間小，節(jié)省存儲空間。在查詢的...
phodal
|
899人閱讀
回答:沒什么意義，關(guān)鍵是架構(gòu)，你的架構(gòu)和API用的是linux定義的，你再怎么改，還是linux。人家為什么敢叫l(wèi)inux，而不叫unix，那是人家雖然沒有全改，但起碼有自己的架構(gòu)設(shè)計在里面，所以，別人才承認你是Linux，而不是unix換個皮。所以在操作系統(tǒng)里架構(gòu)和API的改寫和設(shè)計才是真正????B的地方。起碼目前的中國，我還沒見識過這種大神！
wqj97
|
942人閱讀
回答:現(xiàn)在有幸參與傳統(tǒng)銀行數(shù)字化轉(zhuǎn)型，負責(zé)技術(shù)架構(gòu)部分的轉(zhuǎn)型設(shè)計。高性能的數(shù)據(jù)架構(gòu)（High Performance Data Architecture），正是我們架構(gòu)轉(zhuǎn)型的重點。隨著科技的蓬勃發(fā)展、社交網(wǎng)絡(luò)的廣泛使用、線上消費的普及、數(shù)據(jù)挖掘的技術(shù)提升等大趨勢，全球銀行業(yè)正迎來一場聲勢浩大的數(shù)字化創(chuàng)新浪潮。數(shù)字化為消費者的生活及行為模式帶來翻天覆地的變化，也孵化出一批新型的金融科技(Fintech)競...
Lowky
|
531人閱讀
...應(yīng)用都需要有 APM 體系，可以隨時分析性能的情況；在大數(shù)據(jù)時代，隨著數(shù)據(jù)規(guī)模的增加以及硬件計算能力的提升，數(shù)據(jù)庫的使用也發(fā)生了重大的變化；最重要的，整個 DevOps 也在進化到人工智能時代，監(jiān)控、服務(wù)治理、調(diào)度這...
...應(yīng)用都需要有 APM 體系，可以隨時分析性能的情況；在大數(shù)據(jù)時代，隨著數(shù)據(jù)規(guī)模的增加以及硬件計算能力的提升，數(shù)據(jù)庫的使用也發(fā)生了重大的變化；最重要的，整個 DevOps 也在進化到人工智能時代，監(jiān)控、服務(wù)治理、調(diào)度這...
需求背景 系統(tǒng)有數(shù)據(jù)識別、數(shù)據(jù)脫敏邏輯，支持可配置規(guī)則，自定義等，需要進行異構(gòu)數(shù)據(jù)同步，大數(shù)據(jù)量。現(xiàn)在針對以下幾個需求進行講解 1、支持冗余設(shè)計2、支持任務(wù)自動分發(fā)，支持自動負載均衡3、支持隨時擴容節(jié)點而...
...出版的技術(shù)圖書 即將出版的《深入理解XXXXXXXXX》 《海量數(shù)據(jù)處理與大數(shù)據(jù)技術(shù)實戰(zhàn)》 《MySQL技術(shù)大全：開發(fā)、優(yōu)化與運維實戰(zhàn)》 《深入理解高并發(fā)編程》 《并發(fā)編程核心知識》 《冰河的滲透實戰(zhàn)筆記》 《我要進大廠系列之面...
...的差不多的在線比賽平臺非常有趣，用戶可以上傳自己的數(shù)據(jù)，創(chuàng)建自己的項目并且可以使用交互式的筆記本， 支持實時代碼，數(shù)學(xué)方程，可視化和markdonw。讓人不經(jīng)思考它是如何把jupyter集成和擴展的這么好的，使用的什么樣...
...的差不多的在線比賽平臺非常有趣，用戶可以上傳自己的數(shù)據(jù)，創(chuàng)建自己的項目并且可以使用交互式的筆記本， 支持實時代碼，數(shù)學(xué)方程，可視化和markdonw。讓人不經(jīng)思考它是如何把jupyter集成和擴展的這么好的，使用的什么樣...
...各個微服務(wù)可被獨立部署，服務(wù)間是松耦合的關(guān)系，以及數(shù)據(jù)和治理的去中心化管理。微服務(wù)能夠幫助企業(yè)應(yīng)對業(yè)務(wù)復(fù)雜、頻繁更新以及團隊規(guī)模龐大帶來的挑戰(zhàn)，實現(xiàn)IT對業(yè)務(wù)創(chuàng)新的驅(qū)動。 1月12日，網(wǎng)易云主辦的微服務(wù)實踐...
...能，20年間軟件研發(fā)行業(yè)趨勢發(fā)生了翻天覆地的變化。大數(shù)據(jù)、云計算、AI等新興領(lǐng)域逐漸改變我們的生活方式，Devops、容器、深度學(xué)習(xí)、敏捷等技術(shù)方式和工作理念對軟件研發(fā)從業(yè)者提出更高要求。 由麥思博（msup）有限公司主...
...小問題來解決。那么8G內(nèi)存的計算機一次大概能排多大的數(shù)據(jù)量，可以在有限的時間內(nèi)排完呢？也就是100G的大文件要怎么切法，切成多少份比較合適？這個是考察候選人的時間空間復(fù)雜度估算能力，需要一定的計算機組織和算法...
...小問題來解決。那么8G內(nèi)存的計算機一次大概能排多大的數(shù)據(jù)量，可以在有限的時間內(nèi)排完呢？也就是100G的大文件要怎么切法，切成多少份比較合適？這個是考察候選人的時間空間復(fù)雜度估算能力，需要一定的計算機組織和算法...
... 搭建后端Server服務(wù)。 編寫后端Server代碼。 設(shè)計Server底層數(shù)據(jù)存儲架構(gòu)。 關(guān)注Server的高可用、可擴展、負載均衡、高性能等諸多繁瑣問題。 這些事情可能會耗掉你80%以上的時間和精力，結(jié)果服務(wù)可用性、穩(wěn)定性、可擴展性等都...
...聊移動端的架構(gòu)設(shè)計。 李文杰：我們的項目劃分成了：數(shù)據(jù)層、UI 層、邏輯層。 上海-李博：我們使用的是 MVVM（Model-View-ViewModel），然后使用了一些 React Native。 韓兵：MVC 這樣的模式可以代替咱們移動端架構(gòu)嗎？ 攻城獅：MVC、M...
ChatGPT和Sora等AI大模型應(yīng)用，將AI大模型和算力需求的熱度不斷帶上新的臺階。哪里可以獲得...
大模型的訓(xùn)練用4090是不合適的，但推理（inference/serving）用4090不能說合適，...
圖示為GPU性能排行榜，我們可以看到所有GPU的原始相關(guān)性能圖表。同時根據(jù)訓(xùn)練、推理能力由高到低做了...
legendaryedu
