大數(shù)據(jù)分布式開發(fā)SEARCH AGGREGATION
回答:這個太范化了吧。大數(shù)據(jù)架構選擇的方案就有很多，海量數(shù)據(jù)的即席查詢本省就是業(yè)內(nèi)目前的痛點，暫時沒有太好的解決方案，kylin等框架也只是一個折中方案，如果你不是要求海量數(shù)據(jù)分析的秒級響應的話sparkSql、presto等都是不錯的方案，分鐘級別可以返回。
Paul_King
|
675人閱讀
回答:隨著大數(shù)據(jù)應用的逐漸落地，很多人都想從事大數(shù)據(jù)方面的工作，這其中自然就有很多非大數(shù)據(jù)相關專業(yè)（數(shù)學、計算機、統(tǒng)計學）的從業(yè)者，那么大數(shù)據(jù)到底能不能從零基礎開始學呢？答案是肯定的，但是也要根據(jù)自身的知識結構來選擇大數(shù)據(jù)的學習方向。大數(shù)據(jù)技術體系在2016年的時候已經(jīng)趨于成熟，目前正處在落地應用的階段，大數(shù)據(jù)的細分崗位比較多，自然也就需要具備不同的知識結構。大數(shù)據(jù)的崗位集中在數(shù)據(jù)采集、整理、存儲、分析...
wuyangnju
|
866人閱讀
回答:數(shù)據(jù)庫開發(fā)工程和大數(shù)據(jù)開發(fā)嚴格意義上來說不算轉(zhuǎn)行，從技術層面來講大數(shù)據(jù)開發(fā)需要更深層的技術基礎和更廣的架構思路，也其說轉(zhuǎn)行不如說是對自身職業(yè)的一個飛躍。數(shù)據(jù)庫開發(fā)工程對于基本的數(shù)據(jù)庫開發(fā)比如說SQL的熟練，表結構的分析，數(shù)據(jù)庫編程的掌握，數(shù)據(jù)庫的運維，這都是數(shù)據(jù)庫開發(fā)工程師的天然優(yōu)勢和技術積累，如果要上升到大數(shù)據(jù)開發(fā)顯示是比小白更具優(yōu)勢，向大數(shù)據(jù)庫開發(fā)提升，建議從以下幾方面著手：1.從技術上要學習...
sean
|
720人閱讀
回答:在大數(shù)據(jù)領域大概有四個大的工作方向，除了大數(shù)據(jù)平臺應用及開發(fā)、大數(shù)據(jù)分析與應用和大數(shù)據(jù)平臺集成與運維之外，還有大數(shù)據(jù)平臺架構與研發(fā)，除了以上四個大的工作方向之外，還有一個工作方向是大數(shù)據(jù)技術推廣和培訓，這部分工作目前也有不少人在從事。大數(shù)據(jù)平臺架構與研發(fā)主要的工作內(nèi)容是研發(fā)底層的大數(shù)據(jù)平臺，這部分工作的難度較高，從事這部分工作的研發(fā)級崗位也并不多。現(xiàn)在不少技術研發(fā)團隊都以Hadoop、Spark平...
zhangxiangliang
|
3464人閱讀
回答:是的。一方面，大數(shù)據(jù)計算通常不能在內(nèi)存中完成，需要多次讀寫硬盤數(shù)據(jù)。另一方面，數(shù)據(jù)分布在不同的機器上，需要對數(shù)據(jù)進行網(wǎng)絡傳輸。因此，大數(shù)據(jù)運算更多的時間是在讀寫磁盤和網(wǎng)絡傳輸數(shù)據(jù)。因為數(shù)據(jù)I/O的效率通常低于CPU運算效率。因此，對讀寫同一張表的多個SQL進行合并，可以減少本地磁盤讀寫次數(shù)，以及網(wǎng)絡傳輸?shù)臄?shù)據(jù)，從而提高程序運行效率。
李增田
|
1110人閱讀
回答:誠邀回答，下面我來說說我的個人觀點：隨著大數(shù)據(jù)的熱度不斷升溫、技術日趨成熟，應用越來越廣泛，很多人都看好大數(shù)據(jù)未來的發(fā)展前景。這其中不乏大量Java開發(fā)崗位轉(zhuǎn)大數(shù)據(jù)方向的程序員。究竟是堅守java崗還是去做大數(shù)據(jù)？我認為最重要的還是要結合個人的職業(yè)發(fā)展來定位。并不是大數(shù)據(jù)火了，轉(zhuǎn)行做大數(shù)據(jù)就業(yè)前景就更可觀，個人能力、與企業(yè)技能要求的匹配度、市場競爭環(huán)境、行業(yè)人才需求及機遇等都會左右我們最終的職業(yè)走...
Tony_Zby
|
1047人閱讀
...統(tǒng)，可以多達幾萬臺機器甚至更多。 Hadoop最初主要包含分布式文件系統(tǒng)HDFS和計算框架MapReduce兩部分，是從Nutch中獨立出來的項目。在2.0版本中，又把資源管理和任務調(diào)度功能從MapReduce中剝離形成YARN，使其他框架也可以像MapReduce...
...實驗架構圖 搜索引擎架構在OpenSearch之上，是一個典型的分布式在線實時交互查詢架構，無單點故障，高伸縮、高可用，免運維，低成本。對大量信息的索引與搜索都可以在近乎實時的情況下完成，能夠快速實時搜索數(shù)十億的文...
...實驗架構圖 搜索引擎架構在OpenSearch之上，是一個典型的分布式在線實時交互查詢架構，無單點故障，高伸縮、高可用，免運維，低成本。對大量信息的索引與搜索都可以在近乎實時的情況下完成，能夠快速實時搜索數(shù)十億的文...
...10倍以上的開發(fā)效率的提升。? DKH的SQL版本，還提供了分布式MySQL的集成，傳統(tǒng)的信息系統(tǒng)，可無縫的實現(xiàn)面向大數(shù)據(jù)和分布式的跨越。 DKH標準平臺技術構架圖
...和數(shù)據(jù)處理與分析層，由此可概括的兩大核心技術： ① 分布式存儲 解決海量數(shù)據(jù)的存儲問題 一臺機器無法存儲，我們就借助集群進行分布式存儲 ② 分布式處理 解決海量數(shù)據(jù)的處理問題 一臺機器無法高效完成數(shù)據(jù)處理，...
...筆記》 《我要進大廠系列之面試圣經(jīng)》 《億級流量下的分布式解決方案》 《深入淺出Java23種設計模式》 《Java8新特性教程》 《跟冰河學習分布式存儲技術》 《跟冰河學習Nginx技術》 《跟冰河學習互聯(lián)網(wǎng)工程技術》 架構類 《...
...析這兩個層面。 1.4.2兩大核心技術 兩大核心技術指的是分布式存儲、分布式處理。 分布式存儲：解決海量數(shù)據(jù)的存儲問題。單機無法存儲海量數(shù)據(jù)時，就借助集群進行分布式存儲。 分布式處理：解決海量數(shù)據(jù)的處理問題。單...
...負責人，還是Spark的早期研究者和布道者，并且一直從事分布式計算和機器學習領域的開發(fā)工作。能否結合您的工作經(jīng)歷，為我們介紹一下通用大數(shù)據(jù)平臺到專用機器學習平臺的演進歷程？是什么推動了這一轉(zhuǎn)變？您認為將來大...
ChatGPT和Sora等AI大模型應用，將AI大模型和算力需求的熱度不斷帶上新的臺階。哪里可以獲得...
大模型的訓練用4090是不合適的，但推理（inference/serving）用4090不能說合適，...
圖示為GPU性能排行榜，我們可以看到所有GPU的原始相關性能圖表。同時根據(jù)訓練、推理能力由高到低做了...
