資料介紹
MPP最開始的設(shè)計目的是為了消除共享資源的使用,即每個executor有獨立的cpu、內(nèi)存和磁盤等資源,每個executor一般不能訪問其他executor的資源。但是有一種情況例外,那就是當(dāng)數(shù)據(jù)必須要通過網(wǎng)絡(luò)進行交換的時候(譯者注:即shuffle)。這種設(shè)計理念效果很好,使MPP具有了比較湊合的擴展性。
MPP的第二個重概念是“并發(fā)”,即每個executor執(zhí)行同樣的數(shù)據(jù)處理邏輯,處理的數(shù)據(jù)則是這個executor所在的節(jié)點的本地存儲的數(shù)據(jù)分片,在這些執(zhí)行步驟中,有一些被稱為同步點(synchronization points)的東東,這些同步點多數(shù)情況下是在執(zhí)行節(jié)點間的數(shù)據(jù)交換,比如spark和mr中得shuffle操作。下圖是一個典型的MPP查詢時間線,垂直的虛線表示同步點,例如,如果遇到j(luò)oin或者aggregation(譯者注:即sql中的group by)操作,就需要一個同步操作來完成shuffle,而task本身(譯者注:executor是進程級概念,task是executor內(nèi)部的線程)則執(zhí)行的是數(shù)據(jù)聚合、join、排序以及其他可以在本節(jié)點獨立完成的任務(wù)。
- ChatGPT:AI模型框架研究 9次下載
- 開源霧計算軟件框架FogLAMP介紹(二):FogLAMP介紹
- 開源霧計算軟件框架FogLAMP介紹(三):FogLAMP架構(gòu)分析
- 基于boosting框架的混合秩矩陣分解模型 13次下載
- 一種基于框架特征的共指消解方法 7次下載
- 什么是框架?MATLAB的單元測試框架中文版資料詳細概述 0次下載
- C++的框架、庫和資源資料匯總大全
- 如何使用Spark計算框架進行分布式文本分類方法的研究 3次下載
- 基于迭代填充的內(nèi)存計算框架分區(qū)映射算法 0次下載
- 基于云計算的監(jiān)控與統(tǒng)計 10次下載
- MFC框架窗口界面設(shè)計 0次下載
- LC諧振計算器(C# .NET2.0框架) 0次下載
- Struts和Spring兩種MVC框架的比較 0次下載
- 手把手教你寫批處理-批處理的介紹
- 批處理常用命令大全 0次下載
- 一文詳解計算型存儲協(xié)議框架 490次閱讀
- TensorFlow與PyTorch深度學(xué)習(xí)框架的比較與選擇 1018次閱讀
- Python自動化測試框架及其應(yīng)用 579次閱讀
- GPT推斷中的批處理(Batching)效應(yīng)簡析 749次閱讀
- API測試框架Grillon概述 2057次閱讀
- qiling框架和AFLplusplus安裝 2040次閱讀
- 基于SSM框架的新聞管理系統(tǒng) 1384次閱讀
- 一個高性能異步計算框架介紹 827次閱讀
- cartography框架安裝與建圖測試 1482次閱讀
- 可信增強的Flask訪問控制框架的總體應(yīng)用設(shè)計和實施方法 2789次閱讀
- 現(xiàn)在流行的Web APP開發(fā)框架有哪些 1.1w次閱讀
- 邊緣計算的兩種處理機制介紹 4054次閱讀
- 嵌入式應(yīng)用框架EAF詳解 2892次閱讀
- 什么是Hibernate?Hibernate框架架構(gòu)與框架原理分析 5313次閱讀
- 采用Xilinx Zynq SoC 為云計算提速 1072次閱讀
下載排行
本周
- 1電子電路原理第七版PDF電子教材免費下載
- 0.00 MB | 1490次下載 | 免費
- 2單片機典型實例介紹
- 18.19 MB | 93次下載 | 1 積分
- 3S7-200PLC編程實例詳細資料
- 1.17 MB | 27次下載 | 1 積分
- 4筆記本電腦主板的元件識別和講解說明
- 4.28 MB | 18次下載 | 4 積分
- 5開關(guān)電源原理及各功能電路詳解
- 0.38 MB | 10次下載 | 免費
- 6基于AT89C2051/4051單片機編程器的實驗
- 0.11 MB | 4次下載 | 免費
- 7基于單片機和 SG3525的程控開關(guān)電源設(shè)計
- 0.23 MB | 3次下載 | 免費
- 8基于單片機的紅外風(fēng)扇遙控
- 0.23 MB | 3次下載 | 免費
本月
- 1OrCAD10.5下載OrCAD10.5中文版軟件
- 0.00 MB | 234313次下載 | 免費
- 2PADS 9.0 2009最新版 -下載
- 0.00 MB | 66304次下載 | 免費
- 3protel99下載protel99軟件下載(中文版)
- 0.00 MB | 51209次下載 | 免費
- 4LabView 8.0 專業(yè)版下載 (3CD完整版)
- 0.00 MB | 51043次下載 | 免費
- 5555集成電路應(yīng)用800例(新編版)
- 0.00 MB | 33562次下載 | 免費
- 6接口電路圖大全
- 未知 | 30320次下載 | 免費
- 7Multisim 10下載Multisim 10 中文版
- 0.00 MB | 28588次下載 | 免費
- 8開關(guān)電源設(shè)計實例指南
- 未知 | 21539次下載 | 免費
總榜
- 1matlab軟件下載入口
- 未知 | 935053次下載 | 免費
- 2protel99se軟件下載(可英文版轉(zhuǎn)中文版)
- 78.1 MB | 537791次下載 | 免費
- 3MATLAB 7.1 下載 (含軟件介紹)
- 未知 | 420026次下載 | 免費
- 4OrCAD10.5下載OrCAD10.5中文版軟件
- 0.00 MB | 234313次下載 | 免費
- 5Altium DXP2002下載入口
- 未知 | 233046次下載 | 免費
- 6電路仿真軟件multisim 10.0免費下載
- 340992 | 191183次下載 | 免費
- 7十天學(xué)會AVR單片機與C語言視頻教程 下載
- 158M | 183277次下載 | 免費
- 8proe5.0野火版下載(中文版免費下載)
- 未知 | 138039次下載 | 免費
評論