電子發(fā)燒友App
創(chuàng)作
發(fā)文章
發(fā)帖 
提問 
發(fā)資料
發(fā)視頻資料介紹
針對內(nèi)存計(jì)算框架Spark在作業(yè)Shuffle階段一次分區(qū)產(chǎn)生的數(shù)據(jù)傾斜問題，提出一種內(nèi)存計(jì)算框架的迭代填充分區(qū)映射算法（IFPM）。首先，分析Spark作業(yè)的執(zhí)行機(jī)制，建立作業(yè)效率模型和分區(qū)映射模型，給出作業(yè)執(zhí)行時(shí)間和分配傾斜度的定義，證明這些定義與作業(yè)執(zhí)行效率的因果邏輯關(guān)系；然后，根據(jù)模型和定義求解，設(shè)計(jì)擴(kuò)展式數(shù)據(jù)分區(qū)算法（EPA）和迭代式分區(qū)映射算法（IMA），在Map端建立一對多分區(qū)函數(shù)，并通過分區(qū)函數(shù)將部分?jǐn)?shù)據(jù)填入擴(kuò)展區(qū)內(nèi)，在數(shù)據(jù)分布局部感知后再執(zhí)行擴(kuò)展區(qū)迭代式的多輪數(shù)據(jù)分配，根據(jù)Reduce端已分配數(shù)據(jù)量建立適應(yīng)性的擴(kuò)展區(qū)映射規(guī)則，對原生區(qū)的數(shù)據(jù)傾斜進(jìn)行逐步修正，以此保障數(shù)據(jù)分配的均衡性。實(shí)驗(yàn)結(jié)果表明，在不同源數(shù)據(jù)分布條件下，算法均提高了作業(yè)Shuffle過程分區(qū)映射合理性，縮減了寬依賴Stage的同步時(shí)間，提高了作業(yè)執(zhí)行效率。
下載該資料的人也在下載
下載該資料的人還在閱讀
更多 >
- 基于向量分區(qū)和三維骨架化的CT圖像算法 22次下載
- 基于低秩矩陣填充技術(shù)的推薦算法 14次下載
- 基于無約束優(yōu)化的無參數(shù)填充函數(shù)算法 9次下載
- 漢語的零形式識別與填充方法研究綜述 2次下載
- 基于虛擬網(wǎng)絡(luò)功能組合的服務(wù)功能鏈及映射算法 5次下載
- 基于最優(yōu)子網(wǎng)的虛擬網(wǎng)絡(luò)映射算法 5次下載
- 基于拓?fù)浜蜋?quán)值的虛擬網(wǎng)絡(luò)映射算法 4次下載
- 一種高效節(jié)能的虛擬網(wǎng)絡(luò)映射算法 6次下載
- 一種多目標(biāo)虛擬網(wǎng)絡(luò)映射VNE-MOPSO算法 16次下載
- 基于雙重分組和對位映射的防碰撞查詢樹算法 7次下載
- 一種新的鄰近節(jié)點(diǎn)分組映射算法 6次下載
- 一種生存性虛擬網(wǎng)絡(luò)映射算法 3次下載
- 基于包簇映射的資源管理框架 0次下載
- 紋理映射算法的改進(jìn)研究 11次下載
- 一種簡單的圖案填充算法
- 拆解mmap內(nèi)存映射的本質(zhì)！ 1870次閱讀
- EC SRAM映射到CPU Memory空間的共享內(nèi)存設(shè)計(jì) 1741次閱讀
- 邊緣計(jì)算計(jì)算卸載與資源分配聯(lián)合優(yōu)化算法 1275次閱讀
- 單片機(jī)的內(nèi)存映射圖解析 1274次閱讀
- 單片機(jī)的內(nèi)存映射圖解析 1799次閱讀
- LINS算法的框架與代碼分析 3271次閱讀
- 一文詳細(xì)了解mmap內(nèi)存映射 2410次閱讀
- 電工基礎(chǔ)：如何計(jì)算電纜橋架填充率 8550次閱讀
- 虛擬機(jī)：linux高端內(nèi)存管理之永久內(nèi)核映射 3696次閱讀
- 淺析linux內(nèi)存映射原理 1640次閱讀
- 存儲器的分區(qū)內(nèi)存管理與分區(qū)存儲管理 3167次閱讀
- 基于多元LDPC碼迭代編碼算法的混合校驗(yàn)矩陣構(gòu)造算法 4806次閱讀
- Linux內(nèi)核地址映射模型與Linux內(nèi)核高端內(nèi)存詳解 3474次閱讀
- 簡單剖析虛擬內(nèi)存與交換分區(qū) 6323次閱讀
- 一種FFT插值正弦波快速頻率估計(jì)算法 9657次閱讀
上傳資料賺積分下載排行
本周
- 1電子電路原理第七版PDF電子教材免費(fèi)下載
- 0.00 MB | 1490次下載 | 免費(fèi)
- 2單片機(jī)典型實(shí)例介紹
- 18.19 MB | 93次下載 | 1 積分
- 3S7-200PLC編程實(shí)例詳細(xì)資料
- 1.17 MB | 27次下載 | 1 積分
- 4筆記本電腦主板的元件識別和講解說明
- 4.28 MB | 18次下載 | 4 積分
- 5開關(guān)電源原理及各功能電路詳解
- 0.38 MB | 10次下載 | 免費(fèi)
- 6基于AT89C2051/4051單片機(jī)編程器的實(shí)驗(yàn)
- 0.11 MB | 4次下載 | 免費(fèi)
- 7基于單片機(jī)和 SG3525的程控開關(guān)電源設(shè)計(jì)
- 0.23 MB | 3次下載 | 免費(fèi)
- 8基于單片機(jī)的紅外風(fēng)扇遙控
- 0.23 MB | 3次下載 | 免費(fèi)
本月
- 1OrCAD10.5下載OrCAD10.5中文版軟件
- 0.00 MB | 234313次下載 | 免費(fèi)
- 2PADS 9.0 2009最新版 -下載
- 0.00 MB | 66304次下載 | 免費(fèi)
- 3protel99下載protel99軟件下載(中文版)
- 0.00 MB | 51209次下載 | 免費(fèi)
- 4LabView 8.0 專業(yè)版下載 (3CD完整版)
- 0.00 MB | 51043次下載 | 免費(fèi)
- 5555集成電路應(yīng)用800例(新編版)
- 0.00 MB | 33562次下載 | 免費(fèi)
- 6接口電路圖大全
- 未知 | 30320次下載 | 免費(fèi)
- 7Multisim 10下載Multisim 10 中文版
- 0.00 MB | 28588次下載 | 免費(fèi)
- 8開關(guān)電源設(shè)計(jì)實(shí)例指南
- 未知 | 21539次下載 | 免費(fèi)
總榜
- 1matlab軟件下載入口
- 未知 | 935053次下載 | 免費(fèi)
- 2protel99se軟件下載(可英文版轉(zhuǎn)中文版)
- 78.1 MB | 537791次下載 | 免費(fèi)
- 3MATLAB 7.1 下載 (含軟件介紹)
- 未知 | 420026次下載 | 免費(fèi)
- 4OrCAD10.5下載OrCAD10.5中文版軟件
- 0.00 MB | 234313次下載 | 免費(fèi)
- 5Altium DXP2002下載入口
- 未知 | 233046次下載 | 免費(fèi)
- 6電路仿真軟件multisim 10.0免費(fèi)下載
- 340992 | 191183次下載 | 免費(fèi)
- 7十天學(xué)會AVR單片機(jī)與C語言視頻教程 下載
- 158M | 183277次下載 | 免費(fèi)
- 8proe5.0野火版下載(中文版免費(fèi)下載)
- 未知 | 138039次下載 | 免費(fèi)
工商網(wǎng)監(jiān)
評論