資料介紹
Mapreduce是一種適用于大數(shù)據(jù)處理的重要并行計算框架,通過在大量集群節(jié)點上并行執(zhí)行多個任務(wù),極大地提高了數(shù)據(jù)的處理性能。然而,由于中間數(shù)據(jù)需要等到 Mapper任務(wù)完成之后才能被發(fā)送給 Reducer任務(wù),由此導(dǎo)致的大量傳輸延遲成為 Mapreduce框架性能的重要瓶頸。為此,文中提出了一種面向 Mapreduce的中間數(shù)據(jù)傳輸流水線優(yōu)化機(jī)制,將有效計算與中間數(shù)據(jù)傳輸解耦,以流水線的方式重疊執(zhí)行各個階段,有效隱藏數(shù)據(jù)傳輸開銷。文中還給岀了中間數(shù)據(jù)傳輸流水線執(zhí)行機(jī)制和實現(xiàn)策略,包括流水線劃分、數(shù)據(jù)細(xì)分、數(shù)據(jù)歸并和數(shù)據(jù)傳輸粒度等。在公開數(shù)據(jù)集上對所提中間數(shù)據(jù)傳輸流水線優(yōu)化機(jī)制進(jìn)行了評價,當(dāng) Shuffle數(shù)據(jù)量較大時,該優(yōu)化機(jī)制比默認(rèn)框架的整體性能提高了60.2%。
- 嵌入式_流水線
- 使用FPGA設(shè)計流水線的資料和程序詳細(xì)概述 3次下載
- 關(guān)于ARM流水線的資料和分析 5次下載
- 一種基于混合社區(qū)的移動機(jī)會網(wǎng)絡(luò)數(shù)據(jù)傳輸機(jī)制 0次下載
- DSP設(shè)計中的流水線數(shù)據(jù)相關(guān)問題解析 0次下載
- 一種系統(tǒng)化流水線控制方法_章其富 0次下載
- 一種基于流水線DA算法的數(shù)字下變頻器_周云 2次下載
- 一種針對可重構(gòu)處理器流水線簡化編程的設(shè)計范式 0次下載
- 一種改進(jìn)運(yùn)放共享結(jié)構(gòu)的11位流水線ADC設(shè)計 3次下載
- 一種基于40nmCMOS工藝12位60MHz流水線模數(shù)轉(zhuǎn)換器 3次下載
- 電鍍流水線的PLC控制 36次下載
- 基于流水線結(jié)構(gòu)的多級數(shù)字混沌編碼方案 32次下載
- 一種流水線存儲的數(shù)據(jù)采集系統(tǒng) 36次下載
- 基于消息中間件的農(nóng)電數(shù)據(jù)傳輸系統(tǒng)
- 一種流水線結(jié)構(gòu)AD轉(zhuǎn)換器的速度分析方法
- 網(wǎng)絡(luò)數(shù)據(jù)傳輸速率的單位是什么 1599次閱讀
- 以太網(wǎng)接口的數(shù)據(jù)傳輸原理詳解 1779次閱讀
- 新版本Jenkins推薦使用聲明式流水線 708次閱讀
- Google GPipe為代表的流水線并行范式 1061次閱讀
- 一個典型的流水線設(shè)計 1430次閱讀
- 報文解析規(guī)則定義 流水線劃分提取方案 1023次閱讀
- CPU流水線優(yōu)缺點 4482次閱讀
- 一文詳細(xì)了解流水線設(shè)計 5032次閱讀
- FPGA中流水線的原因和方式 6190次閱讀
- IEEE802.15.4協(xié)議的數(shù)據(jù)傳輸模型解析 4104次閱讀
- 流水線設(shè)計的思想介紹與設(shè)計實例 8101次閱讀
- 差分數(shù)據(jù)傳輸有什么優(yōu)勢? 1w次閱讀
- 新專利介紹--一種基于超聲波測量和GPRS數(shù)據(jù)傳輸的水表系統(tǒng) 1150次閱讀
- 淺談GPU的渲染流水線實現(xiàn) 3842次閱讀
- 一文讀懂處理器流水線 2.2w次閱讀
下載排行
本周
- 1電子電路原理第七版PDF電子教材免費(fèi)下載
- 0.00 MB | 1489次下載 | 免費(fèi)
- 2單片機(jī)典型實例介紹
- 18.19 MB | 91次下載 | 1 積分
- 3S7-200PLC編程實例詳細(xì)資料
- 1.17 MB | 27次下載 | 1 積分
- 4筆記本電腦主板的元件識別和講解說明
- 4.28 MB | 18次下載 | 4 積分
- 5開關(guān)電源原理及各功能電路詳解
- 0.38 MB | 9次下載 | 免費(fèi)
- 6基于AT89C2051/4051單片機(jī)編程器的實驗
- 0.11 MB | 4次下載 | 免費(fèi)
- 7基于單片機(jī)和 SG3525的程控開關(guān)電源設(shè)計
- 0.23 MB | 3次下載 | 免費(fèi)
- 8基于單片機(jī)的紅外風(fēng)扇遙控
- 0.23 MB | 3次下載 | 免費(fèi)
本月
- 1OrCAD10.5下載OrCAD10.5中文版軟件
- 0.00 MB | 234313次下載 | 免費(fèi)
- 2PADS 9.0 2009最新版 -下載
- 0.00 MB | 66304次下載 | 免費(fèi)
- 3protel99下載protel99軟件下載(中文版)
- 0.00 MB | 51209次下載 | 免費(fèi)
- 4LabView 8.0 專業(yè)版下載 (3CD完整版)
- 0.00 MB | 51043次下載 | 免費(fèi)
- 5555集成電路應(yīng)用800例(新編版)
- 0.00 MB | 33562次下載 | 免費(fèi)
- 6接口電路圖大全
- 未知 | 30319次下載 | 免費(fèi)
- 7Multisim 10下載Multisim 10 中文版
- 0.00 MB | 28588次下載 | 免費(fèi)
- 8開關(guān)電源設(shè)計實例指南
- 未知 | 21539次下載 | 免費(fèi)
總榜
- 1matlab軟件下載入口
- 未知 | 935053次下載 | 免費(fèi)
- 2protel99se軟件下載(可英文版轉(zhuǎn)中文版)
- 78.1 MB | 537791次下載 | 免費(fèi)
- 3MATLAB 7.1 下載 (含軟件介紹)
- 未知 | 420026次下載 | 免費(fèi)
- 4OrCAD10.5下載OrCAD10.5中文版軟件
- 0.00 MB | 234313次下載 | 免費(fèi)
- 5Altium DXP2002下載入口
- 未知 | 233045次下載 | 免費(fèi)
- 6電路仿真軟件multisim 10.0免費(fèi)下載
- 340992 | 191183次下載 | 免費(fèi)
- 7十天學(xué)會AVR單片機(jī)與C語言視頻教程 下載
- 158M | 183277次下載 | 免費(fèi)
- 8proe5.0野火版下載(中文版免費(fèi)下載)
- 未知 | 138039次下載 | 免費(fèi)
評論