SortShuffleManager的bypass機(jī)制觸發(fā)條件是什么？

SortShuffleManager的運(yùn)行機(jī)制主要分成兩種，一種是普通運(yùn)行機(jī)制，另一種是bypass運(yùn)行機(jī)制。當(dāng)shuffle write。

task的數(shù)量小于等于spark.shuffle.sort.bypassMergeThreshold參數(shù)的值時(shí)(默認(rèn)為200)，就會(huì)啟用bypass機(jī)制。

該模式下，數(shù)據(jù)會(huì)先寫(xiě)入一個(gè)內(nèi)存數(shù)據(jù)結(jié)構(gòu)中(默認(rèn)5M)，此時(shí)根據(jù)不同的shuffle算子，可能選用不同的數(shù)據(jù)結(jié)構(gòu)。如果是reduceByKey這種聚合類(lèi)的shuffle算子，那么會(huì)選用Map數(shù)據(jù)結(jié)構(gòu)，一邊通過(guò)Map進(jìn)行聚合，一邊寫(xiě)入內(nèi)存;如果是join這種普通的shuffle算子，那么會(huì)選用Array數(shù)據(jù)結(jié)構(gòu)，直接寫(xiě)入內(nèi)存。

(2)接著，每寫(xiě)一條數(shù)據(jù)進(jìn)入內(nèi)存數(shù)據(jù)結(jié)構(gòu)之后，就會(huì)判斷一下，是否達(dá)到了某個(gè)臨界閾值。如果達(dá)到臨界閾值的話，那么就會(huì)嘗試將內(nèi)存數(shù)據(jù)結(jié)構(gòu)中的數(shù)據(jù)溢寫(xiě)到磁盤(pán)，然后清空內(nèi)存數(shù)據(jù)結(jié)構(gòu)。

(3)排序

在溢寫(xiě)到磁盤(pán)文件之前，會(huì)先根據(jù)key對(duì)內(nèi)存數(shù)據(jù)結(jié)構(gòu)中已有的數(shù)據(jù)進(jìn)行排序。

(4)溢寫(xiě)

排序過(guò)后，會(huì)分批將數(shù)據(jù)寫(xiě)入磁盤(pán)文件。默認(rèn)的batch數(shù)量是10000條，也就是說(shuō)，排序好的數(shù)據(jù)，會(huì)以每批1萬(wàn)條數(shù)據(jù)的形式分批寫(xiě)入磁盤(pán)文件。

(5)merge

一個(gè)task將所有數(shù)據(jù)寫(xiě)入內(nèi)存數(shù)據(jù)結(jié)構(gòu)的過(guò)程中，會(huì)發(fā)生多次磁盤(pán)溢寫(xiě)操作，也就會(huì)產(chǎn)生多個(gè)臨時(shí)文件。最后會(huì)將之前所有的臨時(shí)磁盤(pán)文件都進(jìn)行合并成1個(gè)磁盤(pán)文件，這就是merge過(guò)程。由于一個(gè)task就只對(duì)應(yīng)一個(gè)磁盤(pán)文件，也就意味著該task為Reduce端的stage的task準(zhǔn)備的數(shù)據(jù)都在這一個(gè)文件中，因此還會(huì)單獨(dú)寫(xiě)一份索引文件，其中標(biāo)識(shí)了下游各個(gè)task的數(shù)據(jù)在文件中的start offset與end offset。

觸發(fā)條件

bypass運(yùn)行機(jī)制的觸發(fā)條件如下： 1)shuffle map task數(shù)量小于spark.shuffle.sort.bypassMergeThreshold=200參數(shù)的值。 2)不是map combine聚合的shuffle算子(比如reduceByKey有map combie)。

bypass運(yùn)行機(jī)制的觸發(fā)條件如下：

1)shuffle map task數(shù)量小spark.shuffle.sort.bypassMergeThreshold=200參數(shù)的值。

2)不是map combine聚合的shuffle算子(比如reduceByKey有map combie)。

  ? 此時(shí)task會(huì)為每個(gè)reduce端的task都創(chuàng)建一個(gè)臨時(shí)磁盤(pán)文件，并將數(shù)據(jù)按key進(jìn)行hash，然后根據(jù)key的hash值， 將key寫(xiě)入對(duì)應(yīng)的磁盤(pán)文件之中。當(dāng)然，寫(xiě)入磁盤(pán)文件時(shí)也是先寫(xiě)入內(nèi)存緩沖，緩沖寫(xiě)滿之后再溢寫(xiě)到磁盤(pán)文件的 。最后，同樣會(huì)將所有臨時(shí)磁盤(pán)文件都合并成一個(gè)磁盤(pán)文件，并創(chuàng)建一個(gè)單獨(dú)的索引文件。

  ? 該過(guò)程的磁盤(pán)寫(xiě)機(jī)制其實(shí)跟未經(jīng)優(yōu)化的HashShuffleManager是一模一樣的，因?yàn)槎家獎(jiǎng)?chuàng)建數(shù)量驚人的磁盤(pán)文件， 只是在最后會(huì)做一個(gè)磁盤(pán)文件的合并而已。因此少量的最終磁盤(pán)文件，也讓該機(jī)制相對(duì)未經(jīng)優(yōu)化的 HashShuffleManager來(lái)說(shuō)，shuffle read的性能會(huì)更好。

而該機(jī)制與普通SortShuffleManager運(yùn)行機(jī)制的不同在于：

第一，磁盤(pán)寫(xiě)機(jī)制不同;

第二，不會(huì)進(jìn)行排序。也就是說(shuō)，啟用該機(jī)制的最大好處在于，shuffle write過(guò)程中，不需要進(jìn)行數(shù)據(jù)的排序操作， 也就節(jié)省掉了這部分的性能開(kāi)銷(xiāo)。

總結(jié)：

SortShuffle也分為普通機(jī)制和bypass機(jī)制

普通機(jī)制在內(nèi)存數(shù)據(jù)結(jié)構(gòu)(默認(rèn)為5M)完成排序，會(huì)產(chǎn)生2M個(gè)磁盤(pán)小文件。

而當(dāng)shuffle map task數(shù)量小于spark.shuffle.sort.bypassMergeThreshold參數(shù)的值。或者算子不是聚合類(lèi)的shuffle算子(比如reduceByKey)的時(shí)候會(huì)觸發(fā)SortShuffle的bypass機(jī)制，SortShuffle的bypass機(jī)制不會(huì)進(jìn)行排序，極大的提高了其性能。