【漫畫】什麼是外部排序?【轉】

  • 2019 年 11 月 5 日
  • 筆記

漫畫,什麼是外部排序

還記得面試現場第一篇文章【面試現場】如何判斷一個數是否在40億個整數中?發出之後,最後蛋哥說把40億個數先進行外部排序。有讀者問到,內存無法一次性加載40億個數,如何排序?

背景

西天取經的路上,一樣上演着編程的樂趣…..

(互聯網偵察註:160億位元組大概是16G吧,20億int32大概8G)

置換選擇

例如我們可以從12個數據讀取3個存到內存中,然後從內存中選出最小的那個數放進子串p1里;

之後再從在從剩餘的9個數據讀取一個放到內存中,然後再從內存中選出一個數放進子串p1里,這個數必須滿足比p1中的其他數大,且在內存中盡量小。

這樣一直重複,直到內存中的數都比p1中的數小,這時p1子串存放結束,繼續來p2子串的存放。例如(這時假設內存只能存放3個int型數據):

12個無序的int數據

讀入3個到內存中,且選出一個最小的到子串p1

從內存中再次讀取一個元素86

從內存中再次讀取一個元素3

從內存中再次讀取一個元素24

從內存中再次讀取一個元素8

這個時候,已經沒有符合要求的數了,且內存已滿,進而用p2子串來存放,以此類推。

通過這種方法,p1子串存放了4個數據,而原來的那種方法p1子串只能存放3個數據。

(不知道堆排序的可以看下我之前寫的文章:【算法與數據結構】堆排序是什麼鬼?)

從12個數據中讀取3個數據,構建成一個最小堆,然後從堆頂選擇一個數寫入到p1中。

之後再從剩餘的9個數中讀取一個數,如果這個數比剛才那個寫入到p1中的數大,則把這個數插入到最小堆中,重新調整最小堆結構,然後在堆頂選一個數寫入到p1中。

否則,把這個數暫放在一邊,暫時不處理。之後一樣需要調整堆結構,從堆頂選擇一個數寫入到p1中。

這裡說明一下,那個被放在一邊的數是不能再放入p1中的了,因為它一定比p1中的數都要小,所以它會放在下一個子串中

看這些文字會讓人頭大,我畫圖解釋下吧。

從12數據讀取3個數據

構建最小堆,且選出目標數

讀入下一個數86

讀入下一個數3,比70小,暫放一邊,不加入堆結構中

讀入下一個數據24,比81小,不加入堆結構

讀入下一個數據8,比86小,不加入堆結構。此時p1已經完成了,把那些剛才暫放一邊的數重新構成一個堆,繼續p2的存放。

以此類推…

最後生成的p2如下:

這種方法適合要排序的數據太多,以至於內存一次性裝載不下。只能通過把數據分幾次的方式來排序,我們也把這種方法稱之為外部排序