一、複雜度分析
複雜度是衡量程式碼運行效率的重要的度量因素。主要包括:時間複雜度,空間複雜度。
一、時間複雜度
1.1、大Q複雜度表示法:
Tn = Q(f(n))
Tn:程式碼執行的時間
n:數據規模的大小
f(n):每行程式碼執行的次數總和
Q:程式碼的執行時間 Tn 與 f(n) 表達式成正比
- 這就是大O時間複雜度表示法。大O時間複雜度實際上並不具體表示程式碼真正的執行時間,而是表示程式碼執行時間隨數據規模增長的變化趨勢,所以,也叫作漸進時間複雜度(asymptotic time complexity),簡稱時間複雜度 。
- 當n很大時,你可以把它想像成10000、 100000。而公式中的低階、常量、係數三部分並不左右增長趨勢,所以都可以忽略。我們只需要記錄一個最大量級就可以了,如果用大O表示法表示剛講的那兩段程式碼的時間複雜度,就可以記為: T(n) = O(n); T(n) = O(n²)
1.2、分析方法
1、只關注循環執行次數最多的一段程式碼
大O這種複雜度表示方法只是表示一種變化趨勢。我們通常會忽略掉公式中的常量、低階、係數,只需要記錄一個最大階的量級就可以了。所以, 我們在分析一個演算法、一段程式碼的時間複雜度的時候,也只關注循環執行次數最多的那一段程式碼就可以了。這段核心程式碼執行次數的 n 的量級,就是整段要分析程式碼的時間複雜度。
例:
int cal(int n) {
int sum = 0;
int i = 1;
for (; i <= n; ++i) {
sum = sum + i;
}
return sum;
}
其中第 2、3 行程式碼都是常量級的執行時間,與 n 的大小無關,所以對於複雜度並沒有影響。循環執行次數最多的是第 4、5 行程式碼,所以這塊程式碼要重點分析。前面我們也講過,這兩行程式碼被執行了 n 次,所以總的時間複雜度就是 O(n)。
2、加法法則:總複雜度等於量級最大的那段程式碼的複雜度
下面這段程式碼:
int cal(int n) {
int sum_1 = 0;
int p = 1;
for (; p < 100; ++p) {
sum_1 = sum_1 + p;
}
int sum_2 = 0;
int q = 1;
for (; q < n; ++q) {
sum_2 = sum_2 + q;
}
int sum_3 = 0;
int i = 1;
int j = 1;
for (; i <= n; ++i) {
j = 1;
for (; j <= n; ++j) {
sum_3 = sum_3 + i * j;
}
}
return sum_1 + sum_2 + sum_3;
}
- 這個程式碼分為三部分,分別是求sum_1、 sum_2、 sum_3。我們可以分別分析每一部分的時間複雜度,然後把它們放到一塊兒,再取一個量級最大的作為整段程式碼的複雜度。
- 第一段程式碼循環執行了100次,所以是一個常量的執行時間,跟n的規模無關。即便這段程式碼循環10000次、 100000次,只要是一個已知的數,跟n無關,照樣也是常量級的執行時間。當n無限大的時候,就可以忽略。儘管對程式碼的執行時間會有很大影響,但是回到時間複雜度的概念來說,它表示的是一個演算法執行效率與數據規模增長的變化趨勢,所以不管常量的執行時間多大,我們都可以忽略掉。因為它本身對增長趨勢並沒有影響。
- 第二段程式碼和第三段程式碼的時間複雜度是 O(n) 和 O(n²)。
- 綜合這三段程式碼的時間複雜度,我們取其中最大的量級。所以,整段程式碼的時間複雜度就為O(n²)。
- 也就是說: 總的時間複雜度就等於量級最大的那段程式碼的時間複雜度。那我們將這個規律抽象成公式就是:
- 如果 T1(n) = O(f(n)), T2(n) = O(g(n));那麼 T(n) = T1(n) + T2(n) = max(O(f(n)), O(g(n))) = O(max(f(n), g(n)))。
3.乘法法則:嵌套程式碼的複雜度等於嵌套內外程式碼複雜度的乘積
如果 T1(n) = O(f(n)), T2(n) = O(g(n));那麼 T(n) = T1(n) * T2(n) = O(f(n)) * O(g(n)) = O(f(n) * g(n))。
也就是說,假設T1(n) = O(n), T2(n) = O(n²),則 T1(n) * T2(n) = O(n³)。落實到具體的程式碼上,我們可以把乘法法則看成是嵌套循環,舉個例子:
int cal(int n) {
int ret = 0;
int i = 1;
for (; i < n; ++i) {
ret = ret + f(i);
}
}
int f(int n) {
int sum = 0;
int i = 1;
for (; i < n; ++i) {
sum = sum + i;
}
return sum;
}
我們單獨看 cal() 函數。假設 f() 只是一個普通的操作,那第 4~ 6 行的時間複雜度就是, T1(n) = O(n)。但 f() 函數本身不是一個簡單的操作,它的時間複雜度是 T2(n) = O(n),所以,整個 cal() 函數的時間複雜度就是, T(n) = T1(n) * T2(n) = O(n*n) = O(n²)。
1.3、幾種常見時間複雜度實例分析
- 對於剛羅列的複雜度量級,我們可以粗略地分為兩類:
- 多項式量級。O(1),O(log(n)),O(n^k)等,因為它的規模n出現在底數的位置。
- 非多項式量級。非多項式量級只有兩個: O(2^n) 和 O(n!)。當數據規模n越來越大時,非多項式量級演算法的執行時間會急劇增加,求解問題的執行時間會無限增長。所以,非多項式時間複雜度的演算法其實是非常低效的演算法。
1、Q(1)
O(1)只是常量級時間複雜度的一種表示方法,並不是指只執行了一行程式碼。比如這段程式碼,即便有3行,它的時間複雜度也是O(1),而不是O(3)。
int i = 8;
int j = 6;
int sum = i + j;
只要程式碼的執行時間不隨n的增大而增長,這樣程式碼的時間複雜度我們都記作O(1)。或者說, 一般情況下,只要演算法中不存在循環語句、遞歸語句,即使有成千上萬行的程式碼,其時間複雜度也是Ο(1)。
2、Q(logn)、Q(nlogn)
對數階時間複雜度非常常見,同時也是最難分析的一種時間複雜度。通過一個例子來說明一下。
i=1;
while (i <= n) {
i = i * 2;
}
- 根據我們前面講的複雜度分析方法,第三行程式碼是循環執行次數最多的。所以,我們只要能計算出這行程式碼被執行了多少次,就能知道整段程式碼的時間複雜度。
- 從程式碼中可以看出,變數 i 的值從 1 開始取,每循環一次就乘以 2。當大於 n 時,循環結束。
- 這是一個等比數列。把它一個一個列出來,就應該是這個樣子的: 2^0, 2^1, 2^2,… 2^x = n
- 所以,我們只要知道 x 值是多少,就知道這行程式碼執行的次數了。通過 2^x = n 求解 x 。x=log2n,所以,這段程式碼的時間複雜度就是O(log2n)。
在看一個例子:
i=1;
while (i <= n) {
i = i * 3;
}
- 根據上面的思路,很簡單就能看出來,這段程式碼的時間複雜度為 O(log3n)。
- 實際上,不管是以 2 為底、以 3 為底,還是以 10 為底,我們可以把所有對數階的時間複雜度都記為 O(logn)。
- 因為對數之間是可以互相轉換的, log3n 就等於log32 * log2n,所以 O(log3n) = O(C * log2n),其中 C = log32 是一個常量。
- 基於我們前面的一個理論:在採用大 O 標記複雜度的時候,可以忽略係數,即 O(Cf(n)) = O(f(n))。所以,O(log2n) 就等於 O(log3n)。
- 因此,在對數階時間複雜度的表示方法里,我們忽略對數的「底」,統一表示為 O(logn)。
- 基於上面的關係,那 O(nlogn) 就很容易理解了。還記得我們剛講的乘法法則嗎?如果一段程式碼的時間複雜度是 O(logn),我們循環執行n遍,時間複雜度就是 O(nlogn)了。
- O(nlogn) 也是一種非常常見的演算法時間複雜度。比如,歸併排序、快速排序的時間複雜度都是 O(nlogn)。
3、Q(m+n)、Q(m * n)
程式碼的複雜度由兩個數據的規模來決定。
int cal(int m, int n) {
int sum_1 = 0;
int i = 1;
for (; i < m; ++i) {
sum_1 = sum_1 + i;
} int sum_2 = 0;
int j = 1;
for (; j < n; ++j) {
sum_2 = sum_2 + j;
}
return sum_1 + sum_2;
}
- 從程式碼中可以看出, m 和n 是表示兩個數據規模。我們無法事先評估 m 和 n 誰的量級大。
- 所以我們在表示複雜度的時候,就不能簡單地利用加法法則,省略掉其中一 個。所以,上面程式碼的時間複雜度就是 O(m+n)。
- 針對這種情況,原來的加法法則就不正確了,我們需要將加法規則改為: T1(m) + T2(n) = O(f(m) + g(n))。
- 但是乘法法則繼續有效: T1(m) * T2(n) = O(f(m) * f(n))
二、空間複雜度
空間複雜度全稱就是漸進空間複雜度(asymptotic space complexity), 表示演算法的存儲空間與數據規模之間的增長關係。
舉個例子:
void print(int n) {
int i = 0;
int[] a = new int[n];
for (i; i <n; ++i) {
a[i] = i * i;
}
for (i = n-1; i >= 0; --i) {
print out a[i]
}
}
- 跟時間複雜度分析一樣,我們可以看到,第 2 行程式碼中,我們申請了一個空間存儲變數 i,但是它是常量階的,跟數據規模 n 沒有關係,所以我們可以忽略。
- 第3行申請了一個大小為 n 的 int 類型數組,除此之外,剩下的程式碼都沒有佔用更多的空間,所以整段程式碼的空間複雜度就是 O(n)。
- 我們常見的空間複雜度就是 O(1)、 O(n)、 O(n² ),像 O(logn)、 O(nlogn) 這樣的對數階複雜度平時都用不到。
- 空間複雜度分析比時間複雜度分析要簡單很多。
三、最好、最壞、平均、均攤時間複雜度
3.1、最好、最壞情況時間複雜度
// n表示數組array的長度
int find(int[] array, int n, int x) {
int i = 0;
int pos = -1;
for (; i < n; ++i) {
if (array[i] == x)
pos = i;
}
return pos;
}
- 你應該可以看出來,這段程式碼要實現的功能是,在一個無序的數組(array)中,查找變數 x 出現的位置。如果沒有找到,就返回-1。
- 按照上面講的分析方法,這段程式碼的複雜度是 O(n),其中, n 代表數組的長度。
- 我們在數組中查找一個數據,並不需要每次都把整個數組都遍歷一遍,因為有可能中途找到就可以提前結束循環了。這段程式碼寫得不夠高效。我們可以這樣優化一下這段查找程式碼。
// n表示數組array的長度
int find(int[] array, int n, int x) {
int i = 0;
int pos = -1;
for (; i < n; ++i) {
if (array[i] == x) {
pos = i;
break;
}
}
return pos;
}
- 我們優化完之後,這段程式碼的時間複雜度就不一定是 O(n) 了。
- 因為,要查找的變數 x 可能出現在數組的任意位置。如果數組中第一個元素正好是要查找的變數 x,那就不需要繼續遍歷剩下的 n-1 個數據了,那時間複雜度就是O(1)。但如果數組中不存在變數 x,那我們就需要把整個數組都遍歷一遍,時間複雜度就成了 O(n)。所以,不同的情況下,這段程式碼的時間複雜度是不一樣的。
- 為了表示程式碼在不同情況下的不同時間複雜度,需要引入三個概念:最好情況時間複雜度、最壞情況時間複雜度和平均情況時間複雜度。
- 顧名思義,最好情況時間複雜度就是,在最理想的情況下,執行這段程式碼的時間複雜度。這個例子中在最理想的情況下,要查找的變數 x 正好是數組的第一個元素,這個時候對應的時間複雜度就是最好情況時間複雜度。
- 同理,最壞情況時間複雜度就是,在最糟糕的情況下,執行這段程式碼的時間複雜度。就像剛舉的那個例子,如果數組中沒有要查找的變數 x,我們需要把整個數組都遍歷一遍才行,所以這種最糟糕情況下對應的時間複雜度就是最壞情況時間複雜度。
3.2、平均情況時間複雜度
-
我們都知道,最好情況時間複雜度和最壞情況時間複雜度對應的都是極端情況下的程式碼複雜度,發生的概率其實並不大。
-
為了更好地表示平均情況下的複雜度,需要引入另一個概念:平均情況時間複雜度,簡稱為平均時間複雜度。
-
要查找的變數 x 在數組中的位置,有 n+1 種情況:在數組的 0~ n-1 位置中和不在數組中。
-
我們把每種情況下,查找需要遍歷的元素個數累加起來,然後再除以n+1,就可以得到需要遍歷的元素個數的平均值,即:
-
-
我們知道,時間複雜度的大 O 標記法中,可以省略掉係數、低階、常量,所以,咱們把剛剛這個公式簡化之後,得到的平均時間複雜度就是 O(n)。
-
這個結論雖然是正確的,但是計算過程稍微有點兒問題。究竟是什麼問題呢?我們剛講的這 n+1 種情況,出現的概率並不是一樣的。
-
我們知道,要查找的變數 x,要麼在數組裡,要麼就不在數組裡。這兩種情況對應的概率統計起來很麻煩,為了方便理解,我們假設在數組中與不在數組中的概率都為1/2。
-
另外,要查找的數據出現在 0~ n-1 這 n 個位置的概率也是一樣的,為 1/n。
-
所以,根據概率乘法法則,要查找的數據出現在 0~ n-1 中任意位置的概率就是 1/(2n)。
-
因此,前面的推導過程中存在的最大問題就是,沒有將各種情況發生的概率考慮進去。如果我們把每種情況發生的概率也考慮進去,那平均時間複雜度的計算過程就變成了這樣:
-
-
這個值就是概率論中的加權平均值,也叫作期望值,所以平均時間複雜度的全稱應該叫加權平均時間複雜度或者期望時間複雜度。
-
引入概率之後,前面那段程式碼的加權平均值為 (3n+1)/4。用大 O 表示法來表示,去掉係數和常量,這段程式碼的加權平均時間複雜度仍然是 O(n)。
-
實際上,在大多數情況下,我們並不需要區分最好、最壞、平均情況時間複雜度三種情況。很多時候,我們使用一個複雜度就可以滿足需求了。
-
只有同一塊程式碼在不同的情況下,時間複雜度有量級的差距,我們才會使用這三種複雜度表示法來區分。