複雜性與複雜系統初探
- 2020 年 4 月 12 日
- 筆記
1. 複雜性的學術發展歷史
0x1:複雜系統的起源 — 還原論
在介紹複雜系統之前,我們先來簡單介紹一下還原論,還原論是對這個世界最自然的理解方式。它的核心思想是:“如果你理解了整體的各個部分,以及把這些部分‘整合’起來的機制,你就能夠理解這個整體”。
一個最著名的例子就是牛頓的牛頓定律以及隨之而來的“鐘錶宇宙”理論。
牛頓的定律則是動力學的基礎,它們用力和品質作為基本概念解釋了一切物體的運動,包括行星。
下面是著名的牛頓三大定律:
- 在任何情況下,一切物體在不受外力作用時,總保持靜止或勻速直線運動狀態。
- 物體的加速度與物體的品質成反比。
- 兩個物體之間的作用力和反作用力,在同一條直線上,大小相等,方向相反。
基於以上基本假設,牛頓力學描繪了一幅“鐘錶宇宙”的圖景:設定好初始狀態,然後就遵循著三條定律一直運行下去。
數學家拉普拉斯認識到其中蘊含了可以如鐘錶般精準預測的觀念:他在1814年斷言,根據牛頓定律,只要知道宇宙中所有粒子的當前位置和速度,原則上就有可能預測任何時刻的情況。
在20世紀40年代電腦被發明出來之後,這種“原則上”的可能似乎有可能變成現實了。
過了很久,1927年。突然來了個踢館的。海森堡(Werner Heisenberg)提出了量子力學中的“測不準原理”,證明不可能在準確測量粒子位置的同時,又準確測量其動量(品質乘以速度)。
海森堡認為,對於其位置知道得越多,對於其動量就知道得越少,反過來也是一樣。
再往後,混沌的發現給了精確預測的夢想最後一擊。混沌系統說的是,對於其初始位置和動量的測量如果有極其微小的不精確,也會導致對其的長期預測產生巨大的誤差。也就是常說的“對初始條件的敏感依賴性”。
這一點很不符合直覺,事實上,很長一段時間裡,科學家們都認為這不可能。然而,混沌現象在很多系統中都被觀測到了,心臟紊亂、湍流、電路、水滴,還有許多其他看似無關的現象。現在混沌系統的存在已成為科學中公認的事實。
第一個明確的混沌系統的例子可能是19世紀末由法國數學家龐加萊(Henri Poincaié)給出。龐加萊是現代動力系統理論的奠基者,可能也是貢獻最大的人,大力推動了牛頓力學的發展。
龐加萊在試圖解決一個比預測颶風簡單得多的問題時發現了對初始條件的敏感依賴性。他試圖解決的是所謂的三體問題(three-body problem):用牛頓定律預測通過引力相互作用的三個物體的長期運動。
正是在研究三體問題的幾何結果的過程中,龐加萊發現了對初始條件的敏感依賴性。
換句話說,即便我們完全知道了運動定律,兩組不同的初始條件(在這裡是物體的初始位置、品質和速度),即使差別很小,有時候也會導致系統隨後的運動極為不同。
此後,隨著人們對複雜行為現象的不斷發現,人們在嘗試對簡單個體的大規模組合中出現非線性複雜行為進行解釋時,混沌、系統生物學、進化經濟學和網路理論等新學科勝過了還原論。
0x2:顛覆還原論/萬物可知論的原理 — 希爾伯特問題和哥德爾定理
儘管隨著混沌理論的被提出,還原論遭到了現實事情的反面挑戰,但是從定理上,尤其是從數學上證明還原論還沒有令人信服的答案。直到三位著名天才科學家的出現。
希爾伯特、哥德爾和圖靈
德國數學大師希爾伯特(David Hilbert)於1900年在巴黎的國際數學家大會上提出來三個問題:
- 數學是不是完備的?也就是說,是不是所有數學命題都可以用一組有限的公理證明或證否?
- 數學是不是一致的?換句話說,是不是可以證明的都是真命題?
- 是不是所有命題都是數學可判定的?也就是說,是不是對所有命題都有明確程式(definite procedure)可以在有限時間內告訴我們命題是真是假?也就是所謂的Entscheidungsproblem(“判定問題”),它可以追溯到17世紀的數學家萊布尼茨(Gottfried Leibniz)。
這三個問題過了30年都沒有解決,不過希爾伯特很有信心,認為答案一定是“是”,並且還斷言“不存在不可解的問題”。但是,就在他做出上述斷言的同一次會議中,一位25歲的數學家宣布了對不完備性定理的證明,他的發現震驚了整個數學界,這位年輕人名叫哥德爾(Kurt Gödel)。
- 有個命題A,這個命題很奇怪:命題為“它不可證”。我們姑且稱它為“命題A”。
- 現在假設命題A可證,那它就為假(因為它說它不可證),這就意味著證明了假命題——從而算術是不一致的。
- 如果我們就假設命題A不可證,這就意味著命題A為真(因為它斷言的就是自己不可證),但這樣就存在不可證的真命題——算術是不完備的。
- 因此,算術要麼不一致,要麼不完備。即所謂的命題悖論。
哥德爾乾淨利落地解決了希爾伯特第一和第二問題,接著第三問題又被英國數學家圖靈(Alan Turing)解決了。同樣,他的答案也是“否”。
- 首先,要先“明確程式”指的是什麼呢?圖靈的第一步就是定義這個概念。圖靈通過構想一種強有力的運算機器來闡述他的定義,這個機器不僅能進行算術運算,也能操作符號,這樣就能證明數學命題。他構造了一種假想的機器,這種機器現在被稱為圖靈機。並成了電子電腦的藍圖。
- 經過圖靈機演算,不存在明確的程式能夠解決停機問題。也就徹底埋葬了希爾伯特的第3個問題。這裡有個裡程碑的意義在,圖靈證明了計算存在局限,這與改變了大多數人的觀點和直覺相反。
2. 複雜性與複雜系統概念
0x1:複雜系統
複雜系統用來闡述模式的產生。現實生活中模式無處不在,例如:
- 同類型的商店往往比鄰而居
- 分久必合,合久必分,熱戀過後不是分手就是回歸平淡
- 生命過程的演進
上述這些現象,本質上就是自然界中模式湧現的過程。這些模式往往可以歸結為組成系統的個體,通過簡單相互作用達到某種複雜集體的現象。
複雜系統用動力學的思想闡述了這一過程的發生。
- 系統可以被分解為自身簡單許多的個體,例如“市場->人”,“生物->細胞”。但是個體和系統之間卻呈現了完全不同的屬性,用完全不同的特徵描述。比如,人的生物屬性是吃喝拉撒,但是由很多人組成的社會系統,就具有國家、政府、交易市場等這些特徵。
- 個體之間的相互作用反過來受到系統制約。比如,人與人交換物品需要依靠的媒介–錢,但是依據的標準是大量交易行為中湧現的價格。這些制約因素往往是在個體的相互作用中自發湧現的。這些制約可以看做一種宏觀秩序或者組織,使得相隔遙遠的個體通過它聯繫起來。一些非常簡單的個體之間的相互作用規則就可以誕生出非常複雜的宏觀範式。
- 系統與外界環境的作用可以用資訊的流入和流出描述。複雜系統在外界資訊發生變化時的反應是描述複雜系統屬性的根本,很多能夠穩定存在的複雜系統都具有相對外界自發調整自己結構的能力。
最典型的複雜系統的例子就是股市,大家都想預測股票價格,但實際上非常難做到,股票價格很難預測,這是因為股票價格本身即是大量交易者買賣之間湧現的一種宏觀秩序,它與公司的業績並沒有直接關係(而是間接關係),公司業績對股市的影響本質上是進入交易市場這個複雜系統的一個外部資訊,外部資訊影響交易者的心理但不決定他們的行為,最終股票價格是由交易者間的相互作用(博弈)決定的。
如果要研究股市,更多的應該去研究如何根據交易者所透露的蛛絲馬跡推測其可能行為,但是根據複雜系統和混沌理論,即使你能夠跟蹤每一位交易者的所有行為和心理活動,股市仍然難以預測。
事實上,金融市場的不穩定性的根本就來自於複雜系統,這使得人們常常低谷風險,比如次貸危機。
人們依據的假設很多時候是把市場看作獨立作用的部分,每個部分的風險是獨立的。事實上市場的每一部分並沒有獨立,而是互相彼此作用,形成了一個混沌系統,正是它們的互相關聯導致次貸危機。
0x2:產生複雜系統的主要因素
討論了複雜系統的基本概念之後,我們這章來討論下,究竟是哪些因素,導致了複雜系統的產生。
1、作用(關聯)
不是單體的特性,而是單體是如何相互關聯形成組織的。因為這些系統共同的特點是長程關聯。關聯往往導致1+1>2,或1+1<2,這稱為非線性。比如為什麼會有公司,其背後的原因當然有很多,從經濟學、組織行為學角度都會有很多解釋,從複雜系統角度來看就是,公司通過某種合作方法導致1+1大於2的效應使得公司可以產生。
整體系統的最終外顯結果是受網路相互作用導致的,每個成員之間都受到鄰居的影響,因此,相互作用是複雜系統的一個最重要的因素。例如,神經元就是通過相互作用構成神經網路來處理訊號的。
由於相互作用的存在,使得物理系統無法輕鬆地由整體拆成部分,而是呈現出一種混沌狀態。
混沌說的是由於系統內自由維度的增加,系統的動力學屬性不再歸於閉合軌道,而是開放或成為不可預測的軌跡,初始條件的輕微變化在未來的影響遠未可知。
筆者提醒:
在複雜系統理論中,個體的屬性與特殊性質不再是決定性因素,更重要的是個體之間如何動態地交互,彼此交換資訊,形成一個複雜的整體。
2、回饋
複雜系統多用於描述一個系統的時間變化過程,比如市場價格的波動、神經網路隨時間的活動等。研究這個時間變化過程,往往要考慮此刻的結果對下一刻系統輸出的影響,例如股市就是一種典型的回饋系統。
回饋分為正回饋和負回饋兩種:
- 負回饋導致定點平衡態
- 正回饋導致不穩定性,如雪崩、股市崩盤等
在所有複雜系統中,都有正回饋和負回饋兩種狀態。回饋帶有迴路的概念,一個單元通過相互作用傳遞給另一個單元,反過來另一個單元又可以把資訊傳遞迴來。
一個典型的例子就是市場價格。市場價格永遠圍繞均衡波動,價格高,導致市場買的人變少,買的人少後又導致價格降低,這是典型的負回饋。負回饋吧系統維持在穩定位置,即dx=-x。
3、相變
這是複雜系統的第三個重要特質,而且是組織形成的核心。當系統主導回饋的性質發生變化時,則經歷一個相變。
相變在自然界和社會中無處不在,例如:
- 自然界中,冰和水之前的轉化
- 磁鐵從一種相到另一種相的變化
我們以磁鐵為例來解釋相變這個概念。磁鐵這個東西,並非總是具有磁性,那麼具有磁性和不具有磁性的磁鐵有什麼區別呢?
磁鐵有兩個相,
- 一個是組織成成分均勻一致(有序)的狀態
- 另一個是無序而混亂的狀態
雖然它們都是由鐵原子構成的,但鐵原子只有在有序排序時才會產生磁性,而無序的鐵原子使得每個磁針的磁性相互抵銷了。
這裡就建立了相的概念,而相變,就是通過外部變數使得整個系統從一個相到達另一個相的過程。
對於磁鐵的相關過程來說,我們可以控制的外部變數就是溫度。溫度越高,磁原子的熵就越大,磁性就互相抵銷;當溫度為零時,系統自由能最小的狀態是一致有序的態,即發生相變,稱為磁鐵。
類似的還有水到冰的相變,也是在某個溫度上,無序和有序交替,這稱為臨界。
所謂臨界,就是相變時候的狀態,因為這個時刻是非常特別的。臨界點上的系統屬性特別複雜。
Relevant Link:
https://zhuanlan.zhihu.com/p/90083604 https://www.jianshu.com/p/3c0be8dddf37
2. 複雜性在各個自然科學領域中的體現
0x1:複雜性在生物學領域中的體現
1、蟻群
單只行軍蟻是已知的行為最簡單的生物,如果將100隻行軍蟻放在一個平大部分螞蟻種類的食物搜索大致是這樣進行的:面上,它們會不斷往外繞圈直到體力耗盡死去。
然而,如果將上百萬隻放到一起,群體就會組成一個整體,形成具有所謂“集體智慧(collective intelligence)”的“超生物(superorganism)”。
大部分螞蟻種類的食物搜索大致是這樣進行的:
- 蟻群中搜尋食物的螞蟻隨機朝一個方向搜索,如果遇到食物,就返回蟻穴,沿途留下作為訊號的化學物質——資訊素(pheromones)。
- 當其他螞蟻發現了資訊素,就有可能會沿著資訊素的軌跡前進。資訊素的濃度越高,螞蟻就越有可能跟著資訊素走。
- 如果螞蟻找到了那堆食物,就會返回巢穴,將資訊素的軌跡增強;如果資訊素的軌跡得不到增強,就會消失。
- 通過這種方式,螞蟻一起創造和溝通關於食物位置和品質的各種資訊,並且這種資訊還會適應環境的變化。
蟻群中的工蟻分為四個工種:
- 搜尋食物
- 維護蟻穴
- 巡邏
- 垃圾處理
執行各種任務的工蟻數量能隨著環境變化。戈登發現,如果蟻穴被稍微攪亂,維護蟻穴的工蟻數量會增加。如果附近的食物源很多,品質很好,搜尋食物的工蟻數量就會增加。單只螞蟻可以根據蟻穴環境的變化作出適應性響應,決定採取哪種工作,無需另外的螞蟻來指揮,每隻螞蟻也僅與其他少數螞蟻交互。
答案可能是螞蟻根據它們周圍的環境以及它所遇到的執行各種任務的螞蟻比例來決定自己幹什麼。
- 比如,一隻閑逛的螞蟻——目前什麼也沒有做——在蟻穴附近遇到了雜物,它執行蟻穴維護工作的概率就會增加。
- 另外,如果它發現很多維護蟻穴的工蟻在進進出出,也會增加執行蟻穴維護工作的概率;因為這種活動的增加表明有重要的蟻穴維護工作在進行。
- 類似的,維護蟻穴的工蟻如果遇到了很多搜尋食物的螞蟻帶著種子返回蟻穴,就會增加它轉向搜尋食物工作的概率;因為種子搬運訊號的增加表明發現了高品質的食物源,需要進行採集。
顯然,通過用觸鬚與其他螞蟻交流,偵測與各項工作有關的特殊化學物質,螞蟻就能知道其他螞蟻在做什麼。
2、免疫系統
同大腦一樣,不同動物的免疫系統複雜程度也各不相同,但總體上的原則是一樣的。免疫系統由許多不同的細胞組成,分布在身體各處(血液、骨髓、淋巴結等)。這些細胞在沒有中央控制的情況下一起高效地工作。
免疫系統中的主角是白細胞,也稱為淋巴細胞。白細胞能通過其細胞體上的受體識別與某種可能入侵者(比如細菌)相對應的分子。
有一類細胞被稱為B細胞(B是指它們產生自骨髓,Bone marrow),它具有一種奇特的性質:B細胞與某種入侵者匹配得越好,它產生的後代細胞就越多。這樣就形成了達爾文自然選擇機制,B細胞變得與入侵者越來越匹配,從而產生出能極為高效地搜尋和摧毀微生物罪犯的抗體。
首要前提我們要知道一點:身體中所有細胞表面都有稱為受體的分子。顧名思義,這些分子是細胞接收資訊的途徑。資訊表現為能與受體分子結合的外界分子。
一類淋巴細胞表面覆蓋了一類特定的受體蛋白形態,可以與特定的某一類分子形狀匹配。如果恰好遇到了形狀相匹配的病原體分子(稱為“抗原”),淋巴細胞的受體就會與其相結合,淋巴細胞就“識別”出了抗原,這是消滅病原體的第一步,這一步產生了激活的B細胞。
激活的B細胞被輸送到淋巴結,在那裡迅速分裂,產生出大量後代,複製時由於變異,許多後代的受體形狀都改變了。然後這些後代會與淋巴結俘獲的抗原進行測試。不能結合的細胞很快就會死去。
接下來,帶著這些資訊的B細胞就會向血液中釋放抗體分子。這些抗體與抗原結合,使它們失效,並對它們進行標記,好讓T細胞細胞摧毀它們。
3、進化論
總結一下達爾文理論的主要思想:
- 存在進化,所有物種都來自共同的祖先。生命的歷史就是物種呈樹狀分化。
- 一旦生物的數量超出了資源的承載能力,生物個體就會為資源競爭,從而導致自然選擇。
- 生物性狀會遺傳變異。變異在某種意義上是隨機的——變異並不必然會增加適應性。
- 能夠適應當前環境的變異更有可能被選擇,也就是說具有這種變異的生物更有可能存活,並將這種新的性狀遺傳給後代,從而讓後代中具有這種性狀的個體增加。
- 進化是通過細微的有利變異不斷累積逐漸形成的。
0x2:複雜性在神經科學領域中的體現
1、大腦
從某種意義上講,人類的大腦與蟻群十分相像,兩者都是由相對簡單的個體組成,個體之間只進行有限的通訊,整體上卻表現出極為複雜的系統(“全局”)行為。
在大腦中,簡單個體是神經元。除了神經元,大腦中還有許多不同的細胞,但絕大多數腦科學家都認為是神經元的活動以及神經元群的連接模式決定了感知、思維、情感、意識等重要的宏觀大腦活動。
0x3:複雜性在社會學領域中的體現
1、群體合作
生物歸根結底都是自私的——它們要想在進化中獲得成功,就必須能活足夠長的時間,保持足夠的健康,還要能吸引異性,以繁衍後代。大部分生物為了達到這些目的會毫不猶豫地與其他生物進行鬥爭,採用各種伎倆,殺死或殺傷其他生物。通常的看法認為進化選擇會使得自私或自衛本能得以傳遞給下一代並在種群中擴散。然而與這種看法相反,在生物王國和社會的各個層面上都有許多明顯不符合自私原則的例子。
從底層看,在進化歷程的一定階段時刻,單細胞生物會互相合作以形成更複雜的多細胞生物。
- 後來,又進化出了蟻群這樣的社會性生物,大部分螞蟻為了蟻群的整體利益工作,甚至放棄了繁衍的能力,只讓蟻后來繁衍後代。
- 後來,靈長類動物群體中又湧現出了更加複雜的社會,社會團結一致對外,複雜的貿易,最終出現了人類國家、政府、法律和國際條約。
- 生物學家、社會學家、經濟學家和政治學家都面臨著類似的問題,本質上自私的個體中是怎麼產生出合作的。
這不僅僅是個科學問題,也是政治問題:例如,是否有可能創造條件讓國家之間產生並維持合作,一起應對核擴散、艾滋病、全球變暖等國際問題?
0x4:複雜性在經濟學領域中的體現
1、產業森林概念
世界經濟產業森林
上圖描述的是一個一個叫產業森林的圖。產業森林描述了一個由種類繁多的農業和工業產品組成的關係網。每一個產業即網路裡面的一個節點。
對於產業森林圖來說,最重要的概念有2個:
- 距離:用於度量產業之間的相似度
- 連接:是否屬於同類型產業或者可升級替代產業
事實上,不同產業之間不是孤立的,這裡所說的產業之間的相似度,其實就是構成它們的技術或生產資料要素的相似性。我們可以規定超過一定相似度閾值的兩個產業就可以被聯繫起來,這樣,即可得到一個結構複雜的網狀結構圖。例如“生產蘋果”和“生產梨子”的相似度就很高,如果一個地方適合栽種梨樹,那麼它往往也適合栽種蘋果。
森林中心是高級工業品,森林邊緣是農產品和原材料等。森林中心樹木密集,樹木間盤根錯節(產業間連接緊密),而森林邊緣樹木稀疏,樹木間連接也相對較少,甚至在有些森林的邊緣,有些樹木基本就是孤立的,比如奶牛生產。
2、產業森林概念的應用
接下來的問題是,這樣一個網路結構究竟有什麼作用呢?傳統理論認為這樣一個結構圖沒有什麼用,因為條條大路通羅馬,只要經濟在積累,總有機會到達果實豐碩的森林中心,但事實真的是這樣嗎?
但是複雜網路理論則告訴我們一個完全不同的答案。
首先,一個企業往往用它所佔據的較為優勢的產業來表示。一個企業的發展,被稱作從森林的某些位置向其他位置跳躍的過程。
可以把企業比喻成產業森林裡跳躍的猴子,它可以從一棵樹跳向另一棵樹(產業升級)。當然,猴子的目標肯定都是朝著果實豐碩的中心去的。
傳統的研究認為,如果一個猴子長期無法到達中心,一般認為是猴子的問題,一個預先的假設是猴子只要跳的足夠好,總能從一棵樹跳到另一棵樹,並最終到達森林的中心。但現實情況是,我們會看到有很多優秀的猴子(明星創業者和明星創業項目,但是沒有最終發展上式)沒有能成功跳到森林中心,這是為什麼呢?
我們用森林的結構來闡述為什麼有的猴子能夠到達森林的中心而其他猴子不行,因為森林的結構是很重要的制約因素。
網路的性質至關重要,
- 因為有些網路結構,任何一個猴子經過足夠長的時間都可以到達森林的中心
- 而對於另一些網路,猴子能否到達中心,則完全取決於它們初始所在的區域,在某些區域,即便它有三頭六臂也無法到達森林的中心
前面也提到過,森林的邊緣樹木如同獨立的孤島,而中心的樹木密集。而猴子的跳躍能力是有限的,猴子從森林外側向中心跳躍不是一件容易的事情。
當猴子所在樹的周圍樹木過少且樹木間距過大時,猴子就無法調到下一課樹上。而森林中心的猴子可以很輕鬆地在樹木之間躍遷並摘取豐美的果實,而邊緣的猴子則沒什麼選擇。這就是所謂的“winner take all effection”。
另一個發人深省的現象是猴子能否進入森林的中心和它所在的初始位置以及它在每一次躍遷中選擇的跳躍方向十分相關。
- 如果它開始所在的位置恰好數目間距不大,而且存在能夠到達森林中心的道路,那麼它將很有機會進入中心,反之則很難。
- 同時即便猴子的初始位置很好,但是它沒有選擇好方向,不小心跳到了獨木上,四周沒有其他樹,那麼它被困在那個地方的該就很大
以上面的產業森林圖為例,我們看到勞動密集型工業(汽車製造)和電子產品工業是一條由森林邊緣通往中心的捷徑,品種繁多,相距很近。
相比之下,熱帶作物(咖啡和可可)一直處在森林的邊緣,與森林中心差距較遠(僅橡膠與工業品聯繫較密切),各種熱帶作物間也距離較遠。
0x5:複雜性在風險管理領域中的體現
1、從高斯定律與大數定律講起
曾經一段時間,主宰統計世界的是一個叫“高斯分布”的函數,它的英文”normal“含有正態、標準之意,說的是決定事物整體性質的是它的平均,例如我們可以用1米7代表整個中國人的身高。
我們經常用平均數表達事物的總體狀況,對於做統計的人,平均數幾乎成為信仰,這種信仰背後的基本假設是:只有在我們統計的事物呈現高斯分布時,平均數才能夠代表事物的屬性。
高斯定律讓我們看到了加法的為例。對於一個隨機事件,比如擲骰子,雖然每一次取得的結果從1到6完全無法預測,但是如果擲一萬次,把每次擲的點數加起來就能得到一個可以被越來越精確預測的數。
這個結果可以被一條高斯曲線(本質上就是似然函數)描述,它具有兩個特徵量:
- 平均數:決定了極大似然估計的結果
- 標準差:決定了概率估計的置信度
隨著加數的增多,標準差在平均數面前越來越微不足道,知道可以忽略不計,或者說通過無窮加和,一個隨機事件無限接近成為確定事件。這條法則就叫做大數定理(Law of Large Number)。
但是!要特別注意的是!正態分布有兩個非常關鍵的成立假設!
- 單個細節因素要獨立,不能彼此存在聯繫:例如我們統計伺服器在某個時間窗口內的網路外連次數,希望通過高斯分布建模,發現潛在的異常進程行為。但其實是不合理的!因為每一個時刻的進程網路行為是由上一刻的狀態決定的,例如某時刻有一個進程啟動了,在接下來的10s內,它逐漸提速開始對某一個ip端批量建立tcp連接,那麼在這個時間窗口內,不同時刻之間就不是彼此獨立的,而是呈現時間遞歸依賴性。
- 時間平移不變性:舉個簡單的例子,如果你每次投擲的時候,骰子被人換掉了,變成了一個不斷變化的且加了機關的骰子,那麼你永遠得不到穩定的平均數
大數定理的威力,在於它使得一個確定性的世界可以在龐大的不確定性之上產生。
正態分布和大數定理是所有確定性的根源,因為我們的可見世界就是無數不確定的微觀因素不斷加和的結果。
高斯定律和大數定理保駕著莊嚴的理論物理世界,在這裡,氣體分子之間符合理想模型、光滑水平面和無相互作用、好好學習就能天天向上。然而,現實世界中,黑天鵝摧毀了童話。
2、風險背後的原理 — 黑天鵝效應
基於高斯分布的各類數學工具主宰者龐大的金融帝國上百年,卻成為21世紀初金融危機的罪魁禍首。這背後的緣由,正式複雜性主導的黑天鵝效應。
在黑天鵝出現前,天鵝湖裡的天鵝都是白色的,你可以想像那種天藍色的湖面上飛起千萬隻白天鵝的感覺,遠遠看去如同乞力馬扎羅的雪。
於是我們把白色當成天鵝的標誌,以趨於100%的概率預測天鵝皆白。直到有一天湖面上飛過一隻純黑的天鵝….
從而我們明白,在生物界,特例才是本質,而不是平均。特例總會以比你預想的還要大的概率出現,而把之前的理論打得粉碎。
黑天鵝的本質是個體對總體、細節對全局產生決定性的影響。
用高斯的正態的觀點來看,黑天鵝出現的概率本來可以忽略,因為我們之前已經統計了巨大的白天鵝樣本,但黑天鵝還是出現了,是我們的運氣特別不好嗎?不是的!是冪律分布在作怪!
3、冪律分布(Power Law)
在生物世界中,起主導作用的是冪律分布(Power Law)。
冪律分布的數學表達簡潔無比,不同的冪律分布只體現在冪指數的不同之上。它與高斯定理的本質不同在於,高斯正態分布下那些概率小到可忽略的事件,在冪率分布下卻沒有那麼罕見。
在冪率分布的觀點下,嚴重偏離平均值的黑天鵝的出現是可以理解的,罕見的黑天鵝不僅來到,而且決定著全局。同樣的例子還有經濟學中的帕累托效應,即20%的富人掌握80%的財富。
社會財富的二八定律
另一方面,局部的特徵與全局特徵具有自相似性,冪率正是它的數學表達,
Mandelbrot Set分形結構
海岸線分形
樹葉中的分形結構
4、相變理論對產生黑天鵝效應的解釋
為什麼黑天鵝影響如此之大?現代物理中的相變理論給出了有力的答案。下面用一個具體的例子說明,即雪崩。
雪崩是山頂大面積的血蹄坍塌,本來要倒推一座雪山幾乎是不可能的事情,因此雪崩符合經典的黑天鵝事件的定義,按常理幾乎不會發生,一旦發生即致命。但是為什麼在現實中我們會經常聽到雪崩的事故呢?
雪崩的誘因非常小,可能就是一粒小石子打到雪山上,或者一個人在喊話,這些微小因素在絕大多數情況下都對雪坡毫無影響,但是在一種特殊的情況下,即雪體的臨界狀態,就會發生雪崩。
臨界狀態是一種脆弱的平衡狀態,維持雪體凝聚在一起的力量和使雪體瓦解的力量幾乎相等,但是只要天秤一邊稍微受到一點擾動便萬劫不復。
在龐大的雪坡上投一粒微小的石子,石頭的作用力不是被局部的雪體吸收,而是擴散到整個雪體,如同壓死駱駝的最後一根稻草,使平衡整體倒戈。
黑天鵝本身並不能直接導致相變,而是臨界狀態的存在使得黑天鵝成為決定性力量。
雪崩理論的核心是臨界狀態下細節的作用被無限放大(正回饋)。一個本來只限於局部的小因素在臨界狀態下擴散到全局。雪崩理論遍布各個領域,例如地震、股市崩盤、金融危機。
5、了解了黑天鵝效應後如何規避風險?
生命洪流的本質是一種特殊的相變,因此所有生物的歷史以及我們人類的一生,都無時無刻不在發生臨界狀態,那個小小的雪崩的狀態,那個不可預見的細節決定了全局的狀態。既然明天還活著,黑天鵝就隨時會起飛。這對我們日常應對風險的策略,具有深刻的啟示。
1)快速試錯,快速調整
我們的生命過程就像一個盲人摸象的過程,無論站在哪個時間點,你的資訊量都非常有限,根據非常局部的資訊做出最優選擇的機會幾乎為零。龐大的世界,複雜的歷史,我們都捆綁在自己的路徑上,在黑暗裡瞎摸。
面對這種情況,最好的辦法就是不停試錯,任何過度思考和過度計劃都是多餘的。
我們應該通過快速摸索,增加你對周邊資訊的把握。每一次錯誤,你都可以根據它矯正你對世界的判斷,這樣,幾輪之後,你得到正確選擇的概率將會大大增加。
一個利用試錯進步的典型例子就是市場經濟。
市場經濟把經濟活動的自主權還給個體,雖然每個個體都不是很聰明,但是它們都有一個特點,知錯就改,唯利是圖。它們所主宰的經濟,試錯和糾錯能力都是超強的。其結果是,短時間內資源分配就接近了最優化,雖然還有點波動,但仍超過世界上最厲害的經濟學家的預測能力。這也是凱恩斯自由市場理論的核心思想。
市場經濟是反脆弱的,每一次意外的小概率事件,即黑天鵝事件發生時,它都可以調整過來,並且變得更加成熟,自由市場調節平衡的能力十分驚人。
2)基於隨機遊走策略調整前進方向
自然界應對無常環境進行的一種典型運動方式是先確定一個的的區域,然後做小範圍改變(試錯),如果得到的回饋資訊是不利的,就快速做出一系列大幅度的調整,直至達到一個比較有利的位置,這樣的變動周而復始。
這是一種應對無常最佳的適應方法。如果環境豐饒,則快速跟進,不失良機。反之,又不至於過分執著於不夠好的機會而被困死。
一個典型的例子是鯊魚覓食。鯊魚在魚類豐富的環境進行小步伐的隨機遊走,只要不停地遊動就可以吃到最多的魚。但當魚類相對不足的時候,鯊魚就會進行大步伐的躍遷,這種躍遷也是隨機的,卻具備一次改變較大的特點。
小步伐的隨機遊走比較容易窮盡開採一個地方的資源,但不容易到達較遠的地點,而大步伐的躍遷卻有利於開發新的領地,尋找新的食物來源。
整個宇宙都可以理解為在隨機運動下導致對稱破缺(有序產生)的過程。
筆者思考:
對於複雜系統,我們只需要管理某些對系統產生核心影響的事件,而對其他事件放任,讓自然來管理。
抓大放小,就是在能量有限的情況下,專註於做重要的事情。若是把精力過多地放在微小因素上,就會無暇顧及核心因素。而微小因素往往會在恰當的時候自發解決。老子所說的無為而治,就是指大自然早已給我們設計好了節能優化模型,把一些事情交給自然,剩下的事情才可以儘力到底。
3)杠鈴策略 — 風險對沖
前面的兩種策略都屬於被動避險策略,現在我們反其道而行之,反向利用“無常”和“分布函數”嘗試進行獲利。
所謂杠鈴策略,是一個形象化的指代,杠鈴兩頭重中間輕,其實它就是無常的化身,冪律函數的縮影。
冪律函數有兩個特點:
- 大頭:指較高頻率,但影響微小的事件
- 長尾:指較低頻率,但對系統產生重大影響的黑天鵝(積分發散)
杠鈴策略,就是同時把握大頭和長尾,利用分布函數獲利。
下面利用複雜系統的非線性動力學分別介紹”弱杠鈴策略“,以及僅利用分布函數形狀的策略的”強杠鈴策略(槓桿原理)“。
3.1)弱杠鈴策略:風險組合
最簡單的應用莫過於高風險和低風險事件的組合。比如,
- 一個人應先有一份穩定的職業,然後再去做一些高風險的投資。人是無法承擔無限風險的,一個領域的風險,總要由另一個領域來吸收。
- 要做一件有壓力的大事,你就需要一些特別簡單的愛好讓你能夠在工作之餘吸收進去。這裡大事和無聊的愛好恰好是啞鈴的兩端。
- 要啟動一個風險極高的新項目,就需要有一些能穩定保底的項目作為後方支撐
杠鈴策略的另一個典型應用是人的知識結構,最有效的知識結構亦呈現冪律分布,專一的技術是頭,光波的知識是尾。專一技術是人立足江湖的必殺技,但是在很多特殊的關鍵時刻,廣博的知識又起決定作用。在巨大的未知性面前,僅有專一的技術往往是脆弱的,就像溺水的人工智慧專家,決定他命運的不是電腦知識,而是是否會游泳。
3.2)強杠鈴策略:風險對沖
弱杠鈴策略強調互補,而風險對沖則強調相反相成。簡而言之,就是一種事物的風險,恰恰構成另一種事物的機遇。
杠鈴一端的損失就是另一端的收益,當一端向下時,另一端恰好向上。聰明人利用這個槓桿,把生活中向下的波動轉成向上波動的契機。
對沖的基礎其實是事物的非線性,如果你同時買進分布兩端的事物,而這兩個事物又存在反向關聯(當A下降時,B有上升趨勢,或反之)。最關鍵的是,這種關聯是非線性的(A的下降不等於B的上升,下降總是小於上升),一端小的下降總會引起另一端較大的提升。
這種非線性的對沖,保證了在任何情況下,你的收益都為正。
懂得在生活中使用對沖法則的人從不會焦慮或者為任何事請沮喪,
- 失眠的時候,就博覽群書,用閱讀上的豐富來對沖失眠帶來的損失
- 創業失敗的時候,就總結經驗,重新打磨產品,拓寬生命的寬度
- 項目暫時不順,上下游依賴暫時沒到位的時候,就先專註在技術研究上,用技術上的升級來對沖項目進展的遲緩,等到上下游問題解決後再蓄力一擊
4)實用理想主義
杠鈴策略之一就是實用主義和理想主義的結合。最優秀的理想主義者,往往要奉行最強大的實用主義原則,理想和實用就是杠鈴的兩端。
懂得杠鈴主義的人會把一些事情用最大的實用主義解決,然後就可以無憂無慮地搞理想。
0x6:複雜性在網路安全數據分析中的體現
小概率的黑天鵝事件,是網路安全最常見的現象。無論我們積累了多少領域經驗,或者是動用了多麼龐大的訓練樣本集,小概率的誤報事件總是會不定期地出現。
Relevant Link:
https://www.jianshu.com/p/ee54998e4d60
3. 從物理角度看複雜
非線性動力學,是用物理學的思維理解複雜系統的一座豐碑,也是非常有前途的工具學科,它為大數據時代提供了潛在的分析引擎。
之所以說非線性,是因為物理之外的系統大多數不能用線性系統表述。
動力學的核心使命是預測系統的變化,非線性動力學的核心使命也是如此。一個經典的非線性動力學系統具有如下標準的表述形式:
,x是一個向量(vector),它所具有的分量個數即系統的維度
預測一個系統的未來,你需要知道它在微小時間尺度里的性質,並列出動力學方程。
維度是動力學系統的最基本屬性,它決定了系統的複雜性,以及其可能具有的基本性質。我們本章將從低維到高維,逐層遞進講述複雜性是如何隨著維度的升高而產生的。
0x1:一維繫統的複雜性 — 定點
最簡單的系統是一維繫統,預測一個一維的非線性系統,往往只需抓住一個關鍵性資訊,定點。
1、從馬爾薩斯人口論說起
18世紀末,在工業革命前夜的英國,一個叫馬爾薩斯的思想家提出了這樣一個困擾人類幾個世紀的問題:人類的人口呈現指數增長,而食物的總量至多成代數增加,所以當人口的增加超過食物時,人類將不可避免地陷入饑荒、疾病和戰爭。而普遍性的貧窮,是人類文明的宿命。
這個理論解釋了為什麼許多古代文明陷入發展停滯的泥沼,例如埃及。
2、非線性動力學中定點的概念
馬爾薩斯的理論,其實詮釋的是一個叫作Fix Point(定點)的動力學概念,即在一個複雜系統里,事物的增長往往不是線性的,而是存在一定的穩恆狀態,系統的變化會逐步減速並自發地把自己維持在這個狀態上。這樣的現象在生活中不勝枚舉,例如:
- 小孩長高到一定程度後就會減速,直至不長了
- 你在網上髮狀態,開始有很多人點贊,但在一定時間後減速直至停止
馬爾薩斯的人口論符合一個叫作logistic model的經典一維動力學模型,它也因為它美妙絕倫的S曲線而聞名。
這個模型說的是,在沒有環境壓力的時候(人人吃飽飯),人口的增長率是恆定的,所以人口的增加會呈現出指數增長。但是一旦人口接近環境的閾值,就會有人開始餓死,而且餓死的比例會隨著人口的增加而增大(負回饋)。這樣,當餓死的人數量等於出生的人的數量時,兩個此消彼長的要素就在某個點上平衡了,即所謂的定點。
反映在數學誰給你,就是這樣一個微分方程:
- rN:描述人口增長
- 1-N/K:描述飢餓帶來的人口負回饋
- K:代表環境人口容量
所謂的定點,就是使該微分方程(人口變化率)為零的點,當人口數恰好處在這個點上時,就會不增不減。
這個定點具有一個更深刻的性質,無論人口一開始是多少,只要K給定,系統就會趨於一個相同的值。這個值由環境本身的容量所決定。
除了人口增長曲線之外,S型曲線(sigmoid function)的身影在自然界比比皆是,反映了自然生產的一般規律。
3、定點的穩定性
動力學裡最重要的額概念之一是定點,但是定點本身卻只有很少的資訊,更關鍵的性質來自於對定點周圍區域的分析,或者說定點的穩定性。
我們用一個被稱為穩定性的概念來描述這一特性。穩定性描述的是系統處在定點周邊的狀態,它是比較容易進入定點還是比較容易離開。
從物理的角度很容易理解一個定點是穩定的還是不穩定的,只需要稍微離開定點,看一下系統的運動情況,看看系統在定點的相鄰區域里的運動趨勢怎麼隨位置變化的。翻譯成動力學語言就是在定點周圍進行泰勒展開,並取一階線性近似(在一維情況下就是我們熟悉的斜率,在高維情況就是雅可比矩陣的特徵值)。如果在定點周圍的運動趨勢指向定點(線性的斜率為負,或者雅可比矩陣特徵值為負),則定點在局域內穩定,反之則不穩定,如下圖所示:
定點的穩定性,取決於泰勒展開的不為零的第一項的正負
穩定性,還有另一個同名詞叫吸引力。一個穩定性定點,就像一個區域里的黑洞,它能把進入其轄區內的所有人都吸收到它的點上。它所管轄的區域,被稱為Basin of Attraction。它是強韌性的代表,不論你怎麼干擾它,迫害它,結局終將歸於它。
找到Basin of Attraction是利用定點預測系統的必備條件,給定一個系統,如果它的初始位置處在Basin of Attraction,那麼它將永遠停留在該點上。
不穩定性就是脆弱性的代表,任何環境的風吹草動都能結束它表面的美麗和平靜。而最強的定點具有全局穩定性,即無論任何初始條件,系統都將趨於這樣的定點,這樣的系統就是高度可預測系統。
大部分時候,很多系統是穩定點和不穩定點成對出現。比如前面說到的人口模型,人口為0就是一個不穩定平衡點。當人口為0的時候,它可以永遠為零,但只要系統的人口增長了哪怕1,它就是不可阻止地趨於定點K,掌控系統除0之外所有區域的穩定點。這就是黑天鵝冪率效應。
0x2:二維繫統的複雜性 — 振動
1、振動普遍存在
在開始討論之前,讀者朋友們可以先思考幾個問題:
- 為什麼振動普遍存在?
- 為什麼自由競爭的結果往往是壟斷?
- 如何理解經濟周期的運行?
要解決這些非常基本的問題,我們需要一個二維的動力學系統。二維可以描述一個比一維豐富得多的現象,正如同物理學從描述兩個物體的相互作用開始描述了世界。
一維的系統往往歸於單調的定點,而二維繫統的主角缺失振動,也是人類幾千年來描述自然最有利的工具。
從自然到人類,世界可以看作非同步不同頻率振動組成的交響曲:
- 四季周而復始
- 太陽升起落下
- 我們的呼吸、脈搏、心跳、新陳代謝
- 生命的更替
- 經濟系統的周期漲落等
幾乎有運動的地方,就有振動。
為什麼振動的形式如此廣泛地存在?其本質是因為定點的廣泛存在。振動就是圍繞一個確定狀態的上下波動。就好像希臘神話里的西西弗斯,把石頭推上山,在到達山頂時又立刻滾落下去,然後他又推上山,他想讓石頭停在山頂不動,可卻做不到。
2、龐加萊的Poincare-Bendixson Theorem定理
為什麼振動如此普遍,非線性動力學之父龐加萊給出一個定理,條件如下:
- 2D:有一個二維的動力學系統
- Continous:系統連續可微
- Confined:動力學流,在一個區域內封閉
- No Fix Point:在封閉區域內定點不可達到
龐加萊得出結論:該區域內的動力學流將收斂於一條閉合軌道。
簡單來說,
相平面的閉合軌道=周期性運動=振動
這個定理告訴我們,有限二維繫統里的運動形式只有兩種:
- 平衡態:歸於定點
- 周期運動
由於自然界中負回饋普遍存在,因此系統不會無限取值或發散,因此系統是有限的。這條定律解釋了振動普遍存在的根本原因,它是二維運動的範式。
龐加萊定理告訴我們,二維動力學流,不是流向定點,就會形成閉合軌道。這條定理確立了非隨機的二維繫統的絕對可預測性,二維繫統沒有混沌。
當我們發現振動,就可以去系統里尋找有沒有兩個關鍵性的動力學變數,並且觀察這個系統是否有穩定的平衡態。如果沒有平衡態,則往往預示著該系統存在著一個無定點的閉合區域。
3、能量守恆系統的振動
經典物理的振動核心在於能量守恆,無論是彈簧的上下振動、單擺的往複振動、還是電子波的正弦振動。對這類系統的傳統解法是對微分方程進行積分,以得到運動的軌跡。但是利用一些動力學的基本知識我們也可以完全不用積分就能了解它的運動性質,如下圖所示:
下面以單擺為例。首先,將微分方程寫成標準的二維動力學系統形式,即體系內有兩個動力學變數:角度和速度。
然後,尋找定點(動力學流為0),顯然是 θ=0,v=0。
接下來,看看該定點是否可以達到,顯然,只要系統能量不為0,就不可能達到該狀態。
最後,系統是否在相平面內封閉?答案是肯定的,因為恢復力-sin(θ)起負回饋作用,根據能量守恆定律,θ和v均在有限區間取值。
因此,系統在相平面內,收斂到一個圓周封閉運動中,如下圖所示,
4、能量不守恆的開放系統里的振動
當一個系統有能量流入流出時,我們稱之為開放系統,對於一個二維的開放系統,龐加萊定理依然成立,系統若不歸於平衡,則步入永恆的循環。
對這類系統來說,顯然有比兩個多得多的變數,但是如果把關注重點集中在它們進行周期性運動的時間範圍,往往可以抽象並抓住兩個關鍵性變數,並用二維動力學系統的知識來解決。
一個最典型的例子依然是關於物種數量的例子,前面說過,一維的人口模型里人口將達到定值,而事實上,自然界中的物種數量卻是震蕩變化的,這是為什麼呢?
要解決這個問題,就需要對自然界物種之間的關係進行抽象簡化,討論兩兩物種之間共存的情況(二維)。
試問下面的問題,在一片草原上生活著獅子和羚羊,獅子吃羚羊,羚羊吃草(假設草是無限的),假設一開始物種數量是均等的,那麼後來兩個物種的數量變化會是怎樣的呢?
顯然,兩個物種間有相互作用,
- 獅子的存在依賴於羊,即羊肉以一定的比例變成了獅子
- 而羊的數量因為獅子而減少。如果沒有獅子,羊的數量增長就符合經典的S曲線
- 同時,羊數量的減少,反過來又制約了獅子數量的增加,因為事物少了
這個系統可以用一個Lotka-Volterra方程的經典二維動力學系統表述:
- x:羊的數量
- y:獅子的數量
- ax:羊的自然生長率
- βxy:羊被吃的數量,它由獅子數量、以及兩個物種相遇的機會
- δxy:獅子可以理解為由羊肉轉化出來的,δ代表了羊肉向獅子的轉化率
- γy:獅子的死亡率引發的獅子數量減少
接下來的問題是,如何預測兩個物種的數量變化?
首先進入相平面,我們看到系統的流形(每一點的微分(dx,dy)構成一個向量,畫出箭頭猶如流體力學的流速線)。
然後我們分析定點,二維繫統里含有兩個微分方程,如果一個微分方程為0,例如dx=0,我們將得到一個代數關係x=k xy,在相平面里這對應一條線,即Nullcline。在這條線上,第一個變數處於平衡態。同樣,我們可以找到變數y的Nullcline,對應相平面的另一條線。這兩條線如果有交點,即二維繫統的定點,或者說系統的平衡態。
這個問題可以很容易找到四條Nullcline和兩個定點:
- 一個是(0,0)
- 另一個是第一象限中的(a,b)
對第一個定點(0,0)來說,代表兩個物種都滅絕了,這種情況是羊死光了才會出現。因為假設獅子死光了,羊就會無限增長(遠離定點)。在相平面上,就表現為動力學流沿著y軸(對應羊死光的情況)收斂為0,而沿著x軸(對應著獅子死光的情況)發散,如下圖所示:
這一現象的隱含含義是(0,0)點在x方向上是不穩定性定點,而在y方向上是穩定性定點。
這種在一定方向上收斂,而在另一些方向上發散的定點,被稱為Saddle Point(鞍點)
再來看看另一個定點,即第一象限內的定點(a,b),它描述兩個物種數量互相制約的平衡狀態,看似是一個合理的結局,即獅子和羊的數量達到平衡,這不就是所謂的生態平衡嗎?
如果這樣想,那麼就是停留在初中生物課層面了。在這個定點周圍找幾個點,通過畫出(dx,dy)的箭頭即可知道,它們都不是朝向這一點,而是圍著這點轉圈。
利用龐加萊定理可知,系統將永遠不能陷入這個點,而是圍繞這個點形成閉合軌道,即震蕩。系統的兩個物種的初始數量只要不是有一個滅絕或恰好一開始就匹配平衡,都將形成一個振動變化關係。
生態學中真正的穩定性,其本質是動力學系統里振蕩。
Lotka-Volterra系統在經濟學中也有重要應用。凱恩斯學派用以解釋勞動僱傭資本率和資本的周期性振蕩。這一理論把資本對應為獅子,而勞動僱傭率是獵物,兩者總是不能自發地處於定點(100%僱傭率),而是長期處在周期性的振蕩狀態。
整個凱恩斯理論都可以放入一個簡化的二維動力學系統。生產和需求作為一對互相追捕卻永遠捕不到對方的對手,將陷入不停歇的振動狀態,即經濟周期。它導致經濟運行不可避免的在一定時間內走向低谷。
5、分叉與相變
二維繫統可穩定存在的運動狀態有兩個:
- 定點
- 振動
這兩種狀態可以轉化,有的是從一個定點到另一個定點的轉化,也有的是定點和振動之間的轉化,這就涉及一個非線性動力學永恆的主題,Bifurcation(分叉)。
我們用分叉研究一個動力學系統的演變。動力學系統由狀態變數(系統可以自由變化的量)和控制變數(參數)組成。在二維的世界裡,參數給定後,即可得出動力學流型,從而一切皆可精確預測。
真實的世界從來沒有一成不變的參數,真正不變的只有變化,甚至有的時候參數和變數甚至難以區分。
因此,非線性動力學給出了對世界的最精密的描述,不是確定參數下的流型,而是在參數空間里對應的不同相平面的流型。簡單地講,動力學不僅感興趣我們所在的世界,而是所有可能的世界(一參一世界)。參數的空間好比一個小徑分叉的大花園,每一點上都有一扇窗戶,打開後就可以看到那個世界的可能性。在這個花園裡,我們可以看到一種可能性是如何演化成另一種可能性的。
這麼說有些抽象,我們以二維世界為例,如下圖:
可以看到十字線和一個拋物線。這是最簡單的線性二維動力學系統,完全可以通過求解係數矩陣的特徵值解決。
首先看這個系統的定點(0,0),系統是被這個定點牢牢抓住,還是圍繞它振動,還是遠離它而去,則取決於系統的參數。
這個平面的橫軸和縱軸代表了這一矩陣特徵值的實部和虛部。當系統的參數變化時,表現為係數矩陣的特徵值在這一平面上的運動。
- 特徵根的實數部分的正負決定了系統是趨於穩定的定向,還是發散:
- 若是為負則意味著將收斂到定點
- 若是為正則意味著將遠離定點而去
- 如果實數部分為0,特徵根只有虛部,那麼意味著系統既要遠離定點又跳不出它的引力範圍,最後就變成圍著它轉,即振動的情況。虛部的正負決定了系統圍繞定點轉動的方向
那麼什麼是Bifurcation呢?它本質上就是參數空間里系統動力學流的性質發生質變的點。例如上圖中的拋物線頂點。當系統的參數變化越過拋物線時,系統就從穩定吸引變成了發散原理定點,這個過程就是Bifurcation。
Bifurcation標誌著系統的動力學性質發生徹底的變化,好比兩個人在路上走著走著,突然到了岔路口,從此南轅北轍。
在動力學家的眼力,只有那個Bifurcation Point具有關鍵意義,可以起到區分不同系統的作用,其他小的變化都忽略了。
Bifurcation正是物理里相變的化身,在動力學的世界觀里,定量的改變等於沒改變,而只有Bifurcation才是真正的變化。物理、化學、生物一切最有趣的現象,都在Bifurcation Point上,因為它的敏感,成就了它的無限可能。
6、高維繫統與混沌
當系統的維數達到三維時,主宰動力學模型的就不再是那些穩定可測的點或圓環,而是初值敏感,極難預測的混沌。
混沌其實不是說完全隨機不可預測的系統,系統依然具有確定性的方程,只是其複雜性使得它看上去像是隨機的、毫無秩序而已。
對三維繫統的穩定狀態,就是三維空間里複雜的曲面,我們稱之為吸引子,是三維空間里吸引系統進入的一個物體。
下圖為洛倫茲吸引子的形狀:
為什麼說三維非線性系統可產生混沌?因為物體被一整個曲面吸引,不知道往哪裡去了。即使它被禁閉在這個曲面上,也可以具備無數的軌道(面上的曲線),軌道變得複雜不可預測,因而表現出混沌的樣子。
洛倫茲以它優美的洛倫茲方程證明了混沌是如何從一個三維的確定性系統里產生出來的。
下圖為洛倫茲吸引子,由洛倫茲方程確定的三維繫統具有兩個吸引中心(定點),系統圍繞兩個定點旋轉,形成極為複雜不可捉摸的軌道,形如扇扇翅膀的蝴蝶。
對這一系統最簡單的理解是,洛倫茲系統依然描述閉合軌道,這和之前描述的二維繫統的振動是相同的。
但是在三維繫統里,我們有兩個定點,以及隨之確定的吸引子曲面。系統時而圍繞著其中一個定點旋轉,時而圍繞著另一個定點旋轉,但是什麼時候改變圍繞旋轉的對象卻是不可知的,或者說是概率性的。
混沌準確的定義是相鄰軌道的穩定性,或者說初值敏感性。
混沌實則是複雜秩序的產生者,它所產生的秩序,叫作分形結構(fractal)。分形結構的本質是自相似性,或者說標度不變性。
Relevant Link:
《機器學習 vs 複雜系統》