A New Discrete Particle Swarm Optimization Algorithm
題目:一種新的離散粒子群優化演算法
中文摘要
粒子群優化演算法在許多優化問題上表現得非常好。粒子群優化演算法的缺點之一是假設演算法中的變數為連續變數。本文提出一個新的粒子群優化演算法,能夠優化離散變數。這個新演算法被稱為整數和分類粒子群優化演算法,該演算法融合了分布估計演算法的思想,即粒子代表概率分布而不是解的值,並且PSO更新修改了概率分布。本文描述了該演算法,並將其性能與其他離散PSO演算法進行了比較。實驗表明,該演算法比其他離散PSO演算法要好 。
中文引言
離散優化問題,如貝葉斯網路中的特徵選擇或推理,是一組重要且具有挑戰性的問題。這些問題不同於連續問題,因為每個變數的狀態是有限個。在整數問題的例子中,變數被限制為一組整數值。對於此類問題,相鄰值之間存在一種關係。一般而言,整數中存在一種隱式排序:差異較大的整數被認為是相距較遠的整數。
雖然整數問題是離散問題的子集,但也有其他類型的問題。例如,在貝葉斯推理中,目標是找到一個能很好解釋一組觀察結果的狀態集。在這裡,相鄰狀態之間可能不存在直接關係或梯度。例如,假設狀態集是悲傷、恐懼、憤怒、喜悅和厭惡的情緒。雖然在優化過程中這些狀態可以用整數表示,但這種編碼的值之間沒有真正的有序關係。我們把這類問題稱為分類優化問題。
注意:這裡的順序關係就是數學中的大小關係。
粒子群優化是一種相對簡單的搜索演算法,適用於各種各樣的優化問題。然而,原始PSO演算法無法處理離散問題,如上述問題,因為其速度更新需要連續的解值。目前,雖然離散的定義在應用程式和演算法之間有很大差異, 但是PSO演算法的幾個變體允許離散值。本文正式給出離散問題的定義,並針對這問題提出了一種新的粒子群優化演算法,稱為整數和分類粒子群優化演算法(ICPSO)。然後將ICPSO與文獻中提出的其他離散PSO變體進行比較。
ICPSO演算法的目標是保持對連續PSO的擴展儘可能簡單,並保留大部分原始語義,同時解決其他離散PSO演算法的一些潛在缺陷。為了實現這一點,我們改變粒子位置的表示形式,以便粒子的每個屬性都是其可能值的分布,而不是值本身。這類似於分布估計演算法(EDA),其中使用一組擬合個體生成分布向量,然後生成擬合解。ICPSO與EDAs的不同之處在於,該演算法具有多個分布向量,這些分布向量使用PSO更新公式進行更新。
對於ICPSO,評價粒子變為從這些分布中抽取候選解並計算其適應度的任務。ICPSO還允許使用原始PSO更新公式,避免了可能解值的隱式排序相關的問題。另外,每當產生一個全局最優樣本時,ICPSO會修改全局最優解和局部最優解的分布。這使得分布偏向於產生的最優樣本,同時仍然允許搜索空間的探索。
傳統PSO演算法
--後續補充

