Yann LeCun 大戰「鍵盤俠」，除了數據，「AI偏見」到底來自哪裡？

2020 年 7 月 30 日
AI

作者 | 青暮

編輯 | 叢末

近期一篇關於影像超解析度的論文引起了不小的爭論，一切都起源於以下這張圖片：

針對這張圖，Yann LeCun在推特上發表了這麼一句話：「當數據有偏見時，機器學習系統就變得有偏見。這個人臉上取樣系統讓每個人看起來都像白人，因為網路是在FlickFaceHQ數據集上預訓練的，而這個數據集主要包含白人影像。」

這為LeCun招來了不少的批評，很多網友認為LeCun在提出狹隘甚至錯誤的觀點誤導人們，並紛紛提出了自己的質疑。LeCun對這些質疑一一回應，但仍得不到理解。最後LeCun不得不一條一條地解釋自己的觀點，才緩和了這場爭論的氣氛。

爭論的焦點在於：AI產生偏見的原因是否只是數據集導致？演算法本身的缺陷能不能成為原因？

網友們的論點主要包括以下幾點：

1、只要是在有偏見數據上進行基準測試，那麼這樣的偏見也會反映在機器學習系統的歸納偏置上。

用有偏見的基準推進機器學習並要求工程師簡單地「使用無偏見的數據重新訓練模型」是沒有用的。

2、我們不都知道機器學習演算法帶有數據偏見以外的歸納偏置嗎？

3、當數據帶有偏見時，機器學習系統就是有偏見的。但某些機器學習系統的偏見不是由於數據，並且構建100%無偏見的數據集在實際上是不可能的。並且我們發現很多時候，假如數據帶有少量的偏見，系統會將其放大，並變得更加有偏見。

4、在完整的美國人數據集上訓練：當你使用L2損失，大多數人都像白人；當你使用L1損失，大多數人都像黑人。別再覺得偏見和演算法無關了。

5、承認這個結論要求極大地縮小演算法的定義範圍。你忽略了表徵的選擇、損失函數的選擇、訓練方法的選擇以及超參數等等。

6、確實，這是個需要證明的大膽斷言。AI學習過程應該是架構、數據、訓練演算法、損失函數等等的相互作用。

對於這些評論，LeCun澄清道，他只是認為，在大多數現代機器學習系統中，數據是主要的偏見來源。

LeCun 表示：

在7年前，大多數機器學習系統使用手工特徵，這是偏見的主要來源。但是現在，人們開始使用深度學習架構，很大程度上減少了源於特徵選擇和架構設計的偏見。所以我才認為現在數據是主要的偏見來源。我不是在討論機器學習理論性質上的歸納偏置（這是獨立於數據的）。我所討論的是現在在機器學習系統中經常見到的偏見，這些偏見可能源於特徵或數據。但如果特徵是用深度學習學到的，那麼偏見不應該主要存在於數據嗎？」

另外，相比損失函數的選擇，通過在訓練過程中均衡樣本的類別頻率來修正這種偏見會遠遠更加高效。

但是也有學者認為演算法和數據之間並沒有清晰的分界線，均衡樣本的類別頻率也是一種演算法的選擇。偏見並非單純來源於數據，也可能取決於研究人員本身。

對於也可能取決於「研究人員」本身這一觀點，LeCun回應道：

當然。但是在logistic 回歸、全連接網路或卷積網路之間進行選擇，並不會導致系統固有地偏向某些類型的人。當手動設計特徵時，就會引入偏見。而且，數據顯然是可以有偏見的。

到了這一步，爭論各方似乎都不太清楚對方在表達什麼了。於是最後，LeCun在一系列的推文中清楚地表達了自己的觀點：

我沒有說「僅當數據有偏見時機器學習系統才有偏見」。

我只是表達了對PULSE這篇論文的看法。

機器學習系統中導致社會偏見的原因很多（這裡不談論更一般的歸納偏置）：

1.如何收集數據和格式化

2.特徵設計

3.模型的架構

4.目標函數

5.部署方式

當使用沒有手工特徵的原始輸入時（如現代深度學習系統中常見的那樣），特徵設計引起的偏差的重要性要小得多。

如果使用別人的預訓練模型作為特徵提取器，特徵將包含該系統的偏見。