2029年會實現通用人工智慧嗎？Gary Marcus「叫板」馬斯克：賭十萬美元如何？

2022 年 6 月 2 日
AI

作者｜王玥

編輯｜陳彩嫻

5月30日，世界級紅人埃隆·馬斯克（Elon Musk）發了一條推文，稱：

2029年是關鍵的一年，如果那時候我們還沒有實現通用人工智慧（Artifical General Intelligence，AGI），我會覺得很奇怪。火星上的人們也一樣（覺得奇怪）。

馬斯克發推不久，知名人工智慧科學家、紐約大學心理系教授 Gary F. Marcus 立即寫了一篇博文叫囂馬斯克，從五個方面向馬斯克「科普」了通用人工智慧的知識，提出自己認為2029年不可能實現 AGI 的原因。

對於Gary Marcus的叫板，馬斯克還沒回復。

聖達菲研究所的人工智慧專家梅蘭妮·米切爾（Melanie Mitchell）建議把賭注放在longbets.org網站上，Marcus稱，只要馬斯克願意打賭，自己就欣然赴約。

以下是Gary Marcus反駁馬斯克的五個角度，AI科技評論作了不改原意的整理如下：

馬斯克是個「大話」預言家

第一，馬斯克對時間的預測總是不太準確。

2015年時，馬斯克說距離真正的自動駕駛汽車出現還有兩年時間；從那以後他每年都說同樣的話，但真正的自動駕駛汽車到現在還沒出現。

馬斯克不關注邊緣案例的挑戰

其次，馬斯克應該更多地關注邊緣情況（也就是異常值，或不尋常的情況）的挑戰，並思考這些異常值對預測可能意味著什麼。

因為長尾問題，我們很容易認為 AI 問題比實際情況要簡單得多。我們手上有大量的關於日常事務的數據，當前的技術很容易處理這些數據，這就會誤導我們，給我們一種錯誤的印象；而對於罕見的事件，我們得到的數據非常少，且目前的技術很難去處理這些數據。

我們人類擁有大量的不完全資訊推理的技巧，也許可以克服生活中的長尾問題。但對於目前流行的、更多依賴大數據而非推理的人工智慧技術來說，長尾問題是一個非常嚴重的問題。

2016年，在一篇題為「Is Big Data Taking Us Closer to the Deeper Questions in Artificial Intelligence?」的採訪中，Gary Marcus試圖就此發出警告。他當時是這麼說的：

儘管有很多關於人工智慧的炒作，也有很多資金投入人工智慧，但我覺得這個領域正朝著錯誤的方向發展。在深度學習和大數據這些特定的方向上，目前有很多唾手可得的成果。人們對大數據以及大數據現在給他們帶來的東西感到非常興奮，但我不確定它是否會讓我們更接近人工智慧中更深層的問題，比如我們如何理解語言或我們如何推理世界。

…

再想想無人駕駛汽車。你會發現在一般情況下，無人駕駛汽車是很棒的。如果你把它們放在帕洛阿爾托天氣晴朗的地方，車輛性能會非常棒。但如果你把車輛放在下雪或下雨的地方，或者以前沒見過的地方，這些汽車就難免出問題。Steven Levy寫了一篇關於Google自動汽車廠的文章，文章中他談到了2015年底的研究讓他們終於讓系統能夠識別樹葉。

系統確實能識別葉子，但對於不常見的東西，就不能獲得那麼多的數據。人類之間可以用常識來溝通。我們可以試著弄清楚這個東西是什麼，它是怎麼到那裡的，但是系統能做的只是記憶東西，這才是真正的限制。

圖註：特斯拉自動駕駛撞上價值300萬美元的噴氣式飛機

意想不到的情況一直是當代人工智慧技術的禍患，而且可能會一直是，直到真正的革命出現。這就是為什麼Marcus保證馬斯克不會在今年或明年推出L5級別的自動駕駛汽車。

異常值並不是完全無法解決，但仍然是一個重大問題，迄今還沒有已知的魯棒的解決方案。Marcus認為人們必須擺脫對深度學習等現有技術的嚴重依賴。距離2029年還有7年，7年是很長的一段時間，但是如果要在這個十年結束之前實現AGI，這個領域就需要在其他想法上進行投資。否則，僅僅是異常值就足以使實現AGI的目標失敗。

通用人工智慧範圍很廣

馬斯克需要考慮的第三件事是，AGI是一個涉及面很廣的問題，因為智慧本身的涉及面很廣。Marcus在此處引用了Chaz Firestone和Brian Scholl的這句話：

世上並不只有一種思維方式，因為思維並不是一個整體。相反，思維是可以分為部分的，而且其不同部分以不同的方式運作：「看到顏色」與「計劃度假」運作的方式不同，而「計劃度假」與「理解一句話」、「移動肢體」、「記住一件事」或「感受一種情緒」都不同。」

例如，深度學習在識別物體方面做得相當不錯，但在計劃、閱讀或語言理解方面做得差一些。這樣的情況可以用下圖表示：

目前的AI在某些感知方面做得很好，但是在其他方面仍需努力。即使在感知中，3D感知仍然是一個挑戰，場景理解也沒有解決。對於常識、推理、語言或類比等幾個領域，仍然沒有任何穩定或值得信賴的解決方案。事實是，這張餅狀圖Marcus已經用5年了，AI的情況卻幾乎沒有改變。

在Marcus發表於2018年的文章「Deep Learning: A Critical Appraisal」中，他總結道：

「儘管我提出了這些問題，但我不認為我們應該放棄深度學習。

相反，我們需要重新定義深度學習：深度學習不是一種通用溶劑，而應該是一種工具，除了這種工具，我們還需要鎚子、扳手和鉗子，更不用說鑿子、鑽頭、電壓表、邏輯探頭和示波器。

四年過去了，許多人仍然希望深度學習能成為萬能葯；可這對Marcus來說仍然是不現實的，他仍然認為人類需要更多的技術。實事求是地說，7年可能不足以發明這些工具（如果它們還不存在的話），也不足以將它們從實驗室投入生產。

Marcus向馬斯克提出2018年「量產地獄」（馬斯克認為Model 3電動轎車量產階段猶如地獄般煎熬，並稱之為「量產地獄」）的情形。在不到十年的時間裡要對一套以前從未完全集成過的技術進行這樣的整合，要求會非常高。

Marcus稱，「我不知道馬斯克打算把Optimus（特斯拉的人形機器人）打造成什麼樣，但我可以保證，通用家用機器人所需要的AGI遠遠超過一輛汽車所需要的，畢竟汽車無論是在公路上開還是在馬路上開，或多或少都是差不多的。」

4

複雜的認知系統尚未打造

馬斯克需要意識到的第四件事是，人類仍然沒有一個適當的方法論來構建複雜的認知系統。

複雜的認知系統有太多的活動部件，這通常意味著，製造無人駕駛汽車等東西的人最終就像在玩一個巨大的「打地鼠遊戲」，往往剛解決了一個問題，又出現了另一個問題。一個修補程式接一個修補程式有時能派上用場，有時則無效。Marcus認為不可能在不解決方法論問題的情況下得到AGI，而且他認為目前還沒有人提出好的建議。

使用深度學習進行調試非常困難，因為沒有人真正理解它是如何工作的，也沒有人知道如何修復問題，以及收集更多數據和添加更多層等等。大眾所知道的那種調試在經典編程環境中並不適用；因為深度學習系統是如此不可解釋，所以人們不能通過相同的方式思考程式在做什麼，也不能指望通常的消除過程。相反，現在在深度學習範式中，有大量的試錯、再訓練和重新測試，更不用說大量的數據清洗和數據增強實驗等等。Facebook最近的一份報告坦率地說，在訓練大型語言模型OPT的過程中遇到了很多麻煩。

有時候這更像是鍊金術而不是科學，正如下圖一樣：

圖註：「這是你的機器學習系統嗎？」

「對，你把數據倒進這一大堆線性代數里，然後到另一邊去撿答案。」

「如果答案是錯的呢？」

「那就在這一大堆東西上攪和，直到答案看上去正確就行了。」

編程驗證可能最終會有所幫助，但同樣，在深度學習中還沒有編寫可驗證程式碼的工具。如果馬斯克想贏這個賭約，那他們可能也要解決這個問題，而且得很快解決。

打賭標準

馬斯克需要考慮的最後一件事是賭約的標準。如果要打賭就要制定基本規則。AGI這個術語相當模糊，就像Marcus前幾天在Twitter上說的那樣：

我把AGI定義為「靈活而通用的智力，具有可與人類智慧相媲美、或超過人類智慧的智謀和可靠性。」

Marcus還提出要跟馬斯克賭一把，並制定具體的基本打賭規則。他和Ernie Davis根據與Metaculus公司合作的人的要求寫下了以下五個預言：

到2029年，人工智慧仍無法在觀看電影的同時準確地告訴你發生了什麼（Marcus在2014年的《紐約客》雜誌上稱之為「理解挑戰」），也不能解答出這些角色是誰，他們的衝突和動機是什麼等問題。

到2029年，人工智慧仍無法閱讀小說並準確回答有關情節、角色、衝突、動機等問題。

到2029年，人工智慧仍無法在任意廚房裡做一個稱職的廚師。

到2029年，人工智慧仍無法根據自然語言規範或通過與非專業用戶的交互，可靠地編寫超過10,000行無bug的程式碼。（將現有庫中的程式碼粘合在一起不算數。）

到2029年，人工智慧仍無法從用自然語言編寫的數學文獻中任意提取證明，並將其轉換為適合於符號驗證的符號形式。

如果馬斯克（或其他人）在2029年成功打破至少三個預言，那他就贏了；如果只打破了一兩個，則不能說AGI能夠實現，贏家就是Marcus。

對這個賭約，Marcus躍躍欲試，並對馬斯克：「想要打賭嗎？賭10萬美元怎麼樣？」

大家怎麼看？你們認為誰會贏？（吃瓜）

參考鏈接：

//garymarcus.substack.com/p/dear-elon-musk-here-are-five-things?s=w

//www.ted.com/talks/elon_musk_elon_musk_talks_twitter_tesla_and_how_his_brain_works_live_at_ted2022

//arxiv.org/abs/1801.00631

//www.wsj.com/articles/elon-musk-races-to-exit-teslas-production-hell-1530149814

雷峰網