Reddit大型求助現場：用機器學習去實現通用人工智能，簡直就是白日夢！
- 2019 年 12 月 31 日
- 筆記
新智元報道
來源：reddit
編輯：張佳、向學
【新智元導讀】通用人工智能（AGI）一直是人工智能學科的核心目標，但現在我們離真正的AGI還很遠。今天的Reddit最熱帖是一個關於AGI的討論，發帖人的夢想是創建AGI，但卻被派去處理NLP領域的ML問題。他發現自己非常厭倦機器學習，於是熱心的網友紛紛為他支招。戳右邊鏈接上 新智元小程序 了解更多！
人工智能學科的核心目標是，有朝一日我們能夠建造像人類一樣聰明的機器。這樣的系統通常被稱為通用人工智能系統（AGI）。
到目前為止，我們已經建立了無數AI系統，在特定任務中的表現可以超過人類，但是當涉及到一般的腦力活動時，目前還沒有一個AI系統能夠比得上老鼠，更別說超過人類了。
今天的Reddit最熱帖就是一個關於AGI的討論。一位名叫「u/bguerra91」的發起者在大學裏研究，在過去的幾周里，被派去處理一些屬於NLP領域的ML問題。通過閱讀所有關於NLP的文章，他意識到自己已經非常厭倦機器學習這一學科，完全忘記了最初促使他走上這條路的是努力解決創建AGI的工程挑戰。
現在，他開始重新考慮這個問題，他很好奇到底有多少人在解決這個問題？有很多數據科學家或業餘愛好者使用ML構建預測模型，但是誰將ML用作專門用於AGI工程設計的工具呢？
對於這些人，發起者還問了3個問題：
- 你以什麼身份處理過這個問題？你是怎麼開始的？
- 你在這方面工作多久了？到目前為止，你從經驗中得到的主要收穫是什麼？這些可能是哲學上的見解、挑戰或一般性的想法。
- 當一個AGI被創建時，你認為機器學習將是它創建的一個關鍵組成部分還是一個小部分？或者你認為我們創建它所需要的技術將與我們現在所認為的機器學習有根本的不同嗎？
6年+深度學習算法工程師解答：用現代的ML方法實現AGI是一個白日夢
這個帖子引發了機器學習社區的大討論，其中，最高贊的回答來自一位做了6年以上尖端深度學習算法的工程師。在他看來：
「我們比過去更接近AGI。儘管媒體的報道和展示手法很花哨，但所有現代的深度學習工具都容易受到觀察偏差的影響（甚至是無監督的算法！）因為在現實中，你無法獲取無限的數據，而且你的模型中可能有一些罕見的數據實例，你無法在訓練階段獲取這些實例，所以在許多實際應用中，不可能100%完整地描述你的數據空間。
人類有辦法繞開這一點，這就引出了我的下一點，即現代學習算法仍然完全無法解釋他們從未遇到過的罕見觀測，完全不同於人類或AGI系統。此外，人類大腦完全理解一個事物並用極少的例子對其屬性進行推斷的能力令人難以置信。
最後，我要指出強化算法的成功與失敗。有一段時間，算法在許多遊戲環境中擊敗了最好的人類專家。但不久之後，人類專家學會了算法所使用的策略，並操縱這個因素，使其能夠始終如一地擊敗算法。這是現代ML的另一個短期趨勢，即它無法根據長期反饋動態地改變自己的行為（因為專家知道如何打敗它，所以它將永遠輸給專家，但如果不重新訓練新的人類反饋，它將永遠無法改變自己的行為，使其再次具有競爭力——人類可以學着打敗下一個模型）
我並不是說這很糟糕，也不是破壞ML，因為我絕對喜歡ML和DL，而且我喜歡我所做的事情。但我認為，認識到這一點非常重要，深度學習模型是重現大腦某些方面（例如人類視覺系統輸入（CNN））的一種好方法，但它們絕不能描述人類大腦內部信息的整個處理過程（在視覺刺激之前，大腦會對其進行許多高級處理）。
在我看來，需要將有關外部世界的完整感官輸入以及可能的情感迴路與當前的深度學習方法結合起來，以再現GI，而我們離解決這個問題還差得很遠。它還需要能夠以一種通用的方式動態地調節其自身的內存和網絡，以與人類GI競爭。
綜上所述，如果你因為必須研究NLP而感到厭煩，那麼，我認為這是一個公平的回應。我認為NLP令人印象深刻，但仍遠沒有人類對現實世界中事物的推理方式。語言是我們所有感官，感覺和思想之間的基礎整合，幾乎你在大腦中所能想到的每一件事都可以用語言來表達。它是存在的最複雜的代碼之一，它捕獲了我們整個世界中的每個實體。
當前狀態下的NLP算法與我在上面概述的方法一樣，對環境感知是不可知的，儘管它們可能實現高性能，但它們永遠不會對未遇到的事情進行推理，生成不依賴於訓練輸入的邏輯思維過程，或以無可辯駁的方式通過圖靈測試。你有權感到厭倦，因為如果計劃使用現代的ML方法來實現目標，AGI是一個白日夢。
在我看來，有很多與AGI無關的DL應用是非常有趣的，DL實際上在某些方面可以比人類做得更好。實際上，AGI模型可能甚至不如深度學習模型那樣好。一個很好的例子是我正在從事的另一個項目：預測患病的患者病情惡化的可能性。這是醫生可能會想到的事情，但是世界上大多數醫生將無法給出準確的風險確切數字。但是，深度學習模型可以對患者的未來結果做出令人印象深刻的預測。這表明DL和AGI都有各自的優點，並且我認為如果找到目標明確的DL應用，你會更高興。
在我看來，如今所有人都想研究NLP，但我認為在其他許多領域中也存在着巨大的機遇，只是還沒有被人注意到。NLP已經非常成熟，我認為你應該堅持下去，努力找到一個目標讓你覺得 intellectually rewarded。」
AGI儘管離成功還很遠，但我們或許正朝着成功的方向前進
還有不少網友分享了自己的見解。
MichaelMMeskhi認為：
AGI是一個不錯的想法，但不幸的是，我們離甚至是基本的AGI系統還很遠。許多在ML/AI/DS中取得突破的工具正在進行優化和自動化（AutoML等）。
- 我開始攻讀元學習博士學位。儘管我是一個初學者，但我一直在考慮創建自適應系統。
- 為了完全鞏固甚至不是我們最近的工作（深度學習、強化學習等），我們仍有很多工作要做。
- 機器學習是人工智能的一個分支。我認為這將是AGI系統的一部分，但真正的大腦將主要是純人工智能理論。
我建議讀讀Sebastian Thrun的書《Learning to Learn》，它討論了人類和機器是如何學習的，以及什麼是學習。
下面是NikeTheSword對於3個問題的回答：
- 大學的計算機科學/哲學課程讓我走上了這條路。就我個人而言，我渴望更好地理解人性。我想知道是什麼讓我們這麼做。AGI是合乎邏輯的下一步。
- 4年了，我相當有信心的是，我們當前對特定任務的行為建模的方法將不會產生AGI。當前系統中缺少兩個核心組件：創造力和將新數據與現有數據關聯起來的能力。創造力被進一步劃分為意志問題，這引發了諸如「如何使一個系統想要/害怕」這樣的問題。在我們當前的方法中，這些都不是有用的特徵，因為它們使系統更難以預測。進化和成長是激烈的，與生存是矛盾/競爭的。因此，這4年到目前為止的關鍵結論相當令人沮喪：如果沒有不可優化的適應性指標，AGI就不會存在。
- 是的。「智能」是根據以前的數據做出決策的行為。如果我們同意「機器學習從根本上講是一種數據驅動的決策方法」，那麼這兩者是一致的。然而我們目前的SotA ML系統仍然主要是蠻力的方法而缺乏靈活性。
Simulation_Brain的回答：
你聽到的回答幾乎都來自於你尋求答案的其他人。這裡的評論者說關於AGI的工作並不存在，或者離完成還差得很遠，但是他們沒有資格去猜測，因為他們沒有認真地考慮過。
Deepmind、openAI和大約20家規模較小的公司正在積極開發AGI。這只是機器學習行業的一小部分，但它是非常真實的。至於他們離成功是近還是遠，這是一個懸而未決的問題，很多人對此進行了深入的思考並存在許多爭論。
以此類推，有很多人爭辯說，比空氣重的飛機是遙遠的，直到萊特兄弟實現了這一目標。當然，確實距今一百年前有人說過同樣的話。在真正實現之前，很難猜測什麼是可能的，更不用說需要花多長時間才能實現。
所以你需要相當深入的專業知識才能得出自己的最佳猜測。
papajan18也分享了自己的觀點：
1.我在本科學習了4年的計算機科學和機器學習，並用機器學習對神經科學數據進行了數據分析。現在我開始攻讀博士學位，研究人類/嚙齒動物的元學習、強化學習以及深度學習模型。
2.我真的很關心AGI，希望有一天人類能夠實現。我認為從計算的角度來看待人類/動物是如何形成智力的及其基本原理，這非常重要。並不是說我們必須複製自然，但是動物/人類是我們唯一真正的智力實例，因此關注他們是如何完成我們希望人工智能來完成的這些任務的，這很重要。
我真的建議你研究心理學/認知科學/神經科學。這樣做的好處是，你能夠思考類似AGI的問題，因為你正在做機器學習還不能做到的事情。缺點是涉及的工程學較少，因為它更多的是一門科學，所以人們試圖讓事情更簡單，這樣就更容易解決問題。
使用機器學習的好處是，你可以真正深入研究複雜的工程模型。一些人的工作與這二者都有關係（比如Deepmind，他們在研究機器學習的同時也做一些心理學/神經科學方面的工作），這真的很酷，因為你在建立和理解智能方面都能做到最好。我希望自己在研究生期間能夠同時涉足這二者。
3.AGI離我們還很遠，但我確實覺得我們在朝着這個目標邁進。我認為深度學習真的很重要，但它不是全部。我認為這對錶征學習非常有用（從我們的世界中獲取輸入，學習它的良好表徵，促進智能行為）。因此，AGI可能會在其他方面使用深度學習。深度強化學習是一個很好的例子（不是說它是AGI。這是一個步驟，但它有其自身的問題），因為你基本上只是在添加一個神經網絡，去學習良好的狀態表徵形式，並將其輸入到強化學習框架中。我在注意的另一件事是概率編程和貝葉斯模型。
23位頂尖AI專家預測：通用人工智能可能在2099年實現
儘管關於AGI的話題在人工智能領域一直被廣泛討論，但研究人員對於這一宏偉目標何時實現的問題上，幾乎從未達成一致意見。
2018年出版的《智能架構》一書中，該書的作者、未來學家馬丁·福特採訪了AI領域的23位最傑出的人物，其中包括DeepMind首席執行官Demis Hassabis，谷歌AI首席執行官Jeff Dean和斯坦福AI負責人李飛飛等。
其中一個話題要求受訪對象做出預測，我們在哪一年能夠有50%的機會成功實現通用人工智能？
在23位受訪者中，有18人回答了這個問題，但只有兩人願意具名回答。
有趣的是，這兩個人給出的答案是最極端的：谷歌的未來學家和工程總監Ray Kurzweil認為，這個時間為2029年。而iRobot聯合創始人Rodney Brooks的回答則是2200年。其餘人給出的答案在這兩個時間點之間，平均算下來，這個時間點為2099年。
福特說，這個調查顯示出專家們對這個問題的有趣的分歧，不是關於何時實現AGI，而是使用現有方法是否可能實現AGI。
一些研究人員表示，現在大部分基本工具和條件都已經具備了，實現AGI只需要時間和精力了。還有人則表示，我們目前仍然缺少實現這一目標所需的重大技術突破。
目前AI研究人員的大量成果都基於深度學習，這部分人傾向於認為未來的進步離不開神經網絡，即當代AI的核心。而具有其他AI背景的人認為，實現AGI需要通過其他方法，比如符號邏輯。無論哪種方式，對這個問題都存在相當大的分歧。
福特說：「深度學習陣營中的一些人非常看不起在AI中直接設計常識之類的東西。他們認為這種想法很愚蠢。有人說，這就像是要把一些信息直接粘貼到大腦中一樣。」
許多專家認為，我們目前還缺少實現AGI的一些必要技術基礎。
所有受訪專家都提到當前AI系統的局限性，並提到了目前尚未掌握的關鍵技術。包括遷移學習、無監督學習等。（目前絕大多數機器學習方法都要依賴人工標記數據，這是AI技術發展的嚴重瓶頸。）
對於如何研究AGI、AGI何時能夠實現，你有什麼高見？
