我監督我自己！Google AI發布用於影片的BERT模型 | 一周AI最火學術
- 2019 年 10 月 4 日
- 筆記
大數據文摘專欄作品
作者：Christopher Dossman
編譯：周俊余、fuma、雲舟
嗚啦啦啦啦啦啦啦大家好，拖更的AI Scholar Weekly欄目又和大家見面啦！
AI Scholar Weekly是AI領域的學術專欄，致力於為你帶來最新潮、最全面、最深度的AI學術概覽，一網打盡每周AI學術的前沿資訊。
每周更新，做AI科研，每周從這一篇開始就夠啦！
本周關鍵詞：自然語言對話數據集、影像增廣、心理健康評估
本周最佳學術研究
Google發布全新自然語言對話數據集
為了訓練出能夠理解用戶偏好的會話系統，我們首先需要的就是高品質的對話數據。為了幫助這些系統了解用戶偏好，Google發布了兩個數據集。第一個數據集CCPE包括超過500個電影偏好對話，表達了超過10,000個偏好，呈現了在對話中獲得用戶偏好的新方法。另一個，Taskmaster-1數據集則包括13,215個基於任務的對話框，並包括六個域。CCPE將在話語和對話特別興趣小組的SIGDIAL 2019年會上發布，而Taskmaster-1將出現在2019年自然語言處理經驗方法會議上。
針對自然語言理解中現有的挑戰，本文提供了解決這些挑戰的數據集。研究人員提出了一種獲取自然對話偏好的新方法，以解決數據驅動對話系統研究和開發中缺乏高品質語料庫的問題。
因為它們包含的是不受限制的、面向任務的對話和真實世界的實體，所以這些數據集與已有的數據集相比更自然、更豐富和更多樣化。數據收集方法也確保了說話者的多樣性和會話準確性。更重要的是，研究人員使用了一種簡單的，面向API的注釋技術，使注釋者能夠更容地易學習和應用。
這兩個數據集能夠有效地推進對話系統和會話推薦領域中的實驗和分析。
CCPE：
https://ai.google/tools/datasets/coached-conversational-preference-elicitation
Taskmaster-1:
https://ai.google/research/pubs/pub48484
Google AI：用於影片的BERT模型
受BERT在語言建模方面取得成功的啟發，Google推出了一種聯合的視覺語言模型，用於學習高級特徵而無需任何明確的監督。他們使用預訓練的模型從影片中提取特徵，並對這些特徵應用分層矢量量化，可以生成一系列可視辭彙。
本文介紹了一種學習高級影片表示的簡單方法，可以捕獲具有語義意義和時間意義的長程結構。研究人員利用BERT學習視覺和語言標記序列的雙向聯合分布。這些分布分別來自影片數據的矢量量化和現成的語音識別輸出。他們利用人類語言進化出來的關鍵洞察力來描述高級物體和事件，從而提供「自我」監督的自然來源。
本文擴展了強大的BERT模型，將BERT模型用於學習影片，並擴展了聯合視覺語言表示。評估結果表明，這種模型有可能實現高級語義表示，而且其優於YouCook II數據集上用於影片字幕的傳統模型。模型中提出的VideoBERT對於包括動作分類，影片字幕在內的任務非常有用，可以直接應用於開放辭彙分類。
原文：
https://arxiv.org/abs/1904.01766
心理健康狀況評估機器人
研究人員開發了一種多語言機器人介面。機器人可以通過問題交互來評估老年人的心理健康狀況。在這一過程中機器人使用適當的語言自動與用戶交互，專家則可以提出問題並以文本形式接收用戶答案。該系統在專家的指導下處理答案，專家也可以給出未來的治療方向。
該系統的原型是在邊緣計算的嵌入式設備上實現的，因此它能夠過濾環境雜訊並且可以放置在家中的任何地方。現在，專家可以通過基於Web的介面創建問題和答案。
雖然大多數新技術更受到的是年輕技術人員的歡迎，但技術當然可以也應該用來幫助老年人。例如，基於語音識別的進步已經被用來增加獨居老人的獨立性。
在移動應用上，精神衛生保健和診斷正在向移動解決方案遷移。
但是事實情況是，由於地理位置，財務狀況，社會原因等因素，類似的平台在需要時始終無法提供護理或協助，本文中機器人+遠程專家的模式也許是一個好的解決方案。
原文：
https://arxiv.org/abs/1909.02924
自主教學網路大戰泛化問題
本文用自主教學的方法來解決梯度消失問題並提升深度網路的泛化能力。研究人員用驅動底層的輔助損失來模仿輸出層的行為，形成了基於輔助損失的連接。如同殘差網路的運作模式，該連接可以協助梯度流。此外，輔助損失作為正則化矩陣，還可以提升神經網路的泛化能力。
目前的很多研究都在試圖解決深度神經網路泛化問題，傳統方法的有效性隨著訓練數據的增加而被削弱，導致這些方法並未在商業化的語音識別系統中獲得廣泛應用。本文提出的自主教學網路有效解決了泛化問題，實現了標籤平滑與置信懲罰。
原文：
https://arxiv.org/abs/1909.04157
影像增廣的新方法：基於聯合訓練的深度強化訓練框架
新的研究提出了對抗式策略梯度增廣模型，該模型通過構建聯合訓練的深度強化學習框架，可以實現影像增廣。其作用機制是將分割網路作為代理，通過使用策略梯度優化的弱監督，完成基於給定樣本狀態的糊化處理，實現分類網路的獎勵訊號最大化。因此，分割網路可以掩蔽不重要的圖片特徵。
該模型在對斯坦福MURA資料庫的測試中展示了非常優秀的結果，在對髖部骨折的研究中，實現了對基準線方法的效果提升，並將全球準確性提升了7.33個百分點。
雖然卷積神經網路已經解決了眾多分類問題，但其在醫療行業的運用仍受限於樣本大小與標籤的不確定性，我們需要能夠最大化資訊獲取並同時防止過擬合的新方法。本文提出的方法十分創新，它不需要手動分類就可以保證規模化與泛化。此外，它還可以和邊界框檢測、圖片畸變校正和影像泛化等輔助方法結合使用，實現推斷分類技術並運用於涵蓋回歸和分類的醫療圖片研究。
原文：
https://arxiv.org/abs/1909.04108v1
其它爆款論文
第一個擁有3D手勢和形狀識別的大規模、多角度的手勢資料庫，可以從單張RGB圖片無標記地捕捉手勢和形狀：
https://arxiv.org/abs/1909.04349
評估當前使用DHH說話者自動語音識別服務對聽障人士的可用性：
https://arxiv.org/abs/1909.02853
一個可以理解人對人電話交流中心的實時系統：
https://arxiv.org/abs/1909.02851
兩個完全標籤化的大規模仇恨言論干擾數據集：
https://arxiv.org/abs/1909.04251
一張照片評估身體細節：
https://arxiv.org/abs/1909.00883v1
AI 新聞
2019年機器人初創公司啟動大賽截止日期為2019年9月22日：
https://robohub.org/2019-robot-launch-startup-competition-is-open/
Google博士生獎研金與2019年獲獎者集錦：
https://ai.googleblog.com/2019/09/announcement-of-2019-fellowship.html
麥當勞近期收購了AI語音初創公司Apprente，再次宣告挺進技術領域的決心：
https://news.yahoo.com/mcdonalds-bought-ai-speech-company-114521030.html？guccounter=1&guce_referrer=aHR0cHM6Ly9kdWNrZHVja2dvLmNvbS8&guce_referrer_sig=AQAAACvcPrTAAH43nvmZfkjxxvDhtvHUCaBeJc0jB700f5ZA4OtoPUSZ6us7BzhG22X51ldbFdmeJJCNEDd3qST9w3-vcESAaG1cohEKYYSuWlwCbHXoysyTX5iCcD_HfEm7ZQPPsFbxgv3JvdAgDHZthXxTaowQJsPVfZtnnnUzm4Xq
貝克休斯公司攜手C3.ai公司成立合資企業，旨在為石油行業提供人工智慧解決方案：
https://www.zdnet.com/article/baker-hughes-c3-ai-launch-reliability-application-via-joint-venture/
Explorium獲1900萬美元融資，用於發展自動化數據科學和機器學習領域：
https://www.zdnet.com/article/explorium-secures-19m-funding-to-automate-data-science-and-machine-learning-driven-insights/
日本電裝和黑莓公司聯合推出人機交互數字駕駛艙系統：
https://www.zdnet.com/article/denso-and-blackberry-launches-autonomous-vehicle-platform/
專欄作者介紹
Christopher Dossman是Wonder Technologies的首席數據科學家，在北京生活5年。他是深度學習系統部署方面的專家，在開發新的AI產品方面擁有豐富的經驗。除了卓越的工程經驗，他還教授了1000名學生了解深度學習基礎。
LinkedIn：
https：//www.linkedin.com/in/christopherdossman/