本周 Paper 推薦丨半監督序列建模、對抗攻擊對人臉識別、小語種語言命名實體
.
推薦目錄
基於多視角訓練的半監督序列建模
遮擋下的人臉識別技術綜述
用於影像深度重建的深度學習體系結構綜述
對抗攻擊對人臉識別的威脅:綜述
基於軟編碼詞典的小語種語言命名實體識別模型
基於多視角訓練的半監督序列建模
論文名稱:Semi-Supervised Sequence Modeling with Cross-View Training
作者:Kevin Clark / Minh-Thang Luong / Christopher D. Manning / Quoc V. Le
發表時間:2018/9/22
論文鏈接://arxiv.org/abs/1809.08370v1
推薦原因
1 基於監督學習的nlp任務需要大量標註數據,基於預訓練的模型訓練語料與具體的任務場景有較大差別,作者試圖設計一種半監督學習模型來解決上述問題
2 作者以改進BI-LSTM模型為例,利用訓練集中的標註數據進行監督訓練。同時,對於無標註數據,作者設計了一些輔助子任務,這些任務只具備模型的一部分,如BI-LSTM中的單向LSTM輸出,訓練時,損失函數為子任務與監督學習主任務的KL距離,且只有與輔助任務相關的參數會被更新
3 由於子任務輔助學習的模型特點,作者自然將這種方法用於多任務的訓練,對詞性標註、命名實體識別、語法依存分析等任務進行聯合訓練時,訓練效率與分數均非常好。此外,由於輔助任務僅用於表示學習,並不影響主幹網路結構,因此不會對預測時間造成影響。

遮擋下的人臉識別技術綜述
論文名稱:A survey of face recognition techniques under occlusion
作者:Zeng Dan /Veldhuis Raymond /Spreeuwers Luuk
發表時間:2020/6/19
論文鏈接://arxiv.org/abs/2006.11366
推薦原因
這篇論文是關於遮擋下的人臉識別技術的綜述。
儘管人臉識別技術正在得到越來越廣泛的應用,遮擋等挑戰仍然使得現有的人臉識別系統的性能不能令人滿意。這篇論文主要討論的是遮擋這個挑戰,包括了現有的帶有遮擋的人臉數據集、遮擋人臉檢測技術、遮擋魯棒特徵提取、帶有遮擋的人臉識別以及基於遮擋恢復的人臉識別方法。這篇論文也討論了未來的數據集和研究上的挑戰。
這篇論文很好地目前遮擋相關的人臉識別研究工作,能夠幫助讀者快速了解這個領域。

用於影像深度重建的深度學習體系結構綜述
論文名稱:A Survey on Deep Learning Architectures for Image-based Depth Reconstruction
作者: Laga Hamid
發表時間:2019/6/14
論文鏈接://arxiv.org/abs/1906.06113
推薦原因
這篇論文是2019年的一篇綜述論文,當時是第一篇綜述深度學習重建影像深度的論文。
這篇論文收集了2014至2018年間,超過100篇在電腦視覺、電腦圖形學和機器學習領域的相關論文,對深度學習訓練集、網路結構、訓練方式和應用場景(單視、雙視、多視)做了分析,並對不同方法的結果做了綜合比較。這篇論文將基於深度學習的深度重建工作分成了兩個主要的類別:(1)雙像匹配方法:用深度學習完成特徵提取、特徵匹配、視差(深度)估計、視差(深度)修正;(2)回歸方法:深度學習直接預測,無需匹配。對這兩類不同的方法,這篇論文都進行了相應的評測,並指出了未來的發展方向。
對抗攻擊對人臉識別的威脅:綜述
論文名稱:Threat of Adversarial Attacks on Face Recognition: A Comprehensive Survey
作者:Vakhshiteh Fatemeh /Ramachandra Raghavendra /Nickabadi Ahmad
發表時間:2020/7/22
論文鏈接://arxiv.org/abs/2007.11709
推薦原因
這篇論文是一篇關於人臉識別的對抗攻擊的綜述論文。
伴隨著人臉識別技術的廣泛應用,越來越多類似DeepFake的工具也被用於對抗人臉識別系統,使得人臉識別系統的準確率下降甚至是完全失效。最近的研究也表明,基於深度學習的人臉識別技術對於一些難以察覺的看上去非常自然的對抗性輸入影像表現出了令人難以置信的脆弱性,也就是會輸出錯誤的識別結果。為了應對這個挑戰,這篇論文針對人臉識別系統的對抗性攻擊進行了全面研究,詳細闡述了針對這些系統的新對策,並根據不同的標準提出並比較了現有的攻防策略。

基於軟編碼詞典的小語種語言命名實體識別模型
論文名稱:Soft Gazetteers for Low-Resource Named Entity Recognition
作者: Shruti Rijhwani / Shuyan Zhou / Graham Neubig / Jaime Carbonell
發表時間:2020/5/4
論文鏈接://arxiv.org/abs/2005.01866
推薦原因
1 作者提出了一種針對缺乏足夠的語料資訊的語言上的命名實體識別任務進行特徵增強的方法,並且在4種小語種語料上進行了驗證,均取得了當前最好的效果
2 特徵增強的具體做法是使用實體鏈接(entity link)工具將語料資訊中的詞區域(words span)映射到相近語言的知識庫中的實體,針對每一種需要識別的實體類型,得到一個分數,並且最終組成特徵向量。 原始語料資訊經過BILSTM得到隱狀態表示(hidden states)之後,再經過一個autoencoder進行參數化,最終融合上述特徵向量得到詞表示用以序列標註的訓練
3 本文設計了多種特徵增強的方法,從特徵提取方法、實體鏈接方法、以及包括人工輔助方法再內的多個角度進行了大量對比試驗。

AI研習社論文討論微信群,分別有【NLP論文討論群】【CV論文討論群】【強化學習討論群】,未來將會更細分方向和內容,群裡面可以分享你覺得不錯的論文,可以和同學一起討論論文復現結果等細節,歡迎大家加入並積极參与活躍!

掃碼添加小助手微信,發送【XX論文】,如:強化學習論文,即可進入相關的論文討論群。

