今日 Paper | 小樣本學習；機器學習；單幅影像去霧 ；零樣本目標檢測等
- 2020 年 2 月 21 日
- 筆記
- 提高小樣本學習對全新分類的識別能力
- 機器學習的「學習如何遺忘」
- 複雜城市背後簡單的空間尺度規則
- FD-GAN：具有融合鑒別器的生成對抗網路用於單幅影像去霧
- GTNet：用於零樣本目標檢測的生成遷移網路
提高小樣本學習對全新分類的識別能力
論文名稱：Cross-Domain Few-Shot Classification via Learned Feature-Wise Transformation
作者：Hung-Yu Tseng /Hsin-Ying Lee /Jia-Bin Huang /Ming-Hsuan Yang
發表時間：2019/9/26
論文鏈接：https://openreview.net/forum?id=SJl5Np4tPr
推薦原因
這篇論文研究的是小樣本學習，也就是如何在每個類別只有幾個、甚至一個樣本的情況下學習如何分類。現有的基於指標的小樣本分類演算法，都是通過一個學習到的指標函數，把要預測的樣本的特徵嵌入和給定的樣本進行對比。雖然這些方法已經展示出了可喜的效果，但由於不同類別的特徵分布有很大的差異，所以這樣的方法並不能很好地分辨來自新的分類（與給定的樣本不同的分類）的樣本。
在這篇論文中，作者們在基於指標的方法基礎上又加入了領域遷移的思路，他們用特徵級別的變換層+仿形變換來增強影像特徵，作用是在訓練過程中模擬不同領域的不同特徵分布。作者們還設計了一個「學習如何學習」的模組，為變換層學習超參數。作者們的大量實驗表明他們的方法可以作用於各種各樣的基於指標的方法，並帶來穩定的表現提高。
機器學習的「學習如何遺忘」
論文名稱：Machine Unlearning
作者：Bourtoule Lucas /Chandrasekaran Varun /Choquette-Choo Christopher /Jia Hengrui /Travers Adelin /Zhang Baiwu /Lie David /Papernot Nicolas
發表時間：2019/12/9
論文鏈接：https://arxiv.org/abs/1912.03817
推薦原因
假設你用一百萬條數據訓練了一個機器學習模型，然後數據提供方有一天突然告訴你，其中有幾條數據是有問題的、或者現在不允許使用了，現在要把這幾條數據對模型的影響取消掉。除了從頭訓練一個新模型，還有什麼辦法嗎？這個問題就是機器學習的「反學習」，Machine Unlearning，「學習如何遺忘」。
在傳統搜索中，想刪除某條數據很容易；但在機器學習模型中，數據會被模型記住，存在被攻擊者還原、獲取的風險；即便採用一些保護方式，數據的影響也成為了模型參數的一部分，難以單獨解耦，從而難以單獨消除。所以想要刪除數據，常見做法基本上只能是重新訓練模型。
在這篇論文中，作者們提出了一種新的訓練框架來解決這個問題。他們的方法可以減少受到刪除數據影響的參數的數量，而且會對訓練演算法中間階段的輸出做一些快取，以減少遺忘這些數據的過程中對整個模型的更新次數。依靠這樣的設計，他們的方法減少了數據遺忘過程中的計算開銷，即便在最差情況下也有效。如果用戶能夠提供先驗，他們的方法還能獲得更好的效果。作者們的這項研究能對機器學習模型實際應用中的數據治理起到幫助。
複雜城市背後簡單的空間尺度規則
論文名稱：Simple spatial scaling rules behind complex cities
作者：Ruiqi Li /LeiDong /JiangZhang /Xinran Wang /WenXu Wang /Zengru Di /H.Eugene Stanley
發表時間：2017/11/28
論文鏈接：https://www.nature.com/articles/s41467-017-01882-w
推薦原因
文章通過一個基於空間吸引和匹配生長機制的簡單模型，提供一個普遍的超線性和亞線性總體尺度律的起源的一般性解釋，並準確地預測千米級的社會經濟活動。為從城市元素之間的相互作用的角度揭示城市的演變開闢了一條新的途徑，有著廣泛的應用
FD-GAN：具有融合鑒別器的生成對抗網路用於單幅影像去霧
論文名稱：FD-GAN: Generative Adversarial Networks with Fusion-discriminator for Single Image Dehazing
作者：Dong Yu /Liu Yihao /Zhang He /Chen Shifeng /Qiao Yu
發表時間：2020/1/20
論文鏈接：https://arxiv.org/abs/2001.06968v1
https://paper.yanxishe.com/review/9629
推薦原因
這篇論文被AAAI 2020接收，考慮的是影像去霧問題。
大部分現有的基於學習的影像去霧方法並非完全端到端的，而是遵循傳統的去霧步驟：首先評估傳輸介質和大氣光線，隨後恢復基於大氣散射模型的無霧影像。但是在實踐中，由於缺乏先驗資訊和約束條件，很難精準估計出中間參數，而不精確的估計則削弱了去霧的效果，結果導致偽影、色彩失真和霧霾去除效果不足。為解決這些問題，這篇論文提出一個完全端到端的具有融合判別器的生成對抗網路（Generative Adversarial Networks with Fusion-discriminator，FD-GAN）進行影像去霧。FD-GAN將頻率資訊作為附加先驗知識，以生成更自然、逼真的除霧影像。進一步，這篇論文合成大尺寸訓練數據，包含不同的室內與戶外霧化圖，以促進模型表現。實驗表明，FD-GAN在公共合成數據集和真實世界影像上均達到了當前最佳的性能。
GTNet：用於零樣本目標檢測的生成遷移網路
論文名稱：GTNet: Generative Transfer Network for Zero-Shot Object Detection
作者：Zhao Shizhen /Gao Changxin /Shao Yuanjie /Li Lerenhan /Yu Changqian /Ji Zhong /Sang Nong
發表時間：2020/1/19
論文鏈接：https://arxiv.org/abs/2001.06812v1
推薦原因
這篇論文提出了一種生成遷移網路（Generative Transfer Network，GTNet）來用於零樣本目標檢測。GTNet包含一個目標檢測模組和一個知識遷移模組。前者可學習大量已知領域知識，而後者利用合成的特徵來生成未知類型的特徵，這些特徵則被用於訓練目標檢測模組中新的分類層。為了使用類內方差和IoU方差為每個未知類合成特徵，這篇論文設計了一個基於IoU的生成對抗網路IoUGAN作為特徵合成器，包含三個單元模型：類特徵生成單元，前景特徵生成單元和背景特徵生成單元。類特徵生成單元利用以類語義嵌入為條件的類內方差資訊生成位置特徵，前景特徵生成單元和背景特徵生成單元將IoU方差加入到類特徵生成單元的結果中，分別得到指定類前景與背景特徵。在公共數據集上的評估表明這篇論文提出的GTNet優於當前最佳的零樣本目標檢測方法。
