本周 Paper 推荐丨半监督序列建模、对抗攻击对人脸识别、小语种语言命名实体

.

  推荐目录

基于多视角训练的半监督序列建模

遮挡下的人脸识别技术综述

用于图像深度重建的深度学习体系结构综述

对抗攻击对人脸识别的威胁:综述

基于软编码词典的小语种语言命名实体识别模型

  基于多视角训练的半监督序列建模

论文名称:Semi-Supervised Sequence Modeling with Cross-View Training

作者:Kevin Clark / Minh-Thang Luong / Christopher D. Manning / Quoc V. Le

发表时间:2018/9/22

论文链接://arxiv.org/abs/1809.08370v1

推荐原因

1 基于监督学习的nlp任务需要大量标注数据,基于预训练的模型训练语料与具体的任务场景有较大差别,作者试图设计一种半监督学习模型来解决上述问题

2 作者以改进BI-LSTM模型为例,利用训练集中的标注数据进行监督训练。同时,对于无标注数据,作者设计了一些辅助子任务,这些任务只具备模型的一部分,如BI-LSTM中的单向LSTM输出,训练时,损失函数为子任务与监督学习主任务的KL距离,且只有与辅助任务相关的参数会被更新

3 由于子任务辅助学习的模型特点,作者自然将这种方法用于多任务的训练,对词性标注、命名实体识别、语法依存分析等任务进行联合训练时,训练效率与分数均非常好。此外,由于辅助任务仅用于表示学习,并不影响主干网络结构,因此不会对预测时间造成影响。

q.jpeg

  遮挡下的人脸识别技术综述

论文名称:A survey of face recognition techniques under occlusion

作者:Zeng Dan /Veldhuis Raymond /Spreeuwers Luuk

发表时间:2020/6/19

论文链接://arxiv.org/abs/2006.11366

推荐原因

这篇论文是关于遮挡下的人脸识别技术的综述。

尽管人脸识别技术正在得到越来越广泛的应用,遮挡等挑战仍然使得现有的人脸识别系统的性能不能令人满意。这篇论文主要讨论的是遮挡这个挑战,包括了现有的带有遮挡的人脸数据集、遮挡人脸检测技术、遮挡鲁棒特征提取、带有遮挡的人脸识别以及基于遮挡恢复的人脸识别方法。这篇论文也讨论了未来的数据集和研究上的挑战。

这篇论文很好地目前遮挡相关的人脸识别研究工作,能够帮助读者快速了解这个领域。

2.jpeg

  用于图像深度重建的深度学习体系结构综述

论文名称:A Survey on Deep Learning Architectures for Image-based Depth Reconstruction

作者: Laga Hamid

发表时间:2019/6/14

论文链接://arxiv.org/abs/1906.06113

推荐原因

这篇论文是2019年的一篇综述论文,当时是第一篇综述深度学习重建影像深度的论文。

这篇论文收集了2014至2018年间,超过100篇在计算机视觉、计算机图形学和机器学习领域的相关论文,对深度学习训练集、网络结构、训练方式和应用场景(单视、双视、多视)做了分析,并对不同方法的结果做了综合比较。这篇论文将基于深度学习的深度重建工作分成了两个主要的类别:(1)双像匹配方法:用深度学习完成特征提取、特征匹配、视差(深度)估计、视差(深度)修正;(2)回归方法:深度学习直接预测,无需匹配。对这两类不同的方法,这篇论文都进行了相应的评测,并指出了未来的发展方向。


  对抗攻击对人脸识别的威胁:综述

论文名称:Threat of Adversarial Attacks on Face Recognition: A Comprehensive Survey

作者:Vakhshiteh Fatemeh /Ramachandra Raghavendra /Nickabadi Ahmad

发表时间:2020/7/22

论文链接://arxiv.org/abs/2007.11709

推荐原因

这篇论文是一篇关于人脸识别的对抗攻击的综述论文。

伴随着人脸识别技术的广泛应用,越来越多类似DeepFake的工具也被用于对抗人脸识别系统,使得人脸识别系统的准确率下降甚至是完全失效。最近的研究也表明,基于深度学习的人脸识别技术对于一些难以察觉的看上去非常自然的对抗性输入图像表现出了令人难以置信的脆弱性,也就是会输出错误的识别结果。为了应对这个挑战,这篇论文针对人脸识别系统的对抗性攻击进行了全面研究,详细阐述了针对这些系统的新对策,并根据不同的标准提出并比较了现有的攻防策略。

4.jpeg

  基于软编码词典的小语种语言命名实体识别模型

论文名称:Soft Gazetteers for Low-Resource Named Entity Recognition

作者: Shruti Rijhwani / Shuyan Zhou / Graham Neubig / Jaime Carbonell

发表时间:2020/5/4

论文链接://arxiv.org/abs/2005.01866

推荐原因

1 作者提出了一种针对缺乏足够的语料信息的语言上的命名实体识别任务进行特征增强的方法,并且在4种小语种语料上进行了验证,均取得了当前最好的效果

2 特征增强的具体做法是使用实体链接(entity link)工具将语料信息中的词区域(words span)映射到相近语言的知识库中的实体,针对每一种需要识别的实体类型,得到一个分数,并且最终组成特征向量。 原始语料信息经过BILSTM得到隐状态表示(hidden states)之后,再经过一个autoencoder进行参数化,最终融合上述特征向量得到词表示用以序列标注的训练

3 本文设计了多种特征增强的方法,从特征提取方法、实体链接方法、以及包括人工辅助方法再内的多个角度进行了大量对比试验。

5.jpeg


如何参与到更多论文讨论学习中?

AI研习社论文讨论微信群,分别有【NLP论文讨论群】【CV论文讨论群】【强化学习讨论群】,未来将会更细分方向和内容,群里面可以分享你觉得不错的论文,可以和同学一起讨论论文复现结果等细节,欢迎大家加入并积极参与活跃!

小助手222.jpeg

扫码添加小助手微信,发送【XX论文】,如:强化学习论文,即可进入相关的论文讨论群。

Tags: