Attention Mechanism in Computer Vision

 前言 本文系統全面地介紹了Attention機制的不同類別,介紹了每個類別的原理、優缺點。

歡迎關注公眾號CV技術指南,專註於計算機視覺的技術總結、最新技術跟蹤、經典論文解讀、CV招聘信息。

 

概述

Attention機制目的在於聚焦有用的信息,並減少不重要信息的比重。Attention機制可以分為6大類,包括4個基礎類別和2個組合類別。4個基礎類別分別是通道注意力(channel attention),空間注意力(spatial attention),時間注意力(temporal attention),分支注意力(branch attention)。2個組合類別即通道與空間的組合,空間與時間的組合。

 

歡迎關注公眾號CV技術指南,專註於計算機視覺的技術總結、最新技術跟蹤、經典論文解讀、CV招聘信息。

CV技術指南創建了一個免費的知識星球。關注公眾號添加編輯的微信號可邀請加入。

​​

知識星球正在建設中,歡迎可以寫以下內容的成員聯繫我(微信號:FewDesire,ID:彷彿若有光)。添加前請備註「研究方向-地點-ID」

  1. TVM入門到實踐的教程

  2. TensorRT入門到實踐的教程

  3. MNN入門到實踐的教程

  4. 數字圖像處理與Opencv入門到實踐的教程(須包含數字圖像處理理論和opencv實踐)

  5. OpenVINO入門到實踐的教程

  6. libtorch入門到實踐的教程

  7. Oneflow入門到實踐的教程

  8. Detectron入門到實踐的教程

  9. CUDA入門到實踐的教程

  10. caffe源碼閱讀

  11. pytorch源碼閱讀

  12. 深度學習從入門到精通(從卷積神經網絡開始講起)

  13. 最新頂會的解讀。例如最近的CVPR2022論文。

  14. 各個方向的系統性綜述、主要模型發展演變、各個模型的創新思路和優缺點、代碼解析等。(分成多篇文章來寫,寫得太簡約不行,最好是一個重要模型一篇文章)

  15. 若自己有想寫的且這上面沒提到的,可以跟我聯繫。