个人技术笔记

Sequeeze-and-Excitation(SE) Block

发布时间：2020-11-23  栏目：人工智能, 机器视觉, 深度学习  评论：0 Comments

Squeeze-and-Excite 对应的论文是Squeeze-and-Excitation Networks

Sequeeze-and-Excitation(SE) Block是一个子模块，可以嵌到其他的模型中，作者采用SENet Block和ResNeXt结合在ILSVRC 2017的分类项目中得了第一。

 

Sequeeze-and-Excitation的层次结构如下
1、AdaptiveAvgPool2d
2、Linear
3、ReLU
4、Linear
5、Sigmoid
先拆成两部分Squeeze部分和Excitation部分
Squeeze部分就是AdaptiveAvgPool2d
Excitation部分就是2到5
先是 squeeze 很形象的词挤压柠檬汁，挤压使用的函数是AdaptiveAvgPool2d(1)
就像以管理小白兔的方式挤压柠檬汁，挤压柠檬汁之后就是Excitation，汁少（ 特征少）的那就大棒伺候，汁多（特征多）的给胡萝卜，特征少的抑制它，特征多的就多多关注它。

 

 

SENet是个子模块就可以嵌入到其他网络结构中例如

 

参考：

https://blog.csdn.net/flyfish1986/article/details/96488227

Comments are closed.