深度学习中Batch/Layer/Instance/Group normalization方法

2023-12-31 17:56:12

在这里插入图片描述
图片中，N是batch size， c是channel。

  1. BN：在每一个channel内，对H，W，Batch做平均
  2. LN：在每一个batch内，对H，W，Channel做平均
  3. IN：在每一个channel和batch内，对H，W做平均
  4. GN：在每一个batch内，将channel进行分组，在分组内对H，W做平均。

文章来源:https://blog.csdn.net/yaoyao_chen/article/details/135317149
本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。