group_norm

paddle.nn.functional. group_norm ( x, num_groups, epsilon=1e-05, weight=None, bias=None, data_format='NCHW', name=None ) [源代码]

对输入 x 进行组归一化， 计算公式如下：

\[y = \frac{x - E(x)}{\sqrt(Var(x)+ epsilon )} \ast weight + bias\]

  • \(x\): 形状为 [批大小，通道数，*] 或 [批大小，*，通道数]，其中通道数必须是 num_groups 的整数倍

  • \(E(x)\), \(Var(x)\): 每一组中 x 的均值和方差

更多详情请参考：Group Normalization 。

参数

  • x (Tensor) - 输入 Tensor，形状为 [批大小，通道数，*]。

  • num_groups (int) - 从通道中分离出来的 group 的数目。

  • epsilon (float，可选) - 为防止方差除零，增加一个很小的值。默认值：1e-05。

  • weight (Tensor，可选) - 权重的 Tensor，形状为 [通道数]，默认为 None。

  • bias (Tensor，可选) - 偏置的 Tensor，形状为 [通道数]，默认为 None。

  • data_format (string，可选) - 支持 “NCL”，“NCHW”，“NCDHW”，“NLC”，“NHWC”，“NDHWC” 格式。默认值：“NCHW”。

  • name (str，可选) - 具体用法请参见 api_guide_Name，一般无需设置，默认值为 None。

返回

Tensor，输出形状与 x 一致。

代码示例

>>> import paddle
>>> paddle.seed(100)
>>> x = paddle.arange(48, dtype="float32").reshape((2, 6, 2, 2))
>>> group_norm_out = paddle.nn.functional.group_norm(x, num_groups=6)

>>> print(group_norm_out)
Tensor(shape=[2, 6, 2, 2], dtype=float32, place=Place(cpu), stop_gradient=True,
[[[[-1.34163547, -0.44721183],
   [ 0.44721183,  1.34163547]],
  [[-1.34163547, -0.44721183],
   [ 0.44721183,  1.34163547]],
  [[-1.34163547, -0.44721183],
   [ 0.44721183,  1.34163547]],
  [[-1.34163547, -0.44721183],
   [ 0.44721183,  1.34163547]],
  [[-1.34163547, -0.44721183],
   [ 0.44721183,  1.34163547]],
  [[-1.34163547, -0.44721183],
   [ 0.44721183,  1.34163547]]],
 [[[-1.34163547, -0.44721183],
   [ 0.44721183,  1.34163547]],
  [[-1.34163547, -0.44721183],
   [ 0.44721183,  1.34163547]],
  [[-1.34163547, -0.44721183],
   [ 0.44721183,  1.34163547]],
  [[-1.34163547, -0.44721183],
   [ 0.44721183,  1.34163547]],
  [[-1.34163547, -0.44721183],
   [ 0.44721183,  1.34163547]],
  [[-1.34163547, -0.44721183],
   [ 0.44721183,  1.34163547]]]])