Hardsigmoid¶
- class paddle.nn. Hardsigmoid ( name=None ) ¶
Hardsigmoid 激活层,用于创建一个 Hardsigmoid 类的可调用对象。sigmoid 的分段线性逼近激活函数,速度比 sigmoid 快,详细解释参见 Noisy Activation Functions 。
\[\begin{split}Hardsigmoid(x)= \left\{ \begin{aligned} &0, & & \text{if } x \leq -3 \\ &1, & & \text{if } x \geq 3 \\ &x/6 + 1/2, & & \text{otherwise} \end{aligned} \right.\end{split}\]
其中,\(x\) 为输入的 Tensor。
形状¶
input:任意形状的 Tensor。
output:和 input 具有相同形状的 Tensor。
代码示例¶
COPY-FROM: paddle.nn.Hardsigmoid