hessian
计算因变量 ys 对 自变量 xs 的海森矩阵。
其中 ys 表示 xs 经过某种运算得到的输出, ys 只能是单个 Tensor, xs 可以是 Tensor 或 Tensor 元组,batch_axis 表示参数数据的 batch 维度的位置。
当输入 xs 为 Tensor 元组时,返回结果为 Hessian 元组,假设 xs 元组的内部形状构成为 ([M1, ], [M2, ]),则返回结果的形状构成 (([M1, M1], [M1, M2]), ([M2, M1], [M2, M2]))
在
batch_axis=None时,只支持 0 维 Tensor 或 1 维 Tensor,假设xs的形状为[N, ],ys的形状为[](0 维 Tensor),则最终输出单个海森矩阵,其形状为[N, N]。在
batch_axis=0时,只支持 1 维 Tensor 或 2 维 Tensor,假设xs的形状为[B, N],ys的形状为[B, ],则最终输出雅可比矩阵形状为[B, N, N]。
Hessian 对象被创建后,并没有发生完整的计算过程,而是采用部分惰性求值方法进行计算,可以对其进行多维索引来获取整个海森矩阵或子矩阵,此时会进行实际求值计算并返回结果。同时在实际求值的过程中,会对计算完毕的子矩阵进行缓存,以避免在后续的索引过程中产生重复计算。
更多索引方式可以参考 Paddle 官网 索引和切片 。
备注
当前暂不支持省略号索引,且暂时只支持 batch_axis=None 和 batch_axis=0。
参数
ys (Tensor) - 因变量
ys,数据类型为单个 Tensor。xs (Tensor|Tuple[Tensor, ...]) - 自变量
xs,数据类型为 Tensor 或 Tensor 元组。batch_axis (int,可选) -
0表示参数包含 batch 维度,且第 0 维为 batch 维,None表示参数不包含 batch。默认值为None。
返回
用于计算海森矩阵的 Hessian 实例。
代码示例
>>> import paddle
>>> x1 = paddle.randn([3, ])
>>> x2 = paddle.randn([4, ])
>>> x1.stop_gradient = False
>>> x2.stop_gradient = False
>>> y = x1.sum() + x2.sum()
>>> H = paddle.autograd.hessian(y, (x1, x2))
>>> H_y_x1_x1 = H[0][0][:] # evaluate result of ddy/dx1x1
>>> H_y_x1_x2 = H[0][1][:] # evaluate result of ddy/dx1x2
>>> H_y_x2_x1 = H[1][0][:] # evaluate result of ddy/dx2x1
>>> H_y_x2_x2 = H[1][1][:] # evaluate result of ddy/dx2x2
>>> print(H_y_x1_x1.shape)
[3, 3]
>>> print(H_y_x1_x2.shape)
[3, 4]
>>> print(H_y_x2_x1.shape)
[4, 3]
>>> print(H_y_x2_x2.shape)
[4, 4]