牛顿法每次得带都需要求解复杂的 Hessian 矩阵的逆矩阵导致速度很慢甚至当海森矩阵奇异时可能导致数值计算失败或产生的数值不稳定,于是拟牛顿法 (Quasi-Newton’s Method)被提了出来,它使用正定矩阵来近似海森矩阵的逆。