本书围绕面向深度神经网络的增广二阶优化器展开研究，在二阶优化器的基础上，通过结合三次正则项，构建能利用高阶梯度信息的损失函数；为了避免计算完整的海森矩阵和进一步加速迭代收敛过程，提出了各类矩阵更新和动量加速规则，从而得到性能更优的增广二阶优化器。同时，面向有能耗约束和嵌入式硬件设备实施的深度估计应用，本书分别提出了投影增广二阶优化器和近端增广二阶优化器。