首页 > 深度学习 > 正文

deep learning book-第4章 Numerical Computation

标签:deep learning book


几个git链接:

目录:

  • 4.1 Overflow and Underflow
  • 4.2 Poor Conditioning
  • 4.3 Gradient-Based Optimization
    • Beyond the Gradient: Jacobian and Hessian Matrices
  • 4.4 Constrained Optimization
  • 4.5 Example: Linear Least Squares

问题:

  • 1.为什么会出现underflow或overflow?
  • 2.condition number的含义&condition的作用
  • 3.海森矩阵为什么可以帮助梯度下降法跨越鞍点
  • 4.公式4.21怎么对X求导的,矩阵求导法则?
  • 5.一阶优化算法与二阶优化算法的优劣对比
  • 6.KKT条件什么时候是最优化问题可以求取最优值的充要条件?

原创文章,转载请注明出处!
本文链接:http://hxhlwf.github.io/posts/dl-dlbook-chap4.html
上篇: deep learning book-第3章 Probability and Information Theory
下篇: dual learning for mt

comment here..