1700507621
数据科学家养成手册 [:1700503585]
1700507622
11.7.1 牛顿法
1700507623
1700507624
迭代法的核心思路就是用步步逼近的方式来接近理论上的精确值，只要发现当前的试探值已经收敛到一个满足场景要求的误差精度，就可以判断迭代结束，并将这个试探值作为求解的目标值。这种方法可以使很多无法直接求解的问题得到一个足够精确的近似解。这同样也是一种以有限成本的“次优”取代无限成本的“最优”的哲学思想。
1700507625
1700507626
迭代法中有一个经典的方法叫“牛顿迭代法”（Newton’s Method，或称“牛顿法”），它是牛顿在17世纪提出的一种在实数域和复数域上近似求解方程的方法。
1700507627
1700507628
例如，有一个一元方程
1700507629
1700507630
f(x)=0
1700507631
1700507632
设r是满足 f(x)=0的根。
1700507633
1700507634
设置一个初始值x0，带入函数y=f(x)，则平面直角坐标系上会有点
1700507635
1700507636
1700507637
1700507638
1700507639
在曲线y=f(x)上。
1700507640
1700507641
过点(x0, f(x0))作y=f(x)的切线L0，L0的方程就应该是
1700507642
1700507643
1700507644
1700507645
1700507646
其中，f ‘(x)就是f(x)的一阶导数。
1700507647
1700507648
求出直线L0与X轴的交点的横坐标
1700507649
1700507650
1700507651
1700507652
1700507653
得到的x1为r的一次近似点。
1700507654
1700507655
然后，在曲线y=f(x)上以相同的方式过点(x1, f(x1))作y=f(x)的切线L1，得到L1与X轴的交点横坐标
1700507656
1700507657
1700507658
1700507659
1700507660
得到的x2为r的二次近似点。
1700507661
1700507662
以此种方式进行迭代，通项表达式为
1700507663
1700507664
1700507665
1700507666
1700507667
xn就成为r的n次近似点。这个公式称为“牛顿迭代公式”（如图11-16所示）。
1700507668
1700507669
1700507670