求解线性最小二乘问题的矩阵分解

1. 正规方程(normal equations)
   • 速度最快
   • 精度不高
   • 适用于条件数较小的问题
2. QR 分解
   • 计算量是正规方程的 2 倍
   • 标准的方法
3. SVD
   • 常用于病态问题，即 $A$ 不是满秩的。
   • 计算量大
4. 转换为一个代数系统
   • 当问题是病态的时候，可以用迭代的方法来改善解

作业

1. 课后问题 3.3