摘要：许多科学与工程计算领域的应用中，都需要数值求解线性方程组，但是由于模型误差、舍入误差等多方面的影响，使得要求解的线性方程组无解，而最小二乘法就是解决这一问题的最常用方法。所以，我们有必要研究求解最小二乘问题的数值方法。本项目拟在教师的指导下，研究求解最小二乘问题的共轭梯度法，首先得到最小二乘问题对应的法方程组，然后将共轭梯度法加以改造，用于求解法方程组，给出方法的收敛性分析，并进行相应的数值实验。在数值计算问题中，常常将问题归结为一个线性方程组的求解问题，而求解线性方程组的数值解法基本上可分为直接法和迭代法两大类.[1] 直接法又称精确法是在没有计算误差的情形下通过有限次运算可以计算得到其方程组的精确解的方法.迭代法则是运用依次递近的方式，就是从一个基础的初始单位出发，根据需要的运算格式，形成一个向量的无穷序列,它的极限就是其方程组的精确解，但是通过有限次的计算是求解不到精确解的.当线性方程组的系数矩阵为对称正定矩阵时，我们通常采用共轭梯度法（或简称CG法）求解，共轭梯度法不但是解决大型线性方程组十分有用的方法之一，还是解决大型非线性方程组最佳最好的算法之一。[2]

关键词：共轭梯度法；最小二乘问题；对称正定矩阵

目录

摘要

Abstract

1最小二乘问题-1

1.1最小二乘问题的来源-1

1.2最小二问题与法方程组的关系-3

2共轭梯度法-5

2.1共轭梯度法来源、性质-5

2.2共轭梯度法的算法实现-7

2.3共轭梯度法的收敛性分析-10

3共轭梯度法求解最小二乘问题-16

结论-19

参考文献-19

致谢-20