最小二乘法的推导过程（最小二乘法的线性代数解释）

最小二乘法的应用很广泛，比如在曲线拟合的时候从一组已知点出发确定曲线最优参数如果把要确定的参数看做空间中的一组向量，可以用Ax=b建模参数方程，x代表参数向量如果x有解，说明b在A的列空间中，即存在一组参数可以拟合曲线，但大部分情况上述解是不存在的，也就是说参数向量不在解空间内，需要找到一组近似解而这个最优解近似就是b在列空间A中的投影，也就是最小二乘解计算很简单，用投影矩阵左乘b就可以了，接下来我们就来聊聊关于最小二乘法的推导过程?以下内容大家不妨参考一二希望能帮到您!

最小二乘法的推导过程

最小二乘法的应用很广泛，比如在曲线拟合的时候从一组已知点出发确定曲线最优参数。如果把要确定的参数看做空间中的一组向量，可以用Ax=b建模参数方程，x代表参数向量。如果x有解，说明b在A的列空间中，即存在一组参数可以拟合曲线，但大部分情况上述解是不存在的，也就是说参数向量不在解空间内，需要找到一组近似解。而这个最优解近似就是b在列空间A中的投影，也就是最小二乘解。计算很简单，用投影矩阵左乘b就可以了。