最小二乘的几何意义及投影矩阵

文章预览

作者： AndyJee   原文地址：http://www.cnblogs.com/AndyJee/p/5053354.html 主要内容： 什么是最小二乘 最小二乘的几何意义 正交投影矩阵   什么是最小二乘？ 假设我们手上有n组成对的数据，{(xi,yi):i=1…n}，为了探究y变量与x变量的关系，我们希望用一个多项式来匹配它，可是多项式中的系数怎么确定呢？拿来拼凑肯定是不行的，最小二乘法告诉我们，这个多项式的系数应该让每个点的误差的平方之和最小。 （百度百科） 最小二乘法（又称最小平方法）是一种数学优化技术。它通过最小化误差的平方和寻找数据的最佳函数匹配。利用最小二乘法可以简便地求得未知的数据，并使得这些求得的数据与实际数据之间误差的平方和为最小。最小二乘法还可用于曲线拟合。其他一些优 ………………………………