title: 岭回归和最小二乘法的区别是什么？什么时候比较适合用岭回归？
desc: 在什么情况下用岭回归比较合适呢，能否有个具体的标准？
topic: 数学
content: 先从优化的角度讲讲这个问题。最小二乘回归求解的最小化问题是：miny-Ax^2，这个问题解存在且唯一的条件是A 列满秩：rankAdimx 当此条件不满足时，你需要添加一些额外的假设来达到唯一的解。比如岭回归在cost function中加L^2的测度项。而A不满足列满秩这个条件在回归上的可以简单理解为你所有的样本没有办法提供给你足够的有效的信息。这时候，你就需要一些额外的假设。从bayesian的角度，比如你假设x应该是服从多
answerer_tags: 问答社区专栏: http://zhuanlan.zhihu.com/bhlin