@coolwyj
2017-07-10T17:04:46.000000Z
字数 3854
阅读 3863
概率论
回归分析
本文参考:
https://www.zhihu.com/question/20447622
http://ufldl.stanford.edu/tutorial/unsupervised/SparseCoding/
本文涉及了线性回归的最小二乘法、Ridge回归、Lasso回归以及稀疏编码。这些方法的共性在于均具有线性关系。从概率角度来理解这些方法,切入点在于对误差的建模。
假设线性模型具有如下形式,与一般形式的不同点在于引入了误差项。
假设误差满足,那么用最大似然估计求解有:
假设误差满足,用最大后验估计推导:
假设误差满足,用最大后验估计推导:
将自然图像看作是k个独立源以及噪声(误差)的线性叠加。