之前整理过线性回归是从频率统计的角度来解释的,本文通过贝叶斯学派的观点重新解释一下线性回归模型。我们使用概率分布而非点估计来构建线性回归,因变量 $y$ 不是被估计的单个值,而是假设从一个分布中提取而来。贝叶斯线性回归模型如下:

  输出 $y$ 是由均值和方差两个特征刻画的正态分布,这两个值都可以通过数据求得。贝叶斯线性回归不是找到模型参数的单一最佳值,而是确定模型参数的后验分布。我们根据如下的贝叶斯定理

  可以得到模型参数的后验概率分布是以样本输入输出作为条件的:

  其中,$P(w\vert y, X)$ 是给定输入和输出时的模型参数的后验概率分布。它等于输出的似然 $P(y\vert w, X)$ 乘以给定输入的参数 $w$ 的先验概率 $P(w\vert X)$ 并且除以归一化常数。

  这里可以看出贝叶斯线性回归的两个好处:

  1. 先验分布:如果具备领域知识或者对于模型参数的猜测,我们可以在模型中将它们包含进来,而不是像在线性回归的频率方法那样:假设所有关于参数的所需信息都来自于数据。如果事先没有没有任何的预估,我们可以为参数使用无信息先验,比如一个正态分布。

  2. 后验分布:使用贝叶斯线性回归的结果是一个基于训练数据和先验概率的模型参数的分布。这使得我们能够量化对模型的不确定性:如果我们拥有较少的数据点,后验分布将更加分散。

  随着数据点的增加,似然会降低先验的影响,当我们有无限的数据时,输出的参数会收敛到从 OLS 方法获得的值。

References

  1. 贝叶斯线性回归方法的解释和优点
  2. Basic Bayesian Linear Regression Implementation
  3. 如何通俗地解释贝叶斯线性回归的基本原理?
  4. 机器学习中的MLE、MAP、贝叶斯估计
  5. 贝叶斯线性回归
  6. 从贝叶斯的观点看线性分类和线性回归