简单(一元)线性回归模型编辑
对于简单(一元)线性回归模型,
-
其中 和 是非随机但不能观测到的参数, 是非随机且可观测到的一般变量, 是不可观测的随机变量,或称为随机误差或噪音,因此 是可观测的随机变量。
高斯-马尔可夫定理的假设条件是:
- , (零均值),
- , (同方差),
- , (不相关)。
则对 和 的最佳线性无偏估计为,
-
多元线性回归模型编辑
对于多元线性回归模型,
- ,
使用矩阵形式,线性回归模型可简化记为 ,其中采用了以下记号:
(观测值向量,Vector of Responses),
(设计矩阵,Design Matrix),
(参数向量,Vector of Parameters),
(随机误差向量,Vectors of Error)。
高斯-马尔可夫定理的假设条件是:
- , (零均值),
- ,(同方差且不相关),其中 为n阶单位矩阵(Identity Matrix)。
则对 的最佳线性无偏估计为
-