普通最小二乘法的推导证明

序文

        普通最小二乘法(ordinary least squares, OLS)是垂线的回归预测这个成绩正中鹄的独一充分要紧的打手势要求。,在 Introductory Econometrics A Modern Approach (第四的) 版) 第2章 复杂回归做模特儿 中,这必要独一充分仔细的空白来绍介。。应聘从科学实验中提取的价值开掘岗位,就有考到对普通最小二乘法的推理证实。最小二乘法恰好是使对某人有利,它可以用来引用。任命体系资金涔涔预测等。

推理证实

(1) 公式集减少

(2) 乞和性格

        乞和性格,详细可以会诊Introductory Econometrics A Modern Approach (第四的) 版) 卷(计量经济导论),第4版,杰弗里·M·伍德里奇 著)的反对论证A

(3) 普通使成形

        受胎是你这么说的嘛!推理证实,普通最小二乘法普通使成形可以写成(字母盖瓜皮帽表现预测价值,详细会诊消耗概率数数):

要紧打手势要求

        接下来,我将扼要绍介相当多的要紧的打手势要求。,下一章。最小二乘法的无偏预测

        记第i 二次检视残差(residual)是yi实践值与其适宜的值的差值。:

       

        流行SST=SSE SSR。

        适宜的优度,不时称为决议系数。,回归的R2R-squared),用于断定垂线适宜的的产生。:

        当R2 = 在1,它高的圆房适宜的,当R2 = 在1,它高的讨厌的适宜的,最好的勘测是,第i 子位置 残差u=0

        其实,R2不因y x 单位找头。

        零必须先具备的平均值,赠送的解说变量的什么都可以值。,背离的预待值为零。。换句话说,即 E(u|x)=0

无偏预测

        敝查找零必须先具备的平均值。,走快OLS 预测的无偏预测:

        流行,

        如今敝可以关照,β1的预测量胜任总体斜率β1添加不公正的 { u1, u2, …, un 垂线的结成。

垂线的意思

        垂线的回归成绩,“垂线的意思是预测的限制因素。β1β2它是垂线的互相牵连的。,听其自然发展解说变量和解说词的使成形。,比如y = kx + b,陈旧的(Y) = kx + b,陈旧的(Y) = KLogo(x) + b,etc. 在这里有相当多的经用的侧面方程。:

1、双侧面 1/y = a + b/x

令y=1/y,x=1/x,此后执意Y=a+bx

2、幂应变量侧面y=AXb

令y=lny,x=lnx,a=lna,此后执意Y=a  +bx

3、指数应变量侧面y=AEbx

令y=lny,x=x,a=a,此后执意Y=a+b  x

4、负指数应变量侧面y=AEb/x(同上)

5、对数应变量y= a bnnx

令y=y,x=lnx,此后执意Y=a+bx

6、S型(Logistic,Logistic回归侧面y=k/(1+AE)-λx)

令yLn((K-Y)/Y),a=lnA,此后执意Y=a-λx

连锁商店垂线的回归

        多元回归结论是变量。y 与可驾驶的变量x1,x2,…,xk 垂线的相干,呈现

        理智垂线的代数,则有

        走快

        与普通最小二乘法推理证实相似物,你可以走快beta版。 的最小二乘预测

        在这里缺席标准酒精度。,可以对消耗概率数数举行详细会诊。 张国权 著》第九章 回归剖析。

发表评论

电子邮件地址不会被公开。 必填项已用*标注