Matlab实现多元回归实例
(一)一般多元回归
一般在生产实践和科学研究中,人们得到了参数x??x1,???,xn?和因变量y的数据,需要求出关系式y?f?x?,这时就可以用到回归分析的方法。如果只考虑
f是线性函数的情形,当自变量只有一个时,即,x??x1,???,xn?中n?1时,称
为一元线性回归,当自变量有多个时,即,x??x1,???,xn?中n?2时,称为多元线性回归。
进行线性回归时,有4个基本假定: ① 因变量与自变量之间存在线性关系; ② 残差是独立的;
③ 残差满足方差奇性; ④ 残差满足正态分布。
在Matlab软件包中有一个做一般多元回归分析的命令regeress,调用格式如下:
[b, bint, r, rint, stats] = regress(y,X,alpha) 或者
[b, bint, r, rint, stats] = regress(y,X) 此时,默认alpha = 0.05. 这里,y是一个n?1的列向量,X是一个n??m?1?的矩阵,其中第一列是全1向量(这一点对于回归来说很重要,这一个全1列向量对应回归方程的常数项),一般情况下,需要人工造一个全1列向量。回归方程具有如下形式:
y??0??1x1??????mxm??
其中,?是残差。
在返回项[b,bint,r,rint,stats]中, ①b??0?1????m是回归方程的系数;
②bint是一个m?2矩阵,它的第i行表示?i的(1-alpha)置信区间; ③r是n?1的残差列向量;
④rint是n?2矩阵,它的第i行表示第i个残差ri的(1-alpha)置信区间; 注释:残差与残差区间杠杆图,最好在0点线附近比较均匀的分布,而不呈现一定的规律性,如果是这样,就说明回归分析做得比较理想。
⑤ 一般的,stast返回4个值:R2值、F_检验值、阈值f,与显著性概率相关的p值(如果这个p值不存在,则,只输出前3项)。注释:
1
(1)一般说来,R2值越大越好。
(2)人们一般用以下统计量对回归方程做显著性检验:F_检验、t_检验、以及相关系数检验法。Matlab软件包输出F_检验值和阈值f。一般说来,F_检验值越大越好,特别的,应该有F_检验值?f。
(3)与显著性概率相关的p值应该满足p?alpha。如果p?alpha,则说明回归方程中有多余的自变量,可以将这些多余的自变量从回归方程中剔除(见下面逐步回归的内容)。
这几个技术指标说明拟合程度的好坏。这几个指标都好,就说明回归方程是有意义的。
例1(Hamilton,1987)数据如下: 序号 Y X1 X2 1 12.37 2.23 9.66 2 12.66 2.57 8.94 3 12.00 3.87 4.40 4 11.93 3.10 6.64 5 11.06 3.39 4.91 6 13.03 2.83 8.52 7 13.13 3.02 8.04 8 11.44 2.14 9.05 9 12.86 3.04 7.71 10 10.84 3.26 5.11 11 11.20 3.39 5.05 12 11.56 2.35 8.51 13 10.83 2.76 6.59 14 12.63 3.90 4.90 15 12.46 3.16 6.96 第一步 分析数据 在Matlab软件包中分析是否具有线性关系,并作图观察,M—文件opt_hanmilton_1987:
x1=[2.23,2.57,3.87,3.10,3.39,2.83,3.02,2.14,3.04,3.26,3.39,2.35,2.76,3.90,3.16]; x2=[9.66,8.94,4.40,6.64,4.91,8.52,8.04,9.05,7.71,5.11,5.05,8.51,6.59,4.90,6.96]; y=[12.37,12.66,12.00,11.93,11.06,13.03,13.13,11.44,12.86,10.84,11.20,11.56,10.83,12.63,12.46]; corrcoef(x1,y) corrcoef(x2,y) plot3(x1,x2,y,'*')
得到结果: ans =
1.0000 0.0025
2
0.0025 1.0000 ans =
1.0000 0.4341 0.4341 1.0000
即,corrcoef(x1,y)=0.0025,corrcoef(x2,y)=0.4341,说明没有非常明显的单变量线性关系。图形如下:
也看不出有线性关系,但是,旋转图形,可以看出所有点几乎在一个平面上。
这说明,y,x1,x2在一个平面上,满足线性关系:
a1?x1?a2?x2?b?y?a??
?x?a?x??或者,换成一个常见的形式 y?a0?a1122
其中,?是残差。于是,在Matlab软件包中做线性多元回归,写一个M—文件
opt_regress_hamilton:
x1=[2.23,2.57,3.87,3.10,3.39,2.83,3.02,2.14,3.04,3.26,3.39,2.35,2.76,3.90,3.16]'; x2=[9.66,8.94,4.40,6.64,4.91,8.52,8.04,9.05,7.71,5.11,5.05,8.51,6.59,4.90,6.96]'; y=[12.37,12.66,12.00,11.93,11.06,13.03,13.13,11.44,12.86,10.84,11.20,11.56,10.83,12.63,12.46]'; e=ones(15,1); x=[e,x1,x2];
[b,bint,r,rint,stats]=regress(y,x,0.05) rcoplot(r,rint)
其中,rcoplot(Residual case order plot)表示画出残差与残差区间的杠杆图。执
3
行后得到: b =
-4.5154 3.0970 1.0319 bint =
-4.6486 -4.3822 3.0703 3.1238 1.0238 1.0399 r =
0.0113 -0.0087 -0.0102 -0.0069 0.0101 -0.0106 -0.0037 -0.0105 0.0049 -0.0136 0.0057 0.0163 -0.0023 0.0110 0.0071 rint =
-0.0087 -0.0303 -0.0301 -0.0299 -0.0106 -0.0313 -0.0252 -0.0299 -0.0174 -0.0331 -0.0161 -0.0027 -0.0236 -0.0079 -0.0156 stats =
1.0e+004 *
0.0001
0.0314 0.0128 0.0098 0.0162 0.0308 0.0102 0.0178 0.0089 0.0272 0.0058 0.0275 0.0354 0.0190 0.0299 0.0298 3.9222 0 0.0000
4
即,y??4.515?3.097x1?1.0319x2。
置信度95%,且R2?1.0,F_检验值?39222?0,与显著性概率??0.05相关的
p?0.0000?0.05,这说明,回归方程中的每个自变量的选取,都是有意义的。
残差杠杆图:
从杠杆图看出,所有的残差都在0点附近均匀分布,区间几乎都位于??0.03,0.03?之间,即,没有发现高杠杆点,也就是说,数据中没有强影响点、异常观测点。 综合起来看,以上回归结果(回归函数、拟合曲线或曲面)近乎完美。
(二)逐步回归
假设已有数据X 和Y,在Matlab软件包中,使用stepwise命令进行逐步回归,得到回归方程Y?a1X1?a2X2?????anXn??,其中?是随机误差。stepwise命令的使用格式如下:stepwise(X,Y)
注意:应用stepwise命令做逐步回归,数据矩阵X的第一列不需要人工加一个全1向量,程序会自动求出回归方程的常数项(intercept)。
在应用stepwise命令进行运算时,程序不断提醒将某个变量加入(Move in)回归方程,或者提醒将某个变量从回归方程中剔除(Move out)。
注释:①使用stepwise命令进行逐步回归,既有剔除变量的运算,也有引入变量的运算,它是目前应用较为广泛的一种多元回归方法。②在运行stepwise(X,Y)命令时,默认显著性概率??0.05。
例2(Hald,1960)Hald数据是关于水泥生产的数据。某种水泥在凝固时放出的热量Y(单位:卡/克)与水泥中4种化学成分所占的百分比有关:
x1:3Cao?Al2o3x2:3Cao?Sio2x3:4Cao?Al2o3?Fe2o3x4:2Cao?Sio2
5
百度搜索“77cn”或“免费范文网”即可找到本站免费阅读全部范文。收藏本站方便下次阅读,免费范文网,提供经典小说综合文库Matlab实现多元回归实例在线全文阅读。
相关推荐: