逐步回归期权定价(博士生,13年9月).docVIP

（1）逐步回归模型 信息与计算科学系 汪飞星 第一节 一元线性回归简介 一．回归系数的最小二乘估计 假设变量对于变量的回归有的形式，则有一元线性回归模型 (1) 通常假设 (2) 模型中时未知参数。通常，由的观测值，，…， 对，作一个估计，，解方程 (3) 为关于的线性回归方程，或回归方程，或回归*线。表示，确定之后对于给定的相应的预报值（也称为的拟合值或回归值）。代入一个的值，就得到对应于的均值的预报。 二． 回归系数的估计 为了估计模型的参数，现在使用最小二乘法。设有组观测值，，…，。由（1），有： （4） 从而得到偏离真实直线 的偏差平方和 （5） 现选择估计值，使达到最小值，为此，对分别对，求偏导数得，并令它们为0： （6） 称（6）为正规方程组，它的解为： （7） （8） 其中， 分别称为的均值，的均值。 用这种方法求出的参数，的估计，称为最小二乘估计，简称为LS估计。 三．回归估计的精度 现在讨论回归直线的估计精度问题，考察等式： （10） 这就是说，残差由两部分之差构成：（1）观测值与均值的偏差，（2）拟合值与均值均值的偏差。注意到： （11） 这就是说，的均值与的均值相等。 将（10）改写成，两边平方，再从到求和，得到： (12) (12)的左边是的校正平方和，简写为校正SS，即总变差。是第次观测的预报值与均值的偏差，其平方和称为回归平方和，简写为回归SS，是第次观测值与它的预报值的偏差（残差），其平方和称为残差平方和，简写为残差平方和。这样，式（12）实际就是说 校正平方和=回归平方和+残差平方和 这就将关于其均值的方差（即校正平方和）分解为两部分，前一部分是由回归线引起的，后一部分则是由于实际观测值没有落在回归线上引起的（否则残差平方和为0）。由此找到了一种判别回归线拟合程度好坏的方法：看校正SS中，包含了多少回归SS和残差SS。如果回归SS远比残差SS大，或者 （回归SS）/（校正SS） （13） 接近于1，则将感到满意 每一个平方和都与一个称为自由度（为）的数相联系。这里自由度表 示在平方和中独立的项数。例如，在校正SS中，因为，之 和为0，所以只有个是独立的，自由度为。由于可以用的一个函数来计算回归SS，故它的自由度为1。用变量变换，可以求出残差SS的自由度为。这表明残差是从需要估计的两个参数的直线模型的拟合中出现的。一般地，残差SS有“观测次数减去需要估计的参数个数”个自由度。上述对回归方程精度的分析，可列出方差分析表。 表1方差分析表 方差来源 自由度 平方和（SS） 均方（MS） 回归 1 残差 总和（校正） 四．的估计 以下，残差SS记作。则，在的假定之下，可以证明： （14） 因此，，即知， （15） 是的无偏估计。 的一个方便计算的分解式是： （16） 其中， （17） （18） 五．线性假设的显著性检验 在前面的一元线性模型（1） 中，线性模型的提出，一方面要用专业知识根据问题本身的特点提出。但提出的模型是否接近问题的本质，或得到的线性回归方程（及预报方程）是否有实用价值，通常要根据实际观测到的数据，运用假设检验的方法来判断。若线性假设（1）成立，则不应为0。因为若=0，则就不依赖于了。因此，要检验的假设是： （19） 可以证明： （20） 所以，