数学建模与计算..docVIP

数学建模与计算 1 多元线性回归 1.1 回归系数的计算 假设变量y与p个变量x1, x2, … , xp之间存在以下线性关系： y = b0 + b1x1 + b2x2 + … + bpxp (+ ?) (1.1) 这些变量的n组观测值如表1.1所示。 表1.1 p+1个变量的观测值 y x1 x2 … xp y1 y2 … yn x11 x12 … x1p x21 x22 … x2p … … … … xn1 xn2 … xnp 将这些数值代入(1.1)得 y1 = b0 + b1x11 + b2x12 + … + bpx1p y2 = b0 + b1x21 + b2x22 + … + bpx2p …… yn = b0 + b1xn1 + b2xn2 + … + bpxnp (1.2) 这是一个关于b0, b1, …,bp（待估参数）的线性方程组。一般来说方程个数n远大于变量个数p, 是一个不相容的线性方程组。但是可以求出b0, b1, …,bp的一组数值代入(1.2)式右边，使得等号两边的数值尽可能接近。最常用的便是最小二乘法，即 Min Q(b0, b1, …,bp) = 令 Y = , X = , ? = , 得 Min Q(?) = (Y ? X?)T(Y ? X?) = YTY ? 2YTX? + ?TXTX? 这是一个关于?的凸二次函数。令 = ?2 XTY + 2 XTX? = 0， 得到 XTX? = XTY. 此式称为正规方程组或法方程组。如果XTX可逆，则 = (XTX)?1XTY. (1.3) 其中= (,,…, )T。 定义1. n元实值函数f(x) = f(x1, x2, … , xn)的n个偏导数构成的向量称为梯度函数，记为?f(x)或, 即 = . 结论1.1. 设c和x是n维数向量，那么= c. 结论1.2. 设A是n ? n对称矩阵，x是n维向量，那么= 2Ax。 结论1.3. XTX可逆的必要充分条件是X的列线性无关。 1.2 回归方程的检验 定义 总平方和SStot = , 回归平方和SSreg = , 残差平方和SSerr = , 其中=/ n, = +xi1 + … +xip。另外 R2 = , 调节的R2 = 1 ? (1 ? R2). 通常，R2或调节的R2大于0.95时可认为回归方程成立。 1.3 可以用线性回归方法求解的非线性模型 (1) 二次函数 y = c0 + c1x + c2x2. 将x2看作一个新的变量，这是一个具有2个自变量的线性模型。 设x的观测值为x1, x2, … , xn, y的观测值为y1, y2, … , yn, 则公式(1.3)中的 X = , Y = , ? = (2) C-D函数 Y = AL?K? 其中L是劳动力的投入，K是资金投入，Y是产出，A称为技术系数。A, ?, ?是待估参数。两边取对数得 lnY = lnA + ?lnL + ?lnK (3) 施工区交通事故模型[2] lnf = ?0 + ?1lnL+ ?2 + ?3+ ?4U 其中f是施工区交通事故频率，L是施工区长度，D是施工期，Q是交通流量, U是道路类型。 (4) 单隧道地表沉降槽的高斯曲线模型 S = Smax 其中S是x处的沉降深度，Smax和a是待估参数。两边取对数得 lnS = lnSmax+ ax2. 1.4 不可以用线性回归方法求解的非线性模型 (1) 逻辑增长曲线预测模型 其中yt是第t期某经济指标的数值，k, a, b是待估参数。 (2) 双隧道地表沉降槽的高斯曲线模型[3] S = s1+ s2 其中S是x处的沉降深度，u是两隧道中心的距离，s1, a1, s2, a2是待估参数。 以上两个模型的参数可用非线性最小二乘法求取。假设变量y自变量x(?Rp)之间存在以下关系: y = f(x; ?)(+ ?) 其中? ? Rm是待估参数。 给定因变量与自变量的若干组观测值(yi, xi)，非线性最小二乘的数学模型如下： 这是一个无约束极值问题，由于形式特殊，可用Levenberg-Marquardt(LM)方法求解，见[4]p262-266. 习题 (1) 证明结论1.1, 1.2和1.3。 (2) 编一个计算程序计算(XTX)?1。 参考文献 [1] 盛骤，谢式千，潘承毅. 概率论与数理统计