单调回归函数的惩罚局部多项式估计.docxVIP

山东大学硕 卜 学位论文 一 吐 一 执 一 ， 缸 飞 。， 通 一飞 一 飞 、 。， 叭， 。。 一 ‘、 〔 一 、 一‘、 一 韶 一 ’ 一 片 说 盯 、 一 舫 阴 一 〔 、 。 ， 一 。 〔 一 。 ， 〔 飞 。， 。， 飞 〔 一 留 毋 、 〔， 鸽 卿 、 ，一 。 片 二 、 多 辽 环 趾 一 。 下 。， 丘 七 ， 一 ’ 就 ，〔 〔， ， ’ 一 “ 十 ， ，‘， ” 告 告 、。 尹 、 ， 护 ， 毗 一 一 ‘ 拍 拟 。 。 飞 《 饰 入 入 。，飞一 〔 〔 第一章 介 绍 在回归模型 中 出于实际意义或经验的考虑 有时 需假设回归模型满足一些 约束条件 例如 在非参数 回归模型 中 回归函数被预先描述成单调的从而需要 单调估计 关于单调估计的文 献有很多 例如 川 【 最近 ， 〔。 。， 。。， 分别提 出了单调化一个一般核类 型估计的新方法 前者修正了一个核估计的权重使得修正 函数是单调的 后者构 造了回归函数的逆的一个单调 估计并且最后的估计通 过一个数值逆 而得到 这些 方法都没有估计的显式解并且在计算上 比较复杂 这篇文章的主要思想是 由有基约束方法和局部多项式估计共同启发的 。卜 ， 、、 飞 【 ， 、 、 、 ，、 ， 提出 以约束样 条平滑 为基础的单调回 归估计 【 之、 川 ‘， ‘，“‘，‘ 川 等人 引进并且系统地研究 了局部多项式估计 局部多项式估计能 减少核估计的偏差和方差 并 且能 自动适应设计点的边界 更进一步的 这种方 法能够同时估计 回归函数和它 的导数 在下一章 我们 可以看到这种同时估计回 归函数和它的导数的方法使得我们可以约束回归函数的导数从而可以得到一个 单调估计 以这些性质为基础 新提出的估计满足了单调性或凸条件或由回归函数的导数给出的其它性质。 同时， 估计结果能在单调性和 某些渐进性质之间达到 平衡 比起单调估计的惯用技术 新估计有显式解并且在计算上更有效 更进一 步的 新方法有直观背景并且能减少初始局部多项式估计和惩罚局部多项式估计 之间的联系 从而能够容易地观察它们的性质 这篇文章的结构如 卜 第二 章给出了标准局部多项式估计 节结合有 基约束方法和局部多项式估计引进了回归函数和它的导数的惩罚局部多项式估计 这个估计可以有显式解并且在计算上 比较简单 节证 明了在某些正则条件下我们得到的估计是单调的并且在单调性和渐近性质上达到 了平衡 在第四 节这种方法被扩展为约束条件由回归函数的导数给出的一般情况 第五章给出了模拟来解释这些理论结果 第二章 模型和局部多项式估计 考虑下面的非参数回归模型 二 乙 这里 是 一个联合密度为 的双变量随机 向量 给定 的条件 下 的条件密度为 一 的边际 密度为 是正 的二次连续可微的且 有紧支撑 回归 函数定义为 州 是二次连续可微的 误差项 均值为 方差为 尹 标准局部多项式估计定义如下 我们在 的一个领域内通过一个多项式局 部的逼近 习 沙 同 “ ‘ 咚 一 工 十 ” 十 几厂咚一 工 三 几 口 “ 一 … 伟 一 ” 丫几是来自 的独立同分布的样本 通过 使下式达到最小 令 弋 我 们可以实现一个局部多项式 回归 艺 一 凡 一 口 戈 一 一 剐戈 一 凡以 、 二 一 ‘ 一 在 。 这里 凡 戈 是一个依赖 的带宽 核函数 上非负可微且满足下面的条件 一 ’ ‘ 二 山东大学硕士学位论文 二 如果 易 … 表示上面问题的局部最小二乘问题的解 那么 由 知 几分别是 声 的估计， 二 ，…，， 令 口 丙，口，… ，伟 ， 口 几，口，… ，岛 ， 瓜 乞 、 、 … 凡 、 并且 一 二 瓜 一 三 … 。 瓜 一 这里 ‘二 戈一 ， 凡 一 … 弋一 下面求问题 的解 记 一 一 一 一 ‘ 一 ， 几 几 … 剐 艺 几 口 弋 一 剐 甲凡 葱 令 得 艺 一 艺 一 二 ， 、 一‘无一 马凡 落 二 即 艺 凡 、 一 二 “ 一 艺艺 一 助 凡 、 一 二 “ 儿 几 一 艺艺 凡 、 一 “ 几 由 、 、 ， 一 尤 一 凡以 … 弋 一 二 ， 川 凡 一 ” 、 一 。 ” 凡人 … ， ” ， 一 匕 山东大学硕士学位论文 凡 、 艺瓜 一 凡 、 艺 瓜 一 ” 凡 、 衡 忿 一 凡 、 艺 ‘ 一 、 艺 ‘ 一 ‘ 、 凡 瓜 葱 诬二 艺 ‘ 一 ‘ ” 凡 、 艺弋 一 凡 艺 瓜 一 却 凡 、 ‘ 、 葱 落 云 知 可表示为 凡 瓜 口因为矩阵 是正 定的 所以 一 解上面的方程得 尽的最小二乘估计为 兀凡 存在 从而上面的方程有解 一 一 一 ‘ 一 ‘ 戈 口 ’凡 ’瓜 艺瓜 艺瓜