决策理论与方法讲义.pptVIP

2.3 贝叶斯决策 2.3.1 贝叶斯决策的概念 贝叶斯决策理论是主观贝叶斯派归纳理论的重要组成部分。贝叶斯决策就是在不完全情报下，对部分未知的状态用主观概率估计，然后用贝叶斯公式对发生概率进行修正，最后再利用期望值和修正概率做出最优决策。 贝叶斯学派的基本观点是：任一未知参数都可以看作随机变量，可用一个概率分布去描述，这个分布称为先验分布。也就是说可以把任一未知参数看作随机变量，并且通过利用主观的判断和直觉，提供先验信息。 第三十页，共七十六页。 2.3 贝叶斯决策 贝叶斯基本原理，又称贝叶斯定理（Bayes theorem），是贝叶斯决策理论的根基。贝叶斯基本原理是概率论中的一个结果，它跟随机变量的条件概率以及边际概率分布有关。在有些关于概率的解说中，贝叶斯定理能够告诉我们如何利用新证据修改已有的看法。作为一个规范的原理，贝叶斯定理对于所有概率的解释是有效的。通常，事件A在事件B(发生)的条件下的概率，与事件B在事件A的条件下的概率是不一样的；然而，这两者是有确定的关系,贝叶斯定理就是这种关系的陈述。 两事件 同时发生的概率遵循如下的乘法法则： 如果事件 和 是完全互斥的，则有边际概率： 第三十一页，共七十六页。 2.3 贝叶斯决策 如果事件 和 是完全互斥的，其中某个事件的发生是事件 发生的必要条件。则两事件的发生遵循如下的贝叶斯定理公式： 同理可知，如果事件 是完全互斥的，其中某个事件的发生是事件 发生的必要条件，那么 个事件的贝叶斯定理公式就为： 第三十二页，共七十六页。 2.3 贝叶斯决策 贝叶斯决策的意义 决策问题与人的生活密不可分，小到一个行动方案的决定，大至国家大政方针的制定，都属于决策问题。对于一些具有确定性的决策问题，像“货郎担问题”，利用数学规划的知识可以很好地解决，但对于具有不确定性的问题，比如根据某产品以前几个月的销售情况，来决定下一个月的生产数量问题，就需要用到统计决策方法，这时贝叶斯决策是一种很好的决策方法。 决策问题的一般特点是： (1)决策者面临多种决策行动方案有待选择，即可采取的决策方案不唯一； (2)所选择的决策方案实施后果的价值待定； (3)自然状态的不确定性，由此造成决策方案结果的不确定。 第三十三页，共七十六页。 2.3 贝叶斯决策 用贝叶斯决策可以拥有一般决策方法所不具有的优势。首先，一般的决策方法大多用的是不完备的信息或主观概率，而贝叶斯决策能对信息的价值或是否需要采集新的信息做出科学的判断。它能对调查结果的可能性加以数量化的评价，而不是像一般的决策方法那样，对调查结果或者是完全相信，或者是完全不相信。其次，如果说任何调查结果都不可能完全准确，先验知识或主观概率也不是完全可以相信的，那么贝叶斯决策则巧妙地将这两种信息有机地结合起来了。它可以在决策过程中根据具体情况下不断地使用，使决策逐步完善和更加科学。但同时贝叶斯决策也具有自身不可避免的局限性，如它需要的数据多，分析计算比较复杂，特别在解决复杂问题时，这个矛盾就更为突出；而且有些数据必须使用主观概率，有些人不太相信，这也妨碍了贝叶斯决策方法的推广和使用。 第三十四页，共七十六页。 2.3 贝叶斯决策 2.3.2 贝叶斯决策方法 1.贝叶斯决策的基本方法 贝叶斯决策可以通过以下步骤来进行： (1)验前分析。 (2)预验分析。 (3)验后分析。 (4)序贯分析。 第三十五页，共七十六页。 2.3 贝叶斯决策 2.3.2 贝叶斯决策方法 2.贝叶斯风险与原则 在进行贝叶斯决策细致深入研究之前，我们首先需要定义决策过程中的几个重要的变量，并了解贝叶斯决策所遵循的原则。 定义2.3.1 报酬：报酬为某个自然状态下采用某个决策后所产生的利润结果。所有利润结果的集合称为报酬集，记为R。由于结果具有不确定性，所以行动的结果通常以R上某一概率分布的形式出现。令P表示所有这些概率分布的集合。 定义2.3.2 损失：损失表示对应于某一自然状态和某一决策方案下，采取某种行动所产生的不良后果。 定义2.3.3 贝叶斯期望损失（又称后验风险）。贝叶斯期望损失是指： 第三十六页，共七十六页。 2.3 贝叶斯决策 2.3.2 贝叶斯决策方法 定义2.3.4 决策规则：决策规则 为一个从信息集A到行动集的函数，表示根据信息x所作的决策。若对所有 的有 ，则两个决策 和 被认为是相等的。 定义2.3.5 风险函数：决策规则 的风险函数定义为 第三十七页，共七十六页。 2.3 贝叶斯决策 定义2.3.6 贝叶斯风险：一个决策规则 关于 上的先验分布 的贝叶斯风险是指 这