2_TimeSeries概览.pptVIP

粒子滤波算法（Particle filtering algorithm） 首先，根据0时刻的先验分布P(X0)进行采样得到N个样本构成的总体，然后对每一个时间步，重复下面的更新循环： 对每个样本，通过转移模型P(Xt+1|xt)，在给定样本的当前状态值xt条件下，对下一个状态值进行采样，使每个样本向前传播； 对每个样本，通过它赋予新证据的似然值P(et+1|xt+1)进行加权； 对总体样本进行重新采样N个样本，某个样本被选中的概率与其权值成正比，生成一个新的N样本总体。 雨伞例子 a) 传播 b) 权值 c) 重新采样 DBN特性 动态贝叶斯网络通过网络拓扑结构反映变量间的概率依存关系及其随时间变化的情况: 其不但能够对变量所对应的不同特征之间的依存关系进行概率建模, 而且对特征之间的时序关系也能很好地加以反映, 适合于对音视频(同时具有特征相关性和时序相关性的复杂特征进行联合建模)。 DBN特性 动态贝叶斯网络还可任意改变拓扑结构或增删变量以反映变量间各种不同的关联关系,而不影响训练算法本身,因此具有很好的可扩展性和灵活性; 动态贝叶斯网络还具有良好的可解释性,其拓扑结构具有精确及易于理解的概率语义。 DBN应用 Zweig 首先将DBN 应用于孤立词语音识别； Gowdy 等人利用DBN 进行音视频多数据流的语音识别研究； Freitas等人利用粒子滤波算法进行股票市场的预测。 * 不确定性推理（2） 关于时间的概率推理 1. 时间和不确定性 2. 时序模型中的推理 3. 隐马尔可夫模型 4. 卡尔曼滤波器 5. 动态贝叶斯网络 时间与不确定性 静态世界vs.动态世界中的概率推理 静态世界中随机变量有唯一固定的取值 ——例子：汽车故障诊断，证据→状态是什么？ 动态世界中随机变量的取值随时间而变 ——例子：糖尿病人的各种诊断指标 状态与观察 状态的改变过程可以被视为一系列快照，或称为时间片（time slide）； 假设在每个时间片所能观察到的随机变量属于同一个变量子集（非必须条件），Xt表示在时刻t不可观察状态变量集， Et表示可观察证据变量集，时刻t的观察结果为Et＝et。 假设状态序列从t＝0开始，而观察序列从t＝1开始。 例子 某秘密地下设施的警卫，想知道今天到底会不会下雨， 但他了解外界的唯一渠道是每天早晨看到主管进来时有没有带着雨伞。 稳态过程 稳态与静态的区别 稳态过程：变化的过程是由本身不随时间变化的规律支配的。 Markov processes (Markov chains) Markov assumption: Xt depends on bounded subset of X0:t-1 First-order Markov process: P(Xt | X0:t-1) = P(Xt | Xt-1) Second-order Markov process: P(Xt | X0:t-1) = P(Xt | Xt-2;Xt-1) Sensor Markov assumption: P(Et | X0:t;E0:t-1) = P(Et | Xt) Stationary process: transition model（转移模型） P(Xt | Xt-1) and sensor model（传感器模型） P(Et | Xt) fixed for all t. Example First-order Markov assumption not exactly true in real world! Possible fixes: 1. Increase order of Markov process 2. Augment state, e.g., add Tempt, Pressuret 关于时间的概率推理 1. 时间和不确定性 2. 时序模型中的推理 3. 隐马尔可夫模型 4. 卡尔曼滤波器 5. 动态贝叶斯网络 Inference tasks Filtering（滤波）: P(Xt|e1:t) 到目前为止所有已知证据下，当前状态的后验概率； Prediction （预测） : P(Xt+k|e1:t) for k 0 到目前为止所有已知证据下，计算未来某个状态的后验分布；like filtering without the evidence Inference tasks (cont.) Smoothing（平滑）: P(Xk|e1:t) for 0≤k t 到目前为止所有已知证据下，计算过去某个状态的后验