深度学习及自动驾驶应用（下篇，共上中下3篇）.pptxVIP

第七章Chapter7

循环神经网络及自动驾驶车辆换道行为预测

7.1循环神经网络概述

目7.2应用到机器学习

t

n7.3深层模型

e

录t

n7.4扩展到图结构

o

C

7.5循环网络应用

7.1循环神经网络概述

n前馈网络：

•连接存在层与层之间，每层的节点之间是无连接的。（无循环）

•输入和输出的维数都是固定的，不能任意改变。无法处理变长的序列数据

7.1循环神经网络概述

n前馈网络：

•假设每次输入都是独立的，也就是说每次网络的输出只依赖于当前的输入。

7.1循环神经网络概述

n有限状态自动机（FiniteAutomata）

如何用FNN去模拟一个有限状态自动机？

7.1循环神经网络概述

n图灵机

•一种抽象数学模型，可以用来模拟任何可计算问题。

7.1循环神经网络概述

n可计算问题

函数前馈网络

通用近似定理

可计算问题有限状态机

需要记忆能力

图灵机

如何给网络增加记忆能力？

7.1循环神经网络概述

n如何给网络增加记忆能力？

•延时神经网络（TimeDelayNeural

Network，TDNN）

•建立一个额外的延时单元，用来存储网络

的历史信息（可以包括输入、输出、隐状

态等）

•这样，前馈网络就具有了短期记忆的能力。

/publicationNeural_system_ide

ntification_model_of_human_sound_localization

7.1循环神经网络概述

n如何给网络增加记忆能力？

/publicationNeural_system_ide

ntification_model_of_human_sound_localization

7.1循环神经网络概述

n非线性自回归模型

/publication/234052442_Braking_torqu

e_control_using_reccurent_neural_networks

/publicationNeural_system_ide

ntification_model_of_human_sound_localization

7.1循环神经网络概述

n循环神经网络（RecurrentNeuralNetwork，RNN）

•循环神经网络通过使用带自反馈的神经元，能够处理任意长度的时序数据。

活性值

状态