第7章 人工智能、深度学习与自然语言处理.pptxVIP

金融科技学 第7章 人工智能、深度学习与自然语言处理 01 明确学习目标 一、本讲导读 从理论上梳理人工智能的定义、分类、发展历史 深度学习的基本概念与主要应用形式 自然语言处理的核心内涵与关键应用步骤 了解相关技术在金融实务中的应用 通过了解历史，对于技术的兴衰迭代形成冷静认知 一、本讲导读 本讲需要了解的基本概念 一、本讲导读 人工智能、深度学习与自然语言处理 深度学习发展概况 人工智能基本原理 自然语言处理提要 人工智能学派 深度学习的定义与奇点突破 自然语言处理的应用 深度学习的分类与应用 02 熟悉本讲结构与主要内容 6 商业实践中的相关概念 03 梳理本讲与其他各讲的联系 一、本讲导读 随着现代通讯技术、区块链技术、人工智能技术等前沿科技的发展，支付清算模式会有变革性的进步（对应第一章、第八章） 金融科技企业利用互联网、大数据、云计算、人工智能等技术优化运营，降低了经营成本（对应第三、九、十、十一章） 借助于大数据技术特别是深度学习技术，保险公司可以精准的预测一辆车的出险概率（对应第十一章） 自然语言处理等有关的信息主要通过爬虫技术获取（对应第六章） 智慧网点、智能投顾等新业务模式是基于自然语言处理技术而出现的（对应第九、十章） 7 04 推荐参考文献 一、本讲导读 罗素, 诺维格, 殷建平. 人工智能: 一种现代的方法[M]. 清华大学出版社, 2013. Goodfellow I, Bengio Y, Courville A. Deep learning[M]. MIT press, 2016. 约阿夫·戈尔德贝格. 基于深度学习的自然语言处理[M]. 机械工业出版社, 2018. 王靖一，Bilibili在线课程《金融科技工具箱》. /video/BV1DE411y7nz 第7章 人工智能、深度学习与自然语言处理 01 人工智能的定义 人工智能是指是研究理解和模拟人类智能、智能行为及其规律的一门学科。 图灵测试：如果一台机器表现出的智能，让人无法分辨其与人的差别，便可以认为这台机器达到了人工智能。 -被测试的有一个人，另一个是声称自己有人类智力的机器； -各自位于两间房子中； -测试人通过一些装置(如键盘)向被测试者问一些问题； -问过一些问题后，如果测试人能够正确地分出谁是人谁是机器，那机器就没有通过图灵测试；如果测试人没有分出谁是机器谁是人，那这个机器就是有人类智能的。 二、人工智能基本原理 01 人工智能的概念分类 弱人工智能：专注某一领域 强人工智能：能够胜任人类所有工作 超人工智能：超越人类存在 突破的奇点：图灵测试 二、人工智能基本原理 01 图灵测试的局限性 图灵测试：一个看起来不远实则遥远的节点 人工智能已经快速发展并取得巨大成功 人工智能并非全知全能，而是更加便宜 二、人工智能基本原理 02 商业定义与辨析 人工智能与大数据 人工智能与机器学习、深度学习 二、人工智能基本原理 03 人工智能的主要学派 符号主义学派：自动定理证明与专家系统 二、人工智能基本原理 03 人工智能的主要学派 行为主义学派 二、人工智能基本原理 03 人工智能的主要学派 连接主义学派 神经网络与反向传播算法 二、人工智能基本原理 03 反向传播算法与沉寂 为什么神经网络沉寂多年？ 结构复杂且没有明确的数学指导——难以确定网络的形态 模型复杂度极高，参数过多 数据是否足够训练 能否进行有效的正则化，防止过拟合 模型最优化困难且没有数学保证 极高的计算复杂度要求 二、人工智能基本原理 3. 人工智能发展简史 二、人工智能基本原理 第7章 人工智能、深度学习与自然语言处理 1 序幕：预训练 神经网络的能力来源于对数据每一个细分组合的穷尽 这些能力来源于宽而深的隐藏层 思考一件事儿，为什么我敢给你们讲深度学习而不敢给一群小婴儿讲深度学习？ 当人类进行学习的时候，好像并不是从最后（最新）反向传播到最开始。 所以，何为教育？ 三、深度学习的发展概况 1 序幕：预训练-形象化例子 三、深度学习的发展概况 1 序幕：预训练实现 Hinton Salakhutdinov (2006)第一次引入预训练的概念 Bengio et al. (2007). Greedy layer-wise training of deep networks. In NIPs 正式提出预训练 三、深度学习的发展概况 2 深度学习的主要分类：卷积神经网络 卷积神经网络（CNN） 三、深度学习的发展概况 2 深度学习的主要分类：卷积神经网络应用 三、深度学习的发展概况 2 循环神经网络与LSTM：处理序列 三、深度学习的发展概况 2 强化学习 三、深度学习的发展概况 2 强化学习应用 一、本讲导读 第7章 人工智能、深度学习与自然语言处理 1. 自然语言处