认知计算与数据处理：联结主义的套路.PDFVIP

认知计算与数据处理 ：联结主义的套路 2017年数据与智能暑假讨论班 第0讲. 深度学习的基本方法 实验室同学、崇志宏 东南大学计算机学院数据与智能实验室 cse.seu.edu.cn/people/zhchong 东南大学数据与智能实验室 DIntel Lab 提 I. 基础概念(高维不确定、不完全、不一致问题的建模) – 图概率模型支持 向量机 – 深度模型深度贝叶斯模型马科夫逻辑网络 纲 – 推理和学习中的Intractability解决思路 – 知识和正则化 凸优化到非 凸优化的大胆应用 II. 分布结构获取 ：前馈网络解决问题的一般思路 – Boltsman机、Autoencoder – DAE、CAE、VAE到GAN、WGAN The Curse of III. 记忆、关注和推理的结构 Dimentioality! – LSTM和可微记忆网络 – Attention和推理的基本方法 IV. 其他模型 Probabilistic – 博弈/对偶学习 （群体智慧 ） Graph – 强化学习 （策略学习 ） – 迁移学习 （适应学习 ） V. 建模与应用 （高维不确定、不完全、不一致问题的建模 ） – 语言和视觉 – 知识图谱、大数据、时空数据 – 关系、网络以及图 参考资料 其他相关文献 （PPT 内标注 ） • Mind • Behaviour 涉及的领域 东南大学数据与智能实验室 DIntel Lab 问题解决 ：模型和计算 数学 模型 I. 洞察 效果 效率 II.抽象 客观 计算 世界 模型 III.计算和工具 东南大学数据与智能实验室 DIntel Lab 符号和联结 ：认知建模的可能方法 符号和联结 ：认知建模的可能方法 Probabilistic Graph The Curse of Dimentioality! 对 高维不确定定、不完全、不一致建模的方法 主要技术方法 I. Inference as Optimization • Variational Reparameterization • BP through Sampling Operation • Mean--Expectation