原创力文档- 1、本文档共11页，可阅读全部内容。
- 2、原创力文档（book118）网站文档一经付费（服务费），不意味着购买了该文档的版权，仅供个人/单位学习、研究之用，不得用于商业用途，未经授权，严禁复制、发行、汇编、翻译或者网络传播等，侵权必究。
- 3、本站所有内容均由合作方或网友上传，本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺！文档内容仅供研究参考，付费前请自行鉴别。如您付费，意味着您自己接受本站规则且自行承担风险，本站不退款、不进行额外附加服务；查看《如何避免下载的几个坑》。如果您已付费下载过本站文档，您可以点击 这里二次下载。
- 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等，请点击“版权申诉”（推荐），也可以打举报电话：400-050-0827(电话支持时间：9:00-18:30)。
人工智能之父JürgenSchmidhuber
人工智能算法的局限和突破
人工智能算法的局限和突破
Q:再次欢迎来到MLST,非常荣幸能有您参加节目。
Q:再次欢迎来到MLST，非常荣幸能有您参加节目。
JürgenSchmidhuber:我的荣幸，感谢邀请我。
JürgenSchmidhuber：我的荣幸，感谢邀请我。
Q:你认为未来人工智能技术的突破会减少计算量吗？我上周采访了ARCchallenge的获
胜者JackCole,他认为我们需要离散程序合成，需要可能是神经引导的符号人工智能
胜者JackCole，他认为我们需要离散程序合成，需要可能是神经引导的符号人工智能
或神经符号人工智能。他还提到神经网络是“宽但浅”,而符号方法是“狭窄但深入”。你
或神经符号人工智能。他还提到神经网络是“宽但浅”，而符号方法是“狭窄但深入”。你
对此有什么看法?
对此有什么看法？
JürgenSchmidhuber：我完全同意。深度学习无法解决计算机科学中的很多问题，例如
基础理论改进。深度搜索树更能确保新定理的正确性。虽然深度学习可以用来寻找捷
基础理论改进。深度搜索树更能确保新定理的正确性。虽然深度学习可以用来寻找捷
径或识别模式。有很多问题可以通过非深度学习的方法更快更高效地解决。例如符号
径或识别模式。有很多问题可以通过非深度学习的方法更快更高效地解决。例如符号
操作，当前的语言模型在遇到符号操作问题时，也是调用传统的符号计算方法来解
操作，当前的语言模型在遇到符号操作问题时，也是调用传统的符号计算方法来解
决。
决。
Q:确实，我们常说神经网络是有限状态自动机，而不是图灵机。多年来，LeCun和
Q:确实，我们常说神经网络是有限状态自动机，而不是图灵机。多年来，LeCun和
Hinton等人试图反驳这个观点，他们认为神经网络原则上可以进行符号抽象操作。但
Hinton等人试图反驳这个观点，他们认为神经网络原则上可以进行符号抽象操作。但
你认为它们有很明显的区别，对吗?
你认为它们有很明显的区别，对吗？
JürgenSchmidhuber：是的，循环网络就是一台通用计算机，所以原则上你可以在循环
网络中计算任何在笔记本电脑上可以计算的东西。
网络中计算任何在笔记本电脑上可以计算的东西。
Q:一篇1995年的论文证明了这一点，它使用了任意精度，似乎有些作弊，通过增加权
Q:一篇1995年的论文证明了这一点，它使用了任意精度，似乎有些作弊，通过增加权
重的精度来假装是图灵机。
重的精度来假装是图灵机。
JürgenSchmidhuber：你指的是Siegelmann的论文？那篇论文的论点不太有说服力，因
为它需要对权重进行无限精确的计算。循环网络作为通用计算机的证明并非那么简
为它需要对权重进行无限精确的计算。循环网络作为通用计算机的证明并非那么简
单，但它确实表明在这些网络中可以实现NAND门。因此，任何笔记本电脑可以做的
单，但它确实表明在这些网络中可以实现NAND门。因此，任何笔记本电脑可以做的
事情，循环网络也可以做到。
事情，循环网络也可以做到。
Q:我同意，但很多人会提出图灵机可以通过扩展内存处理潜在无限数量的情况，这是
Q:我同意，但很多人会提出图灵机可以通过扩展内存处理潜在无限数量的情况，这是
否意味着图灵机提供了更多的可能性？
否意味着图灵机提供了更多的可能性?
JürgenSchmidhuber：这只是一个理论。图灵机是图灵在1931年提出的，用来讨论计
算和人工智能的基本限制。图灵机的理论构造与现实可以构建的东西无关。在现实世
算和人工智能的基本限制。图灵机的理论构造与现实可以构建的东西无关。在现实世
界中，所有计算机都是有限状态的自动机。
界中，所有计算机都是有限状态的自动机。
Q:理论上，Python解释器可以执行无限多的程序，而神经网络只能识别它们训练过的
Q:理论上，Python解释器可以执行无限多的程序，而神经网络只能识别它们训练过的
有限事物，这是两者的根本区别。
有限事物，这是两者的根本区别。
JürgenSchmidhuber：理论上是这样，但在实际操作中，因为存储空间有限，所有计算
设备都受限于有限状态自动机。我们能实现的，是由循环神经网络代表的有限状态自
设备都受限于有限状态自动机。我们能实现的，是由循环神经网络代表的有限状态自
动机。有些任务，比如乘法运算或定理证明，某些自动机更高效。
动机。有些任务，比如乘法运算或定理证明，某些自动机更高效。
这些自动机看似简单，但在神经网络中实现并不直观。理论上，它们是等价的，但
文档评论（0）