ai领域专家对当前技术路线的质疑.docVIP

ai领域专家对当前技术路线的质疑

人工智能专家对当前的技术路线图提出了各种质疑，主要集中在泡沫过多、片面性和实现AGI能力不足等问题上。具体内容如下：

对实现AGI的可能性的怀疑：许多技术专家认为，AGI可以沿着目前的技术路线实现，但图灵奖获得者YannLeCun一再提出反对意见。他认为，目前的主流技术路径无法引领我们走向AGI。他指出，仅仅依靠文本训练，人工智能永远无法达到人类水平的智能，因为人工智能缺乏世界模型、持久记忆和规划复杂动作序列的能力，而这些都是人类甚至动物所拥有的。

对过度泡沫的担忧：在第二届中国科技伦理高峰论坛上，梅红院士指出，人工智能仍处于技术成熟曲线的高峰期，泡沫过多，喧嚣掩盖了理性，需要一个冷静期。资本市场的非理性繁荣、技术落地的滞后、人才市场的虚假繁荣都是这一问题的表现。例如，2023年，全球人工智能投资超过500亿美元，但超过60%的初创企业尚未形成有效的商业模式。

对技术路径片面性的担忧：梅红院士认为，目前的人工智能是基于大数据相关性分析的，缺乏因果推理能力。例如，在对抗性样本攻击下，ImageNet冠军模型的准确率可以从95%下降到3%，揭示了与人类认知的本质区别。此外，目前的技术路线在场景泛化方面存在漏洞问题。AlphaGo可以在围棋领域超越人类，但同样的算法无法处理简单棋盘游戏的规则变化。

对过度期望的质疑：公众的科幻认知导致社会认知与技术现实之间的错位，对人工智能的期望过高。皮尤研究中心的调查显示，62%的公众认为通用人工智能将在2040年之前实现，但YannLeCun等专家估计，这一概率不到20%。此外，人工智能在制造业的实际渗透率仅为12%，金融领域的人工智能风险控制模型在黑天鹅事件中失败，表明其对复杂社会系统的理解有限。

关于模型可解释性和可靠性的问题：大型语言模型的“黑匣子”性质导致了可解释性问题，这是它们最大的“弱点”。训练语料库的质量缺陷和概率统计的固有误差等因素会导致大型模型产生幻觉并生成错误的内容。此外，人为干扰很容易产生虚假内容，这对人类知识系统构成了严重挑战。