- 1、本文档共15页,可阅读全部内容。
- 2、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
- 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载。
- 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
人工智能的“理解困境”及其化解
途径
∗
———从东西方文化的视角看
任晓明
摘要:近年来ꎬ机器学习建模领域得到了飞速发展ꎬ但是它在带来了巨大利益
的同时伴随着巨大的风险ꎬ人工智能的技术实现是主要的风险来源ꎮ论文从可解释人
工智能的视角ꎬ探讨如何破解其“理解困境”的途径和方法并指出ꎬ首先需要澄清诸如
智能、理解之类的基本概念ꎬ认为智能的目标不仅是对于未来的预测ꎬ而且是对世界的
理解ꎮ理解世界需要一个普适的架构ꎬ与统计相关模型相比ꎬ因果结构模型更具可解
释性ꎬ是一种“深层理解”ꎮ文章讨论了因果推理的认知框架ꎬ分析和比较它们在可解
释性方面的优势和劣势ꎬ认为倾向理论比反事实依赖理论更具可解释性ꎬ这就为破解
人工智能的“理解困境”开辟新的思路ꎮ最后指出ꎬ目前的深度学习系统虽然在预测
精度方面取得进展ꎬ但在可解释性、可理解性、公平性和可信性等方面有所欠缺ꎬ在应
对因果涌现等复杂性问题时还需要借鉴东方智慧ꎬ特别是借鉴印度正理哲学的因果
思想ꎮ
关键词:人工智能ꎻ理解困境ꎻ不确定性推理ꎻ正理哲学
中图分类号:TP18文献标识码:A文章编号:1003-6644(2024)04-0178-15
作者任晓明ꎬ男ꎬ汉族ꎬ四川省泸州市人ꎬ哲学博士ꎬ四川大学哲学系教授、博士生
导师(四川成都10065)ꎮ
自从聊天机器人ChatGPT出色的语言生成能力引起全世界关注以来ꎬ国内外掀起
了一股浪潮ꎬGemini、文心一言、Copilot、LLaMA、SORA等各种大语言模型如雨后春笋
般出现ꎬ人工智能技术突破层出不穷ꎬ赋能各行各业ꎬ推动着人工智能与数据要素成为
∗本文为2022年国家社会科学基金重点项目“印度正理派逻辑思想研究”(22ZBX019)阶
段性成果ꎮ
178
人工智能的“理解困境”及其化解途径
新质生产力的典型代表ꎮ虽然人工智能在各个领域的成功应用推动了生产力的发展ꎬ
但是它在带来巨大利益的同时伴随着巨大的风险ꎮ虽然这些风险大多存在于人工智
能应用的法律、社会和政治层面ꎬ但风险的主要来源仍然是人工智能的技术实现ꎮ更
重要的是ꎬ当前的技术风险前景中充满了对人工智能社会风险和伦理问题的担忧ꎮ有
人可能会说ꎬ我们只要能够观察到模型的一组给定输入产生的一组输出即可ꎬ不需要
理解这种模型的内部工作原理ꎮ追求可解释性意义不大ꎮ因为很多系统的成功都可
以由实践来验证ꎮ为什么非得要可解释?比如ꎬ当你去打车的时候ꎬ你为什么要信任
司机?其实司机就只是一个陌生人ꎬ你根本不认识这个司机ꎬ你只是知道他是个人ꎮ
那你为什么还信任他ꎬ那是因为你认为他的大脑具有可解释性吗?还是因为你明白ꎬ
一般说来ꎬ一个训练有素而且经验丰富的司机ꎬ是大概率能够完成这个任务的ꎮ在我
们看来ꎬ这种观点是不能成立的ꎬ因为ꎬ在缺乏理解的情况下就信任这种模型可能会导
致严重的后果ꎮ例如ꎬ我们如何知道模型所预测的是不是有错?我们怎么知道这种模
型是不是可信任的?这在医疗保健等高风险领域是很重要的ꎮ如果一个训练有素的
模型有99%的准确率ꎬ医生或病人会相信它所做的癌症预测吗?万一这个模型漏掉了
最恶性的病例是不是有很高的风险?当用于高风险决策如信用贷款、医疗诊断等行业
时ꎬ机器学习模型的可解释性就至关重要ꎮ
总之ꎬ机器学习在得到广泛应用的同时ꎬ也在许多重要领域导致了较大的风险ꎬ特
别是在自动驾驶、医疗保健、司法量刑、金融信用评分与贷款、军事机器行动等领域ꎮ
这使得可解释人工智能(XAI)成为一项值得充分重视的研究ꎮ
一、人工智能的“理解困境”和应对之策
深度学习等学习模型本质上是“黑箱”(BlackBox)ꎬ其预测的内部机制和细微差
别是不可见的ꎬ或者说是不透明的ꎮ这就是人工智能面临的可解释性问题ꎬ包括以下
几方面:
1.算法的不透明:如何理解由大量简单模块协同工作后产生的结果ꎮ
您可能关注的文档
- 人工智能时代第三持存的技术逻辑与政治叙事.pdf
- 人工智能时代航海类高校军事课新模式建构和实践.pdf
- 人工智能时代财务会计向管理会计转型的策略研究.pdf
- 人工智能时代高校思政教育创新发展的问题与路径研究.pdf
- 人工智能时代高校网络思想政治教育的原则与实现路径研究.pdf
- 人工智能时代高职院校人才培养模式探讨.pdf
- 人工智能生成内容的可版权性审思及路向--基于法理与马克思劳动价值论的考量.pdf
- 人工智能生成物的可版权性探究及域外经验镜鉴.pdf
- 人工智能算法时代电影类型理论的演变与重构——从动画电影说开去.pdf
- 人工智能背景下大学生通识课程的教学探索与实践创新.pdf
- 2024莆田市城厢生态环境局招聘环保人员笔试备考题库及答案解析.docx
- 2024莆田学院保卫处(武装部)面向社会公开招聘安保人员笔试备考题库及答案解析.docx
- 2024山东青岛市卫生健康委员会直属事业单位招聘第二批人员129人笔试备考题库及答案解析.docx
- 2024人民网总网招聘3人笔试备考题库及答案解析.docx
- 2024山西省王庄煤矿招聘井下一线生产操作岗位人员350人笔试备考试题及答案解析.docx
- 2024山西省五里堠煤业招聘井下一线生产操作岗位人员120人笔试备考试题及答案解析.docx
- 2024上海虹口区嘉兴路街道第二批社区工作者、见习社区工作者招聘9人笔试备考题库及答案解析.docx
- 2024年浙江温州瑞安市人民医院招聘合同制工作人员2人笔试备考题库及答案解析.docx
- 2024莆田市湄洲湾北岸经济开发区国发投资有限公司物管员招聘笔试备考题库及答案解析.docx
- 2024年中国农业科学院兰州兽医研究所《中国兽医科学》编辑部主任招聘笔试备考题库及答案解析.docx
- 乡村振兴、双碳、储能、绿色金融 + 关注
-
实名认证服务提供商
新能源知识科普(本账号发布文档均来源于互联网公开资料,仅用于技术分享交流,相关版权为原作者所有。如果侵犯了您的相关权利,请提出指正,我们将立即删除相关资料)。
文档评论(0)