探索人工智能的神秘意识.PDF

2017 年 5 月 7 日 星期 日 14 百科 责任编辑 ：施亚泽 校对 ：林小娟 探索人工智能的神秘意识 □Technology Review 机器思维 类似人类吗 当机器 人决定 走特定 路 线前往仓 库 ，或 无人 驾驶 汽 车决定 转 向时 ，它们 的人 工智 能 (A I)算 法是 靠什 么作 出决定 的? 2015年 ，纽 约西奈 山医院 的研 究 团队将 深度 学 习应用 到 医院庞 大 的病例 数据 库 中。 这 个 数据 集 中有攸 关病人 的数 百个 变量 ，包 括 测 试 结果 以及 医生诊 断等 。 由此产 生 的程序被研 究人 员命 名 为Deep Patient ，它被 利用 70多万名病人 的数据 训练 。但 测试 新 的病例 时 ，它 2016年 ， 美 国新泽 西州蒙茅斯 县 展 现 出令 人 不 可 思议 的能力——— 常擅 长预 测疾 病 。 无 需专 家指 导 ，Deep Patient可 以在 医院数据 中找 出隐藏模 式 ，并通 过 病 人 的各 种 (Monmouth County)安静 的公路上 出 症状 确认疾 病 ，包 括肝癌 。 与此 同时 ，Deep Patient也让 人 觉得 有 点 困惑 ，它对 于诊 断精 神疾 病 (比如精 神分 裂症 )非 常准确 。众所周 知 ， 现一辆奇怪的无人驾驶汽车 。 这是芯片 即使 是 医生也很 难 诊 断精 神分 裂症 ，为 此研 究人 员想 知道 为何 Deep Patient具 备 这 样 的能力 ，但 他 们 未 能找 到答 案 ，这 种 新 工具 未 提 制造商英伟达的研究人员开发出的试验 供 任何 线 索。 车 ，尽管它看起来与谷歌 、特斯拉以及通 现在 ，A I还 无 法 向人们 解释 自己作 出某项 决定 的理 由，这 或 许是个 需要搞 清楚 的大 问题 。 用汽车公司研发的无人驾驶汽车没什么 下 图：艺术 家亚 当·费里斯 (Adam Ferriss )利用谷歌 Deep Dream程序创造 的 图像 ，看起 来 怪诞 诡 异 。 Deep Dream可 以通过刺 激 不同，但它展现出AI的更多力量 。 深度 神经 网络 的模 式识别 能力调 整 图像 。 帮助汽车实现 自动驾驶堪称是令人 印象深刻的壮举 ， 但同时也让人感觉有 点儿不安 ， 因为现在我们还不是非常清 楚汽车如何作出决策 。 汽车传感器收集 的信 息被 直接 传给庞大 的人工神 经 网 络 ，后者可对数据进行处理 ，然后发出相 应指令 ，指挥汽车方 向盘 、制动以及其他 系统运行 。 表面看起来 ， 它似乎能与人类驾驶 员的反应相匹配 。 但是当其发生意外事 件 ，比如撞上树或闯红灯时 ，我们可能很 难从 中找 出原 因 。 这些AI算法 非常复 杂 ， 甚至就连设计它们的工程师都无能 为力。 现在我们还没有办法设计出这样 的系统 : 它总是能够 向人们解释为何要 作出上述决定 。 这些正指 向一个与AI有关的 、迫在 眉睫的问题 。 这些汽车算法以AI技术(又 被称为深度学 习)为基础 ，近年来其已被 证明是解决诸多问题的强大工具 。 这种 技术被广泛用于图像字幕 、 语音识别以 及语言翻译等领域 。现在 ，同样的技术也 被期望能够帮助诊断致命疾病 、 做出价 值数百万美元的交易决策以及无数足以 改变整个行业的其他事情 。 但是直到我们找到新的方式 ， 能让 深度学 习等技术变得更容易被其创造者 所理解 、 更容易向用户就 自己的行为作 出解释后 ， 上述场景才会出现或应该出 现 。否则很难预测它们何时会出现故障 ， 看不透的“黑箱” 而且出现故障将是不可避免的。