AI前沿专题009_ AI和人分工的指导原则-AI负责预测人负责判断.docxVIP

AI前沿专题009_ AI和人分工的指导原则-AI负责预测人负责判断 人到底有什么能力是不可被AI替代的？每个人都需要思考这个问题。三个加拿大经济学家在《权力与预测》这本书中有一个洞见，我看有可能就是AI和人分工的指导原则。 简单说，就是双方共同做出决策，其中AI负责预测，人负责判断。 要说明这一点，我们先看一个真实的案例。网约车公司Uber一直在测试自动驾驶汽车。2018年，Uber的自动驾驶汽车在亚利桑那州撞死了一个行人，引起了激烈的讨论。 你仔细分析这个事故，会发现在撞击前6秒，AI已经看到了前方有一个未知物体。它没有立即做出刹车的决定，因为它判断那个物体是人的概率非常低——虽然那个概率并不是0。 AI有个判断阈值，只有在前方物体是人的概率超过一定数值的情况下，它才会刹车。撞击前6秒，概率没有超过阈值；等到后来终于看清是人的时候，刹车已经晚了。 我们把刹车决定分为「预测（Prediction）」和「判断（judgement）」两步。AI的预测也许不够准，但是它已经预测出这个物体*可能*是一个人，它给出了不为0的概率——接下来的问题是出在了判断上。在这个概率上应不应该踩刹车，是这个判断导致了悲剧。 Uber AI 用的是阈值判断法，这可以理解，如果对前方任何一个是人的概率不为0的物体，AI都选择刹车，它就会在路上不停地踩刹车，这车就没法开了。当然你可以说这个阈值不合理，但是这里总是需要一个判断。 请注意，正因为现在有了AI，我们才可以做这样的分析。以前发生过那么多人类司机撞人的事件，从来没有人去分析那个司机是犯了预测错误还是判断错误。但这种分析其实是完全合理的，因为两种错误性质很不一样——请问这位司机，你是根本没看见前方有人呢，还是已经感觉到前方物体*有可能*是人，但是你感觉那个可能性并不是很大，又因为赶时间，你觉得那么小的概率可以接受，就开过去了？ 你犯的到底是预测错误，还是判断错误？ 决策 = 预测 + 判断。 预测，是告诉你发生各种结果的概率是多少：判断，是对于每一种结果，你在多大程度上愿意接受。 我们专栏前面讲蒂姆·帕尔默的《首要怀疑》，其中专门讲过怎样根据预测的概率做决策 [1]。你周末有个户外聚会，要不要为此租个帐篷防止下雨，这是你的决策。天气预报告诉你那天下雨的概率是30%，这是预测。面对这样一个概率，下雨的损失是不是可以接受的，这是你的判断。 我们当时讲的是只要采取行动的代价（也就是帐篷的租金）小于损失（也就是下雨会给你带来多大的麻烦）乘以概率，就*应该*采取行动，租个帐篷防止淋雨。但是在这一讲的视角下，请注意，这个“应该”，应该理解成是对你的*建议*。 是否采取行动的拍板权还是在你手里——因为那个损失最终是由你来承受的。AI不会承受损失，用公式给你提建议的人不会承受损失。英国女王也好、你岳母也好，在场来宾淋雨这件事是大是小，不是AI所能知道的——那其实是你自己的主观判断。 AI很擅长预测天气概率，但是判断一个天气状况带来的后果，需要更多的、具体的、也许只有你自己才知道的信息，所以做判断的应该是你而不是AI。 AI时代的决策 = AI的预测 + 人的判断 也就是说，我们应该让预测和判断脱钩。以前所有的决策都是人负责预测，人负责判断，现在则应该是AI负责预测，人负责判断—— 我们承认AI比人聪明，但是我们也知道真正承受风险、体验后果的是人而不是AI。预测是客观的，判断是主观的。AI不能僭越人的判断，人也不应该专断AI的预测。AI与人各安其位，分工明确。 如何实施这个分工呢？一个方法是人为给AI设定一个自动判断门槛。 比如自动驾驶汽车，我们可以规定，当AI预测前方物体是人的概率高于0.01%——或者0.00001%也行，反正你得有个不为零的数值——的时候就必须踩刹车。这个判断标准，这条线，肯定不是AI自己规定的，而是人事先设定的。你把这条线编程到AI之中，但是下达那条编程指令的必须得是人——因为只有人能判断人命的价值：对AI来说，人命的价值是无法用客观方法估算的。 其实我们已经在用这种判断了。以前你到商店买东西用的是现金，那个现金是真钞还是假钞，得由商店收银员自己预测、自己判断。现在你刷信用卡，那个信用卡是真卡还是假卡，现在不是由收银员决策，而是由信用卡联网系统根据算法来预测和判断的。算法会先评估这张卡是假卡的概率有多大（预测），再看看那个概率是否高于某一条线（判断），决定是否拒收。那条线不是任何AI算出来的，而是事先某个由人类组成的委员会划定的——因为线划得太低得罪客户的是人，线划得太高承担损失的也是人。 未来我们会面对各种各样类似的事情，《权力与预测》这本书建议这样的判断最好由一个像美国食品药品监督管理局（FDA）这样的机构来执行，就好像评估一种新药是否可以上市一样。 另一个方法是把判断量化成钱。 你租了一