从法航447航班的故事看人类面临的自动化悖论

当一些极端情况发生时，就像电传飞控系统出现的问题一样，我们并不会从容处理。我们总是认为计算机永远正确，即使有人说计算机有问题，我们也会认为是人错了或是在说谎。倘若电脑将你误认为是惯偷，因而保安将你赶出了购物中心，那会怎样？或者说当你的名字或者外貌错误地出现在“犯罪分子”数据库中，又该怎样去除掉呢？

随着计算机技术的发展，电脑已经把装满文件的档案柜变成了查找方便、操作便捷的一个个数据库。更多的计算机管理数据库，使用者根本不需要参与其处理过程，也无需了解到底发生了什么。但计算机的处理过程往往是不加解释的，一个对学校和教师的评级，一个Uber司机服务的优劣，抑或是一个企业在谷歌搜索中的排位，这些算法通常都被视为是商业机密。算法中的错误或是先验概念无可避免，这些错误和一些先入为主的情况很难被挑战。

专门研究专家和直观决策的心理学家格里·克莱恩（Gary Klein）总结称，“算法在决策上的广泛采用使得人们难以查纠失败的真正原因。随着人们越来越依赖于算法，其对问题的判断力和洞察力都会受到影响。这个过程形成了一个恶性循环。当我们越是习惯于通过算法做决策，对于外界环境就越是被动。”

决策专家克莱恩抱怨称，一些软件工程师对系统本身的设计消磨了人们的专业技能，从而有可能使问题更加糟糕。如果我们希望使自己的专业技能得到锻炼，那么就需要与系统进行斗争。譬如，在驾驶过程中GPS设备能够为司机导航，但其中的查看地图或是改变原有路线等功能都被隐藏在傻瓜功能之下。人们总是直接点击“开始导航”，其他的都交给了计算机。

心理学家丽贝卡·帕里斯克（Rebecca Pliske）发现，老牌的气象学家在进行天气预报时习惯于先查阅数据并形成自家的判断，随后再去看计算机的预报结果。通过不断实践，这些气象学家保持了自己技能的熟练程度。但是，新一代的气象学家却更依赖于电脑，一旦老一辈人退休，倘若电脑崩溃人们就会因专业技能匮乏而无所适从。

相信我们很多人都需要过GPS系统带来的问题，我们也看到了诸如飞机自动驾驶仪给人们带来的麻烦，把两者结合起来，我们就知道自动驾驶汽车的问题。负责谷歌自动驾驶汽车计划的克里斯·乌姆森（Chris Urmson）希望自动驾驶汽车能够很快普及，他的孩子不再需要驾驶执照。他的目标有一个显著的暗示：自动驾驶汽车永远不需要人类控制。

卡拉基梅隆大学的自主驾驶专家拉杰·拉杰库马尔（Raj Rajkumar）认为，汽车实现完全自动驾驶，我们还需要10到20年的时间。在此之前这是一个渐进发展的过程，让汽车在简单条件下自动驾驶，而人类在更具挑战性的时刻接手控制。

“随着时间的推移和技术的发展，适用于汽车自动驾驶的情况将会不断增多，直至汽车完全实现自动驾驶，但这种改变将是潜移默化的，人们几乎不会注意到。”但拉杰库马尔指出，即使那样，“总会有一些情况会超出任何人的控制。”

如果这听起来可怕，或许本该如此。如果汽车在情况复杂时，向人类交还控制权，这听起来似乎很合理。但这引出了两个直接的问题：如果我们希望汽车知道在什么时候移交控制权，其实就是要求整个系统能够清楚自己的能力范围——清楚自己在何时能行，以及何时不可行。这是非常困难的问题，甚至对人类自身来说都不简单，更不用说一台计算机了。

另外一个问题是，如果我们希望自己能够接管汽车控制权，那么我们如何知道做出何种反应呢？从法航447航班的现实我们可以得知，当飞机自动驾驶仪关闭后，即便是训练有素的飞行员也很难弄清楚到底发生了什么情况。因此我们对于计算机即将犯错时人类能否具备及早察觉的能力，也理应保持怀疑的态度。

密歇根大学教授阿努伊·凯·普拉丹翰（Anuj K Pradhan）指出，“目前人类还不习惯于使用自动驾驶汽车，所以，我们还不清楚当驾驶被行车电脑接管之后，人类司机将如何根据实际情况做出反应。”

事实上，我们有有可能在自动驾驶汽车上玩手机，或者通过视频电话聊天，并不会对计算机如何驾驶汽车时刻保持警惕。或许我们第一次乘坐自动驾驶汽车时不会如此大意，但久而久之势必如此。

而当自动驾驶汽车的计算机真把控制权交还给人类时，有可能是遇到了最极端和最具挑战性的情况。当法航447航班的自动驾驶仪让三位飞行员接管飞机时，他们也仅仅两三分钟的时间去考虑如何处置。而当行车电脑宣布“自动驾驶模式断开”时，我们把目光从智能手机屏幕上移开，看到一辆公交车迎面而来，我们能有挽回的机会吗？

普拉丹翰提出了这样一种设想，在人类获准操控自动驾驶汽车之前，应当具备若干年的手动驾驶汽车经验。但我们很难知道这是否真的有效。不论一位司机拥有多少年驾龄或是驾驶技术有多么娴熟，一旦让计算机接管了汽车驾驶，他的驾驶技能势必会日渐生疏。从另一方面讲，普拉丹翰的建议也会带来这样一个难题：因为最有可能发生事故，所以我们或许会让年轻司机放弃手动驾驶。而即便他们学到了一些驾驶技能，但在自动驾驶汽车的影响下也很快会退化。

正是因为数字设备出色地解决了小问题，所以才为大错误的产生埋下隐患。这些系统无微不至地为我们避开了所有令人尴尬的反馈，去除了所有实践磨砺技能的可能。当危机来临，我们会悲伤地发现自己是何等无能和措手不及。

在飞行训练中，一些经验老道的飞行员会要求初学者时不时关闭自动驾驶仪，从而保持自己的技能水平，这听起来似乎是一个好的建议。但是问题在于，如果初级飞行员仅仅是在绝对安全的情况下关掉自动驾驶仪，其效果也是相当有限的。但倘若让他们在具有挑战性的情况下关闭自动驾驶仪，又有可能引发出真正的事故？

（编辑：南平站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!