莫要谴责人类失误
时间：2020-12-09 20:04:49 来源：雅意学习网 本文已影响 人 
必须树立崭新的设计观念：人类的错误行为和系统噪音一样可以被预测、容忍和修正
1988年，苏联的火卫一号人造卫星在前往火星途中失踪。为什么?根据《科学》杂志的说法：“发射后不久，一个地面管理员在发往太空船的一系列数字指令中遗漏了一个字母。厄运到来，那个冗长的指令被错译，检测程序被错误启动。”(检测程序储存在于只读储存器中，只有当卫星在地面时方可被启动)。火卫一号卫星剧烈震荡，脱离轨道，飞到了人们再也无法发现的地方。
指令语言这么小的错误导致如此恶劣的后果，应该被视为糟糕的设计问题吗?
针对电磁噪音的检测、辨认和可靠性分析研究的成果已被广泛认知。人们期望设计者能够运用错误信息检测和纠正代码。设想一下，若电磁噪音干扰了火卫一卫星的正常信号，我们不该去责备地面控制员，而应该说系统设计者没有遵循工程实践的标准，并且由此重新考虑系统的设计来应对未来可能出现的问题。
人必有错。事实上，人类不是精准的器械：创造力、适应性和机动性是我们的优势，持续的警觉以及行动和记忆的精准却是弱项。我们极端柔韧，充满精力、富有创造性、从不完整的证据中找到解释和意义。引导我们取得成就的创造力和精力会制造灾难。解释不完整信息的自然趋向会驱使操作员以一种似是而非的方式曲解系统行为，这种情况下，误解极难被发现。
人类的行为方式提供了一种复杂的交互系统。许多种类的人类错误被识别和研究，许多促使错误发生率变高的条件特征会被事先确定。以同样的方式，我们可以设计出一套关于错误容忍、检测或者人类操作员的最低限度交互作用的科学理论。
不过，尽管人类操作员的行为和状态进入了系统分析，然而信息处理系统的任何一个行为都不是设计说明书的产物，而是人类和系统之间交互作用的产物。设计师必须考虑到系统所有部分的部件和因素——包括人和系统的交互作用。但遗憾的是，许多信息系统的失败更容易被归咎于人类的失误而非设计。
必须改变我们的态度。所谓人们的错误行为和系统噪音一样是可预测的。所以，停止谴责那些在窘境中的人们，代之以研究导致错误出现的系统特征，修改设计，以排除或在最大程度上减少未来这种错误可能出现的几率。一个重要步骤就是把“人为错误”这个术语从我们词典中移开，另一个重要步骤是提高设计的规格，把人类的功能同样纳入考虑之中。
在苏联火星探测卫星的案例中，《科学》撰写的报道似乎认为是由于操作员的失职导致了问题的出现。《科学》杂志采访了苏联航天器制造的主管负责人，问道：“那个酿出大错的操作员究竟怎么样了?”该负责人满面阴云地表示，他还没有去西伯利亚的监狱。
提问和回答都充满了谴责，但对于设计师运用什么语言、软件和方法，文章都没有提及。这种态度阻碍了我们从这次事件中学习的机会，使得错误很有可能被延续。
归咎于“人为错误”的电脑系统导致的失败在任何行业都极易找到：核电站、航空航天领域、商业领域、股票市场和电脑工业本身。1989年火卫一号事件之后，美国计算机协会的《通信》杂志8月号上的新闻报道中有这样的片段：“一个在体斯敦指挥部的电脑操作员因为疏忽毁坏了电脑附件中可能包含重要信息的数千个文档而被解雇，这些重要信息关系到阿拉斯加油田。那个被开除的员工声称自己是替罪羊，因为他销毁的拷贝软件没有一个被标注上‘禁止销毁’的标签”。
这个事件提供的信息难以形成有效的结论，如果系统被设计成包含操作员想法的结构，那么是否销毁那些拷贝软件就不会取决于一个“禁止销毁”的标签，该事件或者不会发生，或者理由就不会如此似是而非。
同样的方式，美国联邦运输安全委员会却完成了一份关于运输事故的详细的分析。对于面临相关安全问题的行业而言，这份报告拥有极大的价值。
是不是美国计算机协会的领导们也应该同样行动?我不知道，他们和其他行业面临的问题颇为不同。但我建议美国计算机协会为了提高该行业对相同问题的应对能力而进行调查。美国计算机协会可以在建立更切实有效的、有建设性的行为中成为领导者，来提升人类在计算机行为中的作用，要知道，生理和符号同样重要。
(作者为美国西北大学计算机系、心理学系、认知科学系教授)
