编者按：随着人工智能技术的发展，越来越多的问题由算法决定。但人们会相信这些算法吗？人们在什么情况下会相信这些算法？近日，《连线》杂志发表了一篇文章，介绍了透明度对人们信任算法程度的影响，文章中指出，有太多和太少的信息，都会引发人们对算法的不信任，最好的方法，就是给出适量的信息。文章来自于卡尔提克·霍萨纳加（Kartik Hosanagar）最新出版的新书《机器智能的人类指南》（A HUMAN’S GUIDE TO MACHINE INTELLIGENCE）。

一、人工智能系统开出的处方，你相信吗？(((0)))

一个晴朗的夏日早晨，你按照预约的时间，来到当地的一家级别很高的诊所进行定期检查。你走进来的时候感觉很好。

你抬起你的胳膊说，“医生，我这样做的时候很疼。”医生回答说，“那就不要那样做。”你们两个都笑了。但是几个测试之后，你的情绪就会开始发生变化。

你的内科医生，友好的老卡尔弗顿·史密斯（Culverton Smith）医生，有一些坏消息要告诉你。

“恐怕你患塔帕努里热（Tapanuli fever）的风险很高，”史密斯医生说。

“这是致命的。好消息是，有一种药物可以帮助预防它。我建议你立即开始服用。它可能会让你头晕，易怒，偶尔会恶心。但这与避免发烧相比，只是一个小小的代价。”

你大吃一惊。“我从来没听说过这种疾病，”当他潦草地写下处方时，你抗议道。“你怎么知道我有得这个病的风险？”

史密斯医生给你看了一份计算机打印出来的文件，上面写满了难以理解的数字和术语。 但他指着表格底部的一行，上面写着：“塔帕努里热：17.88”。

“这个风险因子太高了,”他解释道。“我们希望将其降至5以下。 这些药应该会有帮助。”

“这个数字是从哪里来的？”你问。

史密斯医生耸耸肩，说：

“这是我们新的人工智能系统。最近很流行。找个系统中内置了一千名顶级诊断专家的知识。质疑它给出的结论没有多大意义——也就是说，如果你想活下去，纠结这些是没有意义的。”

然后，你拿着处方离开。但是在开车回家的路上，你还是不能决定是否在药店停下来。虽然你相信科技和机器学习的奇迹。

但仅仅因为史密斯医生的计算机系统告诉你应该这样做，你真的就愿意忍受头晕目眩、易怒和恶心，以避免某些未知疾病的可能性吗？ 归根结底，你相信这个算法吗？

如果你的答案是否定的，你可能需要反思一下原因。

问题的一大部分，可能是医生的解释含糊不清。如果，对于你的问题“这个数字是从哪里来的？”。

他这样回答说：

“你今天下午的血液检测显示，你体内有三种蛋白质含量异常低，这三种蛋白质有助于增强你对塔帕努里热的免疫防御。

我们去年秋天进行的基因组分析已经表明，与东南亚血统有关的几种综合症易感性更高。

《新泽西医学杂志》的一项研究发现，这些特征的结合，导致塔帕努里热的发病率增加了94% 。

找个系统将所有数据放在一起，计算出你的风险因子，也就是文件上数字。”

听到这些细节，你可能会发现，你有了更令人信服的理由去购买药物进行治疗，哪怕你并没有真正理解医生所说的一切。

当然，这个故事是虚构的，疾病是虚构的。(塔帕努里热出自阿瑟·柯南·道尔（Arthur Conan Doyle）爵士于1913年写的夏洛克·福尔摩斯（Sherlock Holmes）短篇小说《垂死侦探探案》。)

但是，因为使用人工智能的系统，现在正被用来诊断疾病和计算各种情况下的风险因素，病人和医生怎样才能相信一个关于疾病和健康问题的算法指出的问题是一个真实的问题呢？

研究表明，透明度是理解、接受和信任的关键。让人们看看算法的“黑匣子”里面都是什么，他们的不信任、敌意和恐惧就会逐渐消失。

这个论点听起来很有道理。但真的是这样吗？透明度是培养算法信任的主要因素吗？在这个领域，许多问题的答案都很有趣......也很复杂。

二、用算法修正的成绩引发学生反弹

克利福德·纳斯（Clifford Nass）遇到了麻烦。

他在斯坦福大学教授的技术界面设计课很受欢迎，但课上的学生抱怨他们期中考试的成绩。虽然这样的抱怨对于教授来说太普遍了，但是在这次，抱怨有具体的实质性依据。

一个班的学生发现，他们的考试成绩明显低于另一班的学生，即使他们给出的论文是相似的。