━━━━━

从近几个月社交媒体上流行的标签＃MeToo 来看，性骚扰和虐待的盛行，远比哈维·韦恩斯坦的丑闻来得严重。一个大牌制片人持续几十年的骚扰波及了许多明星，但存在这方面问题的何止这一个行业。

对于处在“地震带板块”上的人来讲，“地震”可从来不是什么好玩儿的事情。但震后的世界可能会变得比之前更好。因为，没人会想念原来那片恶土。然而，那些记录仍然以“化石”的形式存在着。因为性骚扰的下流效应，你使用的 App 和阅读的新闻中会充斥着性骚扰的影子。从现在起，每当我们看到韦恩斯坦经手的电影时，我们会好奇是谁促成了这一切，是谁在助纣为虐，又是谁依靠韦恩斯坦的帮助走向了成功。

这样的作品有一个专有的词来形容：“瑕疵”。也就是说，你恨的人创作出了你爱的作品。

科学界一直存在性骚扰惯犯。科学和艺术不同。科学研究的结果和结论名义上是客观的；理论上讲，科研人员人性上的缺失不会对科研结果造成影响，但事实恰恰相反。

纳粹的“科学研究”被证实是明目张胆的折磨；我们能够轻易地谴责做出这些罪行的人，并将这一悲剧归咎于当时的历史环境。在第二次世界大战后的核试验中，种族主义者放任塔斯基吉镇的黑人遭受辐射，但这也导致日后的变革，让人类重新思考科学实验对象的人权。

但对于外太空研究的领悟呢？加州大学伯克利分校杰出的天文学家杰夫·马西首创了在太阳系外寻找行星的技术。不过他似乎也对学生们进行了长达几十年的性骚扰。他剥夺了受害者取得成就的可能，但同时他也发现了数以千计的地外行星。

与艺术不同的是，科学几乎没有应对这一情况的机制。毕竟他研究的是行星。

研究人员中的骚扰者可能会被禁止参加会议或被逐出学会。马西已经离开加州大学伯克利分校。但没有人认为他的发现不再正确，天文学将继续建立在马西的发现之上，他的发现还是会被论文引用。哪怕研究者多不愿意，马西还是能得到相应的名利。马西的团队发现的其他行星仍然绕着它们的“太阳”运行，不管马西做了什么。但问题是，这些发现都有了瑕疵。

有些学科对我们有着更直接的影响。去年春天，也是在加州大学伯克利分校，受人尊敬的哲学家约翰·塞尔被其学生指控受到其性骚扰和虐待，这起诉讼勾起了先前的指控。

约翰·塞尔

塞尔因一个叫作“中文房间”的思想实验而闻名。这是一个探明机器是否有意识的假想。简言之，一个人站在一个密封的房间里，墙上有一个洞。每次都会有一张写着中文的字条被从洞口递进房间内。房间内有一台显示器，显示器上有另一组用汉语写好的正确答案，他只需要抬头就能看到。他把答案写在另一张纸上，然后把它送到洞口外。

所以，屋子里的人懂不懂中文？

塞尔在1980年提出这一想法，几十年来，它成为一个广为讨论的概念，也成了哲学理论。如果你对这个问题的回答是“不”，就像塞尔的那样，这表明你不相信“强人工智能”，即一个机械系统的电路或其他一些难以想象的技术拥有意识。哪怕它可能通过著名的图灵测试：能够欺骗人类的电子系统才可能具有感情，它还远没有真正的心灵。

不要担心，我不会列举完所有的争论和反驳。大多数计算机科学专业的学生会告诉你，即使塞尔的不端行为损害了他的想法，这一哲学意识领域的猜想不会影响我们对人工智能和机械学习的看法。

软件确实成功地学会了性别歧视和种族主义，算法送进监狱的黑人远比白人多。但是今天的计算机科学专业的学生是由了解中文房间问题的人教授的（而不是被边缘化或被排挤在外的人教的），其中存在的偏见更为险恶，它会让人们无法知道他们可能会在哪里出错。

偏见影响机械学习的方式就是数据库：它会让数据库损坏或缺失，但另一个切入点则是人——程序员能选择告诉机器信息对错的时机。“无论算法的设计师重视什么，在定义成功时，他们都会出现偏见。他们还通过惩罚失败来向算法植入自己的价值观。”《数学破坏武器》的作者奥尼尔说道。

或许当算法的工作是弄清如何停放一个机器人或在仓库中找到正确的小零件时，这种偏见就没那么危险了。但是假如人工智能是要评估医疗保险申请人的状况呢？“如果你的模型是一个由男人、女人和孩子组成的家庭，那就是简化了现实，”《人工智能中的偏见和错误的风险》的合著者奥逊代·A·奥斯巴说道，“如果你不解决这个问题，那么你的模型将不再具有代表性。”

＃MeToo 标签中“怪物无处不在”的教训放在硅谷也同样适用。正如研究人员凯特·克劳福德在《纽约时报》上所说的那样，“白人问题”的影响甚至超出了好莱坞或天文学领域。

这些人正在写的代码，渗透到了与我们世界息息相关的人工智能系统，从自动驾驶汽车到医疗诊断再到其他互联网内容。这有些像艾萨克·阿西莫夫机器人三定律的黑暗版本，无论是多么复杂的机器都无法摆脱这些偏见的影响。偏见将百分之百存在，真正的故障不会出现在我们的机器人身上，而是在我们自己身上。

撰文：Adam Rogers