1979年首个被机器人杀死的人 我们该担心人工智能的发展吗？

本文参加百家号 #科学了不起# 系列征文赛。

1979年1月25日，25岁的罗伯特·威廉姆斯在福特汽车公司位于密歇根州弗莱罗克的铸造工厂工作，他被要求爬上一个巨大的架子，手工清点那里的零件。用来回收铸件的五个机器给出的读数是错误的，威廉姆斯的工作就是上去找出到底有多少铸件。

当威廉姆斯开始他的工作时，一个同样被赋予零件检索任务的机械手臂也开始了它的工作。很快，机器人悄悄地向年轻人扑来，打在他的头上，当场杀死了他。该机器人仍在继续工作，但威廉姆斯躺在那里死了30分钟后，相关同事才发现他的尸体。在那个寒冷的日子里，威廉姆斯成为历史上第一个被机器人杀死的人。

然而，这次事故完全是无意的。当时根本就没有保护威廉姆斯的安全措施，没有警报通知他手臂正在靠近，也没有技术可以改变机器人在人面前的行为。1979年，相关的人工智能还不够成熟，不足以阻止这样的死亡。陪审团一致认为，机器人的设计没有足够的措施来防止这样的死亡。威廉姆斯的家人从设计机器人的制造商利顿工业公司旗下的单位处理系统公司那里赢得了1000万美元的诉讼。

下一个被机器人杀死的案例发生在两年多后的日本，当时的情况与此类似：一只机器人手臂再次无法感觉到37岁的工人浦田健二，并意外地将他推到了死亡的位置。在接下来的几年里，机器人专家、计算机科学家和人工智能专家一直在努力解决这样一个问题：机器人如何在不伤害人类的情况下安全地与人类互动。

几十年后，关于机器人或人工智能导致人类死亡的报道变得更加普遍。许多公司的自动驾驶汽车发生事故，导致乘客死亡或行人受伤的新闻。虽然现在已经有了很多保障措施，但问题仍然没有得到解决。

这些死亡都不是由机器人的意志造成的，而是偶然的。但是，在电影《终结者》和《黑客帝国》等科幻故事的煽动下，人们担心人工智能可能会发展出自己的意志，并在这种意志的发展过程中产生伤害人类的欲望。

牛津大学计算机科学系副教授、莫菲斯实验室首席科学家西蒙·怀特森称这一问题为“拟人谬论”。怀特森将这种谬论定义为“具有类人智能的系统也必须具有类人欲望，例如生存、自由、尊严等。”完全没有理由会出现这种情况，因为这样的系统只会有我们给予它的任何欲望。

他认为，价值错位是更大的生存威胁，程序员告诉机器做什么和程序员真正打算做什么之间存在差距。你如何将你的价值观传达给一个智能系统，使它所采取的行动实现你的真实意图？随着计算机变得更加智能和自主，两者之间的差异变得更加重要。

相反，怀特森告诉我们，更大的威胁是科学家们有意设计的机器人，能够在没有人为军事干预的情况下杀死人类目标。这就是为什么世界各地的人工智能和机器人研究人员发表了一封公开信，呼吁在全球范围内禁止这种技术。然这些机器人不需要开发自己的杀戮意志，但它们可以被编程来完成。