美国法律扼杀机器人前途 产业发展喜忧参半

　　ICRAC希望管制传统武器联合国大会此次讨论自主武器将为禁止自主机器人武器迈出第一步，对激光致盲武器的禁令就是这么走过来的。

　　“机器人有权决定是否杀死人类，这是人们必须面对的道德抉择。”

　　人们对自主机器人武器的误解达到了不可思议的地步，其中的原因是对人工智能抱有太大期望，实际上人工智能的水平还远没有达到人们的预期，或者，用Sharkey教授的话说“因为科幻小说而导致的人们对人工智能的文化曲解。”机器人研究者指出AI目前的应用领域都是一些极为平常的领域，并非用于制造能够思考的机器人。

　　“20年内可感知机器人会诞生，而在每个年代都有人扬言智能机器人就要诞生了，但是真正的机器人工作者们却从来不这么说，他们继续着他们的研究。人工智能在不断发展，它的身影遍布我们身边只是我们从没意识到——手机和汽车，这都是科学家们研究的内容。”

　　有人指出在遥远的未来人工智能可能发展成熟，电脑可以遵守战争基本法，即便这样，最基本的道德问题依然没有消失。Sharkey说：“谁改负责的问题依然没有得到解决，人们还是要抉择是否应该让机器人有权杀死人类。”

　机器人法则

　　对机器人是否拥有权利杀人的讨论可能略显神秘，争论本身也还是很模糊，尤其是——杀人机器人还不存在。

　　目前我们的工作是为特殊用途制定特殊的机器人规则，例如国防部的自主武器系统规划。另一个不那么雄伟的例子：美国一些州最近准备通过允许自主驾驶汽车上路的法案。我们正为不同的机器人应用领域制定不同的机器人规则，却很少去研究机器人杀人问题。

　　然而，有许多人提出创建一系列新的规则和道德框架来掌握人工智能和机器人。这其中最出名的也是是阿西莫夫的机器人三大定律，这套规则在1942年首次被提出，至少在科幻世界中已经为机器人的行为准则制订了道德框架。

　　无论是机器人还是人工智能都没有发展到足以理解或遵守这三条定律，亦或者是其他复杂的规则。吸尘机器人就不需要理解如此复杂的道德规则。

　　“人类想出了阿西莫夫定律，但是定律本身就表明了简单的道德规则无法运作。如果你通读三大定律你会发现每条定律都说不通，阿西莫夫定律是不切实际的。”英国巴斯大学的Joanna Bryson教授说。

　　Bryson教授强调机器人和人工智能只能被视为最先进的工具——极端复杂的工具，但是仅此而已。她指出人工只能应该被当做人类智能的扩展，就像书写成书是人类记忆的扩展一样。“人工智能只是人类千百年来改造世界的无数工具之一，”她说“不同的是改造的速度比以前更快了。”

　　无论机器人的自主能力和智能达到何种水平，对Bryson来说，机器人和人工智能都只属于工具范畴，因此需要规则的并非机器人而是人类。“人们需要在自身建立道德框架，机器人用不着拥有自己的道德框架。人类要做出选择，把机器人放在人的道德框架之内，才不会残杀地球上的其他生命。”

　　英国工程和物理科学研究理事会(EPSRC)是少数几个致力于制定一套实用 的机器人规则的组织，但是很快EPSRC就意识到目前机器人并不需要这么一套规则。