无人平台会反人类吗①

　　对于无人平台代替人，少数人持有保留意见的原因，不是经济方面，因为他们也不否认这样可以提高生产力。他们担心的是，带有人工智能的无人平台、机器人跑到了失控的边缘。比如霍金提出的“机器威胁论”、比尔·盖茨提出的“要向机器人收税”，都在提醒人们要预防随着机器人发展而可能出现的不可控的局面。我们的未来究竟是如电影《终结者》一般，人类与机器人开战，毁灭大部分人类文明，还是像《机械公敌》一样，人类与机器人同生共处？
　　在所有没有证据的揣测或者所谓的杞人忧天以后，一个装有人工智能的人形机器人似乎表明这一切并不是没有可能。这个机器人叫索菲亚，是由美国汉森机器人公司发明和制造的，2015年一亮相就被各大媒体评为“最像人的机器人”，因为她的皮肤一分逼真，脸上甚至有4—40纳米的毛孔，几乎跟人类一模一样。
　　索菲亚的“大脑”是编程实现的，但她也能够自发创建一些基于算法的反应。她使用的AI　技术会分析她正在进行的对话，推断信息。虽然不是所有问题都能答得上来，但总的来说，她与人类侃侃而谈的能力还是让人感到惊讶。
　　2016　年，索菲亚的创造者、汉森机器人公司的创立者David　Hanson在SXSW　演讲的现场演示环节中，曾向索菲亚问道:“你想摧毁我们人类吗?请说'不’”索菲亚在几秒钟的停顿后回答说:“好吧，我要毁灭你们人类。”
　　虽然还压根没有实现的能力，甚至索菲亚并不真正理解这句话的含义，但索菲亚的这个回答还是引人深思。这一问题和下面两个案例关系更为密切。
　　2017　年11　月，在日内瓦举办的联合国特定常规武器公约会议上，伯克利大学教授、资深人工智能研究者斯图尔特·罗素教授公布了一段可怕的“杀人蜂”机器人视频。在视频中，一个体型类似蜜蜂的小型无人机飞入会场并轻易躲过演讲人的抓捕。它悬停时还会在空中随机移动，让人很难消灭它。
　　这个无人机上面安装了3克成形炸药。它通过人脸识别技术找到目标人物——一个木制人体模型，定位后快速冲向目标的脸，并在接近脸时定向引爆炸药，在脑门上开个洞，把“人”杀死。
　　随后演讲者介绍了这种无人机的众多优点，包括能准确追杀“坏蛋”、成本低廉等。在后续的视频中，两个恐怖分子释放出一群“杀人蜂”无人机，一个稍大的无人机在墙上炸开一个洞，然后小无人机们蜂拥而入，闯进教学楼，通过人脸定位杀死了正在上课的一众学生。
　　在视频结尾，罗素教授发出警告:尽管这段视频和其中的杀人机器人并非真实，但视频中的科技目前已经存在。要避免视频中的悲剧发生，我们需要尽快行动。该次会议后，超过200　名来自学界和业界的加拿大科学家和100　名澳大利亚科学家联名写了公开信给本国总理，呼吁限制相关研究。国际机器人武装控制委员会的诺埃尔·夏基(Noel　Sharkey)称，杀手机器人禁令运动并非要限制人工智能和机器人的相关创新，或者军用民用的自动系统，相反，我们希望确保人类对干每次攻击的控制权。
　　2018　年2月，德国正式宣布，同其他22　个国家一样，正式加入“杀手机器人禁令运动”(Cam-paign　to　Stop　Killer　Robots)组织，承诺不将人工智能驱动的武器用于战争。目前还有170　多个国家并未表决，或者对禁止使用自主武器不感兴趣。而最新的发展情况是，2018年9月3日，非政府组织“杀手机器人禁令运动”指认美国、澳大利亚等国阻止达成禁用“杀手机器人”的国际条约。
　　显然，在关于人类是否应当研发自主杀人机器的态度上，世界已经分裂成为两种态度。争议的焦点在于：该不该发展具有自主杀人权力的无人武器？
　　摘自《无人胜有人——聚焦无人平台的发展与应用》