无人平台会想杀人吗

　　“杀人蜂”是本来就为军事用途开发的，具备杀人功能的无人平台。因此在设计、使用中，我们人类会提前考虑好预防措施。但还有一些设计中不该伤害人的无人平台，也曾做出“杀人”举动。是过失？还是有意？
　　2015年7月，据《金融时报》报道称，德国大众汽车制造厂中一个机器人杀死了一名人类工作人员。当时这名21　岁的工人正在安装和调制机器人，后者突然“出手”击中工人的胸部，并将其碾压在金属板上，导致这名工人当场丧命。
　　调查人员还在对这次事件进行调查时，有网民在互联网上宣称这是首起“机器人杀人案”，大众汽车公司发言人海克·希尔维格称，这不是与人类并肩共同劳动的机器人，当时它被放在安全笼中，这名不幸遇难的工作人员当时恰好在笼子中对其进行调试。
　　这起事件发生后，许多人开始质疑机器人的安全性。未来生命研究所已经利用特斯拉电动汽车公司首席执行官伊隆·马斯克捐赠的700　万美元资助多项研究，旨在加强对人工智能的控制。其中一个项目将帮助确保人工智能武器处于人类控制之下。
　　除了德国大众被爆出的“杀人事件”，工业机器人伤人事件早有前科。
　　世界上第一宗机器人杀人事件可能发生在1978年的日本——9月6日，广岛一家工厂的切割机器人在切钢板时，突然发生异常，将一名值班工人当作钢板操作，最终导致该工人死亡。
　　1979年1月25日，也就是工业机器人发明公司Unimation　公司成立20　年后，在美国密歇根州的福特铸造厂，装配线工人罗伯特·威廉姆斯被工业机器人的机械臂击中而身亡。这是第一例有据可查的工业机器人杀死人类的事件。因为工业机器人生产安全问题的缺失，法院裁定工厂赔偿威廉姆斯的家人1000　万美元。
　　此后在日本、英国等地，都曾发生多起工业机器人致人死伤的事故。仅日本从1987　年到现在，已有十余名工人死于工业机器人手下，致残的有7000　多人。
　　1989　年，苏联国际象棋冠军古德柯夫和机器人对弈，古德柯夫连胜3局，十分高兴地宣称机器人的智力是斗不过人类的。这时发生了悲剧——金属棋盘上突然被释放了高强度电流，恰巧古德柯夫的手正怡然自得地放在棋盘上。众目睽睽之下，一代国际象棋大师死于非命。
　　以上事故，还属于机械、软件故障，导致工业机器人、机器人棋手“发疯”了，无意中变成了杀人凶手。可是随着人工智能技术的发展，无人平台正在获得更多的决策权，也就是更多的“思考”。深度学习等新的人工智能技术，更是让它们自己学习如何进行思考、如何下决定。如果在这个思考过程中，乃至学习过程中出了故障，无人平台就不仅是变“疯”。而是变“坏”了。
　　显然，无人平台是否能具有意识，并能自主支配行动，是争议的焦点所在。
　　关于“拥有AI技术的机器人会毁灭人类吗？”这旷日持久的辩论始终没有停止过。
　　如果把参加争议的人们分成两个阵营，可以说支持方和反对方的界限是相当清晰和明显的。一个有意思的现象是，反对方中居然集合了目前人类最有前瞻性思维的专家，这其中包括以下著名的言论：
　　2017年11月，史蒂芬·霍金指出，“如果人工智能的发展不受人类控制，它可能会成为人类文明的终结者”。2018　年7月，特斯拉创始人埃隆·马斯克领衔的美国科技圈大佬们签署了一份协议，承诺不会发展致命的人工智能武器系统。
　　当然，支持者中也不乏科技界大鳄，比如，谷歌前董事长施密特对机器人的“自主思考”表现得相当放心，认为值得大力投入“机器学习”的项目和研究。
　　摘自《无人胜有人——聚焦无人平台的发展与应用》