无人平台会反人类吗 ②

　　一部分人认为，对这种技术应当而且必须予以阻止，其中，“杀手机器人禁令”运动是明确的反对派，并发出警告，认为“机器人杀人”的时代即将到来。
　　从某些方面说，像视频中“杀人蜂”无人机那样的先进智能化武器，正处于如火如荼的发展热潮中，已形成门类齐全、攻防一体的武器体系。美国不仅研发了UTAP-22“鲭鲨”、XQ-222“女武神”等多款智能化无人机，还先后研发了陆上“翼人”机器人车辆、海上水面无人攻击艇、潜射型机器人、多功能无人潜航器、由海向陆的MUX　无人武装直升机等，形成以人工智能技术为基础、以集群智能技术为连接的无人兵团。俄罗斯也研发了“天王星”“平台”无人战车等智能化作战平台。英国BAE系统公司正在研发无人机智能合体技术，希望完成小型无人机与合体无人机的自由变形。
　　以罗素尔为代表的科学家指出，无人技术在军事领域具有巨大潜力，但无人技术一旦用于制造不需要人类监管就能自动运行的武器，将打开智能化机器人全自动“杀人”的潘多拉魔盒，将会对人类安全和自由造成毁灭性打击。
　　这一观点已经得到部分学者的支持。包括美国太空探索技术公司首席执行官马斯克在内的116　名相关领域专家在公开信中警告说，“致命的自主武器有可能成为战争中的第三次革命。一旦它们发展起来，可能导致武装冲突以比以往任何时候更大的规模进行，而且速度比人类所能理解的还要快。”尤其让人担心的是，“这些自主武器可能被独裁者和恐怖分子用来对付无辜人群。一旦潘多拉的盒子打开，就很难再关闭。”
　　一些专业社会团体也立即对此做出了反应，比如，IEEE(电子和电气工程师协会)宣布了为自主系统开发人员制定道德标准的计划。计划中表示，自主式武器将破坏国际安全、导致意外的军事升级甚至战争、破坏战略平衡其至引发战争。IEEE的报告给出了一些建议，比如这类武器的使用需在人类控制下。报告还表示，脱离人类控制以进行攻击或杀人的自主式武器的设计、开发或构建都是不道德的。
　　当然，另一部分专家则认为这种担忧过于杞人忧天。脸书创始人扎克伯格就反对说：“对那些否定人工智能，试图营造世界末日论的人，我确实不太理解。他们的言论某些时候让我感觉太不负责任。未来5—10年，人工智能将在许多方面改善我们的生活质量。”
　　从技术上来说，“杀人蜂”无人机、杀手机器人完全脱离人类的控制，眼下也并不容易。首先是它们的智能技术、行动能力，在总体上还是不如人类，只是某些方面超过我们。因此只要有针对性地采取措施，还是能抑制它们的危害的。比如上面的“杀人蜂”，用大炮打蚊子当然不行，但简单的渔网、高级的电磁脉冲都能消灭它们。就像传染病、细菌、病毒能杀死人，但人类也能开发出疫苗、防疫措施。而且和细菌、病毒相比，现在的无人平台有个致命弱点——不能繁殖。在上面的“杀人蜂”假想视频中，我们也可以看到，最后导致它们攻击人类的其实还是两个恐怖分子，还是人类。科幻电影中具备自我意识的机器人距我们还很遥远。无人平台也只不过是核生化武器后，一种新的大规模杀伤性武器。我们应该扣心的是扩散和操纵这种“大杀器”的人、组织，而非无人平台这种技术。
　　摘自《无人胜有人——聚焦无人平台的发展与应用》