【防务评论】机器人武器须保持人为控制 | 附"机器人与作战"文章集锦
来源：参考消息
【美国《纽约时报》4月13日报道】题：武器控制组织敦促对机器人武器进行人为控制
两个国际武器控制组织周一发表一份报告，呼吁对新一代自动武器保持人为控制，原因是这类武器日益能够在不需要人参与的情况下自动对目标进行瞄准和攻击。
在日内瓦举行的为期一周的联合国自动武器会议的开幕式上，“人权观察”组织和哈佛大学法学院国际人权培训班共同发表的这份报告，可能对美国正在形成的军事战略构成挑战。美国的军事战略依靠技术优势并且日益依赖混杂了人和机械的武器系统。
这一战略被描述为“第三次抵消战略”，它试图利用技术保持美军的优势。五角大楼官员最近表示，新技术（尤其是人工智能软件）将帮助而不是取代人类士兵，而射杀的决定必须由士兵作出。
这篇题为《杀手机器人和有意义的人为控制概念》的报告说：“机械一直是战争的工具，但过去，一直是由人来决定它们如何使用。”
但是，有些人认为，今后，自动武器也许能够比人类更好地遵守战争法。现在国际社会出现了一个争论：限制没有人的参与便可作出射杀决定的武器的进化是否可能。
2012年发表的美军军事指针要求指挥官和武器操作员，在使用武力问题上“有适当水平的人为判断”。该指针没有完全禁止自动武器，但要求高级别国防部官员授权它们。
最早会在2018年进入美国武器库的新武器可能会使这一差别变得非常重要。一个例子就是远程反舰导弹，它一开始是国防部高级研究项目局设计的，将由洛克希德-马丁公司制造。今年，五角大楼要求国会在今后五年为该系统拨款9.27亿美元。
之所以研发这一导弹，在很大程度上是因为，中国军力不断增强，美国的航母须在更加远离中国的地方作战。然而，这一导弹在持批评态度的人当中引发担忧，因为按设计，它是由人工操作发射的，然后脱离人类的联系瞄准目标舰，并最终自动作出打击的决定。
相关阅读：
国外智库发布《杀手机器人与有针对性的人为控制概念》报告
[据人权观察组织2016年4月11日报道] 第三次“致命性自主武器系统”国际会议于4月11~15日在联合国日内瓦召开。“人权观察”组织与哈佛法学院国际人权中心在11日联合发表报告称，世界各国应保留人对武器系统的“有针对性”的控制，并禁用完全自主武器（即杀手机器人）。“有针对性”的人为控制这一概念是本次围绕自主武器进行的多边会议讨论的核心议题。
这份长达16页的报告以“杀手机器人和有针对性的人为控制概念”为题，将从道德和法律上讨论人为控制的重要性，显示出各国政府正在认识到人类保留对选择目标和射击目标等关键智能的控制需求。
“人权观察”组织武器分部高级研究员、报告首席作者多切蒂（Bonnie Docherty）称，机器承担战争工具的角色由来已久，但过去一直是由人类控制用途。现在，人类愿意放弃对机器的控制权，并将生死攸关的决策全交给机器，这是真实的威胁。
随着完全自主武器具备在没有人为干预的情况下自主选择并打击目标的能力，这种武器将超越现有的遥控无人机。虽然这种武器暂未出现，但技术从“人在回路中”武器系统向“脱离回路”系统的发展之快，已经引起国际社会的关注和担忧。
人权观察和哈佛大学的联合项目还审查了国际法各个领域要求控制自主武器的规定，其中包括裁军法以及如何对这一术语在自主武器语境下的使用提供监督。该组织称，地雷、生化武器禁用条令显示出裁军法在武器控制上的价值取舍。对致命武器的“有针对性”的人为控制需求将在事实上禁止使用完全自主武器，进而取缔这一武器。
报告将在会议上分发给各个国家。122个已经加入《常规武器公约》（Convention on Conventional Weapons）的多个国家将参加德国主持的主题专家会议。
“人权观察”组织负责协调“禁用杀手机器人”的活动。该组织认为，常规武器公约论坛的工作应产生禁用完全自主武器的新国际法。《常规武器公约》曾于1995年率先禁用激光致盲武器。
人权观察组织称，完全自主武器缺乏人类的共情能力，而后者是抑制杀戮的一道重要关口。放弃人类对他人生死决策的控制权会剥夺人类与生俱来的尊严，机器人无法真正理解人类生命的价值，也无法理解失去生命的意义。
将“有针对性”的人为控制进行托管可以填补使用完全自主武器所造成的问责缺口，可确保人类因使用这种武器产生的违法行为受到惩治。出于对人类控制的法律需求，未获得武器使用授权的指挥官可能会被追究刑事责任。
保留对使用武器的“有针对性”的人为控制，也符合并促进遵守国际人道主义法的原则，特别是其中的区分原则和相称原则。人为控制也是维护人权法的关键。
自从《常规武器公约》会议在2013年面向完全自主武器启动国际辩论以来，大约有30个国家已在声明中专门阐释了“人为控制”的概念，主要将其定性为“有针对性的”、“恰当的”或“有效的”。其中许多国家对人为控制表示明确支持，大部分国家则呼吁对话题进行更深入的讨论。
“有针对性”的人类控制这一概念也在《常规武器公约》之外逐渐流行。例如，《非洲人权和民族权宪章》的条约机构在2015年发表一份人权评论文章称，“筛选人类目标或使用这种力量的所有机器人自主能力都应受到有针对性的人为控制。”
参加日内瓦会议的国家不会做出任何正式决定。会议的目的是建立技术、伦理、法律、作战、安全以及与武器相关的其他问题的共同知识基础，但可能会在2016年12月召开的“第五次审查会议”上就进一步工作建议达成共识。
人权观察组织的是“禁止杀手机器人”运动的联合发起者之一，目前已有60多个非政府组织组成国际联盟，抢先制止完全自主武器的开发、生产和使用。
（来源：中国国防科技信息中心，作者：袁政英）
机器人与战争文章
【军事文摘】机器人集群作战的优势所在：数量、协同、情报、速度
【科技资讯】俄军积极研发作战机器人，未来将装备“阿凡达”式机器人
【科技资讯】美著名智库发布《战场机器人Ⅰ》报告，关注战场机器人优势
前沿君微信：tech9999
投稿邮箱：13355524@qq.com