美国哈佛大学法学院的邦妮·多彻蒂出席了联合国大会，会上通过了第一个关于“杀手机器人”的决议。

长期以来，被称为 "杀手机器人 "的自主武器系统一直是科幻小说中的情节，但由于人工智能的快速发展，它正准备成为现实。对此，国际组织一直在加紧呼吁限制甚至完全禁止使用它们。联合国大会于 11 月通过了有史以来第一份关于这些武器系统的决议，因为它们可以在没有人类干预的情况下选择和攻击目标。

为了阐明这些武器引发的法律和伦理问题，美国媒体《The Gazette》采访了哈佛大学法学院国际人权诊所（IHRC）的法律讲师邦妮-多切蒂（Bonnie Docherty），她参加了联合国的一些会议。多切蒂还是人权观察组织武器部的高级研究员。

杀手机器人究竟是什么？它们在多大程度上已经成为现实？

杀手机器人，或者用更专业的术语来说是自主武器系统，是一种根据传感器输入而非人为输入选择目标并向其开火的系统。它们已经研发了一段时间，但正在迅速成为现实。我们对它们的担忧与日俱增，因为在战场上已经使用了可以自主使用武力的武器系统。

它们是什么？在哪里使用过？

什么算杀人机器人，什么不算，这还真有点微妙。在利比亚使用过的一些系统，以及在[亚美尼亚和阿塞拜疆就]纳戈尔诺-卡拉巴赫[Nagorno-Karabakh]发生的种族和领土冲突中使用过的其他系统，都显示出了很强的自主性，即它们可以自行识别目标并进行攻击。

它们被称为 "闲逛弹药"，越来越多地利用自主性，使其能够在战场上空盘旋，等待发现目标后发动攻击。这些系统是否被视为杀手机器人取决于具体因素，如人类控制的程度，但这些武器显示了军事技术中自主性的危险。

杀手机器人会带来哪些伦理问题？

伦理问题非常严重。对许多人来说，把生死攸关的决定权交给机器是一条红线。它将使暴力失去人性，并将人类简化为数值。

此外，还存在算法偏见的严重风险，即可能出现基于种族、性别、残疾等原因的歧视，因为机器可能被有意编程为寻找某些标准，也可能无意中产生偏见。有大量证据表明，人工智能可能会产生偏见。我们人权界非常担心这种情况会被用于设计用来杀人的机器上。

有哪些法律问题？

还有非常严重的法律问题，例如机器无法区分士兵和平民。在战斗人员与平民混杂的环境中，机器很难做到这一点。即使技术可以克服这个问题，它们也缺乏人类的判断力。这一点对于所谓的相称性测试非常重要，即权衡对平民的伤害是否大于军事优势。这一测试需要人类做出道德和法律上的决定。这种判断无法编程到机器中，因为战场上会发生无数种情况。你不可能给机器编程来处理无限多的情况。

缺乏问责制令人担忧

我们非常担心自主武器系统的使用会陷入问责空白，因为很明显，你无法追究武器系统本身的责任。让操作者对自主运行系统的行为负责，在法律上也是一个挑战，而且可以说是不公平的。根据侵权法追究武器制造商的责任也存在困难。国家、军队和其他人普遍担心，这些自主武器可能会出现责任空白。我们还认为，这些武器系统的使用将破坏现有的国际刑法，因为它在框架中制造了一个缺口；它将制造一些现有刑法没有涵盖的东西。

人们一直在努力禁止杀手机器人，但至今没有成功。这是为什么呢？

有些国家反对采取任何行动来解决这些武器引发的问题，尤其是俄罗斯。一些国家，如美国、英国等，支持不具约束力的规则。我们认为，有约束力的条约是解决这些严重关切的唯一答案。

大多数寻求制定不具约束力的规则或不采取任何行动的国家都是那些正在开发该技术的国家，它们显然不想放弃在未来使用该技术的选择。

禁止这些武器系统之所以具有挑战性，可能有几个原因。这些武器系统在我们说话的时候还在研发中，不像地雷和集束弹药在被禁止时已经存在了一段时间。我们可以用文件证明地雷和集束弹药造成的伤害，而这正是促使人们采取行动的一个因素--当伤害已经存在的时候。

就激光致盲武器而言，这是一项先发制人的禁令[以确保它们只用于光学设备，而不是军事人员]，因此这与自主武器系统有很好的相似之处，尽管这些武器系统是一个更广泛的类别。现在的政治气候也有所不同。在世界范围内，政治气候要保守得多，这使得裁军更具挑战性。

您对美国政府的立场有何看法？

我们认为，它们没有达到解决方案的要求。我们认为，我们需要具有法律约束力的规则，这些规则要比美国政府提出的规则更强有力，其中需要包括禁止某些类型的自主武器系统，而且这些规则需要成为义务，而不仅仅是建议。

最近，联合国在长达十年的禁止这些武器系统的努力中出现了新的进展。

联合国大会裁军和国际安全第一委员会于11月以164个国家赞成、5个国家反对的巨大优势通过了一项决议，呼吁联合国秘书长收集各国和民间社会对自主武器系统的意见。

虽然这看似一小步，却是向前迈出的关键一步。它将讨论的中心从《常规武器公约》（CCW）转移到了联合国大会，而《常规武器公约》的进展一直非常缓慢，并受到俄罗斯和其他国家的阻挠。联合国大会（UNGA）包括更多国家，以投票而非协商一致的方式运作。

许多国家（超过 100 个）都表示支持制定一项新条约，其中包括禁止和规范自主武器系统。这与这些系统在现实世界中越来越多的使用相结合，推动了外交方面的行动。

秘书长表示，他希望在 2026 年之前看到一项新条约。联合国大会产生的条约可以考虑更广泛的议题，如人权、法律、伦理，而不仅仅局限于人道主义法。我们非常希望这将在未来几年改变游戏规则。

国际禁止自主武器系统条约的内容是什么？

我们呼吁制定一项包含三个部分的条约。其一是禁止缺乏有意义的人为控制的自主武器系统。我们还呼吁禁止以人为目标的自主武器系统，因为它们会引起人们对歧视和伦理挑战的担忧。第三点是，我们呼吁对所有其他自主武器系统进行监管，以确保它们只能在一定的地理或时间范围内使用。我们乐观地认为，各国将在未来几年内通过这样一项条约。