每日，我们自愿向机器透露个人信息。这种情况发生在我们接受在线cookie或使用搜索引擎时。在我们点击“同意”以进入心仪的页面之前，我们很少考虑我们的数据是如何被出售和使用的，模糊地意识到这些信息将被用于定位我们作为消费者，并说服我们购买我们原本不知道需要的东西。
然而，若机器正利用这些数据来判定哪些敌人需要被消灭，这会是怎样的情形？联合国及一些非政府组织对此感到忧虑，担心这一情景可能即将成为现实。他们呼吁对致命自主武器（LAWS）实施国际监管，以防止未来不久，机器主宰生死抉择的局面出现。
乌克兰正上演着大规模的无人机作战。
乌克兰的赫尔松地区在过去的数月里，遭受了俄罗斯军方操控的武装无人机持续的袭击，主要针对的是平民。据官方消息，已有超过150名平民遇难，数百人受伤。一个由联合国任命的独立人权调查小组得出结论，这些袭击行为构成了反人类罪。
乌克兰军队同样对无人机有着极大依赖，据称正在研发一种名为“无人机墙”的防御系统——即由武装无人机组成的防御线——以保卫国家边境的易受攻击区域。
以往，只有那些负担得起最先进和昂贵无人机的高端国家才能拥有，但乌克兰证明，只需一点巧思，低成本无人机也能被改造为致命武器。随着全球冲突反映出这种转变，现代战争的形态正在被重新定义。
© UNICEF/Oleksii Filippov
逐渐蔓延的“数字化异化”
然而，尽管这种现代战争形式可能极为破坏性，无人驾驶飞机或其他自主武器出现的阴影正为人们对于“杀手机器人”从天而降、自行决定攻击目标的担忧增添新的紧迫感。
联合国裁军事务办公室负责人中村智美表示：“秘书长始终强调，运用全权委托的机器作出夺人性命的决定，在道德上令人深恶痛绝。”这种做法绝不应被容忍。实际上，它应当受到国际法律的禁止。这正是联合国的立场。”
人权观察组织，一家国际非政府组织，指出，自主武器的运用将成为“数字化去人性化”侵犯的最新、最严重案例，这种侵犯是指人工智能在涉及人类福祉的诸多领域，如警务、执法和边境管控等方面，做出一系列影响生活的决策。
支持人工智能战争的人士常常以人类的局限性为理由，来论证其扩展的合理性。士兵们可能会在判断上出错，受情绪影响行动，需要休息，而且当然还需要工资——而他们认为，机器在识别基于行为和运动模式威胁的能力上，正日益提升。一些支持者提出，下一步就是让自主系统来决定何时扣动扳机。
A UAV (Unmanned Aerial Vehicle) is pictured airborne over Afghanistan.
对战场机器接管存在两大主要反对意见：首先，这项技术远未达到万无一失的程度；其次，联合国以及众多其他组织认为使用自主武器系统是不道德的。
机器很容易将人类目标误判，”人权观察组织的华莱士女士表示，“残疾人尤其容易受到威胁，因为他们行动的特殊方式。他们的轮椅可能会被误认为是武器。此外，人们还担心，面部识别技术和其他生物识别测量方法无法准确识别不同肤色的人。人工智能仍存在缺陷，并且它携带着那些系统编程者所带有的偏见。”
至于伦理和道德方面的反对意见，尼古拉·范·鲁伊仁，作为“停止杀人机器人”联盟的执行董事，该联盟致力于推动制定一项关于武器系统自主权的新国际法律，他指出这些反对意见将极大增加确定战争罪行和其他暴行责任人的难度。
责任归属在谁？是制造商吗？还是那位编写算法的人？这引发了一系列的问题和担忧，如果这些算法被广泛采用，那将是一种道德上的失职。
A ban by 2026?
技术进步的速度之快，以及人工智能赋能的定位系统已在战场上得到应用的证据，都在加剧对制定国际技术规则的紧迫性。
五月间，在联合国总部举行了一场非正式的会谈，期间古特雷斯先生呼吁各国成员达成一项具有法律约束力的协议，以规范并禁止到2026年为止使用此类武器。
对相关法规的调控与禁令并非首次出现。实际上，联合国在2014年于日内瓦的万国宫召开了首次外交官会议，在那次为期四天的专家讨论会上，法国大使让-雨果·西蒙-米歇尔担任主席，他将相关法规称为“当前裁军议程上的一项具有挑战性的新兴议题”，尽管当时冲突中并未使用到自主武器系统。当时的观点是，为了防止技术发展使相关法规成为现实，有必要采取预防措施来确立相关规则。
经过11年的讨论，目前谈判仍在进行中，然而关于自主武器的定义尚未达成一致，更不用说对其使用的监管也还未形成共识。尽管如此，非政府组织和联合国对国际社会逐步在关键问题上达成共识持乐观态度。
我们与达成文本协议还相去甚远，”来自“停止杀手机器人”组织的鲁伊珍女士表示，“不过，目前担任《特定常规武器公约》主席的人已经提出了一份滚动文本，这文本实际上非常具有前景，如果存在政治意愿和政治勇气，它或许能成为谈判的基础。”
人权观察组织的华莱士女士也认为联合国五月的会议是一个向前迈出的重要步伐。至少有120个国家完全支持呼吁谈判制定一项关于自主武器系统的新国际法。我们观察到广泛的兴趣与支持，这其中包括和平奖得主、人工智能专家、科技工作者以及宗教领袖。
联合国裁军事务办公室的纳卡米茨女士表示：“人们普遍认为，完全自动化的武器系统应当被禁止使用。”，“在战争问题上，必须有人对此负责。”
