机器伺机杀人

□明明

机器伺机杀人

□明明

机器人能否获得杀人执照、它们是否会遵守《日内瓦公约》，这些科幻小说中的问题已经成为现实难题。今年11月，联合国在日内瓦《特定常规武器公约》会议上再次讨论了这一问题。

目前世界上至少有6个国家正在研究可以自主行动的战场机器人，尽管真正的杀人机器人尚未问世，但具有致命性的自主机器人已经被纳入到联合国的讨论范畴。

“人权观察”组织武器项目负责人史蒂夫·格罗斯表示，这个问题之所以引起联合国的关注，是因为国际社会已经意识到，杀人机器人不再是单纯的新式武器，而是能够改变战争的武器。

英国舍菲尔德大学人工智能问题专家诺埃尔·夏基指出，杀人机器人尚未问世，但相关技术已经成熟。

夏基说：“有关这个问题的讨论主要集中在自主机器人的研究到底能走多远。我们的目标是禁止杀人机器人的存在，不能把生杀大权交给一个机器人。”

对机器人有朝一日变成杀人武器的担心，在各种科幻电影中都有过展现，比如《终结者》和《机器战警》等。格罗斯指出，尽管需要极其尖端复杂的人工智能技术，但在机器人自主能力研究方面，我们已经走得太远了。联合国裁军事务高级代表安杰拉·卡内说：“任何战争武器都是可怕的，如果这种武器可以不需要人的操控那就更可怕了。对自动化战争的讨论越来越多，我们离完全的自动化也越来越近了。”

技术是战争的一部分，自动化是最合乎逻辑的发展。夏基指出，各种拦截导弹的技术已经存在，比如以色列的“铁穹”反火箭弹系统。这一系统之所以有效，就要归功于自动化。无人机也是技术革命的代表之作。

现在很多国家都在研发具备自主行动能力的机器人，有些还取得了非常大的进展。但是它们都还未经过真正战场的洗礼。

“停止杀人机器人”运动的目标，是永久性地禁止开发具备独立杀人决策权的武器系统。但国际社会到目前为止还没有对此达成一致意见。支持者认为，战场机器人如果使用得当可以有效降低伤亡率。但科学界的普遍看法是，战场机器人是一种危险，不单单是其自主能力，而是其掌握的生杀大权。W

责编／刘明烨

lmy@lnddgr.cn