脱离人类掌控的武器：何为“杀人机器人”？

联合国(UN)与红十字国际委员会(ICRC)发表联合声明，呼吁全面禁止研发和使用能够在没有人类干预的情况下自行锁定并攻击目标的“自主致命武器系统(LAWS)”，即俗称的“杀人机器人”。

未来无人机与联合国会议大厅

国际社会为何高度警惕？

近期局部冲突中，搭载AI识别技术的无人机实战部署频次显著上升。虽然AI不会疲劳且计算精准，但最致命的缺陷在于彻底剥离了“人类的道德与伦理判断”。

  • 误判与失控风险：算法偏差或遭黑客入侵可能导致平民与战斗人员混淆，造成不可挽回的灾难。
  • 责任归属模糊：当机器人犯下战争罪行时，国际法尚无明确标准界定应由程序员、军工企业还是指挥官承担责任。
  • 军备竞赛升级：极易引发继核武器之后最难受控的全球新型军备竞赛。
人类外交与AI算法的平衡

科技时代的人性底线

当科技从造福生活的工具演变为夺取生命的武器时，人类必须划定不可逾越的红线。把决定生死的裁决权交给冷冰冰的算法，在伦理与法律上都是无法接受的。