美国X-62A战机从爱德华兹空军基地起飞

以色列M-RCV型无人战车

一段时间以来，在科技进步与军事需求双轮驱动下，世界各军事强国正积极研发和部署各种武器自主化项目，使其在人工智能赋能下自主感知、学习、决策。

今年5月，美国空军部长弗兰克·肯德尔在爱德华兹空军基地公开试乘人工智能控制的F-16战机（X-62A），引发各方广泛关注。分析人士认为，人工智能赋能的自主武器不但会改变未来战争的形态，更将对当前国际安全局势造成新的冲击，而其失控的风险也将成为人类社会不容忽视的问题。

加速研发的战争利器

在美军看来，人工智能与下一代武器平台和先进弹药不同，有着改变战场几乎所有方面的潜力，其中一个重要的领域就是加速武器的自主化。美军在这方面投入了大量的资源，肯德尔乘坐的X-62A便是标志性成果。在约1小时的飞行中，该战机所有动作均由人工智能自主完成。此外，美空军正在研发的“协同作战飞机”，将配装“天空博格人”无人自主核心系统，在作战中与有人战机共同编队，担负监视、打击、电子干扰、充当诱饵等多种任务，最大限度提高编队的安全性和作战能力。

海军方面，在《2025年自主潜航器需求》和《未来舰队平台备选方案》报告中，美计划在2030年实现分布式舰队的构想，装备中型无人潜航器183具、可供核潜艇携带的大型无人潜航器48具，能在港口、国际海域及主要航道执行为期数十天的反潜、侦察、监视等任务。

俄罗斯对人工智能的研究也启动较早。俄国防部于2022年成立了人工智能武器研究部门，以加强人工智能技术的使用，发展新的特种装备。俄国家技术集团研制的“德佩沙”和“巴吉”多功能无人系统，不仅能运送货物和伤员，还能打击敌方阵地和有生力量。此前有报道称，俄军的“柳叶刀”-3巡飞弹使用了卷积神经网络，可以对收集到的图像和视频数据进行分析，从而实现精准探测打击。

德国、以色列等国也加大了相关领域的研发力度。在北约支持下，德国ARX机器人公司正在开发一系列无人地面载具。借助人工智能，这些载具可以在战场上自主运行并相互通信，必要时也可以进行远程控制。分析人士认为，此举意味着北约开启了“打造自主机器人部队”的进程。以军的M-RCV型无人战车，智能化水平较高，能在没有人工干预的情况下，执行高度自主的前沿侦察、火力打击以及运载和回收无人机等多样化任务。

即将到来的军事革命

人工智能赋能的自主武器已在地区冲突中出现。2020年利比亚军事冲突中，土耳其生产的“卡古”-2无人机在不依靠操作员的情况下跟踪并攻击了正在撤退的“利比亚国民军”。这或许是有史以来第一例记录在案的无人机在没有人为命令的情况下向人发动攻击的案例。在俄乌冲突中，乌军不但从英美等国获得大量人工智能加持的无人机，自身也积极开展相关研究。在本轮巴以冲突中，人工智能同样得到应用。以色列在进攻加沙时，使用了一款名为“薰衣草”的人工智能系统来帮助识别哈马斯武装人员。

人工智能赋能的自主武器正在颠覆战争形态。去年9月，X-62A成功与人类飞行员驾驶的F-16战斗机完成空中格斗。这被认为是“航空航天史上的一个变革时刻”，表明未来作战将局部或完全由人工智能操控。以各型无人机、无人车、无人艇和无人潜航器等无人作战单元为基本构成的无人系统集群，在未来作战力量体系中占比将越来越大，乃至达到与有人作战系统并驾齐驱的地位。随着自主性和智能化程度的提高，无人系统集群将日益成为战争中的“主角”。研究人员认为，与有人系统协同作战仅是无人系统自主作战的初始阶段，最终目标是实现全无人系统自主作战。

人工智能赋能的自主武器冲击地缘政治稳定。地缘政治的稳定有赖于地区军力的相对平衡，然而无人化自主武器的大量运用，必将冲击原有格局，从而导致新的军备竞赛。以个别霸权国家为例，一旦人工智能赋能的自主武器大规模投入使用，其发动地区军事干预的顾忌因素减少、对外动武门槛降低，相关地区的安全与稳定将面临极大挑战。此外，越来越多的非国家行为体掌握自主武器技术并将其用于致命目的，也将对地区局势构成冲击。

不容忽视的滥用风险

“人类正站在一个十字路口，自主武器系统很快将布满世界战场。这是我们这一代人的‘奥本海默时刻’。”今年在维也纳召开的自主武器国际会议上，奥地利外交部长沙伦贝格表示。人工智能虽然有助于精确化打击、区分性作战及降低物资损耗，但由于其固有的“黑箱机制”和“机器幻觉”，未来无人化战争将面临不可回避的风险挑战。

指挥失序风险。过度依赖武器的自主化，很容易增加指控系统失控的风险。在美军一次模拟测试中，一架执行压制防空任务的无人机，为在测试中得分，选择“杀死”了阻止自己得分的操作员。在被“告知”杀死操作员要扣分时，其又通过攻击通信塔中断了操作员与自己的联络来夺得自主权。未来的真实战场上，自主武器失控的风险并不能完全排除，其带来的后果将更加难以控制。

暴力失控风险。人工智能与武器的结合，意味着杀伤难度显著降低、杀伤效率和烈度大幅增加，很容易导致武装冲突扩大升级。然而，人工智能所依赖的机器学习算法本质上是不可预测的，内部机制尚存在一些未予解释的部分。在极端情况下，人类甚至可能彻底丧失对自主武器的控制，由此造成的人道主义灾难将难以估量。正是意识到这一问题，联合国正多方呼吁就自主武器系统制订共同的规范和准则，并尽早完成相关谈判。

伦理失范风险。致命性自主武器在没有人的干预下自动选择和攻击目标，意味着将剥夺自然人生命的权利交给了冷酷无情的机器人。有专家表示，将战场一线交给自主武器后，人类对战争残酷性的感知度会直线下降，产生“战争游戏化”的后果，从而导致武力的过度使用。这既是“道义责任的缺失”，也对国际人道法和国际和平与安全提出了严峻的挑战，是人类“无法承受之重”。（裴帅 石海明 霍江雷）