国防技术公司Scout AI正在将源自AI行业的技术应用于致命性武器系统，并展示了其爆炸性潜力。与许多硅谷公司训练大型AI模型来自动化日常任务不同，Scout AI的AI代理旨在通过爆炸性无人机在物理世界中搜寻并摧毁目标。

在近期于加利福尼亚州中部一个未公开军事基地进行的演示中，Scout AI的技术控制了一辆自动驾驶越野车和一对致命无人机。这些AI代理利用这些系统找到隐藏在该区域的卡车，并使用爆炸物将其摧毁。公司首席执行官表示，其目标是将军用AI从通用的聊天机器人转变为“作战人员”。

Scout AI是致力于将大型AI实验室技术适配于战场的新一代初创公司之一。许多政策制定者认为，利用AI将是未来军事优势的关键。有观点认为，现成的AI技术可能使自主性更广泛地部署，且保障措施更少。一些军控专家和AI伦理学家警告，使用AI控制武器系统将带来新的复杂性和伦理风险。

在演示中，一个相对大型的AI模型解释初始命令，并作为代理向运行在参与演习的地面车辆和无人机上的较小模型发出指令。这些较小的模型本身也作为代理，向控制车辆运动的底层AI系统发出自己的命令。整个流程展示了AI在任务规划和执行中的自主性。

公司联合创始人兼首席技术官表示，其技术旨在遵守美军的交战规则以及日内瓦公约等国际规范。公司已获得多个国防合同，并竞标开发控制无人机蜂群的新系统。然而，将先进的AI演示转化为具有军用级可靠性和网络安全的实战能力，仍是面临的真正挑战。有专家指出，大型语言模型本身具有不可预测性，AI代理在执行任务时可能出现意外行为，证明此类系统在网络安全方面具有鲁棒性可能尤为困难。