|
“当然，我们希望确保该指令仍然反映部门的观点以及部门应该考虑[自主]武器系统的方式，”迈克尔霍洛维茨。
五角大楼正在努力应对人工智能的发展。 五角大楼新兴能力政策办公室负责人，美国国防部正在更新其关于自主武器的指导，以考虑人工智能的进步，修订后的指令定于今年晚些时候发布。 DoD 指令 3000.09 由当时的国防部副部长 Ash Carter 于 2012 年 11 月 21 日签署，确立了“自主和半自动武器的设计、开发、采购、测试、部署和使用”的政策、责任和审查流程。-自主武器系统，包括可以独立选择和区分目标的制导弹药。” 但自发布以来的十年中，人工智能和机器学习技术取得了巨大的飞跃，“完全合理”可能需要进行修改以反映五角大楼的“负责任的人工智能”倡议和该部门采用的其他道德原则，国防部新兴能力政策主任迈克尔霍洛维茨说。 “自治和人工智能不是一回事，”霍洛维茨在 5 月 24 日对 Breaking Defense 说。确保这一点反映在指令中似乎是有道理的。” 值得注意的是，根据 DoD 指令 3000.09 中的定义，军方目前不使用任何符合自主武器条件的武器系统——至少公开目前没有开发这种武器。该部门将“自主武器”描述为一种自主或半自主系统，它可以选择自己的目标并在没有人参与的情况下施加致命或非致命武力。 该指令不适用于非武装无人机或像 MQ-9 Reaper 这样的武装无人机，其飞行路径和武器释放由坐在远程位置的人类飞行员控制。它也不适用于像美国向乌克兰提供的Switchblade 游荡弹药这样的系统，这些弹药由人类操作员编程以击中特定目标，并且可以在需要时取消。 “这是第一个关于自主武器系统的国家政策，实际上仍然是唯一公开的国家政策之一，”霍洛维茨说。“它基本上为随后的全球对话设定了标准，并展示了美国对可能将自主性纳入武器系统的负责任态度。” 在 2012 年时任负责政策力量发展的副助理部长戴维·奥赫马内克（David Ochmanek）将这一理论描述为“灵活的”，并强调在任何未来的自主武器之前都会实施“严格的审查程序”可以被批准。 但这一承诺并没有安抚反对者，他们将其与终结者进行了比较，并组织了一些努力，例如同名的“停止杀手机器人运动”，以先发制人地禁止这项技术。霍洛维茨——一位长期的无人机专家，曾撰写过一篇题为“机器人战争的伦理与道德：评估关于自主武器的辩论”的论文——他非常清楚围绕此类系统的辩论，同时避免直接评论这些担忧，他指出近年来，该部门对自主性和人工智能的日益关注一直是人类参与这一过程的想法。 “我想说，美国对人工智能和自主系统的作用的方法之一就是将这些系统想象为增强作战人员的一种方式，”他说。“这就是为什么在几届政府中，美国一直在谈论人机协作之类的事情，因为它倾向于将人工智能和自主系统视为与世界上训练有素的军队协同工作以改善其容量。” 现代化的人工智能 更新的发生不是因为重大技术突破即将到来，而是因为部门标准要求每 10 年更新一次指令。目前，尚不清楚原始指令有多少需要修改，但霍洛维茨似乎淡化了大规模的重写。 霍洛维茨说：“我们进入这个过程的直觉是，指令中的基本方法仍然是合理的，该指令为整合自主和武器系统制定了一种非常负责任的方法。” “但我们当然希望确保该指令仍然反映部门的观点以及部门应该考虑[自主]武器系统的方式，”他继续说道。“你知道，已经十年了。完全有可能会有一些有用的更新和说明。” 霍洛维茨拒绝详细说明他认为可能需要改变的地方，但强调该文件反映了 2012 年五角大楼的情况，该文件在奥巴马、特朗普和拜登政府执政期间发生了变化。例如，原始指令中规定的审查过程提到了负责采购、技术和后勤的副国防部长——这个职位已不复存在，其职责现在由负责采购和维持的国防部副部长，副部长还分担国防研究与工程。 他还强调，该指令将侧重于自主武器的特定主题，而不是整个部门存在的更广泛的人工智能工作。 “当该指令于 2012 年发布时，算法的方式、算法如何影响军队的概念似乎非常具有未来感，或者似乎更遥远。自主武器系统是该部门选择编写指令的特定事物，”他继续说道。“我认为重要的是该部门考虑应该如何影响该指令......鉴于人工智能和自主系统之间的交叉点，我故意说自主系统而不是自主武器系统。 “有很多人工智能应用可以或已经在影响美国军队，并将影响美国军队，你知道，这与此无关。” 虽然霍洛维茨的办公室——最近才成立——将向过去十年中成立的相对较新的国防组织寻求意见，例如首席数字和人工智能官 (CDAO) 办公室，其他可能相对的组织据本周早些时候报道，国防部指令 3000.09 的修订——联合人工智能中心、国防数字服务和推进分析办公室——将于 6 月 1 日成为 CDAO 办公室的一部分。 他还希望从各军种、联合参谋部和其他利益相关者那里获得投入——他指出，现在比十年前要多得多。 |
|
|
