|
本报告表达了对“人为控制”概念的更深入理解的呼吁，这是关于自主武器辩论的核心。 人机界面 (HMI) 是确保机器和人类操作员之间通信的硬件和软件组件，被吹捧为人类控制自主武器系统的关键要素。虽然严格来说这是正确的，因为界面允许操作员监控远程系统的状态和行为，并在需要时手动（重新）建立控制，但 HMI 的最佳使用取决于多种因素的复杂组合。这些包括但不限于使用环境、人体工程学/人为因素设计、人员培训、动态环境中决策制定和人机交互的复杂性，以及与基于 AI/ML 的学习系统相关的独特挑战。 本报告分析了自主系统中的 HMI，并探讨了 HMI 使用、测试和设计的关键考虑因素。以此为基础，它考虑了对人为控制的影响，并为小组的工作提出了建议。 目录
人机界面是人类操作人员和自主系统之间的物理联系，是人类控制系统的一系列选项中的一个关键元素。界面结合了硬件和软件，可以包括一系列组件，比如带有按钮的物理控制面板、仪表板和触摸屏。 接口允许操作人员监控一个过程(例如，导航)，修改或配置控制设置，调整参数和命令，或手动覆盖系统的操作。它们还可以显示关键信息，让操作人员了解系统的状态，如果是远程操作系统，还可以了解系统运行的环境。 在致命自主武器系统领域新兴技术政府专家组(法律专家组)审议人类控制自主武器系统(AWS)期间，多次讨论了接口问题。可以理解的是，接口一直被认为很重要，因为它们至少提供了两种关键的方法来保持一定程度的控制:允许操作人员监控系统的行为和操作，并在系统无法正常运行时停用或覆盖它(例如，通过手动控制)。然而，随着系统变得更加自动化，接口也变得更加复杂。 该报告分析了界面在人类控制中所扮演的角色。它介绍了AWS环境下界面设计和使用的几个方面，并强调了随着越来越多的人工智能功能被纳入武器系统的重要趋势。一般来说，一个界面要成为一种有效的控制手段，它必须具有高度的可用性(这意味着它必须以一种能够使用户实现其目标的方式设计和开发)，操作人员必须经过充分的培训才能有效地使用它。随着自主能力的扩大以及AI和ML在武器系统中的使用，这些基本标准的实现变得更加复杂——随着武器系统变得更加复杂，人机交互和界面设计的选择也变得更加复杂，对人类操作人员的培训要求也变得更加复杂。 由于接口不能作为独立的功能进行有意义的讨论，因此该报告将此分析集成到自主和人机交互的更广泛的背景中。武器系统自主带来的挑战交织在界面设计和使用的各个方面，以及人员培训的要求。 |
|
|
