思维机器时代的威慑
Deterrence in the Age of Thinking Machines
【作者】 Yuna Huh Wong ; John Yurchak ; Robert W. Button ; Aaron B. Frank ; Burgess Laird ; Osonde A. Osoba ; Randall Steeb ; Benjamin N. Harris ; Sebastian Joon Bae
世界各国军队更多地使用人工智能和自主系统,有可能影响危机和冲突中的威慑战略和升级动态。到目前为止,威慑包括人类试图劝阻其他人类采取特定的行动。当所涉及的思考和决策过程不再是纯粹的人类时,会发生什么?当决策和行动可以在机器速度下进行时,动态会发生怎样的变化?人工智能和自主性会如何影响各国相互发出潜在武力使用信号的方式?误判和意外后果的潜在领域是什么,尤其是不必要的升级
,本探索性报告初步考察了人工智能和自主系统如何影响常规危机和冲突中的威慑和升级。研究结果表明,由于机器决策的速度、它与人类理解的不同方式、许多国家使用自主系统的意愿、我们对自主系统的相对缺乏经验以及这些能力的持续发展,机器决策可能会导致无意中的升级或威慑力的改变。目前的规划和发展工作还没有跟上如何处理与这些新技术相关的潜在破坏稳定或升级问题的步伐,规划者和决策者必须在部署的系统卷入冲突之前开始考虑这些问题
相关资源