人工智能与威慑的未来:承诺与陷阱

AI and the Future of Deterrence: Promises and Pitfalls

【作者】 Alex Wilner

查看原文
分享到:
威慑的根源可以追溯到罗马帝国,它有着悠久而辉煌的历史(Wenger和Wilner 2012;Wilner 2015;Wilner和Wenger 2021;Wilner 2022)。今天,当代威慑理论正在迎来学术界的“第五波”,创新、科学和技术在其中发挥着突出作用。这一新兴学术的一小部分探讨了人工智能、机器学习和其他相关技术是否以及如何影响威慑、强迫和胁迫的性质、范围和实践。以下是对人工智能和威慑在未来十年可能如何交叉的推测。,简而言之,威慑包括使用威胁的组合(例如,报复、惩罚、否认、剥夺合法性)来影响对手的行为。这里的目标是说服另一个人放弃特定的行动。反过来说,作为威慑的近亲,强制力会说服另一方采取其可能不会采取的特定行为。更广泛地说,这两个过程都包含在胁迫的总括概念中。在所有情况下,至少有两个参与者参与:一名辩护人传达威胁,希望改变挑战者的行为;反过来,挑战者权衡威胁的代价与行动的假定利益,并决定是否同意辩护人的意见。惩罚或报复的威胁(即通过制裁、谴责或动态攻击和网络攻击)、否认的承诺(即通过防御、恢复力或失败削弱挑战者的假定利益),以及有时其他考虑因素(即剥夺合法性、规范约束或激励),是大多数胁迫性互动的基础。重要的是,尽管更广泛地说,国际关系理论和政治学通常被认为对胁迫理论和实践产生了最大的影响,因为它与地缘政治和州际冲突有关,但心理学和犯罪学等其他几个学科以及恐怖主义和情报研究等其他领域,提供了重要见解,更好地将威慑置于当代不安全的背景下。,有趣的是,人工智能和胁迫本身一样,据说也包含了几波学术浪潮。人工智能的定义仍然存在问题:该领域以不同的技术方法为标志,这些方法试图完成不同的、有时是不同的科学任务(Spector 2006)。一些学者,如Stuart Russell和Peter Norvig(2009)——顺便说一句,前者公开警告说,某些形式的人工智能的发展可能与核武器的发展和扩散一样危险(Russell,引用于Bohannon 2015)——描述了许多人工智能分类法,包括像人类一样思考或行为的系统,比如那些能够模仿人类智慧的人,以及那些在解决问题和采取相应行动时理性思考或行动的人。因此,第一波人工智能帮助训练计算机完成特定任务。这一过程的工作原理是从特定系统中提取特定的事实,例如下棋,并将这些事实转化为计算机可以理解、执行并最终擅长的规则。第二波使用统计学习来训练人工智能在处理和解释数据和信息时使用概率推理。训练数据用于帮助计算机学习和适应新的数据。机器学习、深度学习和神经网络的最新进展嵌入了这一波研究中,例如,语音或面部识别和对象分类的进展是其一些更为人所知的结果。第三波人工智能仍在发展中;我们现在在其中。它是围绕“上下文适应”构建的,这样人工智能系统将自己构建“解释模型”,根据这些模型,他们将在特定和有限的领域内外学习、推理并继续推断。总之,人工智能与威慑一样,不断进化和扩张,反映了创新、科学和工程发现以及技术进步的推动和拉动效应。,那么,把两者放在一起,人工智能在理论和实践中会如何影响威慑?以下是对11个潜在未来结果的总结和推测。1,首先,更好的防御等于更好的否认威慑。通过潜在地提高一些防御武器或系统的速度、准确性和确定性,人工智能可以提高防御物理和网络基础设施的可靠性。正确地传达这些新发现的防御能力,并剥夺侵略者的劳动成果,可以完全阻止他们尝试。,第三,超越动力学,人工智能可以通过改善后勤、导航、通信、协调、招募、培训、部署等,提高一个国家规划和实施进攻性和防御性胁迫性威胁的能力。正如作者在其他地方指出的那样,“协调战争机器的后台人工智能可能会使一些特别复杂的胁迫性威胁”——比如我们今天看到的与俄罗斯正在入侵乌克兰有关的威胁——“更加有力、有说服力和可行”(Wilner和Babb 2020408)。类似的论点集中在使用人工智能将信息转化为对战区和近实时士兵有用的情报上。数据分析和传播的自动化可以为军事人员提供缩短决策过程的手段,为他们提供相对于对手的可利用的胁迫优势。,第四,与此相关的是,通过迅速向决策者提供独特新颖的建议,取代人类的创新、独创性和能力,人工智能可以提供深入预测分析的情境感知。因此,超级战争向我们介绍了“超级胁迫”(同上,409)。如果无处不在的传感器导致实时数据海啸,人工智能可能会提供预测对手下一步行动所需的分析能力,直到最后一刻。这种能力可能会增强防御者的先发制人和威慑能力。,第五,在人工智能增强和放大的信息战领域,合成视频和深度伪造技术可能被用来制造无缝的虚假信息,操纵从公共话语到个人政治决策的一切。强制使用,这些创新可能会被利用,以捏造的非法性威胁目标。想想俄罗斯或中国,除非采取或承诺采取特定的政策立场,否则通过泄露令人尴尬的合成视频,威胁一名竞选连任的西方官员,损害其声誉。

相关资源