世界正面临数量空前的复杂移民危机。随着越来越多的人与移民和难民确定系统互动，各国开始涉足人工智能，以自动化人们每天跨境寻找新家时做出的数百万决定。作为一个主要的移民中心，加拿大正在试验使用这些技术。，《门口的机器人：加拿大移民和难民系统自动化决策的人权分析》，多伦多大学国际人权计划（IHRP）和蒙克全球事务与公共政策学院公民实验室于2018年9月发布的一份报告，从人权的角度重点研究了加拿大移民和难民系统自动化决策的影响。该报告由本文作者合著，强调了在这种情况下，使用人工智能来取代或加强行政决策，可能会在一个已经高度自由裁量的系统中创建一个高风险实验的实验室。弱势和资源不足的社区——如非公民——往往无法获得强有力的人权保护，也无法获得捍卫这些权利的资源。以不负责任的方式采用这些技术只会加剧这些差距。，术语“自动化决策系统”指的是一类特定的技术，这些技术可以帮助或取代人类决策者的判断。这些系统来自统计学、语言学和计算机科学等领域，并使用回归、基于规则的系统、预测分析、机器学习、深度学习和神经网络等技术，通常相互结合。自动化决策系统可以用于政府或私营部门的任何数量的不同应用程序，这取决于所讨论的最终“决策”。，在移民和难民领域使用自动化决策的影响是深远的。潜在影响的规模之大非同寻常。每年有数十万人通过各种临时和永久身份申请进入加拿大。许多人来自饱受战争蹂躏的国家，正在寻求免受暴力和迫害的保护。例如，2017年，加拿大移民、难民和公民部以及加拿大边境服务局处理了50000多起难民申请。加拿大预计2018年将接纳31万名新的永久居民，到2020年每年将接纳34万名新永久居民。有关移民和难民事务的决定属于行政法的范畴，行政法是指与政府机构和行政决策者的行动和运作有关的法律领域。这一法律领域直接影响到人们的日常生活，包括从社会援助到移民等问题的决策。特别是，它为法院参与审查政府部长、行政委员会、委员会、法庭或机构的决定提供了框架。不幸的是，这样的决定是出了名的不透明、自由裁量，而且难以挑战。，考虑到很难确定人类官员为什么做出特定决定，值得一问的是，当自动化系统做出决定时，将如何对其进行质疑、调查或质疑。，难民和移民索赔充满了细微差别和复杂性，自动化技术可能会失去这些品质，导致以偏见、歧视、侵犯隐私、正当程序和程序公平问题等形式严重侵犯国际和国内保护的人权。例如，目前尚不清楚在使用自动化决策系统期间，如何维护获得公平公正决策者的权利以及对决定提出上诉的权利。这些权利受到加拿大批准的文书的国际保护，如《联合国难民地位公约》、《经济、社会、文化权利国际公约》和《加拿大权利和自由宪章》。在难民和移民索赔的情况下，自动决策可能会对普通人产生生死攸关的影响，其中许多人正在逃命。，私营部门在开发和推广这些新技术方面也发挥着至关重要的作用，必须认真考虑其维护和保护人权的责任。，旨在支持个人与移民和难民系统对接的私营部门产品可能会产生新的隐私风险。例如，Visabot是一款基于Facebook Messenger的人工智能应用程序，旨在帮助用户申请签证和绿卡，并安排与美国公民和移民服务局的预约。Visabot还推出了一项服务，专门帮助有资格参加DACA（儿童入境延期行动）计划的年轻移民。尽管该计划旨在帮助有风险的移民和潜在移民，但它也带来了重大的隐私和安全权衡——脸书和其他类似公司的商业模式主要依赖于将用户的私人信息聚合、分析和转售给第三方（如广告商）。，私营部门企业有独立责任确保其开发的技术不侵犯国际人权。他们在开发产品和服务时也有明确的法律义务遵守加拿大法律，包括隐私和人权立法。负责构建这项技术的技术人员、开发人员和工程师也有特殊的道德义务，以确保他们的工作不会助长侵犯人权的行为。许多主要的私营部门公司也开始制定行为准则和技术标准，并参与行业联盟和联盟，以更好地应对这些技术带来的挑战。，Bots at the Gate提出了七个详细的建议。例如，加拿大应该建立一个独立的、公平的机构，参与联邦政府使用的所有自动化决策系统的各个方面的监督和审查，公开人工智能的所有当前和未来用途。加拿大还应成立一个工作组，将主要的政府利益攸关方与学术界和民间社会聚集在一起，更好地了解自动化决策系统技术对人权和更广泛的公共利益的当前和未来影响。这是加拿大成为道德人工智能发展和人权领域领导者的独特机会。，移民和难民法是审查国家做法的一个有用视角，特别是在边境管制安全和筛查措施加强、全球移民管理系统复杂、移民刑事定罪日益普遍以及仇外心理日益高涨的情况下。移民法是在国内法和国际法的基础上运作的，并借鉴了国际人权和法治的全球规范。在使用这些技术时，加拿大有明确的国内和国际法律义务尊重和保护人权，政策制定者、政府官员、技术专家、工程师、律师、民间社会和学术界有责任广泛而批判性地审视这些技术对人类生活的真正影响。