最近在温哥华举行的新闻发布会上,加拿大移民部长 Sean Fraser 告诉记者,“近几个月来,通过增加科技的运用、先进分析和简化处理,我们做了几件非常重要的事情。”
Fraser 谈到了那些根据家庭类担保项目等待永久居留的人的临时居留申请。然而,科技和先进分析的日益使用对加拿大移民、难民和公民部(IRCC)处理申请的所有业务线都产生了影响。
在未来几年,加拿大将迎来有史以来人数最多的新移民。2022年,IRCC对所有业务线的申请做出了500多万个最终裁决,是2021年裁决数量的两倍。
IRCC已迅速转向加拿大移民系统的数字化和“现代化”,其中包括增加人工智能(AI)和先进数据分析的使用,以缩短申请处理时间。例如,Fraser 说,这种简化有助于处理 98% 的配偶TRV申请,新申请人的申请现在只需要30天的处理时间。
IRCC 表示,在新技术能力的支持下,数字化系统和服务将更好地满足客户和加拿大的需求。此外,IRCC 表示,通过利用科技,它可以更有效地处理申请,并使工作人员能够更多地关注复杂的申请。
IRCC在处理的某些方面使用了人工智能(执行通常需要人类完成的任务的信息技术),包括:
- 自动确定积极的资格
- 根据申请的特点在工作人员之间分发申请
- 识别可能需要额外核验的申请
- 工作量分布
- 创建“注释”,总结每个客户的基本信息,以减少IRCC的全球案件管理系统中的工作人员搜索
- 对客户电子邮件进行分类,以实现更快的回复,并通过提供公开信息来回应客户的询问
- 评估生物识别信息(biometrics)
IRCC 使用的任何工具中都没有接受或拒绝申请人的算法。候选者不会仅仅根据计算机生成的决定批准或拒绝签证或许可。
本文禁止住转载。任何形式转载请联系作者(时光在路上 www.timezls.com)。时光在路上保留所有权利
有什么顾虑?
许多人担心IRCC使用人工智能会导致偏见,并且普遍缺乏对处理申请时如何做出决策的解释。
例如,财政委员会关于自动决策的指令(一项政府范围的政策指令),称基于历史数据的算法可以放大种族、阶级、性别和其他不平等,算法引用了一些面部识别软件并非适用于所有肤色或性别。
过于依赖人工智能也可能导致决策缺乏清晰度。该指令说,联邦政府必须能够解释行政决策是如何做出的。此外,被剥夺服务或福利的个人有权从政府获得合理和可理解的解释,而不仅仅是表明这是计算机做出的决定。
本文禁止住转载。任何形式转载请联系作者(时光在路上 www.timezls.com)。时光在路上保留所有权利
人们也对使用“Chinook”提出了担忧,IRCC 将其描述为基于 Microsoft Excel 的工具,以简化客户信息的可视化描述。IRCC 官员使用它来评估临时居民签证,学习许可和工作许可申请。IRCC 表示,Chinook 没有利用人工智能(AI)或高级分析进行决策,也没有内置的决策算法。
IRCC 如何开发算法?
针对人们的担忧,加拿大有关部门表示,它遵循《宪章》中的一项指令,以确保平等权利并防止歧视。它遵循透明度、问责制、合法性和程序公平的原则来确定需要如何做出裁决,以及必须向受影响的人提供什么解释。
无论何时提出新的算法,都必须经过算法影响评估(Algorithmic Impact Assessment,AIA)。AIA 是一种强制性的风险评估工具,也是财政委员会关于自动决策的指令的一部分。该工具衡量风险领域、缓解措施以及拟议算法的影响。IRCC 表示,他们是最早使用 AIA 的政府部门之一。
IRCC 还表示,它要求评估算法的影响、数据和算法的质量保证措施,并积极披露算法的使用方式和地点。
本文禁止全文转载。任何形式转载请联系作者(时光在路上 www.timezls.com) Copyright © 2024. All Rights Reserved
IRCC 表示,经验丰富的官员、法律、政策、数据科学、隐私专家和高级决策者会定期审核用于支持(但不是最终确定)决策过程的规则,以确保它们符合《移民和难民保护法》中列出的资格标准。
此外,还制定了定期监测和质量保证措施,以帮助确保这些模型继续按预期运行,并确保能够尽早发现和减少任何不可预见的负面影响。
本文禁止无授权转载 - 时光在路上 www.timezls.com 保留所有权利
Fraser 仍然对IRCC使用技术和先进分析持乐观态度。他说,IRCC在过去几年中采用的技术使该部门能够审视一个人申请中的许多因素,以帮助确定他们有资格获得永久居留权的可能性,并将他们归入更容易获得IRCC官员批准的类别。他表示,这大大提高了生产力。Fraser 继续强调人工智能不会做出任何最终决定。
“归根结底,我们的工作人员仍然决定了是否符合资格。通过这种技术解决方案,任何人都不可能被拒绝。”