首页 > 海外 > 多伦多 > 正文

人工智能审移民申请 报告指风险高存偏见

核心提示: 根据最新的一份研究报告显示,联邦移民部在审批移民和难民申请时,以人工智能技术取代人手处理,可导致不公平和带有歧视性的审核结果。

《星岛日报》报道,根据最新的一份研究报告显示,联邦移民部在审批移民和难民申请时,以人工智能技术取代人手处理,可导致不公平和带有歧视性的审核结果。

根据多伦多大学(University of Toronto)的一份研究报告显示,移民部以计算机程序代替人作出判断,是一种”高风险的实验”,直接威胁到申请人的人权。

多伦多大学在周三发表该份88页的研究报告指,许多难民和移民申请个案相当复杂,单靠科技不一定能识别出其中的些微差异和复杂性,”计算机判断”可导致带有偏见和歧视的决定,违反国际和国内的保障人权政策。报告又指,许多难民申请人为了逃命而来到加国,这个生死攸关的决定不应由计算机去做。

建议设独立监督机构审查

研究人员咨询了30多位专家的意见,包括计算机专家、技术专家、律师、倡议组织等,以及来自全球各地的学者,他们来自加拿大、美国、香港、韩国、澳洲及巴西。此外,研究人员也向8个不同的政府部门和机构,提交了27份查看资料的申请,但至今尚未收到任何数据或响应。

有份撰写研究报告的穆尔纳(Petra Molnar)表示,利用计算机程序审核申请,不一定代表”中立”和”客观”,因为计算机程序是根据人的指示运作,其功能与橡皮图章无异。

公民实验室(Citizen Lab)的库奥(Cynthia Khoo)指,越来越多机构利用人工智能科技作为决策工具,因为他们假设科技可以纠正人手处理的错漏,但问题是人工智能也是根据人提供的数据和指引。

报告建议,联邦政府建立一个独立的监督机构,审查联邦政府使用的所有自动决策系统,公布政府目前和未来使用的人工智能科技,并建立一个工作组,详细了解这些技术对当前和未来的影响。

相关阅读