據(jù)《衛(wèi)報(bào)》報(bào)道,荷蘭法院已下令立即停止使用基于 AI 的自動(dòng)監(jiān)視系統(tǒng)來(lái)檢測(cè)福利欺詐,理由是該系統(tǒng)的使用侵犯了人們的隱私。對(duì)于有爭(zhēng)議法案的一項(xiàng)重要挑戰(zhàn),本次判決引發(fā)了國(guó)內(nèi)外的密切關(guān)注。因?yàn)槭澜绺鞯氐恼谠絹?lái)越多地使用人工智能和風(fēng)險(xiǎn)管理模型,來(lái)應(yīng)對(duì)福利管理和其它核心服務(wù)的挑戰(zhàn)。
Campaigners 報(bào)道稱:這種國(guó)家級(jí)數(shù)字福利政策,通常是在缺乏協(xié)商、且沒(méi)有適當(dāng)監(jiān)督的情況下秘密發(fā)展起來(lái)的。
批評(píng)者稱,該政策等同于對(duì)窮人的監(jiān)視,侵犯了人們的隱私權(quán)利、以及不公正地懲罰了最弱勢(shì)的群體。
英國(guó)下議院工作與養(yǎng)老金選擇委員會(huì)主席 Stephen Timms,亦對(duì)英國(guó)政府正在加速的福利體系中的機(jī)器智能應(yīng)用提出了擔(dān)憂。
他表示:“荷蘭法院的這項(xiàng)裁定表明,我們應(yīng)該更加密切地關(guān)注政府在社會(huì)保障體系中使用技術(shù)來(lái)保護(hù)公民權(quán)利的方式”。
聯(lián)合國(guó)極端貧困與人權(quán)問(wèn)題特別報(bào)告員 Philip Alston 也對(duì)荷蘭法院的這一裁定表示贊賞,稱之是關(guān)注數(shù)字福利系統(tǒng)威脅和侵犯弱勢(shì)群體權(quán)利的人們的一次顯著勝利。