根據(jù)美國科技媒體The Intercept和美國國家研究院非盈利調(diào)查基金的最新報告顯示,IBM與紐約市警察局合作開發(fā)了一種AI搜人系統(tǒng),可讓警方可以根據(jù)膚色、發(fā)色、性別、年齡和各種面部特征去搜索相關人員。
根據(jù)報告顯示,該系統(tǒng)利用利用紐約市警察局提供的來自大約50個攝像頭的數(shù)千張照片,IBM的計算機視覺系統(tǒng)從1.6萬個數(shù)據(jù)點去進行學習,識別服裝顏色等身體特征,以及其它可能的威脅因素,例如無人看管的包裹、闖入禁區(qū)的人,以及車輛在車流中的加速行駛。
報道稱,紐約市警察局官員早在2012年就對這款軟件進行了測試。不過,警察局發(fā)言人皮特·唐納德(Peter Donald)回應稱,紐約市警察局已經(jīng)向“民選的領導人和利益相關方”告知了這方面的工作,但沒有公開透露任何細節(jié)。唐納德還證實,紐約市警察局最終決定不部署這個項目,并明確拒絕了一個可以根據(jù)種族進行人員搜索的改進版本。
IBM回應稱:“IBM致力于負責任地推進和使用新技術,并在促進多樣性和包容性方面得到認可。BM向其他公司公開提供100多萬張圖像的注釋數(shù)據(jù)的原因在于:解決面部識別中的最大問題——缺乏多樣化的數(shù)據(jù)去訓練人工智能系統(tǒng)?!?/p>