墨爾本大學近日進行了一項社會實驗，在其圖書館門廳角落裝上了一款生物識別鏡（Biometric Mirror），它要求人們加強并使用AI應用程序以及當前的面部分析系統(tǒng)來確定各種個性特征。
據(jù)了解，該系統(tǒng)基于公開可用的眾包個性屬性數(shù)據(jù)集，其中包括數(shù)千張面部照片，隨后由超過30,000名評估多種特征的受訪者評分。除了諸如性別、年齡和種族等更客觀的屬性之外，該系統(tǒng)還被要求檢測一些更抽象的主觀特征，包括攻擊性、怪異性和情緒穩(wěn)定性。
不過，與其他面部識別系統(tǒng)的正面識別作用不同，該生物識別鏡的目的不是開發(fā)揭示對個體能進行客觀，甚至特別準確的分析的面部識別系統(tǒng)，而是突出現(xiàn)代面部識別技術背后的根本缺陷，這種技術通過基于有缺陷的數(shù)據(jù)集可能有問題地放大人類偏見的方式。
墨爾本大學項目的首席研究員Niels Wouters表示，“我們想要提高認識的是，如果這種技術商業(yè)化（我們已經看到類似的應用），那么這會產生嚴重的后果。假設這種技術已經在世界各地實施，那么將引發(fā)更多擔憂。所有這些系統(tǒng)背后的基本問題是盡管算法在技術上可能是準確的，但它們使用的數(shù)據(jù)集幾乎總是有缺陷的?！?/p>
去年，英荷快消巨頭聯(lián)合利華已經在其招聘流程中實施了一個視頻訪談系統(tǒng)，該系統(tǒng)測量面部表情，以評估特定工作的最佳候選人。當時HireVue認為他們，他們所推出的視頻訪談系統(tǒng)實際上可以消除人為偏見。
但Wouters認為他們對著這種技術具有盲目的認同感，這種對技術的錯誤信念是令人擔憂的。
外媒New Atlas記者Rich Haridy在親自測試生物識別鏡后發(fā)現(xiàn)，人工智能似乎100％肯定他是高度攻擊性的，這點非常奇怪，而且非常不負責任。當他第二次不戴眼鏡穿過這個系統(tǒng)時，雖然他的攻擊性和怪異評分仍然很高，但這次微笑讓他的情緒穩(wěn)定評分更高。作為人類驅動的數(shù)據(jù)集如何能夠固有地保持偏見的一個例子，Wouters認為有胡須的男性往往被發(fā)現(xiàn)具有高度攻擊性。
最終，研究人員希望借助生物識別鏡提醒人們，盡管世界各地的面部識別系統(tǒng)實施得非常廣泛，但這種技術仍然處于早期階段，依舊有缺陷存在。
a&s傳媒是全球知名展覽公司法蘭克福展覽集團旗下的專業(yè)媒體平臺，自1994年品牌成立以來，一直專注于安全&自動化產業(yè)前沿產品、技術及市場趨勢的專業(yè)媒體傳播和品牌服務。從安全管理到產業(yè)數(shù)字化，a&s傳媒擁有首屈一指的國際行業(yè)展覽會資源以及豐富的媒體經驗，提供媒體、活動、展會等整合營銷服務。
粵公網安備 44030402000264號
