據(jù)報(bào)道,來自莫斯科國立大學(xué)和華為莫斯科研究中心的兩位研究人員利用一張貼紙攻破了目前最好的公共Face ID系統(tǒng) ——ArcFace。
攻擊一個(gè) AI 系統(tǒng)不是什么新鮮事,但我們成功地在現(xiàn)實(shí)世界中做到了:只需要打印一張彩色貼紙,然后將其粘貼到帽子上,就能使人臉與真值的相似性顯著下降,甚至這種攻擊方法還可以遷移去攻擊其他頂級(jí)的 Face ID 模型。兩位作者Stepan Komkov和Aleksandr Petiushko公開了demo,并開源了他們的方法。
莫斯科兩位研究人員稱這種對(duì)抗攻擊為 AdvHat,相比其他方法的優(yōu)勢(shì)有:
?利用帽子上的貼紙,對(duì)最先進(jìn)的公共人臉識(shí)別系統(tǒng)進(jìn)行了現(xiàn)實(shí)世界的對(duì)抗性攻擊。
?這種攻擊很容易重現(xiàn),只需打印一張彩色貼紙;
?攻擊可以在不同的光照條件下工作;
?提出了一種新穎的粘貼投影技術(shù),使攻擊過程中的圖像具有真實(shí)感;
?此外,同樣的攻擊還可以轉(zhuǎn)移到其他面部識(shí)別模型。