編譯 | 禾木木

出品 | AI科技大本營(yíng)（ID:rgznai100）

Deepfake 是一種 AI換臉工具，現(xiàn)被濫用，從虛假宣傳活動(dòng)到插入一些違法內(nèi)容，并且篡改后的圖像是難以被檢測(cè)到的。

一種新的 AI 工具提供了一項(xiàng)令人驚訝的簡(jiǎn)單方法來(lái)發(fā)現(xiàn)它們：觀察眼睛反射的光。

該系統(tǒng)是由 Buffalo 大學(xué)的計(jì)算機(jī)科學(xué)家創(chuàng)建。在對(duì)肖像風(fēng)格照片的測(cè)試中，該工具在檢測(cè) Deepfake 偽造圖像方面的有效率為 94%。

該系統(tǒng)在通過(guò)分析角膜來(lái)曝光偽造的圖片，角膜具有鏡面般的表面，在光線照射下會(huì)產(chǎn)生反射圖案。

在相機(jī)拍攝的真實(shí)人臉照片中，兩只眼睛的反射會(huì)相似，因?yàn)樗鼈兛吹降氖窍嗤臇|西。但是，由 GAN 合成的 Deepfake 圖像通常無(wú)法準(zhǔn)確捕捉到這種相似之處。

相反，它們經(jīng)常表現(xiàn)出不一致，例如會(huì)有不同的幾何形狀或不匹配的反射位置。

Deepfake 圖像（右）中的角膜有更大的差異，可能是因?yàn)樗鼈兪峭ㄟ^(guò)組合許多照片生成的。

人工智能系統(tǒng)會(huì)通過(guò)繪制人臉，并分析每個(gè)眼球反射的光來(lái)搜索這些差異。

它會(huì)生成一個(gè)分?jǐn)?shù)作為相似性度量。分?jǐn)?shù)越小，這張偽造后的圖片就越有可能是 Deepfake 。

事實(shí)證明，該系統(tǒng)被證明檢測(cè)取自 This Person does not Exist 的 Deepfake 方面非常有效，這是一個(gè)使用 StyleGAN2 架構(gòu)創(chuàng)建的圖像存儲(chǔ)庫(kù)。然而，研究者承認(rèn)它有一些局限性。

該工具最明顯的缺點(diǎn)是它依賴于雙眼的反射光源。這些圖案中的不一致可以通過(guò)后期動(dòng)手處理來(lái)修復(fù)，如果圖像中看不到眼睛的話，則該方法將不起作用。

它也僅僅是對(duì)肖像圖片有效，如果照片中的人臉沒(méi)有看著相機(jī)，系統(tǒng)則可能會(huì)產(chǎn)生誤報(bào)。研究人員計(jì)劃調(diào)查這些問(wèn)題，以提高方法的有效性。以目前的形式來(lái)說(shuō)，它不會(huì)檢測(cè)到最復(fù)雜的 Deepfake ，但它仍然可以發(fā)現(xiàn)許多粗糙的。

參考鏈接：

https://thenextweb.com/news/ai-detects-deepfakes-analyzing-light-reflections-in-the-cornea-eyes-gans-thispersondoesnotexist